• Hoppa till huvudnavigering
  • Hoppa till huvudinnehåll
  • Hoppa till det primära sidofältet

Femte juli Nätet till folket!

Nätet till folket!

  • Om oss

AI Act

AI sågar AI-stödd massövervakning

3 januari 2023 av Henrik Alexandersson Lämna en kommentar

Vad tycker en AI-chat om massövervakning i allmänhet och AI-stödd massövervakning i synnerhet? Varför bryr sig inte folk om övervakningsstaten och vad kan man göra åt det? Vi frågade ChatGPT, som även fick skriva en dikt om betydelsen av rätten till privatliv.

AI-verktyg som ChatGPT är intressanta, även om man inte ser dem som självständigt tänkande. Enkelt uttryckt styrs de av de texter de tränats på och av de människor som givit systemet feedback. Därför kan de vara intressanta för att sammanställa information från ett större fält, speciellt om de tränats på stora textvolymer.

Dessutom skall man vara medveten om att hur man ställer frågan påverkar svaret.

Så här kommer ett experiment. Vad har ChatGPT att säga om massövervakning och om AI-stödd dito? Med reservation för att våra frågor kan vara en smula ledande.

• Till att börja med gav vi ChatGPT i uppgift att sammanställa fem starka argument mot massövervakning. (Svaren är översatta och förkortade av oss.)

  1. Massövervakning strider mot rätten till privatliv, som i sin tur är en mänsklig rättighet.
  2. Massövervakning kan leda till maktmissbruk, utpressning, hot och diskriminering.
  3. Massövervakning har en avkylande effekt på yttrandefriheten, speciellt om åsikterna i fråga är impopulära eller kontroversiella.
  4. Massövervakning är ofta ineffektiv. Ofta är riktad övervakning bättre på att bekämpa brottslighet.
  5. Massövervakning är kostsam. Detta drabbar skattebetalarna och pengarna skulle kunna användas bättre.

• Ge oss nu fem starka skäl för massövervakning.

  1. Massövervakning kan hindra terrorism och annan brottslighet. Genom att sama in stora mängder data kan myndigheterna identifiera mönster och trender som kan identifiera och förebygga brottslighet.
  2. Massövervakning kan bidra till stärkt nationell säkerhet.
  3. Massövervakning kan bidra till att öka allmän säkerhet, till exempel genom att övervaka sociala media och andra kommunikationskanaler i realtid.
  4. Massövervakning kan användas för att fånga och åtala brottslingar samt förse myndigheterna med bevis som kan användas i domstol.
  5. Massövervakning kan rättfärdigas i vissa fall som till exempel när det gäller nationell eller allmän säkerhet. I dessa fall måste fördelarna vara större än de negativa konsekvenserna.

• EU:s nya AI Act reglerar AI på många sätt, men gör ett svepande undantag för statens egen användning för övervakning. Så vi frågade vilka riskerna är med AI-stödd massövervakning.

  1. Det finns en risk för att data och algoritmer blir partiska, beroende på vilken data de tränats på och hur de utvecklats.
  2. Bristande transparens – vilket leder till att det blir svårt att förstå hur de fattar beslut och att hålla någon ansvarig. Detta gör det även svårare att identifiera och hantera problem och fel i systemen.
  3. Missbruk och maktövergrepp. Till exempel kan myndigheter frestas att fokusera på grupper eller individer baserat på deras politiska uppfattning eller andra särskiljande drag.
  4. Förlorat privatliv, då AI stödd massövervakning kan analysera och tolka data på ett mer avancerat sätt än vad människor förmår. Detta kan leda till profilering och spårning av folks aktiviteter på ett aldrig tidigare skådat sätt.
  5. Lagliga och etiska problem – till exempel vad gäller balansen mellan säkerhet och privatliv.

• Intressant. Låt oss nu fråga varför människor inte tycks intressera sig för eller oroas över massövervakningen.

  1. Bristande medvetenhet om vad som sker, vilket i sin tur leder till att folk får svårt att förstå massövervakningens konsekvenser.
  2. Bristande förståelse även bland dem som är medvetna om massövervakningen, vilket gör att de inte förstår frågans allvar.
  3. Frikoppling från konsekvenser. Människor som inte känner sig personligt påverkade förstår inte vilken skada som kan uppkomma.
  4. Tro på auktoriteter. Många litar på att myndigheterna kommer att använda systemen på ett ansvarsfullt sätt och ser därför inte riskerna.
  5. Apati. Många bryr sig inte, har andra prioriteringar eller tror att de ändå inte kan göra något åt situationen.

• Hur får man då folk intresserade av kampen mot massövervakningen?

  1. Utbilda allmänheten.
  2. Understryk de negativa personliga konsekvenserna.
  3. Använd exempel och anekdoter.
  4. Betona de kollektiva konsekvenserna som minskat förtroende för myndigheterna, underminerad demokrati och maktmissbruk.
  5. Engagera er i media och använd sociala media.

• Finns det då några bättre alternativ till massövervakning?

  1. Riktad spaning mot grupper och personer som är misstänkta för brottslig verksamhet istället för mot hela befolkningen.
  2. Underrättelse-styrd spaning som inkluderar såväl traditionellt polisarbete som moderna metoder (som data-analys) – syftande till att förhindra brott innan de begås.
  3. Stärkt lagskydd för privatliv, ökad transparens och ansvarsutkrävande, främjande av kryptering och annan teknik som stärker rätten till privatliv (och privat korrespondens).

Visst, som man frågar får man svar. Men det är ändå rätt imponerande. Om inte annat som sökmotor för att samla information och argument om ett visst ämne. Med reservation för vilken information den tränats på, hur det skett och vem som styrt processen.

Det kan bli intressant om vi så småningom får AI-sytem baserad på större informationsmängder, kanske rent av hela internet. Tro inte annat än att Google jobbar på den saken.

Vad gäller poesi finns dock en del övrigt att önska vad gäller litterär verkshöjd – även om det inte går att invända mot innehållet i sak.

• ”Write an original poem about privacy.”

Privacy, a right
So often taken for granted
But oh so vital

In this age of technology
Where screens and cameras reign supreme
Privacy is threatened

But without it, we lose
A piece of ourselves, a sanctuary
In which to be alone

So let us fight for it
This right to be unseen, unknown
Privacy must be protected

Arkiverad under: Nätkultur, Övervakning, Privatliv, Rättssäkerhet, Spaning, Storebror Taggad som: AI, AI Act, ChatGPT

EU: Ministerrådet öppnar dörren för AI-stödd massövervakning

7 december 2022 av Henrik Alexandersson Lämna en kommentar

EU:s ministerråd kan tänka sig AI-stödd massövervakning. Samtidigt säger en majoritet i Europaparlamentet nej.

EU:s ministerråd har enat om en gemensam linje för de kommande förhandlingarna om unionens nya AI Act. Man kan notera att rådet är oroväckande vagt vad gäller användning av artificiell intelligens för massövervakning.

Många medlemsstater är närmast entusiastiska inför möjligheten att använda AI för övervakning och kontroll. Det gäller inte minst AI som stöd för biometrisk massövervakning.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar:

»The position adopted today would enable a dystopian future of biometric mass surveillance in Europe, potentially exposing everybody to constant identification, monitoring their behaviour and analysing their emotions in public spaces. It would justify the permanent and ubiquitious deployment of face surveillance to look for the thousands of ‚victims‘, ‚threats‘ and suspects of ‚serious crime‘ that are wanted at any time. We must not normalise a culture of suspicion and side with authoritarian regimes which use AI for repression of civil society, for social scoring, human rights violations, and total surveillance.«

I sammanhanget är det värt att notera att experiment med till exempel AI-stödd automatiserad ansiktsigenkänning visat sig ha en hög felprocent (falska positiva).

I grunden ligger samma principfråga som för datalagringen. EU:s datalagringsdirektiv upphäves av EU-domstolen för att det strider mot rätten till privatliv. Enkelt uttryckt får övervakning endast inriktas mot personer som misstänks för brott – inte omfatta alla hela tiden, utan skäl.

I Europaparlamentet säger samtidigt en majoritet nej till AI-stödd massövervakning.

Arkiverad under: EU, Övervakning, Privatliv, Storebror Taggad som: AI Act, EU:s ministerråd

Faran med dåliga AI-system i statens tjänst

13 april 2022 av Henrik Alexandersson 1 kommentar

Myndigheters användning av AI för kontroll av medborgarna har redan fått förfärande konsekvenser. Nu vill EU:s franska ordförandeskap utöka användningen.

I Nederländerna använde skattemyndigheten en dålig självlärande algoritm för att komma till rätta med bidragsfusk bland barnfamiljer. Resultatet blev katastrofalt.

Tiotusentals oskyldiga familjer drabbades av stora återbetalningskrav, som ödelade deras ekonomier. Människor begick självmord. Tusentals barn togs ifrån sina familjer.

Nu har skattemyndigheten dömts till 3,7 miljoner euro i böter. Regeringen tvingades avgå. Och tiotusentals människor har fått sina liv ödelagda.

Det kan hända igen – Frankrike driver på.

Detta kan vara bra att känna till när EU nu är på väg att sjösätta sin AI Act. Hittills har man varit försiktig vad gäller att använda AI för brottsbekämpning, just på grund av att det ibland kan gå fruktansvärt fel.

Nu flaggar det franska EU-ordförandeskapet för en kursändring som leder till ökad användning av AI bland de rättsvårdande myndigheterna. Speciellt gäller detta polisens användning av biometrisk data.

Vilket i sin tur ligger helt i linje med EU:s långsiktiga ekonomiska stöd till system som samkör bland annat kameraövervakning med ansiktsigenkänning i realtid, övrig biometrisk data, AI-baserad beteendeanalys samt myndigheternas existerande och nya register. Redan för tio år sedan varnades för konsekvenserna av detta.

Inget datasystem är bättre än hur det utformas. Och självlärande AI-system tycks tendera att förvärra ogenomtänkt input över tid.

Som vanligt är det den som är oskyldig som har mest att frukta.

Länkar:
• Dutch scandal serves as a warning for Europe over risks of using algorithms »
• EU: AI Act: Plans to loosen controls on law enforcement use of artificial intelligence »

• Civil society calls on the EU to ban predictive AI systems in policing and criminal justice in the AI Act »

Arkiverad under: Dataskydd, EU, Länktips, Övervakning, Rättssäkerhet, Storebror Taggad som: AI, AI Act, Frankrike, Indect

Primärt sidofält

Nätfrihet och integritet!

Femte juli är en nätpolitisk nyhetssajt som står på internetanvändarnas sida. Läs mer.

  • Twitter: Femtejuli
  • Youtube
  • Soundcloud: 5july
  • RSS-flöde

Aktuellt från Twitter

Retweet on Twitter Femte juli Retweeted
ep_sciencetech STOA Panel @ep_sciencetech ·
11h

Pegasus affair: the end of privacy and cybersecurity?

#STOAevent
@IvoHristovMEP @EP_PegaInquiry @enisa_eu @ChloBemy @edri @W_Wiewiorowski @EU_EDPS @Ibangarciadb @bpreneel1 @infofannny @10GarciaHiguera

https://wp.me/p2qdgs-fkY

Retweet on Twitter Femte juli Retweeted
hrhellman Peter Hellman @hrhellman ·
27 mar

”Vad Ylva Johansson vill göra är att kontrollera innehållet i alla meddelanden vi sänder till varandra. Hon är medveten om att detta strider mot de mänskliga rättigheterna […] Och när systemet väl är på plats finns det inget som hindrar att dess syfte eller omfattning utökas.” https://twitter.com/piratpartiet/status/1640245293978464256

Retweet on Twitter Femte juli Retweeted
statewatcheu Statewatch @statewatcheu ·
28 mar

EU: Member states ponder blanket police surveillance of ferry, rail and bus passengers

Legislation is incoming to step up surveillance of air travel, and the possibility of extending the scheme to ferry journeys has been raised in the Council.

Retweet on Twitter Femte juli Retweeted
echo_pbreyer Patrick Breyer #JoinMastodon @echo_pbreyer ·
14h

🇬🇧Security researchers warn that the Messenger interoperability that we #Pirates secured in the #DMA could worsen the situation for users if poorly implemented. https://arxiv.org/pdf/2303.14178.pdf
@PiratKolaja fights for a secure implementation when breaking up the Whatsapp lock-in!

Retweet on Twitter Femte juli Retweeted
statewatcheu Statewatch @statewatcheu ·
13h

The EU's home affairs chief wants to read your private messages

@edri @ellajakubowska1
CSA Regulation may undermine trust in processes like sending work emails, communicating with doctors, and even governments protecting intelligence.
https://www.euronews.com/2023/03/28/the-eus-home-affairs-chief-wants-to-read-your-private-messages

Prenumerera på inlägg


Loading

Senaste inlägg

  • Allt du behöver veta om #ChatControl – resurser, analyser och länkar29 mars 2023
  • Chat Control – står Ylva Johansson för sitt eget förslag?27 mars 2023
  • Chat Control – Ylva Johansson talar i nattmössan23 mars 2023
  • I SvD: Var står svenska partier i frågan om Chat Control?21 mars 2023
  • Total tystnad från politiken om inskränkta mänskliga rättigheter20 mars 2023

Senaste kommentar

  1. Allt du behöver veta om #ChatControl – resurser, analyser och länkar om #ChatControl / CSA Regulation – enkelt förklarad29 mars 2023

    […] TL;DR:• ChatControl / CSA Regulation – enkelt förklarad » […]

CC BY 4.0 · Logga in

  • Soundcloud
  • Youtube
  • Twitter
  • RSS