I EU-kommissionens egen text om #ChatControl skriver den – rakt ut – att övervakning är viktigare än mänskliga rättigheter.
Se och lyssna på Youtube eller Soundcloud. Vill du veta mer? Läs då denna och denna bloggpost.
Rättssäkerhet
Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.
AI sågar AI-stödd massövervakning
Vad tycker en AI-chat om massövervakning i allmänhet och AI-stödd massövervakning i synnerhet? Varför bryr sig inte folk om övervakningsstaten och vad kan man göra åt det? Vi frågade ChatGPT, som även fick skriva en dikt om betydelsen av rätten till privatliv.
AI-verktyg som ChatGPT är intressanta, även om man inte ser dem som självständigt tänkande. Enkelt uttryckt styrs de av de texter de tränats på och av de människor som givit systemet feedback. Därför kan de vara intressanta för att sammanställa information från ett större fält, speciellt om de tränats på stora textvolymer.
Dessutom skall man vara medveten om att hur man ställer frågan påverkar svaret.
Så här kommer ett experiment. Vad har ChatGPT att säga om massövervakning och om AI-stödd dito? Med reservation för att våra frågor kan vara en smula ledande.
• Till att börja med gav vi ChatGPT i uppgift att sammanställa fem starka argument mot massövervakning. (Svaren är översatta och förkortade av oss.)
- Massövervakning strider mot rätten till privatliv, som i sin tur är en mänsklig rättighet.
- Massövervakning kan leda till maktmissbruk, utpressning, hot och diskriminering.
- Massövervakning har en avkylande effekt på yttrandefriheten, speciellt om åsikterna i fråga är impopulära eller kontroversiella.
- Massövervakning är ofta ineffektiv. Ofta är riktad övervakning bättre på att bekämpa brottslighet.
- Massövervakning är kostsam. Detta drabbar skattebetalarna och pengarna skulle kunna användas bättre.
• Ge oss nu fem starka skäl för massövervakning.
- Massövervakning kan hindra terrorism och annan brottslighet. Genom att sama in stora mängder data kan myndigheterna identifiera mönster och trender som kan identifiera och förebygga brottslighet.
- Massövervakning kan bidra till stärkt nationell säkerhet.
- Massövervakning kan bidra till att öka allmän säkerhet, till exempel genom att övervaka sociala media och andra kommunikationskanaler i realtid.
- Massövervakning kan användas för att fånga och åtala brottslingar samt förse myndigheterna med bevis som kan användas i domstol.
- Massövervakning kan rättfärdigas i vissa fall som till exempel när det gäller nationell eller allmän säkerhet. I dessa fall måste fördelarna vara större än de negativa konsekvenserna.
• EU:s nya AI Act reglerar AI på många sätt, men gör ett svepande undantag för statens egen användning för övervakning. Så vi frågade vilka riskerna är med AI-stödd massövervakning.
- Det finns en risk för att data och algoritmer blir partiska, beroende på vilken data de tränats på och hur de utvecklats.
- Bristande transparens – vilket leder till att det blir svårt att förstå hur de fattar beslut och att hålla någon ansvarig. Detta gör det även svårare att identifiera och hantera problem och fel i systemen.
- Missbruk och maktövergrepp. Till exempel kan myndigheter frestas att fokusera på grupper eller individer baserat på deras politiska uppfattning eller andra särskiljande drag.
- Förlorat privatliv, då AI stödd massövervakning kan analysera och tolka data på ett mer avancerat sätt än vad människor förmår. Detta kan leda till profilering och spårning av folks aktiviteter på ett aldrig tidigare skådat sätt.
- Lagliga och etiska problem – till exempel vad gäller balansen mellan säkerhet och privatliv.
• Intressant. Låt oss nu fråga varför människor inte tycks intressera sig för eller oroas över massövervakningen.
- Bristande medvetenhet om vad som sker, vilket i sin tur leder till att folk får svårt att förstå massövervakningens konsekvenser.
- Bristande förståelse även bland dem som är medvetna om massövervakningen, vilket gör att de inte förstår frågans allvar.
- Frikoppling från konsekvenser. Människor som inte känner sig personligt påverkade förstår inte vilken skada som kan uppkomma.
- Tro på auktoriteter. Många litar på att myndigheterna kommer att använda systemen på ett ansvarsfullt sätt och ser därför inte riskerna.
- Apati. Många bryr sig inte, har andra prioriteringar eller tror att de ändå inte kan göra något åt situationen.
• Hur får man då folk intresserade av kampen mot massövervakningen?
- Utbilda allmänheten.
- Understryk de negativa personliga konsekvenserna.
- Använd exempel och anekdoter.
- Betona de kollektiva konsekvenserna som minskat förtroende för myndigheterna, underminerad demokrati och maktmissbruk.
- Engagera er i media och använd sociala media.
• Finns det då några bättre alternativ till massövervakning?
- Riktad spaning mot grupper och personer som är misstänkta för brottslig verksamhet istället för mot hela befolkningen.
- Underrättelse-styrd spaning som inkluderar såväl traditionellt polisarbete som moderna metoder (som data-analys) – syftande till att förhindra brott innan de begås.
- Stärkt lagskydd för privatliv, ökad transparens och ansvarsutkrävande, främjande av kryptering och annan teknik som stärker rätten till privatliv (och privat korrespondens).
Visst, som man frågar får man svar. Men det är ändå rätt imponerande. Om inte annat som sökmotor för att samla information och argument om ett visst ämne. Med reservation för vilken information den tränats på, hur det skett och vem som styrt processen.
Det kan bli intressant om vi så småningom får AI-sytem baserad på större informationsmängder, kanske rent av hela internet. Tro inte annat än att Google jobbar på den saken.
Vad gäller poesi finns dock en del övrigt att önska vad gäller litterär verkshöjd – även om det inte går att invända mot innehållet i sak.
• ”Write an original poem about privacy.”
Privacy, a right
So often taken for granted
But oh so vital
In this age of technology
Where screens and cameras reign supreme
Privacy is threatened
But without it, we lose
A piece of ourselves, a sanctuary
In which to be alone
So let us fight for it
This right to be unseen, unknown
Privacy must be protected
När AI-stödd Crime Prediction slår fel
Här är ett lästips: My sons were profiled by a racist predictive policing system — the AI Act must prohibit these systems »
Historien kommer från Nederländerna och det är en mor som berättar hur hennes söner hamnat på en lista över potentiella brottslingar – genom att myndigheterna samlar in stora mängder information från skolan och andra sammanhang. Information som ibland pekar helt fel.
Speciellt kafka-artat blir det när en av de faktorer som vägs in är kontakter med polisen – och att dessa kontakter (ID-kontroller etc.) är konsekvensen av att objektet finns på listan i fråga.
På så sätt blir systemet självförstärkande även om det är inne på helt fel spår.
Resultatet blir hembesök av polisen, opåkallad arrestering och annan kränkande behandling som knappast stärker den utsattes känsla av samhörighet med samhället i övrigt.
Detta är inte första gången holländska datasystem utpekar oskyldiga människor som brottsliga.
Bryr sig politiker om mänskliga rättigheter?
Under de 15 år som jag sysslat med internet- och övervakningsfrågor har jag gång på gång stött på påståendet att man måste ”balansera” mänskliga rättigheter mot ditt eller datt.
Varje sådan kompromiss leder med nödvändighet till att våra fri- och rättigheter gröps ur och försvagas.
Det stämmer visserligen att de mänskliga rättigheterna inte är absoluta. Det finns undantag, till exempel för att bekämpa brott. Det vill säga när någon kränkt någon annans säkerhet eller egendom. Eller när nationell säkerhet och allmän ordning står på spel. Så det finns redan gott om undantag.
Ändå fortsätter politikens krypskytte mot de grundläggande rättigheterna som sådana och dess underliggande värden.
Ibland har politiken fått backa. Som när EU 2009 var på väg att stänga av fildelare från internet. Det stoppades med hänvisning till en av rättsstatens grundläggande principer: Inget straff utan föregående rättslig prövning.
Just nu står striden kring frågan om vår e-post och alla våra elektroniska meddelanden skall av-krypteras, öppnas och dess innehåll granskas (av maskiner som sänder misstänkta kommunikationer vidare till en ny institution, kopplad till Europol).
Vilket – som vi regelbundet påpekar – bryter vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens. Och mänskliga rättigheter offline skall gälla även online.
Undantaget för att bekämpa brott är inte tillämpligt eftersom det i så fall måste handla om ett specifikt brott, en konkret misstanke, en misstänkt eller liknande. Man får inte övervaka alla hela tiden. Det har EU-domstolen redan slagit fast vad gäller datalagringen.
Men politikerna bryr sig inte. Till exempel kommer den senaste svenska lagen om datalagring inte runt EU-domstolens principiella invändning. Enda skälet till att den fortfarande finns på plats är att den inte prövats i unionens domstol.
Som vi också brukar påpeka är våra mänskliga rättigheter individens yttersta skydd mot övergrepp från staten. Och staten styrs av politikerna. Det vill säga samma människor som steg för steg urholkar nämnda mänskliga rättigheter. Detta är ett principiellt problem.
Skälet till att de mänskliga rättigheterna är konventionsskyddade är att de inte skall kunna kringgås eller ändras.
EU-kommissionen förväntas vara fördragens väktare. I dessa fördrag ingår EU:s rättighetsstadga. Ändå är det ofta kommissionen som föreslår inskränkningar av våra rättigheter. Sedan blir dessa förslag som regel värre under behandlingen i ministerrådet och Europaparlamentet.
I Sverige ligger ansvaret hos regering och riksdag. Dessa institutioner tävlar snarast om att hitta på nya inskränkningar av medborgarnas fri- och rättigheter. Detta trots att de konventioner som våra rättigheter vilar på har samma ställning som våra grundlagar.
Enkelt uttryckt struntar politiker – på alla nivåer – ofta i de mänskliga rättigheterna.
Situationen blir ännu värre då dessa frågor är i medieskugga, aldrig diskuteras i valrörelser och därför aldrig heller backas upp med något demokratiskt mandat. Utvecklingen är att allt fler av våra mänskliga rättigheter gröps ur, utan att folket får en chans att påverka situationen.
De flesta vet inte ens vad som sker. De flesta bryr sig inte. Och skulle någon ändå vara intresserad är EU:s politiska beslutsprocess inte i närheten av så transparent som man skulle önska. Svensken i allmänhet är totalt ovetande om de förslag som formas i Bryssel.
Det bristande intresset från media gör dessutom att inget ansvarsutkrävande sker – trots att i princip alla övervakningslagar med tiden drabbas av ändamålsglidning. Detta borde vara öppet mål för vilken journalist som helst.
Allt politiken lovade under FRA-striden har den frångått och verksamheten är idag mer omfattande än vi kritiker varnade för. Datalagringen skulle bara användas för att bekämpa synnerligen allvarliga brott, men kom att brukas för allt från att jaga fildelare till att låta skattemyndigheten snoka i folks privatliv. Vi har fått uppladdningsfilter som leder till automatiserad censur och vars användningsområde ständigt växer. Och nu vill man alltså granska innehållet i alla människors alla elektroniska kommunikationer.
Om inget ändras kommer det att bli som vanligt: Ingen reagerar förrän vi ställs inför fullbordat faktum. Och då är det redan för sent.
När verktygen väl finns på plats – då har vi inga garantier för att dessa kommer att användas återhållsamt och på ett omdömesgillt sätt. Alla övervakningslagar drabbas om inte annat av ändamålsglidning.
Ursäkta om jag tjatar, men detta är viktigt.
De flesta som drabbas av hemlig övervakning åtalas aldrig
2021 gav man 3.926 tillstånd till användning av hemliga tvångsmedel – det vill säga hemlig övervakning. 28 gånger nekades sådant tillstånd (7,1 promille).
Mindre än en tredjedel av dessa ledde till att åtal väcktes. Mer än två tredjedelar av denna övervakning inriktas alltså mot personer som inte åtalas för något brottsligt.
Vilket tyder på en överanvändning av hemliga tvångsmedel. Det känns som om det finns utrymme för att skärpa upp verksamheten.
Men allt politiken erbjuder är mer övervakning.
• Länk: Regeringens rapport om avlyssning hade kunnat vara satir »
Håller nätaktivismen på att tappa greppet?
Ett skäl till att vi som vill ha ett fritt och öppet internet allt oftare förlorar striden kan bero på att många av oss har tappat fokus och ägnar sig åt annat än kärnuppdraget.
Varje dag går vi igenom ett omfattande internationellt flöde för att vaska fram information som är av betydelse för oss nätanvändare och våra rättigheter. I detta flöde kan man märka en oroväckande trend.
Det är förvisso många organisationer som gör ett utmärkt jobb och som har resurser att gå på djupet med olika lagförslag, inte minst sådant som kommer från EU. Men det finns ett problem.
Allt fler organisationer och nätverk på vårt område lägger allt mer tid och resurser på annat. Det kan handla om till exempel identitetspolitik, kolonialism, klimat, åsikter om ekonomiska system och flyktingfrågor.
Naturligtvis får alla driva de frågor de själva vill. Intentionen är säkert god. Men problemet är att många ofta glider allt längre från sitt kärnuppdrag – ett fritt och öppet internet.
Dels innebär detta att det opinionsbildande arbetet ”späds ut” genom att energi satsas på annat. Dels innebär det att andra, som inte delar dessa organisationers vurm för vad som är politiskt trendigt tappar intresset.
Förr, när vi sysslade med saker som EU:s telekompaket och att stoppa ACTA-avtalet fanns en bred politisk uppslutning, från höger till vänster. Vilket gav opinionsbildningen i nätfrågorna stor bredd och kraft.
På den tiden vann vi ofta striden. Men sedan har det gått utför. På senare år har vi förlorat viktiga strider som EU:s upphovsrättsdirektiv (uppladdningsfilter och länkskatt).
Vad gäller upphovsrättsdirektivet förlorade vi dessutom med minsta möjliga marginal. (En handfull felröster i Europaparlamentet avgjorde frågan.) Man kan kanske bara spekulera, men det är troligt att det hade räckt med att mobilisera och fokusera lite, lite till för att frågan skulle fått en annan utgång.
Saker och ting är som de är. Många dras med i den politiska polariseringen och breddar sitt program. Men det får konsekvenser. Jag saknar den tid när nätaktivismen sträckte sig över hela det politiska spektrat – vilket satte press på politiska beslutsfattare i alla partier.
För oss på 5 juli-stiftelsen är vårt mandat tydligt. Vi står på nätanvändarnas sida – genom att försvara de grundläggande mänskliga rättigheterna online. Speciellt vad gäller yttrandefrihet och rätten till privatliv. Och vi kämpar för att rättsstatens principer även skall gälla i nätfrågorna.
Less is more.
Staten får rätt till gränslös inhämtning av data
Grönt ljus för konvention som ger myndigheter rätt att kräva ut data från privata företag i andra länder.
Europaparlamentet har nu röstat nej till att rådfråga EU-domstolen innan man fattar beslut om en utökad Cybercrime Convention.
De folkvalda vill alltså inte veta om konventionen är förenlig med fördragen och rättighetsstadgan. Vilket det finns skäl att tro att den inte är.
Konventionen ger myndigheterna i de undertecknande länderna rätt att komma åt data och personuppgifter i andra deltagande länder. Detta för att utreda brottslighet som sker på eller använder sig av internet.
Alla företag (service providers) skall alltså vara skyldiga att lämna ut data och personuppgifter till myndigheter i andra länder. Utan föregående rättslig prövning.
Tydligen är det oklart vilka myndigheter som skall ges denna rätt, ribban för rättssäker tillämpning tycks ha sänkts och myndigheterna i det land från vilket data inhämtas behöver inte informeras förrän i efterhand.
Kritiken går ut på att konventionen aldrig kommer att klara en rättslig prövning i EU-domstolen. Därför bör man be om ett förhandsutlåtande innan man godkänner den. Vilket Europaparlamentet nu valt att inte göra.
• I detta papper som EDRi skrev tidigare i processen kan du läsa mer (PDF) »
EU-kommissionär: Det skall inte gå att snacka skit på Twitter
EU:s kommissionär för den inre marknaden om Twitter ”People will no longer be able to say rubbish.”
Elon Musks köp av Twitter väcker reaktioner bland EU:s beslutsfattare. Kommissionären för den inre marknaden, Thierry Breton, säger följande till franska media enligt Bloomberg:
»He is in the process of reducing a certain number of moderators, but he will have to increase them in Europe.« (…) »He will have to open his algorithms. We will have control, we will have access, people will no longer be able to say rubbish.«
Att EU:s nya Digital Services Act sätter upp regler mot olagligt innehåll är känt. Men ”people will no longer be able to say rubbish”? Det känns som ett förvirrat och oroväckande uttalande.
Vi vet sedan tidigare att EU gärna vill stoppa ”skadligt men ej olagligt” innehåll. Frågan är dock hur staten skall kunna inskränka yttrandefriheten annat än genom lag.
Sedan Musk köpte Twitter har bland andra satir-siten Babylon Bee, psykologen Jordan B Peterson och ex-president Trump återfått kontrollen över sina konton. I Trumps fall efter en omröstning bland Twitters användare. Enligt uppgift är han dock inte intresserad av att komma tillbaka.
Utredning föreslår övervakning i förebyggande syfte
Idag presenterades ett delbetänkande av utredningen om preventiva tvångsmedel. Enkelt uttryckt handlar det om förebyggande övervakning av personer som kan antas begå vissa brott, men innan det finns konkret misstanke om något specifikt brott.
Idag tog justitieminister Strömmer (M) emot ett delbetänkande av utredningen om utökade möjligheter att använda preventiva tvångsmedel (SOU 2022:52). Utredningen är tillsatt av den förra regeringen.
Huvudpunkter:
- Man överväger möjligheterna att använda tvångsmedel utanför en förundersökning, så kallade preventiva tvångsmedel, för att förhindra allvarlig brottslighet inom kriminella nätverk.
- Tvångsmedelsanvändningen ska syfta till att förhindra viss särskilt allvarlig brottslig verksamhet och åtgärderna ska vara av synnerlig vikt för detta ändamål.
- Tvångsmedel ska endast få användas om det finns en påtaglig risk för att brottslig verksamhet av visst slag kommer att utövas inom en organisation eller grupp.
- Tvångsmedelsanvändningen får endast riktas mot en person som tillhör eller verkar för organisationen eller gruppen och kan befaras medvetet främja den brottsliga verksamheten.
- Det utökade tillämpningsområdet ska endast omfatta den slags allvarlig brottslighet som har en tydlig koppling till kriminella nätverk.
- Endast brott där behovet och den förväntade nyttan överväger integritetsintrånget ska ingå i brottskatalogen.
- Det är fråga om mord, människorov, sprängningsbrott, grova vapen- och narkotikabrott samt olovlig hantering av explosiva varor.
- Det kan handla om hemlig övervakning, hemlig avlyssning, hemlig kameraövervakning, postkontroll och hemlig dataavläsning.
- I nästa steg skall utredningen överväga om ytterligare tvångsmedel och verkställighetsåtgärder, till exempel hemlig rumsavlyssning, genomsökning på distans och biometrisk autentisering, skall få användas preventivt.
- Beslut skall fattas av domstol efter begäran från åklagare. Vid behandling skall det finnas ett allmänt ombud, som förväntas värna integritetsfrågorna. Verksamheten skall granskas av Säkerhet- och integritetsskyddsnämnden (SIN).
- Lagen skall gälla fem år och sedan utvärderas.
- Lagändringarna föreslås träda i kraft 1 januari 2024.
- SÄPO har likande regler för sitt område, genom Preventivlagen.
Detta delbetänkande får ses som ett direkt svar på den förändrade typen av brottslighet i Sverige. Och vid första påseende verkar den hålla sig inom de undantag för rätten till privatliv som till exempel finns i Europakonventionen om de mänskliga rättigheterna.
Men det finns risker.
Lagstiftning om övervakning drabbas i princip alltid av ändamålsglidning. Med tiden brukar såväl syfte som metoder utökas. Därför är varje framflyttning av övervakningsstatens positioner riskabel, även om den till att börja med sker med begränsat syfte, snäva regler och med garantier om rättsstatens principer.
FRA-lagen och datalagringen kan nämnas som varnande exempel på brutna löften på övervakningsområdet.
Man flaggar som sagt redan för förslag om ytterligare tvångsmedel och verkställighetsåtgärder i utredningens slutbetänkande.
Dessutom är det i praktiken omöjligt att förhindra att lagar av detta slag missbrukas, om ont uppsåt finns eller om någon handlar av oförstånd.
Införandet av preventiva tvångsmedel var en central punkt i regeringens och SD:s Tidö-avtal. Men detta är ändå lite av ett slag i luften politiskt sett, eftersom utredningen redan var tillsatt och nu levererar ungefär det som alla förväntat sig.
Vad som kan bli särskilt intressant är dels om regeringen kommer med tilläggsdirektiv och dels om utredningen kommer med fler förslag i sitt slutbetänkande.
Du följer hur frågan utvecklas, här på bloggen.
Länkar:
• Regeringen: Utredning föreslår utökade möjligheter till preventiv tvångsmedelsanvändning för att hindra gängkriminalitet »
• SOU 2022:52: Utökade möjligheter att använda preventiva tvångsmedel »
• Presentationsbilder från presskonferensen (PDF) »
Video: Regeringen, rättssäkerheten och våra rättigheter
Vi uttrycker en from förhoppning om att vår nye justitieminister, Gunnar Strömmer (M), kommer att värna den demokratiska rättsstaten och våra fri- och rättigheter.