Femte juli

Nätet till folket!

Sökresultat för: datalagring

Kriget mot krypterad kommunikation

av

Europeiska polischefer kräver det omöjliga: Bakdörrar till krypterade meddelanden utan att sätta säker kommunikation på spel.

I veckan gick ett antal europeiska polischefer ut och krävde att myndigheterna får tillgång till totalsträckskrypterad / end-to-end-krypterad (E2EE) kommunikation.

Detta är en dragkamp som pågått i många år. Polisen och de flesta politiker ägnar sig åt ett ständigt krypskytte mot privat kommunikation. Trots att sådan är en grundläggande mänsklig rättighet.

»Var och en har rätt till respekt för sitt privatliv och familjeliv, sin bostad och sina kommunikationer.« Så säger EU:s människorättsstadga, som är en del av Fördragen.

»Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens« instämmer Europakonventionen om skydd för de mänskliga rättigheterna.

Naturligtvis skall man övervaka människor som misstänks för brott. Men inte alla andra, hela tiden. Principen har slagits fast av EU-domstolen.

Krypterad kommunikation är en förutsättning för privat korrespondens och därmed är E2EE en del av denna mänskliga rättighet, säger Europadomstolen.

Polisen kan redan använda sig av spionprogram (hemlig dataavläsning) för att komma åt misstänktas meddelanden på själva telefonen eller datorn – innan de krypterats och efter att de av-krypterats.

E2EE används för säker kommunikation av journalister, dissidenter, visselblåsare, företag, myndigheter och privatpersoner världen över. Konsekvenserna av att undergräva den är närmast oöverskådliga och oacceptabla.

Vad polisen vill är att e-post- och meddelandetjänster skall skapa bakdörrar i den kryptering de använder för sina kunders räkning.

Verkligheten går dock åt ett annat håll. Nu erbjuder även Meta (Messenger, WhatsApp, Instagram) sina användare E2EE. Meddelande-appar som Signal erbjuder redan tidigare säker, krypterad kommunikation.

Vilket fått de europeiska polischeferna att göra sitt uttalande. Graeme Biggar, director general på brittiska National Crime Agency (NCA) säger till BBC:

»Tech companies are putting a lot of the information on end-to-end encryption. We have no problem with encryption; I’ve got a responsibility to try and protect the public from cybercrime, too — so strong encryption is a good thing — but what we need is for the companies to still be able to pass us the information we need to keep the public safe.«

Detta är en självmotsägelse. Antingen har man säker totalsträckskrypterad kommunikation eller så har man det inte.

Öppnar man bakdörrar kommer dessa att läcka och att exploateras av hackare, bedragare och kriminella. Samt av andra aktörer med onda avsikter, till exempel främmande makt som vill spionera på våra myndigheter och företag.

TechCrunch noterar:

»In recent years, the U.K. Home Office has been pushing the notion of “safety tech” that would allow for scanning of E2EE content to detect CSAM without impacting user privacy. However, a 2021 “Safety Tech” challenge it ran, in a bid to deliver proof of concepts for such a technology, produced results so poor that the expert appointed to evaluate the projects, the University of Bristol’s cybersecurity professor Awais Rashid, warned last year that none of the technology developed for the challenge is fit for purpose. “Our evaluation shows that the solutions under consideration will compromise privacy at large and have no built-in safeguards to stop repurposing of such technologies for monitoring any personal communications,” he wrote.«

Naturligtvis finns här en bakomliggande historia, vilket bekräftas av polisens pressmeddelande. »Deklarationen som nu antagits av polischeferna i Europa är en direkt förlängning av det svenska initiativet Going Dark, som Sverige drev under det svenska EU-ordförandeskapet första halvåret 2023.«

Going Dark är ett ljusskyggt projekt som inleddes med att EU-kommissionen tillsatte en »High-Level Expert Group« för att diskutera hur man skall komma åt krypterad kommunikation.

Snabbt ändrades namnet till en »High-Level Group«. För expertgrupper gäller nämligen högre krav på öppenhet och allsidighet, vilket man tyckte var olämpligt i detta fall. Vilka som ingår i gruppen är hemligt.

Men vi har ändå viss information om vad gruppen sysslar med. På sina möten har man bland annat diskuterat client-side-scanning (på din telefon), tillgång till data hos operatörerna, tillgång till data i transit, spionprogram och hur man skall komma runt EU-domstolens förbud mot generell datalagring.

Något sätt att komma åt E2EE kommunikation har de dock inte funnit. Därav de europeiska polischefernas uttalande.

Striden om totalsträckskryptrad kommunikation fortsätter.

Länkar:
• Polisen: Europas polischefer går samman mot grov brottslighet i en digital värld »
• TechCrunch: European police chiefs target E2EE in latest demand for ‘lawful access’ »
• MEP Patrick Breyer (PP, DE): Police chiefs want to halt secure end-to-end encryption to enable chat control bulk scanning of all private messages »

Relaterat:
• Going dark – EU:s krig mot krypterad kommunikation »

Hur mycket övervakning tål den svenska demokratiska rättsstaten?

av

Övervakningsstaten expanderar snabbt mot en punkt där den blir ett demokratiskt problem. Och regeringen ökar takten.

Det går alltid att finna skäl för mer övervakning. Frågan är dock hur omfattande övervakningsstaten kan bli innan våra medborgerliga rättigheter och vår demokratiska rättsstat hotas.

Det är också värt att komma ihåg att övervakning inte bara handlar om gängkriminalitet, terrorism och andra hot mot vårt samhälle. Storebrorsstaten kan – och kommer – även att drabba vanligt, hederligt folk.

Redan innan Tidö-regeringen var användningen av hemliga tvångsmedel omfattande i Sverige. Men de senaste åren har tempot i lagstiftningsarbetet ökat markant. Här är några exempel på beslut som redan fattats eller är på gång:

• Utökad möjlighet att använda hemliga tvångsmedel

Utvidgning av syfte och metod för en redan omfattande polisiär användning av avlyssning och övervakning.

Man utreder även frågan om ökad användning av hemliga tvångsmedel mot barn och unga.

• Preventiva tvångsmedel

Detta är lagstiftning som tillåter övervakning utan konkret misstanke om brott. Vilket i sig är ett brott mot rättsstatens grundläggande principer.

Nyckelordet i sammanhanget är »konkret«. Regeringen kommer undan med att det ändå i någon mening kan finnas en misstanke om pågående eller framtida brottslig verksamhet.

Med detta balanserar man verkligen på gränsen för vad som är acceptabelt med hänvisning till vad de mänskliga rättigheterna har att säga om rätten till privatliv.

Människor som inte misstänks för brott skall inte övervakas.

• Utökade möjligheter att använda preventiva tvångsmedel

Regeringen har just presenterat en utökning av lagen ovan till att även omfatta mindre allvarlig brottslighet. Tröskeln sätts vid brott som kan antas ge minst tre månaders fängelse.

Idag leder endast tre av tio fall av övervakning till åtal. Vilket antyder att problemet mer handlar om övervakningens kvalitet än dess kvantitet. Här är risken uppenbar att fler oskyldiga kommer att drabbas.

• Lagen om hemlig dataavläsning blir permanent

Hemlig dataavläsning handlar om att installera spionprogram i telefoner, datorer m.m. Enheten kan då användas för avlyssning och kontroll av allt som sker och finns på densamma.

Ett allvarligt problem är att användning av sådana spionprogram bygger på säkerhetsbrister i den programvara, de operativsystem och den IT-infrastruktur som vi alla använder.

För att hemlig dataavläsning skall kunna ske måste dessa säkerhetshål lämnas öppna (istället för att rapporteras in och åtgärdas). Detta öppnar även dörren för nätbedragare, hackare, främmande makt med flera. På så sätt blir vi alla mer sårbara online.

Dessutom lider hemlig dataavläsning av problemet att även oskyldiga människor i den övervakades omgivning kommer att drabbas.

• Mer kameraövervakning

Regeringen vill höja målet för antalet bevakningskameror från 1.600 till 2.400. Dessutom vill man göra det enklare för kommuner och regioner att använda kameraövervakning.

Samtidigt utreds ökad användning av biometri, vilket i detta sammanhang innebär automatiserad AI-stödd ansiktsigenkänning i realtid. Detsamma gäller ökad användning av automatisk avläsning av registreringsskyltar och direktåtkomst till trafikkameror.

• Utökad datalagring

En utredning föreslår att lagringen av metadata om alla telefonsamtal, SMS, e-postmeddelanden, uppkopplingar, mobilpositioner m.m. skall utökas till att även omfatta meddelandetjänster online.

Detta gäller även sådana meddelandetjänster som använder totalsträckskryptering (E2EE). Vilket i så fall kräver ett förbud mot end-to-end-encrytion eller spionprogram i apparna eller på telefonen / datorn (som med hemlig dataavläsning ovan).

Här skall påpekas att EU-domstolen redan 2014 upphävde EU:s datalagringsdirektiv med hänvisning till att det strider mot vad de mänskliga rättigheterna har att säga om rätten till privatliv.

Enkelt uttryckt fastslog domstolen principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Trots detta fortsätter datalagringen i Sverige och många andra medlemsstater. Vilket EU-kommissionen inte visat några tecken på att ta tag i.

Och så här fortsätter det…

Existerande övervakning utökas ständigt vad gäller syfte och metod. Och nya former av övervakning tillkommer. Vilket står i konflikt med vad de mänskliga rättigheterna har att säga om rätten till privatliv:

»Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens.«

Syftet med våra grundläggande mänskliga fri- och rättigheter är att skydda individen mot överheten. Därför skall de inte kompromissas bort eller kringgås.

Det finns inga tecken på att någon tänker stanna upp för att skaffa sig en helhetsbild av den svenska övervakningsstaten. Politikerna är inte ens intresserade av att utvärdera om den övervakning vi redan har är ändamålsenlig och fyller sitt syfte.

Därtill kan man lägga andra förslag som inte direkt handlar om övervakning men som ändå är högst problematiska i en demokratisk rättsstat. Till exempel anonyma vittnen.

Allt detta är sådant som kan användas av en framtida auktoritär regim för att kontrollera och förtrycka folket. Flera regeringar i EU har redan blivit påkomna med att ha planterat spionprogram i oppositionens och journalisters telefoner.

Det behövs inte ens ont uppsåt. Det räcker med dumhet, inkompetens, girighet, missriktad välvilja eller en dålig dag på jobbet för att olika övervakningsverktyg skall kunna användas på ett sätt som är förödande för den enskilde.

Naturligtvis krävs krafttag mot kriminella som kränker andras frihet, säkerhet och egendom. Men det måste gå att göra utan att upphäva de principer som är grundpelare för vår demokratiska rättsstat.

Europadomstolen: Totalsträckskryptering är en mänsklig rättighet

av

Europadomstolen försvarar rätten till totalsträckskrypterad kommunikation. Detta sätter käppar i hjulet för det svenska utredningsförslag som vill avskaffa den.

Europadomstolen för de mänskliga rättigheterna (ej att förväxla med EU-domstolen) har nu slagit fast att myndigheterna inte har rätt att kräva ut nätanvändares totalsträckskrypterade (E2EE) kommunikation i läsbar form.

Domstolen slår alltså fast rätten till säker totalsträckskrypterad kommunikation.

Europadomstolen delar även EU-domstolens uppfattning om att datalagring (lagring av metadata om allas telefonsamtal, SMS, e-postmeddelanden, uppkopplingar, mobilpositioner m.m.) strider mot vad de grundläggande mänskliga rättigheterna har att säga om rätten till privatliv och privat kommunikation.

Detta menar domstolen även gäller meddelandetjänster.

Domen är extra intressant för oss i Sverige. Här har en utredning nyligen föreslagit att:
i) datalagringen bör utökas till att även omfatta meddelandetjänster
ii) dessa på begäran skall tvingas lämna ut innehåll i elektronisk kommunikation till myndigheterna i läsbar form.

Båda dessa förslag säger alltså Europadomstolen nej till. Utöver deklarationen om de mänskliga rättigheterna hänvisas till flera principiella uttalanden av Europarådet (till vilket Europadomstolen är kopplad). Europarådet består av fler europeiska länder än EU och är organisationen bakom Europakonventionen om de mänskliga rättigheterna.

Vad gäller den andra punkten menar domstolen helt korrekt att en operatör inte kan bereda sig tillgång till en användares totalsträckskrypterade meddelanden utan att samtidigt undergräva möjligheten till säker E2E-kryptering för alla.

Detaljerna i fallet rör meddelande-appen Telegram. Även om dess default-läge bara är kryptering mellan användare och meddelandeserver kan användare slå på totalsträckskryptering, vilket här är fallet.

Målet är mellan användare och ryska staten. Även om Ryssland lämnat Europarådet strax efter invasionen av Ukraina påbörjades ärendet tidigare och rör perioden då landet fortfarande var med.

Ärendet är av principiell betydelse och domen gäller alla Europarådets medlemsstater. Den är sprängstoff med tanke på att EU just nu försöker finna nya former för datalagring och för att kringgå totalsträckskrypterad kommunikation.

Det skall även bli intressant att se hur detta kommer att påverka utformningen av ny svensk lagstiftning om datalagring. Sådan kommer att bli nödvändig, då den nuvarande svenska lagen (trots att den skrevs om) fortfarande bryter mot den princip som slagits fast av EU-domstolen:

Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Länkar:
• Europadomstolens dom »
• Inlaga i processen från European Information Society Insitute (EISi) »

Relaterat från denna blogg:
• Ny svensk datalagring och bakdörrar till krypterad kommunikation »
• Striden om ett nytt datalagringsdirektiv i EU »
• Going dark – EU:s krig mot krypterad kommunikation »

Övervakningsstatens röda linje

av

Bara för att ny övervakning inte formellt sett strider mot de grundläggande mänskliga rättigheterna innebär det inte att den är oproblematisk, lämplig eller ens ändamålsenlig.

Vill man nå resultat i den politiska debatten bör man sortera sina åsikter och krav för att identifiera en kärna som ens motpart inte kan komma runt. Den sokratiska metoden.

Det kan till exempel handla om grundläggande mänskliga rättigheter i debatten om övervakningsstaten.

Dessa är en röd linje som politikerna offentligt bekänner sig till – och som de har har svårt att gå över utan att förlora ansiktet och sin demokratiska trovärdighet. Vilket irriterar dem.

Låt oss dela in övervakningsfrågorna i tre huvudgrupper.

i) I stort sett acceptabel övervakning i syfte att utreda eller förhindra brott.

ii) Övervakning i syfte att utreda eller förhindra brott där övervakningsverktygen skapar oförutsedda, oönskade och olämpliga konsekvenser för medborgare och samhälle.

iii) Icke acceptabel övervakning som strider mot de grundläggande mänskliga rättigheterna. Till exempel urskiljningslös massövervakning

De flesta övervakningsverktyg hamnar i den andra gruppen. Det gäller till exempel hemlig dataavläsning – där oskyldiga i den övervakades omgivning kan komma att drabbas och där själva verktyget förutsätter försvagad IT-säkerhet vilket gör oss alla mindre säkra online.

Här kan man väga fördelar mot nackdelar. Tyvärr tenderar politiken att bara se ena sidan, vilket kan ha sin förklaring i populism, i en låst agenda eller i okunskap.

Därför är det en central uppgift att granska alla sådana förslag, peka på dess brister och klargöra dess konsekvenser.

Så till den röda linjen, de grundläggande mänskliga rättigheterna. Vilka inte alltid är kristallklara när man väger in dess undantag. Låt oss se till vad Europakonventionen om de mänskliga rättigheterna har att säga om rätten till privatliv.

ARTIKEL 8
Rätt till skydd för privat- och familjeliv
1) Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens.
2) Offentlig myndighet får inte ingripa i denna rättighet annat än med stöd av lag och om det i ett demokratiskt samhälle är nödvändigt med hänsyn till den nationella säkerheten, den allmänna säkerheten eller landets ekonomiska välstånd, till förebyggande av oordning eller brott, till skydd för hälsa eller moral eller till skydd för andra personers fri- och rättigheter.

Som synes är undantagen omfattande och i delar tveksamma. Men det finns ändå vissa gränser.

Bara för att rätten till privatliv får kringgås för att bekämpa brott innebär det inte att det är en brasklapp som tillåter vad som helst. Punkt ett är fortfarande huvudregeln.

När EU-domstolen upphävde EU:s datalagringsdirektiv (lagring av metadata om allas telefonsamtal, SMS, e-postmeddelanden, uppkopplingar och mobilpositioner) var det centrala argumentet att undantaget kräver att det finns ett konkret brott, en misstänkt eller ett hot. Vilket inte förelåg.

Det är alltså inte OK att övervaka alla hela tiden och motivera detta med att uppgifterna kan vara bra att ha för eventuellt framtida bruk.

Enligt domstolen kan övervakning av alla hela tiden endast accepteras under en begränsad tid vid ett samhälleligt nödläge som till exempel krig. (Vilket dock är en princip som flera av EU:s medlemsstater försöker tänja bortom rimlig tolkning, för att motivera övervakning i största allmänhet.)

EU-kommissionens förslag om Chat Control 2 syftade till att göra granskning av innehållet i medborgarnas elektroniska meddelanden obligatorisk.

Där passerades den röda linjen. Då ägnar man sig åt massövervakning utan misstanke om brott.

Intressant nog noterade EU-kommissionen själv i sitt förslag (sid 13) att detta strider mot de grundläggande mänskliga rättigheterna. Men den såg tydligen inget problem med detta.

Vilket däremot Europaparlamentet gjorde – och satte i praktiken stopp för CC2. (Vi vet dock att någon form av Chat Control 3 kommer att läggas fram efter EU-valet, även om dess innehåll än så länge är en öppen fråga.)

Ibland rör sig politiken farligt nära den röda linjen utan att formellt sett gå över den. Ny svensk lagstiftning om övervakning utan konkret misstanke om brott är ett exempel.

Nyckelordet är konkret. Med den formuleringen hamnar man möjligen inom något slags vedertagen tolkning av undantaget för förebyggande av brott. Men det är på håret.

Och det strider fortfarande mot såväl rättstraditioner som det allmänna rättsmedvetandet att övervaka människor som de facto inte är misstänkta för något brottsligt.

Vart vill jag nu komma med allt detta?

i) I viss mån får man acceptera att verkligheten och samhällsklimatet har förändrats och att övervakning för att utreda och förhindra brott är nödvändig. Inom förutbestämda ramar och med tydliga regler som gäller lika för alla.

ii) Men man kan inte svälja vad som helst. Många förslag om övervakning är ogenomtänkta och i vissa fall med farliga och oönskade konsekvenser.

Även förslag som formellt sett inte kränker de grundläggande mänskliga rättigheterna kan vara skadliga för enskilda och för vårt samhälle. Man skall dessutom vara medveten om att politikens intressen inte alltid sammanfaller med medborgarnas.

Brister och risker måste lyftas, belysas och i möjligaste mån bör politikerna avkrävas svar. Det är ett demokratiskt hygienkrav.

Tyvärr är de annars så pratglada politikerna inte pigga på att delta i en sådan diskussion. Man skulle nästan kunna misstänka att de är medvetna om att de gör något dumt.

iii) Den röda linjen går där man formellt kränker de grundläggande mänskliga rättigheterna.

Då måste motståndet lyftas till en ny nivå. Då handlar det om vårt demokratiska samhälle och själva formeln för fredlig, civiliserad mänsklig samexistens.

De grundläggande mänskliga rättigheternas funktion är att skydda individen mot övergrepp från överheten. Om nämnda överhet – det vill säga politikerna – försöker upphäva eller kringgå detta skydd, då är det skarpt läge. Då åker handskarna av.

Justitieminister Strömmer uttryckte nyligen viss irritation över att grundläggande mänskliga rättigheter används som ”något slags trollspö” i övervakningsdebatten.

Jag kan till viss del instämma i Gunnar Strömmers åsikt om att debatten om övervakning och rättsstat ibland blir slapp. Detta är komplex materia som ofta förenklas eller vulgariseras till en punkt där saklig diskussion blir omöjlig.

Men om man de facto går utöver alla formella undantag för skyddet av våra fri- och rättigheter (se ECHR ovan) – då skall de mänskliga rättigheterna vara ett ”trollspö”.

De grundläggande mänskliga rättigheterna är resultatet av årtusenden av idéutveckling, frihetskamp och samhälleligt framåtskridande. De är vad som skiljer oss från autokratier och teokratier. Offrar vi dem har vi förlorat.

Det finns skäl att tro att Gunnar Strömmer är högst medveten om allt detta. Och jag skall erkänna att jag hellre ser honom än någon annan som justitieminister när Tidö-avtalet nu ändå skall göras till lag – även om jag i många fall är oenig med honom i sak.

Någonstans hyser jag en enfaldig förhoppning om att han håller sig på rätt sida den röda linjen. Men just nu är han farligt nära.

Låt säga att vi har en skala där noll är ingen övervakning alls och 100 är total övervakning av alla, överallt, hela tiden. Att vi rör oss uppåt på skalan är uppenbart. Men hur mycket är lämpligt? Vid vilken punkt blir det farligt? Kan vi i vart fall diskutera saken?

Jag återvänder till hösten 2009 i Europaparlamentet: Sverige var ordförandeland i EU och dåvarande justitieminister Beatrice Ask deltog i en utfrågning i utskottet för för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor, LIBE.

Den holländska liberalen Sophie in ’t Veld ställde en intressant fråga till Ask. Hon undrade om man inte i vart fall kunde stanna upp ett ögonblick för att skaffa sig en överblick över all övervakning – och utvärdera om den fyller sitt syfte samt vilka risker och problem den kan medföra.

Asks svar var att sådant hinner vi inte med.

På något sätt känns det som debatten inte kommit längre än så trots att det är 15 år sedan. Samtidigt fortsätter övervakningsstaten att svälla.

Vilket är ett problem.

Nu förlängs Chat Control 1 – i väntan på Chat Control 3

av

Tro inte att striden om Chat Control är över. Ett nytt förslag om vad som skall ersätta Chat Control 1 kommer under nästa EU-mandatperiod.

Med starka argument om grundläggande mänskliga rättigheter lyckades vi stoppa Chat Control 2 i Europaparlamentet.

CC2 skulle göra granskning av medborgarns elektroniska meddelanden obligatorisk och föreskrev även att AI skulle granska allt som skrivs, sägs och sänds för att identifiera olagligt innehåll.

För att operatörer och plattformar frivilligt skall kunna fortsätta granska sina användares meddelanden i jakt på innehåll med sexuella övergrepp mot barn förlängs nu Chat Control 1, som i sin ursprungliga form går ut i sommar.

Egentligen är detta också problematiskt. Brevhemligheten är en grundläggande mänsklig rättighet som även bör gälla online. Och alla offentliga postningar kan plattformarna granska utan att det krävs någon lag alls.

Men nu är det som det är och CC1 är mindre dålig än CC2.

Just nu behandlas frågan i Europaparlamentets LIBE-utskott, där förslaget är att CC1 skall förlängas med ett år. Kommissionen vill ha en förlängning med två år och rådet med tre.

Hur som helst måste vi förbereda oss för Chat Control 3, som kommer att komma när en ny kommission tillträder efter sommarens EU-val.

Vi vet inte hur CC3 kommer att se ut mer än att man kommer att föreslå en fortsatt granskning av innehållet i folks elektroniska meddelanden. En central fråga är om det kommer att bli frivilligt eller obligatoriskt.

Vidare kan man anta att AI-analys av innehållet i våra kommunikationer knappast återkommer i CC3, i vart fall inte i sin tidigare form. Kritiken var för hård. Men vad som helt kan hända.

Den stora striden lär stå om rätten till krypterad kommunikation. Kanske i CC3, kanske i någon annan dossier. Men att frågan blir aktuell under nästa EU-mandatperiod är rätt uppenbart.

Samtidigt kör EU:s medlemsstater egna race för att kringgå krypterad kommunikation. Till exempel föreslår en svensk statlig utredning att meddelandetjänster på begäran skall tvingas överlämna innehåll i användarnas meddelanden till myndigheterna i »läsbar form«.

Uppdatering: Nu har Europaparlamentets LIBE-utskott röstat för ett års förlängning av Chat Control 1.

• European Parliament to extend voluntary chat control with some modifications »
• New chat control gate leak: Intelligence-industrial network suggests undermining encryption for other purposes than CSAM »

Riskerna med automatiserad ansiktsigenkänning

av

EU är på väg att införa kameraövervakning med automatiserad ansiktsigenkänning. Vi listar några av de uppenbara riskerna.

Trots Europaparlamentets motstånd tyder det mesta på att EU:s nya AI Act kommer att öppna för bred kameraövervakning med automatiserad ansiktsigenkänning i brottsbekämpningen.

Även den som anser att ändamålet helgar medlen måste vara medveten om att detta medför allvarliga risker.

Till att börja med utvidgas övervakningslagar i princip alltid till syfte och omfattning. Några egentliga spärrar mot detta saknas i EU:s nya lagstiftning.

Det är också viktigt att komma ihåg att automatiserad ansiktsigenkänning inte bara kommer att drabba kriminella utan alla medborgare och deras rätt till privatliv.

Konventioner och EU:s fördrag slår fast att rätten till privatliv är en grundläggande mänsklig rättighet.

Vanliga hederliga människor har rätt till anonymitet och frihet från övervakning. Med mer allmän användning av automatiserad ansiktsigenkänning gör man ett avsteg från denna princip.

Europa kommer att bli lite mer som Kina, där staten har tekniska möjligheter att kontrollera det mesta folk har för sig i det offentliga rummet.

Orwells 1984 var en varning, inte en instruktionsbok.

Även om dagens svenska politiker är hederliga, rättvisa demokrater som aldrig skulle missbruka sin makt finns det ingen garanti för att det kommer att vara så i morgon.

Är du beredd att ge detta verktyg till din värste politiske motståndare, till de politiska krafter som du anser hotar vår demokratiska rättsstat?

EU är inte bara Sverige. Det är inte svårt att föreställa sig hur ett så här kraftfullt verktyg för övervakning och kontroll kan komma att användas i länder som Ungern. Till exempel för att registrera människor som deltar i politiska möten och demonstrationer.

Den entusiasm som länder som Frankrike visar för den nya tekniken ger också en vink om att ändamålsglidning bara är en tidsfråga.

Sedan har vi den rent praktiska frågan om risken för felaktig identifiering. Att detta är en verklig risk visar erfarenhet från länder som redan prövat automatiserad ansiktsigenkänning.

Dessutom har det visat sig att denna risk är extra stor vad gäller etniska minoriteter. Oskyldiga kommer att drabbas.

En annan praktisk fråga gäller säkerhetsrisker och dataintrång. För att fungera måste ett sådant här system ha stora baser med biometrisk data.

Till att börja med vet vi att risken är stor för att data kommer att läcka. Vilket kan utnyttjas av allt från kriminella till främmande makt. Det finns även en risk för att hackare kan korrumpera sådan data, vilket kan få allvarliga konsekvenser.

Det skulle inte förvåna om EU-domstolen med tiden kommer att upphäva hela eller delar av EU:s nya AI Act enligt samma princip som gäller det ogiltigförklarade datalagringsdirektivet: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Going dark – EU:s krig mot krypterad kommunikation

av

Den svenska regeringen öppnade Pandoras ask. Nu planerar EU kriget mot kryptering och ny datalagring i en hemlig grupp bakom stängda dörrar.

För snart ett år sedan höll EU:s justitie- och inrikesministrar ett informellt möte i det då nytillträdda ordförandelandet Sverige. Efter lunch torsdagen den 26 januari var det dags att ge sig i kast med den svenska regeringens arbetsdokument »Going dark«.

Inledningen beskriver allehanda brottslig verksamhet som är kopplad till nätet och vilka problem detta medför för de rättsvårdande myndigheterna. Speciellt då krypterad kommunikation. Fast med betydande demokratiska brasklappar:

»In the view of the Presidency, it is therefore time to discuss ways and means to uphold the rule of law in the digital era, while preserving security, protecting privacy and fundamental rights, and also increasing European competitiveness. Effective law enforcement, acting in full compliance with democratic values, is a prerequisite for protecting the fundamental rights of our citizens, including the right to the protection of personal data, respect for private and family life, and freedom of expression.


In light of this, the Presidency wishes to initiate a holistic discussion, rooted in fundamental rights and also legal and technical realities, on access to data for law enforcement and judicial purposes. This discussion should seek to reconcile the protection of the right to a private life and personal data with the need for secure online environments and digital services to ensure the protection of victims of crime and keep our citizens and societies safe.«

Vilket faktiskt låter relativt balanserat. Problemet är att när man väl öppnat lådan kommer även de mindre balanserade, de dåliga och de direkt farliga förslagen. Så är det i princip alltid i EU – hur vackert man än uttrycker sig i ruta ett. The cat is out of the bag.

Dokumentet fortsätter att problematisera kring frågan med krypterad kommunikation och uppmanar till diskussion med alla inblandade intressenter. Allt är mycket allmänt hållet.

Det hela landade i att man skulle tillsätta en »High-Level Expert Group«. Därmed hamnade det hela under EU-kommissionen och inrikeskommissionär Ylva Johansson.

Gruppens syfte är att formulera en »strategisk vision för framtiden« och att föreslå hur man kan utöka och förbättra myndigheternas tillgång till data. (I sammanhanget kan nämnas att Europol nyligen fick rätt att bereda sig tillgång till data hos privata aktörer.)

Snabbt ändrades namnet från »High-Level Expert Group« till »High-Level Group«. För expertgrupper gäller nämligen högre krav på öppenhet och allsidighet, vilket man kanske tyckte var olämpligt i detta fall.

Under det svenska ordförandeskapets sista dagar, i juni 2023 höll denna grupp sitt första möte. Någon diskussion med alla inblandade intressenter var det inte längre fråga om. Men den kallar sig fortfarande en »collaborative and inclusive platform« på sin hemsida.

Enligt regelverket kan gruppen bjuda in representanter från en privata sektorn, akademien, NGOer, advokater och dataskyddsexperter vid enstaka tillfällen. Inga sådana finns dock representerade i gruppen.

Efter att detta uppmärksammats har man dock lovat att bjuda in representanter för civilsamhället till ett möte, efter årsskiftet.

Den europeiska dataskyddsmyndigheten EDPS och en representant för Europaparlamentets människorättsutkott LIBE kan – men måste inte – erbjudas observatörsstatus.

Så vilka sitter då i denna högnivågrupp? Svaret är att det får vi inte veta. Det går visserligen att begära ut en deltagarlista – men bara med alla namn maskade.

Här formas framtidens övervakning, bakom stängda dörrar. På sina möten har gruppen bland annat diskuterat client-side-scanning (på din telefon), tillgång till data hos operatörerna, tillgång till data i transit, statstrojaner och hur man skall komma runt EU-domstolens förbud mot generell datalagring.

Detta är inte riktigt den bild den svenska regeringen målade upp i sin skrivelse i januari:

»The Presidency aims to enable and promote such discussions. They should involve all relevant stakeholders, with the objective of identifying and presenting common solutions to better ensure access to data, electronic evidence and information for law enforcement and judicial purposes, while upholding the protection of fundamental rights and the security of electronic communications.«

Man upphör aldrig att förvånas över den svenska naiviteten i EU-sammanhang.

Djuplänkar i texten, huvudlänk här:

• Netzpolitik: Hinter verschlossenen Türen »

Justitieministern balanserar på slak lina

av

Bara för att ny övervakning inte formellt sett strider mot de mänskliga rättigheterna behöver det inte betyda att den är bra eller lämplig.

Gängen, organiserad brottslighet, terrorhot, det säkerhetspolitiska läget och den tekniska utvecklingen driver på marschen in i övervakningsstaten.

Vi har en regering som gick till val på att återupprätta lag och ordning – och som är beroende av ett parti som gjort hårdare tag till en framgångsrik populistisk poäng.

Det politiska ansvaret vilar ytterst hos justitieminister Gunnar Strömmer (M). Han är i sammanhanget en intressant figur.

2002 var Strömmer med och grundade Centrum för rättvisa, som driver enskilda medborgares sak mot staten utan kostnad.

CFR presenterar sig själva som »en ideell och oberoende aktör med uppdrag att värna enskildas grundläggande fri- och rättigheter«. Bland annat har man tagit sitt motstånd mot FRA-lagen ända till Europadomstolen.

Givet denna bakgrund finns det skäl att anta att justitieminister Strömmer idag är mycket väl medveten om att han balanserar på slak lina. Han menar att samhällsutvecklingen har färgat uppdraget och honom själv och att det som nu sker måste ske – men i en rättssäker ordning.

Strömmer vet alltså vad han gör när han i generella termer beskär den demokratiska rättsstatens värden. Vilket känns obehagligt. Frågan är var hans röda linjer går.

Låt oss som exempel titta på den nya lag som ger polisen rätt att övervaka människor utan konkret misstanke om brott.

Nyckelordet i sammanhanget är »konkret«. Utan det hade lagen varit ett solklart brott mot den grundläggande rätten till privatliv. Det måste alltså fortfarande finnas något skäl att anta att brottslig verksamhet förekommer.

Ser man till vad Europakonventionen om de mänskliga rättigheterna har att säga om rätten till privatliv, så finns det omfattande undantag. Till exempel vad gäller att förebygga brott.

Detta är ett exempel på svensk lagstiftning som antagits med brett stöd i riksdagen, som visserligen strider mot rättsstatens och de mänskliga rättigheternas anda – men som stannar precis innan den formella röda linjen passeras.

Detta till skillnad från EU som emellanåt lägger fram förslag som allmän datalagring eller Chat Control 2 som är så svepande att de tydligt går över gränsen. EU-domstolen har därför slagit fast principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Men att den expanderande svenska övervakningsstaten förmodligen stannar precis innan den går över gränsen till vad som formellt kan accepteras av internationella fördrag och i EU-domstolen innebär inte att den är oproblematisk.

Övervakning av en person utan konkret brottsmisstanke medför att massor av andra, helt oskyldiga människor samtidigt kommer att bli övervakade. Skulle övervakningen dessutom ske med hemlig dataavläsning äventyras hela vår IT-säkerhet. Vilket man inte kan bortse ifrån.

Lägg till det den uppenbara risken för ändamålsglidning samt möjligheten att alla övervakningsverktyg kan missbrukas med ont uppsåt, av överdrivet nit eller av inkompetens.

Att justitieministern vet var de formella gränserna går – och till synes håller sig precis inom dem – är en klen tröst när rättsstatens principer och de grundläggande mänskliga rättigheterna samtidigt försvagas och devalveras i ett vidare perspektiv.

Det är uppenbart att vi ständigt får en allt mer omfattande övervakning av medborgarna. Det torde också vara uppenbart att ett samhälle med total övervakning vore oförenligt med en levande demokrati och odrägligt att leva i. Ändå är det i den riktningen vi rör oss.

Så frågan är hur långt vi är beredda att gå. Som det ser ut just nu är våra beslutsfattare inte villiga att ens diskutera den större frågan. Och innan vi vet ordet av kan det vara för sent.

Utredning: Grönt ljus för statliga spionprogram

av

Försöket med hemlig dataavläsning blir permanent, trots klent resultat. Samtidigt lämnar det våra telefoner och datorer öppna för angrepp från kriminella och andra illasinnade aktörer.

På onsdagen presenterades en utredning (SOU 2023:78) om att göra hemlig dataavläsning permanent. (Än så länge har lagen varit tillfällig på grund av att detta är ett nytt verktyg som innebär ett stort intrång i rätten till privatliv.)

Rekommendationen är att hemlig datalagring skall göras permanent och att den i vissa delar även skall utökas.

Hemlig dataavläsning innebär att de brottsbekämpande myndigheterna kan installera spionprogram (”statstrojaner”) på människors telefoner, plattor, datorer, spelkonsoler m.m. i syfte att utreda brott.

Dessa spionprogram kan sedan få tillgång till i princip allt som finns på en telefon. Dessutom ger de möjlighet till realtidsövervakning och loggning.

På så sätt kan till exempel meddelanden som sänds via krypterade meddelandetjänster avläsas redan när de skrivs – innan de krypterats och sänts. Alternativt efter att de tagits emot, av-krypterats och öppnats för att läsas.

Genom att använda telefonens mikrofon och kamera kan man även avlyssna dess ägare. Och alla andra som råkar befinna sig i närheten. Även den som ringer till eller blir uppringd av en telefon med spionprogram blir övervakad.

Till detta kommer att spionprogrammen kan ges tillgång till bilder, filer och allt annat som finns på en telefon eller dator.

Ett uppenbart problem med detta är att det krävs säkerhetsluckor i mjuk- och/eller hårdvaran för att myndigheterna skall kunna installera sina spionprogram i hemlighet.

Vilket innebär att kända säkerhetsbrister lämnas utan åtgärd – för att kunna användas av myndigheterna. Vilket naturligtvis är en väldigt dålig sak. Dessa brister kan då även utnyttjas av nätbedragare, främmande makt och andra illvilliga aktörer.

Utredningen skriver:

»Det kan konstateras att informationssäkerhet har en central plats i samhället. Vikten av en fungerande informationssäkerhet måste därför vägas mot vikten av en effektiv brottsbekämpning. I förarbetena till lagen om hemlig dataavläsning konstaterades att hemlig dataavläsning medför större risker för informationssäkerheten än andra tvångsmedel. En viktig utgångspunkt för våra avvägningar i denna del är att det inte kan accepteras att hemlig dataavläsning leder till minskad informationssäkerhet i någon annan utrustning än den som åtgärden avser.«

Sedan väljer man att strunta i detta. Vilket, försiktigt uttryckt, är anmärkningsvärt.

Nu gör man oss alla mindre säkra och vår IT-infrastruktur mer sårbar. Helt medvetet.

Men detta är inte allt. Utredningen skriver:

»Av de årliga redovisningarna kan konstateras att den kvantitativt uppskattade nyttan av hemlig dataavläsning generellt sett har varit något lägre än för de permanenta hemliga tvångsmedlen.«

Vilket är ett understatement. Hemlig dataavläsning har bara lett till åtal i 20 procent av de fall som domstol har gett tillstånd till. Och då skall man komma ihåg att det i dessa fall som regel även fanns annan bevisning som till exempel vittnen, fysiska bevis och dokumentation.

Dessutom har detta verktyg kommit att användas mer och oftare än man från början angett.

Nu skall systemet med ”statstrojaner” alltså bli permanent. I en något utökad form. Med en förenklad ansöknings- och beslutsprocess.

Risken för att systemet kan missbrukas är uppenbar. Det finns redan exempel på hur regeringarna i Ungern, Polen och Spanien använt denna typ av spionprogram för att spana på sina politiska motståndare.

Och när verktyget väl finns på plats räcker det med ett klubbslag i riksdagen för att syftet och omfattningen skall utökas. Vilket i princip alltid sker när det gäller övervakningslagar.

• Regeringen: Hemlig dataavläsning – utvärdering och permanent lagstiftning »
• Hemlig dataavläsning – utvärdering och permanent lagstiftning, SOU 2023:78 »
• Oisín Cantwell, Aftonbladet: Hemlig dataavläsning är soundtracket till vår tid »