Femte juli

Nätet till folket!

Övervakning

I denna kategori samlar vi nyheter som har med övervakning och massövervakning att göra. Det gäller såväl på nätet som i den fysiska världen.

EU vill granska innehållet i dina elektroniska kommunikationer

av

Skall vår digitala korrespondens av-krypteras, öppnas och dess innehåll granskas av maskiner? Frågan avgörs just nu i EU. Och den svenska regeringen får en nyckelroll.

EU-kommissionen vill att medborgarnas e-post och elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas i jakt på olagligt innehåll.

Granskningen skall göras av maskiner och allt misstänkt skall sändas över till en ny EU-institution, kopplad till Europol.

Detta gäller alla dina SMS-meddelanden, chattar, WhatsApp-konversationer, Messenger-meddelanden, IP-samtal med mera. Alla skall med – och om någon e-postleverantör eller meddelande-tjänst vägrar, då kan den komma att förbjudas i EU.

Syftet är att bekämpa sexuellt utnyttjande av barn. Därför har man även föreslagit en 18-årsgräns för användning av elektroniska meddelandetjänster. Man vill även kolla upp vad du har i dina molntjänster.

Även om syftet är vällovligt blir konsekvenserna orimliga. Och syftet kan lätt utökas, som det brukar bli med övervakningslagar. Vilket redan uppmuntras av vissa medlemsstater.

Europakonventionen om de mänskliga rättigheterna och EU:s rättighetsstadga slår fast rätten till privatliv och privat korrespondens. Och mänskliga rättigheter offline skall även gälla online.

Det finns undantag, till exempel för att bekämpa brott. Men då måste det finnas ett specifikt brott, någon misstänkt eller något annat konkret att ta på.

Man får inte övervaka hela folket hela tiden. Det slog EU-domstolen fast i samband med att den upphävde EU:s datalagringsdirektiv.

Vi befinner oss alltså i en situation där en av våra grundläggande mänskliga rättigheter hotas.

Hur hamnade vi här?

Det började med att EU faktiskt fattade ett bra beslut, som gick ut på att stärka medborgarnas rätt till privatliv online.

Snabbt kom dock protester, som gick ut på att detta skulle omöjliggöra den skanning av innehållet i våra elektroniska kommunikationer som redan sker på vissa plattformar och tjänster.

Protesterna leddes av Hollywood-stjärnan Ashton Kutcher och Thorn, en organisation som han startat med sin före detta fru Demi Moore. Thorn äger i sin tur det kommersiella verktyget Safer, som används av nätjättarna för att upptäcka sexuella övergrepp mot barn online.

De har haft samtal med såväl EU-kommissionens ordförande Ursula von der Leyen som ansvarig kommissionär, Ylva Johansson. Samtidigt har kommissionen vägrat träffa företrädare för de organisationer som försvarar den digitala brevhemligheten.

Resultatet blev en tillfällig lag som tillåter frivillig skanning av innehållet i användarnas elektroniska kommunikationer – hos de operatörer som vill.

Detta har kommissionen sedan följt upp med det nu aktuella förslaget – »Chat Control« – som gör sådan skanning obligatorisk. Alla skall med.

Tanken är att ingen skall kunna kommunicera med någon annan utan att innehållet granskas.

Denna granskning kommer att ske med hjälp av algoritmer och maskiner. Erfarenheter från liknande försök pekar på att upp till 90% av allt som flaggas av sådana system är felaktiga flaggningar. (Som ändå kan få förödande konsekvenser för den som drabbas.)

Man kan ifrågasätta om förslaget över huvud taget är effektivt i förhållande till sitt syfte. Den som ägnar sig åt övergrepp mot barn har som regel helt andra kanaler och verktyg än de som omfattas av detta förslag. Och det finns enligt uppgift fler fall att utreda än vad de nationella polismyndigheterna hinner med, redan nu utan obligatorisk Chat Control.

En orimlighet är att förslaget förutsätter att man kringgår den kryptering som skyddar våra kommunikationer. Att bygga in bakdörrar eller på annat sätt försvaga krypteringen kommer att göra oss alla mer sårbara för angrepp från ondsinta aktörer. Sådana svagheter utnyttjas alltid.

Antingen har man solid kryptering eller så har man det inte.

I EU:s ministerråd säger Österrike bestämt nej till Chat Control då den strider mot landets konstitution. Det mesta tyder på att även Tyskland kommer att säga nej. Men det räcker inte för en blockerande minoritet.

Frågan kommer nu att landa hos den svenska regeringen, som är ordförandeland i EU första halvåret 2023.

Därför är det extra viktigt att frågan kommer in i samhällsdebatten här. Media måste uppmärksamma saken. Människorätts- och nätaktivister måste reagera. Politiken måste uppleva att det finns en kritisk opinion.

Annars väntar oss en orwellsk framtid.

EU-kommissionen vill urholka rätten till privatliv och privat kommunikation. Man vill upphäva den digitala brevhemligheten.

Det är på riktigt. En av våra grundläggande mänskliga rättigheter står nu på spel.

Läs mer:
• Chat Control – The End of the Privacy of Digital Correspondence »
• UN Human Rights Commissioner warns against chat control »
• EU avskaffar rätten till privat korrespondens »
• Tyska regeringen splittrad om #ChatControl »
• Tyska Bundestags juridiska experter sågar #ChatControl »
• Österrike säger bestämt nej till #ChatControl / CSAR »
• EU:s medlemsstater splittrade om ChatControl. Vad tycker Sverige? »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »
• ChatControl: Den som är oskyldig har allt att frukta »
• Leak on chat control: EU Commission anticipates millions of false positives »
• Chat Control är en idiotisk och farlig idé »
• Granskning: Lobbykampanjen för #ChatControl »

Apple skrotar planer på övervakning

av

Apple kommer att erbjuda fullt krypterad backup av iCloud.

Företaget skrotar även planerna på att skanna alla bilder på användarnas enheter (client side scanning). Tidigare har den bara pausats.

Detta är rimligen ett bakslag för EU-kommissionen som vill införa granskning av innehållet i alla elektroniska meddelanden och det folk lagrar på molntjänster (#ChatControl / CSAR).

Läs mer:
• EFF: VICTORY! Apple Commits to Encrypting iCloud, Drops Phone-Scanning Plans »
• Wired: Apple Kills Its Plan to Scan Your Photos for CSAM. Here’s What’s Next »

De flesta som drabbas av hemlig övervakning åtalas aldrig

av

2021 gav man 3.926 tillstånd till användning av hemliga tvångsmedel – det vill säga hemlig övervakning. 28 gånger nekades sådant tillstånd (7,1 promille).

Mindre än en tredjedel av dessa ledde till att åtal väcktes. Mer än två tredjedelar av denna övervakning inriktas alltså mot personer som inte åtalas för något brottsligt.

Vilket tyder på en överanvändning av hemliga tvångsmedel. Det känns som om det finns utrymme för att skärpa upp verksamheten.

Men allt politiken erbjuder är mer övervakning.

• Länk: Regeringens rapport om avlyssning hade kunnat vara satir »

EU: Ministerrådet öppnar dörren för AI-stödd massövervakning

av

EU:s ministerråd kan tänka sig AI-stödd massövervakning. Samtidigt säger en majoritet i Europaparlamentet nej.

EU:s ministerråd har enat om en gemensam linje för de kommande förhandlingarna om unionens nya AI Act. Man kan notera att rådet är oroväckande vagt vad gäller användning av artificiell intelligens för massövervakning.

Många medlemsstater är närmast entusiastiska inför möjligheten att använda AI för övervakning och kontroll. Det gäller inte minst AI som stöd för biometrisk massövervakning.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar:

»The position adopted today would enable a dystopian future of biometric mass surveillance in Europe, potentially exposing everybody to constant identification, monitoring their behaviour and analysing their emotions in public spaces. It would justify the permanent and ubiquitious deployment of face surveillance to look for the thousands of ‚victims‘, ‚threats‘ and suspects of ‚serious crime‘ that are wanted at any time. We must not normalise a culture of suspicion and side with authoritarian regimes which use AI for repression of civil society, for social scoring, human rights violations, and total surveillance.«

I sammanhanget är det värt att notera att experiment med till exempel AI-stödd automatiserad ansiktsigenkänning visat sig ha en hög felprocent (falska positiva).

I grunden ligger samma principfråga som för datalagringen. EU:s datalagringsdirektiv upphäves av EU-domstolen för att det strider mot rätten till privatliv. Enkelt uttryckt får övervakning endast inriktas mot personer som misstänks för brott – inte omfatta alla hela tiden, utan skäl.

I Europaparlamentet säger samtidigt en majoritet nej till AI-stödd massövervakning.

EU talar med kluven tunga om digitala rättigheter

av

Gör som vi säger, inte som vi gör – tycks vara budskapet i EU:s nya deklaration om digitala rättigheter. Skulle man leva upp till det man skriver, då skulle flera aktuella lagförslag behöva gå i papperskorgen. Vilket knappast kommer att ske.

EU:s tre institutioner har enats om en deklaration om digitala rättigheter och principer för ett »digitalt årtionde« (European Declaration on Digital Rights and Principles for the Digital Decade). PDF »

Detta är inte lagtext utan mer ett styrdokument. Men även sådana får konsekvenser i verkligheten.

Deklarationen innehåller en del bra saker plus en hel del godhetsignalering. Alla utsatta grupper nämns och miljön får sitt avsnitt.

»The EU way for the digital transformation of our societies and economy encompasses in particular digital sovereignty in an open manner, respect of fundamental rights, rule of law and democracy, inclusion, accessibility, equality, sustainability, resilience, security, improving quality of life, the availability of services and respect of everyone’s rights and aspirations. It should contribute to a dynamic, resource efficient, and fair economy and society in the EU.«

Imponerande. Men låt oss fokusera på kärnfrågorna.

Dokumentet bekänner sig till rätten till privatliv. Dock får man en känsla av att det mer handlar om individens förhållande till Big Data och mindre om relationen till staten.

Det finns tecken på att EU ställer högre krav på andra än på sig själv. Som när man vill att innehållet i alla människors e-post, alla elektroniska meddelanden, alla chattar med mera skall granskas av maskiner. Vilket är att avskaffa den digitala brevhemligheten.

Vilket i sin tur är ett brott mot vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens. Och mänskliga rättigheter offline skall gälla även online.

Samma sak gäller datalagringen. Det blir konstigt när kommissionen och rådet understryker vikten av fundamentala rättigheter – när de samtidigt försöker runda EU-domstolens nej till datalagring, vilket just motiveras med att den strider mot nämnda rättigheter.

Vad gäller yttrandefrihet säger deklarationen:

Everyone has the right to freedom of expression and information, as well as freedom of assembly and of association in the online digital environment.

Även detta klingar en smula falskt, då EU-institutionerna snarare tycks vara intresserade av att begränsa det fria ordet online.

Till exempel genom att ge myndigheter, organisationer och »kollektiva intressen« rollen som statligt godkända nätpoliser – med makt att rekommendera att innehåll skall plockas bort. Utan föregående rättslig prövning. (Trusted Flaggers i EU:s nya Digital Services Act.)

I övrigt innehåller denna deklaration många vackra, men vaga skrivningar. Även om en del saker är bra, så är detta ytterligare en framflyttning av politikens makt över nätet.

Staten får rätt till gränslös inhämtning av data

av

Grönt ljus för konvention som ger myndigheter rätt att kräva ut data från privata företag i andra länder.

Europaparlamentet har nu röstat nej till att rådfråga EU-domstolen innan man fattar beslut om en utökad Cybercrime Convention.

De folkvalda vill alltså inte veta om konventionen är förenlig med fördragen och rättighetsstadgan. Vilket det finns skäl att tro att den inte är.

Konventionen ger myndigheterna i de undertecknande länderna rätt att komma åt data och personuppgifter i andra deltagande länder. Detta för att utreda brottslighet som sker på eller använder sig av internet.

Alla företag (service providers) skall alltså vara skyldiga att lämna ut data och personuppgifter till myndigheter i andra länder. Utan föregående rättslig prövning.

Tydligen är det oklart vilka myndigheter som skall ges denna rätt, ribban för rättssäker tillämpning tycks ha sänkts och myndigheterna i det land från vilket data inhämtas behöver inte informeras förrän i efterhand.

Kritiken går ut på att konventionen aldrig kommer att klara en rättslig prövning i EU-domstolen. Därför bör man be om ett förhandsutlåtande innan man godkänner den. Vilket Europaparlamentet nu valt att inte göra.

• I detta papper som EDRi skrev tidigare i processen kan du läsa mer (PDF) »

Resultat av voteringen i Europaparlamentet.

Låt inte EU avskaffa den digitala brevhemligheten

av

Med risk för att vara tjatig: En orwellsk dystopi där innehållet i alla våra elektroniska kommunikationer granskas av maskiner är på väg att bli verklighet i EU.

För var dag som går utan debatt om eller kritik mot förslaget om #ChatControl / #CSAR – ökar risken för att den digitala brevhemligheten går förlorad.

Några nyckelpunkter:

  • Idag finns regler som låter sociala media och meddelandetjänster frivilligt kontrollera innehållet i sina användares kommunikationer.
  • EU-kommissionen med kommissionär Ylva Johansson i spetsen vill göra detta obligatoriskt.
  • Det skäl som anges är kampen mot sexuellt utnyttjande av barn, men kan med tiden komma att utökas – som det brukar bli med övervakningslagar.
  • Innehållet i dina elektroniska kommunikationer kommer att granskas av maskiner och i förekommande fall automatiskt sändas över till Europol.

Rätten till privatliv och privat korrespondens är en mänsklig rättighet, inskriven i till exempel Europakonventionen om de mänskliga rättigheterna och EU:s rättighetsstadga.

Mänskliga rättigheter offline skall gälla även online.

Undantag från rätten till privat korrespondens kan göras om det finns misstanke om brott.

Sådana undantag kan dock inte vara generella – det vill säga att de inte kan omfatta alla, alltid. Det måste finnas en konkret misstanke och misstänkta att inrikta övervakningen mot.

Där liknande system testats har nio av tio flaggningar visat sig vara felaktiga och drabba oskyldiga.

Vad gäller sexuella övergrepp mot barn ligger det redan outredda ärenden på hög hos medlemsstaternas polismyndigheter. Utred dessa istället för att snoka i vanligt hederligt folks kommunikationer.

FN:s människorättskommissionär säger:

»Moreover, in the general scanning of communications, frequent false positives cannot be avoided, even if accuracy rates are high, thereby implicating numerous innocent individuals. Given the possibility of such impacts, indiscriminate surveillance is likely to have a significant chilling effect on free expression and association, with people limiting the ways they communicate and interact with others and engaging in self-censorship.«

Österrike säger nej, vilket Tyskland också lär göra. Dock räcker det inte för en blockerande minoritet i ministerrådet. Fler länder måste säga nej.

Den svenska regeringens position är än så länge oklar. Samtidigt kommer frågan att landa i det svenska EU-ordförandeskapets knä, första halvåret 2023.

Länkar / relaterat:
• Chat Control – The End of the Privacy of Digital Correspondence »
• UN Human Rights Commissioner warns against chat control »
• EU avskaffar rätten till privat korrespondens »
• Tyska regeringen splittrad om #ChatControl »
• Tyska Bundestags juridiska experter sågar #ChatControl »
• Österrike säger bestämt nej till #ChatControl / CSAR »
• EU:s medlemsstater splittrade om ChatControl. Vad tycker Sverige? »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »
• ChatControl: Den som är oskyldig har allt att frukta »
• Leak on chat control: EU Commission anticipates millions of false positives »
• Chat Control är en idiotisk och farlig idé »
• Granskning: Lobbykampanjen för #ChatControl »

Här är nästa inskränkning av våra rättigheter som media blundar för

av

Media har fått berättigad kritik för att ha struntat i den inskränkning av våra fri- och rättigheter som riksdagen beslutade om i veckan, tills det var för sent. Ändå händer det igen, just nu.

EU-kommissionen vill att vår e-post och alla våra elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas.

Detta är en kränkning av de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat korrespondens. Ändå sägs eller skrivs inte ett ord om detta i svenska media.

Man kan tycka att rätten till privat korrespondens borde ligga i medias intresse. Det handlar om källskydd och möjligheten för whistleblowers att slå larm om oegentligheter. Och om redaktionell integritet.

Genom sin totala tystnad sviker svenska media såväl sitt demokratiska uppdrag som sina journalistiska principer.

Att reagera i sista minuten – när vi ställs inför fullbordat faktum – är en dålig plan. Det visar veckans inskränkning av tryckfriheten tydligt. Problematiska politiska beslut måste belysas och kritiseras tidigt, innan de politiska aktörerna hunnit bestämma sig och låsa sina positioner.

När det gäller EU-kommissionens förslag (#ChatControl/CSAR) tycks flera av regeringspartierna ännu inte ha bestämt sig. Men om frågan förbigås med tystnad, då kan man vara rätt säker på att regeringen kommer att gå på kommissionens linje.

Denna fråga är extra viktig eftersom Sverige kommer att vara ordförandeland i EU första halvåret 2023. Det blir alltså vår regering – och justitieminister Gunnar Strömmer – som får ansvar för att slussa frågan genom ministerrådet.

Österrike säger redan bestämt nej till #ChatControl. I Tyskland är regeringen splittrad, men det lutar åt ett nej. I EU-kommissionens offentliga rådslag säger 88% av de svarande nej till förslaget – och de flesta som är för är ändå emot dess nuvarande utformning.

Frågan håller på att utvecklas till en politisk thriller. Men än så länge väljer svenska media – till skillnad från pressen i många andra EU-länder – att tiga.

Kommer man att reagera innan det åter igen är för sent? Kommer man att bry sig över huvud taget?

Läs mer om #ChatControl/CSAR:
• Chat Control: The EU’s CSEM scanner proposal »
• Nu börjar slaget om #ChatControl (med länksamling) »

Österrike säger bestämt nej till #ChatControl / CSAR

av

Med hänvisning till landets konstitution har parlamentet i Österrike fattat ett bindande beslut om att säga nej till #ChatControl / CSAR.

Detta innebär att den österrikiska regeringen måste säga nej till kommissionens förslag om att av-kryptera, öppna och inspektera innehållet i vår e-post och alla våra elektroniska meddelanden.

Nu väntar vi på att även Tyskland säger nej – i enlighet med dess regerings koalitionsfördrag och Bundestags juridiska experters rekommendation.

Detta räcker dock inte för att blockera förslaget i ministerrådet. Fler länder måste säga nej.

Frågan kommer att hamna på den svenska regeringens bord, när Sverige blir ordförandeland i EU första halvåret 2023.

I sammanhanget är det värt att påminna om att rätten till privatliv och privat korrespondens är en mänsklig rättighet.

Och nu – biometrisk massövervakning

av

Vi närmar oss en punkt där vi inte bara skall kameraövervakas på offentlig plats – utan även identifieras och få vårt beteende analyserat i realtid, av massövervakningens algoritmer.

Artificiell Intelligens (AI) är det senaste EU vill reglera. Något slutligt förslag finns inte ännu, men väl ett läckt arbetsdokument (PDF).

Den nya förordningen täcker väldigt mycket – men tycks göra undantag när det gäller övervakning. Vilket öppnar för en del dystopiska perspektiv.

Idag används AI bland annat för system med biometrisk identifiering. Vilket blivit en stridsfråga.

Sådan kan i sin tur delas upp i flera delar. I sin enklaste form kan det handla om kontroll av till exempel fingeravtryck, ansiktsform eller iris när man passerar EU:s yttre gräns. Eller för att fastställa en persons identitet vid andra tillfällen.

(Ett sådant system användes av de västliga styrkorna i Afghanistan. Tyvärr tycks det ha fallit i talibanernas händer, med potentiellt katastrofala konsekvenser för enskilda.)

Även om man kan tycka att det är rationellt att använda biometriska data för identifiering vid en viss säkerhetspunkt (som en gräns) – så kan systemet även användas för massövervakning. Till exempel genom att identifiera alla som passerar en viss knutpunkt. (Och spara biometrisk data om dem man ej lyckas identifiera.)

Då är man plötsligt inne på att massövervaka människor som inte misstänks för något brott – utan bara för att de rört sig på allmän plats. Vilket inte är OK. Det strider mot människans rätt till privatliv.

Sedan har vi användning av automatiserad ansiktsigenkänning för att identifiera personer på exempelvis en övervakningsfilm från en plats där ett brott de facto begåtts. Vilket är mindre problematiskt.

Dock har det visat sig finnas risker med att endast granska övervakningsvideos med maskiner. I jakt på ett ansikte kan det vara lätt hänt att algoritmen missar andra detaljer och händelser som är relevanta i sammanhanget.

Den tredje delen är automatiserad ansiktsigenkänning i realtid, med livefeed från övervakningskameror. När man sedan identifierat en person kan det kopplas direkt till olika databaser med information om personen i fråga.

EU har under årtionden finansierat utvecklingen av sådana system (gm. INDECT) – trots varningar och protester. Och nu tycks dystopin vara fullbordad.

Som vanligt är det en fråga om hur systemet används. För att till exempel skugga en misstänkt brottsling eller för att avvärja konkret fara kan det kanske vara försvarligt. Men finns det någon som tror att det stannar där?

Det finns även add-ons (vilka också finansierats av EU) som att koppla ljudupptagning med akustisk analys till systemen ovan. Ett annat exempel är automatiserad beteendeanalys för att upptäcka avvikande beteende.

Blotta vetskapen om att man är ständigt observerad, identifierad och att ens handlingar i varje stund analyseras av maskiner kommer att påverka människor och deras psykiska hälsa.

Detta för att inte nämna problemet med falska positiva. Även i ett system med orealistiska 99,9% träffsäkerhet kommer tusentals och åter tusentals människor att flaggas med fel identitet eller för helt oskyldigt avvikande beteende. Vilket kan få allvarliga konsekvenser.

Som vanligt tycks det finnas en övertro på teknisk övervakning, där polisen sitter vid en skärm istället för att patrullera gatorna och ägna sig åt traditionellt polisarbete. Vilket kan komma att straffa sig genom att i slutändan göra oss alla mindre säkra.

• EU governments open the door for biometric mass surveillance in public spaces »