Femte juli

Nätet till folket!

ansiktsigenkänning

Uppladdningsfilter, datalagring, statligt godkända nätgranskare, av-kryptering och granskning av meddelanden och e-post på höstens politiska dagordning

av

Sommarlovet är över och det är dags att se över vilka nät-, yttrandefrihets- och övervakningsfrågor som finns på den politiska dagordningen i höst.

Sverige

  • Redan i somras skulle EU:s nya upphovsrättsdirektiv ha varit svensk lag. Någon remiss eller proposition har dock inte synts till. Delvis kan det bero på att EU-kommissionen dragit benen efter sig i den kontroversiella frågan om uppladdningsfilter. En annan sak att hålla ögonen på är hur direktivets absurda länkskatt är tänkt att implementeras i svensk lag.
  • Efter att EU-domstolen meddelat att den svenska lagen om datalagring måste skrivas om har regeringen tillsatt en utredning. Visserligen skall utredningen presenteras först våren 2023, men det är viktigt att hålla frågan levande – och då inte minst det faktum att den svenska datalagringen fortfarande kolliderar med domstolens nej till svepande lagring av data om alla medborgares alla tele- och datakommunikationer utan misstanke om brott.

EU

  • EU:s nya Digital Services Act (DSA) föreslår så kallade Trusted Flaggers – som är tänkta att vara organisationer som är statligt godkända nätgranskare, med direktlinje till sociala medias abuse-avdelningar.
  • Det finns krafter i både Europaparlamentet och ministerrådet som vill att DSA också skall innehålla allmänna uppladdningsfilter.
  • EU:s ministerråd vill i ett inspel kopplat till DSA att inte bara olagligt material skall plockas bort på nätet. Man vill även att icke olagligt hat och hot skall bort, vilket i så fall innebär att yttrandefrihetens gränser inte längre sätts av lag.
  • Under hösten väntas dom i EU-domstolen, där Polen överklagat artikel 17 i det nya upphovsrättsdirektivet, som kommer att leda till automatiska uppladdningsfilter. Domstolens generaladvokat ger (med vissa förbehåll) grönt ljus till artikel 17, men det händer emellanåt att domstolen går på en annan linje än dennes rekommendationer.
  • ChatControl 2.0 är uppföljningen till beslutet att ge meddelande- och e-post-tjänster möjlighet att av-kryptera och granska användarnas kommunikationer i jakt på sexuellt utnyttjande av barn. Under vintern kommer nästa steg, som förvänts göra detta obligatoriskt.
  • Kopplat till detta har EU presenterat ett diskussionspapper där man överväger att använda den metod som Apple valt (i vart fall i USA) för att komma åt bilder och sexuella övergrepp på barn. Det vill säga att kringgå kryptering genom att med något slags spionprogram granska bilder och meddelanden redan på användarens telefon. Vilket är ett av flera olika förslag man skissar på.
  • EU-kommissionen och ministerrådet överväger hur de skall kunna komma runt EU-domstolens nej till urskiljningslös datalagring utan misstanke om brott.
  • EU-kommissionen har föreslagit European Digital Identity Wallets, som är tänkta att användas för ID, pass, licenser, körkort, kollektivtrafikkort, sjukvårdsinformation, recept, inloggning på nätplttformar, betalningmedel med mera. Vilket kan öppna för ett omfattande övervakningssamhälle i vilket vi får blippa oss fram.
  • Europaparlamentets utskott för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) har sagt nej till till AI och biometrisk analys för massövervakning. Delar av minsterrådet och då speciellt Frankrike vill gå åt andra hållet och använda dessa verktyg.
  • I EU-kommissionens Code of Practice on Disinformation vill man att nätplattformarna i högre utsträckning skall av-monetarisera oönskat innehåll.
  • EU-kommissionen vill förbjuda anonyma betalningar med kryptovalutor och kontantbetalningar på över 10.000 euro.
  • Det pågår en diskussion (framförallt i ministerrådet) om att utöka registreringen av våra flygresor (PNR) till att även gälla tågresor, båtresor, bilhyra och hotellövernattningar.

Detta är bara ett urval av sådant som är på gång i svensk och europeisk politik under hösten. Det händer också att nya frågor dyker upp väldigt plötsligt.

Vi bevakar dessa och fler frågor. Du följer utvecklingen här på bloggen.

Kameraövervakningen revisited

av

Förr i tiden var övervakningskameror den stora integritetsfrågan. Då var kamerorna ändå rätt dumma. De sände en signal till någon som tittade på en monitor. Eller så bandade man bara, ifall det skulle hända något, för att kunna titta i efterhand. Vilket nu plötsligt framstår som relativt oskyldigt.

Nu för tiden kan kameraövervakning – om man vill – kompletteras med automatisk ansiktsigenkänning och följa enskilda personer i realtid. Ditt ansikte skannas av kameror lite varstans på stan. Sedan kan myndigheterna skaffa sig en god bild av hur du rört dig och var du befunnit dig. (Skatteverket måste älska det här.)

För de myndigheter som till äventyrs vill registrera vilka personer som deltar i ett politiskt möte eller en demonstration är detta ett fantastiskt verktyg. Se till exempel hur tekniken används av Kina i Hong Kong.

Du behöver inte vara en person of interest för att bli aktivt övervakad. De nya systemen använder AI för att identifiera och rent av förutse problem. De analyserar allas beteende, flocken. Algoritmer studerar våra rörelsemönster, vårt humör och våra små egenheter. Gör du något som bryter mot mönstret noteras det. Ditt beteende matas in i matrisen.

EU har finansierat sådana här projekt i årtionden. Trots visst motstånd i Europaparlamentet. INDECT var mest på tapeten när jag jobbade där.

Än så länge är automatiserad ansiktsigenkänning allt för kontroversiellt i de flesta europeiska länder. Men tekniken finns där. Den är betald av EU:s skattebetalare. Och Frankrike, vars ledare är positiva till automatisk ansiktsigenkänning, ser sig som ett föregångsland.

Det är rätt tydligt vart vi är på väg om vi inte sätter stopp för det här. Men det är inte helt tydligt var gränsen mellan vad som är acceptabelt och massövervakning går.

För vad det är värt snubblade jag över en internationell studie från år 2019 om hur effektiv video/kameraövervakning egentligen är. Några slutsatser:

  • Kameraövervakning har ingen effekt mot våldsbrott. Däremot minskar den droghandel och egendomsbrott.
  • Kameraövervakning minkar brottsligheten på parkeringsplatser och i kollektivtrafiken, men inte lika mycket i bostadsområden och inte alls i stadskärnor och bostadshus.
  • Vill man stoppa brottslighet räcker det inte med att banda det som sker, utan det kräver även en aktivt bevakat live-feed och direkt respons.
  • Det räcker inte med bara kameraövervakning. För att bli effektiv behöver den kompletteras med allt från bättre gatubelysning till säkerhetsvakter.
  • Enligt erfarenheter från Sverige, USA och Kanada minskar kameraövervakning inte antalet brott – vilket däremot är fallet i Sydkorea och Storbritannien.

De flesta svenskar är positiva till mer kameraövervakning. Men då kan det vara värt att komma ihåg att den inte är någon universallösning – och att det mest är en tidsfråga innan den blir en del av den automatiserade massövervakning som inte gör någon skillnad mellan att hålla ett öga på kriminella och att övervaka vanliga, hederliga människor som bara sköter sitt.

EP/LIBE: Nej till AI och biometrisk analys för massövervakning

av

I Europaparlamentet har utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) antagit en rapport om AI och biometrisk massövervakning. MEP Patrick Breyer (PP, DE) skriver på sin blogg:

»Today, the Committee on Civil Liberties, Justice and Home Affairs (LIBE) adopted a report on the use of artificial intelligence by police and judiciary by 36 votes to 24 with 6 abstentions. The successful compromise text calls, among other things, on the Commission „to implement, through legislative and non-legislative means, and if necessary infringement proceedings, a ban on any processing of biometric data, including facial images, for law enforcement purposes that leads to mass surveillance in publicly accessible spaces” (paragraph 15b). MEPs also call on the Commission to stop funding biometric research that is likely to lead to indiscriminate mass surveillance in public spaces.«

Detta innebär att AI-baserad teknik för analys av biometrisk data (som till exempel automatiserad ansiktsigenkänning) inte får användas för massövervakning. Däremot får den användas för att söka specifika mål, till exempel från övervakningsfilmer från en brottsplats. Man håller således fast vid principen om att det skall finnas en misstanke eller ett konkret brott innan man får använda dessa verktyg.

Breyer kommenterar:

»This report is a milestone in the fight against biometric mass surveillance in Europe, because for the first time a majority in the European Parliament wants to put an end to this total form of surveillance. Biometric and mass surveillance and behavioral prediction technology in our public spaces undermines our freedoms and threatens our open society.«

Detta är en rapport, inte lagstiftning. Och det återstår att se hur Europaparlamentet kommer att rösta i plenum.

Problemen med automatiserad ansiktsigenkänning

av

Man måste hålla isär saker och ting när man talar om automatiserad ansiktsigenkänning.

Det kan handla om verktyg som i efterhand går igenom till exempel övervakningsfilm kopplad till en brottsplats för att utreda om vissa personer befunnit sig där. Detta är i stort sett oproblematiskt, då det handlar om att automatisera något som annars hade utförts ändå, fast av människor. (Även om datorerna inte kan göra samma breda analys av en bild och dess allmänna kontext som en människa, vilket kan leda till att annat som är av intressant i en utredning missas.)

Sedan har vi poliser som på eget bevåg använder Clearview-appen för att identifiera folk med hjälp av aggregerad information från sociala media m.m. Vilket inte är och inte bör vara tillåtet. Skall ansiktsigenkänning alls användas, då skall det ske under ordnade och rättssäkra former med myndighetens egna verktyg.

Vi har också företag som använder ansiktsigenkänning för att kunna identifiera sina kunder och därmed förbättra kundupplevelsen. Och Big Data som vill kunna kartlägga oss och våra vanor, i utbyte mot användbara gratis tjänster som mail, online-dokument, lagring, kommunikation och sociala plattformar. Vilket delvis är en annan och större fråga.

Sedan har vi kameraövervakning i realtid kopplad till automatiserad ansiktsigenkänning. Det vill säga att man inte nödvändigtvis söker efter någon speciell person – utan är mer intresserade av om någon av intresse skulle dyka upp i folkströmmarna. Sådan övervakning kan även användas för att punktbevaka en enskild individ, om det finns tillräckligt mycket kameror (som i t.ex.London). Detta är problematiskt.

För det första innebär det att man övervakar hederliga medborgare, som inte är misstänkta för något brott. Att behandla alla som potentiella brottslingar och att urskiljningslöst övervaka alla som råkar befinna sig på allmän plats hör inte hemma i en demokratisk rättsstat.

Det handlar även om att fritt kunna röra sig i det samhälle man lever i, utan att ständigt behöva känna sig övervakad.

Sedan är detta ett verktyg som lätt kan användas av staten för att förtrycka sin befolkning, kartlägga oppositionella och förfölja oliktänkande. Det behöver inte handla om ondska. Det kan lika gärna vara fråga om överdriven ambition, missriktad välvilja eller inkompetens.

Medborgarrättsaktivister har framfört kritik mot denna utveckling under lång tid. EU har i årtionden finansierat utvecklingsprojekt som INDECT – vars mål har varit just kameraövervakning med automatiserad ansiktsigenkänning i realtid, kopplad till beteendeanalys och myndigheternas olika register. Och nu befinner vi oss vid den punkt där dessa system är klara att rullas ut.

Reclaim your face har en lista över hur automatiserad ansiktsigenkänning används på olika, problematiska sätt runt om i Europa. Där kan man även skriva under ett Europeiskt Medborgarinitiativ som kräver att EU reglerar användningen på ett sätt som respekterar individens rätt till privatliv.

Automatiserad ansiktsigenkänning – nu i Sverige

av

Polisen har fått klartecken för ett nytt verktyg som automatiskt analyserar video och bilder – bland annat med hjälp av automatiserad ansiktsigenkänning. Vilket väcker en del frågor och farhågor.

Låt oss börja med att se vad detta inte är. Det handlar inte om att automatiskt övervaka allmän plats och att få flaggningar så fort någon person av intresse dyker upp i bild. Polisen ville testa ett sådant system på Skavsta flygplats – men där sa Datainspektionen nej.

Vad det däremot handlar om är automatisk genomsökning av video och bilder i jakt på något specifikt, på en bestämd plats vid en bestämd tidpunkt. Detta omfattar även automatisk ansiktsigenkänning.

I detta fall är det alltså fråga om material som ändå skulle ha gåtts igenom, fast av fysiska poliser. På så sätt kan det rent av handla om att färre personer tittar på de övervakningsfilmer där du eller någon annan oskyldig förekommer. En automatisering och en eventuell effektivisering, med andra ord. Men det är ändå inte problemfritt.

Dels vet vi att automatiserade system ger ett stort antal »falska positiva« flaggningar, ibland i en sådan omfattning att det underliggande materialet blir svårare att hantera.

Dels är det oklart hur mycket biometrisk data som kommer att användas och från vilka källor. Om det handlar om misstänkta i det specifika fallet är det en sak. Om det handlar om bredare data, där biometrisk data för en bredare allmänhet (t.ex. från passregistret) används, då är det mer problematiskt.

Här finns också en viktig metodfråga. Om en människa, med förhoppningsvis gott omdöme och god analytisk förmåga, tittar igenom t.ex. en övervakningsfilm – då kan information som är viktig för en utredning framkomma, som inte framkommer om man bara söker på ett visst ansikte, ett visst signalement eller en viss sak. Det kan handla om en person som inte ingår i utredningen, men vars närvaro ändå är av intresse. Eller om ett visst händelseförlopp före eller efter det man söker. Risken är att automatiserad analys missar sådant som den inte uttryckligen är tillsagd att söka efter.

Slutligen kan det system som nu fått klartecken användas för att utveckla automatiserad ansiktsigenkänning på allmän plats. Även om Datainspektionen i dagsläget säger nej till sådan, så lär sista ordet inte vara sagt. Om inte svenska polisen kommer att kunna tjata sig till ett sådant verktyg, så kan det komma från EU.

Länkar från SR:
• Polisen får klartecken för ansiktsigenkänning »
• ”Rör sig om känsliga uppgifter” (ljudinslag) »

När övervakning blir rasistisk

av

»Ett vanligt beteende kan i en övervakad situation bli uppseendeväckande. För den övervakade betyder det en inskränkning av det vardagliga och naturliga, du slutar slappna av. I fallet med ansiktsigenkänningens problem att särskilja en mörkhyad från en annan läggs en ytterligare dimension till: Övervakningen kan innebära större inskränkningar för en grupp än en annan. Den blonda kan hinna till jobbet, den svarthåriga tas till förhör.«

– Johanna Grönbäck, tatsvetare och kommunikationschef vid Ratio, i Borås Tidning

Vilket möjligen sätter regeringen i en konstig situation – när den både vill ha automatiserad ansiktsigenkänning och vara anti-rasistisk.

Regeringen vill smyglansera automatiserad ansiktsigenkänning

av

SVT rapporterar:

»Efterlysta personer eller misstänkta för allvarlig brottslighet ska avslöjas vid gränsen – genom ansiktsigenkänning. Det föreslår regeringen i ett nytt lagförslag som ska göra det möjligt för polisen att testa tekniken på Skavsta flygplats.« (…)

»Passagerare kommer att fotograferas vid gränskontrollen. Med hjälp av biometrisk ansiktsverifiering jämförs bilden sedan med den biometriska bild som finns lagrad på en minneskrets i passagerarens pass.«

I sig är detta kanske inte så uppseendeväckande: Man vill kontrollera att personen vid gränskontrollen är samma person som i passet.

Justitieminister Morgan Johansson (S) säger »Jag tror att det finns en stor förståelse bland svenska folket för att vi behöver den här tekniken vid våra gränspassager.«

Detta är en trojansk häst.

Regeringen banar väg för automatiserad ansiktsigenkänning genom en någorlunda rimlig applikation som kan antas vara godtagbar eller rent av önskvärd bland befolkningen.

Men automatiserad ansiktsigenkänning kan även vara ständig övervakning och spårning av alla som rör sig i samhället, i realtid. Det kan vara automatiserad registrering eller identifiering av deltagare på ett politiskt möte. Det kan vara skattemyndigheten som vill snoka i dina förehavanden. Det kan vara myndigheter som vill bygga sociogram ör att kartlägga människors förhållande till varandra. Och som vanligt kommer antalet falska positiva att vara överväldigande – även om träffsäkerheten skulle vara 99%, vilket inget system kommer i närheten av idag.

Om vi skall ha gränskontroller är det naturligtvis rimligt att man kan kontrollera att den inresande är den han eller hon uppger sig vara i sin identitetshandling. Men det gäller att se upp, så att detta inte blir en bakdörr för att öppna upp för en teknik för massövervakning och kontroll av vanligt, hederligt folk.

SVT: Regeringen vill testa ansiktsigenkänning på svensk flygplats »

Krav på stopp för automatisk ansiktsigenkänning i EU

av

»Just like China and Russia, some EU Member States such as France are exploring the use of facial recognition and behavioral detection technology to control public spaces. I don’t want to live with technology that permanently matches my face in public or reports ‘unusual behaviour’. Such mass surveillance has a massive chilling effect on society, results in false incrimination and discriminates certain groups of people such as people of colour or elderly. Now is the time for the Commission to live up to its promises on ethical AI and propose a ban on biometric mass surveillance!«

Patrick Breyer, piratpartistisk ledamot av Europaparlamentet från Tyskland.

Moskva mer övervakat idag än på Sovjet-tiden

av

Moskva skall enligt uppgift ha 170.000 övervakningskameror. Tiotusentals av dem är kopplade till system för automatiserad ansiktsigenkänning.

Nu används de för att kontrollera att folket håller sig till den lockdown som gäller i staden. Enligt den länkade artikeln vågar folk knappt gå ut med soporna.

Det verkliga problemet i sammanhanget är att Ryssland inte längre är en demokrati, annat än på pappret. Den som sätter sig upp mot presidentmakten riskerar att råka illa ut. Demonstrationer slås ner. Journalister tystas och förföljs. Oppositionella fängslas.

Vilket säkert passar Putin som hand i handske. På samma sätt som automatiserad ansiktsigenkänning nu rullas ut av allt fler auktoritära regimer. Resultatet blir en aldrig tidigare skådad övervakningsstat, av närmast orwellska proportioner.

I demokratiska länder vill allt fler regeringar använda tekniken för att bekämpa brott och upprätthålla ordningen. I sammanhanget har corona-krisen givit dem en relativt trovärdig ursäkt för att rulla ut tekniken.

Frågan vi då måste ställa oss är om och hur tekniken kan missbrukas. Idag eller i morgon, med andra politiska ledare och kanske i ett mer auktoritärt klimat.

Därför känns det säkrare att avstå. Vilket knappast kommer att ske. Tendensen är att alla regeringar i alla länder rullar ut en allt mer omfattande övervakning.

• Aftonbladet: Vapnet mot ryssar som bryter karantän: Ansiktsigenkänning »

Internationellt rullar polisen ut automatiserad ansiktsigenkänning i stor skala

av

Ur två bloggposter från Matthias Monroy:

»The European Union is extending the cross-border query of biometric data to faces. Searches should also be possible with still images from surveillance cameras. Up to now, only individuals may be processed in the Prüm framework, but soon bulk searches could be permitted.«

Prüm Decision: European criminal police offices agree on face recognition system »

»The International Police Organisation is developing a system to identify unknown persons by facial images. Interpol stores photos and videos from Internet service providers and other companies in a separate database. Interpol has also been using Clearview services for face recognition.«

Clearview AI: What does Interpol use face recognition for? »