Automatiserad ansiktsigenkänning – nu i Sverige

Polisen har fått klartecken för ett nytt verktyg som automatiskt analyserar video och bilder – bland annat med hjälp av automatiserad ansiktsigenkänning. Vilket väcker en del frågor och farhågor.

Låt oss börja med att se vad detta inte är. Det handlar inte om att automatiskt övervaka allmän plats och att få flaggningar så fort någon person av intresse dyker upp i bild. Polisen ville testa ett sådant system på Skavsta flygplats – men där sa Datainspektionen nej.

Vad det däremot handlar om är automatisk genomsökning av video och bilder i jakt på något specifikt, på en bestämd plats vid en bestämd tidpunkt. Detta omfattar även automatisk ansiktsigenkänning.

I detta fall är det alltså fråga om material som ändå skulle ha gåtts igenom, fast av fysiska poliser. På så sätt kan det rent av handla om att färre personer tittar på de övervakningsfilmer där du eller någon annan oskyldig förekommer. En automatisering och en eventuell effektivisering, med andra ord. Men det är ändå inte problemfritt.

Dels vet vi att automatiserade system ger ett stort antal »falska positiva« flaggningar, ibland i en sådan omfattning att det underliggande materialet blir svårare att hantera.

Dels är det oklart hur mycket biometrisk data som kommer att användas och från vilka källor. Om det handlar om misstänkta i det specifika fallet är det en sak. Om det handlar om bredare data, där biometrisk data för en bredare allmänhet (t.ex. från passregistret) används, då är det mer problematiskt.

Här finns också en viktig metodfråga. Om en människa, med förhoppningsvis gott omdöme och god analytisk förmåga, tittar igenom t.ex. en övervakningsfilm – då kan information som är viktig för en utredning framkomma, som inte framkommer om man bara söker på ett visst ansikte, ett visst signalement eller en viss sak. Det kan handla om en person som inte ingår i utredningen, men vars närvaro ändå är av intresse. Eller om ett visst händelseförlopp före eller efter det man söker. Risken är att automatiserad analys missar sådant som den inte uttryckligen är tillsagd att söka efter.

Slutligen kan det system som nu fått klartecken användas för att utveckla automatiserad ansiktsigenkänning på allmän plats. Även om Datainspektionen i dagsläget säger nej till sådan, så lär sista ordet inte vara sagt. Om inte svenska polisen kommer att kunna tjata sig till ett sådant verktyg, så kan det komma från EU.

Länkar från SR:
• Polisen får klartecken för ansiktsigenkänning »
• ”Rör sig om känsliga uppgifter” (ljudinslag) »

När övervakning blir rasistisk

»Ett vanligt beteende kan i en övervakad situation bli uppseendeväckande. För den övervakade betyder det en inskränkning av det vardagliga och naturliga, du slutar slappna av. I fallet med ansiktsigenkänningens problem att särskilja en mörkhyad från en annan läggs en ytterligare dimension till: Övervakningen kan innebära större inskränkningar för en grupp än en annan. Den blonda kan hinna till jobbet, den svarthåriga tas till förhör.«

– Johanna Grönbäck, tatsvetare och kommunikationschef vid Ratio, i Borås Tidning

Vilket möjligen sätter regeringen i en konstig situation – när den både vill ha automatiserad ansiktsigenkänning och vara anti-rasistisk.

Regeringen vill smyglansera automatiserad ansiktsigenkänning

SVT rapporterar:

»Efterlysta personer eller misstänkta för allvarlig brottslighet ska avslöjas vid gränsen – genom ansiktsigenkänning. Det föreslår regeringen i ett nytt lagförslag som ska göra det möjligt för polisen att testa tekniken på Skavsta flygplats.« (…)

»Passagerare kommer att fotograferas vid gränskontrollen. Med hjälp av biometrisk ansiktsverifiering jämförs bilden sedan med den biometriska bild som finns lagrad på en minneskrets i passagerarens pass.«

I sig är detta kanske inte så uppseendeväckande: Man vill kontrollera att personen vid gränskontrollen är samma person som i passet.

Justitieminister Morgan Johansson (S) säger »Jag tror att det finns en stor förståelse bland svenska folket för att vi behöver den här tekniken vid våra gränspassager.«

Detta är en trojansk häst.

Regeringen banar väg för automatiserad ansiktsigenkänning genom en någorlunda rimlig applikation som kan antas vara godtagbar eller rent av önskvärd bland befolkningen.

Men automatiserad ansiktsigenkänning kan även vara ständig övervakning och spårning av alla som rör sig i samhället, i realtid. Det kan vara automatiserad registrering eller identifiering av deltagare på ett politiskt möte. Det kan vara skattemyndigheten som vill snoka i dina förehavanden. Det kan vara myndigheter som vill bygga sociogram ör att kartlägga människors förhållande till varandra. Och som vanligt kommer antalet falska positiva att vara överväldigande – även om träffsäkerheten skulle vara 99%, vilket inget system kommer i närheten av idag.

Om vi skall ha gränskontroller är det naturligtvis rimligt att man kan kontrollera att den inresande är den han eller hon uppger sig vara i sin identitetshandling. Men det gäller att se upp, så att detta inte blir en bakdörr för att öppna upp för en teknik för massövervakning och kontroll av vanligt, hederligt folk.

SVT: Regeringen vill testa ansiktsigenkänning på svensk flygplats »

Krav på stopp för automatisk ansiktsigenkänning i EU

»Just like China and Russia, some EU Member States such as France are exploring the use of facial recognition and behavioral detection technology to control public spaces. I don’t want to live with technology that permanently matches my face in public or reports ‘unusual behaviour’. Such mass surveillance has a massive chilling effect on society, results in false incrimination and discriminates certain groups of people such as people of colour or elderly. Now is the time for the Commission to live up to its promises on ethical AI and propose a ban on biometric mass surveillance!«

Patrick Breyer, piratpartistisk ledamot av Europaparlamentet från Tyskland.

Moskva mer övervakat idag än på Sovjet-tiden

Moskva skall enligt uppgift ha 170.000 övervakningskameror. Tiotusentals av dem är kopplade till system för automatiserad ansiktsigenkänning.

Nu används de för att kontrollera att folket håller sig till den lockdown som gäller i staden. Enligt den länkade artikeln vågar folk knappt gå ut med soporna.

Det verkliga problemet i sammanhanget är att Ryssland inte längre är en demokrati, annat än på pappret. Den som sätter sig upp mot presidentmakten riskerar att råka illa ut. Demonstrationer slås ner. Journalister tystas och förföljs. Oppositionella fängslas.

Vilket säkert passar Putin som hand i handske. På samma sätt som automatiserad ansiktsigenkänning nu rullas ut av allt fler auktoritära regimer. Resultatet blir en aldrig tidigare skådad övervakningsstat, av närmast orwellska proportioner.

I demokratiska länder vill allt fler regeringar använda tekniken för att bekämpa brott och upprätthålla ordningen. I sammanhanget har corona-krisen givit dem en relativt trovärdig ursäkt för att rulla ut tekniken.

Frågan vi då måste ställa oss är om och hur tekniken kan missbrukas. Idag eller i morgon, med andra politiska ledare och kanske i ett mer auktoritärt klimat.

Därför känns det säkrare att avstå. Vilket knappast kommer att ske. Tendensen är att alla regeringar i alla länder rullar ut en allt mer omfattande övervakning.

• Aftonbladet: Vapnet mot ryssar som bryter karantän: Ansiktsigenkänning »

Internationellt rullar polisen ut automatiserad ansiktsigenkänning i stor skala

Ur två bloggposter från Matthias Monroy:

»The European Union is extending the cross-border query of biometric data to faces. Searches should also be possible with still images from surveillance cameras. Up to now, only individuals may be processed in the Prüm framework, but soon bulk searches could be permitted.«

Prüm Decision: European criminal police offices agree on face recognition system »

»The International Police Organisation is developing a system to identify unknown persons by facial images. Interpol stores photos and videos from Internet service providers and other companies in a separate database. Interpol has also been using Clearview services for face recognition.«

Clearview AI: What does Interpol use face recognition for? »

Fransk dom mot automatiserad ansiktsigenkänning i skolan

Frankrike har fått sitt första domstolsutslag om automatiserad ansiktsigenkänning.

Earlier this month, the Administrative Court of Marseille heard our case against facial recognition systems controlling access to two high schools in Nice and Marseille. These systems were authorised in December by the PACA Region as “experimental”. Yesterday, the Court annulled this decision.

The Court found that the Region had no power to take this decision – schools only have such powers. Furthermore, the Court found that it breached the GDPR: these systems were based on “consent”, but students’ consent cannot be “freely given” because of the authority relationship that binds them to the school’s administration.

Läs mer hos La Quadrature de Net »

EU-kommissionen backar om förbud mot ansiktsigenkänning

För en dryg vecka sedan läckte information ut om att EU-kommissionen ville se ett tillfälligt förbud mot användning av automatiserad ansiktsigenkänning på allmän plats, i tre till fem år – medan man utreder systemets risker och möjligheter.

Nu finns en ny variant av kommissionens arbetspapper. I detta dokument är det tidigare nämnda tillfälliga förbudet bortplockat.

EURACTIV rapporterar:

There should be “clear criteria” in the future mass-scale rollout of Biometric Identification Systems in the EU, a recently leaked draft of the EU’s Artificial Intelligence strategy seen by EURACTIV reveals.

The document, an update on an earlier leaked version, has also scrapped the idea of a temporary ban on facial recognition technologies in public spaces.

The document notes that the lack of information about the use of biometric identification systems prohibits the Commission from making a broad analysis of the implications of this technology, which analyses a person’s physical features for computational purposes.

Allt toppat med sedvanligt snömos:

“Thus, the ecosystem of trust should give citizens the confidence to welcome artificial intelligence and give companies the legal certainty to innovate with artificial intelligence,” the paper states.

Förmodligen är det medlemsstaternas inrikesministrar som vill kunna använda automatiserad ansiktsigenkänning för övervakning, så snart som möjligt. Och då får EU-kommissionens betänkligheter om rätten till privatliv stå tillbaka.

EURACTIVE: EU seeks ‘clear criteria’ for use of biometric AI on mass scale »

Brittisk polis satsar stort på automatisk ansiktsigenkänning i London

Samtidigt som EU överväger ett tre- till femårigt förbud mot automatiserad ansiktsigenkänning (i vart fall på allmän plats) – går Storbritannien åt motsatt håll.

Politico:

Police in the British capital are set to deploy automated facial recognition technology across the city, the Met Police announced today.

”The use of live facial recognition technology will be intelligence-led and deployed to specific locations in London,” the Metropolitan Police Service said in a statement, arguing that this ”will help tackle serious crime, including serious violence, gun and knife crime, child sexual exploitation and help protect the vulnerable.”

Och då britterna nu lämnar EU behöver de inte bry sig om vad Bryssel tycker.

Detta kan bli intressant, då vi i så fall får två helt olika policies för ansiktsigenkänning – som sedan kan jämföras vad gäller integritet och säkerhet.

Politico: London police to roll out live facial recognition »