Femte juli

Nätet till folket!

ansiktsigenkänning

EP/LIBE: Nej till AI och biometrisk analys för massövervakning

av

I Europaparlamentet har utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) antagit en rapport om AI och biometrisk massövervakning. MEP Patrick Breyer (PP, DE) skriver på sin blogg:

»Today, the Committee on Civil Liberties, Justice and Home Affairs (LIBE) adopted a report on the use of artificial intelligence by police and judiciary by 36 votes to 24 with 6 abstentions. The successful compromise text calls, among other things, on the Commission „to implement, through legislative and non-legislative means, and if necessary infringement proceedings, a ban on any processing of biometric data, including facial images, for law enforcement purposes that leads to mass surveillance in publicly accessible spaces” (paragraph 15b). MEPs also call on the Commission to stop funding biometric research that is likely to lead to indiscriminate mass surveillance in public spaces.«

Detta innebär att AI-baserad teknik för analys av biometrisk data (som till exempel automatiserad ansiktsigenkänning) inte får användas för massövervakning. Däremot får den användas för att söka specifika mål, till exempel från övervakningsfilmer från en brottsplats. Man håller således fast vid principen om att det skall finnas en misstanke eller ett konkret brott innan man får använda dessa verktyg.

Breyer kommenterar:

»This report is a milestone in the fight against biometric mass surveillance in Europe, because for the first time a majority in the European Parliament wants to put an end to this total form of surveillance. Biometric and mass surveillance and behavioral prediction technology in our public spaces undermines our freedoms and threatens our open society.«

Detta är en rapport, inte lagstiftning. Och det återstår att se hur Europaparlamentet kommer att rösta i plenum.

Problemen med automatiserad ansiktsigenkänning

av

Man måste hålla isär saker och ting när man talar om automatiserad ansiktsigenkänning.

Det kan handla om verktyg som i efterhand går igenom till exempel övervakningsfilm kopplad till en brottsplats för att utreda om vissa personer befunnit sig där. Detta är i stort sett oproblematiskt, då det handlar om att automatisera något som annars hade utförts ändå, fast av människor. (Även om datorerna inte kan göra samma breda analys av en bild och dess allmänna kontext som en människa, vilket kan leda till att annat som är av intressant i en utredning missas.)

Sedan har vi poliser som på eget bevåg använder Clearview-appen för att identifiera folk med hjälp av aggregerad information från sociala media m.m. Vilket inte är och inte bör vara tillåtet. Skall ansiktsigenkänning alls användas, då skall det ske under ordnade och rättssäkra former med myndighetens egna verktyg.

Vi har också företag som använder ansiktsigenkänning för att kunna identifiera sina kunder och därmed förbättra kundupplevelsen. Och Big Data som vill kunna kartlägga oss och våra vanor, i utbyte mot användbara gratis tjänster som mail, online-dokument, lagring, kommunikation och sociala plattformar. Vilket delvis är en annan och större fråga.

Sedan har vi kameraövervakning i realtid kopplad till automatiserad ansiktsigenkänning. Det vill säga att man inte nödvändigtvis söker efter någon speciell person – utan är mer intresserade av om någon av intresse skulle dyka upp i folkströmmarna. Sådan övervakning kan även användas för att punktbevaka en enskild individ, om det finns tillräckligt mycket kameror (som i t.ex.London). Detta är problematiskt.

För det första innebär det att man övervakar hederliga medborgare, som inte är misstänkta för något brott. Att behandla alla som potentiella brottslingar och att urskiljningslöst övervaka alla som råkar befinna sig på allmän plats hör inte hemma i en demokratisk rättsstat.

Det handlar även om att fritt kunna röra sig i det samhälle man lever i, utan att ständigt behöva känna sig övervakad.

Sedan är detta ett verktyg som lätt kan användas av staten för att förtrycka sin befolkning, kartlägga oppositionella och förfölja oliktänkande. Det behöver inte handla om ondska. Det kan lika gärna vara fråga om överdriven ambition, missriktad välvilja eller inkompetens.

Medborgarrättsaktivister har framfört kritik mot denna utveckling under lång tid. EU har i årtionden finansierat utvecklingsprojekt som INDECT – vars mål har varit just kameraövervakning med automatiserad ansiktsigenkänning i realtid, kopplad till beteendeanalys och myndigheternas olika register. Och nu befinner vi oss vid den punkt där dessa system är klara att rullas ut.

Reclaim your face har en lista över hur automatiserad ansiktsigenkänning används på olika, problematiska sätt runt om i Europa. Där kan man även skriva under ett Europeiskt Medborgarinitiativ som kräver att EU reglerar användningen på ett sätt som respekterar individens rätt till privatliv.

Automatiserad ansiktsigenkänning – nu i Sverige

av

Polisen har fått klartecken för ett nytt verktyg som automatiskt analyserar video och bilder – bland annat med hjälp av automatiserad ansiktsigenkänning. Vilket väcker en del frågor och farhågor.

Låt oss börja med att se vad detta inte är. Det handlar inte om att automatiskt övervaka allmän plats och att få flaggningar så fort någon person av intresse dyker upp i bild. Polisen ville testa ett sådant system på Skavsta flygplats – men där sa Datainspektionen nej.

Vad det däremot handlar om är automatisk genomsökning av video och bilder i jakt på något specifikt, på en bestämd plats vid en bestämd tidpunkt. Detta omfattar även automatisk ansiktsigenkänning.

I detta fall är det alltså fråga om material som ändå skulle ha gåtts igenom, fast av fysiska poliser. På så sätt kan det rent av handla om att färre personer tittar på de övervakningsfilmer där du eller någon annan oskyldig förekommer. En automatisering och en eventuell effektivisering, med andra ord. Men det är ändå inte problemfritt.

Dels vet vi att automatiserade system ger ett stort antal »falska positiva« flaggningar, ibland i en sådan omfattning att det underliggande materialet blir svårare att hantera.

Dels är det oklart hur mycket biometrisk data som kommer att användas och från vilka källor. Om det handlar om misstänkta i det specifika fallet är det en sak. Om det handlar om bredare data, där biometrisk data för en bredare allmänhet (t.ex. från passregistret) används, då är det mer problematiskt.

Här finns också en viktig metodfråga. Om en människa, med förhoppningsvis gott omdöme och god analytisk förmåga, tittar igenom t.ex. en övervakningsfilm – då kan information som är viktig för en utredning framkomma, som inte framkommer om man bara söker på ett visst ansikte, ett visst signalement eller en viss sak. Det kan handla om en person som inte ingår i utredningen, men vars närvaro ändå är av intresse. Eller om ett visst händelseförlopp före eller efter det man söker. Risken är att automatiserad analys missar sådant som den inte uttryckligen är tillsagd att söka efter.

Slutligen kan det system som nu fått klartecken användas för att utveckla automatiserad ansiktsigenkänning på allmän plats. Även om Datainspektionen i dagsläget säger nej till sådan, så lär sista ordet inte vara sagt. Om inte svenska polisen kommer att kunna tjata sig till ett sådant verktyg, så kan det komma från EU.

Länkar från SR:
• Polisen får klartecken för ansiktsigenkänning »
• ”Rör sig om känsliga uppgifter” (ljudinslag) »

När övervakning blir rasistisk

av

»Ett vanligt beteende kan i en övervakad situation bli uppseendeväckande. För den övervakade betyder det en inskränkning av det vardagliga och naturliga, du slutar slappna av. I fallet med ansiktsigenkänningens problem att särskilja en mörkhyad från en annan läggs en ytterligare dimension till: Övervakningen kan innebära större inskränkningar för en grupp än en annan. Den blonda kan hinna till jobbet, den svarthåriga tas till förhör.«

– Johanna Grönbäck, tatsvetare och kommunikationschef vid Ratio, i Borås Tidning

Vilket möjligen sätter regeringen i en konstig situation – när den både vill ha automatiserad ansiktsigenkänning och vara anti-rasistisk.

Regeringen vill smyglansera automatiserad ansiktsigenkänning

av

SVT rapporterar:

»Efterlysta personer eller misstänkta för allvarlig brottslighet ska avslöjas vid gränsen – genom ansiktsigenkänning. Det föreslår regeringen i ett nytt lagförslag som ska göra det möjligt för polisen att testa tekniken på Skavsta flygplats.« (…)

»Passagerare kommer att fotograferas vid gränskontrollen. Med hjälp av biometrisk ansiktsverifiering jämförs bilden sedan med den biometriska bild som finns lagrad på en minneskrets i passagerarens pass.«

I sig är detta kanske inte så uppseendeväckande: Man vill kontrollera att personen vid gränskontrollen är samma person som i passet.

Justitieminister Morgan Johansson (S) säger »Jag tror att det finns en stor förståelse bland svenska folket för att vi behöver den här tekniken vid våra gränspassager.«

Detta är en trojansk häst.

Regeringen banar väg för automatiserad ansiktsigenkänning genom en någorlunda rimlig applikation som kan antas vara godtagbar eller rent av önskvärd bland befolkningen.

Men automatiserad ansiktsigenkänning kan även vara ständig övervakning och spårning av alla som rör sig i samhället, i realtid. Det kan vara automatiserad registrering eller identifiering av deltagare på ett politiskt möte. Det kan vara skattemyndigheten som vill snoka i dina förehavanden. Det kan vara myndigheter som vill bygga sociogram ör att kartlägga människors förhållande till varandra. Och som vanligt kommer antalet falska positiva att vara överväldigande – även om träffsäkerheten skulle vara 99%, vilket inget system kommer i närheten av idag.

Om vi skall ha gränskontroller är det naturligtvis rimligt att man kan kontrollera att den inresande är den han eller hon uppger sig vara i sin identitetshandling. Men det gäller att se upp, så att detta inte blir en bakdörr för att öppna upp för en teknik för massövervakning och kontroll av vanligt, hederligt folk.

SVT: Regeringen vill testa ansiktsigenkänning på svensk flygplats »

Krav på stopp för automatisk ansiktsigenkänning i EU

av

»Just like China and Russia, some EU Member States such as France are exploring the use of facial recognition and behavioral detection technology to control public spaces. I don’t want to live with technology that permanently matches my face in public or reports ‘unusual behaviour’. Such mass surveillance has a massive chilling effect on society, results in false incrimination and discriminates certain groups of people such as people of colour or elderly. Now is the time for the Commission to live up to its promises on ethical AI and propose a ban on biometric mass surveillance!«

Patrick Breyer, piratpartistisk ledamot av Europaparlamentet från Tyskland.

Moskva mer övervakat idag än på Sovjet-tiden

av

Moskva skall enligt uppgift ha 170.000 övervakningskameror. Tiotusentals av dem är kopplade till system för automatiserad ansiktsigenkänning.

Nu används de för att kontrollera att folket håller sig till den lockdown som gäller i staden. Enligt den länkade artikeln vågar folk knappt gå ut med soporna.

Det verkliga problemet i sammanhanget är att Ryssland inte längre är en demokrati, annat än på pappret. Den som sätter sig upp mot presidentmakten riskerar att råka illa ut. Demonstrationer slås ner. Journalister tystas och förföljs. Oppositionella fängslas.

Vilket säkert passar Putin som hand i handske. På samma sätt som automatiserad ansiktsigenkänning nu rullas ut av allt fler auktoritära regimer. Resultatet blir en aldrig tidigare skådad övervakningsstat, av närmast orwellska proportioner.

I demokratiska länder vill allt fler regeringar använda tekniken för att bekämpa brott och upprätthålla ordningen. I sammanhanget har corona-krisen givit dem en relativt trovärdig ursäkt för att rulla ut tekniken.

Frågan vi då måste ställa oss är om och hur tekniken kan missbrukas. Idag eller i morgon, med andra politiska ledare och kanske i ett mer auktoritärt klimat.

Därför känns det säkrare att avstå. Vilket knappast kommer att ske. Tendensen är att alla regeringar i alla länder rullar ut en allt mer omfattande övervakning.

• Aftonbladet: Vapnet mot ryssar som bryter karantän: Ansiktsigenkänning »

Internationellt rullar polisen ut automatiserad ansiktsigenkänning i stor skala

av

Ur två bloggposter från Matthias Monroy:

»The European Union is extending the cross-border query of biometric data to faces. Searches should also be possible with still images from surveillance cameras. Up to now, only individuals may be processed in the Prüm framework, but soon bulk searches could be permitted.«

Prüm Decision: European criminal police offices agree on face recognition system »

»The International Police Organisation is developing a system to identify unknown persons by facial images. Interpol stores photos and videos from Internet service providers and other companies in a separate database. Interpol has also been using Clearview services for face recognition.«

Clearview AI: What does Interpol use face recognition for? »

Fransk dom mot automatiserad ansiktsigenkänning i skolan

av

Frankrike har fått sitt första domstolsutslag om automatiserad ansiktsigenkänning.

Earlier this month, the Administrative Court of Marseille heard our case against facial recognition systems controlling access to two high schools in Nice and Marseille. These systems were authorised in December by the PACA Region as “experimental”. Yesterday, the Court annulled this decision.

The Court found that the Region had no power to take this decision – schools only have such powers. Furthermore, the Court found that it breached the GDPR: these systems were based on “consent”, but students’ consent cannot be “freely given” because of the authority relationship that binds them to the school’s administration.

Läs mer hos La Quadrature de Net »

EU-kommissionen backar om förbud mot ansiktsigenkänning

av

För en dryg vecka sedan läckte information ut om att EU-kommissionen ville se ett tillfälligt förbud mot användning av automatiserad ansiktsigenkänning på allmän plats, i tre till fem år – medan man utreder systemets risker och möjligheter.

Nu finns en ny variant av kommissionens arbetspapper. I detta dokument är det tidigare nämnda tillfälliga förbudet bortplockat.

EURACTIV rapporterar:

There should be “clear criteria” in the future mass-scale rollout of Biometric Identification Systems in the EU, a recently leaked draft of the EU’s Artificial Intelligence strategy seen by EURACTIV reveals.

The document, an update on an earlier leaked version, has also scrapped the idea of a temporary ban on facial recognition technologies in public spaces.

The document notes that the lack of information about the use of biometric identification systems prohibits the Commission from making a broad analysis of the implications of this technology, which analyses a person’s physical features for computational purposes.

Allt toppat med sedvanligt snömos:

“Thus, the ecosystem of trust should give citizens the confidence to welcome artificial intelligence and give companies the legal certainty to innovate with artificial intelligence,” the paper states.

Förmodligen är det medlemsstaternas inrikesministrar som vill kunna använda automatiserad ansiktsigenkänning för övervakning, så snart som möjligt. Och då får EU-kommissionens betänkligheter om rätten till privatliv stå tillbaka.

EURACTIVE: EU seeks ‘clear criteria’ for use of biometric AI on mass scale »