Krav på stopp för automatisk ansiktsigenkänning i EU

»Just like China and Russia, some EU Member States such as France are exploring the use of facial recognition and behavioral detection technology to control public spaces. I don’t want to live with technology that permanently matches my face in public or reports ‘unusual behaviour’. Such mass surveillance has a massive chilling effect on society, results in false incrimination and discriminates certain groups of people such as people of colour or elderly. Now is the time for the Commission to live up to its promises on ethical AI and propose a ban on biometric mass surveillance!«

Patrick Breyer, piratpartistisk ledamot av Europaparlamentet från Tyskland.

Moskva mer övervakat idag än på Sovjet-tiden

Moskva skall enligt uppgift ha 170.000 övervakningskameror. Tiotusentals av dem är kopplade till system för automatiserad ansiktsigenkänning.

Nu används de för att kontrollera att folket håller sig till den lockdown som gäller i staden. Enligt den länkade artikeln vågar folk knappt gå ut med soporna.

Det verkliga problemet i sammanhanget är att Ryssland inte längre är en demokrati, annat än på pappret. Den som sätter sig upp mot presidentmakten riskerar att råka illa ut. Demonstrationer slås ner. Journalister tystas och förföljs. Oppositionella fängslas.

Vilket säkert passar Putin som hand i handske. På samma sätt som automatiserad ansiktsigenkänning nu rullas ut av allt fler auktoritära regimer. Resultatet blir en aldrig tidigare skådad övervakningsstat, av närmast orwellska proportioner.

I demokratiska länder vill allt fler regeringar använda tekniken för att bekämpa brott och upprätthålla ordningen. I sammanhanget har corona-krisen givit dem en relativt trovärdig ursäkt för att rulla ut tekniken.

Frågan vi då måste ställa oss är om och hur tekniken kan missbrukas. Idag eller i morgon, med andra politiska ledare och kanske i ett mer auktoritärt klimat.

Därför känns det säkrare att avstå. Vilket knappast kommer att ske. Tendensen är att alla regeringar i alla länder rullar ut en allt mer omfattande övervakning.

• Aftonbladet: Vapnet mot ryssar som bryter karantän: Ansiktsigenkänning »

Internationellt rullar polisen ut automatiserad ansiktsigenkänning i stor skala

Ur två bloggposter från Matthias Monroy:

»The European Union is extending the cross-border query of biometric data to faces. Searches should also be possible with still images from surveillance cameras. Up to now, only individuals may be processed in the Prüm framework, but soon bulk searches could be permitted.«

Prüm Decision: European criminal police offices agree on face recognition system »

»The International Police Organisation is developing a system to identify unknown persons by facial images. Interpol stores photos and videos from Internet service providers and other companies in a separate database. Interpol has also been using Clearview services for face recognition.«

Clearview AI: What does Interpol use face recognition for? »

Fransk dom mot automatiserad ansiktsigenkänning i skolan

Frankrike har fått sitt första domstolsutslag om automatiserad ansiktsigenkänning.

Earlier this month, the Administrative Court of Marseille heard our case against facial recognition systems controlling access to two high schools in Nice and Marseille. These systems were authorised in December by the PACA Region as “experimental”. Yesterday, the Court annulled this decision.

The Court found that the Region had no power to take this decision – schools only have such powers. Furthermore, the Court found that it breached the GDPR: these systems were based on “consent”, but students’ consent cannot be “freely given” because of the authority relationship that binds them to the school’s administration.

Läs mer hos La Quadrature de Net »

EU-kommissionen backar om förbud mot ansiktsigenkänning

För en dryg vecka sedan läckte information ut om att EU-kommissionen ville se ett tillfälligt förbud mot användning av automatiserad ansiktsigenkänning på allmän plats, i tre till fem år – medan man utreder systemets risker och möjligheter.

Nu finns en ny variant av kommissionens arbetspapper. I detta dokument är det tidigare nämnda tillfälliga förbudet bortplockat.

EURACTIV rapporterar:

There should be “clear criteria” in the future mass-scale rollout of Biometric Identification Systems in the EU, a recently leaked draft of the EU’s Artificial Intelligence strategy seen by EURACTIV reveals.

The document, an update on an earlier leaked version, has also scrapped the idea of a temporary ban on facial recognition technologies in public spaces.

The document notes that the lack of information about the use of biometric identification systems prohibits the Commission from making a broad analysis of the implications of this technology, which analyses a person’s physical features for computational purposes.

Allt toppat med sedvanligt snömos:

“Thus, the ecosystem of trust should give citizens the confidence to welcome artificial intelligence and give companies the legal certainty to innovate with artificial intelligence,” the paper states.

Förmodligen är det medlemsstaternas inrikesministrar som vill kunna använda automatiserad ansiktsigenkänning för övervakning, så snart som möjligt. Och då får EU-kommissionens betänkligheter om rätten till privatliv stå tillbaka.

EURACTIVE: EU seeks ‘clear criteria’ for use of biometric AI on mass scale »

Brittisk polis satsar stort på automatisk ansiktsigenkänning i London

Samtidigt som EU överväger ett tre- till femårigt förbud mot automatiserad ansiktsigenkänning (i vart fall på allmän plats) – går Storbritannien åt motsatt håll.

Politico:

Police in the British capital are set to deploy automated facial recognition technology across the city, the Met Police announced today.

”The use of live facial recognition technology will be intelligence-led and deployed to specific locations in London,” the Metropolitan Police Service said in a statement, arguing that this ”will help tackle serious crime, including serious violence, gun and knife crime, child sexual exploitation and help protect the vulnerable.”

Och då britterna nu lämnar EU behöver de inte bry sig om vad Bryssel tycker.

Detta kan bli intressant, då vi i så fall får två helt olika policies för ansiktsigenkänning – som sedan kan jämföras vad gäller integritet och säkerhet.

Politico: London police to roll out live facial recognition »

Läcka: EU-kommissionen vill införa ett tidsbegränsat förbud mot automatiserad ansiktsigenkänning

I ett arbetspapper (white paper) som läckt ut från EU-kommissionen diskuteras ett EU-omfattande förbud mot automatiserad ansiktsigenkänning i tre till fem år. EURACTIV rapporterar:

The European Commission is considering measures to impose a temporary ban on facial recognition technologies used by both public and private actors, according to a draft white paper on Artificial Intelligence obtained by EURACTIV. (…)

The document adds that the “use of facial recognition technology by private or public actors in public spaces would be prohibited for a definite period (e.g. 3–5 years) during which a sound methodology for assessing the impacts of this technology and possible risk management measures could be identified and developed.”

Detta är en lika glädjande som oväntad nyhet, sett ur ett integritetsperspektiv.

Man får dock räkna med att EU:s medlemsstater, i ministerrådet, har en helt annan åsikt. Detta inte minst då den allmänna opinionen tycks acceptera allt mer övervakning.

Länk » LEAK: Commission considers facial recognition ban in AI ‘white paper’ »

En majoritet falska flaggningar när brittisk polis använder automatiserad ansiktsigenkänning

Associated Press rapporterar om vad som händer när brittisk polis använder automatiserad ansiktsigenkänning:

When British police used facial recognition cameras to monitor crowds arriving for a soccer match in Wales, some fans protested by covering their faces. In a sign of the technology’s divisiveness, even the head of a neighboring police force said he opposed it.

Sunt att folk reagerar. Men det verkligt intressanta är detta:

The force has been deploying the technology about twice a month at big events including rugby games, royal visits and yacht races; it scanned nearly 19,000 faces at a Spice Girls concert in May and identified 15 on a watchlist, including nine incorrectly.

Sex träffar plus nio felaktiga träffar, med andra ord.

Detta lär polis och politiker (och många andra) betrakta som något slags acceptabel »collateral damage«. Men för dem som identifieras felaktigt är det inte trevligt. Frågan är om vi nu är på väg att hamna i en situation där vi behöver oroa oss för att bli felaktigt identifierade som efterlysta av polisens automatiserade verktyg så fort vi går ut genom dörren.

Den som är oskyldig har allt att frukta.

AP: UK police use of facial recognition tests public’s tolerance »

Skall vem som helst få tillgång till din persondata genom ansiktsigenkänning?

Automatiserad ansiktsigenkänning är en kontroversiell fråga i många länder. Till exempel har flera amerikanska delstater förbjudit myndigheternas användning av tekniken, eftersom den anses vara alltför integritetskränkande. Någon egentlig sådan debatt har vi ännu inte sett i Sverige. Men det måste bli en ändring på den saken – eftersom tekniken nu börjar bli enkelt tillgänglig för myndigheterna och snart även för vanliga användare.

C|Net rapporterar:

»What if a stranger could snap your picture on the sidewalk then use an app to quickly discover your name, address and other details? A startup called Clearview AI has made that possible, and its app is currently being used by hundreds of law enforcement agencies in the US, including the FBI, says a Saturday report in The New York Times.

The app, says the Times, works by comparing a photo to a database of more than 3 billion pictures that Clearview says it’s scraped off Facebook, Venmo, YouTube and other sites. It then serves up matches, along with links to the sites where those database photos originally appeared. A name might easily be unearthed, and from there other info could be dug up online.«

Det är alltså inte bara myndigheterna – utan även kriminella element, stalkers och nyfikna människor i din omvärld – som kan komma få tillgång till din personliga information genom en vanlig mobilapp. Och vad gäller Clearview, så är risken stor att de redan har din bild och dina biometriska data från t.ex. Facebook.

Sverige behöver en debatt om denna teknik. Skall den få användas av myndigheterna (som redan har tillgång till våra pass- och körkortsbilder m.m.)? I så fall under vilka omständigheter? Och hur är det med privatpersoner? Skall det vara OK att på ett ögonblick få tillgång till persondata om sina medmänniskor?

I höstas gav Datainspektionen polisen grönt ljus för att använda sig av automatiserad ansiktsigenkänning, tills vidare. Detta utan några direkta begränsningar av hur informationen används och lagras. En uppföljning kommer att ske i en kommande granskning, när tekniken redan är etablerad.

Länkar:
• C|Net: Clearview app lets strangers find your name, info with snap of a photo, report says »
• Datainspektionen: Polisen får använda ansiktsigenkänning för att utreda brott »