EU är på väg att införa kameraövervakning med automatiserad ansiktsigenkänning. Vi listar några av de uppenbara riskerna.
Trots Europaparlamentets motstånd tyder det mesta på att EU:s nya AI Act kommer att öppna för bred kameraövervakning med automatiserad ansiktsigenkänning i brottsbekämpningen.
Även den som anser att ändamålet helgar medlen måste vara medveten om att detta medför allvarliga risker.
Till att börja med utvidgas övervakningslagar i princip alltid till syfte och omfattning. Några egentliga spärrar mot detta saknas i EU:s nya lagstiftning.
Det är också viktigt att komma ihåg att automatiserad ansiktsigenkänning inte bara kommer att drabba kriminella utan alla medborgare och deras rätt till privatliv.
Konventioner och EU:s fördrag slår fast att rätten till privatliv är en grundläggande mänsklig rättighet.
Vanliga hederliga människor har rätt till anonymitet och frihet från övervakning. Med mer allmän användning av automatiserad ansiktsigenkänning gör man ett avsteg från denna princip.
Europa kommer att bli lite mer som Kina, där staten har tekniska möjligheter att kontrollera det mesta folk har för sig i det offentliga rummet.
Orwells 1984 var en varning, inte en instruktionsbok.
Även om dagens svenska politiker är hederliga, rättvisa demokrater som aldrig skulle missbruka sin makt finns det ingen garanti för att det kommer att vara så i morgon.
Är du beredd att ge detta verktyg till din värste politiske motståndare, till de politiska krafter som du anser hotar vår demokratiska rättsstat?
EU är inte bara Sverige. Det är inte svårt att föreställa sig hur ett så här kraftfullt verktyg för övervakning och kontroll kan komma att användas i länder som Ungern. Till exempel för att registrera människor som deltar i politiska möten och demonstrationer.
Den entusiasm som länder som Frankrike visar för den nya tekniken ger också en vink om att ändamålsglidning bara är en tidsfråga.
Sedan har vi den rent praktiska frågan om risken för felaktig identifiering. Att detta är en verklig risk visar erfarenhet från länder som redan prövat automatiserad ansiktsigenkänning.
Dessutom har det visat sig att denna risk är extra stor vad gäller etniska minoriteter. Oskyldiga kommer att drabbas.
En annan praktisk fråga gäller säkerhetsrisker och dataintrång. För att fungera måste ett sådant här system ha stora baser med biometrisk data.
Till att börja med vet vi att risken är stor för att data kommer att läcka. Vilket kan utnyttjas av allt från kriminella till främmande makt. Det finns även en risk för att hackare kan korrumpera sådan data, vilket kan få allvarliga konsekvenser.
Det skulle inte förvåna om EU-domstolen med tiden kommer att upphäva hela eller delar av EU:s nya AI Act enligt samma princip som gäller det ogiltigförklarade datalagringsdirektivet: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.
