Med automatiserad ansiktsigenkänning är det inte staten som behöver bevisa att du är skyldig – utan du själv som måste bevisa att du är oskyldig.
Automatiserad ansiktsigenkänning medför flera problem. Till exempel att sådana verktyg ibland förväxlar människors identitet och pekar ut oskyldiga.
Särskilt allvarligt blir detta om polisen av lättja eller inkompetens väljer att lita på utslaget utan att underbygga sin misstanke med mer substantiella bevis.
I en rättstat är det den som anklagar någon för något som har bevisbördan. Det vill säga att åklagare måste bevisa att den som anklagas för ett brott verkligen är skyldig.
Men med automatiserad ansiktsigenkänning tycks det i praktiken bli tvärtom. Den som systemet pekat ut tvingas försöka bevisa sin oskuld.
Vilket inte alltid är helt lätt, oavsett hur oskyldig personen är. Hur kan man bevisa att man inte gjort något?
Listan över felaktiga utpekanden med allvarliga konsekvenser är lång och växande.
Reclaim the Net berättar om en man i Kentucky som blev felaktigt beskylld för att ha försökt lösa in en falsk check. Bankens övervakningsbilder kördes genom ett system som bland annat jämför ansikten med Facebook-profiler.
När polisen fick en träff var det allt man ansåg sig behöva för att felaktigt gripa fel man.
Namnet stämde inte. Utseendet (!) stämde inte. Den utpekade mannen hade inte ens varit i delstaten den dagen. Men ändå gick man vidare med fallet, enbart baserat på den felaktiga automatiserade ansiktsigenkänningen.
Efter att ha varit frihetsberövad i 16 dagar släpptes mannen mot borgen. Åtalet lades senare ned. Nu har han stämt den ansvarige utredande polisen i en federal domstol.
Enligt stämningen dolde polisen att identifieringen enbart byggde på ansiktsigenkänning när han ansökte om arresteringsorder. Det fjärde tillägget till USA:s konstitution tillåter inte en polis att överlåta bedömningen av om det finns sannolika skäl till AI.
Den federale domaren konstaterar nu att polisen inte får överlåta bedömningen av om det finns sannolika skäl för ett gripande till AI. Ansiktsigenkänning kan vara ett hjälpmedel i en utredning, men är inte i sig tillräcklig grund för att gripa någon. Domstolen har därför avvisat polisens försök att få stämningen ogillad redan i detta skede.
Detta pekar på ett generellt problem med olika system för massövervakning och kontroll: Det behöver inte handla om ont uppsåt för att oskyldiga skall drabbas. Det räcker med lättja, inkompetens eller bekräftelsebias för att enskilda felaktigt skall utpekas.
• Reclaim the Net: Kentucky Judge Allows Lawsuit Over Facial Recognition Arrest »
CC0
