I Europaparlamentet är man skeptisk mot biometrisk massövervakning. Vilket bäddar för konflikt med EU-kommissionen och ministerrådet.
Europaparlamentets utskott för mänskliga rättigheter (LIBE) och den inre marknaden (IMCO) har idag fattat ett par viktiga och intressanta beslut om artificiell intelligens. Eller i vart fall om AI som vi känner den just nu.
• Nej till biometrisk massövervakning
Utskotten vill förbjuda biometrisk massövervakning (till exempel automatiserad ansiktsigenkänning) i realtid på allmän plats; användning av biometrisk analys i efterhand i de flesta fall; automatiserad känsloanalys i polisiära syften, vid gränskontroller, på arbetsplatser och inom utbildning.
Detta går emot EU-kommissionens ursprungliga förslag om att i princip undanta förbud mot biometrisk massövervakning för brottsbekämpande ändamål.
Det finns i sammanhanget skäl att anta att ministerrådet kommer att gå på kommissionens linje.
Om Europaparlamentet röstar i enlighet med utskottens förslag när frågan kommer upp i plenum lär det alltså bli krångliga trilog-förhandlingar med de två andra institutionerna.
• Diskriminering och mänskliga rättigheter
Utskotten säger nej till biometrisk massövervakning – speciellt sådan som kan leda till diskriminering, biometrisk kategorisering, förebyggande brottsbekämpning (”pre crime”) samt masstrålning efter biometrisk data med syfte att upprätta databaser för övervakning.
Utvecklare av AI med hög riskprofil skall genomföra en konsekvensanalys ur ett människorättsperspektiv – som sedan skall publiceras av berörda myndigheter.
Bland annat kan utvecklare av chat bots (som Chat GPT) åläggas ökad transparens.
Man vill även begränsa användningen av AI vad gäller gränskontroller och migration – vilket medlemsstaterna knappast kommer att gå med på.
• Frågetecken
Som synes fokuserar man på biometrisk massövervakning. Samtidigt skall man komma ihåg att LIBEs rapport om Chat Control / CSA Regulation stöder EU-kommissionens förslag om att använda AI för att granska innehållet i alla människors elektroniska meddelanden, i syfte att upptäcka visst olagligt beteende.
Det kan alltså vara värt att notera att användning av AI för massövervakning är en betydligt större fråga än bara biometrisk data.
Precis som när det gäller DSA/DMA utgår den nya lagstiftningen (av naturliga skäl) från dagens teknik och marknad. Vilket kan leda till oväntade konsekvenser i framtiden.
Man bör även hålla i minnet att internet är gränslöst. Lagstiftarna säger sig vilja skapa en världsledande standard som andra ansluter sig till. Men konsekvensen kan lika gärna bli att företagen (och då speciellt start ups) kan komma att etablera sig i andra delar av världen. Vilket är något vi redan ser tecken på med EU:s allt mer omfattande och byråkratiska nätlagstiftning.
Ambitionen i LIBE och IMCO är god. Grundläggande mänskliga rättigheter skall försvaras. Men här finns massor av frågetecken och möjliga oväntade och oönskade konsekvenser. Samt en risk för att lagstiftningen kommer att vara föråldrad redan innan den införs.
Det finns, som sagt, även en överhängande risk för att kommissionen och ministerrådet kommer att köra över parlamentet i denna fråga.
Men, för att avrunda positivt ger vi ordet till den piratpartistiske, tyske ledamoten av Europaparlamentet Patrick Breyer:
“Today’s vote is a historic breakthrough for the movement to prevent a China-style dystopian future of biometric mass surveillance in Europe. There is no evidence whatsoever that this error-prone technology ever found a single terrorist. We will continue to fight against facial surveillance technology in our public spaces, because they wrongfully report large numbers of innocent citizens, systematically discriminate against under-represented groups and have a chilling effect on a free and diverse society. In the upcoming plenary vote, monitoring our behavior in public to report us for allegedly ‘abnormal’ activity needs to be added to the list of bans. This mass surveillance technology, which the French government plans to bring to Europe, chills diversity and pushes us into conformity, which is the opposite of the open society we want to live in.“
• Patrick Breyer (PP, DE) AI Act: Lead committees to ban facial surveillance in Europe »
• EDRi: EU Parliament sends a global message to protect human rights from AI »