Biometrisk massövervakning och teknikflykt till andra delar av världen kan bli konsekvensen av EU:s nya AI Act.
I veckan klubbade Europaparlamentet EU:s nya AI Act. Den innebär i korthet:
- Ett förbud mot AI-applikationer som hotar medborgarnas rättigheter eller kränker deras integritet, till exempel social scoring.
- Extra höga krav på AI-system som anses medföra en hög risk.
- Transparenskrav för General-purpose AI (t.ex. hur man tränar AI-modeller).
- Undantag från reglerna för ordningsmakten.
Den sista punkten är extra intressant. Ur parlamentets pressmeddelande:
»The use of biometric identification systems (RBI) by law enforcement is prohibited in principle, except in exhaustively listed and narrowly defined situations. “Real-time” RBI can only be deployed if strict safeguards are met, e.g. its use is limited in time and geographic scope and subject to specific prior judicial or administrative authorisation. Such uses may include, for example, a targeted search of a missing person or preventing a terrorist attack. Using such systems post-facto (“post-remote RBI”) is considered a high-risk use case, requiring judicial authorisation being linked to a criminal offence.«
Från början sa Europaparlamentet helt nej till biometrisk massövervakning, men gav med sig i trilogförhandlingarna med ministerrådet och kommissionen.
Ett uppenbart problem är att när ordningsmakten väl får tillgång till verktyget, då kan regelverket lätt ändras. Övervakningslagar utökas i princip alltid till syfte och metod.
På ett mer filosofiskt plan kan noteras att till exempel kameraövervakning med automatiserad ansiktsigenkänning är en form av massövervakning. Detta då sådan innebär att alla som befinner sig inom det övervakade området kommer att få sina anletsdrag kontrollerade och i förekommande fall registrerade.
Erfarenheter från andra länder visar att det inte är ovanligt att sådana system felaktigt pekar ut helt oskyldiga. Speciellt svårt tycks systemen ha för personer med mörk hudfärg.
För övrigt är kontroversiell användning av AI i polisiär verksamhet inte begränsad till biometrisk identifiering. Till exempel kan myndigheters AI-stödda data mining slå helt fel.
Ett annat problem med EU:s nya AI Act är att den tillför ett betungande regelverk, byråkrati och till och med en helt ny myndighet för AI-branschen.
Visserligen säger förordningen att man vill underlätta för små och medelstora företag, start-ups med flera. Man säger till och med att EU skall bli ledande på AI-området. Men av erfarenhet vet vi att sådana löften med tiden brukar visa sig vara tomma.
Sett i detta perspektiv riskerar denna förordning att bli ytterligare en börda för innovativa företag – som då hellre lägger sin verksamhet i andra delar av världen.
Och med tanke på att internet är gränslöst kommer många av dessa utflyttade tjänster ändå att användas av oss européer – även om tekniken, jobben och pengarna hamnar på andra ställen. Detta på samma sätt som till exempel GDPR och DSA/DMA gör det enklare att driva IT-verksamhet på annat håll.
Lämna ett svar