Femte juli

Nätet till folket!

ansiktsigenkänning

Rörigt när EU inför åldersgräns för sociala media

av

I juni skall EU:s ministerråd enligt uppgift diskutera åldersgränser för sociala media. Just nu är frågan en enda röra.

I väntan på EU:s »digitala plånbok« har EU-kommissionen upphandlat en speciell »mini-plånbok« för åldersverifiering, som kan användas av de mest pådrivande länderna. Dessa är: Frankrike, Italien, Spanien, Grekland, Belgien och Tyskland.

Det är dock oklart vilka av dessa länder som kommer att använda den nya »mini-plånboken«. De som redan försökt på egen hand har mött juridiska, tekniska och praktiska problem. Man kan även notera att de aktuella länderna går fram med olika åldersgränser.

Det pågår även en diskussion om åldersverifiering skall ske på operativ/enhets- eller applikations-nivå. En alternativ möjlighet är en åldersgräns för vissa appar i Apples och Googles app-shops.

EU:s ministerråd tycks luta åt verifiering på enhetsnivå, vilket i så fall sammanfaller med den teknik för granskning av innehåll i användarnas elektroniska meddelanden (client-side-scanning) som tidigare föreslagits vad gäller Chat Control 2.

En annan fråga gäller om man skall använda ID-uppgifter som verifierats med något slags ID-handling – eller om man skall använda sig av AI och biometri för att bedöma en användares ålder.

Här finns problem såväl vad gäller tillförlitlighet, säkerhet, användarvänlighet som kostnader.

Att lagra ID-uppgifter skapar – oavsett om det sker på app-nivå, system-nivå eller via någon tredjepartstjänst – risk för läckor, profilering, övervakning och andra former av missbruk. Att lagra biometrisk data likaså.

Dagens AI-drivna algoritmer för att uppskatta ålder har en felmarginal på ±2,5 år vid optimala förhållanden, en siffra som ökar till ±4,8 år i varierande etniska grupper. Vilket är på tok för bred felmarginal om man talar om barn. Detta blir varken praktiskt fungerande, rättvist eller rättssäkert.

Ena stunden rekommenderar EU åldersgränser i sin Digital Services Act, för att skydda barnen. I nästa ögonblick förbjuder EU:s nya AI Act biometrisk identifiering i realtid och etiketterar biometrisk kategorisering som ett användningsområde med hög risk.

En faktor i sammanhanget är att internet är gränslöst. Även om EU kräver att olika plattformar världen över skall rätta sig efter unionens regler, så är sanktionsmöjligheterna i många fall begränsade.

I ett principiellt perspektiv kan åldersverifikation påverka yttrandefriheten och rätten till anonymitet. Även om reglerna är inriktade mot unga kommer de att drabba alla. I Sverige skyddas dessa rättigheter av tryckfrihetsförordningen och yttrandefrihetsgrundlagen.

EU:s dataskyddsmyndighet framhäver att åldersverifieringssystem måste tillåta anonym åtkomst för myndiga användare. Traditionella metoder som kräver inloggning eller cookies kan skapa detaljerade användarprofiler, vilket strider mot artikel 25 i GDPR om dataskydd genom design.

Enligt den omhuldade barnkonventionen (som gjorts till svensk lag) har även barn rätt till privatliv och skydd mot intrång, vilket måste beaktas vid implementering av verifieringssystem.

Detta är en röra som drivits fram av ett antal EU-länders politiker som inte begriper vad de sysslar med och som inte vill vänta tills införandet av EU:s nya digitala plånbok nästa är.

Vi ger sista ordet till EFF:

»Age verification laws do far more than ‘protect children online’—they require the creation of a system that collects vast amounts of personal information from everyone. Instead of making the internet safer for children, these laws force all users—regardless of age—to verify their identity just to access basic content or products. This isn’t a mistake; it’s a deliberate strategy.«

• EU inför ID-krav på nätplattformar »
• EU rullar ut app för åldersverifikation »
• EDRi: Showing your ID to get online might become a reality – a closer look at the EU’s new age verification app »
• EFF: First Porn, Now Skin Cream? ‘Age Verification’ Bills Are Out of Control »
• Digital Identities and the Future of Age Verification in Europe »

Se även: ChatGPT » | Perplexity »

CC0

EU-UK i nytt samarbete om biometrisk data

av

I det nya avtalet mellan EU och Storbritannien återupptar man utbytet av biometrisk data för automatiserad ansiktsigenkänning. Med mera.

»53. The European Commission and the United Kingdom will explore ways to reinforce mutual and reciprocal exchanges of data on fingerprints, DNA, and criminal records of third country nationals, in the light of technical developments; and acknowledge the requirement in the Trade and Cooperation Agreement to set up automated searching of vehicle registration data. They will also explore extending the exchange of data to facial images for the prevention, detection and investigation of criminal offences.«

Här kan man notera att automatiserad ansiktsigenkänning visat sig komma med stora problem för brittisk polis – såväl praktiskt som vad gäller rättssäkerhet.

I EU har unionens nya AI Act öppnat dörrarna för denna teknik för rättsvårdande myndigheter. Den svenska regeringen vill gå så långt detta regelverk tillåter.

• A renewed agenda for European Union – United Kingdom cooperation Common Understanding »

CC0

Och nu: Automatiserad ansiktsigenkänning i realtid

av

Regeringen föreslår att den utökade kameraövervakningen skall kopplas till AI-stödd automatiserad ansiktsigenkänning i realtid.

I en promemoria som nu går på remiss föreslår regeringen att polisen skall få möjlighet att använda AI-system för ansiktsigenkänning i realtid för att bekämpa brott.

I sitt pressmeddelande anger regeringen ett antal exempel på när detta skulle kunna komma till nytta. Och visst kan det vara så.

Problemet är att allt kan motiveras. Kameraövervakning av alla rum i alla bostäder skulle lösa och förhindra många brott.

Enligt EU:s AI Act är automatiserad ansiktsigenkänning på allmän plats förbjuden. Med undantag för de rättsvårdande myndigheterna. Och då med begränsningar.

I sin promemoria maxar regeringen hur långt den får gå för EU. Vilket ger en rätt omfattande katalog över tillåtna användningsområden.

Samtidigt har regeringen givit grönt ljus till en kraftig utbyggnad av antalet övervakningskameror i vårt samhälle. Vilka kommer att användas för nämnda ansiktsigenkänning.

Ett problem med automatiserad ansiktsigenkänning med kameraövervakning i realtid är att alla granskas och får sina ansikten matchade mot aktuell sökdata – därmed utsätts alla för en form av integritetskränkning.

En mindre filosofisk invändning är att man skapar ett system som riskerar att växa till att en dag kunna kontrollera var alla medborgare befinner sig. Vilket är frestande lätt att missbruka.

Övervakningslagar utökas alltid med tiden, vad gäller syfte och omfattning.

Och det finns många andra problem med automatiserad ansiktsigenkänning. Systemet flaggar till exempel ofta fel personer, speciellt vad gäller icke-europeisk etnicitet. Även falska flaggningar kan få påtagliga negativa konsekvenser för den enskilde.

Detta är ännu ett steg mot den totala övervakningsstaten.

• Regeringen: AI för ansiktsigenkänning i realtid – ett nytt effektivt verktyg för polisen »

CC0

Riskerna med automatiserad ansiktsigenkänning

av

EU är på väg att införa kameraövervakning med automatiserad ansiktsigenkänning. Vi listar några av de uppenbara riskerna.

Trots Europaparlamentets motstånd tyder det mesta på att EU:s nya AI Act kommer att öppna för bred kameraövervakning med automatiserad ansiktsigenkänning i brottsbekämpningen.

Även den som anser att ändamålet helgar medlen måste vara medveten om att detta medför allvarliga risker.

Till att börja med utvidgas övervakningslagar i princip alltid till syfte och omfattning. Några egentliga spärrar mot detta saknas i EU:s nya lagstiftning.

Det är också viktigt att komma ihåg att automatiserad ansiktsigenkänning inte bara kommer att drabba kriminella utan alla medborgare och deras rätt till privatliv.

Konventioner och EU:s fördrag slår fast att rätten till privatliv är en grundläggande mänsklig rättighet.

Vanliga hederliga människor har rätt till anonymitet och frihet från övervakning. Med mer allmän användning av automatiserad ansiktsigenkänning gör man ett avsteg från denna princip.

Europa kommer att bli lite mer som Kina, där staten har tekniska möjligheter att kontrollera det mesta folk har för sig i det offentliga rummet.

Orwells 1984 var en varning, inte en instruktionsbok.

Även om dagens svenska politiker är hederliga, rättvisa demokrater som aldrig skulle missbruka sin makt finns det ingen garanti för att det kommer att vara så i morgon.

Är du beredd att ge detta verktyg till din värste politiske motståndare, till de politiska krafter som du anser hotar vår demokratiska rättsstat?

EU är inte bara Sverige. Det är inte svårt att föreställa sig hur ett så här kraftfullt verktyg för övervakning och kontroll kan komma att användas i länder som Ungern. Till exempel för att registrera människor som deltar i politiska möten och demonstrationer.

Den entusiasm som länder som Frankrike visar för den nya tekniken ger också en vink om att ändamålsglidning bara är en tidsfråga.

Sedan har vi den rent praktiska frågan om risken för felaktig identifiering. Att detta är en verklig risk visar erfarenhet från länder som redan prövat automatiserad ansiktsigenkänning.

Dessutom har det visat sig att denna risk är extra stor vad gäller etniska minoriteter. Oskyldiga kommer att drabbas.

En annan praktisk fråga gäller säkerhetsrisker och dataintrång. För att fungera måste ett sådant här system ha stora baser med biometrisk data.

Till att börja med vet vi att risken är stor för att data kommer att läcka. Vilket kan utnyttjas av allt från kriminella till främmande makt. Det finns även en risk för att hackare kan korrumpera sådan data, vilket kan få allvarliga konsekvenser.

Det skulle inte förvåna om EU-domstolen med tiden kommer att upphäva hela eller delar av EU:s nya AI Act enligt samma princip som gäller det ogiltigförklarade datalagringsdirektivet: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

EP-utskott: Nej till biometrisk massövervakning

av

I Europaparlamentet är man skeptisk mot biometrisk massövervakning. Vilket bäddar för konflikt med EU-kommissionen och ministerrådet.

Europaparlamentets utskott för mänskliga rättigheter (LIBE) och den inre marknaden (IMCO) har idag fattat ett par viktiga och intressanta beslut om artificiell intelligens. Eller i vart fall om AI som vi känner den just nu.

• Nej till biometrisk massövervakning

Utskotten vill förbjuda biometrisk massövervakning (till exempel automatiserad ansiktsigenkänning) i realtid på allmän plats; användning av biometrisk analys i efterhand i de flesta fall; automatiserad känsloanalys i polisiära syften, vid gränskontroller, på arbetsplatser och inom utbildning.

Detta går emot EU-kommissionens ursprungliga förslag om att i princip undanta förbud mot biometrisk massövervakning för brottsbekämpande ändamål.

Det finns i sammanhanget skäl att anta att ministerrådet kommer att gå på kommissionens linje.

Om Europaparlamentet röstar i enlighet med utskottens förslag när frågan kommer upp i plenum lär det alltså bli krångliga trilog-förhandlingar med de två andra institutionerna.

• Diskriminering och mänskliga rättigheter

Utskotten säger nej till biometrisk massövervakning – speciellt sådan som kan leda till diskriminering, biometrisk kategorisering, förebyggande brottsbekämpning (”pre crime”) samt masstrålning efter biometrisk data med syfte att upprätta databaser för övervakning.

Utvecklare av AI med hög riskprofil skall genomföra en konsekvensanalys ur ett människorättsperspektiv – som sedan skall publiceras av berörda myndigheter.

Bland annat kan utvecklare av chat bots (som Chat GPT) åläggas ökad transparens.

Man vill även begränsa användningen av AI vad gäller gränskontroller och migration – vilket medlemsstaterna knappast kommer att gå med på.

• Frågetecken

Som synes fokuserar man på biometrisk massövervakning. Samtidigt skall man komma ihåg att LIBEs rapport om Chat Control / CSA Regulation stöder EU-kommissionens förslag om att använda AI för att granska innehållet i alla människors elektroniska meddelanden, i syfte att upptäcka visst olagligt beteende.

Det kan alltså vara värt att notera att användning av AI för massövervakning är en betydligt större fråga än bara biometrisk data.

Precis som när det gäller DSA/DMA utgår den nya lagstiftningen (av naturliga skäl) från dagens teknik och marknad. Vilket kan leda till oväntade konsekvenser i framtiden.

Man bör även hålla i minnet att internet är gränslöst. Lagstiftarna säger sig vilja skapa en världsledande standard som andra ansluter sig till. Men konsekvensen kan lika gärna bli att företagen (och då speciellt start ups) kan komma att etablera sig i andra delar av världen. Vilket är något vi redan ser tecken på med EU:s allt mer omfattande och byråkratiska nätlagstiftning.

Ambitionen i LIBE och IMCO är god. Grundläggande mänskliga rättigheter skall försvaras. Men här finns massor av frågetecken och möjliga oväntade och oönskade konsekvenser. Samt en risk för att lagstiftningen kommer att vara föråldrad redan innan den införs.

Det finns, som sagt, även en överhängande risk för att kommissionen och ministerrådet kommer att köra över parlamentet i denna fråga.

Men, för att avrunda positivt ger vi ordet till den piratpartistiske, tyske ledamoten av Europaparlamentet Patrick Breyer:

“Today’s vote is a historic breakthrough for the movement to prevent a China-style dystopian future of biometric mass surveillance in Europe. There is no evidence whatsoever that this error-prone technology ever found a single terrorist. We will continue to fight against facial surveillance technology in our public spaces, because they wrongfully report large numbers of innocent citizens, systematically discriminate against under-represented groups and have a chilling effect on a free and diverse society. In the upcoming plenary vote, monitoring our behavior in public to report us for allegedly ‘abnormal’ activity needs to be added to the list of bans. This mass surveillance technology, which the French government plans to bring to Europe, chills diversity and pushes us into conformity, which is the opposite of the open society we want to live in.“

• Patrick Breyer (PP, DE) AI Act: Lead committees to ban facial surveillance in Europe »
• EDRi: EU Parliament sends a global message to protect human rights from AI »

Tyskland tar steget in i internetåldern

av

Vi har fått tag i den nya tyska regeringens koalitionsfördrag – och hittar mycket positivt vad gäller nät- och IT-frågorna.

Efter att ha dammsugit vårt nyhetsflöde har vi nu hittat ett par översättningar till engelska av samarbetsavtalet mellan de nya tyska regeringspartierna – socialdemokraterna, liberalerna och de gröna. Än så länge finns en google-översatt variant av hela fördraget samt en preliminär manuellt översättning av de delar som rör de digitala frågorna (PDF).

Som alltid i sådana här sammanhang är det mycket blomspråk, men här är några intressanta nedslag i texten.

  • Man slår fast att öppen standard skall vara regeln för offentliga IT-projekt.
  • Man tänker se till att täcka in de vita fläckarna på uppkopplingskartan och erbjuda medborgarna garanterad bandvidd.
  • Mobiluppkoppling och wifi på tågen skall förbättras.
  • Man tänker garantera rätten till kryptering.
  • Man vill även se en rätt till interoperabilitet och portabilitet.
  • Alla säkerhetsbrister inom IT skall rapporteras in. Detta skall gälla alla myndigheter, vilket även lär omfatta polisen som idag använder sig av säkerhetsluckor för hemlig dataavläsning (Bundestrojaner).
  • Man vill se över landets kritiserade Netzwerkdurchsetzungsgesetz (NetzDG) som inskränker yttrandefriheten online.
  • Man säger nej till generell övervakning, övervakning av privat kommunikation och ID-krav online. (Det lär till exempel innebära ett nej till generell datalagring och meddelandekontroll.)
  • Man vill garantera rätten att vara anonym och att använda pseudonym online.
  • Man flaggar för omfattande investeringar på IT-området. Till exempel nämns AI, kvant-teknologi, cybersäkerhet, blockkedje-teknologi och robotisering.
  • Man säger nej till biometrisk massövervakning och social scoring.
  • Man tänker underlätta för start-ups och småföretag inom IT, till exempel vad gäller finansiering.
  • Man vill stimulera delägarskap (som optioner?) för anställda i IT-företag.

Detta är bara några nedslag i en preliminär översättning av texten.

Som boende i Tyskland kan jag konstatera att det är på tiden att landet tar steget in i den digitala tidsåldern. Till exempel kan det närmast komma att leda till en revolution av den tungrodda och svårnavigerade tyska byråkratin, som idag i stora delar är manuell.

Och vad gäller nätfrihetsfrågorna är det bara att tacka och ta emot. Nu återstår att se om man klarar av att leverera.

Nya tyska regeringen vill stoppa meddelandekontroll och svepande datalagring

av

Goda nyheter: Den nya tyska regeringen säger nej till meddelandekontroll, svepande datalagring och biometrisk massövervakning. Och ja till rätten att vara anonym på nätet.

I den nya tyska regeringen får liberalerna (FDP) bland annat posterna som justitieminister och digitaliseringsminister. Detta är goda nyheter för internet.

Man säger nej till meddelandekontroll / #ChatControl. Det vill säga nej till avkryptering och granskning av alla användares alla meddelanden och e-post.

Man säger nej till svepande, urskiljningslös datalagring. Det vill säga att den nya tyska regeringen ställer sig bakom EU-domstolen, som ogiltigförklarat datalagringsdirektivet. Skall datalagring förekomma skall den bara gälla personer som misstänks för brott – och endast efter beslut i domstol.

Man säger nej till biometrisk massövervakning. Vilket bland annat betyder nej till generell övervakning med automatisk anisktsigenkänning.

Man säger ja till rätten att vara anonym på internet.

Detta är mycket goda nyheter, då Tyskland är den kanske tyngsta spelaren i EU.

Det är mindre goda nyheter för EU-kommissionen och då speciellt kommissionär Ylva Johansson – som är pådrivande för ovan nämnda förslag.

Tankarna går till 2009, då den dåvarande liberala tyska justitieministern var en viktig spelare för att stoppa förslaget om avstängning av fildelare från internet.

Nu är bollen plötsligt i spel igen.

Facebook slutar med ansiktsigenkänning

av

Facebook slutar med ansiktsigenkänning vad gäller foton – men fortsätter utveckla tekniken för att till exempel låsa upp låsta konton, verifiera ekonomiska transaktioner och öppna enheter.

EFF sammanfattar:

”Facebook announced it is, for now, shutting down its face recognition program, which created face prints of users and automatically recognized them in uploaded photos. The decision to end the program comes at a time when face recognition technology is receiving push back, criticisms, and legislative bans across the United States, and the globe. Close to 20 U.S. cities, including San Francisco and Boston have banned government use of face recognition. There is also growing momentum to legislate against biometric surveillance in the European Union and in New Zealand.”

Taking your face out of Facebook, typ.

• EFF: Face Recognition Is So Toxic, Facebook Is Dumping It »
• Meta/Facebook: An Update On Our Use of Face Recognition »

Europaparlamentet: Nej till automatiserad ansiktsigenkänning

av

I en resolution (ej lagstiftning) har Europaparlamentet uttalat att man vill se ett förbud mot användning av AI och automatisk ansiktsigenkänning i samband med massövervakning.

Med 403 mot 259 röster uttalade Europaparlamentet på tisdagskvällen att man bland annat vill se ett förbud mot AI-stödd automatisk ansiktsigenkänning vid massövervakning.

EDRi sammanfattar:

»The report urges the European Commission to implement ‘a ban on any processing of biometric data, including facial images, for law enforcement purposes that leads to mass surveillance in publicly accessible spaces’. It also calls for ‘a moratorium on the deployment of facial recognition systems for law enforcement purposes that have the function of identification’, coupled with the ‘permanent prohibition of the use of automated analysis and/or recognition in publicly accessible spaces of other human features, such as gait, fingerprints, DNA, voice, and other biometric and behavioural signals’. Lastly, it urges an end to the use of private databases (like Clearview AI); and an end of EU funding for mass surveillance projects.«

Detta är i linje med vad EU-kommissionen tidigare uttalat. Frågan är dock hur ministerrådet ställer sig. Dels vill många medlemsstater använda den nya tekniken. Dels är säkerhet nationell kompetens, så en del länder (som Frankrike) kommer förmodligen inte att bry sig om vad kommissionen och parlamentet säger – och försöka stoppa försök till ny lagstiftning på området.

Inte desto mindre är gårdagens votering ett framsteg vad gäller rätten till privatliv.

I rapporten/resolutionen argumenterar man även för ökad transparens och konsekvensanalyser vad gäller AI och övervakning.

Den tyske, piratpartistiske ledamoten av Europaparlamentet Patrick Breyer säger:

»This vote is a historic breakthrough for the movement to prevent a China-style dystopian future of biometric mass surveillance in Europe. There is not a single example of real-time biometric surveillance preventing a terrorist attack or other such events. We must stand up against biometric mass surveillance in our public spaces because these technologies wrongfully report large numbers of innocent citizens, systematically discriminate against under-represented groups and have a chilling effect on a free and diverse society.

The European Parliament now needs to fight to have this ban implemented in the AI Act! I call on all citizens to increase the pressure on the surveillance-hungry EU governments by signing the European Citizens’ Initiative #ReclaimYourFace.«

Frågan kommer alltså att återkomma i EU:s så kallade AI Act.

Läs mer:
• EDRi: Celebrating a strong European Parliament stance on AI in law enforcement »
• MEP Patrick Breyer (PP, DE): Historic moment – European Parliament speaks out for the first time in favour of banning biometric mass surveillandce in the EU »
• PP EU: Breaktrough – Parliament calls for ban of biometric mass surviellance »
• TechCrunch: European Parliament backs ban on remote biometric surveillance »
• Politico: European Parliament calls for a ban on facial recognition »
• EUObserver: MEPs back EU facial-recognition ban for police »

Biometriskt ID-register kan ha fallit i talibanernas händer

av

Vi brukar varna för att övervakningsverktyg och databaser kan komma att användas av andra än de som införde dem. Detta är ett problem som just håller på att bli påtagligt i Afghanistan.

Under sin militära insats i Afghanistan började USA använda HIDE (Handheld Interagency Identity Detection Equipment), som är ett verktyg kopplat till en databas för att identifiera individer. Systemet använder sig av biometrisk data som iris-skanning, fingeravtryck och andra biometriska data.

Syftet var att registrera och kunna identifiera rebellkrigare. Av något slags effektivitetsskäl utökades användningen av HIDE till att även verifiera identiteten hos personer som arbetade för den västliga militära alliansen.

Nu fruktar man att HIDE har fallit i talibanernas händer, hos vilka det kan användas för att identifiera personer som samarbetat med USA och andra västländer. Med uppenbart potentiellt katastrofala konsekvenser för den enskilde.

Detta är egentligen ingen nyhet. Enligt uppgift skall HIDE ha använts av talibaner som stoppat bussar för att kontrollera passagerare redan 2016 och 2017. Så de kan ha haft HIDE-enheter redan för fem år sedan.

Inspirerade av det amerikanska systemet har även afghanska myndigheter introducerat ett nationellt ID-kort med biometriska data. Bland de registrerade finns studerande på universitet, soldater, samt innehavare av pass och körkort.

Fenomenet är inte unikt. Redan på 1930-talet registrerade man människors religion i Nederländerna, i syfte att fördela skattepengar till de olika samfunden. Detta register föll sedan i den tyska ockupationsmaktens händer – och kunde korsrefereras med medborgarnas ID-kort. På så sätt fick de ett effektivt sätt att skilja ut judar att sända till dödslägren. Den 27 mars 1943 genomförde motståndsrörelsen en attack för att förstöra registret. Tyvärr lyckades man bara förstöra ungefär 15% av registerkorten.

Vi kan lära något av detta. Förr eller senare kan vårt land komma att ledas eller kontrolleras av en regering med auktoritära tendenser, odemokratiska eller kriminella element inom förvaltningen eller rent av främmande makt. Då kommer olika register och former av biometrisk information att kunna användas emot oss. Därför bör man vara försiktig med att rulla ut sådana.

• The Conversation: The Taliban may have access to the biometric data of civilians who helped the U.S. military »