Femte juli

Nätet till folket!

Rättssäkerhet

Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.

EU:s Demokratisköld – skydd eller åsiktskontroll?

av

Nu har ett specialutskott i Europaparlamentet givit grönt ljus för EU:s så kallade demokratisköld – trots varningar om att den kan komma att inskränka det fria ordet.

Under ledning av den svenske moderaten Tomas Tobé har Europaparlamentets specialutskott för en Europeisk Demokratisköld (EUDS) idag presenterat sin rapport om »utländsk informationsmanipulering och otillbörlig påverkan (FIMI), kritisk infrastruktur, digital resiliens och mediekompetens, civilt försvar och beredskap samt andra frågor«.

Rapporten bygger på premissen att Europas demokratier utsätts för desinformation, utländsk påverkan, cyberattacker, hybridkrigföring samt manipulation av val och samhällsdebatt.

Bland annat vill man se hårdare tillämpning av EU:s Digital Services Act (DSA), större insyn i sociala mediers algoritmer och bättre möjligheter för myndigheter och forskare att analysera informationsflöden.

Utskottet vill även inrätta ett »European Centre for Democratic Resilience«. Detta skall samordna forskning, underrättelser, analys samt motåtgärder mot desinformation och utländsk påverkan. Vill man vara raljant ligger ordet »sanningsministerium« nära till hands.

Rapporten antogs i utskottet med 20 röster för, 9 emot och 2 nedlagda. Nästa steg är behandling i parlamentets plenum senare i år. Därefter följer trilogförhandlingar med EU:s ministerråd och EU-kommissionen.

Visst, det finns illvilliga krafter som vill skada oss, destabilisera vårt samhälle och påverka samhällsdebatten. Inte minst gäller det länder som Ryssland, Belarus, Kina och Iran. Men samtidigt höjs röster som varnar för att EUDS kan komma att drabba helt legitim opinionsbildning som inte faller EU i smaken.

Balansgången mellan att skydda demokratin och att begränsa yttrandefriheten är kärnan i denna kritik. En central fråga är vem som avgör när legitim opinionsbildning övergår i »påverkan« och utifrån vilken måttstock.

Amerikanska Heritage Foundation varnar för att EU-institutioner kan komma att använda regelverket för att isolera sig från legitim politisk kritik. Risken är att obekväma åsikter, politisk opposition eller kritik mot EU:s politik stämplas som »utländsk desinformation« eller »informationsmanipulation«, vilket i förlängningen kan tysta legitima inhemska röster.

Organisationer som Future of Free Speech betonar att när teknikjättar hotas av enorma böter om de inte agerar snabbt, väljer de ofta att »övermoderera«. Det innebär att även helt lagligt och legitimt innehåll plockas bort för säkerhets skull.

Franska Jacques Delors Centre med flera pekar på att initiativet lägger ett oproportionerligt stort fokus på just externa hot och desinformation. Detta riskerar att dölja det faktum att mycket av den politiska polariseringen i Europa har inhemska, strukturella orsaker. Genom att reducera systemkritik till att handla om att medborgare blivit »vilseledda« av yttre makter riskerar man att alienera väljargrupper och öka polariseringen, snarare än att skydda demokratin.

Medan Europaparlamentets specialutskott betonar att skölden skall skydda mediefriheten och rätten att fritt forma åsikter, är juridiska experter oroliga för att verktygen – kontroll av algoritmer, faktagranskningsnätverk och påtryckningar mot plattformar – i praktiken lätt kan slå över och begränsa det fria ordet om de inte omgärdas av extremt starka garantier för rättssäkerhet och yttrandefrihet.

Ett problem i sammanhanget är att begrepp som desinformation, misinformation, informationsmanipulation, FIMI, skadliga narrativ och demokratiska risker saknar skarpa juridiska gränser.

Mycket av det som diskuteras inom Democracy Shield handlar inte om lögner utan snarare om vilka berättelser som sprids, vilka frågor som lyfts, vilka ämnen som förstärks och vilka samhällsproblem som diskuteras. Där blir gränsen mellan påverkan och opinionsbildning oklar. Det kan till exempel gälla kritik mot migrationspolitik, klimatpolitik, vaccinationspolitik, säkerhetspolitik eller EU-kritik.

I sammanhanget kan nämnas att historien visar att staten ibland har fel. Under COVID stämplades länge teorin om ett labb-läckage som desinformation. Diskussioner om vaccinens begränsningar och lockdown modererades hårt. Senare visade sig flera av dessa frågor vara legitima att diskutera. Samma sak gäller till exempel Irakkriget, NSA-avslöjandena och många korruptionsskandaler.

Ett återkommande tema i EU:s dokument om FIMI är fokus på narrativ. Det innebär att man inte bara tittar på enskilda falska påståenden utan även på bredare berättelser. Där uppstår en risk. Om staten börjar identifiera och motverka vissa narrativ hamnar man snabbt nära att bedöma vilka politiska uppfattningar som är önskvärda. Det är känsligt. En liberal demokrati brukar utgå från att staten inte skall avgöra vilka politiska berättelser som är rätt.

Till detta skall läggas risken för ändamålsglidning.

Kärnan i den liberala kritiken är egentligen ganska enkel. Demokratin skyddas inte främst genom att filtrera bort felaktiga idéer. Istället skyddas den genom att människor även får ta del av kontroversiella idéer och själva bedöma dem.

Ur det perspektivet är frågan inte om EU:s Democracy Shield har goda intentioner. Frågan är snarare om de verktyg som byggs för att bekämpa informationspåverkan samtidigt ger institutioner och makthavare makt att påverka eller begränsa den legitima politiska debatten.

Länkar:
• Europaparlamentets pressmeddelande: Special committee adopts proposals to improve the European Democracy Shield »
• Case files 2025/2069(INI) Findings and recommendations of the Special Committee on the European Democracy Shield »
• Ändringsförslag i utskottet »
• EPP: Europe’s democracies must fight back »

Tidigare: 
• EU-Kommissionen: European Democracy Shield and EU Strategy for Civil Society pave the way for stronger and more resilient democracies »

Relaterad kritik:
• European Democracy Shield: A Threat to Free Speech and Democratic Accountability »
• Feedback to the European Commission on the “European Democracy Shield” »
• Democracy shield: Defense or distraction? »

Relaterade bloggposter:
• EU:s nya demokratisköld tycks mest bestå av byråkrati (december 2024) »
• EU: Försvara demokratin med byråkrati (juni 2025) »
• EU:s demokratisköld – demokratins bröstvärn eller sanningsministerium? »

CC0

Utredning ökar osäkerheten om vad som får sägas online

av

En utredning om nätbrott och våld i nära relationer föreslår åtgärder mot innehåll på internet – utan att tydligt avgränsa vad som faktiskt är brottsligt. Resultatet riskerar att bli svåröverskådligt med negativa konsekvenser för yttrandefriheten.

Utredningen »Nya nätbrott och andra åtgärder för genomförandet av direktivet om bekämpning av våld mot kvinnor och våld i nära relationer« SOU 2026:34 är en röra.

Dels handlar den om genomförandet av EU:s direktiv om bekämpning av våld mot kvinnor och våld i nära relationer (direktiv 2024/1385).

Dels bygger den vidare på den struktur som redan finns i EU:s Digital Services Act (DSA) genom att skapa ett nytt nationellt system för att avlägsna visst nätinnehåll.

Dels inför den helt nya begränsningar av yttrandefriheten online.

Vissa saker är rätt okontroversiella, som förbud mot spridning av intima bilder utan samtycke (revenge porn), renodlad nätstalking, olaga identitetsexponering och otillbörlig övervakning (till exempel kopplad till hederskultur). Annat är mer uppseendeväckande och/eller problematiskt.

Till att börja med vill utredningen se en ny lag om avlägsnande av nätbrottsinnehåll. Detta är möjligen en anpassning till DSA:s krav på att olagligt innehåll ska avlägsnas.

En anmärkningsvärd detalj är att systemet inte bygger på att innehållet först konstateras vara olagligt i domstol. Det räcker med att en myndighet bedömer att det »skäligen kan antas« vara brottsligt.

Innehållet skall då plockas bort inom en timme. Om så inte sker kan böter utfärdas på 5.000 till 5 miljoner kronor – eller, vid systematisk/fortgående vägran, upp till fyra procent av den globala årsomsättningen.

Utredningen föreslår att en myndighet ska vara behörig att utfärda förelägganden om att avlägsna olagligt innehåll. Dock säger man inget om huruvida detta skall vara en ny eller existerande myndighet och i så fall vilken.

Sedan har vi ett förbud mot nättrakasserier. Direktivet kräver kriminalisering av vissa former av upprepade digitala trakasserier. Här uppstår intressanta yttrandefrihetsfrågor, eftersom gränsen mellan trakasserier och offensiv opinionsbildning inte alltid är tydlig.

Om definitionerna blir alltför vida kan de träffa fullt legitima kampanjer mot politiker, journalistisk granskning, aktivism och organiserade opinionsyttringar. Här måste gränsen mot politisk kritik och fri opinionsbildning respekteras.

Är #AvgåMinistern en nättrakasseri-kampanj? Är en uppmaning att kontakta en politiker i en sakfråga nättrakasserier? Är tusentals hånfulla memes om en makthavares klavertramp nättrakasserier? Är organiserad aktivism mot en journalist som driver en kontroversiell linje nättrakasserier?

Om brottet även definieras utifrån hur mottagaren upplever kommunikationen kan rättsläget bli än mer osäkert. Då uppstår frågor som: Hur många meddelanden krävs? När blir kritik trakasserier? Spelar avsändarens syfte någon roll? Spelar mottagarens ställning som offentlig person någon roll?

Sedan lanserar utredningen det nya brottet könsbaserat näthat. Den som i ett uttalande eller annat meddelande som sprids med tekniskt hjälpmedel uppmanar till våld mot, hotar eller uttrycker missaktning för en grupp eller en enskild med anspelning på kön ska kunna dömas för könsbaserat näthat.

Begreppet missaktning hämtas från regleringen om hets mot folkgrupp och omfattar enligt utredningen bland annat smädelser, kränkande omdömen och förlöjliganden – även i form av indirekta uttryck.

Samtidigt säger man att saklig kritik skall falla utanför och att regeln ska tolkas restriktivt. Här öppnas ändå för ett stort mått av subjektiv bedömning och gränsdragningsproblem.

Utredningen föreslår dock inte att de nya brotten skall vara tryckfrihets- eller yttrandefrihetsbrott. De gäller alltså inte webbplatser med utgivningsbevis, som skyddas av Tryckfrihetsförordningen och Yttrandefrihetsgrundlagen.

En publicering på en site med utgivningsbevis kan alltså vara skyddad, medan samma yttrande på X, Facebook, Instagram, TikTok, Reddit eller i en chatt kan falla under den nya brottsrubriceringen.

Avslutningsvis känns det märkligt att ha särskild lagstiftning för vissa brott som begås online i stället för i den fysiska världen. Sägs det inte hela tiden att samma regler skall gälla på nätet som i övriga samhället?

Varför skilja på om ett hot framförts via Facebook eller öga mot öga? Varför skilja på trakasserier som sker digitalt respektive direkt?

Om samma handling bedöms olika beroende på kanal, riskerar rättssystemet att bli både inkonsekvent och svårförutsägbart.

• Regeringen: Nya nätbrott och andra åtgärder för genomförandet av direktivet om bekämpning av våld mot kvinnor och våld i nära relationer »

• SvD/Mårten Schultz: Ett brott att kalla alla män pedofiler? »

CC0

Problemen med Trusted Flaggers (DSA)

av

EU-kommissionen utformar nu riktlinjer för sina nya statligt godkända nätcensorer, Trusted Flaggers.

Fram till den 26 juni håller EU-kommissionen en konsultation där man vill ha in synpunkter på hur systemet med Trusted Flaggers skall fungera.

Trusted Flaggers är en funktion under EU:s Digital Services Act (DSA), där organisationer, särintressen och till och med myndigheter kan få en direktlinje till sociala medier för att rekommendera vilket innehåll som bör tas bort.

Plattformarna är inte skyldiga att följa en Trusted Flaggers rekommendationer, men deras anmälningar skall behandlas med prioritet och utan onödigt dröjsmål.

Detta skall enligt DSA egentligen bara gälla olagligt innehåll, men en ändamålsglidning tycks vara på väg. Eller rent av inbyggd i ett system som ständigt ger dem nya uppgifter.

Ett grundläggande problem är att det inte sker någon föregående juridisk prövning av om innehållet i fråga verkligen är olagligt.

Eftersom Trusted Flaggers är statligt godkända aktörer blir det märkligt att de kan rekommendera censur utan någon sådan juridisk prövning. (Speciellt om en myndighet är Trusted Flagger.)

För att staten eller dess ombud skall kunna censurera något måste man ju först slå fast huruvida innehållet verkligen är olagligt. Det borde vara grundläggande i en rättsstat.

I Brussels Signal riktar debattören och advokaten Jerzy Kwaśniewski kritik mot systemet som sådant och menar att konsultationen bara är kosmetisk.

Han skriver att de verkliga problemen med Trusted Flaggers inte tas upp. Mycket av det han kritiserar är sådant som vi tidigare har uppmärksammat här på bloggen.

Till exempel är DSA:s skrivningar om att sociala medier måste bekämpa »systemiska risker« så svävande att plattformarna tvingas övermoderera för att inte riskera extremt höga böter.

Plattformarna måste alltså gissa sig fram till vad de förväntas censurera – medan EU-kommissionen fungerar som tillsynsmyndighet, utredare och sanktionsorgan i ett.

DSA i kombination med EU:s Code of Conduct on Disinformation (frivillig, men de sociala medier som ansluter sig måste följa den) skapar en situation där plattformarna även förväntas använda extern faktakontroll.

Många av de faktagranskande organisationer som anlitas är helt eller delvis finansierade av EU, medlemsstater eller andra offentliga organ. Det väcker frågor om hur oberoende de egentligen är.

Kwaśniewski menar också att den kommande European Democracy Shield – i kombination med allt det ovanstående – visar att EU vill styra informationsmiljön och gynna »officiella narrativ«.

Fram till den 26 juni kan du lämna synpunkter till EU-kommissionen. Om du anser att Trusted Flaggers riskerar att hota yttrandefriheten är detta ett tillfälle att göra din röst hörd.

• EU: Targeted consultation: draft guidelines on trusted flaggers under the Digital Services Act (DSA) »

• EU: Draft Commission guidelines on trusted flaggers »

• Brussels Signal: Brussels is finishing its censorship machine: Europe has until June 26 to say No »

CC0

Valår: Pressa politikerna om övervakningsstaten

av

Här är några frågor om vår ständigt växande övervakningsstat som alla politiska kandidater borde svara på – innan valet.

I höst är det riksdagsval. En viktig fråga som sannolikt inte kommer att diskuteras är den ständigt växande övervakningsstaten. Det är problematiskt.

En första fråga som borde ställas till alla politiker är:

Övervakningsstaten växer ständigt. Vid vilken punkt anser du att det blir ett problem för vår demokrati och vårt samhälle? Varför och hur?

Det brukar öppna för intressanta diskussioner. Ingen politiker lär mena att en total kontrollstat där alla övervakas överallt, hela tiden är problemfri.

Så hur långt tänker man gå? Hur mycket övervakning skall vi ha? När blir det problematiskt och farligt? Har vi kanske redan gått för långt? Har man tänkt igenom det här?

Ett annat bra test är att fråga hur enskilda politiker ställer sig till EU-domstolens ställningstagande om EU:s upphävda datalagringsdirektiv. Enkelt sammanfattat:

Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Det vill säga att generell och odifferentierad övervakning av hela befolkningen inte är förenlig med de grundläggande rättigheterna.

Detta är också en knepig fråga. Den pekar på skillnaden mellan övervakning av farliga människor och massövervakning av vanligt, hederligt folk utan misstanke om brott. Med förslag som Chat Control passeras den linjen. Hur motiverar man det?

Detta faller i sin tur tillbaka på de grundläggande mänskliga rättigheterna. Till exempel anger Europakonventionen (och EU:s rättighetsstadga) att…

»Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens.«

Hur ställer sig de politiska kandidaterna till detta? Respekterar de de grundläggande mänskliga rättigheterna? Om inte – varför? Och vilka blir konsekvenserna om så inte är fallet?

Detta är bara några av de frågor som våra traditionella medier knappast kommer att ställa. Så då måste någon annan göra det. Det vill säga du och jag.

Innan kandidaterna börjar synas i valstugorna kan Almedalen vara en lämplig plats för att kräva svar.

CC0

DSA och kampen om verklighetsbilden

av

Det finns en ständig ängslighet för att någon skall säga något olämpligt. Om det sagda är rätt eller fel tycks vara av underordnad betydelse.

Det är ifrågasättandet av rådande förhållanden och berättelser – som utmanar dem som försöker forma samhället utifrån politiska visioner – som skapar dålig stämning.

Det är helt enkelt jobbigt när folk ifrågasätter och käftar emot.

Istället för att låta sina teser prövas i en fri och öppen debatt väljer agendans väktare att försöka tysta kritiken. Vilket EU:s Digital Services Act ger sociala medier i uppdrag att hantera.

Regelverket föreskriver inte exakt vad som skall tas bort eller döljas. Det får respektive plattform räkna ut själv. Men om de inte tolkar de underförstådda signalerna rätt kan de drabbas av astronomiska böter.

Resultatet blir överblockering. Irländska Appeals Centre Europe, som hanterar Facebook & Co, ändrar fattade modereringsbeslut i sex fall av tio.

Således inskränks det fria ordet mer än nödvändigt för att våra politiker vill kunna hålla händerna rena. »Vi har inte sagt att något speciellt skall vara förbjudet att uttrycka.«

Detta är inte rättssäkert. Om något skall vara förbjudet att säga skall det framgå vad och meddelas genom lag, efter en öppen demokratisk process. Vilket tycks vara precis vad EU försöker undvika.

EU:s Digital Services Act är på sätt och vis värre än traditionell censur, där man i vart fall vet vad som inte får uttryckas och vem som bestämt det.

CC0

Dina rättigheter om du blir censurerad i sociala medier

av

Får du ingen rimlig respons när du censureras eller stängs av från sociala medier? I 59 procent av fallen ändrar Appeals Centre Europe beslutet.

I denna text kommer vi att gå igenom vad reglerna säger att användare av sociala medier har för rättigheter när de får innehåll borttaget eller när de får ett konto avstängt; varför det inte alltid fungerar; vart man kan vända sig om det kärvar och vad som kan hända då.

Vi har upprepade gånger gnällt över att EU är mer intresserat av att använda sin Digital Services Act (DSA) för att censurera än för att upprätthålla användarnas rättigheter enligt samma regelverk.

DSA säger i artikel 17 att plattformen måste ange en motivering (Statement of Reasons) om den tar bort innehåll, begränsar synlighet, demonetiserar innehåll, stänger av eller begränsar ett konto eller vidtar andra modereringsåtgärder.

Motiveringen ska bland annat ange vilken åtgärd som vidtagits, om beslutet grundas på lag eller plattformens egna regler, vilken regel som anses ha brutits, vilka fakta och omständigheter som låg till grund för beslutet samt information om hur beslutet kan överklagas.

Trots detta hanteras sådana här ärenden som regel med automatiserade processer och standardiserade meddelanden som inte ger några konkreta svar på varför en åtgärd har vidtagits.

Vilket kanske går att förstå med tanke på de enorma volymer av ärenden det rör sig om. Detta står dock i strid med intentionerna bakom de regler som har införts för att skydda användarnas rättigheter. Istället lämnas de ofta rättslösa.

Enligt DSA artikel 20 måste plattformen erbjuda ett internt klagomålsförfarande för att överklaga ett beslut enligt ovan. Användaren skall kunna bestrida beslutet på ett meningsfullt sätt. Plattformen måste då göra en ny bedömning.

DSA artikel 20.6 säger att beslut som överklagas inte enbart får avgöras med automatiserade metoder. Det innebär att om en användare bestrider ett beslut ska det finnas någon form av mänsklig granskning. Tanken är att även om AI och filter fattar det första beslutet, så skall de inte vara den enda instansen.

Återigen är detta något som vanligtvis inte sker (om man inte är kändis och bullrar om det). Vanligt folk får som regel generiska svar, vaga motiveringar eller automatiserade standardsvar även efter överklaganden.

Vad vi kan se har EU-kommissionen inte vidtagit några åtgärder mot plattformarna med anledning av detta. (Istället lägger den sin kraft och sina sanktionsmöjligheter på att få sociala medier att censurera mer.)

Om regelverket enligt ovan inte följs och man fortfarande får automatiserade svar av typen »god dag yxskaft«, kan man gå vidare. Det skall enligt DSA finnas certifierade organ för tvistlösning utanför domstol. Något sådant finns dock inte i Sverige.

En möjlighet är att klaga till den nationella tillsynsmyndigheten. I Sverige är det Post- & Telestyrelsen (PTS). Dock tycks PTS skjuta ifrån sig sitt tillsynsansvar till det land där respektive social medieplattform har sitt europeiska säte. Vilket för de största aktörerna i regel är Irland.

Och där finns Appeals Centre Europe (ACE), ett privat certifierat tvistlösningsorgan som godkänts av den irländska mediemyndigheten Coimisiún na Meán.

Det fungerar som en ny sorts privat rättskipning kring yttrandefrihet online. Det är inte en domstol. Dess beslut är inte juridiskt bindande. Plattformarna måste dock delta i processen i god tro enligt DSA.

Detta är inte en EU-myndighet och inte heller något som måste finnas i varje medlemsland. DSA kräver bara att det ska finnas möjlighet till certifierad tvistlösning utanför domstol, men dessa organ kan verka gränsöverskridande.

Under perioden april 2025 till mars 2026 inkom över 24.000 tvister till ACE. Drygt 12.000 låg inom organisationens behörighetsområde.

I de ärenden som prövades i sak kom ACE fram till att plattformens beslut borde ändras i cirka 59 procent av fallen.

Enligt en nyligen publicerad transparensrapport följer plattformarna ACE:s rekommendationer i ungefär 80 procent av fallen. Det betyder samtidigt att omkring en femtedel av fallen inte ledde till någon ändring trots att ACE kommit fram till att plattformens ursprungliga beslut var felaktigt.

Enligt rapporten gällde många tvister även fall där någon har anmält innehåll som plattformen valt att låta ligga kvar. Många av dessa fall rörde hatretorik och trakasserier. I dessa fall fann ACE att plattformarna borde ha tagit bort innehållet i omkring 70 procent av de granskade fallen.

Plattformarna tycks alltså både ta bort för mycket och för lite på samma gång.

Det ovanstående gäller främst innehåll. Siffrorna för avstängning är också intressanta…

Över 14.000 tvister om kontosavstängningar eller kontobegränsningar inkom till ACE. Drygt 5.000 bedömdes ligga inom dess behörighet och kunde formellt tas upp (under den period rapporten avser).

Vid rapportperiodens slut hade ACE fått tillräckligt underlag för att göra en full materiell prövning i färre än 150 fall.

I stället fattades (totalt) över 7.000 så kallade »default decisions« till användarnas fördel eftersom plattformarna inte skickade in det material man begärde inom tidsfristen.

Rapporten anger som sagt att plattformarna följer eller implementerar ACE:s beslut i ungefär 80 procent av fallen. Men den siffran avser inte nödvändigtvis suspensionsärenden, där nedbrutna siffror tycks saknas.

Användare som inte får hjälp eller är missnöjda med ACE:s beslut kan som en sista utväg vända sig till en domstol.

Nu vet du vilka dina rättigheter är enligt DSA, vart du kan vända dig om du anser att ditt ärende inte har hanterats korrekt – och vilka oddsen är för att lyckas.

• Appeals Centre Europe – Transparency Report (PDF) »
• RtN: EU-Backed Appeals Centre Accidentally Confirms the DSA Censorship Regime Is Unworkable »

CC0

Staten, AI och maktens frestelser

av

»Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.«

Jag är utvecklingsoptimist och gillar »artificiell intelligens«. Egentligen tror jag att maskininlärning är ett ord som leder mer rätt. System som kan ta in våldsamt stora mängder information och gå igenom den på ett ögonblick för att sedan redovisa resultatet i ett användargränssnitt som är anpassat för människor.

Men det finns naturligtvis risker med AI. EU har därför infört ett nytt regelverk för dess användning. Detta har dock ett undantag för polis och underrättelseväsen. Vilket råkar vara två områden där utrymmet för missbruk av tekniken är uppenbart.

Vilket även gäller statsapparaten i ett bredare perspektiv. Det är först nu som tekniken existerar för verkligt bred massövervakning, sociala kreditsystem, klimatkrediter och analys av vad som rör sig i folkdjupet. Detta är verktyg som kan användas av makthavare för att uppnå politiska mål och föra samhället i en mer auktoritär riktning.

I veckan klubbade riksdagen igenom en lag som – inom vissa gränser – tillåter polisen att använda kamerabevakning med automatiserad ansiktsigenkänning i realtid. Vilket sedan kan kopplas till olika databaser, datalagring och uppgifter som kan hämtas in online. Europol har redan fått rätt att bereda sig tillgång till information ur privata aktörers databaser.

Övervakningsstaten väver en allt tätare väv – under förevändningen att det är för att skydda oss från gängvåld, terrorister, farsoter och annat som vi är rädda för. Men som Hannah Arendt påpekar i sitt standardverk om den totalitära statens rötter…

»Brott mot de mänskliga rättigheterna kan alltid rättfärdigas med förevändningen att det rätta är lika med det som är bra eller nyttigt för helheten i kontrast till delarna.«

De flesta diktatorer och auktoritära system (förutom rena kleptokrater) menar sig verka för en god, större sak. För vilken man inte accepterar att enskilda individer står i vägen eller uppvisar bristande entusiasm.

Det finns mycket goda skäl för att rätten till privatliv är en grundläggande mänsklig rättighet. Information är makt. Och den stat som vet för mycket om sina medborgare kan även kontrollera dem, förtrycka oppositionella och befästa sin makt.

De grundläggande mänskliga rättigheternas funktion är att skydda individen mot övergrepp från staten. Därför är det oroväckande när staten (genom politiken) steg för steg inskränker och gör avsteg från dessa rättigheter.

Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.

CC0

Riksdagen ger grönt ljus för automatisk ansiktsigenkänning

av

Riksdagen har röstat ja till att låta polisen använda AI-teknik för automatiserad ansiktsigenkänning i realtid.

Som vanligt säger man att den här tekniken bara skall användas i allvarliga fall. Vi får väl se hur det blir med den saken. Övervakningslagar tenderar att utökas såväl vad gäller syfte som metod.

Detta är en teknik som EU:s AI-förordning egentligen förbjuder – men samtidigt tillåter genom undantag för brottsbekämpande myndigheter. Ett undantag som utnyttjas till fullo i den nu klubbade lagen.

Med detta beslut urholkas argumentet att den som har rent mjöl i påsen inte har något att frukta. Används denna teknik måste man skanna allas ansikten för att hitta den man söker.

Från Storbritannien vet vi att tekniken återkommande har identifierat fel personer, vilket har lett till att oskyldiga stoppats, visiterats eller frihetsberövats. Tekniken tycks ha särskilt stora problem med att identifiera etniska minoriteter och kvinnor korrekt.

Beslutet väcker frågor om hur tekniken kan komma att kopplas samman med andra databaser och analysplattformar, till exempel det ökända och kritiserade Palantir.

Detta är i praktiken en avgrening från det EU-finansierade INDECT-projektet (2009-14), vars syfte var att utveckla intelligenta system för att automatiskt upptäcka hot och brottslighet i urbana miljöer. Projektet knöt samman övervakningskameror, internet och databaser för att identifiera och flagga för »avvikande beteenden«. Därför blir frågan om hur den nya tekniken kopplas till andra analys- och övervakningssystem särskilt intressant.

(När jag arbetade för Piratpartiet i Europaparlamentet försökte vi stoppa EU:s finansiering av INDECT.)

• Riksdagen: Polisens användning av AI för ansiktsigenkänning i realtid »

CC0

Det EU ser och inte ser

av

EU:s digitala politik motverkar sina egna mål och skrämmer bort nyföretagande.

EU:s nya app för åldersverifiering riskerar att öka beroendet av Apple och Google. Samtidigt säger man sig vilja minska vårt beroende av amerikansk Big Tech.

Man utesluter andra OS trots att EU-kommissionen har upphöjt ökad interoperabilitet till ett honnörsord i sina nya regleringar.

Det är svårt att få EU-ledarnas ord och handling att gå ihop.

Det är inte heller som att man gör det lättare för europeiska företag att slå sig in på marknaden. Eller att ens starta.

Det är bara Big Tech som har resurser nog att hantera all den compliance som följer med EU:s Digital Services Act och Digital Markets Act.

Det är en helt ny byråkrati som byggs upp i Bryssel och som förgrenar sig ut i medlemsstaterna när teknik, pappersexercis och innehåll skall regleras och kontrolleras.

Regelverken är ofta vaga kring vilket innehåll plattformarna förväntas agera mot. Men mycket tydliga med att företagen kan drabbas av astronomiska böter om de inte följer de politiska signalerna.

Jag håller fast vid min tes att politikerna inte begriper vad de sysslar med. De gör saker för att de låter bra – även om de i praktiken är verklighetsfrånvända.

De förstår inte att de skapar oväntade (well…) och oönskade konsekvenser. Deras utopiska idéer blockerar deras varseblivning.

Priset vi får betala är att Europa hamnar på efterkälken när företag etablerar sig i länder med rimligare lagstiftning och mindre byråkrati.

CC0

Europol bryter mot lagen – igen

av

Europol fortsätter att lagra stora mängder persondata i strid mot lagen. Och det är inte första gången.

Redan tidigare har Europol avslöjats med att lagra mer persondata än vad som är tillåtet. Då har man löst det genom att ändra lagen i efterhand. Europol har de senaste åren också fått utökat mandat. Trots detta klarar man inte att hålla sig inom lagens ramar.

Den här gången anklagas Europol för att använda ett informellt/skugg-IT-system utanför officiella regelverk. Systemet skall ha använts för att lagra och analysera stora mängder persondata, inklusive sådan som inte får sparas enligt EU-lag. Problemet rör särskilt bristande kontroll, transparens och rättslig grund för databehandlingen.

Vissa anställda menar att myndigheten »skyddar lagen samtidigt som den bryter mot den«. EU:s datatillsynsmyndighet (EDPS) har tidigare kritiserat Europol för olaglig lagring av stora datamängder. Trots detta tycks liknande verksamhet ha fortsatt via andra system.

Detta väcker frågor om rättssäkerhet, proportionalitet och tillsyn. Och det kommer lagom till att politiken vill utöka Europols mandat – igen. Samt dubbla dess budget.

Computer Weekly rapporterar:

»Previously unseen evidence indicates that vast volumes of sensitive data were made available to Europol’s analysts via the CFN [Computer Forensic Network], a system with significant security and privacy flaws that did not fully log who accessed data, or whether it had been modified or deleted. For years, it operated without effective official scrutiny, even as it became central to the agency’s analytical work.«

»Within a few years, though, the CFN evolved far beyond its original purpose, becoming what one former senior official described as a “black hole” for unregulated data analysis by Europol’s cyber crime unit. Large volumes of data could be stored and analysed with fewer constraints than in the agency’s formal systems.«

Det förefaller som att den europeiska polismyndigheten verkar utom demokratisk kontroll, trots att den redan har fått nästan allt den har pekat på.

Läs mer i Computer Weeklys granskning:
• ‘They protect the law while breaking it’: Inside Europol’s shadow IT system »

Relaterade tidigare bloggposter:
• Europol får fortsätta registrering av icke misstänkta (februari 2022) »
• EU gör Europol till ett europeiskt NSA (maj 2022) »
• Europol får utökat mandat för övervakning (maj 2022) »
• EU vill göra Europols olagliga registrering av icke misstänkta laglig (januari 2022) »
• Europol ges tillgång till persondata hos internetoperatörerna (oktober 2021) »

CC0