Femte juli

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

EU:s demokratisköld – skydd mot ryssen eller folket?

av

Blir EU:s nya demokratisköld ett skydd mot yttre krafter som vill skada oss – eller ett verktyg för att kontrollera och styra informationslandskapet?

På tisdag förmiddag nästa vecka (15/9) skall Europaparlamentet debattera slutrapporten från specialutskottet för en europeisk demokratisköld (2025/2069(INI)). Någon tid för votering framgår dock inte av parlamentets dagordning i skrivande stund.

Den europeiska demokratiskölden har den ädla ambitionen att skydda oss mot otillbörliga påverkansförsök från yttre aktörer som vill oss illa – men också mot desinformation och manipulation av informationsmiljön i vidare mening. Och det är den senare delen som väcker frågor.

Den europeiska demokratiskölden är ett märkligt djur. Detta är huvudsakligen ett handlingsprogram, inte ett enskilt lagförslag. Kommissionens egen tracker klassar den uttryckligen som ett »non-legislative initiative« som redan är antaget. En del kan genomföras administrativt, medan sådant som kräver ny lagstiftning senare får gå den vanliga lagstiftningsvägen.

Europaparlamentets rapport är egentligen bara en åsiktsyttring. Men den avslöjar hur man tänker och den kan ge kommissionen dumma idéer. I delar går rapporten längre än vad kommissionen föreslagit. Den är framtagen av ett tillfälligt specialutskott, med den svenske moderaten Tomas Tobé som rapportör.

Så vad är det då som föreslås i parlamentets rapport?

TLDR: EU:s demokratisköld börjar som ett försvar mot främmande makts hemliga påverkansoperationer. Men Europaparlamentets rapport går längre. Den vill bland annat använda EU:s Digital Services Act för att motverka även inhemsk »desinformation«, begränsa vissa rekommendationsalgoritmer, ge större synlighet åt »verifierade källor« och demonetarisera innehåll som klassificeras som desinformation.

Några nedslag:

• Man vill ge det nyinrättade European Centre for Democratic Resilience en bindande rättslig grund, egen budget och en styrningsmodell där medlemsstaterna är representerade.

• European Centre for Democratic Resilience skall integreras i eller knytas samman med bland annat databaser över utländsk påverkan (FIMI), EU:s Rapid Alert System, EUvsDisinfo, European Digital Media Observatory och andra EU-organ. Det innebär i praktiken att olika system för att upptäcka informationspåverkan och för plattformstillsyn knyts närmare varandra.

• Demokratiskölden omfattar också ett europeiskt nätverk av faktagranskare och stöd till European Digital Media Observatory (EDMO). Problem kan uppkomma om EU-finansierade eller EU-erkända bedömningar används för att påverka synlighet, rekommendationer eller modereringsbeslut på privata plattformar.

• Rapporten vill skydda undersökande journalister och fria, oberoende medier samt ge ambitiös finansiering genom EU-programmet AgoraEU. Här uppstår frågor om politisk styrning genom finansiering och principen om armlängds avstånd mellan politik och media.

• Rapporten kopplar demokratisk motståndskraft till ett starkare civilsamhälle och vill även där använda AgoraEU-finansiering. Den öppna frågan är: Vilka organisationer betraktas som demokratistärkande, vem väljer dem och efter vilka kriterier?

• Man vill se skärpta regler och ökad transparens vad gäller politisk annonsering och politisk finansiering.

• Rapporten vill att Digital Services Acts (DSA) riskhantering skall kunna användas för att begränsa engagemangsbaserade rekommendationsalgoritmer och efterlyser samtidigt »due prominence« för oberoende pluralistiska medier och »verified sources«. Man nöjer sig alltså inte med att kräva transparens kring algoritmer, utan öppnar för att påverka hur lagligt innehåll rangordnas och vilka källor som skall ges större synlighet. (Den frågan kommer upp i samband med översynen av Direktivet om audiovisuella medietjänster, AVMSD.)

• Rapporten talar uttryckligen om att »demonetise disinformation«. Ekonomiska incitament kring det som klassificeras som desinformation skall begränsas.

• EU:s »Code of Practice on Disinformation« har integrerats i DSA-systemet och beskrivs som ett relevant riktmärke vid bedömningen av om plattformarna uppfyller DSA. Det som började som en frivillig uppförandekod har därmed blivit betydligt mindre frivillig när den används som måttstock inom ett regelverk där kommissionen kan utdöma mycket stora böter.

• Kommissionens planerade »DSA incidents and crisis protocol« välkomnas. Plattformar skall reagera snabbt med »preventive and corrective measures« vid manipulation eller valpåverkan, och myndigheter skall snabbt ingripa vid bristande efterlevnad. Att reagera på och bemöta otillbörlig påverkan är naturligtvis bra. Men förebyggande ingripanden i informationsflöden kring politiskt känsliga händelser känns som en betydligt knepigare fråga. Vad? Hur?

• Rapporten vill motverka koordinerade falska konton och låta plattformarna kontrollera att en människa finns bakom ett konto. Men den säger samtidigt att anonymitet online skall bevaras för bland annat journalister, aktivister, visselblåsare, dissidenter och politiska motståndare. Även satiriska konton skall få finnas kvar.

• Kommissionen och tillsynsmyndigheterna skall systematiskt undersöka och offentligt exponera dolda desinformationskampanjer som utnyttjar generativ AI. EU:s AI Office skall dessutom bidra med metoder och säkerhetsarbete kring stora språkmodeller.

• Man pekar särskilt ut meddelande-appen Telegram. Rapporten vill undersöka dess roll i bland annat kriminalitet, valpåverkan, spridning av desinformation, extremism och terroristinnehåll samt vill att alla tillämpliga EU-regler om bland annat innehållsmoderering tillämpas.

Och mycket annat. Ömsom vin, ömsom vatten.

Om jag skall plocka ut en sak är det att vi ser konturerna av en EU-politik där frågan inte längre är vilket innehåll som skall tas bort, utan också vilket innehåll och vilka källor som skall ges större synlighet. Det vill säga att vissa – av staten definierade medier eller typer av medieinnehåll – lyfts fram framför annat innehåll.

Redan begreppet »informationsmiljöns integritet« väcker en principiell fråga: Är statens uppgift att skydda människor mot främmande makts manipulation – eller att skydda själva informationsmiljön från information som myndigheterna anser vara felaktig eller obekväm?

Vi har tidigare beskrivit EU:s Demokratisköld som ett försök att bemöta desinformation med byråkrati. Vilket känns som en tveksam idé, då det på riktigt är viktigt att identifiera och bemöta utomstående krafters försök att skada oss, destabilisera vårt samhälle och sprida felaktig information om viktiga saker.

Kommer alla dessa olika, samverkande nya administrativa enheter att kunna sköta uppdraget på ett effektivt sätt – med respekt för grundläggande fri- och rättigheter? Eller kommer det att bli samma ineffektiva byråkrati som vanligt?

Kommer man att kunna motstå frestelsen att kontrollera och styra informationslandskapet för egna syften?

Europaparlamentets rapport om EU:s demokratisköld väcker fler frågor än den besvarar.

• Europaparlamentet: Findings and recommendations of the Special Committee on the European Democracy Shield (2025/2069(INI)) »

• Europaparlamentet: Special committee adopts proposals to improve the European Democracy Shield »

Tidigare bloggposter:
• EU:s nya demokratisköld tycks mest bestå av byråkrati (december 2024) »
• EU:s demokratisköld – demokratins bröstvärn eller sanningsministerium? (november 2025) »
• EU:s Demokratisköld – skydd eller åsiktskontroll? (juni 2026) »

CC0

Brottsprovokation och anonyma vittnen är en farlig kombination

av

Staten föreslås få provocera fram brott. Samtidigt har det blivit tillåtet med anonyma vittnen i våra domstolar. Vad kan möjligen gå fel?

Lagar kan inte betraktas isolerade. I kombination med annan lagstiftning kan de få synergieffekter, oväntade konsekvenser och medföra oönskade risker.

I går skrev vi om regeringens förslag om »särskilda provokativa åtgärder« – det vill säga brottsprovokation som kan leda till att någon förmås att begå ett brott, uppmuntrad av myndigheterna. Kombinera det med att det sedan 1 januari 2025 också är tillåtet med anonyma vittnen i våra domstolar. Då uppstår en helt ny dynamik.

Brottsprovokation kan leda till att en person begår ett brott som annars inte hade begåtts. Och anonyma vittnen innebär att du kan bli anklagad för något – utan att få veta vem som lämnar belastande uppgifter mot dig och att du därmed inte heller kan bedöma den personens trovärdighet och motiv. Vilket begränsar din möjlighet att försvara dig.

Din försvarsadvokat får då svårare att ställa frågor om exempelvis vittnets bakgrund, dolda motiv eller personliga relation till dig – eftersom frågor som kan avslöja vittnets identitet kan stoppas.

Ur ett utredningstekniskt perspektiv kan det rent av vara extra angeläget att skydda identiteten på den som varit del av en brottsprovokation. Det gör det än svårare att bedöma om polisen huvudsakligen observerade en redan existerande brottslig avsikt eller faktiskt skapade brottet.

Polisen kan alltså ha provocerat fram situationen och sedan bli den viktigaste källan till vad som egentligen hände. Åklagarsidan känner till operationen, aktörerna och bakgrunden. Försvaret måste samtidigt kunna ifrågasätta om staten gått för långt – utan att ha full tillgång till samma information.

Utredningen om brottsprovokation (SOU 2025:109) tar själv upp beröringspunkterna mellan provokativa åtgärder och anonyma vittnen. Den hänvisar bland annat till Europadomstolens Lüdi-mål, där artikel 6 (rätt till en rättvis rättegång) kränktes eftersom den tilltalade och hans advokat inte fick möjlighet att förhöra den polis som infiltrerat verksamheten.

Utredningen skriver vidare att det inte bör kunna undanhållas den misstänkte att ett tillslag kommit till efter provokativa åtgärder av en infiltratör, särskilt om infiltratören haft en central och aktiv roll. Utredningen konstaterar samtidigt att detta ofta innebär att även provokatörens identitet blir uppenbar – vilket inte alltid ligger i polisens intresse.

Provokation och anonyma vittnen kan förstärka varandras rättssäkerhetsproblem. Ju större roll staten själv har spelat för att skapa den situation som utgör bevisningen, desto starkare blir argumentet för full insyn i hur situationen skapades och vem som skapade den.

Resultatet kan annars bli att enskilda individer hamnar i rent Kafka-artade situationer.

• Brotts- eller bevisprovokation – vad vill regeringen? »
• Nu införs anonyma vittnen i våra domstolar »

CC0

Fråga politikerna om övervakningsstaten

av

Med risk för att tjata – använd valrörelsen för att fråga politikerna om massövervakningen. Här är en frågeställning som uppmuntrar till eftertanke:

»Övervakningsstaten växer ständigt. Vid vilken punkt anser du att det blir ett problem för vår demokrati och vårt samhälle? Varför och hur?«

För inte skall väl de politiker som rullar ut en aldrig tidigare skådad övervakningsstat kunna göra det i tystnad?

Ta chansen att fråga dem nu när de är ute och möter folk. Innan de återvänder till sin bubbla i fyra år till.

CC0

Åldersgränser online och AI-frågor på gång i EU

av

EU återstartar efter sommaren. Kommissionsordförande Ursula von der Leyens linjetal i Europaparlamentet förväntas bland annat handla om åldersgränser online och unionens AI-politik.

Nu börjar EU-apparaten vakna till liv igen efter sommaruppehållet. Europaparlamentet startar med två veckor utskottsarbete och vi väntar på besked om när trilogförhandlingarna om Chat Control 2 skall återupptas.

Den 14-17 september sammanträder Europaparlamentet i Strasbourg.

Kl 09:00 onsdagen den 16 september håller EU-kommissionens ordförande Ursula von der Leyen sitt årliga »State of the Union«-tal.

Då väntas hon – bland mycket annat – presentera ett konkret förslag om åldersrestriktioner för sociala medier och vissa andra digitala tjänster.

Man kan också räkna med besked om hur medlemsstaternas nationella versioner av EU:s app för ålderskontroll, en så kallad mini-wallet, skall rullas ut och användas i praktiken. Dess autentiseringsskydd har dock redan kunnat kringgås.

Samtidigt har idén om åldersgränser för sociala medier stött på patrull och blivit allt mer ifrågasatt i olika länder som aktualiserat den.

AI sägs också få en framträdande plats i talet. Då kan vi kanske få besked om hur EU:s AI Act skall hanteras – efter att EU nyligen antog sitt »AI Omnibus«-paket för att förenkla de tidigare antagna reglerna, minska administrationen och göra förordningen mer innovationsvänlig.

Det kan även komma mer information om EU:s »Apply AI Strategy« som är tänkt att öka användningen av AI i Europa – och dess »AI-first policy«, som innebär att företag och myndigheter uppmanas att först överväga om och hur AI kan användas när de utvecklar nya system och tjänster.

Sedan har vi »RAISE – Resource for AI Science in Europe«, ett slags virtuellt europeiskt institut som skall samordna datorkraft, data, kompetens och finansiering för AI-baserad forskning. Detta omfattar bland annat 600 miljoner euro för tillgång till datorkraft samt planer på att öka Horizon Europes årliga AI-investeringar till över tre miljarder euro.

Även det nya lagförslaget »Cloud and AI Development Act« (CADA), som kommissionen lade fram i juni, kan komma upp. Det syftar bland annat till europeisk moln- och AI-suveränitet. Förslaget går ut på att minst tredubbla EU:s kapacitet för datacentrum inom fem till sju år.

Vi har också EU:s »AI Continent Action Plan« som bland annat omfattar EU-stödda »AI Factories« kring europeiska superdatorer och ett mindre antal betydligt större »AI Gigafactories« för träning av mycket avancerade modeller.

Sedan har vi den nyligen presenterade »Action Plan on Cybersecurity and AI«. Den är ett samarbete mellan kommissionen, medlemsstaterna och cybersäkerhetsorganet ENISA. Syftet är att utöka Europas kapacitet att utvärdera avancerade AI-modeller, skydda AI-system mot angrepp och använda AI för att upptäcka cyberhot.

Och så har vi förra veckans beslut att klassificera ChatGPT som en mycket stor sökmotor enligt EU:s Digital Services Act, med de ytterligare skyldigheter och konsekvenser som följer av detta.

Nu återstår att se om von der Leyen lyckas ta något slags helhetsgrepp på denna djungel av AI-reglering och AI-initiativ. Bli inte förvånad om hon flaggar för mer reglering.

CC0

GRANITE ACT – USA:s motdrag mot utländsk nätcensur

av

USA:s GRANITE Act är tänkt att skydda amerikanska medborgare och företag mot utländsk censur. Det kan fungera för små onlineplattformar. Men de stora sociala medierna sitter ändå fast i EU:s regelverk.

I USA börjar nu behandlingen av lagförslaget om en »GRANITE Act«.

Tanken är att hindra utländska myndigheter från att använda amerikanska domstolar för att tvinga fram censur mot amerikanska medborgare och företag.

Enligt förslaget förbjuds amerikanska domstolar att erkänna eller verkställa utländska domar, böter, order eller krav vilka grundar sig på utländska censurlagar som krockar med det amerikanska grundlagsskyddet för yttrandefrihet (First Amendment).

Lagen omfattar inte bara domstolsbeslut utan även administrativa böter och krav som skickas direkt från utländska tillsynsmyndigheter (exempelvis brittiska Ofcom eller EU).

Amerikanska personer eller plattformar som drabbas av utländska censurkrav får rätt att stämma den utländska myndigheten i en federal amerikansk domstol, för att få fastslaget att kravet inte får verkställas i USA.

Lagen ger dock inte rätt till skadestånd eller beslag av utländska tillgångar.

Detta är alltså framför allt en amerikansk verkställighetsspärr, inte ett förbud mot utländsk reglering. Den försvarar amerikanskt territorium och amerikanska domstolar mot att användas som indrivnings- eller verkställighetsorgan.

Den löser däremot inte problemet med den så kallade Brysseleffekten, där amerikanska plattformar ändrar sina globala regler för att slippa sanktioner eller behålla tillgången till den europeiska marknaden.

GRANITE Act har lagts fram som ett direkt svar på att utländska internetregleringar, framför allt Storbritanniens Online Safety Act, har börjat tillämpas globalt.

Den brittiska mediemyndigheten Ofcom har utfärdat hundratals kravbrev till amerikanska teknikbolag och bötfällt amerikanska sajter som 4chan, vilket i USA ses som ett direkt hot mot deras konstitutionella rättigheter.

Även EU:s Digital Services Act, dess extraterritoriella räckvidd och möjligheten till böter på upp till sex procent av den globala årsomsättningen hör till den politiska bakgrunden. Det innebär dock inte att varje DSA-beslut automatiskt kan betraktas som ett censurbeslut enligt GRANITE Act.

Här kan man notera att de flesta större sociala medier har europeiska dotterbolag, ofta på Irland. Och de lär knappast skyddas av den nya amerikanska lagen.

Om ett beslut under DSA riktas mot ett europeiskt koncernbolag, en europeisk etablering eller tillgångar som tillhör den ansvariga juridiska personen, kan det fortfarande verkställas inom EU. GRANITE Act skyddar alltså inte koncernens europeiska verksamhet eller tillgångar mot europeiska sanktioner.

Då GRANITE Act inte tillåter beslag av utländska tillgångar som motåtgärd, lämnas dotterbolag i till exempel EU alltså fortfarande öppna för europeiska sanktioner.

Vilket innebär att sociala medier och andra plattformar inte skyddas så väl av den nya lagen som man först kan få intryck av.

Eftersom lagen bara skyddar verksamheten i USA, tvingas de stora teknikbolagen i praktiken att välja mellan tre spår om EU:s krav blir alltför hårda:

Geografisk blockering: Att helt stänga av vissa funktioner eller blockera specifikt innehåll för användare i Europa, medan det förblir fritt tillgängligt i USA.

Separata system: Att helt skilja på den amerikanska och den europeiska versionen av plattformen, så att europeiska censurregler inte smittar av sig på vad amerikaner får se.

Lämna marknaden: För mindre plattformar (som 4chan, Kiwi Farms, Rumble och Gab) är det ofta för dyrt att anpassa sig eller driva rättsprocesser i Europa. De kan då välja att dra sig ur den europeiska marknaden och lita på det amerikanska skyddet mot verkställighet. (Om de fortsätter att rikta sina tjänster till EU omfattas de dock fortfarande formellt sett av DSA.)

För de stora teknikjättarna (som Meta, Google, Microsoft och Apple) är det extremt svårt att undvika EU:s regelverk.

DSA innehåller visserligen inget enkelt förfarande för att permanent förbjuda en utländsk plattform. Däremot kan en nationell domstol under vissa förutsättningar besluta om tillfälliga, förlängningsbara begränsningar av åtkomsten till tjänsten.

Och om en plattform klipper alla band med EU och vägrar inställa sig i rättsprocesser, blir de tillfälliga blockeringarna och de ekonomiska sanktionerna ett permanent tillstånd som i praktiken stänger dem ute från marknaden.

Vidare tjänar de stora bolagen miljarder på europeiska annonsörer och prenumeranter.

Om de fysiskt drar sig ur EU kan europeiska företag förbjudas att köpa annonser på plattformarna. Europeiska banker och kreditkortsföretag kan tvingas stoppa betalningar. Och Apple App Store och Google Play Store i Europa skulle tvingas ta bort respektive plattforms appar.

Enligt artikel 13 i Digital Services Act måste en plattform som saknar etablering i EU men erbjuder tjänster inom unionen utse en rättslig representant här. Om man vägrar bryter man mot förordningen. Det ger medlemsstaterna (och för de största plattformarna även kommissionen) möjlighet att ingripa och utfärda sanktioner.

Så att »fly« till USA kan kanske fungera för mindre plattformar som drivs av ideologi och som inte är beroende av den europeiska annonsmarknaden.

Men för de börsnoterade jättarna är den europeiska marknaden helt enkelt för lönsam för att de skall stänga dörren och flytta ut.

VPN kan hjälpa användarna att kringgå geografiska spärrar, men löser inte plattformarnas juridiska eller kommersiella problem.

Jokern i leken är hur allt detta passar in i de aktuella transatlantiska relationerna och i vilken mån USA ser DSA (med mera) som handelshinder. Det är ju väl känt att den amerikanska administrationen har åsikter om yttrandefriheten i Europa.

• Federal GRANITE Act Aims to Shield Americans From Foreign Censorship »

CC0

Med DSA tar EU kontroll över ChatGPT

av

Open AI:s ChatGPT tvingas in under EU:s Digital Services Act. Kommer vi i Europa att få en urvattnad AI-light på grund av politisk styrning och mer byråkrati?

EU-kommissionen meddelar:

»Today, the Commission has designated ChatGPT as a Very Large Online Search Engine (VLOSE), as well as Reddit and Roblox as Very Large Online Platforms (VLOPs), under the Digital Services Act (DSA). These services declared that they reach at least 45 million average monthly users in the EU and thus meet the threshold for designation.

Following the notification of the designations, these services have four months, i.e. by January 2027, to comply with the additional DSA obligations for VLOPs and VLOSEs, such as assessing and mitigating the systemic risks stemming from their service and algorithmic systems related to the dissemination of illegal content, the negative effects on minors, users’ physical and mental well-being, fundamental rights, electoral processes and public security.«

DSA vs. Reddit kan bli annorlunda och intressant. Men låt mig här fokusera på DSA vs. ChatGPT.

EU-kommissionen tänker alltså reglera ChatGPT med en lag som skrevs innan modellen ens existerade. Dessutom omfattas OpenAI redan av AI Act, som har ett delvis annat regelverk och en annan tillsynsstruktur.

Låt oss börja med att fråga oss hur detta är tänkt att gå till.

DSA föreskriver inte exakt hur ChatGPT skall förändras. Men dess breda och vaga krav på att begränsa systemrisker ger kommissionen och OpenAI starka incitament att välja försiktiga, restriktiva och byråkratiskt försvarbara lösningar.

För att motverka systemrisker, desinformation och olagligt innehåll kommer modellen att behöva tränas grundligt med mänsklig feedback. Så att den vägrar svara på skadliga instruktioner. I sammanhanget måste någon avgöra vad som skall anses vara sant respektive falskt, vilket inte alltid är helt uppenbart. Men det sker väl redan i någon mening.

Ett automatiserat system behöver skanna användarens fråga innan den når AI:n och skanna AI:ns svar innan det visas för användaren. Detta för att blockera till exempel skadligt eller olagligt innehåll och hatretorik.

När ChatGPT söker på webben kommer algoritmerna att behöva prioritera att hämta information från betrodda nyhetsmedier och officiella källor – för att förhindra spridning av rykten, speciellt i samband med val.

Risken är alltså att AI-modellen i högre grad kommer att prioritera regulatorisk riskminimering framför maximal nytta för användaren.

Detta kan även skapa tryck på OpenAI att införa ålderskontroller och särskilda begränsningar för minderåriga. I värsta fall kan sådana kontroller utvecklas till ett allmänt ID-krav för att få tillgång till vissa svar.

Compliance kommer att kräva ett helt nytt lager av byråkrati. Oberoende (men av EU godkända) externa revisorer kommer minst en gång om året att behöva granska OpenAI:s efterlevnad, riskbedömningar och riskbegränsande åtgärder. De skall ges tillgång till relevanta data och lokaler. Kommissionen kan dessutom kräva förklaringar av algoritmsystemens konstruktion, logik, funktion och testning.

Det är ännu oklart hur DSA:s traditionella system för anmälningar, motiveringar och överklaganden skall kunna överföras till en tjänst som genererar nya svar i realtid.

Det finns skäl att tro att detta blir tungrott.

Traditionella plattformar modererar genom att ta bort specifika inlägg eller blockera användare. En LLM genererar unikt innehåll i realtid baserat på sannolikheter.

Kritiker menar att det är tekniskt omöjligt för OpenAI att garantera att modellen aldrig genererar »skadligt innehåll«, eftersom ett unikt genererat svar inte kan modereras på samma sätt som ett redan publicerat foruminlägg.

DSA kan även tvinga OpenAI att lämna ut interna data till myndigheter och forskare. Vilka ChatGPT-data detta kan omfatta är ännu oklart. Eftersom tjänstens rådata kan bestå av privata konversationer väcker reglerna särskilt känsliga frågor om personuppgifter, anonymisering och företagshemligheter.

Man kan i sammanhanget notera att ChatGPT på grund av sin popularitet drabbas av fler regler och mer byråkrati än mindre konkurrenter som inte når DSA:s tröskelvärde.

Nu är frågan om ChatGPT kommer att räta in sig i EU-ledet. I så fall är nästa fråga om man kommer att göra de aktuella förändringarna globalt eller om vi i EU kommer att få något slags urvattnad, modererad och begränsad light-variant.

Ju mer styrning vi får, desto färre tankar, idéer och metoder kan prövas mot varandra. Vilket rimligen påverkar utvecklingen negativt.

Men politikernas kontrollbehov tycks vara oändligt.

»Det är viktigt att politiken tar kontroll över utvecklingen«, som Magdalena Andersson sa om internet.

• EU-kommissionen: Commission designates ChatGPT, Reddit, Roblox under Digital Services Act »

Slut på rättslösheten för YouTubes kreatörer?

av

Amerikanska FTC undersöker om YouTube följer sina egna användarvillkor när företaget begränsar innehåll eller stänger av kanaler. Samtidigt kräver EU att användarna skall kunna överklaga sådana beslut.

Man ser ibland hur människor som driver YouTube-kanaler kan få dem stängda utan någon rimlig motivering. (Ibland på grund av organiserade och felaktiga massanmälningar.)

Frågan granskas nu av det amerikanska tillsynsorganet FTC. Myndigheten inledde förra året en bred granskning av hur plattformar har stängt av, demonetiserat, nedprioriterat eller på andra sätt begränsat användare. Som politisk bakgrund finns bland annat modereringen under pandemin och efter det amerikanska presidentvalet 2020.

Nu uppges FTC utreda om YouTube har brutit mot konsumentskyddslagstiftningen genom att stänga av konton eller nedprioritera innehåll i strid med sina egna regler.

Vilket är ett problem som drabbar många vanliga Youtube-kreatörer. Reglerna är otydliga och de tillämpas inte konsekvent. Människor lämnas rättslösa.

Den rättsliga princip som FTC tycks utgå från är att YouTube måste följa de användarvillkor som företaget presenterar för sina användare. Man betraktar det alltså främst som en fråga om konsumentskydd, snarare än yttrandefrihet.

Myndigheten granskar därför om YouTubes användarvillkor har fått kreatörer att tro att visst innehåll är tillåtet, för att de sedan plötsligt får sina videor raderade eller sina kanaler nedstängda.

FTC-ordföranden Andrew Ferguson har sammanfattat principen ungefär så här: Ett företag får i stor utsträckning bestämma sina egna regler, men måste sedan följa de regler som det har presenterat för konsumenterna.

Om FTC väljer att gå vidare måste myndigheten visa att YouTube har vilselett eller behandlat användarna på ett oskäligt sätt. YouTube kan då behöva förklara och dokumentera hur reglerna har formulerats och tillämpats och hur överklagandena faktiskt har hanterats.

Här i Europa har vi EU:s Digital Services Act (DSA), som bland annat kräver att YouTube (m.fl.) lämnar en klar och konkret motivering till varför innehåll begränsas eller ett konto stängs av. Användaren skall även erbjudas en kostnadsfri intern överklagan som behandlas omsorgsfullt och inte enbart avgörs med automatiserade medel.

Det finns även möjlighet till extern tvistlösning. I en tidig redovisning från Appeals Centre Europe fick användarna rätt i mer än tre fjärdedelar av de avgjorda ärendena mot Facebook, TikTok och YouTube. (I vissa fall berodde det på att plattformen inte hade lämnat över det aktuella materialet för prövning.) Tvistlösningsorganens beslut är dock inte bindande.

Vittnesmål om vaga standardsvar och närmast automatiska avslag tyder på att YouTube åtminstone delvis ignorerar DSA:s krav. Vilket förmodligen beror på den mycket stora mängden ärenden.

Än så länge har EU-kommissionen inte offentliggjort något konkret ingripande mot just YouTubes hantering av kanalstängningar och överklaganden. Vid systematiska överträdelser kan kommissionen dock besluta om böter på upp till sex procent av företagets globala årsomsättning.

Det intressanta är att FTC:s utredning och EU:s DSA utgår från samma grundläggande princip: Plattformarna måste ha tydliga regler, följa dem och erbjuda en verklig möjlighet till rättelse.

CC0

USA: Uppror mot kameraövervakning

av

I USA växer motståndet mot de kameror för registrering av fordon som dyker upp lite varstans. Motståndet tar sig uttryck i allt från juridisk kamp till civilt motstånd med människor som målar över och sågar ner kameror.

I USA har de hundratusentals övervakningskameror som satts upp av företaget Flock Safety mött motstånd. Det handlar om ett privat företag som driver ett mycket omfattande nät av automatiska registreringsskyltläsare, så kallade ALPR-kameror.

Kamerorna fotograferar i princip varje passerande fordon och registrerar bland annat registreringsnummer, tid och plats, bilmärke, modell, färg och karosstyp samt särskilda kännetecken som takräcken, dekaler, repor och saknade navkapslar.

Uppgifterna laddas upp till en sökbar molndatabas. Polisen kan sedan söka efter exempelvis ett visst registreringsnummer eller efter »röd pickup med takräcke«. Systemet kan också skicka automatiska larm när en bil på en bevakningslista passerar.

Detta underlättar naturligtvis polisens arbete. Men systemet väcker också obehag och principiella frågor. Dessutom har det i flera fall missbrukats.

Problemet är arkitekturen. För att hitta den lilla andel fordon som är intressanta registreras alla andra. Flock är inte bara ett nät av trafikkameror. Det är en sökmotor över människors rörelser, där bilen fungerar som identitetsmarkör.

En enstaka skyltläsare vid en brottsplats ger en ögonblicksbild. Hundratusentals sammankopplade kameror kan visa en persons resor, vanor, relationer och besök på exempelvis läkarmottagningar, kyrkor, demonstrationer eller politiska möten.

Det som är offentligt observerbart vid ett enskilt tillfälle är inte nödvändigtvis harmlöst när det automatiseras och görs sökbart över hela landet.

Washington Post har i en granskning identifierat närmare 70 poliser och tjänstemän som anklagats, åtalats eller dömts för att ha missbrukat Flock eller liknande system, till exempel för att spåra tidigare partners.

Många avtal har beslutats lokalt och presenterats som inköp av vanlig polisiär utrustning. Invånarna har inte alltid förstått att deras stad därmed blir en nod i ett större nätverk, vars uppgifter kan göras tillgängliga för myndigheter på andra håll.

Detta är sannolikt en central förklaring till vreden: Folk upplever att infrastrukturen vuxit fram i smyg och att de aldrig tillfrågats.

Medborgarrättsorganisationen ACLU driver kampanjen Get the Flock Out och har publicerat verktyg för att kartlägga avtal, begära ut sökloggar, påverka kommunpolitiker och kräva beslut om datalagring och tillgång. Det öppna projektet DeFlock har byggt en crowdsourcad karta över kamerornas placering.

Kommuner har sagt upp eller vägrat förnya Flock-avtal, täckt över kameror, infört moratorier, krävt domstolsbeslut för sökningar och begränsat delning med federala myndigheter. Hittills under 2026 har minst 56 städer avvisat eller sagt upp Flock enligt DeFlock och nyhetsrapporter visar att över 100 kommuner har stängt av sina kameror efter lokala protester.

Aktivister har spraymålat linser, täckt kameror, klippt kablar och sågat ner stolpar. Polisen har svarat med övervakning av aktivistkonton och även placerat ut attrapper för att gripa vandaler.

Men denna spektakulära del av motståndet är knappast den mest betydelsefulla. Den politiska press som får kommuner att säga upp avtalen är viktigare och svårare att avfärda.

Efter kritiken har Flock presenterat starkare kontrollsystem, automatisk upptäckt av misstänkt användning och en rekommenderad standardlagring på sju dagar istället för tidigare 30.

Men det förändrar inte grundproblemet – att en privatägd infrastruktur registrerar i huvudsak oskyldiga människors rörelser för att uppgifterna möjligen kan bli användbara senare.

CC0

Övervakningslagarna är farligare tillsammans än var för sig

av

De olika verktyg och regler för övervakning och kontroll som rullas ut är allvarliga nog var för sig. Tillsammans skapar de en närmast »perfekt storm«.

Datalagring (ett nytt EU-förslag väntas i vinter) kan visa vem som kommunicerar med vem, när och hur samt i vissa fall var – och gör det möjligt att kartlägga människors kontaktnät och bygga sociogram.

E‑bevis gör det möjligt för rättsliga myndigheter i ett EU-land att kräva att tjänsteleverantörer i ett annat land lämnar ut eller bevarar användaruppgifter med mera.

Europols utökade mandat ger myndigheten större möjligheter att ta emot, behandla och utbyta personuppgifter från privata företag och nationella myndigheter.

EU:s digitala identitetsplånbok och ålderskontroller bygger upp en infrastruktur där aktiviteter online förutsätter digitala identitets- eller åldersbevis. Det knyter allt fler aktiviteter online till identifierade personer.

Kameraövervakning med ansiktsigenkänning i realtid gör människor automatiskt identifierbara och lokaliserbara på allmänna platser.

Chat Control öppnar för granskning av innehållet i medborgarnas privata elektroniska meddelanden.

AI, biometrisk analys och samkörning av register gör stora informationsmängder sökbara och gör det möjligt att kartlägga människor även om de inte misstänks för brott.

Lägg sedan till den utökade användningen av preventiva tvångsmedel – och flera av statens övervakningsverktyg kan användas utan konkret misstanke om att en viss person har begått brott.

Vad kan möjligen gå fel?

CC0

Nu kan utländska myndigheter begära ut din persondata

av

Nu kan utländska myndigheter begära ut data direkt från svenska tjänsteleverantörer – även om de utreder något som inte är brottsligt här.

Förra veckan började EU:s e‑bevisförordning (2023/1543) tillämpas fullt ut. Den gör det möjligt för en behörig rättslig myndighet i ett EU-land att vända sig direkt till en tjänsteleverantör i ett annat medlemsland och kräva att elektroniska uppgifter lämnas ut eller bevaras.

Det kan till exempel handla om abonnentuppgifter, IP-adresser, trafikdata och i vissa fall innehåll i meddelanden.

Tidigare behövde en åklagare i ett EU-land vända sig till myndigheterna i det andra landet genom rättsbistånd eller en europeisk utredningsorder. Det gav myndigheterna i det verkställande landet möjlighet att pröva begäran. Med e‑bevisförordningen kan detta led i de flesta fall hoppas över.

På så sätt blir svenska leverantörer av IT-tjänster ansvariga för att verkställa utländska myndighetsbeslut genom bindande utlämnande- och bevarandeorder.

För vissa uppgifter gäller detta även om det som utreds inte bryter mot svensk lag. I många fall behöver svenska myndigheter inte ens underrättas.

En central fråga är om det går att lita på utländska myndigheter. Det saknas inte problem med korruption, politisering och bristande rättssäkerhet inom EU. E‑bevis kan med andra ord skapa nya möjligheter för missbruk, obehörig åtkomst och risk för att känsliga uppgifter hamnar i orätta händer.

Men den frågan är avskriven från dagordningen. E‑bevisförordningen bygger nämligen på principen om ömsesidigt förtroende mellan medlemsstaterna, det vill säga antagandet att samtliga EU-länder respekterar rättsstaten och de grundläggande rättigheterna. Detta ligger till grund för principen om ömsesidigt erkännande av varandras rättsliga beslut. Vilket möjligen är en smula naivt.

Detta är en del i ett bredare mönster. Europol har redan fått utökade befogenheter vad gäller att hantera persondata hos privata aktörer. Och EU:s Digital Services Act ger utländska myndigheter rätt att kräva att innehåll avlägsnas från svenska plattformar och servrar, även om det inte är olagligt här.

CC0