Femte juli

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

Med DSA tar EU kontroll över ChatGPT

av

Open AI:s ChatGPT tvingas in under EU:s Digital Services Act. Kommer vi i Europa att få en urvattnad AI-light på grund av politisk styrning och mer byråkrati?

EU-kommissionen meddelar:

»Today, the Commission has designated ChatGPT as a Very Large Online Search Engine (VLOSE), as well as Reddit and Roblox as Very Large Online Platforms (VLOPs), under the Digital Services Act (DSA). These services declared that they reach at least 45 million average monthly users in the EU and thus meet the threshold for designation.

Following the notification of the designations, these services have four months, i.e. by January 2027, to comply with the additional DSA obligations for VLOPs and VLOSEs, such as assessing and mitigating the systemic risks stemming from their service and algorithmic systems related to the dissemination of illegal content, the negative effects on minors, users’ physical and mental well-being, fundamental rights, electoral processes and public security.«

DSA vs. Reddit kan bli annorlunda och intressant. Men låt mig här fokusera på DSA vs. ChatGPT.

EU-kommissionen tänker alltså reglera ChatGPT med en lag som skrevs innan modellen ens existerade. Dessutom omfattas OpenAI redan av AI Act, som har ett delvis annat regelverk och en annan tillsynsstruktur.

Låt oss börja med att fråga oss hur detta är tänkt att gå till.

DSA föreskriver inte exakt hur ChatGPT skall förändras. Men dess breda och vaga krav på att begränsa systemrisker ger kommissionen och OpenAI starka incitament att välja försiktiga, restriktiva och byråkratiskt försvarbara lösningar.

För att motverka systemrisker, desinformation och olagligt innehåll kommer modellen att behöva tränas grundligt med mänsklig feedback. Så att den vägrar svara på skadliga instruktioner. I sammanhanget måste någon avgöra vad som skall anses vara sant respektive falskt, vilket inte alltid är helt uppenbart. Men det sker väl redan i någon mening.

Ett automatiserat system behöver skanna användarens fråga innan den når AI:n och skanna AI:ns svar innan det visas för användaren. Detta för att blockera till exempel skadligt eller olagligt innehåll och hatretorik.

När ChatGPT söker på webben kommer algoritmerna att behöva prioritera att hämta information från betrodda nyhetsmedier och officiella källor – för att förhindra spridning av rykten, speciellt i samband med val.

Risken är alltså att AI-modellen i högre grad kommer att prioritera regulatorisk riskminimering framför maximal nytta för användaren.

Detta kan även skapa tryck på OpenAI att införa ålderskontroller och särskilda begränsningar för minderåriga. I värsta fall kan sådana kontroller utvecklas till ett allmänt ID-krav för att få tillgång till vissa svar.

Compliance kommer att kräva ett helt nytt lager av byråkrati. Oberoende (men av EU godkända) externa revisorer kommer minst en gång om året att behöva granska OpenAI:s efterlevnad, riskbedömningar och riskbegränsande åtgärder. De skall ges tillgång till relevanta data och lokaler. Kommissionen kan dessutom kräva förklaringar av algoritmsystemens konstruktion, logik, funktion och testning.

Det är ännu oklart hur DSA:s traditionella system för anmälningar, motiveringar och överklaganden skall kunna överföras till en tjänst som genererar nya svar i realtid.

Det finns skäl att tro att detta blir tungrott.

Traditionella plattformar modererar genom att ta bort specifika inlägg eller blockera användare. En LLM genererar unikt innehåll i realtid baserat på sannolikheter.

Kritiker menar att det är tekniskt omöjligt för OpenAI att garantera att modellen aldrig genererar »skadligt innehåll«, eftersom ett unikt genererat svar inte kan modereras på samma sätt som ett redan publicerat foruminlägg.

DSA kan även tvinga OpenAI att lämna ut interna data till myndigheter och forskare. Vilka ChatGPT-data detta kan omfatta är ännu oklart. Eftersom tjänstens rådata kan bestå av privata konversationer väcker reglerna särskilt känsliga frågor om personuppgifter, anonymisering och företagshemligheter.

Man kan i sammanhanget notera att ChatGPT på grund av sin popularitet drabbas av fler regler och mer byråkrati än mindre konkurrenter som inte når DSA:s tröskelvärde.

Nu är frågan om ChatGPT kommer att räta in sig i EU-ledet. I så fall är nästa fråga om man kommer att göra de aktuella förändringarna globalt eller om vi i EU kommer att få något slags urvattnad, modererad och begränsad light-variant.

Ju mer styrning vi får, desto färre tankar, idéer och metoder kan prövas mot varandra. Vilket rimligen påverkar utvecklingen negativt.

Men politikernas kontrollbehov tycks vara oändligt.

»Det är viktigt att politiken tar kontroll över utvecklingen«, som Magdalena Andersson sa om internet.

• EU-kommissionen: Commission designates ChatGPT, Reddit, Roblox under Digital Services Act »

Slut på rättslösheten för YouTubes kreatörer?

av

Amerikanska FTC undersöker om YouTube följer sina egna användarvillkor när företaget begränsar innehåll eller stänger av kanaler. Samtidigt kräver EU att användarna skall kunna överklaga sådana beslut.

Man ser ibland hur människor som driver YouTube-kanaler kan få dem stängda utan någon rimlig motivering. (Ibland på grund av organiserade och felaktiga massanmälningar.)

Frågan granskas nu av det amerikanska tillsynsorganet FTC. Myndigheten inledde förra året en bred granskning av hur plattformar har stängt av, demonetiserat, nedprioriterat eller på andra sätt begränsat användare. Som politisk bakgrund finns bland annat modereringen under pandemin och efter det amerikanska presidentvalet 2020.

Nu uppges FTC utreda om YouTube har brutit mot konsumentskyddslagstiftningen genom att stänga av konton eller nedprioritera innehåll i strid med sina egna regler.

Vilket är ett problem som drabbar många vanliga Youtube-kreatörer. Reglerna är otydliga och de tillämpas inte konsekvent. Människor lämnas rättslösa.

Den rättsliga princip som FTC tycks utgå från är att YouTube måste följa de användarvillkor som företaget presenterar för sina användare. Man betraktar det alltså främst som en fråga om konsumentskydd, snarare än yttrandefrihet.

Myndigheten granskar därför om YouTubes användarvillkor har fått kreatörer att tro att visst innehåll är tillåtet, för att de sedan plötsligt får sina videor raderade eller sina kanaler nedstängda.

FTC-ordföranden Andrew Ferguson har sammanfattat principen ungefär så här: Ett företag får i stor utsträckning bestämma sina egna regler, men måste sedan följa de regler som det har presenterat för konsumenterna.

Om FTC väljer att gå vidare måste myndigheten visa att YouTube har vilselett eller behandlat användarna på ett oskäligt sätt. YouTube kan då behöva förklara och dokumentera hur reglerna har formulerats och tillämpats och hur överklagandena faktiskt har hanterats.

Här i Europa har vi EU:s Digital Services Act (DSA), som bland annat kräver att YouTube (m.fl.) lämnar en klar och konkret motivering till varför innehåll begränsas eller ett konto stängs av. Användaren skall även erbjudas en kostnadsfri intern överklagan som behandlas omsorgsfullt och inte enbart avgörs med automatiserade medel.

Det finns även möjlighet till extern tvistlösning. I en tidig redovisning från Appeals Centre Europe fick användarna rätt i mer än tre fjärdedelar av de avgjorda ärendena mot Facebook, TikTok och YouTube. (I vissa fall berodde det på att plattformen inte hade lämnat över det aktuella materialet för prövning.) Tvistlösningsorganens beslut är dock inte bindande.

Vittnesmål om vaga standardsvar och närmast automatiska avslag tyder på att YouTube åtminstone delvis ignorerar DSA:s krav. Vilket förmodligen beror på den mycket stora mängden ärenden.

Än så länge har EU-kommissionen inte offentliggjort något konkret ingripande mot just YouTubes hantering av kanalstängningar och överklaganden. Vid systematiska överträdelser kan kommissionen dock besluta om böter på upp till sex procent av företagets globala årsomsättning.

Det intressanta är att FTC:s utredning och EU:s DSA utgår från samma grundläggande princip: Plattformarna måste ha tydliga regler, följa dem och erbjuda en verklig möjlighet till rättelse.

CC0

USA: Uppror mot kameraövervakning

av

I USA växer motståndet mot de kameror för registrering av fordon som dyker upp lite varstans. Motståndet tar sig uttryck i allt från juridisk kamp till civilt motstånd med människor som målar över och sågar ner kameror.

I USA har de hundratusentals övervakningskameror som satts upp av företaget Flock Safety mött motstånd. Det handlar om ett privat företag som driver ett mycket omfattande nät av automatiska registreringsskyltläsare, så kallade ALPR-kameror.

Kamerorna fotograferar i princip varje passerande fordon och registrerar bland annat registreringsnummer, tid och plats, bilmärke, modell, färg och karosstyp samt särskilda kännetecken som takräcken, dekaler, repor och saknade navkapslar.

Uppgifterna laddas upp till en sökbar molndatabas. Polisen kan sedan söka efter exempelvis ett visst registreringsnummer eller efter »röd pickup med takräcke«. Systemet kan också skicka automatiska larm när en bil på en bevakningslista passerar.

Detta underlättar naturligtvis polisens arbete. Men systemet väcker också obehag och principiella frågor. Dessutom har det i flera fall missbrukats.

Problemet är arkitekturen. För att hitta den lilla andel fordon som är intressanta registreras alla andra. Flock är inte bara ett nät av trafikkameror. Det är en sökmotor över människors rörelser, där bilen fungerar som identitetsmarkör.

En enstaka skyltläsare vid en brottsplats ger en ögonblicksbild. Hundratusentals sammankopplade kameror kan visa en persons resor, vanor, relationer och besök på exempelvis läkarmottagningar, kyrkor, demonstrationer eller politiska möten.

Det som är offentligt observerbart vid ett enskilt tillfälle är inte nödvändigtvis harmlöst när det automatiseras och görs sökbart över hela landet.

Washington Post har i en granskning identifierat närmare 70 poliser och tjänstemän som anklagats, åtalats eller dömts för att ha missbrukat Flock eller liknande system, till exempel för att spåra tidigare partners.

Många avtal har beslutats lokalt och presenterats som inköp av vanlig polisiär utrustning. Invånarna har inte alltid förstått att deras stad därmed blir en nod i ett större nätverk, vars uppgifter kan göras tillgängliga för myndigheter på andra håll.

Detta är sannolikt en central förklaring till vreden: Folk upplever att infrastrukturen vuxit fram i smyg och att de aldrig tillfrågats.

Medborgarrättsorganisationen ACLU driver kampanjen Get the Flock Out och har publicerat verktyg för att kartlägga avtal, begära ut sökloggar, påverka kommunpolitiker och kräva beslut om datalagring och tillgång. Det öppna projektet DeFlock har byggt en crowdsourcad karta över kamerornas placering.

Kommuner har sagt upp eller vägrat förnya Flock-avtal, täckt över kameror, infört moratorier, krävt domstolsbeslut för sökningar och begränsat delning med federala myndigheter. Hittills under 2026 har minst 56 städer avvisat eller sagt upp Flock enligt DeFlock och nyhetsrapporter visar att över 100 kommuner har stängt av sina kameror efter lokala protester.

Aktivister har spraymålat linser, täckt kameror, klippt kablar och sågat ner stolpar. Polisen har svarat med övervakning av aktivistkonton och även placerat ut attrapper för att gripa vandaler.

Men denna spektakulära del av motståndet är knappast den mest betydelsefulla. Den politiska press som får kommuner att säga upp avtalen är viktigare och svårare att avfärda.

Efter kritiken har Flock presenterat starkare kontrollsystem, automatisk upptäckt av misstänkt användning och en rekommenderad standardlagring på sju dagar istället för tidigare 30.

Men det förändrar inte grundproblemet – att en privatägd infrastruktur registrerar i huvudsak oskyldiga människors rörelser för att uppgifterna möjligen kan bli användbara senare.

CC0

Övervakningslagarna är farligare tillsammans än var för sig

av

De olika verktyg och regler för övervakning och kontroll som rullas ut är allvarliga nog var för sig. Tillsammans skapar de en närmast »perfekt storm«.

Datalagring (ett nytt EU-förslag väntas i vinter) kan visa vem som kommunicerar med vem, när och hur samt i vissa fall var – och gör det möjligt att kartlägga människors kontaktnät och bygga sociogram.

E‑bevis gör det möjligt för rättsliga myndigheter i ett EU-land att kräva att tjänsteleverantörer i ett annat land lämnar ut eller bevarar användaruppgifter med mera.

Europols utökade mandat ger myndigheten större möjligheter att ta emot, behandla och utbyta personuppgifter från privata företag och nationella myndigheter.

EU:s digitala identitetsplånbok och ålderskontroller bygger upp en infrastruktur där aktiviteter online förutsätter digitala identitets- eller åldersbevis. Det knyter allt fler aktiviteter online till identifierade personer.

Kameraövervakning med ansiktsigenkänning i realtid gör människor automatiskt identifierbara och lokaliserbara på allmänna platser.

Chat Control öppnar för granskning av innehållet i medborgarnas privata elektroniska meddelanden.

AI, biometrisk analys och samkörning av register gör stora informationsmängder sökbara och gör det möjligt att kartlägga människor även om de inte misstänks för brott.

Lägg sedan till den utökade användningen av preventiva tvångsmedel – och flera av statens övervakningsverktyg kan användas utan konkret misstanke om att en viss person har begått brott.

Vad kan möjligen gå fel?

CC0

Nu kan utländska myndigheter begära ut din persondata

av

Nu kan utländska myndigheter begära ut data direkt från svenska tjänsteleverantörer – även om de utreder något som inte är brottsligt här.

Förra veckan började EU:s e‑bevisförordning (2023/1543) tillämpas fullt ut. Den gör det möjligt för en behörig rättslig myndighet i ett EU-land att vända sig direkt till en tjänsteleverantör i ett annat medlemsland och kräva att elektroniska uppgifter lämnas ut eller bevaras.

Det kan till exempel handla om abonnentuppgifter, IP-adresser, trafikdata och i vissa fall innehåll i meddelanden.

Tidigare behövde en åklagare i ett EU-land vända sig till myndigheterna i det andra landet genom rättsbistånd eller en europeisk utredningsorder. Det gav myndigheterna i det verkställande landet möjlighet att pröva begäran. Med e‑bevisförordningen kan detta led i de flesta fall hoppas över.

På så sätt blir svenska leverantörer av IT-tjänster ansvariga för att verkställa utländska myndighetsbeslut genom bindande utlämnande- och bevarandeorder.

För vissa uppgifter gäller detta även om det som utreds inte bryter mot svensk lag. I många fall behöver svenska myndigheter inte ens underrättas.

En central fråga är om det går att lita på utländska myndigheter. Det saknas inte problem med korruption, politisering och bristande rättssäkerhet inom EU. E‑bevis kan med andra ord skapa nya möjligheter för missbruk, obehörig åtkomst och risk för att känsliga uppgifter hamnar i orätta händer.

Men den frågan är avskriven från dagordningen. E‑bevisförordningen bygger nämligen på principen om ömsesidigt förtroende mellan medlemsstaterna, det vill säga antagandet att samtliga EU-länder respekterar rättsstaten och de grundläggande rättigheterna. Detta ligger till grund för principen om ömsesidigt erkännande av varandras rättsliga beslut. Vilket möjligen är en smula naivt.

Detta är en del i ett bredare mönster. Europol har redan fått utökade befogenheter vad gäller att hantera persondata hos privata aktörer. Och EU:s Digital Services Act ger utländska myndigheter rätt att kräva att innehåll avlägsnas från svenska plattformar och servrar, även om det inte är olagligt här.

CC0

Centern kräver åldersgränser online och »digital rättvisa«

av

Centerpartiet stämmer in i kören som vill ha åldersgränser för sociala medier. Och de hoppas mycket på ett nytt EU-förslag som skall skapa »digital rättvisa«.

I Dagens Industri kräver Centerpartiet en åldersgräns för sociala medier. De skriver:

»Problemet med sociala medier diskuteras ofta, men det vanligaste politiska förslaget är en åldersgräns. Centerpartiet är positiva till en sådan, men den måste bygga på säkra tekniska lösningar – inte osäkra EU-appar eller BankID. Samtidigt räcker inte åldersgränser. Man löser inte samhällsproblem som spänner över alla åldrar genom att bara begränsa ungas tillgång.«

Möjligen är detta lite dåligt timat, då det tycks som att motreaktionen mot åldersgränser har börjat – nu när idéer och beslut om sådana skall omsättas i verkligheten. Man kan notera att inte heller Centerpartiet svarar på den avgörande frågan: Hur?

Centerpartisterna skriver också:

»Den svenska politiken måste kräva att EU:s DSA [Digital Services Act] används till fullo, med krav på reell insyn i plattformarnas funktion. Än viktigare är att Sverige aktivt verkar för att den kommande Digital Fairness Act innehåller starka verktyg för krav på insyn kring vilka mål och optimeringar som styr algoritmerna.«

Digital Fairness Act? Detta är än så länge inte något färdigt förslag. Man räknar med att EU-kommissionen kommer att lägga fram ett sådant under fjärde kvartalet i år.

Men här är vad vi vet. Idén med DFA är att skärpa konsumentskyddet mot manipulativa och oskäliga metoder i digitala tjänster, däribland sociala medier. Till exempel:

  • Manipulativ design (Dark Patterns): När appar och webbplatser designas för att lura dig. Det kan handla om dolda knappar, att det görs extremt svårt att avsluta ett abonnemang, eller att du luras att köpa något av misstag.
  • Beroendeframkallande funktioner: Funktioner som är skapade bara för att hålla dig fastklistrad vid skärmen, till exempel automatiska videospelare (autoplay) och oändligt skrollande (infinite scroll).
  • Dold eller vilseledande influerar-marknadsföring: När influencers gör reklam för produkter på sociala medier utan att det syns tydligt att det är betalt samarbete.
  • Aggressiv personlig anpassning: När företag använder uppgifter om användaren för att påverka dennes val eller utnyttja kända eller förmodade sårbarheter.

Vilket – å ena sidan – kan kännas rimligt, eftersom man inte skall lura folk. Och eftersom sociala medier inte alltid respekterar sina användare.

Å andra sidan måste man fundera igenom vad detta kan få för konsekvenser.

Till att börja med medför detta en omfattande detaljstyrning av hur sociala medier sköter sin verksamhet – baserad på hur de fungerar just nu, i dag. Så en reglering kan snabbt bli inaktuell eller överspelad.

Man kan notera att EU:s Digital Services Act (DSA) redan innehåller regler om bland annat dark patterns och rekommendationssystem. (Till exempel kräver artikel 27 att plattformar redovisar rekommendationssystemens viktigaste parametrar och vilka möjligheter användaren har att påverka dem.)

Fler och mer detaljerade regler riskerar att göra det ännu svårare för nya aktörer att slå sig in på marknaden. Detta samtidigt som man klagar på bristande konkurrens.

Att stoppa »beroendeframkallande design« kan bland annat komma att innebära regler för hur rekommendationssystem används för att hålla kvar användaren.

Här finns en gränsdragningsfråga. Ingen har väl något emot att algoritmer rekommenderar och förstärker vissa videor eller inlägg för att visa dig sådant du faktiskt är intresserad av?

Därmed uppstår frågan om varför algoritmen rekommenderar ett visst innehåll och hur stor kontroll användaren själv har över processen.

Det är därför ännu oklart hur DFA kommer att påverka ditt flöde och spridningen av ditt innehåll.

Kommer detta att fungera på ett rimligt sätt eller blir DFA ytterligare ett exempel på goda intentioner som slutar i oväntade och oönskade konsekvenser?

Om man tittar på alternativa »etiska« sociala plattformar som Bluesky och W kan man notera att de hittills haft svårt att nå samma breda och stabila användarbas som de etablerade jättarna.

Å andra sidan är meddelandeappen Signal – som drivs av en stiftelse – ett bra exempel. Den samlar in mycket lite användardata, har ingen reklam och inga algoritmiska flöden som är konstruerade för att maximera engagemanget. Ändå används den av miljontals människor världen över eftersom den gör sitt jobb på ett säkert sätt.

Slutligen bör man notera att idén bakom DFA strider mot andra länders syn på saken. I USA har Högsta domstolen slagit fast att plattformars urval, rangordning och presentation av innehåll kan vara en form av redaktionellt uttryck som skyddas av det första författningstillägget (yttrandefriheten).

Regler som styr sådana val kan därför aktualisera yttrandefrihetsfrågor. När EU går in och styr hur algoritmerna får lyfta fram eller tona ned innehåll, menar kritiker att man riskerar att indirekt påverka vilka röster som hörs mest på nätet.

Det centrala för DFA blir inte bara om kommissionen vill motverka manipulativa metoder, utan hur den definierar dem och hur långt den är beredd att gå. En framtida DFA kan tänkas förbättra konsumentskyddet och täppa till luckor i dagens regler. Men den kan också skapa överlappning med DSA, GDPR och befintlig konsumenträtt, öka efterlevnadskostnader och påverka plattformars utformning och din yttrandefrihet på sätt som ännu inte går att bedöma.

Nu får vi vänta och se vad kommissionen föreslår. Tanken är att förordningen skall börja gälla 2029 eller 2030.

• C i Dagens Industri: Öka trycket på öppenhet från sociala medier »

• EU: Digital Fairness Act (DFA) | Updates »

• Början till slutet för åldersgränser online »

CC0

Tyskland: Skall man få förolämpa politiker?

av

I Tyskland debatterar man att skrota förbudet mot att förolämpa politiker – som visat sig få rätt orimliga konsekvenser.

I Tyskland diskuterar man att avskaffa paragraf 188 i strafflagen, som utökar det redan befintliga förbudet mot förolämpning till ett särskilt straffansvar för att offentligt förolämpa politiker.

Frågan har fått ny aktualitet sedan enskilda medborgare blivit föremål för rättsliga förfaranden efter att ha kallat förbundskansler Friedrich Merz för bland annat »Pinocchio« och »Lügenfritz«.

Utredningen om »Pinocchio« lades ned, medan »Lügenfritz« ledde till en omdiskuterad dom i första instans. Kritiker menar att ledande politiker måste tåla sådana polemiska tillmälen.

Under 2025 färdigutredde den tyska polisen närmare 4.800 misstänkta brott mot § 188 och överlämnade dem till åklagare. Hur många enskilda personer som utreddes, åtalades eller dömdes särredovisas inte i någon samlad nationell statistik.

Lagstiftningens rötter kan sökas tillbaka till 1931, då rikspresident Paul von Hindenburg införde en nödförordning med syfte att motverka förgiftningen av det offentliga livet genom förtal och uppvigling i den politiska kampen. Vilket man så här i efterhand kan säga gick sådär.

Tyskland har sedan 1951 haft ett särskilt förstärkt skydd för politiker mot offentligt förtal och medvetet falska sakpåståenden. År 2021 utvidgades skyddet till att även omfatta rena förolämpningar och nedsättande värdeomdömen, samtidigt som kommunalpolitiker uttryckligen inkluderades och möjligheten till åtal utan politikerns egen begäran utökades.

Paragraf 188 omfattar alltså inte bara förolämpning utan även förtal och medvetet falska, ärekränkande uppgifter. Det diskuteras både att fullständigt avskaffa paragrafen och att begränsa den till att bara gälla kommunalpolitiker.

Dock tycks det vara svårt att komma överens om vad som skall ändras. Regeringspartierna CDU/CSU och SPD låg själva bakom 2021 års skärpning.

Den genomfördes som en del av ett större paket mot högerextremism och hatbrott, bland annat mot bakgrund av mordet på CDU-politikern och regionalpresidenten Walter Lübcke samt omfattande hot mot kommunalpolitiker.

Kritik mot politikerna för åtgärder under pandemin, för migrationspolitiken och andra kontroversiella beslut kan också ha spelat in. Nu har man svårt att komma fram till vad som bör ändras.

Högerradikala AfD har föreslagit att paragraf 188 skall avskaffas. Partiets första lagförslag avvisades av förbundsdagen i januari 2026, men ett nytt och snarlikt förslag lades fram i juni och har överlämnats till utskottsbehandling.

Tillämpningen av paragraf 188 skapar återkommande konflikter med den grundlagsskyddade yttrandefriheten. Den tyska grundlagen skyddar även hård politisk polemik, överdrifter, satir, sårande värdeomdömen och respektlös kritik mot makthavare.

För ett par år sedan kom den tyska författningsdomstolen fram till att den politiska makten generellt sett får finna sig i att bli hånad. Vilket kan sättas i relation till att den förra tyska inrikesministern Nancy Faeser (SPD) uttalat att den som hånar staten kommer att få med den starka staten att göra. (»Diejenigen, die den Staat verhöhnen, müssen es mit einem starken Staat zu tun bekommen.«)

I sammanhanget bör noteras att Tyskland redan har ett generellt förbud mot förolämpning. Enligt paragraf 185 kan den som förolämpar någon annan dömas till böter eller fängelse, medan paragraferna 186 och 187 gäller nedsättande respektive medvetet falska sakuppgifter.

Paragraf 188 innebär alltså inte att endast politiker skyddas, utan att personer i det politiska livet ges ett särskilt förstärkt straffrättsligt skydd.

Under 2024 registrerade polisen totalt drygt 250.000 misstänkta förolämpnings- och närliggande ärekränkningsbrott (§ 185-188). Vad gäller fällande domar dömdes närmare 30.000 personer för förolämpningsbrott 2021, vanligtvis till böter. Någon samlad statistik över hur många av ett visst års polisärenden som leder till åtal och fällande dom finns inte.

• Politico: Germany rethinks law protecting politicians from insults »

Relaterat:
• Yttrandefriheten i EU: Tyskland – NetzDG (mars 2025) »
• Tyskland: Böter för att gilla poster på sociala media (juli 2025) »

CC0

Brysseleffekten

av

EU:s regleringar av internet och IT drabbar inte bara oss européer. Till exempel får människor i andra delar av världen sin yttrandefrihet inskränkt till följd av de lagar som stiftas här.

EU har ambitionen att bli världsledande på IT-reglering. Som om det vore ett självändamål.

Eftersom internet är globalt kommer EU:s klåfingriga regler att få konsekvenser överallt. EU anser att dess förordningar har extraterritoriell räckvidd och att man har rätt att bötfälla utländska företag med astronomiska belopp om de bryter mot unionens regler.

Så det är enklast att göra som EU säger. När globala tjänster väljer att införa samma system överallt kan även användare utanför EU drabbas av övermoderering och förändrade krav på innehåll och algoritmer. Det vill säga få sin yttrandefrihet begränsad.

EU har tvingat fram maskinläsbar märkning av AI-genererad text. Anthropic låter meddela att det är ogörligt att anpassa modellen efter olika länders olika regler. Så man vattenmärker i princip allt som kommer ut ur maskinen som AI-genererat – oavsett var i världen användaren befinner sig. Det gäller även om du bara använt tjänsten för att redigera en text som du själv skrivit.

Eller ta frågan om Chat Control. Idén om client-side scanning är fortfarande inte avskriven bland vissa medlemsstater i EU:s ministerråd. Det vill säga spionprogram på system- eller applikationsnivå som granskar innehållet på din telefon, platta eller dator innan det krypteras och sänds.

Detta är något som i så fall riskerar att bli en allmänt accepterad standard – vilket kan göra det svårare, farligare eller omöjligt för oppositionella i auktoritära stater att kommunicera genom krypterade meddelandeappar. Det handlar om människors liv och frihet.

Att EU ofta går för långt framgår tydligt genom att man gång på gång tvingas backa från tidigare beslut på olika områden. Men då är skadan ofta redan skedd.

CC0

Början till slutet för åldersgränser online

av

I Frankrike har författningsrådet underkänt en generell 15-årsgräns för sociala medier. På andra håll växer tvivel om att sådana förbud är genomförbara.

Förra veckan beslutade Frankrikes författningsråd – Conseil constitutionnel – att underkänna den nya 15-årsgränsen för sociala medier. Rådet slår fast att:

  • Ett generellt förbud mot sociala medier för alla under 15 år är ett oproportionerligt ingrepp i även minderårigas yttrande- och informationsfrihet.
  • Ett sådant förbud förutsätter i praktiken att alla användare, även vuxna, måste bevisa sin ålder. Då krävs tydliga rättsliga ramar och integritetsskydd.

Rådet säger att skyddet för barnets bästa visserligen är ett konstitutionellt krav. Men ett ingrepp i yttrande- och kommunikationsfriheten måste fortfarande vara lämpligt, nödvändigt och proportionerligt.

Det generella förbudet föll bland annat därför att:

  • det omfattade alla under 15 år utan åtskillnad efter mognad,
  • föräldrars medgivande saknade betydelse,
  • det omfattade mycket olika slags tjänster,
  • det kunde träffa tjänster där några hälsomässiga eller säkerhetsmässiga risker för barn inte hade visats,
  • lagen gjorde ingen tillräcklig åtskillnad mellan tjänster och funktioner med olika risknivåer.

Rådets resonemang är alltså starkare än att lagen bara var »otydligt skriven«. Själva det urskillningslösa förbudet bedömdes vara oproportionerligt.

Den andra delen av beslutet är särskilt intressant ur ett digitalt rättighetsperspektiv. Rådet konstaterar att ett förbud för personer under 15 år med nödvändighet innebär att varje person, även en myndig person, måste bevisa sin ålder innan tjänsten får användas.

Man kan notera att lagen svävar på målet vad gäller:

  • hur åldern skall styrkas,
  • vilka uppgifter som får samlas in,
  • vem som får behandla dem,
  • hur länge de får sparas,
  • hur anonymitet och pseudonymitet skall skyddas,
  • vilka tekniska eller rättsliga säkerhetsmekanismer som skall krävas.

Därför hade lagstiftaren inte skapat tillräckliga garantier för rätten till privatliv.

Rådet säger inte att all åldersverifiering är förbjuden. En mer begränsad reglering, riktad mot dokumenterat riskfyllda tjänster eller funktioner och försedd med starka integritetsgarantier, skulle möjligen kunna godtas.

President Macron har redan gett premiärminister Sébastien Lecornu i uppdrag att skriva om förslaget. Målet är enligt Élyséepalatset att få ett nytt system på plats före våren 2027. Men ett sådant förslag måste respektera de begränsningar författningsrådet just satt upp.

• Inte bara Frankrike

Samtidigt har Politico en intressant sammanställning över situationen i andra länder. Den internationella trenden tycks vara att man går bort från idén om en generell åldersgräns, för att istället inrikta sig på att begränsa vad man anser vara skadliga och beroendeframkallande funktioner på olika slags plattformar.

Möjligen har man tagit intryck av tidiga australiska data som visar att mer än 80 procent av 10–15-åringarna fortfarande använde sociala medier tre månader efter att landets 16-årsgräns trätt i kraft.

Lorena Giuberti Coutinho är kommissionär vid Brasiliens självständiga dataskyddsmyndighet med ansvar för frågor om säkerhet online. Hon menar att åldersgränser är svåra att upprätthålla.

»The incentives for teenagers to continue on social media are quite strong because this is where they communicate.«

Vilket borde vara rätt uppenbart.

I USA möter flera delstatliga försök att införa generella åldersgränser motstånd. Parallellt riktas allt större uppmärksamhet mot plattformarnas konstruktion och riskfyllda funktioner. Flera rättsprocesser om detta pågår.

Också i Storbritannien diskuteras om en generell åldersgräns är det bästa. Politico:

»In Britain, while new Prime Minister Andy Burnham has voiced his support for a social media ban, some industry observers say it may not be a blanket ban. Instead, the U.K. could choose to follow Canada’s proposed Safe Social Media Act, which looks to age-restrict platforms unless and until they have “adequate safeguards” in place to protect children.«

Det vill säga en åldersgräns så länge plattformarna inte ändrar det man anser vara riskfyllda och skadliga funktioner för minderåriga. Eller åldersgränser för vissa funktioner på respektive plattform. Vilket i och för sig låter som detaljstyrning, men det är kanske inte lika dåligt som en åldersgräns.

I EU kommer liknande signaler från forskare och sakkunniga.

»Several experts who consulted the European Commission on the proposed measures, including Leanda Barrington-Leach of the 5Rights Foundation and the London School of Economics’ Sonia Livingstone, wrote a letter to Commission President Ursula von der Leyen to warn against blanket measures. Total bans are not in line with protecting children’s fundamental rights because they cut off their access to information, which may lead them to more dangerous, unregulated online spaces, the letter says.«

Detta stämmer rätt väl med vad 438 forskare och säkerhetsexperter redan framfört i ett öppet brev.

Det tycks som att idén om generella åldersgränser för sociala media håller på att nötas ner av praktiska svårigheter samtidigt som den möter motstånd i form av grundläggande fri- och rättigheter. Som så ofta är knäckfrågan: Hur?

På något sätt känns det som att inte heller idén om åldersgränser för sociala medier var särskilt väl genomtänkt.

• Reuters: France’s top court blocks social media ban for under-15s »

• Politico: The backlash to social media bans has already begun »

• 438 forskare: Joint statement of security and privacy scientists and researchers on Age Assurance »

Relaterat / tidigare bloggposter:
• USA: Ålderskontroll för operativsystem »
• Åldersgränser för sociala medier innebär ID-tvång för alla »
• Tyskland vacklar om åldersgränser för sociala medier »
• Det finns bättre lösningar än åldersgränser för sociala medier »
• Utredning föreslår 15-årsgräns för sociala medier »
• Ålderskontroll – en trojansk häst »
• Sociala medier är barnens sista fria rum »
• Åldersgränser på sociala medier hotar ungas rättigheter »
• Ålderskontroll eller åsiktskontroll? »
• 389 [EDIT: 438] forskare kräver stopp för ålderskontroller online »

CC0

Förtryck kan komma i nya former

av

I en framtida dystopisk övervaknings- och kontrollstat kan de som inte bryr sig eller lägger sig i kanske ändå ha det rätt bra. Cirkulera, här finns inget att se.

Men den som kommer på kant med myndigheterna eller någon tjänsteman kan få det väldigt jobbigt.

Eller den som ifrågasätter eller avviker för mycket. Som de britter och tyskar som redan i dag får polisbesök när de tyckt fel på nätet. Oliktänkande kan rent av försvinna, som i Kina. Det är en skala.

Förtryck behöver inte komma marscherande ner för gatan. Det är mer troligt att det kommer i en annan, mindre spektakulär skepnad än förra gången.

Det kan smyga sig på och vara konsekvensen av missriktad välvilja. Eller naivitet. Eller inkompetens. Förtryck kan växa ur funktionell dumhet.

En ständigt pågående process i vilken politiken ökar sin makt och förvaltningen sin volym leder till att individens frihet och oberoende begränsas.

Förtryck kan växa ur människors tendens att vilja utöva makt över andra. Eller för att bereda väg för vackra utopiska visioner utan utrymme för avvikande åsikter.

Förtryck kan vara ansiktslöst och »ingens« fel eller ansvar. En biprodukt av överordnade mål.

Det är här de grundläggande mänskliga rättigheterna kommer in i bilden. Grundläggande, eftersom ingen majoritet eller överhet skall kunna kränka individens rättigheter eller tysta henne. I princip.

De mänskliga rättigheternas funktion är att skydda individen mot statens övergrepp. De finns för att skydda den som är obekväm, impopulär, misstänkliggjord eller i minoritet – och för vanligt, hederligt folk som skall lämnas i fred.

Med Chat Control vill man granska innehållet i folks elektroniska meddelanden. Med Digital Services Act och EU:s nya »demokratisköld« vill man styra vad människor skall få se online.

Här står både rätten till privatliv och yttrandefriheten på spel. Kampen pågår just nu och formar vår framtid.

CC0