Femte juli

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

EU Kids Act: Full tillgång till sociala medier först vid 18 års ålder

av

EU Kids Act är ett förslag till EU-lag som inte bara sätter upp åldersgränser för sociala medier – utan medför även detaljreglering som väcker helt nya frågor.

I dag har EU-kommissionen presenterat sin EU Kids Act. Den är ett försök att skapa ett gemensamt regelverk för minderårigas användning av sociala medier, videoplattformar, onlinespel, AI-tjänster, chatbots, app-butiker och operativsystem – med obligatorisk ålderskontroll och särskilda designregler.

Låt oss börja med åldersgränserna:

  • 0–2 år: Inga skärmar. Inga egna enheter.
  • 3–12 år: Inga sociala medier. Barnvänliga videotjänster/spel via vårdnadshavarens konto/enhet. Högst 1 timme/dag.
  • 13–14 år: »Mini accounts« som upprättas och övervakas av vårdnadshavare. Begränsade funktioner och sociala kontakter. Högst 1 timme/dag.
  • 15–17 år: Får skapa egna konton, men tjänsterna måste vara safe by design för minderåriga.
  • 18+: De särskilda Kids Act-reglerna för minderåriga upphör.

Man kan tycka att det borde vara upp till föräldrarna att bestämma över sina barns användning av sociala medier och att barn och unga utvecklas olika snabbt. Men nu blir det alltså istället enhetliga, centralt beslutade regler som är tänkta att gälla i hela EU.

Även om sociala medier får ansvaret för att kontrollera att åldersgränserna följs finns det många olika vägar för de unga som vill kringgå dem. I Australien använder 85 procent av de unga fortfarande sociala medier efter att en åldersgräns på 16 år införts.

För att hindra barn från att använda vissa tjänster måste man kunna skilja barn från vuxna. Därmed flyttas frågan snabbt från barnskydd till identifiering/åldersbevis för internetanvändare generellt.

Frågan är vad som händer med ett internet där rätten att använda olika tjänster börjar förutsätta att användaren kan bevisa vilken ålderskategori han eller hon tillhör. Som vanligt anar vi oförutsedda och oönskade konsekvenser.

Kommissionen säger att ålderskontrollen skall vara exakt, robust, säker, integritetsvänlig, icke-diskriminerande och minimalt ingripande. Kritikerna hävdar att dessa egenskaper delvis står i konflikt med varandra.

En intressant detalj är de föreslagna föräldrakontona. Enligt förslaget måste det gå att styrka att den vuxne faktiskt är barnets vårdnadshavare. Medlemsstaterna skall tillhandahålla ett kostnadsfritt, integritetsbevarande sätt att bevisa parental responsibility. Det börjar alltså se ut som en betydligt större infrastruktur för identitet och behörighet än bara en funktion där man intygar att man fyllt 18.

För de största plattformarna går förslaget ännu längre. Nya tjänster och funktioner skall föregås av en compliance-plan till EU-kommissionen. Den skall bedömas inom 30 dagar och funktioner får inte lanseras innan kommissionen lämnat ett positivt utlåtande.

Det bör vidare noteras att EU-kommissionen kopplar Kids Act till den kommande Digital Fairness Act. Von der Leyen säger uttryckligen att problemet med beroendeframkallande design inte bara gäller barn.

En spontan reaktion är att EU-kommissionen åter håller på att gräva ner sig i detaljreglering, vars fulla konsekvenser är svåra att överblicka.

Så till kritiken. Den europeiska konsumentskyddsorganisationen BEUC säger »Age verification is not a silver bullet and would raise serious privacy and data protection concerns.«

Tyska Netzpolitik är kritiska och pekar på att systemet innebär ålderskontroll även av vuxna användare. De pekar också på den klassiska målkonflikten: Ju mer exakt och robust ålderskontrollen skall vara, desto svårare blir det att samtidigt maximera anonymitet, integritet och tillgänglighet.

Chaos Computer Clubs Elina Eickstädt säger att förslaget bekräftar nästan alla farhågor man haft om ålderskontroll på nätet – och att det innebär slutet för fri och anonym internetanvändning. Hon pekar också på olösta tekniska problem och riskerna med föräldrakontona.

Den europeiska paraplyorganisationen för digitala rättigheter EDRi ifrågasätter själva ålderslogiken. »If design is harmful for 13-year-olds, it does not magically become safe on their 15th or 18th birthday.«

Den tyska tankesmedjan D64 – Zentrum für Digitalen Fortschritt – varnar för att ungdomar kan förlora viktiga sociala rum och att föräldraövervakning inte är oproblematisk, särskilt för barn som inte har en trygg relation till sina vårdnadshavare.

Som synes är förslaget både mer komplicerat och mer problematiskt än »bara« en åldersgräns för sociala medier. Vi gräver vidare och återkommer.

• EU-kommissionen: EU KIDS Act to restrict social media platforms’ access to children in the EU »
• Kommissionens faktablad om EU Kids Act (PDF) »
• EU-kommissionen: Remarks by Executive Vice-President Virkkunen on the EU KIDS Act »

• Netzpolitik: EU Kids Act – EU-Kommission will Netz mit Alterskontrollen zupflastern »

Relaterat / tidigare bloggposter:
• Från AI till åldersgränser – von der Leyens plan för EU »
• Frankrike trycker på om åldersgräns för sociala medier i EU »
• Centern kräver åldersgränser online och digital rättvisa »
• Början till slutet för åldersgränser online »
• USA: Ålderskontroll för operativsystem »
• Åldersgränser för sociala medier innebär ID-tvång för alla »
• Tyskland vacklar om åldersgränser för sociala medier »
• Det finns bättre lösningar än åldersgränser för sociala medier »
• Utredning föreslår 15-årsgräns för sociala medier »
• Ålderskontroll – en trojansk häst »
• Sociala medier är barnens sista fria rum »
• Åldersgränser på sociala medier hotar ungas rättigheter »
• Ålderskontroll eller åsiktskontroll? »
• 389 [EDIT: 438] forskare kräver stopp för ålderskontroller online »

CC0

Från AI till åldersgränser – von der Leyens plan för EU

av

En 18-årsgräns för full tillgång till sociala medier var ett av förslagen när EU-kommissionens ordförande i dag pekade ut vägen mot framtiden.

EU-kommissionens ordförande Ursula von der Leyen har i dag hållit sitt »State of the Union«-tal. Bland annat gjorde hon förhandsreklam för EU Kids Act, som handlar om EU-gemensamma åldersgränser för sociala medier. Förslaget skall presenteras mer utförligt i morgon, torsdag. Ur hennes tal…

»I morgon lägger kommissionen fram EU KIDS ACT. Vi kommer att använda en gradvis och differentierad metod. Varje ålder har sin egen känslighet. Och därför kommer varje ålder att ha en anpassad skyddsnivå.

Inga sociala medier under 13 år. Inga personliga konton under 15 år.

Det betyder att barn mellan 13 och 15 år bara får ha minikonton, som skapas och övervakas av föräldrar eller vårdnadshavare, med begränsade funktioner och en tidsbegränsning på en timme om dagen. Och mellan 15 och 18 år är säker design en skyldighet för plattformarna.«

Hur detta skall gå till rent praktiskt skall vi alltså få veta i morgon. Det ser som synes ut att bli mer än bara en rak åldersgräns.

En 18-årsgräns för full tillgång till sociala medier känns lite märklig med tanke på att ett par medlemsstater har en 16- respektive 17-årsgräns för rösträtt i nationella val. Och fem länder när det gäller val till Europaparlamentet. I flera EU-länder kan alltså en 16-åring rösta, samtidigt som samma person inte skall få full tillgång till de sociala medier där mycket av den politiska debatten förs.

Talet handlade även om artificiell intelligens: AI är viktig. AI kan vara farlig. AI är bra men kan även vara dålig. AI skall användas på ett bra sätt. EU bygger AI Giga Factories. Flytta AI från skärmen till samhället. AI ska skapa mervärde på ett mer ansvarsfullt sätt. EU:s AI Act är ett verktyg för att påverka den globala styrningen av AI. Och så vidare.

Ett centralt budskap var att EU vill ha ett betydande inflytande över utvecklingen av artificiell intelligens både i Europa och globalt.

von der Leyen berörde också EU:s nya demokratisköld, som hon tycker är viktig – inte bara mot yttre hot. Som exempel på vad som är problematiskt nämnde hon »antieuropeiska krafter«. Vilket lämnar stort tolkningsutrymme.

Detta är bara några nedslag i dagens State of the Union-tal. Du kan läsa det här:

• 2026 års tal om tillståndet i unionen av kommissionens ordförande Ursula von der Leyen »

CC0

Europaparlamentet ger EU:s demokratisköld grönt ljus

av

Europaparlamentet säger ja till en europeisk demokratisköld. Frågan är om den kommer att vara vänd utåt eller inåt.

Med röstsiffrorna 420-220 (26 avstod) har Europaparlamentet i dag godkänt en rapport om EU:s nya demokratisköld. Detta är inte lagstiftning, utan mer av en handlingsplan för EU – och parlamentets rapport är i huvudsak en åsiktsförklaring. Rapportör är den svenske moderaten Tomas Tobé.

Lagstiftning ger konkreta befogenheter och rättsliga gränser. Demokratiskölden är betydligt mer lös i kanterna: Ett politiskt ramverk under vilket en rad befintliga och nya verktyg skall samlas och utvecklas, men utan tydliga regler. Vilket är något dess kritiker (partier till höger och vänster plus yttrandefrihetsvänner) varnar för.

En central utgångspunkt är att skydda EU mot otillbörlig påverkan från yttre aktörer – som Ryssland och andra fientligt sinnade stater. Vilket förvisso är angeläget. Men frågan är om man gör det bäst genom att skapa ännu en byråkratisk apparat.

Det börjar bli något av ett mönster att man vill stoppa information som anses skadlig istället för att bemöta den. För detta bygger man upp en ny byråkrati som även kan användas för att begränsa andra åsikter som man för tillfället finner icke önskvärda.

En byråkrati som i fel händer (eller av missriktad välvilja eller oförstånd) kan användas mot inre mål. I parlamentets debatt nämndes särskilt inhemsk desinformation – och populistiska politiska partier som fått stort stöd i opinion och valresultat som problem i sammanhanget.

Om man utvecklar den tanken bör man även fråga sig hur demokratiskölden kan komma att användas av ovan nämnda populistiska partier, om de tar sig till makten. Speciellt som man menar att de inte är demokratiskt pålitliga. Detta är ett tveeggat svärd.

The Bad Man Principle: En frihetsinskränkande befogenhet bör bedömas utifrån hur den kan användas av en framtida regering som man inte litar på – inte utifrån dagens regerings deklarerade goda intentioner.

Men nu är vi ändå där. Den så kallade demokratiskölden leder bland annat till hårdare tillämpning av redan problematiska regler som EU:s Digital Services Act; ett europeiskt nätverk av faktagranskare; mer mikrostyrning av sociala medier; stöd till etablerade medier, civilsamhällesorganisationer och andra aktörer som anses stärka den demokratiska motståndskraften – med mycket mera. (Läs mer »)

Kritiker varnar för att detta i förlängningen kan minska friheten online och ge politiska institutioner större inflytande över informationsmiljön.

EU:s demokratisköld visar alla tecken på att vara ytterligare ett politiskt initiativ med goda intentioner som med tiden riskerar att drabbas av oförutsedda och oönskade konsekvenser.

Det avgörande blir därför inte vad demokratiskölden kallas, utan vilka konkreta befogenheter och verktyg som så småningom placeras bakom den.

(Samtliga svenska ledamöter i Europaparlamentet förutom de tre från SD röstade ja till rapporten.)

• Europaportalen: EU-parlamentet vill stärka demokratiförsvaret – var tredje röstade nej »

• EU:s demokratisköld – skydd mot ryssen eller folket? »

• EU: 2025/2069(INI) Findings and recommendations of the Special Committee on the European Democracy Shield »

CC0

Frankrike trycker på om åldersgräns för sociala medier i EU

av

Efter att ha fått sitt förslag om 15-årsgräns för sociala medier stoppat av det franska författningsrådet ber president Macron nu EU införa en sådan.

Det är ett klassiskt knep bland EU:s medlemsstater: Om det är något du inte kan få igenom på hemmaplan – se då till att genomföra det i EU istället.

För en månad sedan sa Frankrikes författningsråd nej till regeringen Macrons 15-årsgräns för sociala medier. Rådet slog fast att:

• Ett sådant förbud förutsätter i praktiken att alla användare, även vuxna, måste bevisa sin ålder. Då krävs tydliga rättsliga ramar och integritetsskydd.

• Ett generellt och odifferentierat förbud mot sociala medier för alla under 15 år är ett oproportionerligt ingrepp i minderårigas yttrande- och informationsfrihet.

President Macron gav då sin premiärminister i uppdrag att skriva om förslaget. Målet är enligt Élyséepalatset att få ett nytt system på plats före våren 2027.

Men ett sådant förslag måste respektera de begränsningar författningsrådet just satt upp.

Samtidigt växlar Macron upp EU-spåret och uppmanar i ett brev EU och EU-kommissionens ordförande Ursula von der Leyen att införa en enhetlig 15-årsgräns för hela unionen.

von der Leyen har själv aviserat att kommissionen skall presentera förslag om barns tillgång till sociala medier efter sommaren. Vilket sammanfaller lägligt med det State of the Union-tal som hon skall hålla i Europaparlamentet på onsdag.

Som vi redan rapporterat sägs bland annat en gemensam åldersgräns och den nya EU-appen för ålderskontroll lyftas fram i talet. Initiativet kallas EU Kids Act.

Vi lyssnar och återkommer med en rapport på onsdag.

• Macron Seeks EU Law After France Rejects Under 15 Social Media Ban »

Relaterat:
• Början till slutet för åldersgränser online »
• Åldersgränser online och AI-frågor på gång i EU »

CC0

EU:s demokratisköld – skydd mot ryssen eller folket?

av

Blir EU:s nya demokratisköld ett skydd mot yttre krafter som vill skada oss – eller ett verktyg för att kontrollera och styra informationslandskapet?

På tisdag förmiddag nästa vecka (15/9) skall Europaparlamentet debattera slutrapporten från specialutskottet för en europeisk demokratisköld (2025/2069(INI)). Någon tid för votering framgår dock inte av parlamentets dagordning i skrivande stund.

Den europeiska demokratiskölden har den ädla ambitionen att skydda oss mot otillbörliga påverkansförsök från yttre aktörer som vill oss illa – men också mot desinformation och manipulation av informationsmiljön i vidare mening. Och det är den senare delen som väcker frågor.

Den europeiska demokratiskölden är ett märkligt djur. Detta är huvudsakligen ett handlingsprogram, inte ett enskilt lagförslag. Kommissionens egen tracker klassar den uttryckligen som ett »non-legislative initiative« som redan är antaget. En del kan genomföras administrativt, medan sådant som kräver ny lagstiftning senare får gå den vanliga lagstiftningsvägen.

Europaparlamentets rapport är egentligen bara en åsiktsyttring. Men den avslöjar hur man tänker och den kan ge kommissionen dumma idéer. I delar går rapporten längre än vad kommissionen föreslagit. Den är framtagen av ett tillfälligt specialutskott, med den svenske moderaten Tomas Tobé som rapportör.

Så vad är det då som föreslås i parlamentets rapport?

TLDR: EU:s demokratisköld börjar som ett försvar mot främmande makts hemliga påverkansoperationer. Men Europaparlamentets rapport går längre. Den vill bland annat använda EU:s Digital Services Act för att motverka även inhemsk »desinformation«, begränsa vissa rekommendationsalgoritmer, ge större synlighet åt »verifierade källor« och demonetarisera innehåll som klassificeras som desinformation.

Några nedslag:

• Man vill ge det nyinrättade European Centre for Democratic Resilience en bindande rättslig grund, egen budget och en styrningsmodell där medlemsstaterna är representerade.

• European Centre for Democratic Resilience skall integreras i eller knytas samman med bland annat databaser över utländsk påverkan (FIMI), EU:s Rapid Alert System, EUvsDisinfo, European Digital Media Observatory och andra EU-organ. Det innebär i praktiken att olika system för att upptäcka informationspåverkan och för plattformstillsyn knyts närmare varandra.

• Demokratiskölden omfattar också ett europeiskt nätverk av faktagranskare och stöd till European Digital Media Observatory (EDMO). Problem kan uppkomma om EU-finansierade eller EU-erkända bedömningar används för att påverka synlighet, rekommendationer eller modereringsbeslut på privata plattformar.

• Rapporten vill skydda undersökande journalister och fria, oberoende medier samt ge ambitiös finansiering genom EU-programmet AgoraEU. Här uppstår frågor om politisk styrning genom finansiering och principen om armlängds avstånd mellan politik och media.

• Rapporten kopplar demokratisk motståndskraft till ett starkare civilsamhälle och vill även där använda AgoraEU-finansiering. Den öppna frågan är: Vilka organisationer betraktas som demokratistärkande, vem väljer dem och efter vilka kriterier?

• Man vill se skärpta regler och ökad transparens vad gäller politisk annonsering och politisk finansiering.

• Rapporten vill att Digital Services Acts (DSA) riskhantering skall kunna användas för att begränsa engagemangsbaserade rekommendationsalgoritmer och efterlyser samtidigt »due prominence« för oberoende pluralistiska medier och »verified sources«. Man nöjer sig alltså inte med att kräva transparens kring algoritmer, utan öppnar för att påverka hur lagligt innehåll rangordnas och vilka källor som skall ges större synlighet. (Den frågan kommer upp i samband med översynen av Direktivet om audiovisuella medietjänster, AVMSD.)

• Rapporten talar uttryckligen om att »demonetise disinformation«. Ekonomiska incitament kring det som klassificeras som desinformation skall begränsas.

• EU:s »Code of Practice on Disinformation« har integrerats i DSA-systemet och beskrivs som ett relevant riktmärke vid bedömningen av om plattformarna uppfyller DSA. Det som började som en frivillig uppförandekod har därmed blivit betydligt mindre frivillig när den används som måttstock inom ett regelverk där kommissionen kan utdöma mycket stora böter.

• Kommissionens planerade »DSA incidents and crisis protocol« välkomnas. Plattformar skall reagera snabbt med »preventive and corrective measures« vid manipulation eller valpåverkan, och myndigheter skall snabbt ingripa vid bristande efterlevnad. Att reagera på och bemöta otillbörlig påverkan är naturligtvis bra. Men förebyggande ingripanden i informationsflöden kring politiskt känsliga händelser känns som en betydligt knepigare fråga. Vad? Hur?

• Rapporten vill motverka koordinerade falska konton och låta plattformarna kontrollera att en människa finns bakom ett konto. Men den säger samtidigt att anonymitet online skall bevaras för bland annat journalister, aktivister, visselblåsare, dissidenter och politiska motståndare. Även satiriska konton skall få finnas kvar.

• Kommissionen och tillsynsmyndigheterna skall systematiskt undersöka och offentligt exponera dolda desinformationskampanjer som utnyttjar generativ AI. EU:s AI Office skall dessutom bidra med metoder och säkerhetsarbete kring stora språkmodeller.

• Man pekar särskilt ut meddelande-appen Telegram. Rapporten vill undersöka dess roll i bland annat kriminalitet, valpåverkan, spridning av desinformation, extremism och terroristinnehåll samt vill att alla tillämpliga EU-regler om bland annat innehållsmoderering tillämpas.

Och mycket annat. Ömsom vin, ömsom vatten.

Om jag skall plocka ut en sak är det att vi ser konturerna av en EU-politik där frågan inte längre är vilket innehåll som skall tas bort, utan också vilket innehåll och vilka källor som skall ges större synlighet. Det vill säga att vissa – av staten definierade medier eller typer av medieinnehåll – lyfts fram framför annat innehåll.

Redan begreppet »informationsmiljöns integritet« väcker en principiell fråga: Är statens uppgift att skydda människor mot främmande makts manipulation – eller att skydda själva informationsmiljön från information som myndigheterna anser vara felaktig eller obekväm?

Vi har tidigare beskrivit EU:s Demokratisköld som ett försök att bemöta desinformation med byråkrati. Vilket känns som en tveksam idé, då det på riktigt är viktigt att identifiera och bemöta utomstående krafters försök att skada oss, destabilisera vårt samhälle och sprida felaktig information om viktiga saker.

Kommer alla dessa olika, samverkande nya administrativa enheter att kunna sköta uppdraget på ett effektivt sätt – med respekt för grundläggande fri- och rättigheter? Eller kommer det att bli samma ineffektiva byråkrati som vanligt?

Kommer man att kunna motstå frestelsen att kontrollera och styra informationslandskapet för egna syften?

Europaparlamentets rapport om EU:s demokratisköld väcker fler frågor än den besvarar.

• Europaparlamentet: Findings and recommendations of the Special Committee on the European Democracy Shield (2025/2069(INI)) »

• Europaparlamentet: Special committee adopts proposals to improve the European Democracy Shield »

Tidigare bloggposter:
• EU:s nya demokratisköld tycks mest bestå av byråkrati (december 2024) »
• EU:s demokratisköld – demokratins bröstvärn eller sanningsministerium? (november 2025) »
• EU:s Demokratisköld – skydd eller åsiktskontroll? (juni 2026) »

CC0

Brottsprovokation och anonyma vittnen är en farlig kombination

av

Staten föreslås få provocera fram brott. Samtidigt har det blivit tillåtet med anonyma vittnen i våra domstolar. Vad kan möjligen gå fel?

Lagar kan inte betraktas isolerade. I kombination med annan lagstiftning kan de få synergieffekter, oväntade konsekvenser och medföra oönskade risker.

I går skrev vi om regeringens förslag om »särskilda provokativa åtgärder« – det vill säga brottsprovokation som kan leda till att någon förmås att begå ett brott, uppmuntrad av myndigheterna. Kombinera det med att det sedan 1 januari 2025 också är tillåtet med anonyma vittnen i våra domstolar. Då uppstår en helt ny dynamik.

Brottsprovokation kan leda till att en person begår ett brott som annars inte hade begåtts. Och anonyma vittnen innebär att du kan bli anklagad för något – utan att få veta vem som lämnar belastande uppgifter mot dig och att du därmed inte heller kan bedöma den personens trovärdighet och motiv. Vilket begränsar din möjlighet att försvara dig.

Din försvarsadvokat får då svårare att ställa frågor om exempelvis vittnets bakgrund, dolda motiv eller personliga relation till dig – eftersom frågor som kan avslöja vittnets identitet kan stoppas.

Ur ett utredningstekniskt perspektiv kan det rent av vara extra angeläget att skydda identiteten på den som varit del av en brottsprovokation. Det gör det än svårare att bedöma om polisen huvudsakligen observerade en redan existerande brottslig avsikt eller faktiskt skapade brottet.

Polisen kan alltså ha provocerat fram situationen och sedan bli den viktigaste källan till vad som egentligen hände. Åklagarsidan känner till operationen, aktörerna och bakgrunden. Försvaret måste samtidigt kunna ifrågasätta om staten gått för långt – utan att ha full tillgång till samma information.

Utredningen om brottsprovokation (SOU 2025:109) tar själv upp beröringspunkterna mellan provokativa åtgärder och anonyma vittnen. Den hänvisar bland annat till Europadomstolens Lüdi-mål, där artikel 6 (rätt till en rättvis rättegång) kränktes eftersom den tilltalade och hans advokat inte fick möjlighet att förhöra den polis som infiltrerat verksamheten.

Utredningen skriver vidare att det inte bör kunna undanhållas den misstänkte att ett tillslag kommit till efter provokativa åtgärder av en infiltratör, särskilt om infiltratören haft en central och aktiv roll. Utredningen konstaterar samtidigt att detta ofta innebär att även provokatörens identitet blir uppenbar – vilket inte alltid ligger i polisens intresse.

Provokation och anonyma vittnen kan förstärka varandras rättssäkerhetsproblem. Ju större roll staten själv har spelat för att skapa den situation som utgör bevisningen, desto starkare blir argumentet för full insyn i hur situationen skapades och vem som skapade den.

Resultatet kan annars bli att enskilda individer hamnar i rent Kafka-artade situationer.

• Brotts- eller bevisprovokation – vad vill regeringen? »
• Nu införs anonyma vittnen i våra domstolar »

CC0

Fråga politikerna om övervakningsstaten

av

Med risk för att tjata – använd valrörelsen för att fråga politikerna om massövervakningen. Här är en frågeställning som uppmuntrar till eftertanke:

»Övervakningsstaten växer ständigt. Vid vilken punkt anser du att det blir ett problem för vår demokrati och vårt samhälle? Varför och hur?«

För inte skall väl de politiker som rullar ut en aldrig tidigare skådad övervakningsstat kunna göra det i tystnad?

Ta chansen att fråga dem nu när de är ute och möter folk. Innan de återvänder till sin bubbla i fyra år till.

CC0

Åldersgränser online och AI-frågor på gång i EU

av

EU återstartar efter sommaren. Kommissionsordförande Ursula von der Leyens linjetal i Europaparlamentet förväntas bland annat handla om åldersgränser online och unionens AI-politik.

Nu börjar EU-apparaten vakna till liv igen efter sommaruppehållet. Europaparlamentet startar med två veckor utskottsarbete och vi väntar på besked om när trilogförhandlingarna om Chat Control 2 skall återupptas.

Den 14-17 september sammanträder Europaparlamentet i Strasbourg.

Kl 09:00 onsdagen den 16 september håller EU-kommissionens ordförande Ursula von der Leyen sitt årliga »State of the Union«-tal.

Då väntas hon – bland mycket annat – presentera ett konkret förslag om åldersrestriktioner för sociala medier och vissa andra digitala tjänster.

Man kan också räkna med besked om hur medlemsstaternas nationella versioner av EU:s app för ålderskontroll, en så kallad mini-wallet, skall rullas ut och användas i praktiken. Dess autentiseringsskydd har dock redan kunnat kringgås.

Samtidigt har idén om åldersgränser för sociala medier stött på patrull och blivit allt mer ifrågasatt i olika länder som aktualiserat den.

AI sägs också få en framträdande plats i talet. Då kan vi kanske få besked om hur EU:s AI Act skall hanteras – efter att EU nyligen antog sitt »AI Omnibus«-paket för att förenkla de tidigare antagna reglerna, minska administrationen och göra förordningen mer innovationsvänlig.

Det kan även komma mer information om EU:s »Apply AI Strategy« som är tänkt att öka användningen av AI i Europa – och dess »AI-first policy«, som innebär att företag och myndigheter uppmanas att först överväga om och hur AI kan användas när de utvecklar nya system och tjänster.

Sedan har vi »RAISE – Resource for AI Science in Europe«, ett slags virtuellt europeiskt institut som skall samordna datorkraft, data, kompetens och finansiering för AI-baserad forskning. Detta omfattar bland annat 600 miljoner euro för tillgång till datorkraft samt planer på att öka Horizon Europes årliga AI-investeringar till över tre miljarder euro.

Även det nya lagförslaget »Cloud and AI Development Act« (CADA), som kommissionen lade fram i juni, kan komma upp. Det syftar bland annat till europeisk moln- och AI-suveränitet. Förslaget går ut på att minst tredubbla EU:s kapacitet för datacentrum inom fem till sju år.

Vi har också EU:s »AI Continent Action Plan« som bland annat omfattar EU-stödda »AI Factories« kring europeiska superdatorer och ett mindre antal betydligt större »AI Gigafactories« för träning av mycket avancerade modeller.

Sedan har vi den nyligen presenterade »Action Plan on Cybersecurity and AI«. Den är ett samarbete mellan kommissionen, medlemsstaterna och cybersäkerhetsorganet ENISA. Syftet är att utöka Europas kapacitet att utvärdera avancerade AI-modeller, skydda AI-system mot angrepp och använda AI för att upptäcka cyberhot.

Och så har vi förra veckans beslut att klassificera ChatGPT som en mycket stor sökmotor enligt EU:s Digital Services Act, med de ytterligare skyldigheter och konsekvenser som följer av detta.

Nu återstår att se om von der Leyen lyckas ta något slags helhetsgrepp på denna djungel av AI-reglering och AI-initiativ. Bli inte förvånad om hon flaggar för mer reglering.

CC0

GRANITE ACT – USA:s motdrag mot utländsk nätcensur

av

USA:s GRANITE Act är tänkt att skydda amerikanska medborgare och företag mot utländsk censur. Det kan fungera för små onlineplattformar. Men de stora sociala medierna sitter ändå fast i EU:s regelverk.

I USA börjar nu behandlingen av lagförslaget om en »GRANITE Act«.

Tanken är att hindra utländska myndigheter från att använda amerikanska domstolar för att tvinga fram censur mot amerikanska medborgare och företag.

Enligt förslaget förbjuds amerikanska domstolar att erkänna eller verkställa utländska domar, böter, order eller krav vilka grundar sig på utländska censurlagar som krockar med det amerikanska grundlagsskyddet för yttrandefrihet (First Amendment).

Lagen omfattar inte bara domstolsbeslut utan även administrativa böter och krav som skickas direkt från utländska tillsynsmyndigheter (exempelvis brittiska Ofcom eller EU).

Amerikanska personer eller plattformar som drabbas av utländska censurkrav får rätt att stämma den utländska myndigheten i en federal amerikansk domstol, för att få fastslaget att kravet inte får verkställas i USA.

Lagen ger dock inte rätt till skadestånd eller beslag av utländska tillgångar.

Detta är alltså framför allt en amerikansk verkställighetsspärr, inte ett förbud mot utländsk reglering. Den försvarar amerikanskt territorium och amerikanska domstolar mot att användas som indrivnings- eller verkställighetsorgan.

Den löser däremot inte problemet med den så kallade Brysseleffekten, där amerikanska plattformar ändrar sina globala regler för att slippa sanktioner eller behålla tillgången till den europeiska marknaden.

GRANITE Act har lagts fram som ett direkt svar på att utländska internetregleringar, framför allt Storbritanniens Online Safety Act, har börjat tillämpas globalt.

Den brittiska mediemyndigheten Ofcom har utfärdat hundratals kravbrev till amerikanska teknikbolag och bötfällt amerikanska sajter som 4chan, vilket i USA ses som ett direkt hot mot deras konstitutionella rättigheter.

Även EU:s Digital Services Act, dess extraterritoriella räckvidd och möjligheten till böter på upp till sex procent av den globala årsomsättningen hör till den politiska bakgrunden. Det innebär dock inte att varje DSA-beslut automatiskt kan betraktas som ett censurbeslut enligt GRANITE Act.

Här kan man notera att de flesta större sociala medier har europeiska dotterbolag, ofta på Irland. Och de lär knappast skyddas av den nya amerikanska lagen.

Om ett beslut under DSA riktas mot ett europeiskt koncernbolag, en europeisk etablering eller tillgångar som tillhör den ansvariga juridiska personen, kan det fortfarande verkställas inom EU. GRANITE Act skyddar alltså inte koncernens europeiska verksamhet eller tillgångar mot europeiska sanktioner.

Då GRANITE Act inte tillåter beslag av utländska tillgångar som motåtgärd, lämnas dotterbolag i till exempel EU alltså fortfarande öppna för europeiska sanktioner.

Vilket innebär att sociala medier och andra plattformar inte skyddas så väl av den nya lagen som man först kan få intryck av.

Eftersom lagen bara skyddar verksamheten i USA, tvingas de stora teknikbolagen i praktiken att välja mellan tre spår om EU:s krav blir alltför hårda:

Geografisk blockering: Att helt stänga av vissa funktioner eller blockera specifikt innehåll för användare i Europa, medan det förblir fritt tillgängligt i USA.

Separata system: Att helt skilja på den amerikanska och den europeiska versionen av plattformen, så att europeiska censurregler inte smittar av sig på vad amerikaner får se.

Lämna marknaden: För mindre plattformar (som 4chan, Kiwi Farms, Rumble och Gab) är det ofta för dyrt att anpassa sig eller driva rättsprocesser i Europa. De kan då välja att dra sig ur den europeiska marknaden och lita på det amerikanska skyddet mot verkställighet. (Om de fortsätter att rikta sina tjänster till EU omfattas de dock fortfarande formellt sett av DSA.)

För de stora teknikjättarna (som Meta, Google, Microsoft och Apple) är det extremt svårt att undvika EU:s regelverk.

DSA innehåller visserligen inget enkelt förfarande för att permanent förbjuda en utländsk plattform. Däremot kan en nationell domstol under vissa förutsättningar besluta om tillfälliga, förlängningsbara begränsningar av åtkomsten till tjänsten.

Och om en plattform klipper alla band med EU och vägrar inställa sig i rättsprocesser, blir de tillfälliga blockeringarna och de ekonomiska sanktionerna ett permanent tillstånd som i praktiken stänger dem ute från marknaden.

Vidare tjänar de stora bolagen miljarder på europeiska annonsörer och prenumeranter.

Om de fysiskt drar sig ur EU kan europeiska företag förbjudas att köpa annonser på plattformarna. Europeiska banker och kreditkortsföretag kan tvingas stoppa betalningar. Och Apple App Store och Google Play Store i Europa skulle tvingas ta bort respektive plattforms appar.

Enligt artikel 13 i Digital Services Act måste en plattform som saknar etablering i EU men erbjuder tjänster inom unionen utse en rättslig representant här. Om man vägrar bryter man mot förordningen. Det ger medlemsstaterna (och för de största plattformarna även kommissionen) möjlighet att ingripa och utfärda sanktioner.

Så att »fly« till USA kan kanske fungera för mindre plattformar som drivs av ideologi och som inte är beroende av den europeiska annonsmarknaden.

Men för de börsnoterade jättarna är den europeiska marknaden helt enkelt för lönsam för att de skall stänga dörren och flytta ut.

VPN kan hjälpa användarna att kringgå geografiska spärrar, men löser inte plattformarnas juridiska eller kommersiella problem.

Jokern i leken är hur allt detta passar in i de aktuella transatlantiska relationerna och i vilken mån USA ser DSA (med mera) som handelshinder. Det är ju väl känt att den amerikanska administrationen har åsikter om yttrandefriheten i Europa.

• Federal GRANITE Act Aims to Shield Americans From Foreign Censorship »

CC0

Med DSA tar EU kontroll över ChatGPT

av

Open AI:s ChatGPT tvingas in under EU:s Digital Services Act. Kommer vi i Europa att få en urvattnad AI-light på grund av politisk styrning och mer byråkrati?

EU-kommissionen meddelar:

»Today, the Commission has designated ChatGPT as a Very Large Online Search Engine (VLOSE), as well as Reddit and Roblox as Very Large Online Platforms (VLOPs), under the Digital Services Act (DSA). These services declared that they reach at least 45 million average monthly users in the EU and thus meet the threshold for designation.

Following the notification of the designations, these services have four months, i.e. by January 2027, to comply with the additional DSA obligations for VLOPs and VLOSEs, such as assessing and mitigating the systemic risks stemming from their service and algorithmic systems related to the dissemination of illegal content, the negative effects on minors, users’ physical and mental well-being, fundamental rights, electoral processes and public security.«

DSA vs. Reddit kan bli annorlunda och intressant. Men låt mig här fokusera på DSA vs. ChatGPT.

EU-kommissionen tänker alltså reglera ChatGPT med en lag som skrevs innan modellen ens existerade. Dessutom omfattas OpenAI redan av AI Act, som har ett delvis annat regelverk och en annan tillsynsstruktur.

Låt oss börja med att fråga oss hur detta är tänkt att gå till.

DSA föreskriver inte exakt hur ChatGPT skall förändras. Men dess breda och vaga krav på att begränsa systemrisker ger kommissionen och OpenAI starka incitament att välja försiktiga, restriktiva och byråkratiskt försvarbara lösningar.

För att motverka systemrisker, desinformation och olagligt innehåll kommer modellen att behöva tränas grundligt med mänsklig feedback. Så att den vägrar svara på skadliga instruktioner. I sammanhanget måste någon avgöra vad som skall anses vara sant respektive falskt, vilket inte alltid är helt uppenbart. Men det sker väl redan i någon mening.

Ett automatiserat system behöver skanna användarens fråga innan den når AI:n och skanna AI:ns svar innan det visas för användaren. Detta för att blockera till exempel skadligt eller olagligt innehåll och hatretorik.

När ChatGPT söker på webben kommer algoritmerna att behöva prioritera att hämta information från betrodda nyhetsmedier och officiella källor – för att förhindra spridning av rykten, speciellt i samband med val.

Risken är alltså att AI-modellen i högre grad kommer att prioritera regulatorisk riskminimering framför maximal nytta för användaren.

Detta kan även skapa tryck på OpenAI att införa ålderskontroller och särskilda begränsningar för minderåriga. I värsta fall kan sådana kontroller utvecklas till ett allmänt ID-krav för att få tillgång till vissa svar.

Compliance kommer att kräva ett helt nytt lager av byråkrati. Oberoende (men av EU godkända) externa revisorer kommer minst en gång om året att behöva granska OpenAI:s efterlevnad, riskbedömningar och riskbegränsande åtgärder. De skall ges tillgång till relevanta data och lokaler. Kommissionen kan dessutom kräva förklaringar av algoritmsystemens konstruktion, logik, funktion och testning.

Det är ännu oklart hur DSA:s traditionella system för anmälningar, motiveringar och överklaganden skall kunna överföras till en tjänst som genererar nya svar i realtid.

Det finns skäl att tro att detta blir tungrott.

Traditionella plattformar modererar genom att ta bort specifika inlägg eller blockera användare. En LLM genererar unikt innehåll i realtid baserat på sannolikheter.

Kritiker menar att det är tekniskt omöjligt för OpenAI att garantera att modellen aldrig genererar »skadligt innehåll«, eftersom ett unikt genererat svar inte kan modereras på samma sätt som ett redan publicerat foruminlägg.

DSA kan även tvinga OpenAI att lämna ut interna data till myndigheter och forskare. Vilka ChatGPT-data detta kan omfatta är ännu oklart. Eftersom tjänstens rådata kan bestå av privata konversationer väcker reglerna särskilt känsliga frågor om personuppgifter, anonymisering och företagshemligheter.

Man kan i sammanhanget notera att ChatGPT på grund av sin popularitet drabbas av fler regler och mer byråkrati än mindre konkurrenter som inte når DSA:s tröskelvärde.

Nu är frågan om ChatGPT kommer att räta in sig i EU-ledet. I så fall är nästa fråga om man kommer att göra de aktuella förändringarna globalt eller om vi i EU kommer att få något slags urvattnad, modererad och begränsad light-variant.

Ju mer styrning vi får, desto färre tankar, idéer och metoder kan prövas mot varandra. Vilket rimligen påverkar utvecklingen negativt.

Men politikernas kontrollbehov tycks vara oändligt.

»Det är viktigt att politiken tar kontroll över utvecklingen«, som Magdalena Andersson sa om internet.

• EU-kommissionen: Commission designates ChatGPT, Reddit, Roblox under Digital Services Act »