Femte juli

Nätet till folket!

Spaning

Vi skådar in i framtiden.

Åldersgränser online och AI-frågor på gång i EU

av

EU återstartar efter sommaren. Kommissionsordförande Ursula von der Leyens linjetal i Europaparlamentet förväntas bland annat handla om åldersgränser online och unionens AI-politik.

Nu börjar EU-apparaten vakna till liv igen efter sommaruppehållet. Europaparlamentet startar med två veckor utskottsarbete och vi väntar på besked om när trilogförhandlingarna om Chat Control 2 skall återupptas.

Den 14-17 september sammanträder Europaparlamentet i Strasbourg.

Kl 09:00 onsdagen den 16 september håller EU-kommissionens ordförande Ursula von der Leyen sitt årliga »State of the Union«-tal.

Då väntas hon – bland mycket annat – presentera ett konkret förslag om åldersrestriktioner för sociala medier och vissa andra digitala tjänster.

Man kan också räkna med besked om hur medlemsstaternas nationella versioner av EU:s app för ålderskontroll, en så kallad mini-wallet, skall rullas ut och användas i praktiken. Dess autentiseringsskydd har dock redan kunnat kringgås.

Samtidigt har idén om åldersgränser för sociala medier stött på patrull och blivit allt mer ifrågasatt i olika länder som aktualiserat den.

AI sägs också få en framträdande plats i talet. Då kan vi kanske få besked om hur EU:s AI Act skall hanteras – efter att EU nyligen antog sitt »AI Omnibus«-paket för att förenkla de tidigare antagna reglerna, minska administrationen och göra förordningen mer innovationsvänlig.

Det kan även komma mer information om EU:s »Apply AI Strategy« som är tänkt att öka användningen av AI i Europa – och dess »AI-first policy«, som innebär att företag och myndigheter uppmanas att först överväga om och hur AI kan användas när de utvecklar nya system och tjänster.

Sedan har vi »RAISE – Resource for AI Science in Europe«, ett slags virtuellt europeiskt institut som skall samordna datorkraft, data, kompetens och finansiering för AI-baserad forskning. Detta omfattar bland annat 600 miljoner euro för tillgång till datorkraft samt planer på att öka Horizon Europes årliga AI-investeringar till över tre miljarder euro.

Även det nya lagförslaget »Cloud and AI Development Act« (CADA), som kommissionen lade fram i juni, kan komma upp. Det syftar bland annat till europeisk moln- och AI-suveränitet. Förslaget går ut på att minst tredubbla EU:s kapacitet för datacentrum inom fem till sju år.

Vi har också EU:s »AI Continent Action Plan« som bland annat omfattar EU-stödda »AI Factories« kring europeiska superdatorer och ett mindre antal betydligt större »AI Gigafactories« för träning av mycket avancerade modeller.

Sedan har vi den nyligen presenterade »Action Plan on Cybersecurity and AI«. Den är ett samarbete mellan kommissionen, medlemsstaterna och cybersäkerhetsorganet ENISA. Syftet är att utöka Europas kapacitet att utvärdera avancerade AI-modeller, skydda AI-system mot angrepp och använda AI för att upptäcka cyberhot.

Och så har vi förra veckans beslut att klassificera ChatGPT som en mycket stor sökmotor enligt EU:s Digital Services Act, med de ytterligare skyldigheter och konsekvenser som följer av detta.

Nu återstår att se om von der Leyen lyckas ta något slags helhetsgrepp på denna djungel av AI-reglering och AI-initiativ. Bli inte förvånad om hon flaggar för mer reglering.

CC0

Med DSA tar EU kontroll över ChatGPT

av

Open AI:s ChatGPT tvingas in under EU:s Digital Services Act. Kommer vi i Europa att få en urvattnad AI-light på grund av politisk styrning och mer byråkrati?

EU-kommissionen meddelar:

»Today, the Commission has designated ChatGPT as a Very Large Online Search Engine (VLOSE), as well as Reddit and Roblox as Very Large Online Platforms (VLOPs), under the Digital Services Act (DSA). These services declared that they reach at least 45 million average monthly users in the EU and thus meet the threshold for designation.

Following the notification of the designations, these services have four months, i.e. by January 2027, to comply with the additional DSA obligations for VLOPs and VLOSEs, such as assessing and mitigating the systemic risks stemming from their service and algorithmic systems related to the dissemination of illegal content, the negative effects on minors, users’ physical and mental well-being, fundamental rights, electoral processes and public security.«

DSA vs. Reddit kan bli annorlunda och intressant. Men låt mig här fokusera på DSA vs. ChatGPT.

EU-kommissionen tänker alltså reglera ChatGPT med en lag som skrevs innan modellen ens existerade. Dessutom omfattas OpenAI redan av AI Act, som har ett delvis annat regelverk och en annan tillsynsstruktur.

Låt oss börja med att fråga oss hur detta är tänkt att gå till.

DSA föreskriver inte exakt hur ChatGPT skall förändras. Men dess breda och vaga krav på att begränsa systemrisker ger kommissionen och OpenAI starka incitament att välja försiktiga, restriktiva och byråkratiskt försvarbara lösningar.

För att motverka systemrisker, desinformation och olagligt innehåll kommer modellen att behöva tränas grundligt med mänsklig feedback. Så att den vägrar svara på skadliga instruktioner. I sammanhanget måste någon avgöra vad som skall anses vara sant respektive falskt, vilket inte alltid är helt uppenbart. Men det sker väl redan i någon mening.

Ett automatiserat system behöver skanna användarens fråga innan den når AI:n och skanna AI:ns svar innan det visas för användaren. Detta för att blockera till exempel skadligt eller olagligt innehåll och hatretorik.

När ChatGPT söker på webben kommer algoritmerna att behöva prioritera att hämta information från betrodda nyhetsmedier och officiella källor – för att förhindra spridning av rykten, speciellt i samband med val.

Risken är alltså att AI-modellen i högre grad kommer att prioritera regulatorisk riskminimering framför maximal nytta för användaren.

Detta kan även skapa tryck på OpenAI att införa ålderskontroller och särskilda begränsningar för minderåriga. I värsta fall kan sådana kontroller utvecklas till ett allmänt ID-krav för att få tillgång till vissa svar.

Compliance kommer att kräva ett helt nytt lager av byråkrati. Oberoende (men av EU godkända) externa revisorer kommer minst en gång om året att behöva granska OpenAI:s efterlevnad, riskbedömningar och riskbegränsande åtgärder. De skall ges tillgång till relevanta data och lokaler. Kommissionen kan dessutom kräva förklaringar av algoritmsystemens konstruktion, logik, funktion och testning.

Det är ännu oklart hur DSA:s traditionella system för anmälningar, motiveringar och överklaganden skall kunna överföras till en tjänst som genererar nya svar i realtid.

Det finns skäl att tro att detta blir tungrott.

Traditionella plattformar modererar genom att ta bort specifika inlägg eller blockera användare. En LLM genererar unikt innehåll i realtid baserat på sannolikheter.

Kritiker menar att det är tekniskt omöjligt för OpenAI att garantera att modellen aldrig genererar »skadligt innehåll«, eftersom ett unikt genererat svar inte kan modereras på samma sätt som ett redan publicerat foruminlägg.

DSA kan även tvinga OpenAI att lämna ut interna data till myndigheter och forskare. Vilka ChatGPT-data detta kan omfatta är ännu oklart. Eftersom tjänstens rådata kan bestå av privata konversationer väcker reglerna särskilt känsliga frågor om personuppgifter, anonymisering och företagshemligheter.

Man kan i sammanhanget notera att ChatGPT på grund av sin popularitet drabbas av fler regler och mer byråkrati än mindre konkurrenter som inte når DSA:s tröskelvärde.

Nu är frågan om ChatGPT kommer att räta in sig i EU-ledet. I så fall är nästa fråga om man kommer att göra de aktuella förändringarna globalt eller om vi i EU kommer att få något slags urvattnad, modererad och begränsad light-variant.

Ju mer styrning vi får, desto färre tankar, idéer och metoder kan prövas mot varandra. Vilket rimligen påverkar utvecklingen negativt.

Men politikernas kontrollbehov tycks vara oändligt.

»Det är viktigt att politiken tar kontroll över utvecklingen«, som Magdalena Andersson sa om internet.

• EU-kommissionen: Commission designates ChatGPT, Reddit, Roblox under Digital Services Act »

EU behöver fler bråkstakar

av

Det måste bli ett slut på att EU fattar ogenomtänkta beslut som sedan måste rullas tillbaka – när skadan redan är skedd.

Vi har skrivit en del om EU:s nya förpackningsförordning och hur den dödar småskalig e-handel över gränserna. [ 1 | 2 ] Det större problemet är att detta inte är det enda exemplet på orimliga beslut.

Det sker hela tiden. Vanligtvis reagerar folk inte förrän i sista minuten – eller när det redan är för sent och vi ställs inför fullbordat faktum.

Någon närmare granskning av det löpande lagstiftningsarbetet i EU existerar i princip inte i svenska medier. Så ingen kan reagera i tid mot sådant vi inte vet att vi inte vet.

Ibland går det att stoppa dåliga beslut i tid. Det kräver såväl hård granskning som starkt yttre tryck från allmänhet och media – och gärna några allierade inne i systemet.

Ofta fattas ogenomtänkta beslut ändå. Sedan möter de verkligheten, varpå oväntade och oönskade konsekvenser uppstår.

Vilket ibland leder till att man måste städa upp i lagstiftningen i efterhand. Men då är skadan som regel redan skedd. Och som vi ser med förpackningsförordningen är det inte som att man stressar ihjäl sig för att laga det man haft sönder.

EU lyssnar som regel mer på dem som vill driva igenom något nytt, lovvärt och trendriktigt projekt som passar kommissionens politiska ambitioner – än på dem som granskar förslagen och pekar på orimliga konsekvenser.

Detsamma gäller när EU hittar helt nya domäner att reglera – som internet. Regleringar går alltid att motivera, även när de egentligen inte behövs.

Varnande röster avfärdas som störningsmoment. Och innan vi vet ordet av har till exempel vår yttrandefrihet begränsats. Eller någon ny form av massövervakning rullats ut.

Problemet är att det finns för få bråkstakar i Europaparlamentet.

De borgerliga partierna älskar EU och vill inte bråka eller framstå som EU-kritiker. Så de släpper igenom nästan vad som helst. Inte sällan är de pådrivande, för att framstå som duktiga.

S och MP ser EU som ett verktyg för att få igenom sin politik, i större skala. V hamnar ofta rätt i övervakningsfrågorna. SD driver en rimlig linje både vad gäller massövervakning och yttrandefrihet på EU-nivå.

Det måste in fler kritiskt tänkande människor i systemet som kan följa frågorna från ruta ett. Medan det fortfarande går att påverka, innan positionerna är låsta och uppgörelserna gjorda.

Människor som är beredda att ta strid för grundläggande fri- och rättigheter, när andra vill inskränka eller kompromissa bort dem i namn av det ena eller andra.

Vi behöver ledamöter i Europaparlamentet som struntar i om andra tycker att de är besvärliga. Vi behöver folk som käftar emot, ifrågasätter, identifierar svagheter, bryter grupptänkandet och som ställer de kniviga frågorna: Hur skall detta fungera i praktiken? Vad kan gå fel? Behövs detta över huvud taget?

Tills dess fortsätter allt som vanligt. Först beslutar EU. Sedan tar man reda på fakta. Därefter diskuterar man saken.

Nästa EU-val är 2029.

CC0

Ingen räddning för EU:s e-handel i sikte

av

EU-förordningen som dödar den småskaliga gränsöverskridande e-handeln kommer knappast att ändras i år, om alls.

Förra veckan skrev vi om hur EU:s nya förpackningsförordning (PPWR EU 2025/40) dödar den småskaliga gränsöverskridande e-handeln.

På grund av groteska och kostsamma byråkratiska krav [1] med olika rutiner och på olika språk i de 27 medlemsstaterna blir det i stort sett omöjligt för de nästan två miljoner [2] små web-butiker i EU som säljer över gränserna att fortsätta sin verksamhet.

Det handlar om specialiserade butiker, hantverkare, konstnärer, komponent- och kontrakttillverkare, författare som ger ut på eget förlag, smyckeskonstnärer, klädskapare, instrumentmakare, säljare av lokalproducerade produkter – och väldigt många andra som försörjer sig helt eller delvis på småskalig postorder och e-handel till eller inom EU.

Det går inte ens att sälja något till andra EU-länder på eBay längre (se nedan) utan att ange sina registreringsuppgifter (Extended Producer Responsibility Packaging Registration Number) för varje nationell marknad där produkten skall erbjudas. Detsamma gäller den som säljer via plattformar som Etsy, Amazon, Fyndiq och Zalando. Även om det bara handlar om ett paket.

Vad som började som en frihandelsunion har nu utvecklats till ett byråkratiskt monster som hindrar handel över gränserna, i namn av en överordnad grön omställning.

Så vad händer nu? EU kan ju vara blixtsnabbt och runda hörn när det gäller sådant dess makthavare vill ha, som Chat Control.

Svaret är att det knappast blir någon förändring i år, om någon alls.

Enligt Die Welt har en hög EU-tjänsteman uppmanat medlemsstaterna att tills vidare inte tillämpa de nya reglerna strikt och att avstå från sanktioner. Men något sådant uttalande ändrar inte den gällande lagstiftningen.

Vilken företagare vågar verka på en marknad under så diffusa förutsättningar? Och marknadsplatserna vi nämnde ovan har ju redan stängt den möjligheten.

Vad är det för slappt lagstiftningsarbete som till synes saknar all verklighetskontakt och konsekvensanalys? Vad är det för lagstiftare som tyckte att detta var en bra idé? Hur tänkte de då?

Redan i december 2025 insåg kommissionen att kravet på lokala auktoriserade ombud kunde bli ett problem. Därför föreslog den att just detta krav skulle skjutas upp för EU-baserade företag till den 1 januari 2035. (COM(2025) 982) Men det kräver beslut i EU:s ministerråd och i Europaparlamentet. Och alla andra krav ligger kvar.

En stor majoritet av medlemsstaterna i rådet skall enligt uppgift ha motsatt sig förslaget. Rådets behandling av frågan lades åt sidan den 24 juni i år.

Europaparlamentet fortsätter dock att behandla ett nedbantat förslag, med undantag för företag med högst 49 anställda och högst 10 miljoner euro i årsomsättning. En utskottsomröstning väntas tidigast i början av oktober.

Det är därför oklart om parlamentet kommer till skott innan årsskiftet. Om alls. Och om ministerrådet fortsätter att sätta sig på tvären kan processen dra ut på tiden hur länge som helst.

Under tiden går många små postorder- och e-handelsföretag under – och den fria rörligheten för varor inom EU hindras.

• Commission tells member states to ignore its own new packaging rules and skip penalties »

• Experten: Nya EU-reglerna kommer knäcka småföretagen: ”Flera kommer att lägga ner” »

• En dödsstöt för gränsöverskridande e-handel »

[1] Om du säljer förpackade varor till kunder i ett annat EU-land kan du, beroende på mottagarlandets system och hur reglerna slutligen genomförs, behöva:
• Registrera dig i varje enskilt mottagarlands producentregister.
• Ansluta dig till varje enskilt mottagarlands återvinnings- eller producentansvarssystem.
• Redovisa förpackningarnas mängder och materialslag i varje enskilt mottagarland.
• Betala miljö- eller återvinningsavgifter i varje enskilt mottagarland.
• Utse ett auktoriserat ombud för producentansvaret i varje mottagarland där du inte är etablerad.
Det finns inget gemensamt EU-register utan 27 olika nationella system med olika register, olika blanketter och språk, olika rapporteringsperioder, olika definitioner och undantag, olika återvinningsorganisationer, olika avgifter och olika krav på lokala ombud.

[2] EU har cirka 24 miljoner små och medelstora företag. 22 procent av dessa säljer sina varor via en egen webbplats eller app. En tredjedel av dessa säljer sina varor över gränserna.

Not: Elva av Sveriges 21 Europaparlamentariker röstade ja (S+V+MP+L) till den slutliga förpackningsförordningen. Fem röstade nej (C+SD+Folklistan) och fem avstod (M+KD). När frågan därefter slutligt avgjordes i ministerrådet röstade den svenska regeringen ja.

CC0

Brysseleffekten

av

EU:s regleringar av internet och IT drabbar inte bara oss européer. Till exempel får människor i andra delar av världen sin yttrandefrihet inskränkt till följd av de lagar som stiftas här.

EU har ambitionen att bli världsledande på IT-reglering. Som om det vore ett självändamål.

Eftersom internet är globalt kommer EU:s klåfingriga regler att få konsekvenser överallt. EU anser att dess förordningar har extraterritoriell räckvidd och att man har rätt att bötfälla utländska företag med astronomiska belopp om de bryter mot unionens regler.

Så det är enklast att göra som EU säger. När globala tjänster väljer att införa samma system överallt kan även användare utanför EU drabbas av övermoderering och förändrade krav på innehåll och algoritmer. Det vill säga få sin yttrandefrihet begränsad.

EU har tvingat fram maskinläsbar märkning av AI-genererad text. Anthropic låter meddela att det är ogörligt att anpassa modellen efter olika länders olika regler. Så man vattenmärker i princip allt som kommer ut ur maskinen som AI-genererat – oavsett var i världen användaren befinner sig. Det gäller även om du bara använt tjänsten för att redigera en text som du själv skrivit.

Eller ta frågan om Chat Control. Idén om client-side scanning är fortfarande inte avskriven bland vissa medlemsstater i EU:s ministerråd. Det vill säga spionprogram på system- eller applikationsnivå som granskar innehållet på din telefon, platta eller dator innan det krypteras och sänds.

Detta är något som i så fall riskerar att bli en allmänt accepterad standard – vilket kan göra det svårare, farligare eller omöjligt för oppositionella i auktoritära stater att kommunicera genom krypterade meddelandeappar. Det handlar om människors liv och frihet.

Att EU ofta går för långt framgår tydligt genom att man gång på gång tvingas backa från tidigare beslut på olika områden. Men då är skadan ofta redan skedd.

CC0

Början till slutet för åldersgränser online

av

I Frankrike har författningsrådet underkänt en generell 15-årsgräns för sociala medier. På andra håll växer tvivel om att sådana förbud är genomförbara.

Förra veckan beslutade Frankrikes författningsråd – Conseil constitutionnel – att underkänna den nya 15-årsgränsen för sociala medier. Rådet slår fast att:

  • Ett generellt förbud mot sociala medier för alla under 15 år är ett oproportionerligt ingrepp i även minderårigas yttrande- och informationsfrihet.
  • Ett sådant förbud förutsätter i praktiken att alla användare, även vuxna, måste bevisa sin ålder. Då krävs tydliga rättsliga ramar och integritetsskydd.

Rådet säger att skyddet för barnets bästa visserligen är ett konstitutionellt krav. Men ett ingrepp i yttrande- och kommunikationsfriheten måste fortfarande vara lämpligt, nödvändigt och proportionerligt.

Det generella förbudet föll bland annat därför att:

  • det omfattade alla under 15 år utan åtskillnad efter mognad,
  • föräldrars medgivande saknade betydelse,
  • det omfattade mycket olika slags tjänster,
  • det kunde träffa tjänster där några hälsomässiga eller säkerhetsmässiga risker för barn inte hade visats,
  • lagen gjorde ingen tillräcklig åtskillnad mellan tjänster och funktioner med olika risknivåer.

Rådets resonemang är alltså starkare än att lagen bara var »otydligt skriven«. Själva det urskillningslösa förbudet bedömdes vara oproportionerligt.

Den andra delen av beslutet är särskilt intressant ur ett digitalt rättighetsperspektiv. Rådet konstaterar att ett förbud för personer under 15 år med nödvändighet innebär att varje person, även en myndig person, måste bevisa sin ålder innan tjänsten får användas.

Man kan notera att lagen svävar på målet vad gäller:

  • hur åldern skall styrkas,
  • vilka uppgifter som får samlas in,
  • vem som får behandla dem,
  • hur länge de får sparas,
  • hur anonymitet och pseudonymitet skall skyddas,
  • vilka tekniska eller rättsliga säkerhetsmekanismer som skall krävas.

Därför hade lagstiftaren inte skapat tillräckliga garantier för rätten till privatliv.

Rådet säger inte att all åldersverifiering är förbjuden. En mer begränsad reglering, riktad mot dokumenterat riskfyllda tjänster eller funktioner och försedd med starka integritetsgarantier, skulle möjligen kunna godtas.

President Macron har redan gett premiärminister Sébastien Lecornu i uppdrag att skriva om förslaget. Målet är enligt Élyséepalatset att få ett nytt system på plats före våren 2027. Men ett sådant förslag måste respektera de begränsningar författningsrådet just satt upp.

• Inte bara Frankrike

Samtidigt har Politico en intressant sammanställning över situationen i andra länder. Den internationella trenden tycks vara att man går bort från idén om en generell åldersgräns, för att istället inrikta sig på att begränsa vad man anser vara skadliga och beroendeframkallande funktioner på olika slags plattformar.

Möjligen har man tagit intryck av tidiga australiska data som visar att mer än 80 procent av 10–15-åringarna fortfarande använde sociala medier tre månader efter att landets 16-årsgräns trätt i kraft.

Lorena Giuberti Coutinho är kommissionär vid Brasiliens självständiga dataskyddsmyndighet med ansvar för frågor om säkerhet online. Hon menar att åldersgränser är svåra att upprätthålla.

»The incentives for teenagers to continue on social media are quite strong because this is where they communicate.«

Vilket borde vara rätt uppenbart.

I USA möter flera delstatliga försök att införa generella åldersgränser motstånd. Parallellt riktas allt större uppmärksamhet mot plattformarnas konstruktion och riskfyllda funktioner. Flera rättsprocesser om detta pågår.

Också i Storbritannien diskuteras om en generell åldersgräns är det bästa. Politico:

»In Britain, while new Prime Minister Andy Burnham has voiced his support for a social media ban, some industry observers say it may not be a blanket ban. Instead, the U.K. could choose to follow Canada’s proposed Safe Social Media Act, which looks to age-restrict platforms unless and until they have “adequate safeguards” in place to protect children.«

Det vill säga en åldersgräns så länge plattformarna inte ändrar det man anser vara riskfyllda och skadliga funktioner för minderåriga. Eller åldersgränser för vissa funktioner på respektive plattform. Vilket i och för sig låter som detaljstyrning, men det är kanske inte lika dåligt som en åldersgräns.

I EU kommer liknande signaler från forskare och sakkunniga.

»Several experts who consulted the European Commission on the proposed measures, including Leanda Barrington-Leach of the 5Rights Foundation and the London School of Economics’ Sonia Livingstone, wrote a letter to Commission President Ursula von der Leyen to warn against blanket measures. Total bans are not in line with protecting children’s fundamental rights because they cut off their access to information, which may lead them to more dangerous, unregulated online spaces, the letter says.«

Detta stämmer rätt väl med vad 438 forskare och säkerhetsexperter redan framfört i ett öppet brev.

Det tycks som att idén om generella åldersgränser för sociala media håller på att nötas ner av praktiska svårigheter samtidigt som den möter motstånd i form av grundläggande fri- och rättigheter. Som så ofta är knäckfrågan: Hur?

På något sätt känns det som att inte heller idén om åldersgränser för sociala medier var särskilt väl genomtänkt.

• Reuters: France’s top court blocks social media ban for under-15s »

• Politico: The backlash to social media bans has already begun »

• 438 forskare: Joint statement of security and privacy scientists and researchers on Age Assurance »

Relaterat / tidigare bloggposter:
• USA: Ålderskontroll för operativsystem »
• Åldersgränser för sociala medier innebär ID-tvång för alla »
• Tyskland vacklar om åldersgränser för sociala medier »
• Det finns bättre lösningar än åldersgränser för sociala medier »
• Utredning föreslår 15-årsgräns för sociala medier »
• Ålderskontroll – en trojansk häst »
• Sociala medier är barnens sista fria rum »
• Åldersgränser på sociala medier hotar ungas rättigheter »
• Ålderskontroll eller åsiktskontroll? »
• 389 [EDIT: 438] forskare kräver stopp för ålderskontroller online »

CC0

Förtryck kan komma i nya former

av

I en framtida dystopisk övervaknings- och kontrollstat kan de som inte bryr sig eller lägger sig i kanske ändå ha det rätt bra. Cirkulera, här finns inget att se.

Men den som kommer på kant med myndigheterna eller någon tjänsteman kan få det väldigt jobbigt.

Eller den som ifrågasätter eller avviker för mycket. Som de britter och tyskar som redan i dag får polisbesök när de tyckt fel på nätet. Oliktänkande kan rent av försvinna, som i Kina. Det är en skala.

Förtryck behöver inte komma marscherande ner för gatan. Det är mer troligt att det kommer i en annan, mindre spektakulär skepnad än förra gången.

Det kan smyga sig på och vara konsekvensen av missriktad välvilja. Eller naivitet. Eller inkompetens. Förtryck kan växa ur funktionell dumhet.

En ständigt pågående process i vilken politiken ökar sin makt och förvaltningen sin volym leder till att individens frihet och oberoende begränsas.

Förtryck kan växa ur människors tendens att vilja utöva makt över andra. Eller för att bereda väg för vackra utopiska visioner utan utrymme för avvikande åsikter.

Förtryck kan vara ansiktslöst och »ingens« fel eller ansvar. En biprodukt av överordnade mål.

Det är här de grundläggande mänskliga rättigheterna kommer in i bilden. Grundläggande, eftersom ingen majoritet eller överhet skall kunna kränka individens rättigheter eller tysta henne. I princip.

De mänskliga rättigheternas funktion är att skydda individen mot statens övergrepp. De finns för att skydda den som är obekväm, impopulär, misstänkliggjord eller i minoritet – och för vanligt, hederligt folk som skall lämnas i fred.

Med Chat Control vill man granska innehållet i folks elektroniska meddelanden. Med Digital Services Act och EU:s nya »demokratisköld« vill man styra vad människor skall få se online.

Här står både rätten till privatliv och yttrandefriheten på spel. Kampen pågår just nu och formar vår framtid.

CC0

EU:s AI Act är ett ormbo

av

EU:s AI-förordning och AI-leverantörernas tekniska tillämpning av kravet på märkning har potential för oväntade och oönskade konsekvenser.

Enligt artikel 50.2 i EU:s AI Act (Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens) gäller nu följande:

»Leverantörer av AI-system, inbegripet AI-system för allmänna ändamål, som genererar syntetiskt ljud-, bild-, video- eller textinnehåll ska säkerställa att AI-systemets utdata är märkta i ett maskinläsbart format och kan upptäckas som artificiellt genererade eller manipulerade. (…) Denna skyldighet är inte tillämplig i den mån AI-systemen utför en hjälpfunktion för vanlig redigering eller inte väsentligt ändrar de indata som tillhandahålls av tillhandahållaren eller deras semantik…«

Låt oss fokusera på text. Ur EU-kommissionens FAQ:

»According to Article 50(4) of the AI Act, deployers of generative AI systems must clearly label AI-generated or manipulated text published with the purpose of informing the public on matters of public interest. For text to fall within this obligation, 3 criteria must be fulfilled. The text needs to be:
• Published
• Informative to the public
• On matters of public interest«

Med »deployer« avses i sammanhanget användaren. Detta gäller till att börja med den som publicerar en text i ett professionellt sammanhang.

Samt att »Published text that has undergone human review or editorial control – does not need to be labelled.« Med detta avses en verklig granskning av textens sakinnehåll, utförd av någon med relevant kunskap och professionellt omdöme. Akademisk peer review och en ansvarig redaktörs granskning anges som exempel.

Kommissionen påpekar att den som använder AI helt privat och icke-professionellt (»in their personal capacity«) inte räknas som en »deployer« och därför inte omfattas av användarens märkningsskyldighet. Det undantaget gäller dock inte nödvändigtvis den tekniska märkning som AI-leverantören bygger in i resultatet.

Låt oss se hur AI-modellerna förhåller sig till lagtexten. Från Anthropic / Claudes FAQ, How Claude marks AI-generated content:

»Claude models launched in the EU on or after August 2, 2026 will support machine-readable marking at launch. Generated text will carry embedded watermarks, and generated files will include digitally signed provenance metadata where supported.« (…)

»We’re also working to add marking support to Claude models released before that date…« (…)

»When a supported Claude model generates text, it weaves an imperceptible watermark directly into the text itself. You won’t see it, and it doesn’t change the meaning, quality, or readability of Claude’s response.«

»Because the watermark is part of the text, it will travel with the text when it’s copied and pasted elsewhere, and may persist through some editing.«

Anthropics generella lösning tycks alltså inte göra något tekniskt undantag för vanlig redigering, trots att sådan användning under vissa förutsättningar är undantagen från märkningskravet i artikel 50.2.

Inte heller vad görs undantag vad gäller användning »in their personal capacity« eller dylikt. All text som genereras av Claude-modeller med stöd för tekniken kommer alltså att märkas. Vilket man möjligen kan förstå då AI-modellen inte nödvändigtvis kan veta vilket syfte användaren har.

Märkningen rullas av praktiska skäl ut på global nivå.

Detta väcker en rad frågor om upphovsrätt, juridik, säkerhet och personligt ansvar.

Kan till exempel en tekniskt betingad förändring av en upphovsmans formuleringar påverka verkets integritet eller möjligheten att fastställa vad upphovsmannen faktiskt skrev?

På X ställer sig flera användare frågan om text de själva skriver kommer att AI-märkas om man använder Claude för redigering, research m.m. (enligt Claude, inte AI-förordningen).

Några exempel…

»I am still writing the material. The quotes are mine. The arguments are mine. The new dictation is mine. I am using the AI to help retrieve, arrange, compare, and clean up what I have already written. (…) I do not want them to change it. I carefully crafted it the way I crafted it. I want the tool to help me work with my writing, not subtly rewrite it into something else.«

Den juridiska aspekten…

»It should be a crime for companies to alter the text of my legal documents with textual watermarking because it requires altering word choice, etc.

Entire cases have been lost and litigated over the placement of a comma.«

Rättssäkerhet…

»A detected watermark does not prove that Claude wrote a document. Anthropic says it may also appear when someone uses Claude to proofread, translate or improve a text originally written by a human.

But will an employer, university, client or publisher understand that distinction?

“Processed by Claude” could quickly become “written by AI.” This is a real problem!«

Den som anstränger sig kan komma runt märkningen. Så detta drabbar främst vanligt folk…

»A determined user can weaken a text watermark through extensive rewriting, translation, another model or an unmarked open-source system. Ordinary users asking Claude to polish an email, edit a document or help with code are more likely to retain the mark.«

Användarperspektiv…

»It means the models will be forced to write in a statistically worse/uniform way in order to embed utter nonsense that is irrelevant and which falls apart as soon as I start to edit it. There is no chance that if I am working on article with AI and rewrite 70-80% of it that it survives and so what I get is essentially just worse text for absolutely no reason at all.«

Och så vidare. Kommer detta till exempel att göra en text spårbar till en enskild användare?

Potentialen för oväntade och oönskade konsekvenser är betydande. Som vanligt ställer vi oss frågan: Har man verkligen tänkt igenom det här?

Mönstret börjar bli bekant. Först stressar man igenom något hetsade av media, alarmister och i sin upphetsning över att ha hittat något nytt att reglera. Sedan visar det sig att verkligheten är mer komplicerad. Då – när skadan redan är skedd – tvingas man backa.

Som vi brukade säga när jag jobbade i Europaparlamentet: I EU börjar man med att besluta. Sedan tar man reda på fakta. Därefter debatterar man saken.

• Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens (m.m.) »

• Transparency obligations under Article 50 of the AI Act »

• How Claude marks AI-generated content »

• The Verge: Claude will apply invisible watermarks to AI text and images »

CC0

En dödsstöt för gränsöverskridande e-handel

av

Nu börjar EU-regler gälla som i praktiken stänger EU:s inre marknad för de flesta små och medelstora företag som säljer online och via postorder.

I morgon den 12 augusti börjar den skarpa tillämpningen av EU:s nya förpackningsförordning, PPWR (EU 2025/40). Då måste alla som ägnar sig åt gränsöverskridande postorder eller e-handel till slutkund uppfylla förordningens krav, till exempel:

  • Registrera sig i varje enskilt mottagarlands producentregister.
  • Ansluta sig till varje enskilt mottagarlands återvinnings- eller producentansvarssystem.
  • Redovisa förpackningarnas mängder och materialslag i varje enskilt mottagarland.
  • Betala miljö- eller återvinningsavgifter i varje enskilt mottagarland.
  • Utse ett lokalt auktoriserat ombud i varje enskilt mottagarland.

Det finns inte något generellt undantag för små företag eller enstaka försändelser. En enda försäljning kan utlösa skyldigheterna. Kostnaden för registrering, administration och ombud kan bli hundratals eller tusentals euro per land och år, även om handlaren bara säljer ett fåtal varor dit.

PPWR är en EU-förordning, men producentansvaret administreras fortfarande nationellt. Resultatet är inte ett gemensamt EU-register utan upp till 27 olika system med olika register, olika blanketter och språk, olika rapporteringsperioder, olika definitioner och undantag, olika återvinningsorganisationer, olika avgifter och olika krav på lokala ombud.

Som reglerna nu ser ut får de en marknadskoncentrerande effekt. Stora företag – som Amazon – och särskilda compliance-företag gynnas, medan små handlare tvingas lämna den gränsöverskridande marknaden.

Vilket är en katastrof för många mindre och medelstora företag som hittills kunnat utnyttja EU:s inre marknad i kombination med internet för att utöka sin kundkrets till andra länder.

EU-kommissionen har faktiskt insett att detta är ett problem och har därför föreslagit att delar av tillämpningen skjuts fram till 2035. Men det upphäver inte en redan antagen förordning. Så länge ministerrådet och Europaparlamentet inte har beslutat om någon ändring gäller reglerna.

Återigen har EU – säkert med goda föresatser och de bästa intentioner – skapat ett system med oönskade konsekvenser. Det är som att all konsekvensanalys och verklighetsförankring lyser med sin frånvaro. Som att man inte begriper vad man sysslar med. Eller att man inte bryr sig.

Konsekvensen blir som sagt att mängder av små och medelstora företag nu tvingas tacka nej till beställningar från andra EU-länder.

Om den inre marknaden blir otillgänglig för de flesta företag kan man fråga sig vad vi alls skall med EU till.

Detta är häpnadsväckande bakvänt, till och med med EU-mått mätt.

Not: Elva av Sveriges 21 Europaparlamentariker röstade ja (S+V+MP+L) till den slutliga förpackningsförordningen. Fem röstade nej (C+SD+Folklistan) och fem avstod (M+KD). När frågan därefter slutligt avgjordes i ministerrådet röstade den svenska regeringen ja.

EU väljer kontroll före information

av

EU bemöter inte farliga rykten med bättre information, utan med krav på mer övervakning och faktagranskning. Det riskerar att göra plattformarna till verktyg för indirekt statlig informationskontroll.

Stormningen av den spanska exklaven Ceuta var problematisk med risk för omedelbara och dödliga konsekvenser. Men det är inte den första eller sista masshysterin med eller utan internet. Visst, internet kan öka spridningen – vilket bäst bemöts med konkret motinformation.

Är det någon som sett någon sådan motinformation – alls?

Det enda jag hittar är ett uttalande av EU-kommissionens ordförande Ursula von der Leyen när stormingen i princip var över. På engelska.

»Dangerous crossings must stop immediately. Smuggling networks must be dismantled. And returns must be swift, as our rules allow.«

Då så. I vilken mån detta nådde eller påverkade unga marockaner är högst oklart.

I all ödmjukhet: Man hade kunnat meddela att »Gränsen till Ceuta är inte öppen. Den spanska domstolen har förbjudit omedelbara avvisningar till havs, men den har inte givit någon rätt att resa in eller stanna i Spanien. Den som tar sig över kan frihetsberövas, få sitt ärende prövat och därefter återsändas. Försök att simma över är olagliga och förenade med livsfara.«

Detta hade kunnat ske på arabiska, marockansk darija, franska och spanska genom betald geografisk annonsering i norra Marocko, via spanska och marockanska myndigheter och genom tydliga myndighetskonton på samma plattformar där ryktet cirkulerade.

Men så gjorde man inte. Istället skyller man på det internet vars genomslagskraft man själv inte förmår utnyttja. EU-kommissionär Henna Virkkunen skyller allt på främst Meta och TikTok.

»Platforms must act decisively in keeping the integrity of the digital space, in particular during crisis situations… (…) Monitoring must increase, cooperation with fact-checkers to be strengthened.«

Detta skall »följas upp på måndag«.

Dock framgår det inte vad som konkret skall övervakas, vilket innehåll som skall begränsas, hur desinformation skall definieras, hur detta är tänkt att gå till eller vilken rättslig grund som åberopas.

Det problematiska är inte att EU vill stoppa ett falskt rykte om att gränsen till Ceuta är öppen. Problemet är metoden: Kommissionen pressar privata plattformar att intensifiera övervakning och faktagranskning – samtidigt som den själv har makt att utreda och bötfälla dem enligt Digital Services Act, DSA.

Detta skapar en risk för indirekt statlig censur utan något demokratiskt eller rättsligt beslut om exakt vilket innehåll som skall begränsas.

Så här: DSA kräver att mycket stora plattformar skall bedöma och motverka så kallade systemrisker. Det innebär att lagligt innehåll kan få minskad spridning, varningsetiketter eller andra begränsningar om det bedöms bidra till exempelvis samhällsskada eller »eventuella faktiska eller förutsebara negativa effekter på samhällsdebatten«. Vilket är imponerande vagt.

I denna process utformar EU-kommissionen diffusa riktlinjer om »systemiska risker« vars betydelse plattformarna själva får gissa sig fram till. Blir det inte som kommissionen tänkt sig kan den besluta om miljardböter.

Plattformarna riskerar därför mindre genom att ingripa för mycket än för lite. Då får de ett starkt incitament att sänka räckvidden för osäkra uppgifter hur relevanta och i slutändan korrekta dessa än må vara. De kan även blockera sökord, vilket känns direkt orwellianskt, automatisera fler beslut och ge utomstående faktagranskare fria händer.

I ett snabbt händelseförlopp är uppgifter ofta osäkra, ofullständiga eller motstridiga. Det som på fredagen klassas som desinformation kan på måndagen visa sig vara korrekt, delvis korrekt eller åtminstone rimligt att diskutera.

Faktagranskning kan vara värdefull. Men faktagranskare är inte domstolar eller demokratiskt ansvariga myndigheter. De väljer vad som skall granskas, hur frågan skall formuleras, vilka källor som skall tillmätas auktoritet och hur osäkerhet skall värderas. De kan göra fel och deras urval, finansiering, metod och politiska utgångspunkter kan påverka vilka påståenden som granskas och hur de formuleras.

När utomstående faktagranskare används för att inskränka inläggs spridning, strypa annonsintäkter, påverka rekommendationsalgoritmer eller bestraffa konton vid upprepade överträdelser – då handlar det om något helt annat än att bemöta dålig information med bättre information.

Vilken soppa detta är. Ytterst handlar det om intern europeisk politik och kamp om narrativet, agendan och makten.

Never waste a good crisis.

• EU tells Meta, TikTok to boost monitoring, fact-checking »