Femte juli

Nätet till folket!

AI

Brysseleffekten

av

EU:s regleringar av internet och IT drabbar inte bara oss européer. Till exempel får människor i andra delar av världen sin yttrandefrihet inskränkt till följd av de lagar som stiftas här.

EU har ambitionen att bli världsledande på IT-reglering. Som om det vore ett självändamål.

Eftersom internet är globalt kommer EU:s klåfingriga regler att få konsekvenser överallt. EU anser att dess förordningar har extraterritoriell räckvidd och att man har rätt att bötfälla utländska företag med astronomiska belopp om de bryter mot unionens regler.

Så det är enklast att göra som EU säger. När globala tjänster väljer att införa samma system överallt kan även användare utanför EU drabbas av övermoderering och förändrade krav på innehåll och algoritmer. Det vill säga få sin yttrandefrihet begränsad.

EU har tvingat fram maskinläsbar märkning av AI-genererad text. Anthropic låter meddela att det är ogörligt att anpassa modellen efter olika länders olika regler. Så man vattenmärker i princip allt som kommer ut ur maskinen som AI-genererat – oavsett var i världen användaren befinner sig. Det gäller även om du bara använt tjänsten för att redigera en text som du själv skrivit.

Eller ta frågan om Chat Control. Idén om client-side scanning är fortfarande inte avskriven bland vissa medlemsstater i EU:s ministerråd. Det vill säga spionprogram på system- eller applikationsnivå som granskar innehållet på din telefon, platta eller dator innan det krypteras och sänds.

Detta är något som i så fall riskerar att bli en allmänt accepterad standard – vilket kan göra det svårare, farligare eller omöjligt för oppositionella i auktoritära stater att kommunicera genom krypterade meddelandeappar. Det handlar om människors liv och frihet.

Att EU ofta går för långt framgår tydligt genom att man gång på gång tvingas backa från tidigare beslut på olika områden. Men då är skadan ofta redan skedd.

CC0

EU:s AI Act är ett ormbo

av

EU:s AI-förordning och AI-leverantörernas tekniska tillämpning av kravet på märkning har potential för oväntade och oönskade konsekvenser.

Enligt artikel 50.2 i EU:s AI Act (Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens) gäller nu följande:

»Leverantörer av AI-system, inbegripet AI-system för allmänna ändamål, som genererar syntetiskt ljud-, bild-, video- eller textinnehåll ska säkerställa att AI-systemets utdata är märkta i ett maskinläsbart format och kan upptäckas som artificiellt genererade eller manipulerade. (…) Denna skyldighet är inte tillämplig i den mån AI-systemen utför en hjälpfunktion för vanlig redigering eller inte väsentligt ändrar de indata som tillhandahålls av tillhandahållaren eller deras semantik…«

Låt oss fokusera på text. Ur EU-kommissionens FAQ:

»According to Article 50(4) of the AI Act, deployers of generative AI systems must clearly label AI-generated or manipulated text published with the purpose of informing the public on matters of public interest. For text to fall within this obligation, 3 criteria must be fulfilled. The text needs to be:
• Published
• Informative to the public
• On matters of public interest«

Med »deployer« avses i sammanhanget användaren. Detta gäller till att börja med den som publicerar en text i ett professionellt sammanhang.

Samt att »Published text that has undergone human review or editorial control – does not need to be labelled.« Med detta avses en verklig granskning av textens sakinnehåll, utförd av någon med relevant kunskap och professionellt omdöme. Akademisk peer review och en ansvarig redaktörs granskning anges som exempel.

Kommissionen påpekar att den som använder AI helt privat och icke-professionellt (»in their personal capacity«) inte räknas som en »deployer« och därför inte omfattas av användarens märkningsskyldighet. Det undantaget gäller dock inte nödvändigtvis den tekniska märkning som AI-leverantören bygger in i resultatet.

Låt oss se hur AI-modellerna förhåller sig till lagtexten. Från Anthropic / Claudes FAQ, How Claude marks AI-generated content:

»Claude models launched in the EU on or after August 2, 2026 will support machine-readable marking at launch. Generated text will carry embedded watermarks, and generated files will include digitally signed provenance metadata where supported.« (…)

»We’re also working to add marking support to Claude models released before that date…« (…)

»When a supported Claude model generates text, it weaves an imperceptible watermark directly into the text itself. You won’t see it, and it doesn’t change the meaning, quality, or readability of Claude’s response.«

»Because the watermark is part of the text, it will travel with the text when it’s copied and pasted elsewhere, and may persist through some editing.«

Anthropics generella lösning tycks alltså inte göra något tekniskt undantag för vanlig redigering, trots att sådan användning under vissa förutsättningar är undantagen från märkningskravet i artikel 50.2.

Inte heller vad görs undantag vad gäller användning »in their personal capacity« eller dylikt. All text som genereras av Claude-modeller med stöd för tekniken kommer alltså att märkas. Vilket man möjligen kan förstå då AI-modellen inte nödvändigtvis kan veta vilket syfte användaren har.

Märkningen rullas av praktiska skäl ut på global nivå.

Detta väcker en rad frågor om upphovsrätt, juridik, säkerhet och personligt ansvar.

Kan till exempel en tekniskt betingad förändring av en upphovsmans formuleringar påverka verkets integritet eller möjligheten att fastställa vad upphovsmannen faktiskt skrev?

På X ställer sig flera användare frågan om text de själva skriver kommer att AI-märkas om man använder Claude för redigering, research m.m. (enligt Claude, inte AI-förordningen).

Några exempel…

»I am still writing the material. The quotes are mine. The arguments are mine. The new dictation is mine. I am using the AI to help retrieve, arrange, compare, and clean up what I have already written. (…) I do not want them to change it. I carefully crafted it the way I crafted it. I want the tool to help me work with my writing, not subtly rewrite it into something else.«

Den juridiska aspekten…

»It should be a crime for companies to alter the text of my legal documents with textual watermarking because it requires altering word choice, etc.

Entire cases have been lost and litigated over the placement of a comma.«

Rättssäkerhet…

»A detected watermark does not prove that Claude wrote a document. Anthropic says it may also appear when someone uses Claude to proofread, translate or improve a text originally written by a human.

But will an employer, university, client or publisher understand that distinction?

“Processed by Claude” could quickly become “written by AI.” This is a real problem!«

Den som anstränger sig kan komma runt märkningen. Så detta drabbar främst vanligt folk…

»A determined user can weaken a text watermark through extensive rewriting, translation, another model or an unmarked open-source system. Ordinary users asking Claude to polish an email, edit a document or help with code are more likely to retain the mark.«

Användarperspektiv…

»It means the models will be forced to write in a statistically worse/uniform way in order to embed utter nonsense that is irrelevant and which falls apart as soon as I start to edit it. There is no chance that if I am working on article with AI and rewrite 70-80% of it that it survives and so what I get is essentially just worse text for absolutely no reason at all.«

Och så vidare. Kommer detta till exempel att göra en text spårbar till en enskild användare?

Potentialen för oväntade och oönskade konsekvenser är betydande. Som vanligt ställer vi oss frågan: Har man verkligen tänkt igenom det här?

Mönstret börjar bli bekant. Först stressar man igenom något hetsade av media, alarmister och i sin upphetsning över att ha hittat något nytt att reglera. Sedan visar det sig att verkligheten är mer komplicerad. Då – när skadan redan är skedd – tvingas man backa.

Som vi brukade säga när jag jobbade i Europaparlamentet: I EU börjar man med att besluta. Sedan tar man reda på fakta. Därefter debatterar man saken.

• Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens (m.m.) »

• Transparency obligations under Article 50 of the AI Act »

• How Claude marks AI-generated content »

• The Verge: Claude will apply invisible watermarks to AI text and images »

CC0

EU:s DMA stoppar Apples nya Siri AI

av

iPhone- och iPad-användare i EU kommer tills vidare inte att få tillgång till Apples nya Siri AI, som stoppas av unionens Digital Markets Act.

Apple har givit röstassistenten Siri ett lyft och integrerat externa AI-modeller från bland annat OpenAI och Google i sitt ekosystem för att synka uppgifter mellan olika enheter och göra livet lättare för sina användare.

Kärnan i systemet bygger på lokal bearbetning på enheten och på företagets krypterade Private Cloud Compute där inte ens Apple själva har tillgång till informationen.

Men EU (och Kina) kommer – tills vidare – inte att få tillgång till dessa nya AI-funktioner.

EU:s Digital Markets Act (DMA) kräver nämligen att dominerande aktörer måste öppna dörren för sina konkurrenter.

I detta fall skulle det innebära att Apple tvingas ge andra AI-assistenter tillgång till känslig användardata och möjlighet att utföra självständiga åtgärder i operativsystemet. Det gäller även assistenter som är utvecklade av aktörer som Apple inte kan kontrollera eller säkerhetsgranska.

Det hotar uppenbart användarnas personliga integritet och säkerhet. Vilket Apple inte tänker gå med på.

Därför har man erbjudit sig att sätta upp en »Trusted System Agent« som mellanhand, som tillåter konkurrerande virtuella assistenter att – på ett säkert sätt – få tillgång till samma funktioner som deras egen Siri AI.

Detta förslag har (enligt Apple) EU inte givit någon feedback på, trots att det har gått mer än sex månader sedan det lades fram.

Istället har kommissionen gjort klart att DMA måste följas och att överträdelser kan leda till mycket stora böter.

Så Apple väljer tills vidare att leverera ett operativsystem utan dessa funktioner till sina kunder i EU. Ur deras pressmeddelande…

»Siri AI är byggd för att vara privat och djupt integrerat i alla Apples plattformar med bearbetning lokalt på enheten och Privat molnbehandling. På så sätt utvidgas integritetsskyddet och säkerheten hos iPhone till molnet. EU:s tillsynsmyndigheters extrema tolkning av förordningen om digitala marknader skulle dock innebära att Apple behövde ge alla virtuella assistenter direkt åtkomst till användarnas privata data – och möjligheten att direktstyra andra installerade appar – så fort Siri AI blir tillgängligt i EU, utan de nödvändiga skyddsmekanismerna som håller användare och deras data skyddade.«

»Enligt EU:s tillsynsmyndigheter kräver förordningen om digitala marknader att Apple ger alla AI-system näst intill obegränsad åtkomst till användarens enheter samt möjlighet att agera helt självständigt utifrån denna åtkomst utan att användaren har överblick eller kontroll över det. Det betyder att de kan läsa och skicka meddelanden, genomföra köp, komma åt filer och göra saker i alla appar.«

EU-kommissionen lägger å sin sida allt ansvar på Apple och meddelar att DMA inte är förhandlingsbar.

Enligt EU:s talesperson Thomas Regnier finns det inget i DMA som förbjuder Apple att släppa nya produkter. Han menar att Apple helt enkelt har misslyckats med att bygga en laglig produkt som tillåter sund konkurrens.

• Apple: Lanseringen av Siri AI för iOS 27 och iPadOS 27 försenas i EU på grund av förordningen om digitala marknader »
• Computer Sweden: Apple blockerar Siri AI i EU – hänvisar till DMA-lagen »
• Omni: EU slår tillbaka: Bara Apples fel att Siri inte släpps »

CC0

Staten, AI och maktens frestelser

av

»Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.«

Jag är utvecklingsoptimist och gillar »artificiell intelligens«. Egentligen tror jag att maskininlärning är ett ord som leder mer rätt. System som kan ta in våldsamt stora mängder information och gå igenom den på ett ögonblick för att sedan redovisa resultatet i ett användargränssnitt som är anpassat för människor.

Men det finns naturligtvis risker med AI. EU har därför infört ett nytt regelverk för dess användning. Detta har dock ett undantag för polis och underrättelseväsen. Vilket råkar vara två områden där utrymmet för missbruk av tekniken är uppenbart.

Vilket även gäller statsapparaten i ett bredare perspektiv. Det är först nu som tekniken existerar för verkligt bred massövervakning, sociala kreditsystem, klimatkrediter och analys av vad som rör sig i folkdjupet. Detta är verktyg som kan användas av makthavare för att uppnå politiska mål och föra samhället i en mer auktoritär riktning.

I veckan klubbade riksdagen igenom en lag som – inom vissa gränser – tillåter polisen att använda kamerabevakning med automatiserad ansiktsigenkänning i realtid. Vilket sedan kan kopplas till olika databaser, datalagring och uppgifter som kan hämtas in online. Europol har redan fått rätt att bereda sig tillgång till information ur privata aktörers databaser.

Övervakningsstaten väver en allt tätare väv – under förevändningen att det är för att skydda oss från gängvåld, terrorister, farsoter och annat som vi är rädda för. Men som Hannah Arendt påpekar i sitt standardverk om den totalitära statens rötter…

»Brott mot de mänskliga rättigheterna kan alltid rättfärdigas med förevändningen att det rätta är lika med det som är bra eller nyttigt för helheten i kontrast till delarna.«

De flesta diktatorer och auktoritära system (förutom rena kleptokrater) menar sig verka för en god, större sak. För vilken man inte accepterar att enskilda individer står i vägen eller uppvisar bristande entusiasm.

Det finns mycket goda skäl för att rätten till privatliv är en grundläggande mänsklig rättighet. Information är makt. Och den stat som vet för mycket om sina medborgare kan även kontrollera dem, förtrycka oppositionella och befästa sin makt.

De grundläggande mänskliga rättigheternas funktion är att skydda individen mot övergrepp från staten. Därför är det oroväckande när staten (genom politiken) steg för steg inskränker och gör avsteg från dessa rättigheter.

Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.

CC0