EU:s AI-förordning och AI-leverantörernas tekniska tillämpning av kravet på märkning har potential för oväntade och oönskade konsekvenser.
Enligt artikel 50.2 i EU:s AI Act (Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens) gäller nu följande:
»Leverantörer av AI-system, inbegripet AI-system för allmänna ändamål, som genererar syntetiskt ljud-, bild-, video- eller textinnehåll ska säkerställa att AI-systemets utdata är märkta i ett maskinläsbart format och kan upptäckas som artificiellt genererade eller manipulerade. (…) Denna skyldighet är inte tillämplig i den mån AI-systemen utför en hjälpfunktion för vanlig redigering eller inte väsentligt ändrar de indata som tillhandahålls av tillhandahållaren eller deras semantik…«
Låt oss fokusera på text. Ur EU-kommissionens FAQ:
»According to Article 50(4) of the AI Act, deployers of generative AI systems must clearly label AI-generated or manipulated text published with the purpose of informing the public on matters of public interest. For text to fall within this obligation, 3 criteria must be fulfilled. The text needs to be:
• Published
• Informative to the public
• On matters of public interest«
Med »deployer« avses i sammanhanget användaren. Detta gäller till att börja med den som publicerar en text i ett professionellt sammanhang.
Samt att »Published text that has undergone human review or editorial control – does not need to be labelled.« Med detta avses en verklig granskning av textens sakinnehåll, utförd av någon med relevant kunskap och professionellt omdöme. Akademisk peer review och en ansvarig redaktörs granskning anges som exempel.
Kommissionen påpekar att den som använder AI helt privat och icke-professionellt (»in their personal capacity«) inte räknas som en »deployer« och därför inte omfattas av användarens märkningsskyldighet. Det undantaget gäller dock inte nödvändigtvis den tekniska märkning som AI-leverantören bygger in i resultatet.
Låt oss se hur AI-modellerna förhåller sig till lagtexten. Från Anthropic / Claudes FAQ, How Claude marks AI-generated content:
»Claude models launched in the EU on or after August 2, 2026 will support machine-readable marking at launch. Generated text will carry embedded watermarks, and generated files will include digitally signed provenance metadata where supported.« (…)
»We’re also working to add marking support to Claude models released before that date…« (…)
»When a supported Claude model generates text, it weaves an imperceptible watermark directly into the text itself. You won’t see it, and it doesn’t change the meaning, quality, or readability of Claude’s response.«
»Because the watermark is part of the text, it will travel with the text when it’s copied and pasted elsewhere, and may persist through some editing.«
Anthropics generella lösning tycks alltså inte göra något tekniskt undantag för vanlig redigering, trots att sådan användning under vissa förutsättningar är undantagen från märkningskravet i artikel 50.2.
Inte heller vad görs undantag vad gäller användning »in their personal capacity« eller dylikt. All text som genereras av Claude-modeller med stöd för tekniken kommer alltså att märkas. Vilket man möjligen kan förstå då AI-modellen inte nödvändigtvis kan veta vilket syfte användaren har.
Märkningen rullas av praktiska skäl ut på global nivå.
Detta väcker en rad frågor om upphovsrätt, juridik, säkerhet och personligt ansvar.
Kan till exempel en tekniskt betingad förändring av en upphovsmans formuleringar påverka verkets integritet eller möjligheten att fastställa vad upphovsmannen faktiskt skrev?
På X ställer sig flera användare frågan om text de själva skriver kommer att AI-märkas om man använder Claude för redigering, research m.m. (enligt Claude, inte AI-förordningen).
»I am still writing the material. The quotes are mine. The arguments are mine. The new dictation is mine. I am using the AI to help retrieve, arrange, compare, and clean up what I have already written. (…) I do not want them to change it. I carefully crafted it the way I crafted it. I want the tool to help me work with my writing, not subtly rewrite it into something else.«
»It should be a crime for companies to alter the text of my legal documents with textual watermarking because it requires altering word choice, etc.
Entire cases have been lost and litigated over the placement of a comma.«
»A detected watermark does not prove that Claude wrote a document. Anthropic says it may also appear when someone uses Claude to proofread, translate or improve a text originally written by a human.
But will an employer, university, client or publisher understand that distinction?
“Processed by Claude” could quickly become “written by AI.” This is a real problem!«
Den som anstränger sig kan komma runt märkningen. Så detta drabbar främst vanligt folk…
»A determined user can weaken a text watermark through extensive rewriting, translation, another model or an unmarked open-source system. Ordinary users asking Claude to polish an email, edit a document or help with code are more likely to retain the mark.«
»It means the models will be forced to write in a statistically worse/uniform way in order to embed utter nonsense that is irrelevant and which falls apart as soon as I start to edit it. There is no chance that if I am working on article with AI and rewrite 70-80% of it that it survives and so what I get is essentially just worse text for absolutely no reason at all.«
Och så vidare. Kommer detta till exempel att göra en text spårbar till en enskild användare?
Potentialen för oväntade och oönskade konsekvenser är betydande. Som vanligt ställer vi oss frågan: Har man verkligen tänkt igenom det här?
Mönstret börjar bli bekant. Först stressar man igenom något hetsade av media, alarmister och i sin upphetsning över att ha hittat något nytt att reglera. Sedan visar det sig att verkligheten är mer komplicerad. Då – när skadan redan är skedd – tvingas man backa.
Som vi brukade säga när jag jobbade i Europaparlamentet: I EU börjar man med att besluta. Sedan tar man reda på fakta. Därefter debatterar man saken.
• Transparency obligations under Article 50 of the AI Act »
• How Claude marks AI-generated content »
• The Verge: Claude will apply invisible watermarks to AI text and images »
CC0
