Femte juli

Nätet till folket!

AI

Åldersgränser online och AI-frågor på gång i EU

av

EU återstartar efter sommaren. Kommissionsordförande Ursula von der Leyens linjetal i Europaparlamentet förväntas bland annat handla om åldersgränser online och unionens AI-politik.

Nu börjar EU-apparaten vakna till liv igen efter sommaruppehållet. Europaparlamentet startar med två veckor utskottsarbete och vi väntar på besked om när trilogförhandlingarna om Chat Control 2 skall återupptas.

Den 14-17 september sammanträder Europaparlamentet i Strasbourg.

Kl 09:00 onsdagen den 16 september håller EU-kommissionens ordförande Ursula von der Leyen sitt årliga »State of the Union«-tal.

Då väntas hon – bland mycket annat – presentera ett konkret förslag om åldersrestriktioner för sociala medier och vissa andra digitala tjänster.

Man kan också räkna med besked om hur medlemsstaternas nationella versioner av EU:s app för ålderskontroll, en så kallad mini-wallet, skall rullas ut och användas i praktiken. Dess autentiseringsskydd har dock redan kunnat kringgås.

Samtidigt har idén om åldersgränser för sociala medier stött på patrull och blivit allt mer ifrågasatt i olika länder som aktualiserat den.

AI sägs också få en framträdande plats i talet. Då kan vi kanske få besked om hur EU:s AI Act skall hanteras – efter att EU nyligen antog sitt »AI Omnibus«-paket för att förenkla de tidigare antagna reglerna, minska administrationen och göra förordningen mer innovationsvänlig.

Det kan även komma mer information om EU:s »Apply AI Strategy« som är tänkt att öka användningen av AI i Europa – och dess »AI-first policy«, som innebär att företag och myndigheter uppmanas att först överväga om och hur AI kan användas när de utvecklar nya system och tjänster.

Sedan har vi »RAISE – Resource for AI Science in Europe«, ett slags virtuellt europeiskt institut som skall samordna datorkraft, data, kompetens och finansiering för AI-baserad forskning. Detta omfattar bland annat 600 miljoner euro för tillgång till datorkraft samt planer på att öka Horizon Europes årliga AI-investeringar till över tre miljarder euro.

Även det nya lagförslaget »Cloud and AI Development Act« (CADA), som kommissionen lade fram i juni, kan komma upp. Det syftar bland annat till europeisk moln- och AI-suveränitet. Förslaget går ut på att minst tredubbla EU:s kapacitet för datacentrum inom fem till sju år.

Vi har också EU:s »AI Continent Action Plan« som bland annat omfattar EU-stödda »AI Factories« kring europeiska superdatorer och ett mindre antal betydligt större »AI Gigafactories« för träning av mycket avancerade modeller.

Sedan har vi den nyligen presenterade »Action Plan on Cybersecurity and AI«. Den är ett samarbete mellan kommissionen, medlemsstaterna och cybersäkerhetsorganet ENISA. Syftet är att utöka Europas kapacitet att utvärdera avancerade AI-modeller, skydda AI-system mot angrepp och använda AI för att upptäcka cyberhot.

Och så har vi förra veckans beslut att klassificera ChatGPT som en mycket stor sökmotor enligt EU:s Digital Services Act, med de ytterligare skyldigheter och konsekvenser som följer av detta.

Nu återstår att se om von der Leyen lyckas ta något slags helhetsgrepp på denna djungel av AI-reglering och AI-initiativ. Bli inte förvånad om hon flaggar för mer reglering.

CC0

Med DSA tar EU kontroll över ChatGPT

av

Open AI:s ChatGPT tvingas in under EU:s Digital Services Act. Kommer vi i Europa att få en urvattnad AI-light på grund av politisk styrning och mer byråkrati?

EU-kommissionen meddelar:

»Today, the Commission has designated ChatGPT as a Very Large Online Search Engine (VLOSE), as well as Reddit and Roblox as Very Large Online Platforms (VLOPs), under the Digital Services Act (DSA). These services declared that they reach at least 45 million average monthly users in the EU and thus meet the threshold for designation.

Following the notification of the designations, these services have four months, i.e. by January 2027, to comply with the additional DSA obligations for VLOPs and VLOSEs, such as assessing and mitigating the systemic risks stemming from their service and algorithmic systems related to the dissemination of illegal content, the negative effects on minors, users’ physical and mental well-being, fundamental rights, electoral processes and public security.«

DSA vs. Reddit kan bli annorlunda och intressant. Men låt mig här fokusera på DSA vs. ChatGPT.

EU-kommissionen tänker alltså reglera ChatGPT med en lag som skrevs innan modellen ens existerade. Dessutom omfattas OpenAI redan av AI Act, som har ett delvis annat regelverk och en annan tillsynsstruktur.

Låt oss börja med att fråga oss hur detta är tänkt att gå till.

DSA föreskriver inte exakt hur ChatGPT skall förändras. Men dess breda och vaga krav på att begränsa systemrisker ger kommissionen och OpenAI starka incitament att välja försiktiga, restriktiva och byråkratiskt försvarbara lösningar.

För att motverka systemrisker, desinformation och olagligt innehåll kommer modellen att behöva tränas grundligt med mänsklig feedback. Så att den vägrar svara på skadliga instruktioner. I sammanhanget måste någon avgöra vad som skall anses vara sant respektive falskt, vilket inte alltid är helt uppenbart. Men det sker väl redan i någon mening.

Ett automatiserat system behöver skanna användarens fråga innan den når AI:n och skanna AI:ns svar innan det visas för användaren. Detta för att blockera till exempel skadligt eller olagligt innehåll och hatretorik.

När ChatGPT söker på webben kommer algoritmerna att behöva prioritera att hämta information från betrodda nyhetsmedier och officiella källor – för att förhindra spridning av rykten, speciellt i samband med val.

Risken är alltså att AI-modellen i högre grad kommer att prioritera regulatorisk riskminimering framför maximal nytta för användaren.

Detta kan även skapa tryck på OpenAI att införa ålderskontroller och särskilda begränsningar för minderåriga. I värsta fall kan sådana kontroller utvecklas till ett allmänt ID-krav för att få tillgång till vissa svar.

Compliance kommer att kräva ett helt nytt lager av byråkrati. Oberoende (men av EU godkända) externa revisorer kommer minst en gång om året att behöva granska OpenAI:s efterlevnad, riskbedömningar och riskbegränsande åtgärder. De skall ges tillgång till relevanta data och lokaler. Kommissionen kan dessutom kräva förklaringar av algoritmsystemens konstruktion, logik, funktion och testning.

Det är ännu oklart hur DSA:s traditionella system för anmälningar, motiveringar och överklaganden skall kunna överföras till en tjänst som genererar nya svar i realtid.

Det finns skäl att tro att detta blir tungrott.

Traditionella plattformar modererar genom att ta bort specifika inlägg eller blockera användare. En LLM genererar unikt innehåll i realtid baserat på sannolikheter.

Kritiker menar att det är tekniskt omöjligt för OpenAI att garantera att modellen aldrig genererar »skadligt innehåll«, eftersom ett unikt genererat svar inte kan modereras på samma sätt som ett redan publicerat foruminlägg.

DSA kan även tvinga OpenAI att lämna ut interna data till myndigheter och forskare. Vilka ChatGPT-data detta kan omfatta är ännu oklart. Eftersom tjänstens rådata kan bestå av privata konversationer väcker reglerna särskilt känsliga frågor om personuppgifter, anonymisering och företagshemligheter.

Man kan i sammanhanget notera att ChatGPT på grund av sin popularitet drabbas av fler regler och mer byråkrati än mindre konkurrenter som inte når DSA:s tröskelvärde.

Nu är frågan om ChatGPT kommer att räta in sig i EU-ledet. I så fall är nästa fråga om man kommer att göra de aktuella förändringarna globalt eller om vi i EU kommer att få något slags urvattnad, modererad och begränsad light-variant.

Ju mer styrning vi får, desto färre tankar, idéer och metoder kan prövas mot varandra. Vilket rimligen påverkar utvecklingen negativt.

Men politikernas kontrollbehov tycks vara oändligt.

»Det är viktigt att politiken tar kontroll över utvecklingen«, som Magdalena Andersson sa om internet.

• EU-kommissionen: Commission designates ChatGPT, Reddit, Roblox under Digital Services Act »

USA: Uppror mot kameraövervakning

av

I USA växer motståndet mot de kameror för registrering av fordon som dyker upp lite varstans. Motståndet tar sig uttryck i allt från juridisk kamp till civilt motstånd med människor som målar över och sågar ner kameror.

I USA har de hundratusentals övervakningskameror som satts upp av företaget Flock Safety mött motstånd. Det handlar om ett privat företag som driver ett mycket omfattande nät av automatiska registreringsskyltläsare, så kallade ALPR-kameror.

Kamerorna fotograferar i princip varje passerande fordon och registrerar bland annat registreringsnummer, tid och plats, bilmärke, modell, färg och karosstyp samt särskilda kännetecken som takräcken, dekaler, repor och saknade navkapslar.

Uppgifterna laddas upp till en sökbar molndatabas. Polisen kan sedan söka efter exempelvis ett visst registreringsnummer eller efter »röd pickup med takräcke«. Systemet kan också skicka automatiska larm när en bil på en bevakningslista passerar.

Detta underlättar naturligtvis polisens arbete. Men systemet väcker också obehag och principiella frågor. Dessutom har det i flera fall missbrukats.

Problemet är arkitekturen. För att hitta den lilla andel fordon som är intressanta registreras alla andra. Flock är inte bara ett nät av trafikkameror. Det är en sökmotor över människors rörelser, där bilen fungerar som identitetsmarkör.

En enstaka skyltläsare vid en brottsplats ger en ögonblicksbild. Hundratusentals sammankopplade kameror kan visa en persons resor, vanor, relationer och besök på exempelvis läkarmottagningar, kyrkor, demonstrationer eller politiska möten.

Det som är offentligt observerbart vid ett enskilt tillfälle är inte nödvändigtvis harmlöst när det automatiseras och görs sökbart över hela landet.

Washington Post har i en granskning identifierat närmare 70 poliser och tjänstemän som anklagats, åtalats eller dömts för att ha missbrukat Flock eller liknande system, till exempel för att spåra tidigare partners.

Många avtal har beslutats lokalt och presenterats som inköp av vanlig polisiär utrustning. Invånarna har inte alltid förstått att deras stad därmed blir en nod i ett större nätverk, vars uppgifter kan göras tillgängliga för myndigheter på andra håll.

Detta är sannolikt en central förklaring till vreden: Folk upplever att infrastrukturen vuxit fram i smyg och att de aldrig tillfrågats.

Medborgarrättsorganisationen ACLU driver kampanjen Get the Flock Out och har publicerat verktyg för att kartlägga avtal, begära ut sökloggar, påverka kommunpolitiker och kräva beslut om datalagring och tillgång. Det öppna projektet DeFlock har byggt en crowdsourcad karta över kamerornas placering.

Kommuner har sagt upp eller vägrat förnya Flock-avtal, täckt över kameror, infört moratorier, krävt domstolsbeslut för sökningar och begränsat delning med federala myndigheter. Hittills under 2026 har minst 56 städer avvisat eller sagt upp Flock enligt DeFlock och nyhetsrapporter visar att över 100 kommuner har stängt av sina kameror efter lokala protester.

Aktivister har spraymålat linser, täckt kameror, klippt kablar och sågat ner stolpar. Polisen har svarat med övervakning av aktivistkonton och även placerat ut attrapper för att gripa vandaler.

Men denna spektakulära del av motståndet är knappast den mest betydelsefulla. Den politiska press som får kommuner att säga upp avtalen är viktigare och svårare att avfärda.

Efter kritiken har Flock presenterat starkare kontrollsystem, automatisk upptäckt av misstänkt användning och en rekommenderad standardlagring på sju dagar istället för tidigare 30.

Men det förändrar inte grundproblemet – att en privatägd infrastruktur registrerar i huvudsak oskyldiga människors rörelser för att uppgifterna möjligen kan bli användbara senare.

CC0

ChatGPT vill läsa dina meddelanden efter dekryptering

av

ChatGPT:s plugin för Apple Messages får även tillgång till vad andra – som inte samtyckt – skrivit till dig. Och annan känslig information.

Att släppa loss AI-agenter på egen hand på sin dator känns som en dålig idé. Vilket användare fått erfara till exempel då autonoma agenter med allt för breda behörigheter raderat hela produktionsdatabaser.

Frågan har aktualiserats då OpenAI/ChatGPT nu erbjuder en »plugin« till sin skrivbordsapp för Apples macOS. Den är speciellt inriktad på Apples meddelandetjänst.

Efter installation och godkända macOS-behörigheter kan ChatGPT Work och Codex läsa och söka i dina iMessage-, SMS- och RCS-konversationer; sammanfatta meddelanden och analysera vem du kommunicerar med samt formulera svar och sända meddelanden i ditt namn genom Apples Messages-app.

På så sätt får ChatGPT tillgång till meddelanden efter att de har dekrypterats på användarens Mac. iMessages totalsträckskryptering bryts alltså inte, men den skyddar inte innehållet mot en AI-agent när användaren har gett åtkomst till den dekrypterade meddelandedatabasen.

Funktionen är visserligen frivillig och måste godkännas. Men om du trycker OK drabbas även andra som du har kommunicerat med i Messages, trots att de inte har godkänt att deras meddelanden skall analyseras av ChatGPT och (beroende på hur tjänsten tekniskt behandlar uppgifterna och användarens datainställningar) möjligen överföras till eller lagras hos OpenAI.

Man kan inte heller utesluta att företaget lämnar ut uppgifter till amerikanska eller europeiska myndigheter.

När du låter ChatGPT analysera en konversation eller gruppchat lämnar du alltså inte bara ut vad du själv har skrivit. Till exempel kan din meddelandehistorik innehålla vänners och kollegors privata data; telefonnummer och andra kontaktuppgifter; medicinsk, juridisk eller ekonomisk information; lösenord, länkar och engångskoder; företagshemligheter eller källskyddat material.

Avsändarna kan rimligen ha trott att de kommunicerade med dig inom Messages krypterade miljö, inte att innehållet skulle behandlas av en extern AI-modell. Här finns därför både en integritetsfråga och möjliga sekretess- och dataskyddsproblem.

För att komma åt Messages-databasen behöver ChatGPT bland annat Full Disk Access i macOS. Men den behörigheten är inte begränsad till Messages utan kan tekniskt ge appen tillgång till andra skyddade lokala data som e-post, webbläsarhistorik och säkerhetskopior. Det betyder inte att ChatGPT automatiskt läser allt detta, men behörigheten ger ett betydligt större angrepps- och förtroendeområde än själva funktionen egentligen kräver.

Särskilt aktivister, journalister, advokater, läkare, politiker och människor som hanterar känsliga källor eller arbetsuppgifter bör låta bli att aktivera funktionen i dess nuvarande form. Om man ändå gör det bör man åtminstone behålla godkännande inför varje sändning och stänga av användning av innehållet för modellträning.

Man skall även vara medveten om den allmänna risken för en indirekt promptinjektion. Det vill säga att instruktioner som någon har placerat i ett meddelande kan få AI-agenten att behandla meddelandets innehåll som kommandon och försöka utföra andra åtgärder bortom din kontroll.

OpenAI betonar att allt kräver uttryckligt användarsamtycke, att det körs lokalt, att man måste be om specifika saker och att sända meddelanden som standard kräver godkännande. De har även dokumenterat riskerna och hur man återkallar behörigheter.

Not: Detta är inte samma sak som Apples inbyggda ChatGPT-integration i Apple Intelligence. Apples integration har särskilda dataskyddsregler, bland annat för användning utan ChatGPT-konto. ChatGPTs Messages-plugin är i stället en funktion i OpenAI-appens Work- och Codex-läge, som använder macOS-behörigheter för att arbeta med Messages. Namnet »Apple Messages plugin« betyder alltså inte att det är utvecklat, granskat eller godkänt av Apple.

CC0

Brysseleffekten

av

EU:s regleringar av internet och IT drabbar inte bara oss européer. Till exempel får människor i andra delar av världen sin yttrandefrihet inskränkt till följd av de lagar som stiftas här.

EU har ambitionen att bli världsledande på IT-reglering. Som om det vore ett självändamål.

Eftersom internet är globalt kommer EU:s klåfingriga regler att få konsekvenser överallt. EU anser att dess förordningar har extraterritoriell räckvidd och att man har rätt att bötfälla utländska företag med astronomiska belopp om de bryter mot unionens regler.

Så det är enklast att göra som EU säger. När globala tjänster väljer att införa samma system överallt kan även användare utanför EU drabbas av övermoderering och förändrade krav på innehåll och algoritmer. Det vill säga få sin yttrandefrihet begränsad.

EU har tvingat fram maskinläsbar märkning av AI-genererad text. Anthropic låter meddela att det är ogörligt att anpassa modellen efter olika länders olika regler. Så man vattenmärker i princip allt som kommer ut ur maskinen som AI-genererat – oavsett var i världen användaren befinner sig. Det gäller även om du bara använt tjänsten för att redigera en text som du själv skrivit.

Eller ta frågan om Chat Control. Idén om client-side scanning är fortfarande inte avskriven bland vissa medlemsstater i EU:s ministerråd. Det vill säga spionprogram på system- eller applikationsnivå som granskar innehållet på din telefon, platta eller dator innan det krypteras och sänds.

Detta är något som i så fall riskerar att bli en allmänt accepterad standard – vilket kan göra det svårare, farligare eller omöjligt för oppositionella i auktoritära stater att kommunicera genom krypterade meddelandeappar. Det handlar om människors liv och frihet.

Att EU ofta går för långt framgår tydligt genom att man gång på gång tvingas backa från tidigare beslut på olika områden. Men då är skadan ofta redan skedd.

CC0

EU:s AI Act är ett ormbo

av

EU:s AI-förordning och AI-leverantörernas tekniska tillämpning av kravet på märkning har potential för oväntade och oönskade konsekvenser.

Enligt artikel 50.2 i EU:s AI Act (Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens) gäller nu följande:

»Leverantörer av AI-system, inbegripet AI-system för allmänna ändamål, som genererar syntetiskt ljud-, bild-, video- eller textinnehåll ska säkerställa att AI-systemets utdata är märkta i ett maskinläsbart format och kan upptäckas som artificiellt genererade eller manipulerade. (…) Denna skyldighet är inte tillämplig i den mån AI-systemen utför en hjälpfunktion för vanlig redigering eller inte väsentligt ändrar de indata som tillhandahålls av tillhandahållaren eller deras semantik…«

Låt oss fokusera på text. Ur EU-kommissionens FAQ:

»According to Article 50(4) of the AI Act, deployers of generative AI systems must clearly label AI-generated or manipulated text published with the purpose of informing the public on matters of public interest. For text to fall within this obligation, 3 criteria must be fulfilled. The text needs to be:
• Published
• Informative to the public
• On matters of public interest«

Med »deployer« avses i sammanhanget användaren. Detta gäller till att börja med den som publicerar en text i ett professionellt sammanhang.

Samt att »Published text that has undergone human review or editorial control – does not need to be labelled.« Med detta avses en verklig granskning av textens sakinnehåll, utförd av någon med relevant kunskap och professionellt omdöme. Akademisk peer review och en ansvarig redaktörs granskning anges som exempel.

Kommissionen påpekar att den som använder AI helt privat och icke-professionellt (»in their personal capacity«) inte räknas som en »deployer« och därför inte omfattas av användarens märkningsskyldighet. Det undantaget gäller dock inte nödvändigtvis den tekniska märkning som AI-leverantören bygger in i resultatet.

Låt oss se hur AI-modellerna förhåller sig till lagtexten. Från Anthropic / Claudes FAQ, How Claude marks AI-generated content:

»Claude models launched in the EU on or after August 2, 2026 will support machine-readable marking at launch. Generated text will carry embedded watermarks, and generated files will include digitally signed provenance metadata where supported.« (…)

»We’re also working to add marking support to Claude models released before that date…« (…)

»When a supported Claude model generates text, it weaves an imperceptible watermark directly into the text itself. You won’t see it, and it doesn’t change the meaning, quality, or readability of Claude’s response.«

»Because the watermark is part of the text, it will travel with the text when it’s copied and pasted elsewhere, and may persist through some editing.«

Anthropics generella lösning tycks alltså inte göra något tekniskt undantag för vanlig redigering, trots att sådan användning under vissa förutsättningar är undantagen från märkningskravet i artikel 50.2.

Inte heller vad görs undantag vad gäller användning »in their personal capacity« eller dylikt. All text som genereras av Claude-modeller med stöd för tekniken kommer alltså att märkas. Vilket man möjligen kan förstå då AI-modellen inte nödvändigtvis kan veta vilket syfte användaren har.

Märkningen rullas av praktiska skäl ut på global nivå.

Detta väcker en rad frågor om upphovsrätt, juridik, säkerhet och personligt ansvar.

Kan till exempel en tekniskt betingad förändring av en upphovsmans formuleringar påverka verkets integritet eller möjligheten att fastställa vad upphovsmannen faktiskt skrev?

På X ställer sig flera användare frågan om text de själva skriver kommer att AI-märkas om man använder Claude för redigering, research m.m. (enligt Claude, inte AI-förordningen).

Några exempel…

»I am still writing the material. The quotes are mine. The arguments are mine. The new dictation is mine. I am using the AI to help retrieve, arrange, compare, and clean up what I have already written. (…) I do not want them to change it. I carefully crafted it the way I crafted it. I want the tool to help me work with my writing, not subtly rewrite it into something else.«

Den juridiska aspekten…

»It should be a crime for companies to alter the text of my legal documents with textual watermarking because it requires altering word choice, etc.

Entire cases have been lost and litigated over the placement of a comma.«

Rättssäkerhet…

»A detected watermark does not prove that Claude wrote a document. Anthropic says it may also appear when someone uses Claude to proofread, translate or improve a text originally written by a human.

But will an employer, university, client or publisher understand that distinction?

“Processed by Claude” could quickly become “written by AI.” This is a real problem!«

Den som anstränger sig kan komma runt märkningen. Så detta drabbar främst vanligt folk…

»A determined user can weaken a text watermark through extensive rewriting, translation, another model or an unmarked open-source system. Ordinary users asking Claude to polish an email, edit a document or help with code are more likely to retain the mark.«

Användarperspektiv…

»It means the models will be forced to write in a statistically worse/uniform way in order to embed utter nonsense that is irrelevant and which falls apart as soon as I start to edit it. There is no chance that if I am working on article with AI and rewrite 70-80% of it that it survives and so what I get is essentially just worse text for absolutely no reason at all.«

Och så vidare. Kommer detta till exempel att göra en text spårbar till en enskild användare?

Potentialen för oväntade och oönskade konsekvenser är betydande. Som vanligt ställer vi oss frågan: Har man verkligen tänkt igenom det här?

Mönstret börjar bli bekant. Först stressar man igenom något hetsade av media, alarmister och i sin upphetsning över att ha hittat något nytt att reglera. Sedan visar det sig att verkligheten är mer komplicerad. Då – när skadan redan är skedd – tvingas man backa.

Som vi brukade säga när jag jobbade i Europaparlamentet: I EU börjar man med att besluta. Sedan tar man reda på fakta. Därefter debatterar man saken.

• Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens (m.m.) »

• Transparency obligations under Article 50 of the AI Act »

• How Claude marks AI-generated content »

• The Verge: Claude will apply invisible watermarks to AI text and images »

CC0

EU:s DMA stoppar Apples nya Siri AI

av

iPhone- och iPad-användare i EU kommer tills vidare inte att få tillgång till Apples nya Siri AI, som stoppas av unionens Digital Markets Act.

Apple har givit röstassistenten Siri ett lyft och integrerat externa AI-modeller från bland annat OpenAI och Google i sitt ekosystem för att synka uppgifter mellan olika enheter och göra livet lättare för sina användare.

Kärnan i systemet bygger på lokal bearbetning på enheten och på företagets krypterade Private Cloud Compute där inte ens Apple själva har tillgång till informationen.

Men EU (och Kina) kommer – tills vidare – inte att få tillgång till dessa nya AI-funktioner.

EU:s Digital Markets Act (DMA) kräver nämligen att dominerande aktörer måste öppna dörren för sina konkurrenter.

I detta fall skulle det innebära att Apple tvingas ge andra AI-assistenter tillgång till känslig användardata och möjlighet att utföra självständiga åtgärder i operativsystemet. Det gäller även assistenter som är utvecklade av aktörer som Apple inte kan kontrollera eller säkerhetsgranska.

Det hotar uppenbart användarnas personliga integritet och säkerhet. Vilket Apple inte tänker gå med på.

Därför har man erbjudit sig att sätta upp en »Trusted System Agent« som mellanhand, som tillåter konkurrerande virtuella assistenter att – på ett säkert sätt – få tillgång till samma funktioner som deras egen Siri AI.

Detta förslag har (enligt Apple) EU inte givit någon feedback på, trots att det har gått mer än sex månader sedan det lades fram.

Istället har kommissionen gjort klart att DMA måste följas och att överträdelser kan leda till mycket stora böter.

Så Apple väljer tills vidare att leverera ett operativsystem utan dessa funktioner till sina kunder i EU. Ur deras pressmeddelande…

»Siri AI är byggd för att vara privat och djupt integrerat i alla Apples plattformar med bearbetning lokalt på enheten och Privat molnbehandling. På så sätt utvidgas integritetsskyddet och säkerheten hos iPhone till molnet. EU:s tillsynsmyndigheters extrema tolkning av förordningen om digitala marknader skulle dock innebära att Apple behövde ge alla virtuella assistenter direkt åtkomst till användarnas privata data – och möjligheten att direktstyra andra installerade appar – så fort Siri AI blir tillgängligt i EU, utan de nödvändiga skyddsmekanismerna som håller användare och deras data skyddade.«

»Enligt EU:s tillsynsmyndigheter kräver förordningen om digitala marknader att Apple ger alla AI-system näst intill obegränsad åtkomst till användarens enheter samt möjlighet att agera helt självständigt utifrån denna åtkomst utan att användaren har överblick eller kontroll över det. Det betyder att de kan läsa och skicka meddelanden, genomföra köp, komma åt filer och göra saker i alla appar.«

EU-kommissionen lägger å sin sida allt ansvar på Apple och meddelar att DMA inte är förhandlingsbar.

Enligt EU:s talesperson Thomas Regnier finns det inget i DMA som förbjuder Apple att släppa nya produkter. Han menar att Apple helt enkelt har misslyckats med att bygga en laglig produkt som tillåter sund konkurrens.

• Apple: Lanseringen av Siri AI för iOS 27 och iPadOS 27 försenas i EU på grund av förordningen om digitala marknader »
• Computer Sweden: Apple blockerar Siri AI i EU – hänvisar till DMA-lagen »
• Omni: EU slår tillbaka: Bara Apples fel att Siri inte släpps »

CC0

Staten, AI och maktens frestelser

av

»Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.«

Jag är utvecklingsoptimist och gillar »artificiell intelligens«. Egentligen tror jag att maskininlärning är ett ord som leder mer rätt. System som kan ta in våldsamt stora mängder information och gå igenom den på ett ögonblick för att sedan redovisa resultatet i ett användargränssnitt som är anpassat för människor.

Men det finns naturligtvis risker med AI. EU har därför infört ett nytt regelverk för dess användning. Detta har dock ett undantag för polis och underrättelseväsen. Vilket råkar vara två områden där utrymmet för missbruk av tekniken är uppenbart.

Vilket även gäller statsapparaten i ett bredare perspektiv. Det är först nu som tekniken existerar för verkligt bred massövervakning, sociala kreditsystem, klimatkrediter och analys av vad som rör sig i folkdjupet. Detta är verktyg som kan användas av makthavare för att uppnå politiska mål och föra samhället i en mer auktoritär riktning.

I veckan klubbade riksdagen igenom en lag som – inom vissa gränser – tillåter polisen att använda kamerabevakning med automatiserad ansiktsigenkänning i realtid. Vilket sedan kan kopplas till olika databaser, datalagring och uppgifter som kan hämtas in online. Europol har redan fått rätt att bereda sig tillgång till information ur privata aktörers databaser.

Övervakningsstaten väver en allt tätare väv – under förevändningen att det är för att skydda oss från gängvåld, terrorister, farsoter och annat som vi är rädda för. Men som Hannah Arendt påpekar i sitt standardverk om den totalitära statens rötter…

»Brott mot de mänskliga rättigheterna kan alltid rättfärdigas med förevändningen att det rätta är lika med det som är bra eller nyttigt för helheten i kontrast till delarna.«

De flesta diktatorer och auktoritära system (förutom rena kleptokrater) menar sig verka för en god, större sak. För vilken man inte accepterar att enskilda individer står i vägen eller uppvisar bristande entusiasm.

Det finns mycket goda skäl för att rätten till privatliv är en grundläggande mänsklig rättighet. Information är makt. Och den stat som vet för mycket om sina medborgare kan även kontrollera dem, förtrycka oppositionella och befästa sin makt.

De grundläggande mänskliga rättigheternas funktion är att skydda individen mot övergrepp från staten. Därför är det oroväckande när staten (genom politiken) steg för steg inskränker och gör avsteg från dessa rättigheter.

Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.

CC0