Om man ser bortom den science fiction-artade hypen kring AI-agenter väcker de massor av praktiska frågor som rör säkerhet och lagstiftning.
En AI-agent är en proaktiv och självständig assistent som inte bara svarar på frågor, utan utför faktiska uppgifter i din digitala miljö. Genom att använda språkmodeller för att planera och verktyg för att agera kan den fatta egna beslut för att uppnå ett slutmål, som att boka en resa eller skriva kod. Den kan även samverka med andra AI-agenter. Det är i praktiken steget från en chatbot som pratar till en digital medarbetare som gör jobbet åt dig.
Vilket ju är praktiskt och bekvämt. Men inte utan problem.
»Signal Foundation president Meredith Whittaker said artificial intelligence agents embedded within operating systems are eroding the practical security guarantees of end-to-end encryption (E2EE).
(…) While encryption remains mathematically sound, Whittaker argued that its real-world protections are increasingly bypassed by the privileged position AI systems occupy inside modern user environments.«
Problemet uppstår när AI-agenter integreras med operativsystem genom omfattande behörigheter och tillgång till användardata.
Detta rycker undan den grund som till exempel säkra meddelande-appar vilar på. För att fungera som utlovat behöver agenterna tillgång till meddelanden, inloggningsuppgifter och interaktion mellan applikationer.
Detta kan bli en säkerhetsmässig mardröm. För att inte tala om när AI-agenter går online och/eller samverkar med andra AI-agenter. Här finns risk för allt från missförstånd och dataläckage till prompt injection.
Vad gäller meddelande-appar kan AI-agenter komma att göra det som EU:s ministerråd försökte få till med Chat Control 2: Client-side-scanning. Det vill säga komma åt innehåll innan det krypteras och sänds alternativt efter att det mottagits och dekrypterats.
Juridiskt är detta otrampad mark. Vem är ansvarig för vad en autonom AI-agent tar sig för? Eller för samverkande AI-agenter? Fattas beslut och utförs handlingar självständigt eller är det bara kod? Omfattas AI-agenter av yttrandefriheten?
AI-agenter kringgår till stora delar de premisser för lagstiftning som Digital Services Act och EU:s AI Act vilar på. Hur utövar man ens tillsyn över denna exponentiella utveckling?
Räkna med att detta kommer att leda till politiska panikåtgärder. Denna gång på ett område där de politiska makthavarna är extra okunniga.
• Signal president warns AI agents are making encryption irrelevant »
CC0