trilog

EU:s ministerråd har idag sagt nej till obligatorisk kontroll av innehållet i medborgarnas elektroniska meddelanden.

Efter över tre års våndor har medlemsstaternas ambassadörer i EU:s ministerråd nu kommit överens om Chat Control 2. Enkelt uttryckt: Det blir inget och man fortsätter med det system som finns idag.

Det innebär att EU-kommissionens förslag om obligatorisk granskning av innehållet i medborgarnas elektroniska meddelanden fått nej i både Europaparlamentet och ministerrådet.

Dagens beslut i ministerrådet innebär bland annat:

Olagligt innehåll på nätet med övergrepp på barn skall plockas bort eller blockeras.
Nätplattformar skall motverka spridning av sådant material.
Dagens frivilliga skanning av innehåll i användarnas meddelanden (hos de operatörer som vill och som informerar sina användare om det) kan fortsätta. Men det blir ingen obligatorisk skanning.
Man föreslår åldersgränser för meddelande-appar.

Detta betyder att de tjänster som inte vill och/eller erbjuder totalsträckskrypterad kommunikation (som Signal) inte behöver kontrollera innehållet i sina användares meddelanden.

Om inget ändrats under sittande möte säger skäl 17a i ministerrådets dokument nu uttryckligen »Nothing in this Regulation should be understood as imposing any detection obligations on providers.« Och alla artiklar (7-11) och skäl (20-28) om »detection obligations« är borttagna.

Även om detta är en delseger är beslutet inte utan problem. Till att börja med kan man ha åsikter om kontroll av användares meddelanden över huvud taget. Även om det inte skall vara obligatoriskt. Men det är som det är idag (Chat Control 1) och kanske det bästa som gick att få till i ministerrådet.

Privat, säker elektronisk kommunikation kommer alltså fortfarande att vara möjlig.

Åldersgränser för meddelandetjänster är ett problem, med massor av frågetecken och potentiella oönskade konsekvenser. Men som tur är säger Europaparlamentet nej till detta.

Så snart dagens beslut formaliserats i rådet kan man gå in i trilogförhandlingar med EU-kommissionen, Europaparlamentet och ministerrådet.

Parlamentets position (oktober 2023) är:

Ingen skanning av innehållet i totalsträckskrypterad / E2EE kommunikation.
Övervakning skall inriktas mot personer och grupper där det misstänks förekomma olagligt innehåll – inte vara generell.
Beslut om övervakning skall fattas av en domstol.
Ingen skanning (med AI) efter olagligt innehåll (grooming) i elektroniska konversationer.
Ingen obligatorisk åldersverifiering för meddelande-appar.
Anonyma konton på meddelande-appar skall vara tillåtna.

Nu gäller det att få parlamentet att hålla fast vid denna position – inte minst vad gäller att säga nej till åldersgränser för meddelandetjänster.

När man förhandlat klart måste resultatet slutligen godkännas av både Europaparlamentet och ministerrådet.

• EU:s ministerråd: Child sexual abuse: Council reaches position on law protecting children from online abuse »

• EU ‘Chat Control’ Proposal Still Poses ‘High Risks’ Despite Removal of Mandatory Scanning, Experts Warn »

Resurser:
• Chatcontrol.se »
• Chatcontrol.eu »

CC0

Nu reglerar EU användningen av artificiell intelligens – med stora undantag för brottsbekämpande myndigheter. Här är vad man har förhandlat fram.

Det finns nu i princip en överenskommelse mellan EU:s tre institutioner om dess nya reglering av artificiell intelligens, the AI Act. I princip, eftersom det fortfarande tycks råda en viss oklarhet om vad man beslutat i detalj.

Överenskommelsen är resultatet av trilog-förhandlingar – i vilka kommissionen, ministerrådet och parlamentet stänger in sig bakom stängda dörrar för att utarbeta en kompromiss utan offentlig insyn.

Trots att det inte finns något stöd för triloger i EU:s fördrag avgörs idag nio av tio lagförslag i EU genom dessa hemliga förhandlingar. Vilket är ett demokratiskt problem. Lagstiftning måste tåla insyn.

Än mer svajigt blir det om man betänker att detta är lagstiftning där den tekniska utvecklingen går med rasande fart. Plus att det är oklart om beslutsfattarna verkligen förstår vad AI är och hur den fungerar.

Men det är som det är. Till saken. Vad har man kommit fram till?

EU vill ha insyn i och viss möjlighet att påverka AI-system som anses vara hög risk för individen, samhället och ekonomin. Här ställs även krav på transparens, konsekvensanalyser och energianvändning.
Man förbjuder automatiserad ansiktsigenkänning i realtid, utom vad gäller att identifiera gärningsmän och offer vid vissa typer av brott och för att bekämpa terrorism.
Automatiserad ansiktsigenkänning i efterhand begränsas till utredning av allvarliga brott.
Användning av AI för förebyggande brotssbekämpning (pre-crime) begränsas delvis, speciellt om den bygger på personlighets- och karaktärsdrag (t.ex. ras, politisk åsikt eller religion – om inte sådana uppgifter har en direkt betydelse till ett visst brott eller hot).
Användning av AI för att upptäcka och registrera känslor förbjuds på arbetsplatser och inom utbildningsväsendet utom när det sker i säkerhetssyfte.
AI får inte användas för manipulation, exploatering av sårbarheter och sociala poängsystem (social scoring).
Militär användning undantas från begränsningar, så länge den är i linje med EU:s fördrag.
Fri och open source-mjukvara undantas från lagstiftningen utom när tillämpningen anses vara förenad med hög risk eller förbud enligt ovan.
Ett AI Office skall upprättas hos EU-kommissionen, en European Artificial Intelligence Board skall etableras liksom ett rådgivande forum och en vetenskaplig panel.

EU:s AI Act är tänkt att träda ikraft inom två år, med undantag för vissa förbud som skall börja gälla redan efter sex månader från det att rådet och parlamentet bekräftat trilogens kompromiss.

Hur tekniken kommer att se ut om två år och om lagstiftningen över huvud taget är relevant då är en öppen fråga.

Och som vanligt finns alltid en påtaglig risk för ändamålsglidning, missbruk av dessa verktyg och för vad de kan komma att användas till av auktoritära eller totalitära politiska krafter.

EU:s AI Act sätter också strålkastarljuset på Chat Control som nu av allt att döma skjutits på framtiden, till nästa mandatperiod. Att låta AI granska innehållet i medborgarnas elektroniska meddelanden samtidigt som man ger myndigheterna relativt fria händer på området tar frågan till en ny nivå. Detta bör uppmärksammas i vårens EU-valrörelse.

Några länkar:
• Europaparlamentet: Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI »
• EU-kommissionen: Commission welcomes political agreement on Artificial Intelligence Act »
• EDRi – EU AI Act: Deal reached, but too soon to celebrate »
• Euractiv: AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement »
• Euractiv: European Union squares the circle on the world’s first AI rulebook »