Femte juli

Nätet till folket!

Sökresultat för: chatcontrol

Chat Control 2 – nytt kompromissförslag i ministerrådet

av

Den som vill sända meddelanden med bilder eller video måste samtycka till granskning. Det är det senaste budet om Chat Control 2 från EU:s ministerråd.

Trots att man förhandlat i två år har EU:s ministerråd ännu inte kommit fram till någon gemensam ståndpunkt om EU-kommissionens förslag om att göra AI-granskning av innehållet i våra elektroniska meddelanden – Chat Control 2 – obligatorisk.

Inför ministerrådet den 13-14 juni har det belgiska ordförandeskapet presenterat ännu en skiss till ett förslag:

  • Röstsamtal och textmeddelanden undantas från Chat Control 2.
  • Skanning efter innehåll med övergrepp på barn skall begränsas till foton och video.
  • Krypterat innehåll skall inte omfattas av förslaget.
  • Man skall använda AI för att upptäcka nytt övergreppsmaterial samt försök till otillbörliga kontakter med minderåriga. (Hur nu det senare skall gå till om man undantar röst- och textmeddelanden.)
  • Om användare vill kunna sända bilder och video måste de lämna medgivande till att sådant innehåll skannas.

Något slutligt skriftligt förslag finns ännu inte, utan detta är baserat på en Powerpoint som lagts fram på ett möte på tjänstemannanivå.

Punkterna ovan väcker fler frågor än de ger svar på. Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar:

»[M]onitoring backdoors would need to be integrated into previously securely end-to-end encrypted messenger services, even though the Belgians claim that their proposed ‘upload moderation’ scheme differs from the much criticised ‘client-side scanning’.« (…)

»The leaked Belgian proposal means that the essence of the EU Commission’s extreme and unprecedented initial chat control proposal would be implemented unchanged. Using messenger services purely for texting is not an option in the 21st century. And removing excesses that aren’t being used in practice anyway is a sham.«

Medlemsstaterna är splittrade. Tyskland menar att detta inte går att ta ställning till utan ett skriftligt förslag. Frankrike är positivt. Irland, Danmark, Rumänien, Cypern och Bulgarien vill fortfarande ha skanning av textmeddelanden och röstsamtal. Spanien undrar hur detta är tänkt att fungera med Word- och PPT-dokument som ju kan ha inbäddade bilder. Estland kommer att återkomma med ett eget förslag. Nederländerna säger nej till AI-stödd efterforskning av tidigare okänt olagligt innehåll. Sverige tycks inte ha framfört någon åsikt.

Det belgiska ordförandeskapets förhoppning är att man skall få fram ett slutligt förslag, utan blockerande minoritet, till nästa möte med ministerrådet. Spontant känns det rätt osannolikt, men man kan aldrig veta. Det räcker med ett majoritetsbeslut.

Förr eller senare kommer ministerrådet fram till något, som i så stor utsträckning som möjligt lär ligga i närheten av EU-kommissionär Ylva Johanssons ursprungliga förslag.

Då blir det förhandlingar mellan rådet, parlamentet och kommissionen. Därför gäller det att välja ledamöter till Europaparlamentet som begriper frågan och som är uttalade motståndare till Chat Control 2. (Det utgående parlamentet har sagt nej till Chat Control 2 i dess centrala delar.)

I sammanhanget är det värt att notera att det redan idag sker en omfattande frivillig skanning av innehåll i meddelanden och postningar i jakt på olagligt innehåll med övergrepp på barn. (Vilket regleras i användarvillkoren och har Chat Control 1 som rättslig grund.) Detta ger fler flaggningar än polisen hinner utreda. Hos den svenska polisen finns redan idag en back log på 13.000 anmälningar. Det kanske är bättre att man börjar med att beta av dessa innan man stiftar nya lagar som bygger på ännu inte existerande AI-teknik.

Länkar:
• ‘Let yourself be monitored’: EU governments to agree on Chat Control with user “consent” »
• Belgien will Nutzer verpflichten, Chatkontrolle zuzustimmen »

Kräv svar om Chat Control 2 innan EU-valet

av

Flera partier talar med kluven tunga om Chat Control 2. Därför måste vi kräva tydliga besked innan EU-valet.

EU-valrörelsen är det naturliga tillfället för de politiska partierna att berätta hur de tänker förhålla sig till EU-kommissionens förslag om att låta AI granska innehållet i medborgarnas privata elektroniska meddelanden, Chat Control 2. Men det är tyst.

Frågan har kört fast i ministerrådet och Europaparlamentet har i en unik gruppöverskridande kompromiss sagt nej till CC2 i dess centrala delar.

Från de politiska partierna hänvisas i allmänna ordalag till parlamentets nej. Men det ger inget svar på frågan om vad som kommer att hända efter EU-valet. Det är bara ett bekvämt sätt att ducka jobbiga frågor i EU-valrörelsen.

Senast våren 2026 måste ett nytt beslut fattas. Det vill säga under nästa mandatperiod.

Hur Sverige kommer att rösta i EU:s ministerråd beslutas i samråd mellan regeringen och riksdagens EU-nämnd. Här bör man notera att regeringen (M+KD+L) i stort sett stöder EU-kommissionens förslag, med vissa justeringar. I riksdagen är även (S) positiva till CC2. (SD) försöker säga så lite som möjligt. (V) och (C) säger nej till CC2. (MP) har bytt åsikt flera gånger under processen.

I Europaparlamentet har alla partier ställt sig bakom dess gruppöverskridande nej till CC2. Dock finns oklarheter. I en enkät som genomförts av Tidningsutgivarna är (S) uttalat positiva till det ursprungliga förslaget – trots att man röstat nej i parlamentet. (KD) hävdar att de både står bakom CC2 och parlamentets principiella nej – vilket är två oförenliga positioner. (M+L+C+Mp+V) står bakom parlamentets nej, men ger inga indikationer om hur man kommer att hantera frågan framöver. (SD) säger ingenting i enkäten men har varit uttalade motståndare till CC2 i parlamentet.

Sara Skyttedal på Folklistan stöder Europaparlamentets nej. Hur resten av partiets kandidater ställer sig är oklart. Bland övriga småpartier som varken sitter i riksdagen eller Europaparlamentet säger Piratpartiet, Medborgerlig Samling och Partiet MoD tydligt nej till CC2.

Som synes finns det en skillnad mellan hur de etablerade partierna ställer sig på hemmaplan respektive i Bryssel. Vill man rösta mot CC2 bör man därför rösta på partier som tydligt säger nej både i riksdag/regering och i Europaparlamentet.

Notera också att det faktum att ett parti röstat för Europaparlamentets uppgörelse (nej till CC2) inte är någon garanti för hur de kommer att hantera frågan när den kommer upp till förnyad behandling efter valet. Och som synes ovan talar vissa med kluven tunga.

Därför är det dags att kräva besked – innan valet.

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Chat Control 2: Ministerrådet trampar vatten

av

I sitt försök att driva igenom EU-kommissionens förslag om obligatorisk granskning av innehållet i medborgarnas elektroniska meddelanden – Chat Control 2 – har ministerrådets belgiska ordförandeskap bara skapat mer förvirring.

Bland annat vill man att meddelande-operatörerna på något magiskt sätt skall sålla ut misstänkta användare och misstänkta meddelanden – utan att själva känna till eller registrera desamma. Detta skall sedan användas för en riskbedömning som kan ligga till grund för ytterligare kontroll.

Hur detta är tänkt att gå till är oklart. Det enda ordförandeskapet har att säga är att lösningen skall vara teknikneutral och framtidssäker.

Ministerrådets rättstjänst konstaterar att detta ändå inte löser problemet med att man måste skanna alla meddelanden i ruta ett. Vilket strider mot rätten till privatliv och privat kommunikation.

Man vill även kontrollera totalsträckskrypterade (E2EE) meddelanden. Det är även här oklart hur.

Ett förslag är ”bakdörrar”, vilka skulle göra all krypterad kommunikation osäker. Ett annat förslag är ”client side scanning” med vilket spionprogram installeras i meddelande-apparna eller direkt i användarnas telefoner – för att läsa meddelanden innan de krypterats och sänts respektive efter att de tagits emot och av-krypterats. I ministerrådet finns såväl anhängare som starka motståndare till en sådan lösning.

Den svenska regeringen välkomnar ordförandeskapets förslag, men fruktar att det kan komma att leda till en stor administrativ börda för operatörerna.

Det belgiska ordförandeskapets taktik tycks dels vara att hålla kommissionens ursprungliga förslag levande – dels att hitta en kompromiss som inte samlar en blockerande minoritet i rådet. Detta även om ett sådant förslag blir obegripligt och/eller oförenligt med grundläggande mänskliga rättigheter.

• Länk: EU-Staaten weiter uneins über Chatkontrolle »

Detta är Chat Control 2: EU-kommissionen vill att dagens frivilliga skanning av användares elektroniska meddelanden skall bli obligatorisk. Detta gäller även totalsträckskrypterade (E2EE) meddelanden. AI skall granska vad som skrivs, sägs samt bilder, videos och bifogade filer för att utreda om du sprider material med övergrepp på barn eller har otillbörlig kontakt med minderåriga. En 17-årsgräns skall införas för meddelande-appar. Europaparlamentet, ministerrådets och EU-kommissionens rättstjänst säger nej till förslaget, då det bryter mot rätten till privatliv och privat korrespondens (som är en grundläggande mänsklig rättighet).

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Chat Control 2 – en lägesrapport

av

Inför EU-valrörelsen: Här är statusen på Chat Control 2. Vilka partier kommer att försvara rätten till privat elektronisk korrespondens och totalsträckskryptering?

Chat Control 1 är den gällande lagstiftningen. Den tillåter sociala media, meddelandetjänster m.fl. att titta i användarnas meddelanden för att hitta barnporr. Det har de alltid gjort. Och CC1 är det undantag i de europeiska datasklyddsreglerna som gör detta möjligt i EU.

Visserligen är det problematiskt att Big Data snokar i folks privata meddelanden – men så länge de är öppna med det och det sker i samförstånd med användaren (i användarvillkoren) kan de komma undan med det.

Chat Control 2 handlar om att göra ovanstående frivilliga kontroll av innehållet i användarnas meddelanden (text, tal, bild och video) obligatorisk. Inklusive totalsträckskrypterad (E2EE) kommunikation.

Samt att kontrollera vad folk har på sina molntjänster. Och en 17-årsgräns för sociala media.

Därtill vill man använda AI för att analysera alla bilder och elektroniska konversationer. Detta dels för att hitta tidigare okänt olagligt material (vilket innebär att alla dina bilder och bilagor måste bedömas av socialt inkompetenta maskiner). Dels för att analysera vad du skriver och säger, i syfte att att kontrollera att du inte är en ful gubbe.

Detta är en kränkning av den grundläggande mänskliga rättigheten till privatliv och privat korrespondens. Det är dessutom ett verktyg som med ett klubbslag kan användas för kontroll och förtryck av folket. Övervakningslagar utvidgas alltid vad gäller syfte och omfattning.

Europakonventionen om de mänskliga rättigheterna säger i artikel 8:

»Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens.«

EU-stadgan uttrycker sig snarlikt:

»Var och en har rätt till respekt för sitt privatliv och familjeliv, sin bostad och sina kommunikationer.«

Och EU-domstolen har slagit fast principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Chat Control 2 har således stött på patrull. Därför har Chat Control 1 förlängts fram till våren 2026.

Europaparlamentet säger nej till alla CC2:s bärande delar. Kränkningen av de mänskliga rättigheterna blev för flagrant. Dessutom försvarar parlamentet rätten till totalsträckskrypterad kommunikation.

Här kan nämnas att Europadomstolen (ej att förväxla med EU-domstolen) under tiden slagit fast att totalsträckskrypterad kommunikation är en mänsklig rättighet. I Tyskland föreslår regeringen att det skall bli obligatoriskt för meddelandetjänster att erbjuda totalsträckskryptreing.

I EU:s ministerråd puttrar CC2 på sparlåga. Man står i stort sett fast vid kommissionens ursprungliga förslag. Det belgiska ordförandeskapet försöker envist hålla liv i frågan. Vilket nog mest kan förklaras med att många i rådet ser CC2 som ett sätt att komma åt krypterad kommunikation.

Så länge parlamentet och rådet står så här långt ifrån varandra lär det inte bli fråga om några trilogförhandlingar (mellan parlamentet, rådet och kommissionen). Snarare rinner frågan över till nästa mandatperiod, efter sommarens EU-val.

Våren 2026 upphör förlängningen av CC1 att gälla. Då skall något annat finnas på plats. Det kan vara en sönderförhandlad CC2. Eller en helt ny CC3. Detta kommer att bli en av de första uppgifterna för den nya EU-kommissionen och det nyvalda Europaparlmentet.

Vilket gör Chat Control till en valfråga i EU-valet 2024. Vilka partier kommer att försvara rätten till privat elektronisk korrespondens och totalsträckskryptering?

Detta gäller inte bara i Europaparlamentet. Flera partier tycks ha en inställning i riksdag och regering (ministerrådet) och en annan i parlamentet. Här spelar riksdagens EU-nämnd en central roll, då regeringen måste samråda med den inför ministerrådets möten.

Notera: Denna bloggpost finns även som blogcast på Youtube och Soundcloud »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Chat Control: Det är totalsträckskryptering Ylva Johansson vill komma åt

av

Chat Control 2 har kört fast. Men EU:s ministerråd och EU-kommissionär Ylva Johansson vill inte ge upp tanken på att komma åt totalsträckskrypterade (E2EE) meddelanden.

I början av veckan höll EU:s inrikes- och justitieministrar möte i Bryssel. En av punkterna på ministerrådets agenda var Chat Control. (Video »)

Chat Control 1 (frivillig skanning av innehållet i medborgarnas meddelanden) förlängs, då Chat Control 2 (obligatorisk skanning samt AI-analys) kört fast i Europaparlamentet.

Det belgiska ordförandeskapet meddelade att man ändå har ambitionen att få till stånd ett beslut i ministerrådet om CC2 innan sommaren (då Ungern tar över ordförandeklubban).

Som vi rapporterade förra veckan fortsätter diskussionen och det belgiska ordförandeskapet har skickat upp några olika testballonger.

Bland annat vill man ha medlemsstaternas feedback på ett nytt sätt att göra riskbedömningar för olika meddelandetjänster (m.m.). Syftet med detta tycks vara att inte släppa frågan om tillgång till totalsträckskrypterade / end-to-end-krypterade (E2EE) meddelanden:

»Do you agree to include high-risk services using E2EE in the scope of standard detection orders, under the condition that a detection order should not create any obligation that would require a provider to create access to end-to-end encrypted data and that the technologies used for detection are vetted with regard to their effectiveness, their impact on fundamental rights and risks to cyber security?«

Vilket känns som en konstig fråga. Så här, ungefär: Skall CC2 omfatta E2EE under förutsättning att man inte kan tvinga operatörerna att bereda sig tillgång till E2E-krypterade meddelanden?

Det hela känns genomskinligt. Till att börja med är detta en uppenbar fint för att bryta ner en eventuell blockerande minoritet i ministerrådet. Att mjuka upp en text för att få igenom den och därefter strama upp den igen är ett klassiskt knep i EU:s maktspel.

Vidare handlar det om att vissa medlemsstater väldigt gärna vill komma åt E2E-krypterade meddelanden. Lyssnar man till vad inrikeskommisionär Ylva Johansson hade att säga på ministerådsmötet är det uppenbart att detta är synkat med EU-kommissionen (och Europol).

Enligt Johansson är E2EE nu det stora nya hotet mot barnen. (Nyss var det Darknet.)

Det är i sammanhanget väl känt att kommissionen och dess »högnivågrupp« arbetar intensivt med frågan om hur myndigheterna skall kunna bereda sig tillgång till E2E-krypterade meddelanden. Uppenbarligen hoppas man fortfarande att CC2 skall vara verktyget som gör detta möjligt.

Motståndet utgörs främst av Europaparlamentet som satt ner foten och sagt nej till så gott som allt av substans i CC2. Nu gäller det att det nya Europaparlament som väljs i sommar håller fast vid detta. Så länge parlamentet har tydliga röda linjer blir det svårt att finna en kompromiss i trilogförhandlingar med ministerrådet och kommissionen.

Dessutom har Europadomstolen slagit fast att rätten till E2EE är en mänsklig rättighet. Och Tyskland vill göra rätten till E2EE obligatorisk.

Dramat fortsätter. Men än så länge står CC2 och stampar på samma fläck, även om ministerrådet försöker trixa. Vi håller ett öga på detta, men just nu finns det ingen anledning till panik. Sannolikt kommer frågan att rinna över till nästa mandatperiod, efter sommarens EU-val.

Nästa möte med EU:s inrikes- och justitieministrar (RIF-rådet) hålls i Luxemburg den 13-14 juni. Om man inte gör någon fuling (som att fatta beslut om CC2 som en A-punkt* på något annat ministerrådsmöte) lär inga formella beslut fattas innan dess. Dock kommer frågan säkert att knådas bland tjänstemännen i Coreper.

(*En A-punkt är när tjänstemännen i Coreper förbereder ett ärende som sedan klubbas utan debatt på ett ministerrådsmöte utan debatt. Och då behöver det inte nödvändigtvis vara det relevanta ministerrådet. Till exempel smusslades IPRED-lagen igenom i tysthet på ett möte med rådet för fiskerifrågor.)

Relaterat:
• EU:s ministerråd ger Chat Control 2 konstgjord andning »
• Chatkontrolle: Der Rat will es nochmal versuchen »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

EU:s ministerråd ger Chat Control 2 konstgjord andning

av

I ett försök att komma åt medborgarnas totalsträckskrypterade meddelanden försöker EU:s ministerråd hålla liv i Chat Control 2 – trots att förslaget i praktiken redan har fallit.

Måndag och tisdag nästa vecka (4-5 mars) samlas EU:s inrikes- och justitieministrar för möte i ministerrådet. På dagordningen står bland annat frågan om Chat Control 2. Igen.

Man har redan kommit överens med EU:s övriga institutioner om att förlänga Chat Control 1 (frivillig skanning av innehållet i användarnas meddelanden) fram till den 3 april 2026.

Nu är frågan hur man skall hantera Chat Control 2 (obligatorisk skanning av innehållet i elektroniska meddelanden), som ju redan skjutits i sank av Europaparlamentet.

Att ministerrådet alls skulle kunna nå någon kompromiss med parlamentet är osannolikt, då parlamentet sagt nej till alla bärande delar i CC2.

Det känns mer troligt att nästa EU-kommission kommer att lägga fram ett nytt förslag – Chat Control 3 – som kan träda ikraft senast i april 2026.

Detta hindrar dock inte det belgiska EU-ordförandeskapet från att diskutera frågan vidare, även om det känns lite som slöseri med tid.

Förklaringen kan möjligen ligga i att man ser CC2 som en murbräcka för att komma åt totalsträckskrypterad / E2E-krypterad kommunikation.

I sammanhanget skall noteras att Europadomstolen nyligen slagit fast att rätten till krypterad kommunikation skyddas av de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat korrespondens. Alla Europarådets medlemsstater (däribland alla EU-medlemmar) är bundna av detta beslut.

Dessutom går Tyskland nu fram med lagstiftning om att göra rätten till totalsträckskryptering obligatorisk. För övrigt existerar idag inga verktyg för att granska E2E-krypterad kommunikation.

Inte desto mindre insisterar det belgiska EU-ordförandeskapet på att fortsätta diskutera CC2 i ministerrådet, på detaljnivå. Man vill även ha input från medlemsstaterna om ett antal delfrågor.

I föredragningslistan finns frågan uppsatt som en ”progress report”. Några tecken från Coreper på mer än så finns (ännu) inte.

Den svenska regeringens linje bör vara att CC2 skall läggas på hyllan tills vidare. I vart fall fram till dess att vi vet vad den nya EU-kommissionen kommer att föreslå, efter att den tillträtt vid nästa årsskifte.

Fredag den 1 mars håller riksdagens EU-nämnd möte. Då skall nästa veckas ministerrådsmöte diskuteras med justitieminister Strömmer.

Detta vore ett utmärkt tillfälle för riksdagen att göra som flera andra EU-länders parlament (bl.a. Finland och Österrike) – och säga blankt nej till Chat Control 2, då förslaget strider mot de grundläggande mänskliga rättigheterna.

(För övrigt kan noteras att även den nya polska regeringen säger nej till CC2.)

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

EU, rätten till privatliv och yttrandefriheten

av

Sommarens EU-val kommer att vara viktigt för våra mänskliga rättigheter online. Speciellt rätten till privatliv och yttrandefriheten.

EU-politiken lär bli extra intressant nästa mandatperiod, 2024-29.

Lagstiftning i EU initieras av EU-kommissionen. Det sker som regel i så god till att ministerrådet och Europaparlamentet skall hinna klubba de nya direktiven och förordningarna innan mandatperiodens slut.

Efter EU-valet nästa sommar börjar sedan allt om på nytt – med nya lagar som bygger vidare på de gamla i något slags ständig expansion.

Mandatperiod efter mandatperiod har politiken ökat sin makt över internet, nu senast med sin Digital Services Act, DSA (Förordningen om digitala tjänster.)

Denna utveckling kommer att fortsätta under nästa legislatur.

Inte sällan står sådana förslag i strid med de grundläggande mänskliga rättigheterna. Framförallt är det två av dessa rättigheter som är viktiga vad gäller internet.

1: Rätten till privatliv och privat korrespondens

EU:s rättighetsstadga och Europadeklarationen om de mänskliga rättigheterna säger…

»Var och en har rätt till respekt för sitt privatliv och familjeliv, sin bostad och sina kommunikationer.«

FN:s deklaration om de mänskliga rättigheterna har en snarlik formulering…

»Ingen får utsättas för godtyckligt ingripande i fråga om privatliv, familj, hem eller korrespondens…«

Hur viktig och laddad denna princip är såg vi under de senaste årens strid om Chat Control 2 – som var tänkt att leda till svepande granskning av medborgarnas elektroniska meddelanden, utan misstanke om brott.

Det var denna grundläggande mänskliga rättighet som slutligen tvingade de folkvalda i Europaparlamentet att i praktiken döda förslaget. All uppmärksamhet gjorde att den inte gick att runda.

Men tro inte annat än att Chat Control kommer att komma tillbaka i ny tappning under nästa mandatperiod.

Att försvara medborgarnas rätt till privatliv är en ständigt pågående dragkamp i EU.

Den rimliga principen är: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

2: Yttrandefriheten

EU:s rättighetsstadga och Europarådet formulerar denna mänskliga rättighet så här…

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

FN säger samma sak fast åter med vissa smärre språkliga skillnader.

Här kan det komma att blåsa upp till storm under nästa EU-mandatperiod.

EU:s nya Digital Services Act öppnar för inskränkningar i yttrandefriheten. Och det saknas inte krafter som vill begränsa det fria ordet.

EU:s politiker försöker ständigt finna sätt att komma åt yttranden på nätet som de ogillar, men som inte är olagliga.

DSA:s nya statligt godkända nätcensorer (trusted flaggers / betrodda anmälare) balanserar farligt nära den röda linjen. De kommer att få en direktlina till sociala media för att rekommendera vilket innehåll som skall plockas bort.

Ett annat problem är DSA:s möjlighet för myndigheter i ett land att beordra nedtagning av innehåll på servrar i ett annat land – även om innehållet inte är olagligt i det senare landet.

Ovanstående är bara två exempel på hur DSA rimmar illa med yttrandefriheten som den formulerats i de olika fördragen om mänskliga rättigheter.

Detta är viktigt när EU-kommissionen och medlemsstarterna försöker utnyttja de verktyg för att begränsa det fria ordet som DSA ger.

Här måste Europaparlamentet vara en vakthund som ser till att yttrandefrihetens princip upprätthålls.

Sedan kommer helt nya förslag som hotar ett fritt och öppet internet. Det är en ständigt pågående process. Till exempel lär frågan om krypterad kommunikation bli het.

Slaget om mänskliga rättigheter online kommer att stå under den tionde EU-legislaturen – med fokus på rätten till privatliv och yttrandefriheten.

Så vill EU ta makten över AI

av

Nu reglerar EU användningen av artificiell intelligens – med stora undantag för brottsbekämpande myndigheter. Här är vad man har förhandlat fram.

Det finns nu i princip en överenskommelse mellan EU:s tre institutioner om dess nya reglering av artificiell intelligens, the AI Act. I princip, eftersom det fortfarande tycks råda en viss oklarhet om vad man beslutat i detalj.

Överenskommelsen är resultatet av trilog-förhandlingar – i vilka kommissionen, ministerrådet och parlamentet stänger in sig bakom stängda dörrar för att utarbeta en kompromiss utan offentlig insyn.

Trots att det inte finns något stöd för triloger i EU:s fördrag avgörs idag nio av tio lagförslag i EU genom dessa hemliga förhandlingar. Vilket är ett demokratiskt problem. Lagstiftning måste tåla insyn.

Än mer svajigt blir det om man betänker att detta är lagstiftning där den tekniska utvecklingen går med rasande fart. Plus att det är oklart om beslutsfattarna verkligen förstår vad AI är och hur den fungerar.

Men det är som det är. Till saken. Vad har man kommit fram till?

  • EU vill ha insyn i och viss möjlighet att påverka AI-system som anses vara hög risk för individen, samhället och ekonomin. Här ställs även krav på transparens, konsekvensanalyser och energianvändning.
  • Man förbjuder automatiserad ansiktsigenkänning i realtid, utom vad gäller att identifiera gärningsmän och offer vid vissa typer av brott och för att bekämpa terrorism.
  • Automatiserad ansiktsigenkänning i efterhand begränsas till utredning av allvarliga brott.
  • Användning av AI för förebyggande brotssbekämpning (pre-crime) begränsas delvis, speciellt om den bygger på personlighets- och karaktärsdrag (t.ex. ras, politisk åsikt eller religion – om inte sådana uppgifter har en direkt betydelse till ett visst brott eller hot).
  • Användning av AI för att upptäcka och registrera känslor förbjuds på arbetsplatser och inom utbildningsväsendet utom när det sker i säkerhetssyfte.
  • AI får inte användas för manipulation, exploatering av sårbarheter och sociala poängsystem (social scoring).
  • Militär användning undantas från begränsningar, så länge den är i linje med EU:s fördrag.
  • Fri och open source-mjukvara undantas från lagstiftningen utom när tillämpningen anses vara förenad med hög risk eller förbud enligt ovan.
  • Ett AI Office skall upprättas hos EU-kommissionen, en European Artificial Intelligence Board skall etableras liksom ett rådgivande forum och en vetenskaplig panel.

EU:s AI Act är tänkt att träda ikraft inom två år, med undantag för vissa förbud som skall börja gälla redan efter sex månader från det att rådet och parlamentet bekräftat trilogens kompromiss.

Hur tekniken kommer att se ut om två år och om lagstiftningen över huvud taget är relevant då är en öppen fråga.

Och som vanligt finns alltid en påtaglig risk för ändamålsglidning, missbruk av dessa verktyg och för vad de kan komma att användas till av auktoritära eller totalitära politiska krafter.

EU:s AI Act sätter också strålkastarljuset på Chat Control som nu av allt att döma skjutits på framtiden, till nästa mandatperiod. Att låta AI granska innehållet i medborgarnas elektroniska meddelanden samtidigt som man ger myndigheterna relativt fria händer på området tar frågan till en ny nivå. Detta bör uppmärksammas i vårens EU-valrörelse.

Några länkar:
• Europaparlamentet: Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI »
• EU-kommissionen: Commission welcomes political agreement on Artificial Intelligence Act »
• EDRi – EU AI Act: Deal reached, but too soon to celebrate »
• Euractiv: AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement »
• Euractiv: European Union squares the circle on the world’s first AI rulebook »

Från trilogförhandlingarna om EU:s nya AI Act.

Nu tar EU kontrollen över din web-läsare

av

Onsdag den 8 november går EU:s institutioner in i slutförhandlingar om att din webb-läsare måste acceptera allt staten säger åt den att acceptera – utanför HTTPS certifikatsystem.

Det handlar om artikel 45 i EU:s Digital Identity Framework (eIDAS) som nu är uppe till slutlig behandling i EU.

Blir förslaget verklighet kommer den browser du använder att tvingas acceptera interaktion med certifikat från sådan tredje part som beslutas av regeringen – utan nödvändiga säkerhetsgarantier och helt utanför HTTPS certifikatsystem.

Vilket får allvarliga konsekvenser för säkerheten på nätet. Samtidigt öppnar det för att staten kan övervaka dig och vad du gör online.

EFF kommenterade det hela redan tidigt i processen:

»The amendment would require browsers to trust third parties designated by the government, without necessary security assurances. But trusting a third party that turns out to be insecure or careless could mean compromising user privacy, leaking personal or financial information, being targeted by malware, or having one’s web traffic snooped on.«

I ett uttalande förra veckan försökte the Internet Society få EU:s beslutsfattare att inse att de inte fullt ut förstår vad de lagstiftar om och vilka konsekvenser detta kan komma att få.

Även industrin med Mozilla i spetsen har idag skrivit brev till Europaparlamentet och EU:s ministerråd – i vilket de varnar för att artikel 45 kommer att få negativa globala konsekvenser vad gäller säkerheten online.

Läs mer, senaste input:
• Joint statement of scientists and NGOs on the EU’s proposed eIDAS reform
• Mullvad: EU Digital Identity framework (eIDAS) another kind of chat control? »
• Internet Society: Civil Society Experts Voice Concern as New EU Digital Identity Regulation Finalized »
• Industry Joint Statement on Article 45 in the EU’s eIDAS Regulation (PDF) »
• Mozilla: Last Chance to fix eIDAS: Secret EU law threatens Internet security
• TF: EU Tries To Slip In New Powers To Intercept Encrypted Web Traffic Without Anyone Noticing »
• Computer Weekly: EU digital ID reforms should be ‘actively resisted’, say experts »
• No Broken Browsers
• Dropsafe: Hot on the heels of #ChatControl and in the name of “identity” and “consumer choice” the EU seeks the ability to undetectably spy on HTTPS communication; 300+ experts say “no” to #Article45 of #eIDAS #QWAC »

Bakgrund / tidigare texter:
• Förslag: Din webb-läsare måste acceptera allt staten säger åt den att acceptera »
• EFF: EU’s Digital Identity Framework Endangers Browser Security »
• EFF: What the Duck? Why an EU Proposal to Require ”QWACs” Will Hurt Internet Security »
• EU vill skapa egen DNS-infrastruktur som kan blockera innehåll »
• TF: The EU Wants Its Own DNS Resolver that Can Block ‘Unlawful’ Traffic »
• The Record: EU wants to build its own DNS infrastructure with built-in filtering capabilities »