Femte juli

Nätet till folket!

EU:s ministerråd

Chatcontrol: EU-kommissionen avfärdar intern kritik

av

EU-kommissionen viftar undan den kritik mot Chatcontrol som framförts från EU-institutionernas egen legal service. Frågan om kryptering förbigås med tystnad.

Europaparlamentets utredningstjänst, ministerrådets legal service och EU-kommissionens legal service sågar förslaget till Chatcontrol.

Enkelt uttryckt menar de att granskning av innehållet i medborgarnas elektroniska meddelanden strider mot rätten till privatliv och privat kommunikation. Vilka är grundläggande mänskliga rättigheter.

Men EU-kommissionen ger sig inte. Statewatch rapporterar om ett uppsnappat dokument som kommissionen sänt till rådet.

»In a note (pdf) circulated in the Council on 16 May, the Commission sets out why it thinks otherwise:

”The Commission services are of the view that there are numerous elements that, especially when considered in their totality, likely justify the conclusion that the proposed system of detection orders is proportionate.”

The Commission seeks to use the same case law as the CLS [Council Legal Service] to argue that the CSAM proposal would in fact be entirely legal.«

Man anser alltså att inskränkningen av användarnas möjlighet att utöva sina grundläggande rättigheter är motiverad. Because we say so.

I utlåtandet från rådets legal service varnas också för att Chatcontrol kommer att leda till att meddelandetjänsterna antingen kommer att behöva sluta med kryptering, skapa bakdörrar till den eller installera spionprogram på användarnas telefoner, datorer m.m. Detta kommenteras dock inte i kommissionens dokument, trots att det är en central del av kritiken.

Väntat och oroväckande.

• Statewatch: European Commission: ”the content is the crime,” so let’s break encryption »

Läs mer:

• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Chat Control: Ministerrådet vill bryta eller förbjuda E2E-kryptering

av

Tre av fyra EU-länder anser att end-to-end-kryptering måste brytas eller förbjudas för att kontrollera innehållet i medborgarnas elektroniska meddelanden. Antingen med teknik som ännu inte existerar eller med spionprogram på varje telefon, dator och platta.

EU:s medlemsstater i ministerrådet har fått frågan om sin inställning till totalsträckskryptering (end-to-end-encryption, E2EE) i samband med behandlingen av massövervakningsförslaget Chat Control (CSAR).

Av de 20 som svarat uttrycker 15 att de gärna vill se skanning av innehållet även i totalsträckskrypterade meddelanden. Längst går Spanien, Ungern och Cypern – som i princip kräver det. Hur det är tänkt att gå till är dock oklart.

Tyskland, Finland och Estland har samtidigt starka invändningar – och säger nej till att bryta E2EE. Även Italien uttrycker oro.

Det är Wired som kommit över ett dokument från ministerrådets generalsekretariat. (Sverige som just nu är ordförandeland har inte framfört någon åsikt.)

»Of the 20 EU countries represented in the document leaked to WIRED, the majority said they are in favor of some form of scanning of encrypted messages, with Spain’s position emerging as the most extreme. “Ideally, in our view, it would be desirable to legislatively prevent EU-based service providers from implementing end-to-end encryption,” Spanish representatives said in the document.« (…)

»“It is shocking to me to see Spain state outright that there should be legislation prohibiting EU-based service providers from implementing end-to-end encryption,” says Riana Pfefferkorn, a research scholar at Stanford University’s Internet Observatory in California who reviewed the document at WIRED’s request. “This document has many of the hallmarks of the eternal debate over encryption.”«

Kroatien anser att E2E-krypterade meddelanden inte får vara ett skäl för att låta bli att rapportera in kommunikationer som rör sexuella övergrepp mot barn. Slovenien säger att spårningsorder även måste gälla totalsträckskrypterade ”nätverk”. Rumänien säger att kryptering inte får bli en ”fristad” för illvilliga aktörer.

Frågan ”Hur?” blir dock fortfarande hängande i luften.

Danmark och Irland vill både skanna E2E-krypterade meddelanden och försvara sådan kryptering mot att försvagas. (!) Därför hoppas de att teknik som kommer att göra sådant möjligt på något magiskt sätt kommer att uppstå innan förordningen träder ikraft nästa sommar. Vilket känns en smula optimistiskt.

»“They want to keep the security of encryption whilst being able to circumvent it,” says Ella Jakubowska, a senior policy advisor at European Digital Rights (EDRI). Jakubowska says she is “unsurprised but nevertheless shocked” to see that European countries have a “really shallow understanding” of encryption. “They want privacy but they also want to indiscriminately scan encrypted communications,” Jakubowska says.«

Nederländerna vill se client-side-scanning med spionprogram på alla telefoner, datorer, plattor med mera. Sådana ”statstrojaner” kan läsa av allt användarna gör redan innan meddelanden krypteras respektive efter att de av-krypterats. (Plus möjligen komma åt allt annat på enheten.)

Polen vill att kryptering skall kunna upphävas genom domstolsbeslut… Vilket lämnar oss med fler frågor än svar.

Finland ställer å andra sidan frågan hur kommissionen tänkt lösa denna fråga rent tekniskt. Tyskland säger att kryptering inte får störas, kringgås eller modifieras. Vilket tyder på viss insikt om de tekniska realiteterna.

Men majoriteten av länderna i ministerrådet tycks inte riktigt förstå vad de sysslar med. De föreslår sådant som är tekniskt omöjligt och saker som inte existerar.

Alternativt vill de ha spionprogram på alla medborgares alla digitala enheter.

Eller förbjuda totalsträckskrypterade meddelande-appar, vilket EU-kommissionär Ylva Johansson redan öppnat för i sitt förslag.

Detta är häpnadsväckande okunnigt och oroväckande.

(Notera att detta är respektive regerings ställningstagande. Parlamenten i länder som till exempel Österrike, Irland och Frankrike säger nej till Chat Control eller uttrycker tveksamhet.)

• Wired: Leaked Government Document Shows Spain Wants to Ban End-to-End Encryption »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Chat Control: Svenska EU-ordförandeskapet svävar på målet

av

En god nyhet är att regeringen nu tycks vara medveten om den allvarliga kritiken mot Chat Control. En dålig nyhet är att majoriteten i EU:s ministerråd inte verkar bry sig.

I ett dokument (8285/23) från den 12 maj går det svenska EU-ordförandeskapet (i ministerrådet) igenom läget vad gäller EU-kommissionens förslag om obligatorisk granskning av innehållet i medborgarnas elektroniska meddelanden – Chat Control.

Än så länge har den massiva kritiken mot förslaget inte riktigt fått fäste bland medlemsstaterna – även om den svenska regeringen börjar sväva på målet.

Man noterar att förslaget i delar sågas, inte minst av EU-institutionernas egna juridiska experter. Och språket i det senaste dokumentet är betydligt mer försiktigt än tidigare.

Till exempel noterar man att ministerrådets egna jurister är skeptiska:

»6: The Council Legal Service concludes that, in light of the case law of the Court of Justice at this stage, the regime of the detection order with regard to interpersonal communications constitutes a particularly serious limitation to the rights to privacy and personal data protection enshrined in Articles 7 and 8 of the Charter. Such regime entails a serious risk of (i) not being in compliance with the requirement that the limitations to the fundamental rights must be provided for by law; (ii) compromising the essence of the above-mentioned fundamental rights in so far as it would permit generalised access to the content of interpersonal communications, or, (iii) in the alternative, not being in compliance with the proportionality requirement.«

Kritiken är alltså rätt rakt på sak: Förlaget strider mot EU:s rättighetsstadga vad gäller rätten till privatliv och privat data.

Men frågan är om ministerrådet kommer att bry sig.

»9: The Presidency’s assessment of Member States’ positions on the scope of the application of the detection order is that a majority of Member States supports that the detection order is applied to interpersonal communication services as regards known CSAM, while the positions of a few Member States for unknown CSAM and grooming are more nuanced.«

»10: Member States’ positions on appropriate provisions for end-to-end encryption – closely linked to interpersonal communications – were inconclusive.«

»11: Moreover, a clear majority of Member States seems to support the inclusion of audio communications in the scope of the Regulation. This presupposes that interpersonal communication services are kept within the scope of the proposed regulation.«

Så vad händer nu? Det svenska ordförandeskapet föreslår att medlemsstaternas ständiga representanter (nationella tjänstemän i COREPER) skall indikera:

  • Huruvida man anser att interpersonella kommunikationer (meddelandetjänster) skall omfattas av kravet på spårningsorder (detection orders).
  • Om så är fallet – skall det då bara gälla känt material med övergrepp på barn (vilket är möjligt och sker redan idag) eller även okänt material, kontaktförsök med minderåriga i sexuellt syfte (grooming) och röstsamtal (som Skype, Zoom etc)? För det senare finns det i huvudsak idag ingen känd eller tillgänglig teknik.
  • Om man har några vägledande åsikter om spårningsorder inklusive vad detta innebär vad gäller totalsträckskrypterade (end-to-end-encrypted) meddelanen.

Vilket faktiskt känns en smula open-ended. I vart fall mer så nu än tidigare.

Givet detta känns det mindre sannolikt att ministerrådet kommer att kunna fastställa en slutlig position på sitt möte den 8-9 juni. Speciellt som ett antal medlemsstater (bl.a. Tyskland, Österrike och Nederländerna) är negativa eller tveksamma till förslaget.

Enkelt uttryckt är bollen – förmodligen – fortfarande i spel i ministerrådet.

Intressant nog är medlemsstaterna rätt överens om att man skall fortsätta söka efter känt olagligt material – vilket redan sker idag, frivilligt och någorlunda framgångsrikt. Vad som är kontroversiellt är kommissionär Ylva Johanssons obligatoriska spårningsorder, inklusive krypterade meddelanden och röstsamtal.

Den enkla lösningen vore att fortsätta dagens frivilliga skanning av meddelanden och innehåll (Chat Control 1) även om också den är problematisk, men ändå något vi redan har – och sedan låta det nya förslaget om obligatorisk meddelandekontroll (Chat Control 2) gå i papperskorgen.

Fortsättning följer…

Demonstrera mot Chat Control!
Mynttorget i Stockholm lördag 20 maj kl 15!

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Chat Control: Ministerrådets jurister säger nej – men svenska ordförandeskapet bryr sig inte

av

Ministerrådets egna jurister sågar Chat Control – men det svenska EU-ordförandeskapet bryr sig inte, utan fortsätter att arbeta för granskning av innehållet i alla medborgares elektroniska meddelanden.

Ungefär samtidigt som det svenska EU-ordförandeskapet lade fram sitt kompromissförslag om Chat Control (som fortfarande föreskriver granskning av innehållet i folks elektroniska meddelanden) – så sågar ministerrådets legal service förslaget.

Detta kan möjligen tolkas som att det svenska ordförandeskapet inte alls är tjänstemännens gisslan i frågan – utan snarare pådrivande.

Vilket i så fall rimmar illa med regeringens påstående om att den bara handlar som opartiskt ordförandeland.

Hur det än är med den saken är rådets legal service hård i sin kritik. Något förenklat:

  • Det är inte troligt att Chat Control skulle klara en prövning i EU-domstolen.
  • I den mån meddelandetjänster sänder sina användares meddelanden mellan varandra (t.ex. e-post) kommer förslaget att de facto leda till övervakning av alla interpersonella meddelanden.
  • Förslaget hotar rätten till privat korrespondens och rätten till privatliv (som båda är grundläggande mänskliga rättigheter).
  • Förslagets spårningsorder kommer att leda till allmän och urskiljningslös övervakning. Vilket är något EU-domstolen redan sagt nej till.
  • Övervaka dem som misstänks för brott, inte alla andra.
  • En åldersgräns (18 år) för meddelande-appar medför med nödvändighet en störning av användarnas fri- och rättigheter. Sådan kräver antingen massprofilering, biometrisk åldersanalys eller ett digitalt identifieringssystem (som omöjliggör anonym kommunikation).

Huruvida medlemsstaterna i rådet kommer att bry sig är dock oklart. Nyligen uttryckte tio av dessa att man även vill se granskning av innehållet i totalsträckskrypterade (E2EE) meddelanden. Vilket i så fall kommer att kräva client-side scanning med spionprogram på alla telefoner, plattor, datorer och andra enheter som kan användas för att sända meddelanden.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) säger:

»I call on EU governments to take a U-turn and stop the dystopian China-style chat control plans which they now know violate the fundamental rights of millions of citizens! No one is helping children with a regulation that will inevitably fail before the European Court of Justice. The Swedish government, currently holding the EU Council Presidency, must now immediately remove blanket chat control as well as generalised age verification from the proposed legislation. Governments of Europe, respect our fundamental right to confidential and anonymous correspondence now!«

Länk:
• Leaked EU Council legal analysis: EU chat control plans for indiscriminately searching private messages doomed to failure »

Demonstrera mot Chat Control!
Mynttorget i Stockholm lördag 20 maj kl 15!

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Chat Control: Tio EU-länder kräver att även E2E-krypterade meddelanden skall granskas

av

Varför skriver tio EU-länder ett gemensamt dokument till stöd för de sämsta delarna av förslaget om Chat Control? Finns det en spricka i ministerrådet?

Här är ett intressant litet papper från den 27 april. Det är tio EU-stater som skrivit ett gemensamt position paper om Chat Control.

De tio gör det mycket tydligt att de förväntar sig att innehållet i alla våra elektroniska meddelanden skall granskas för att identifiera visst olagligt beteende.

Det kommer i så fall att utföras av maskiners algoritmer. Och med AI, som är så populärt nu för tiden. Vad kan möjligen gå fel?

Dessutom kräver de tio – uttryckligen – att även totalsträckskrypterade meddelanden skall omfattas av förordningen. Punkt 2.3:

»The relevant online services, regardless of any technological choices made by the provider in their deployment, in coherence with the principle of technological neutrality and the need to future-proof the proposal. Therefore, end-to-end-encrypted services (E2EE) should not be excluded from the scope of detection orders.«

Vilket i så fall kräver att man förbjuder appar som Signal. Och hur de tänkt, om alls, när det gäller användare som själva krypterar sin e-post är höljt i dunkel.

Denna skrivning driver förslaget närmare client-side-scanning där dina meddelanden granskas av något slags spionprogram på din telefon eller dator innan de krypteras och sänds iväg.

De tio länder som står bakom dokumentet är Belgien, Bulgarien, Cypern, Ungern, Irland, Italien, Lettland, Litauen, Rumänien och Spanien.

Vilket väcker frågan vad de andra länderna tycker – och om detta är ett tecken på något slags spricka i ministerrådet.

• Länk till dokumentet (PDF) »

Demonstrera mot Chat Control!
Mynttorget i Stockholm lördag 20 maj kl 15!

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Chat Control: Ministerrådet vill lagra metadata och blockera sökresultat

av

EU:s ministerråd vill utöka Chat Control med lagring av metadata och blockering av sökresultat. Flera medlemsstater vill se fortsatt frivillig scanning av meddelanden istället för obligatorisk.

Vid det senaste ministerrådsmötet med unionens inrikes- och justitieministrar föreslogs en rad förändringar i det framlagda förslaget om Chat Control. Ett axplock:

Man vill att förslaget endast skall omfatta ”number-independent interpersonal communications services”. Vilket bör betyda att man undantar tjänster som är kopplade till ett telefonnummer, som SMS. (Möjligen undantas även Skype-kommunikationer i de fall användaren kopplat ett fysiskt Skype-telefonnummer till sin tjänst.)

Definitionen av ”relevant information society services” utökas till att även omfatta sökmotorer. Vilket kan ha bäring på de nya artiklarna (18a, b & c) om blockering och av-listning av innehåll.

Definitionen av ”användare som är barn” (17 år) stryks till förmån för ”barn” (18 år). Vilket i sammanhanget lär betyda en höjning av den föreslagna åldersgränsen för meddelande-appar till 18 år.

Den tidsperiod tjänsterna har på sig att meddela en användare att ett meddelande (eller annat innehåll) har flaggats utökas från tre till sex månader, med möjlighet till förlängning.

När innehåll rapporteras skall det även anges ”unique identifiers of the user” och metadata, tidsstämpel och portnummer.

En ny artikel (13a) införs om ”emergency reporting”. Borttagningsorder (4:1) och blockering (16:1) skall respektera nationella lagliga krav. Anmält material skall tas bort inom 24 timmar (tidigare 1 timma). En ny artikel (14a) sätter upp fler regler för ”cross-border removal orders”.

Några ändringar vad gäller kärnan i kritiken mot Chat Control – spårningsorder med genomsökning av användarnas kommunikationer – finns dock inte i ministerrådets dokument.

Enligt uppgift vill ett antal medlemsstater (bl.a. Frankrike, Italien och Ungern) att den nuvarande lagstiftningen – som tillåter frivilligt eftersökande av innehåll med sexuella övergrepp mot barn – blir permanent, hellre än att obligatorisk Chat Control införs. Även Tyskland skulle hellre se en ”permanent laglig grund” för frivillig eftersökning. EU-kommissionen motsätter sig detta.

Det tycks dessutom ha dykt upp en diskussion om hur man skall förhålla sig till tecknade och datorgenererade bilder, då lagstiftningen skiljer sig mellan medlemsstaterna.

EU-kommissionen vill ha ”reasonable transparency obligations” för uppföljning om i vilken mån Chat Control leder till brottsutredningar. Sverige, Österrike och Danmark säger nej till detta. Slovakien och Tyskland uttrycker tveksamhet.

Några medlemsstater vill ta bort kravet på att de myndigheter (Ylva Johanssons felaktigt påstådda ”domstol”) som beslutar om övervakningen skall vara oberoende från nationellt inflytande och instruktioner.

I Tyskland fortsätter bråket inom regeringen. Inrikesministern (SPD, som har förslaget på sitt bord) vill ha Chat Control. De gröna och liberalerna (FDP) säger nej och hänvisar till regeringens koalitionsfördrag. Justitieministern (FDP) är uttalad motståndare till förslaget och digitaliseringsministern (FDP) säger att client-side-scanning är en röd linje som absolut inte får passeras.

Så långt vad vi uppsnappat hitintills. Med reservation för eventuella missförstånd eller språkförbistring. Informationen i källorna nedan är vad som gäller.

Nästa möte med inrikes- och justitieministrarna sker den 8-9 juni. Det är det sista mötet med Sverige som ordförandeland. (Så därefter kanske Sverige kan ha något slags åsikt i frågan.)

Länkar:
• Ministerrådets senaste ändringsförslag (PDF) »
• EU-Kommission lehnt freiwillige Chatkontrolle ab »
• EU-Staaten verhandeln über Chatkontrolle, Netzsperren und Suchmaschinen »
• Massenüberwachung: Wissing kündigt Veto bei der Chatkontrolle an »

Europaparlamentet:
• Chat Control – LIBE-rapportör vill lagra metadata
• Chat Control lead negotiator proposes to add “voluntary detection orders” and metadata scanning »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Dragkamp om Chat Control i tyska regeringen

av

Socialdemokraterna vill helst skanna alla elektroniska meddelanden – men det mesta tyder ändå på att den tyska regeringen säger ett tydligt nej till Chat Control i EU:s ministerråd.

Det råder en viss förvirring om Chat Control i den tyska regeringen.

Först har vi den tyska regeringens koalitionsfördrag, som säger »We reject general surveillance obligations, measures to scan private communications and an identification obligation.« Detta är ett dokument som alla tre partierna (SPD, FDP och de Gröna) står bakom.

Sedan har vi inrikesminister Faeser och hennes parti SPD som drar fötterna efter sig och som är mer positiv till Chat Control.

På andra sidan står justitieminister Buschmann från FDP som säger bestämt nej till förslaget.

Och nu har vi ett läckt policydokument som tycks klargöra den tyska regeringens position:

  • Nej till ”client-side-scanning” på användarnas mobiler, datorer m.m.
  • Nej till skanning av end-to-end-krypterade / totalsträckskrypterade meddelanden.
  • Nej till skanning av röstsamtal och telefonsamtal.
  • Vad gäller server-side skanning av meddelanden och innehåll på molntjänster förbehåller sig tyska regeringen rätten att hålla frågan öppen, då dess laglighet i relation till de grundläggande rättigheterna kan ifrågasättas.
  • Frivillig mass-skanning (som idag sker hos t.ex. Meta, Google och Microsoft) utan myndighetsbeslut skall inte få förekomma. (!)
  • Vad gäller åldersgräns (17 år) för meddelandetjänster och -appar får sådan får inte stopa möjligheten att vara anonym eller att använda pseudonym på nätet.

Detta ligger rätt nära de röda linjer som FDP satte upp redan i höstas.

Nu återstår att se om den tyska regeringen lyckas hålla denna linje hela vägen i mål.

Länkar:
• Germany insists in major revision of the EU Chat Control proposal to protect fundamental rights »
• Innenministerium setzt sich bei Chatkontrolle durch »

Läs mer om Chat Control:
• Chatcontrol.se – med en omfattande FAQ och omvärldsbevakning »
• 5JS: Allt du behöver veta om Chat Control »

Regeringen föreslår 18-årsgräns för meddelande-appar

av

EU-kommissionens förslag om #ChatControl / #CSAR föreskriver en åldersgräns på 17 år för användning av meddelande-appar. Det svenska EU-ordförandeskapet föreslår nu att den gränsen höjs till 18 år.

Utöver genomsökning av innehållet i medborgarnas elektroniska meddelanden vill EU-kommissionen även se en åldersgräns för användning av meddelande-appar.

I den ursprungliga skrivningen är gränsen 17 år. Det svenska EU-ordförandeskapet föreslår – genom en ändring av definitionerna (2f) – nu att denna gräns höjs till 18 år. (PDF)

I kommissionens text (2:4:3) vill man ”vidta rimliga åtgärder för att hindra användare som är barn från att få tillgång till de programvaruapplikationer” som till exempel kan användas för kontakta andra användare direkt. (Det vill säga alla meddelande-appar.)

Som ”barn” avser kommissionen ”varje fysisk person som är yngre än 18 år”. Och som ”användare som är barn” – ”fysisk person som använder en relevant informationssamhällestjänst och som är en fysisk person som är yngre än 17 år”.

Det är den senare definitionen det svenska ordförandeskapet nu vill höja till 18 år.

Att förbjuda unga att använda meddelande-appar är i sig ett helt världsfrånvänt förslag. Och att höja denna åldersgräns gör det hela ännu dummare.

Frågan är om eller hur mycket den svenska regeringen är insatt i frågan. Tecken tyder på att det mesta som rör #ChatControl / #CSAR hanterats på tjänstemannanivå. På politisk nivå är det i princip omöjligt att få några kommentarer om kommissionens förslag.

• Det svenska ordförandeskapets senaste förslag (PDF) »

Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »

Relaterade länkar:
• ChatControl.eu »
• ChatControl – granskning av EU-kommissionens förslag
• EU-kommissionen: Övervakning är viktigare än mänskliga rättigheter »
• PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl »
• ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken »
• UN Human Rights Commissioner warns against chat control »
• ChatControl – detta händer i ministerrådet »
• EU:s ministerråd vill kontrollera allt du gör på nätet
• ChatControl: EU-kommissionen duckar alla jobbiga frågor »

TLDR:
• ChatControl / CSA Regulation – enkelt förklarad »

EU:s ministerråd vill kontrollera allt du gör på nätet

av

EU:s ministerråd vill inte bara att innehållet i dina elektroniska meddelanden granskas. Allt du gör på nätet skall kontrolleras. Av AI och maskiner.

På många sätt kräver EU-kommissionens förslag om #ChatControl / CSA Regulation (om att bekämpa sexuella övergrepp mot barn på nätet) det omöjliga. Och värre blir det nu när ministerrådets ändringsförslag börjar droppa in.

Ett av dessa förslag slår direkt mot internetoperatörerna (ISP:arna). De förväntas blockera tidigare okänt olagligt innehåll. Vilket rimligen kräver att alla ISP:ar måste inspektera all trafik med filter och AI-verktyg.

Vilket för det första är omöjligt om trafiken är krypterad. Vidare finns inga fungerande verktyg för att till exempel identifiera grooming utan en stor mängd felaktiga flaggningar som drabbar oskyldiga.

Dessutom är svepande, allmän övervakning (general monitoring) olaglig enligt EU:s egen lagstiftning.

Återigen måste man fråga sig om EU:s institutioner vet vad de sysslar med.

Redan kommissionens förslag om att blockera URL:er kopplade till sexuella övergrepp mot barn tänjer på det möjligas gränser. EDRi förklarar:

»Under the Commission proposal, ISPs can be ordered to block Uniform Resource Locators (URLs) for known CSA material which is hosted outside the European Union if voluntary removal of the material is not possible. The blocking order for the list of URLs must be approved by a court.

The main problem with the Commission proposal is the practical implementation: blocking orders at the URL level is technically impossible when HTTPS is used for accessing a website because the full URL is end-to-end encrypted between the user’s browser and the web server.

HTTPS has become the de facto standard for web traffic. It is unclear from the proposal how this situation should be handled. Blocking at the domain name level (DNS blocking), that is entire websites, is a workable alternative, but this requires a different proportionality assessment than the one foreseen in Articles 16-18 of the proposal.«

Den sista meningen är ett finkänsligt sätt att påpeka att detta är ett ärende som främst berör de mänskliga rättigheterna – inte den inre marknaden, vilken kommissionär Ylva Johansson hänvisat till som laglig grund.

Så långt kommissionens förslag. Nu till ministerrådet:

»Besides blocking known CSA material, which has been assessed by competent authorities, ISPs should also block unknown CSA material. This would effectively require ISPs to monitor the content of internet traffic for all users and rely on error-prone artificial intelligence technology to detect unknown CSA material (similar to detection orders in Articles 7-11).

This type of general monitoring of internet traffic is prohibited by EU law, and no derogation is applicable for blocking orders. On a more practical level, the traffic analysis necessary to implement blocking of unknown CSA material is technically impossible when internet traffic is encrypted.

Furthermore, the Council amendments remove essentially all safeguards from the Commission proposal.« (…)

»The required proportionality assessment is also deleted from the proposal. The joint effect of these amendments is a blocking provision with very few safeguards and no independent oversight, a toxic combination which creates a high risk of over-removal of legal content.«

#ChatControl / CSAR / CSA Regulation kan alltså komma att sträcka sig långt bortom granskning av medborgarnas elektroniska meddelanden. Även allt vi tittar på och gör, på nätet skall – i ministerrådets värld – analyseras. Av maskiner. Så att vi inte tittar fel.

Och när verktyget väl finns på plats, då börjar ändamålsglidningen. Så är det i princip alltid.

Länk:
• Member States want internet service providers to do the impossible in the fight against child sexual abuse »

Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »

Relaterade länkar:
• ChatControl.eu »
• ChatControl – granskning av EU-kommissionens förslag
• EU-kommissionen: Övervakning är viktigare än mänskliga rättigheter »
• PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl »
• ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken »
• UN Human Rights Commissioner warns against chat control »

EU: Ministerrådet öppnar dörren för AI-stödd massövervakning

av

EU:s ministerråd kan tänka sig AI-stödd massövervakning. Samtidigt säger en majoritet i Europaparlamentet nej.

EU:s ministerråd har enat om en gemensam linje för de kommande förhandlingarna om unionens nya AI Act. Man kan notera att rådet är oroväckande vagt vad gäller användning av artificiell intelligens för massövervakning.

Många medlemsstater är närmast entusiastiska inför möjligheten att använda AI för övervakning och kontroll. Det gäller inte minst AI som stöd för biometrisk massövervakning.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar:

»The position adopted today would enable a dystopian future of biometric mass surveillance in Europe, potentially exposing everybody to constant identification, monitoring their behaviour and analysing their emotions in public spaces. It would justify the permanent and ubiquitious deployment of face surveillance to look for the thousands of ‚victims‘, ‚threats‘ and suspects of ‚serious crime‘ that are wanted at any time. We must not normalise a culture of suspicion and side with authoritarian regimes which use AI for repression of civil society, for social scoring, human rights violations, and total surveillance.«

I sammanhanget är det värt att notera att experiment med till exempel AI-stödd automatiserad ansiktsigenkänning visat sig ha en hög felprocent (falska positiva).

I grunden ligger samma principfråga som för datalagringen. EU:s datalagringsdirektiv upphäves av EU-domstolen för att det strider mot rätten till privatliv. Enkelt uttryckt får övervakning endast inriktas mot personer som misstänks för brott – inte omfatta alla hela tiden, utan skäl.

I Europaparlamentet säger samtidigt en majoritet nej till AI-stödd massövervakning.