CSA Regulation

Ministerrådet är splittrat när det gäller EU-kommissionens förslag om att granska innehållet i medborgarnas elektroniska meddelanden. Vad Sverige har för position är fortfarande oklart.

Information börjar läcka ut från EU:s ministerråd, vad gäller #ChatControl / CSA Regulation. (Granskning av innehållet i dina elektroniska meddelanden m.m. i syfte att skydda barnen online.) Här är några centrala punkter:

• Rådet är splittrat vad gäller hur man skall hantera krypterade meddelanden. Frankrike, Tyskland, Österrike, Nederländerna, Grekland, Kroatien, Litauen och Slovenien vill försvara kryptering. Övriga medlemsstater är antingen negativa till kryptering i denna kontext eller har ingen åsikt. EU-kommissionen tar tydlig ställning mot kryptering.

• Det råder även oenighet om ifall man bör förlänga den nuvarande lagstiftningen, som gör det möjligt för sociala media, meddelandetjänster m.fl. att frivilligt söka efter sexuella övergrepp mot barn – eller om man skall gå på kommissionens linje och göra sådan skanning obligatorisk.

• Tyskland och Nederländerna vill undanta kommunikationer via ljud (Skype, IP-samtal, WhatsApp-samtal m.m.) från lagförslaget. Övriga medlemsstater och kommissionen vill granska innehållet även i sådana kommunikationer.

• EU:s dataskyddsmyndighet, European Data Protection Supervisor (EDPS) – som är kritisk till #ChatControl – deltog också på ministerrådets möte. Frankrike, Tjeckien och Slovenien uttryckte besvikelse över EDPS kritiska ställningstagande.

• EDPS är särskilt kritisk till användning av AI för att upptäcka grooming, vilket den menar skulle leda till ett oacceptabelt intrång på rätten till privatliv.

• EDPS kritiserar även förslaget om en 17-årsgräns för meddelandetjänster och meddelande-appar. Man menar att det inte finns något sätt att upprätthålla detta utan omfattande intrång i den personliga integriteten.

Vad Sverige tycker framgår inte av dokumenten.

Den 16 februari skall ministerrådet diskutera frågan igen.

Länk:
• Chatkontrolle-Verhandlungen: So stehen die EU-Länder zur Verschlüsselung

Relaterat:
• EU:s ministerråd vill kontrollera allt du gör på nätet »
• Member States want internet service providers to do the impossible in the fight against child sexual abuse »

Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »

Relaterade länkar:
• ChatControl.eu »
• ChatControl – granskning av EU-kommissionens förslag
• EU-kommissionen: Övervakning är viktigare än mänskliga rättigheter »
• PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl »
• ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken »
• UN Human Rights Commissioner warns against chat control »

I Tyskland, till skillnad från i Sverige, är frågan om #ChatControl het.

EU:s ministerråd vill inte bara att innehållet i dina elektroniska meddelanden granskas. Allt du gör på nätet skall kontrolleras. Av AI och maskiner.

På många sätt kräver EU-kommissionens förslag om #ChatControl / CSA Regulation (om att bekämpa sexuella övergrepp mot barn på nätet) det omöjliga. Och värre blir det nu när ministerrådets ändringsförslag börjar droppa in.

Ett av dessa förslag slår direkt mot internetoperatörerna (ISP:arna). De förväntas blockera tidigare okänt olagligt innehåll. Vilket rimligen kräver att alla ISP:ar måste inspektera all trafik med filter och AI-verktyg.

Vilket för det första är omöjligt om trafiken är krypterad. Vidare finns inga fungerande verktyg för att till exempel identifiera grooming utan en stor mängd felaktiga flaggningar som drabbar oskyldiga.

Dessutom är svepande, allmän övervakning (general monitoring) olaglig enligt EU:s egen lagstiftning.

Återigen måste man fråga sig om EU:s institutioner vet vad de sysslar med.

Redan kommissionens förslag om att blockera URL:er kopplade till sexuella övergrepp mot barn tänjer på det möjligas gränser. EDRi förklarar:

»Under the Commission proposal, ISPs can be ordered to block Uniform Resource Locators (URLs) for known CSA material which is hosted outside the European Union if voluntary removal of the material is not possible. The blocking order for the list of URLs must be approved by a court.
The main problem with the Commission proposal is the practical implementation: blocking orders at the URL level is technically impossible when HTTPS is used for accessing a website because the full URL is end-to-end encrypted between the user’s browser and the web server.
HTTPS has become the de facto standard for web traffic. It is unclear from the proposal how this situation should be handled. Blocking at the domain name level (DNS blocking), that is entire websites, is a workable alternative, but this requires a different proportionality assessment than the one foreseen in Articles 16-18 of the proposal.«

Den sista meningen är ett finkänsligt sätt att påpeka att detta är ett ärende som främst berör de mänskliga rättigheterna – inte den inre marknaden, vilken kommissionär Ylva Johansson hänvisat till som laglig grund.

Så långt kommissionens förslag. Nu till ministerrådet:

»Besides blocking known CSA material, which has been assessed by competent authorities, ISPs should also block unknown CSA material. This would effectively require ISPs to monitor the content of internet traffic for all users and rely on error-prone artificial intelligence technology to detect unknown CSA material (similar to detection orders in Articles 7-11).
This type of general monitoring of internet traffic is prohibited by EU law, and no derogation is applicable for blocking orders. On a more practical level, the traffic analysis necessary to implement blocking of unknown CSA material is technically impossible when internet traffic is encrypted.
Furthermore, the Council amendments remove essentially all safeguards from the Commission proposal.« (…)
»The required proportionality assessment is also deleted from the proposal. The joint effect of these amendments is a blocking provision with very few safeguards and no independent oversight, a toxic combination which creates a high risk of over-removal of legal content.«

#ChatControl / CSAR / CSA Regulation kan alltså komma att sträcka sig långt bortom granskning av medborgarnas elektroniska meddelanden. Även allt vi tittar på och gör, på nätet skall – i ministerrådets värld – analyseras. Av maskiner. Så att vi inte tittar fel.

Och när verktyget väl finns på plats, då börjar ändamålsglidningen. Så är det i princip alltid.

Länk:
• Member States want internet service providers to do the impossible in the fight against child sexual abuse »

Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »