EU:s ministerråd vill inte bara att innehållet i dina elektroniska meddelanden granskas. Allt du gör på nätet skall kontrolleras. Av AI och maskiner.
På många sätt kräver EU-kommissionens förslag om #ChatControl / CSA Regulation (om att bekämpa sexuella övergrepp mot barn på nätet) det omöjliga. Och värre blir det nu när ministerrådets ändringsförslag börjar droppa in.
Ett av dessa förslag slår direkt mot internetoperatörerna (ISP:arna). De förväntas blockera tidigare okänt olagligt innehåll. Vilket rimligen kräver att alla ISP:ar måste inspektera all trafik med filter och AI-verktyg.
Vilket för det första är omöjligt om trafiken är krypterad. Vidare finns inga fungerande verktyg för att till exempel identifiera grooming utan en stor mängd felaktiga flaggningar som drabbar oskyldiga.
Dessutom är svepande, allmän övervakning (general monitoring) olaglig enligt EU:s egen lagstiftning.
Återigen måste man fråga sig om EU:s institutioner vet vad de sysslar med.
Redan kommissionens förslag om att blockera URL:er kopplade till sexuella övergrepp mot barn tänjer på det möjligas gränser. EDRi förklarar:
»Under the Commission proposal, ISPs can be ordered to block Uniform Resource Locators (URLs) for known CSA material which is hosted outside the European Union if voluntary removal of the material is not possible. The blocking order for the list of URLs must be approved by a court.
The main problem with the Commission proposal is the practical implementation: blocking orders at the URL level is technically impossible when HTTPS is used for accessing a website because the full URL is end-to-end encrypted between the user’s browser and the web server.
HTTPS has become the de facto standard for web traffic. It is unclear from the proposal how this situation should be handled. Blocking at the domain name level (DNS blocking), that is entire websites, is a workable alternative, but this requires a different proportionality assessment than the one foreseen in Articles 16-18 of the proposal.«
Den sista meningen är ett finkänsligt sätt att påpeka att detta är ett ärende som främst berör de mänskliga rättigheterna – inte den inre marknaden, vilken kommissionär Ylva Johansson hänvisat till som laglig grund.
Så långt kommissionens förslag. Nu till ministerrådet:
»Besides blocking known CSA material, which has been assessed by competent authorities, ISPs should also block unknown CSA material. This would effectively require ISPs to monitor the content of internet traffic for all users and rely on error-prone artificial intelligence technology to detect unknown CSA material (similar to detection orders in Articles 7-11).
This type of general monitoring of internet traffic is prohibited by EU law, and no derogation is applicable for blocking orders. On a more practical level, the traffic analysis necessary to implement blocking of unknown CSA material is technically impossible when internet traffic is encrypted.
Furthermore, the Council amendments remove essentially all safeguards from the Commission proposal.« (…)
»The required proportionality assessment is also deleted from the proposal. The joint effect of these amendments is a blocking provision with very few safeguards and no independent oversight, a toxic combination which creates a high risk of over-removal of legal content.«
#ChatControl / CSAR / CSA Regulation kan alltså komma att sträcka sig långt bortom granskning av medborgarnas elektroniska meddelanden. Även allt vi tittar på och gör, på nätet skall – i ministerrådets värld – analyseras. Av maskiner. Så att vi inte tittar fel.
Och när verktyget väl finns på plats, då börjar ändamålsglidningen. Så är det i princip alltid.
Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »
Relaterade länkar:
• ChatControl.eu »
• ChatControl – granskning av EU-kommissionens förslag
• EU-kommissionen: Övervakning är viktigare än mänskliga rättigheter »
• PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl »
• ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken »
• UN Human Rights Commissioner warns against chat control »
