Svensk polis har tiotusentals outredda anmälningar om sexuella övergrepp mot barn på nätet. Med Chatcontrol 2 kommer polisen att dränkas av enorma mängder nya anmälningar – varav 80% eller mer kan vara felaktiga.
Med dagens lagstiftning (Chatcontrol 1) kan sociala media och meddelandetjänster frivilligt granska sina användares meddelanden, i jakt på sexuella övergrepp mot barn.
Med detta redan existerande och frivilliga system får polisen in anmälningar om möjliga fall av övergrepp.
Idag har den svenska polisen 13.000 outredda påstådda fall liggande på hög.
I fem års tid har det varnats internt för att detta är ohållbart. I tusentals fall har ingen människa över huvud taget tittat på anmälan. Och många brott kan komma att preskriberas.
SVT rapporterar:
»Rapporten leder till att åklagare startar en förundersökning om misstänkt tjänstefel, men den läggs ned efter bara ett par förhör. Detta bland annat eftersom man inte kan placera ett eventuellt tjänstefel i hierarkin – just eftersom varningarna funnits så länge och ansvariga gått ”hela vägen till NOA ledning och redovisat det här ända upp till rikspolischefen”.«
Detta är alltså dagens situation.
Dock skall man hålla i minnet att 76% av det bildmaterial som inrapporteras tycks vara egenproducerat av personer under 18 år. 90% av allt material som rapporteras in av Facebook är dubletter. Under en tid stod sex videofilmer för över hälften av alla rapporter. Och så vidare.
Så det finns mycket luft i siffrorna. Inte desto mindre måste polisen utreda alla brott som anmäls.
Det hela kommer bara att bli värre om EU-kommissionens förslag om obligatorisk granskning av innehållet i medborgarnas elektroniska meddelanden (Chatcontrol 2) blir verklighet.
Svepande och generell övervakning bryter mot EU:s egna regler, mot vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens – och mot EU-domstolens principbeslut om att man får övervaka dem som misstänks för brott, men inte alla andra hela tiden.
Och ur en praktisk synvinkel kommer högarna av outredda anmälningar att växa med en bredare övervakning. Speciellt som denna kan antas ha en mycket hög andel felaktiga flaggningar, då den bygger på teknik som till stor del är oprövad – och i vissa delar icke existerande.
När teknik liknande den som skall ingå i Chatcontrol 2 prövats i enstaka länder (Schweiz, Irland) har man fått upp till 80% felaktiga anmälningar. Då söker man ändå bara efter redan känt material. Och även felaktiga rapporter kan få förödande konsekvenser för den som drabbas.
Men det blir värre. De nya systemen skall inte bara söka efter kända bilder på övgrepp på barn – utan även okänt material. Vilket innebär att AI måste granska alla bilder du sänder eller lagrar på molntjänster för att gissa sig fram till om något otillbörligt förekommer. Du har väl inga bilder som kan missuppfattas eller feltolkas?
Dessutom skall AI granska det skrivna (och talade) innehållet i dina elektroniska kommunikationer – för att på något sätt gissa sig till om du har olämpliga kontakter med barn.
AI-teknik som saknar förmåga att bedöma kontext och som saknar omdöme skall alltså anmäla om den tycker att det du skriver i dina meddelanden verkar konstigt eller misstänkt.
Denna teknik existerar inte. Men de som driver Chatcontrol 2 säger att de hoppas att den kommer att existera till dess lagen är tänkt att träda i kraft nästa sommar…
Polisens högar med outredda ärenden med redan känt förmodat övergreppsmaterial kommer alltså att växa. Speciellt med irrelevanta anmälningar och felaktiga flaggningar.
Ovanpå det kommer sedan alla bilder som en artificiell intelligens (som ännu inte är tillförlitlig) gissar kan tänkas innehålla övergrepp. Toppa sedan detta med att en likaledes ännu icke existerande AI-teknik kommer att rapportera in alla skrivna (och talade) elektroniska meddelanden som den tycker verkar misstänkta.
Lägg sedan detta till dagens situation med tiotusentals outredda ärenden hos polisen, som flaggats av de system som redan finns.
Risken är uppenbar att verkliga övergrepp kommer att drunkna i en flod av felaktigt flaggade och orelaterade meddelanden. Om man söker efter en nål i en höstack är det sista man behöver en större höstack.
Samtidigt kommer Chatcontrol 2 att leda till att det blir omöjligt med säker, krypterad kommunikation – om allt skall öppnas och dess innehåll kontrolleras. Vilket kommer att göra oss alla mindra säkra – till nätbedragares, främmande makts och andra ondsinta aktörers glädje.
Stoppa Chatcontrol 2 – och låt istället den relativt framgångsrika frivilliga skanning av elektroniska kommunikationer som redan sker fortsätta. (Även om inte heller den är oproblematisk.)
Och se till att ge polisen resurser att utreda de misstänkta, anmälda fall som redan samlar damm – istället för att dränka myndigheten i gigantiska mängder nytt material med en mycket stor andel felaktiga flaggningar.
Relaterat:
• Chatcontrol: Ylva Johanssons siffror är mest luft »
Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »
• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »
Följ oss även på Twitter: @femtejuli
Pascal Lind säger
Lösningen är ju självklar.
De låter helt enkelt nya AI:s utföra automatisk lagföring, samt ger ordningsvakter befogenheter att arrestera personer.
Så när en anti-CSAR AI flaggar dig för något, lagför en annan typ av AI dig,
och så kommer ett par hyrsnutar inom några timmar och låser in dig i en cell eller container tills domstolen får tid att utreda ärendet…
Vad kan möjligtvis gå fel?