Obligatorisk granskning av alla våra elektroniska kommunikationer kan få katastrofala konsekvenser för helt oskyldiga människor.
EU-kommissionen vill att vår e-post och alla våra elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas. Syftet är att kontrollera att du inte ägnar dig åt sexuella övergrepp på barn.
Granskningen kommer att ske av maskiner, som saknar förmåga att bedöma kontext. Resultatet kommer med nödvändighet att bli felaktiga flaggningar (falska positiva).
New York Times / Techdirt / EFF rapporterar om en man som på uppmaning sänt bilder på sin son till dennes läkare. Då Google redan (frivilligt) granskar alla sina användares meddelanden flaggades meddelandet.
Till att börja med spärrades mannens Google-konto. Det vill säga att hans e-post, kalender, bilder, docs, drive, Google-telefon m.m. slutade fungera. På felaktiga grunder. Dessa åtgärder kan i sig ödelägga en människas hela arbetsliv.
Google polisanmälde också mannen. Polisen kunde dock inte nå honom, då Google spärrat hans e-post och telefon. Allt på hans Google-konto granskades, utan att man fann något annat misstänkt. Polisen kunde (eller ville) dock inte kontakta Google för att meddela att misstanken avskrivits.
Med tanke på vilka stora volymer som granskas leder sådan här innehållsgranskning till miljontals falska flaggningar. Det gäller även om de filter som granskar innehållet gör rätt i 99,9% av fallen. (Vilket de inte gör.)
Att detta kan få katastrofala konsekvenser för helt oskyldiga människor är uppenbart.
Det ovanstående är ett praktiskt exempel på hur fel ChatControl (obligatorisk innehållsgranskning) kan slå. Men det finns även principiella problem.
- ChatControl är en kränkning av grundläggande mänskliga rättigheter som rätten till privatliv och privat kommunikation – när den appliceras på alla våra elektroniska kommunikationer utan misstanke om brott.
- ChatControl kommer även att leda till att man kringgår den kryptering som skyddar våra kommunikationer. Vilket öppnar dörren för illasinnade aktörer och gör oss alla mindre säkra.
- När ChatControl väl finns på plats kan syftet enkelt utökas. Övervakningslagar drabbas i princip alltid av ändamålsglidning.
Till råga på allt rår ChatControl inte på de metoder som vanligtvis används för att sprida olagligt innehåll.
Läs mer:
• EU upphäver rätten till privat korrespondens »
• Chat Control – The End of the Privacy of Digital Correspondence »
• Horrifying: Google Flags Parents As Child Sex Abusers After They Sent Their Doctors Requested Photos »
• Google’s Scans of Private Photos Led to False Accusations of Child Abuse »