ChatControl: Den som är oskyldig har allt att frukta
Obligatorisk granskning av alla våra elektroniska kommunikationer kan få katastrofala konsekvenser för helt oskyldiga människor.
EU-kommissionen vill att vår e-post och alla våra elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas. Syftet är att kontrollera att du inte ägnar dig åt sexuella övergrepp på barn.
Granskningen kommer att ske av maskiner, som saknar förmåga att bedöma kontext. Resultatet kommer med nödvändighet att bli felaktiga flaggningar (falska positiva).
New York Times / Techdirt / EFF rapporterar om en man som på uppmaning sänt bilder på sin son till dennes läkare. Då Google redan (frivilligt) granskar alla sina användares meddelanden flaggades meddelandet.
Till att börja med spärrades mannens Google-konto. Det vill säga att hans e-post, kalender, bilder, docs, drive, Google-telefon m.m. slutade fungera. På felaktiga grunder. Dessa åtgärder kan i sig ödelägga en människas hela arbetsliv.
Google polisanmälde också mannen. Polisen kunde dock inte nå honom, då Google spärrat hans e-post och telefon. Allt på hans Google-konto granskades, utan att man fann något annat misstänkt. Polisen kunde (eller ville) dock inte kontakta Google för att meddela att misstanken avskrivits.
Med tanke på vilka stora volymer som granskas leder sådan här innehållsgranskning till miljontals falska flaggningar. Det gäller även om de filter som granskar innehållet gör rätt i 99,9% av fallen. (Vilket de inte gör.)
Att detta kan få katastrofala konsekvenser för helt oskyldiga människor är uppenbart.
Det ovanstående är ett praktiskt exempel på hur fel ChatControl (obligatorisk innehållsgranskning) kan slå. Men det finns även principiella problem.
- ChatControl är en kränkning av grundläggande mänskliga rättigheter som rätten till privatliv och privat kommunikation – när den appliceras på alla våra elektroniska kommunikationer utan misstanke om brott.
- ChatControl kommer även att leda till att man kringgår den kryptering som skyddar våra kommunikationer. Vilket öppnar dörren för illasinnade aktörer och gör oss alla mindre säkra.
- När ChatControl väl finns på plats kan syftet enkelt utökas. Övervakningslagar drabbas i princip alltid av ändamålsglidning.
Till råga på allt rår ChatControl inte på de metoder som vanligtvis används för att sprida olagligt innehåll.
Läs mer:
• EU upphäver rätten till privat korrespondens »
• Chat Control – The End of the Privacy of Digital Correspondence »
• Horrifying: Google Flags Parents As Child Sex Abusers After They Sent Their Doctors Requested Photos »
• Google’s Scans of Private Photos Led to False Accusations of Child Abuse »
Valet, politikerna och de mänskliga rättigheterna online
Den som vill rösta för ett fritt internet, för yttrandefrihet off- såväl som online och för rätten till privatliv och privat korrespondens har ett svårt val.
Bryr man sig bara om dessa frågor finns Piratpartiet och kanske Vänsterpartiet. Piratpartiet har ingen chans att komma in i riksdagen. Och Vänsterpartiet är ett ytterkantsparti som de flesta har andra skäl att ogilla.
Vänsterpartiet skall dock ha en eloge för att ha hållit ut längst. De är idag det enda riksdagsparti som motsätter sig övervakningsstaten – efter att Miljöpartiet sålde ut sina principer i utbyte mot makt. Vad gäller yttrandefrihet befinner de sig dock på ett sluttande plan.
I övrigt är mörker. EU:s nya statligt godkända nätgranskare accepteras utan vidare debatt. EU-lagstiftning som leder till att vi får uppladdningsfilter, som skall förhandsgranska allt alla lägger upp på sociala media och andra plattformar är inte något kontroversiellt bland våra politiker.
De driver på vad gäller lagring av data om allas alla telefonsamtal, SMS, e-postmeddelanden, uppkopplingar, mobilpositioner med mera – utan misstanke om brott. Trots att EU-domstolen förbjudit verksamheten, med hänvisning till de mänskliga rättigheterna.
Svenska politiker ser inget problem med att EU-kommissionen föreslår att all e-post och allas alla meddelanden och andra elektroniska kommunikationer skall av-krypteras, öppnas och att dess innehåll skall granskas. Av maskiner.
Alla dessa frågor faller tillbaka på de mänskliga rättigheterna och vad dessa har att säga om rätten att fritt uttrycka sig samt rätten till privatliv och privat korrespondens.
Sverige var för övrigt med och drev fram FN:s »5 juli-resolution« som säger att mänskliga rättigheter offline även skall gälla online. Så vi borde leva upp till vårt ord.
De mänskliga rättigheterna finns för att skydda individen mot staten. Därför är det alarmerande att se hur dessa rättigheter ständigt gröps ur och inskränks av just de politiker som nämnda rättigheter är tänkta att skydda oss emot.
Statligt godkända nätgranskare är en dålig idé. Fast Orban blir nog glad. Uppladdningsfilter är det verktyg som, när det väl finns på plats enkelt kan få utökat syfte. Sådana här lagar drabbas i princip alltid av ändamålsglidning.
Datalagring är en kränkning av rätten till privatliv som EU-domstolen sagt nej till gång på gång. Inte för att medlemsländerna bryr sig. Och förslaget om »#ChatControl« är att avskaffa den digitala brevhemligheten. Det vill säga att avskaffa rätten till privat korrespondens.
Vad är detta, annat än inskränkningar av våra mänskliga rättigheter?
Allt detta sker i stort sett utan offentlig debatt, utan insyn och i stor politisk enighet. (Ingen annan bryr sig heller.)
Så hur röstar man, om man tycker att dessa frågor är viktiga? På riktigt, viktiga.
Online Safety Bill – ny drakonisk brittisk nätlagstiftning
Fängelse för kränkningar online, nedtagningsorder, uppladdningsfilter samt av-kryptering och granskning av e-post och elektroniska meddelanden är några av förslagen i brittiska regeringens förslag till ny nätlagstiftning.
Nu när EU-byråkratin har sent sommarlov vill vi passa på att uppmärksamma vad som håller på att ske i Storbritannien – med dess Online Safety Bill.
The Online Safety Bill har varit en följetong. Den har tidigare lagts fram, dragits tillbaka, reviderats och lagts fram igen. Nu väntar man med att behandla den tills det finns en ny brittisk premiärminister.
• Yttrandefriheten begränsas
Enligt förslaget kan den som sprider information som kan orsaka »psychological harm amounting to at least serious distress« dömas till fängelse i upp till två år. Och den som sprider »false communications« kan fängslas upp till 51 veckor.
Till att börja med är kriterierna ovan subjektiva. Vad som är så kallade kränkningar varierar från person till person – från verkliga kränkningar till irritation över att andra har bättre argument. Och vad som är att betrakta som sant respektive falskt tycks ibland variera över tid.
EFF kommenterar:
»The problem here should be obvious: these are utterly subjective criteria. People disagree all the time about what constitutes a false statement. Determining what statements have a “real and substantial risk” of causing psychological harm is the epitome of a subjective question, as is who might have a “reasonable excuse” for making such a statement. The apparent lack of legal certainty casts doubt on whether the UK’s Online Safety Act meets international human rights standards.«
Samtidigt görs ett undantag för press och för den som online visar en film avsedd för visning på biograf. Däremot drabbas små innehållskreatörer, aktivister, medborgarjournalister och privatpersoner.
• Nedtagningsorder och uppladdningsfilter
På samma sätt som i EU kommer den brittiska lagen att kräva att till exempel terror-relaterat innehåll tas bort inom en snäv tidsgräns. För att sedan hålla detta material borta krävs att man använder uppladdningsfilter – som granskar allt som alla skriver eller laddar upp.
Och uppladdningsfilter saknar – som vi brukar påpeka – förmåga att bedöma kontext, humor och omdöme.
• Kringgå kryptering
Här går britterna i takt med EU-kommissionen, som vill att all e-post och alla elektroniska kommunikationer skall av-krypteras och att dess innehåll skall granskas, i jakt på visst olagligt innehåll.
Skillnaden mot EU:s »ChatControl« är att britterna vill att plattformarna skall använda statligt godkänd programvara för detta.
Och som bekant kan man inte kringgå eller skapa bakdörrar vad gäller kryptering utan att göra oss alla mer sårbara online.
• Mänskliga rättigheter
Precis som i EU är britterna nu på väg att införa nätlagstiftning som kränker vad de mänskliga rättigheterna har att säga om rätten att fritt uttrycka sig samt rätten till privatliv och privat kommunikation.
I sammanhanget bör nämnas att det finns en godkänd FN-deklaration som säger att mänskliga rättigheter offline även skall gälla online.
• Läs mer hos EFF: The UK Online Safety Bill Attacks Free Speech and Encryption »
EFF om problemen med uppladningsfilter
EFF sammanfattar problemen med automatiserade uppladdningsfilter – vilka saknar omdöme, humor och förmåga att bedöma kontext.
»General monitoring is problematic both when it is directly required by law and when, though not required, it is effectively mandatory because the legal risks of not doing it are so great. Specifically, these indirect requirements incentivize platforms to proactively monitor user behaviors, filter and check user content, and remove or locally filter anything that is controversial, objectionable, or potentially illegal to avoid legal responsibility. This inevitably leads to over censorship of online content as platforms seek to avoid liability for failing to act “reasonably” or remove user content they “should have known” was harmful.«
Så skriver Electronic Frontier Foundation (EFF) i sin text »General Monitoring is not the Answer to the Problem of Online Harms«.
Man listar även en del konkreta problem med uppladdningsfilter och andra former av generell övervakning av vad folk postar på sociala media. Några exempel:
- De stora volymerna material kräver att skanning och beslut sker med hjälp av automatiska uppladdningsfilter, som kan spegla respektive plattforms subjektiva premisser och även leda till profilering.
- Uppladdningsfilter drabbas ofta av fel, är notoriskt opålitliga och leder till överblockering.
- Uppladdningfilter strider mot de grundläggande mänskliga rättigheterna (rätten att fritt uttrycka sig) som går bortom vad som är proportionellt och nödvändigt.
- Granskning av allt som laddas upp kommer att ha en avkylande effekt på yttrandefriheten.
- Uppladdningsfilter kan även ge företag och stat möjlighet till profilering av användare.
- Uppladdningsfilter är stora och dyrbara system, som gör det svårt för nya aktörer att slå sig in på den sociala mediemarknaden.
Sedan kan man tillägga att uppladdningsfilter saknar förmåga att bedöma kontext, saknar humor och omdöme.
»We have previously expressed concern about governments employing more aggressive and heavy-handed approaches to intermediary regulation, with policymakers across the globe calling on platforms to remove allegedly legal but ‘undesirable’ or ‘harmful’ content from their sites, while also expecting platforms to detect and remove illegal content. In doing so, states fail to protect fundamental freedom of expression rights and fall short of their obligations to ensure a free online environment with no undue restrictions on legal content, whilst also restricting the rights of users to share and receive impartial and unfiltered information. This has a chilling effect on the individual right to free speech wherein users change their behavior and abstain from communicating freely if they know they are being actively observed—leading to a pernicious culture of self-censorship.«
Uppladdningsfilter kommer att bli den praktiska effekten av till exempel EU:s nya upphovsrättsdirektiv och dess förordning om terror-relaterat innehåll online. En bredare användning av uppladdningsfilter diskuteras bland annat i EU:s ministerråd.
Läs hela texten: General Monitoring is not the Answer to the Problem of Online Harms »
Facebook provar automatisk end-to-end-kryptering av meddelanden
Samtidigt som EU-kommissionen vill av-kryptera, öppna och granska innehållet i alla våra elektroniska meddelanden meddelar Facebook att de tänker göra end-to-end-kryptering till en standardfunktion i Messenger.
Facebook meddelade i slutet av förra veckan att man nu provar att göra end-to-end-kryptering (E2EE) till en standardfunktion i Messenger. Idag kräver sådant opt-in av användaren.
Facebook / Meta använder redan E2EE för ljud- och videosamtal i Messenger, direktchattar på Instagram och för backup av WhatsApp-chattar på Android och iOS.
Denna nyhet blir extra intressant då EU-kommissionen nyligen föreslagit att all e-post, alla meddelanen och chattar (m.m.) skall av-krypteras och dess innehåll inspekteras i jakt på olagligt innehåll (#ChatControl).
Frågan om kryptering av meddelanden i Messenager har aktualiserats av ett amerikanskt rättsfall, snarare än EU:s ChatControl. Inte desto mindre går Facebooks besked på rak kollisionskurs med EU-kommissionens förslag.
Detta kan bli spännande att följa.
Läs mer:
• Facebook Testing Default End-to-End Encryption and Encrypted Backups in Messenger »
• Facebook will begin testing end-to-end encryption as default on Messenger app »
Rättsfall: Porr sägs ha flaggats som terror-relaterat innehåll för att begränsa konkurrens
OnlyFans anklagas för att ha mutat personal på Meta till att terror-flagga konkurrerande pornografiskt innehåll på nätet.
I ett pågående amerikanskt rättsfall anklagas sexsiten OnlyFans och Meta för att ha terror-flaggat OnlyFans konkurrenter hos Global Internet Forum to Counter Terrorism (GIFCT).
Vilket innebär att innehållet stoppas eller skuggbannas på de dominerande nätplattformarna (som är desamma som grundade GIFCT).
Enligt anklagelserna skall OnlyFans ha mutat anställda på Meta för att föra upp konkurrerande plattformar och enskilda nätporr-aktörer på GIFCT:s terror-lista.
Detta skall ha skett genom en utbetalning från OnlyFans moderbolag, via ett dotterbolag i Hong Kong till ett bankkonto på Filippinerna – som i sin tur disponeras av anställda på Meta.
OnlyFans och Meta nekar till alla anklagelser.
Fallet är intressant – då det visar hur olika verktyg som lanseras med de bästa intentioner kan missbrukas och användas för att inskränka det fria ordet och den fria konkurrensen online.
#ChatControl: Vet politikerna vad de sysslar med?
ChatControl / meddelandekontroll kan inte stoppa brottslig verksamhet. Däremot kommer EU-förslaget att ge de sociala mediejättarna tillgång till mer känslig persondata om sina användare.
Man får ofta ett intryck av att politiker inte vet vad de sysslar med, när de stiftar lagar som gäller internet.
EU-kommissionens förslag om att all e-post, alla elektroniska meddelanden m.m. skall av-krypteras, öppnas och att dess innehåll skall granskas – »ChatControl« – väcker frågor.
Medan tjänster som Google, WhatsApp, Messenger, Telegram, Signal m.fl. kanske kan tvingas granska innehållet i våra elektroniska kommunikationer – så går det inte att komma åt den som använder riktig end2end-krypterad (EE2E) e-post (GPG). Även privata, egenhostade mail- och chatservrar lär hamna utanför meddelandekontrollen.
För den som vill distribuera olagligt material eller ägna sig åt olagliga aktiviteter online är det med andra ord lätt att gå runt det nya förslaget. Going dark.
Däremot kommer alla vanliga, hederliga människor att få innehållet i sina elektroniska kommunikationer granskade – av maskiner. Vilket är en kränkning av rätten till privat korrespondens, vilken i sin tur är en mänsklig rättighet.
Samtidigt kommer själva granskningen av innehållet i våra elektroniska kommunikationer att ske hos respektive tjänsteoperatör.
Företag som Google, Facebook, Apple, Microsoft kritiseras redan (inte minst av politiker) för att de vet för mycket om sina användare. Men med ChatControl är tanken att just dessa företag skall tvingas läsa alla våra privata meddelanden och analysera dess innehåll.
Big Data – som redan vet allt för mycket om oss – kommer alltså att påtvingas uppgiften att läsa och analysera det mesta vi skriver till varandra online. Detta kommer att ske med hjälp av maskiner och deras algoritmer.
Hur politiker kan tycka att sociala media vet för mycket om sina användare – och samtidigt tvinga dem att granska innehållet i alla våra meddelanden är märkligt.
Detta känns inte helt genomtänkt.
Läs mer:
• EU upphäver rätten till privat korrespondens (innehåller även de viktigaste länkarna) »
Video: EU och rätten till privatliv online
Vi tittar närmare på hur EU förhåller sig till de mänskliga rättigheterna online. Denna gång handlar det om rätten till privatliv och privat kommunikation.
WhatsApp tar strid mot #ChatControl
Meddelandetjänsten WhatsApp tar strid mot förslag från brittiska politiker och EU om att av-kryptera alla användares meddelanden och att granska innehållet i våra elektroniska kommunikationer.
Facebook-ägda WhatsApps chef Will Cathcart säger till BBC att meddelandetjänsten inte kommer att sänka sin säkerhetsnivå. Han säger vidare att det vore dåraktigt att acceptera politikernas försök att försvaga eller kringgå kryptering.
Reaktionen kommer med anledning av britternas (försenade) Online Safety Bill. På samma sätt som EU:s »ChatControl« vill man bereda sig tillgång till innehållet i användarnas meddelanden och bildarkiv.
I båda fallen används sexuella övergrepp mot barn för att upphäva användarnas rätt till privatliv och privat korrespondens. En rätt som för övrigt är en konventionsskyddad mänsklig rättighet.
Man skall dessutom komma ihåg att kommunikationsappar inte bara används i UK och EU:
”If we had to lower security for the world, to accommodate the requirement in one country, that…would be very foolish for us to accept, making our product less desirable to 98% of our users because of the requirements from 2%,” Mr Cathcart told BBC News.
”What’s being proposed is that we – either directly or indirectly through software – read everyone’s messages,” Mr Cathcart said. ”I don’t think people want that.”
Ett sätt att kringgå kryptering kan vara client side scanning, redan på din telefon, platta eller dator. Vilket är vad Apple aviserade (vad gäller bilder) för något år sedan. Detta förslag drogs dock tillbaka, efter att ha utsatts för hård kritik. Vilket inte hindrar politikerna från att försöka igen…
Några röster från brittiska nätaktivister:
Ella Jakubowska, policy adviser at campaign group European Digital Rights, said: ”Client-side scanning is almost like putting spyware on every person’s phone.”
”It also creates a backdoor for malicious actors to have a way in to be able to see your messages.”
Dr Monica Horten, policy manager for the campaign organisation Open Rights Group, agreed: ”If Apple can’t get it right, how can the government?
”Client-side scanning is a form of mass surveillance – it is a deep interference with privacy.”
Prof Alan Woodward, of the University of Surrey, told BBC News that scanning could be misused: ”Of course, if you say: ’Do you think children should be kept safe?’ everyone’s going to say ’yes’.
”But if you then say to someone: ’Right, I’m going to put something on your phone that’s going to scan every single one of your images and compare it against the database,’ then suddenly you start to realise the implications.”
Länk:
• WhatsApp: We won’t lower security for any government »
Relaterat:
• En grundlig sågning av #ChatControl »