ChatControl: Den som är oskyldig har allt att frukta
Obligatorisk granskning av alla våra elektroniska kommunikationer kan få katastrofala konsekvenser för helt oskyldiga människor.
EU-kommissionen vill att vår e-post och alla våra elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas. Syftet är att kontrollera att du inte ägnar dig åt sexuella övergrepp på barn.
Granskningen kommer att ske av maskiner, som saknar förmåga att bedöma kontext. Resultatet kommer med nödvändighet att bli felaktiga flaggningar (falska positiva).
New York Times / Techdirt / EFF rapporterar om en man som på uppmaning sänt bilder på sin son till dennes läkare. Då Google redan (frivilligt) granskar alla sina användares meddelanden flaggades meddelandet.
Till att börja med spärrades mannens Google-konto. Det vill säga att hans e-post, kalender, bilder, docs, drive, Google-telefon m.m. slutade fungera. På felaktiga grunder. Dessa åtgärder kan i sig ödelägga en människas hela arbetsliv.
Google polisanmälde också mannen. Polisen kunde dock inte nå honom, då Google spärrat hans e-post och telefon. Allt på hans Google-konto granskades, utan att man fann något annat misstänkt. Polisen kunde (eller ville) dock inte kontakta Google för att meddela att misstanken avskrivits.
Med tanke på vilka stora volymer som granskas leder sådan här innehållsgranskning till miljontals falska flaggningar. Det gäller även om de filter som granskar innehållet gör rätt i 99,9% av fallen. (Vilket de inte gör.)
Att detta kan få katastrofala konsekvenser för helt oskyldiga människor är uppenbart.
Det ovanstående är ett praktiskt exempel på hur fel ChatControl (obligatorisk innehållsgranskning) kan slå. Men det finns även principiella problem.
- ChatControl är en kränkning av grundläggande mänskliga rättigheter som rätten till privatliv och privat kommunikation – när den appliceras på alla våra elektroniska kommunikationer utan misstanke om brott.
- ChatControl kommer även att leda till att man kringgår den kryptering som skyddar våra kommunikationer. Vilket öppnar dörren för illasinnade aktörer och gör oss alla mindre säkra.
- När ChatControl väl finns på plats kan syftet enkelt utökas. Övervakningslagar drabbas i princip alltid av ändamålsglidning.
Till råga på allt rår ChatControl inte på de metoder som vanligtvis används för att sprida olagligt innehåll.
Läs mer:
• EU upphäver rätten till privat korrespondens »
• Chat Control – The End of the Privacy of Digital Correspondence »
• Horrifying: Google Flags Parents As Child Sex Abusers After They Sent Their Doctors Requested Photos »
• Google’s Scans of Private Photos Led to False Accusations of Child Abuse »
Valet, politikerna och de mänskliga rättigheterna online
Den som vill rösta för ett fritt internet, för yttrandefrihet off- såväl som online och för rätten till privatliv och privat korrespondens har ett svårt val.
Bryr man sig bara om dessa frågor finns Piratpartiet och kanske Vänsterpartiet. Piratpartiet har ingen chans att komma in i riksdagen. Och Vänsterpartiet är ett ytterkantsparti som de flesta har andra skäl att ogilla.
Vänsterpartiet skall dock ha en eloge för att ha hållit ut längst. De är idag det enda riksdagsparti som motsätter sig övervakningsstaten – efter att Miljöpartiet sålde ut sina principer i utbyte mot makt. Vad gäller yttrandefrihet befinner de sig dock på ett sluttande plan.
I övrigt är mörker. EU:s nya statligt godkända nätgranskare accepteras utan vidare debatt. EU-lagstiftning som leder till att vi får uppladdningsfilter, som skall förhandsgranska allt alla lägger upp på sociala media och andra plattformar är inte något kontroversiellt bland våra politiker.
De driver på vad gäller lagring av data om allas alla telefonsamtal, SMS, e-postmeddelanden, uppkopplingar, mobilpositioner med mera – utan misstanke om brott. Trots att EU-domstolen förbjudit verksamheten, med hänvisning till de mänskliga rättigheterna.
Svenska politiker ser inget problem med att EU-kommissionen föreslår att all e-post och allas alla meddelanden och andra elektroniska kommunikationer skall av-krypteras, öppnas och att dess innehåll skall granskas. Av maskiner.
Alla dessa frågor faller tillbaka på de mänskliga rättigheterna och vad dessa har att säga om rätten att fritt uttrycka sig samt rätten till privatliv och privat korrespondens.
Sverige var för övrigt med och drev fram FN:s »5 juli-resolution« som säger att mänskliga rättigheter offline även skall gälla online. Så vi borde leva upp till vårt ord.
De mänskliga rättigheterna finns för att skydda individen mot staten. Därför är det alarmerande att se hur dessa rättigheter ständigt gröps ur och inskränks av just de politiker som nämnda rättigheter är tänkta att skydda oss emot.
Statligt godkända nätgranskare är en dålig idé. Fast Orban blir nog glad. Uppladdningsfilter är det verktyg som, när det väl finns på plats enkelt kan få utökat syfte. Sådana här lagar drabbas i princip alltid av ändamålsglidning.
Datalagring är en kränkning av rätten till privatliv som EU-domstolen sagt nej till gång på gång. Inte för att medlemsländerna bryr sig. Och förslaget om »#ChatControl« är att avskaffa den digitala brevhemligheten. Det vill säga att avskaffa rätten till privat korrespondens.
Vad är detta, annat än inskränkningar av våra mänskliga rättigheter?
Allt detta sker i stort sett utan offentlig debatt, utan insyn och i stor politisk enighet. (Ingen annan bryr sig heller.)
Så hur röstar man, om man tycker att dessa frågor är viktiga? På riktigt, viktiga.
Online Safety Bill – ny drakonisk brittisk nätlagstiftning
Fängelse för kränkningar online, nedtagningsorder, uppladdningsfilter samt av-kryptering och granskning av e-post och elektroniska meddelanden är några av förslagen i brittiska regeringens förslag till ny nätlagstiftning.
Nu när EU-byråkratin har sent sommarlov vill vi passa på att uppmärksamma vad som håller på att ske i Storbritannien – med dess Online Safety Bill.
The Online Safety Bill har varit en följetong. Den har tidigare lagts fram, dragits tillbaka, reviderats och lagts fram igen. Nu väntar man med att behandla den tills det finns en ny brittisk premiärminister.
• Yttrandefriheten begränsas
Enligt förslaget kan den som sprider information som kan orsaka »psychological harm amounting to at least serious distress« dömas till fängelse i upp till två år. Och den som sprider »false communications« kan fängslas upp till 51 veckor.
Till att börja med är kriterierna ovan subjektiva. Vad som är så kallade kränkningar varierar från person till person – från verkliga kränkningar till irritation över att andra har bättre argument. Och vad som är att betrakta som sant respektive falskt tycks ibland variera över tid.
EFF kommenterar:
»The problem here should be obvious: these are utterly subjective criteria. People disagree all the time about what constitutes a false statement. Determining what statements have a “real and substantial risk” of causing psychological harm is the epitome of a subjective question, as is who might have a “reasonable excuse” for making such a statement. The apparent lack of legal certainty casts doubt on whether the UK’s Online Safety Act meets international human rights standards.«
Samtidigt görs ett undantag för press och för den som online visar en film avsedd för visning på biograf. Däremot drabbas små innehållskreatörer, aktivister, medborgarjournalister och privatpersoner.
• Nedtagningsorder och uppladdningsfilter
På samma sätt som i EU kommer den brittiska lagen att kräva att till exempel terror-relaterat innehåll tas bort inom en snäv tidsgräns. För att sedan hålla detta material borta krävs att man använder uppladdningsfilter – som granskar allt som alla skriver eller laddar upp.
Och uppladdningsfilter saknar – som vi brukar påpeka – förmåga att bedöma kontext, humor och omdöme.
• Kringgå kryptering
Här går britterna i takt med EU-kommissionen, som vill att all e-post och alla elektroniska kommunikationer skall av-krypteras och att dess innehåll skall granskas, i jakt på visst olagligt innehåll.
Skillnaden mot EU:s »ChatControl« är att britterna vill att plattformarna skall använda statligt godkänd programvara för detta.
Och som bekant kan man inte kringgå eller skapa bakdörrar vad gäller kryptering utan att göra oss alla mer sårbara online.
• Mänskliga rättigheter
Precis som i EU är britterna nu på väg att införa nätlagstiftning som kränker vad de mänskliga rättigheterna har att säga om rätten att fritt uttrycka sig samt rätten till privatliv och privat kommunikation.
I sammanhanget bör nämnas att det finns en godkänd FN-deklaration som säger att mänskliga rättigheter offline även skall gälla online.
• Läs mer hos EFF: The UK Online Safety Bill Attacks Free Speech and Encryption »
EFF om problemen med uppladningsfilter
EFF sammanfattar problemen med automatiserade uppladdningsfilter – vilka saknar omdöme, humor och förmåga att bedöma kontext.
»General monitoring is problematic both when it is directly required by law and when, though not required, it is effectively mandatory because the legal risks of not doing it are so great. Specifically, these indirect requirements incentivize platforms to proactively monitor user behaviors, filter and check user content, and remove or locally filter anything that is controversial, objectionable, or potentially illegal to avoid legal responsibility. This inevitably leads to over censorship of online content as platforms seek to avoid liability for failing to act “reasonably” or remove user content they “should have known” was harmful.«
Så skriver Electronic Frontier Foundation (EFF) i sin text »General Monitoring is not the Answer to the Problem of Online Harms«.
Man listar även en del konkreta problem med uppladdningsfilter och andra former av generell övervakning av vad folk postar på sociala media. Några exempel:
- De stora volymerna material kräver att skanning och beslut sker med hjälp av automatiska uppladdningsfilter, som kan spegla respektive plattforms subjektiva premisser och även leda till profilering.
- Uppladdningsfilter drabbas ofta av fel, är notoriskt opålitliga och leder till överblockering.
- Uppladdningfilter strider mot de grundläggande mänskliga rättigheterna (rätten att fritt uttrycka sig) som går bortom vad som är proportionellt och nödvändigt.
- Granskning av allt som laddas upp kommer att ha en avkylande effekt på yttrandefriheten.
- Uppladdningsfilter kan även ge företag och stat möjlighet till profilering av användare.
- Uppladdningsfilter är stora och dyrbara system, som gör det svårt för nya aktörer att slå sig in på den sociala mediemarknaden.
Sedan kan man tillägga att uppladdningsfilter saknar förmåga att bedöma kontext, saknar humor och omdöme.
»We have previously expressed concern about governments employing more aggressive and heavy-handed approaches to intermediary regulation, with policymakers across the globe calling on platforms to remove allegedly legal but ‘undesirable’ or ‘harmful’ content from their sites, while also expecting platforms to detect and remove illegal content. In doing so, states fail to protect fundamental freedom of expression rights and fall short of their obligations to ensure a free online environment with no undue restrictions on legal content, whilst also restricting the rights of users to share and receive impartial and unfiltered information. This has a chilling effect on the individual right to free speech wherein users change their behavior and abstain from communicating freely if they know they are being actively observed—leading to a pernicious culture of self-censorship.«
Uppladdningsfilter kommer att bli den praktiska effekten av till exempel EU:s nya upphovsrättsdirektiv och dess förordning om terror-relaterat innehåll online. En bredare användning av uppladdningsfilter diskuteras bland annat i EU:s ministerråd.
Läs hela texten: General Monitoring is not the Answer to the Problem of Online Harms »
Facebook provar automatisk end-to-end-kryptering av meddelanden
Samtidigt som EU-kommissionen vill av-kryptera, öppna och granska innehållet i alla våra elektroniska meddelanden meddelar Facebook att de tänker göra end-to-end-kryptering till en standardfunktion i Messenger.
Facebook meddelade i slutet av förra veckan att man nu provar att göra end-to-end-kryptering (E2EE) till en standardfunktion i Messenger. Idag kräver sådant opt-in av användaren.
Facebook / Meta använder redan E2EE för ljud- och videosamtal i Messenger, direktchattar på Instagram och för backup av WhatsApp-chattar på Android och iOS.
Denna nyhet blir extra intressant då EU-kommissionen nyligen föreslagit att all e-post, alla meddelanen och chattar (m.m.) skall av-krypteras och dess innehåll inspekteras i jakt på olagligt innehåll (#ChatControl).
Frågan om kryptering av meddelanden i Messenager har aktualiserats av ett amerikanskt rättsfall, snarare än EU:s ChatControl. Inte desto mindre går Facebooks besked på rak kollisionskurs med EU-kommissionens förslag.
Detta kan bli spännande att följa.
Läs mer:
• Facebook Testing Default End-to-End Encryption and Encrypted Backups in Messenger »
• Facebook will begin testing end-to-end encryption as default on Messenger app »
Rättsfall: Porr sägs ha flaggats som terror-relaterat innehåll för att begränsa konkurrens
OnlyFans anklagas för att ha mutat personal på Meta till att terror-flagga konkurrerande pornografiskt innehåll på nätet.
I ett pågående amerikanskt rättsfall anklagas sexsiten OnlyFans och Meta för att ha terror-flaggat OnlyFans konkurrenter hos Global Internet Forum to Counter Terrorism (GIFCT).
Vilket innebär att innehållet stoppas eller skuggbannas på de dominerande nätplattformarna (som är desamma som grundade GIFCT).
Enligt anklagelserna skall OnlyFans ha mutat anställda på Meta för att föra upp konkurrerande plattformar och enskilda nätporr-aktörer på GIFCT:s terror-lista.
Detta skall ha skett genom en utbetalning från OnlyFans moderbolag, via ett dotterbolag i Hong Kong till ett bankkonto på Filippinerna – som i sin tur disponeras av anställda på Meta.
OnlyFans och Meta nekar till alla anklagelser.
Fallet är intressant – då det visar hur olika verktyg som lanseras med de bästa intentioner kan missbrukas och användas för att inskränka det fria ordet och den fria konkurrensen online.
#ChatControl: Vet politikerna vad de sysslar med?
ChatControl / meddelandekontroll kan inte stoppa brottslig verksamhet. Däremot kommer EU-förslaget att ge de sociala mediejättarna tillgång till mer känslig persondata om sina användare.
Man får ofta ett intryck av att politiker inte vet vad de sysslar med, när de stiftar lagar som gäller internet.
EU-kommissionens förslag om att all e-post, alla elektroniska meddelanden m.m. skall av-krypteras, öppnas och att dess innehåll skall granskas – »ChatControl« – väcker frågor.
Medan tjänster som Google, WhatsApp, Messenger, Telegram, Signal m.fl. kanske kan tvingas granska innehållet i våra elektroniska kommunikationer – så går det inte att komma åt den som använder riktig end2end-krypterad (EE2E) e-post (GPG). Även privata, egenhostade mail- och chatservrar lär hamna utanför meddelandekontrollen.
För den som vill distribuera olagligt material eller ägna sig åt olagliga aktiviteter online är det med andra ord lätt att gå runt det nya förslaget. Going dark.
Däremot kommer alla vanliga, hederliga människor att få innehållet i sina elektroniska kommunikationer granskade – av maskiner. Vilket är en kränkning av rätten till privat korrespondens, vilken i sin tur är en mänsklig rättighet.
Samtidigt kommer själva granskningen av innehållet i våra elektroniska kommunikationer att ske hos respektive tjänsteoperatör.
Företag som Google, Facebook, Apple, Microsoft kritiseras redan (inte minst av politiker) för att de vet för mycket om sina användare. Men med ChatControl är tanken att just dessa företag skall tvingas läsa alla våra privata meddelanden och analysera dess innehåll.
Big Data – som redan vet allt för mycket om oss – kommer alltså att påtvingas uppgiften att läsa och analysera det mesta vi skriver till varandra online. Detta kommer att ske med hjälp av maskiner och deras algoritmer.
Hur politiker kan tycka att sociala media vet för mycket om sina användare – och samtidigt tvinga dem att granska innehållet i alla våra meddelanden är märkligt.
Detta känns inte helt genomtänkt.
Läs mer:
• EU upphäver rätten till privat korrespondens (innehåller även de viktigaste länkarna) »
Video: EU och rätten till privatliv online
Vi tittar närmare på hur EU förhåller sig till de mänskliga rättigheterna online. Denna gång handlar det om rätten till privatliv och privat kommunikation.
Kamp mot filter på Stockholm Pride
Stiftelsens Oscar Swartz var förvånad att under Stockholm Pride finna tre unga kvinnor som engagerade sig mot filterlösningar för att skydda barn från innehåll på nätet där. De ville motbevisa ett vanligt förhållningssätt: ”Filter är alltid bättre än inget även om de inte är perfekta.”
Föredrag
Digitala filterlösningar och dess påverkan på HBTQI-unga
Stockholm Pride, 3 augusti 2022
Vad försöker vuxenvärlden egentligen skydda barn från och varför. Diskussionen var inte så djup men de utgick från någon miniminivå: Förhindra ofrivillig exponering av material de kan må dåligt av. Rent allmänt verkar vuxenvärlden orolig för just porr. Den anses ge en skev bild av sexualitet. Något som i och för sig kunde stämma men borde motverkas med sexualupplysning snarare än skadliga filter, enligt denna RFSU-föreläsning.
De gick igenom tre principiella filtermetoder:
- Textbaserad
- Bildbaserad
- Adressbaserad (blockera URL:er)
Som alltid kan finnas problem med över- och underfiltrering, jämfört med vad syftet egentligen var. Högst relevanta frågor för HBTQI-ungdomar om sexualtekniker, sexualupplysning, information visade sig ofta blockerad. Skrev man in ”analsex” visade en demo att man med filter fick avskräckande sidor om problem vid förlossningsskador och problem och sjukdomar medan den ofiltrerade sökningen gav en lång rad relevanta sexualupplysningssidor. SLM:s (Scandinavian Leather Men) klubbsidor för Stockholm och Göteborg var blockerade medan Malmös slank igenom, förmodligen för att ordet ”fetisch” där var felstavat på svenska.
Metoder att gå runt filter uppfinns och sprids snabbt. På Tik Tok började man skriva ”seggs” istället för ”sex”. Instagrambilder plockas bort av algoritmer om andelen hudfärgad yta av en bild är för stor i relation till resten (alla hudfärger?), vilket gjorde att transcommunityn taggade bilder av bröstomformningar med #cancer för att slippa igenom.
Lite oväntat men logiskt argumenterat: FN:s Barnkonvention gäller som svensk lag sedan 1 januari 2020. De filterlösningar som gicks igenom strider mot denna. Hur? Jo genom att lösningarna inte är transparenta för användarna, dvs barnen får inte veta hur saker tas bort och vad för material de i princip inte visas. När de t.ex sökte på ordet ”homosexuell ” gav den föräldrakontrollerade appen Guardy ett rött trafikljus som svar. En nyfiken HBTQI-ungdom får helt enkelt en bekräftelse på att området är förbjudet och avskyvärt, vilket borde kunna leda till dålig självkänsla och problem.
Att filterlösningar koncentrerar sig på porr och sex är förresten frapperande: Siffror från Statens medieråds undersökningar Unga och Medier visades, där man undersökt vad för material unga blivit ledsna, rädda eller deppiga av. Porr visade sig hamna längst ned av alla kategorier. Exponering för fattiga människor, miljöförstöring, barn som lider och mår dåligt, skräckfilmer, mobbning och mycket annat slog porr med skyhöga siffror, ja till och med reklam ledde till mer obehag.
Kvinnorna rekommenderade samtal med barn och att upprätta förtroendefulla relationer, snarare än att installera filter.
Ingångsbild av surasak_ch på Unsplash (beskuren).