Femte juli

Nätet till folket!

Sökresultat för: chatcontrol

EU:s medlemsstater splittrade om ChatControl. Vad tycker Sverige?

av

Konfliktlinjerna börjar klarna vad gäller EU:s förslag till granskning av innehållet i vår e-post och alla elektroniska meddelanden. Sveriges position är dock än så länge oklar.

Tyska Netzpolitik har kommit över dokument som visar medlemsstaternas inställning till av-kryptering, öppning och granskning av all e-post och alla våra elektroniska meddelanden – #ChatControl / meddelandekontroll.

Som vi tidigare rapporterat är den tyska regeringen splittrad. Man välkomnar förslaget i allmänna ordalag, men sågar det i detaljerna. Inrikesministern (SPD) vacklar fram och tillbaka, medan justitie- och digitaliseringsministern (båda FDP) är negativa.

Det förefaller som om Tyskland bara kan acceptera ChatControl om användarnas anonymitet kan garanteras. Vilket låter som en omöjlighet givet förslagets utformning. Man menar i sammanhanget att krypteringen inte får brytas, vilket är ett bra tecken.

En märklighet är att Tyskland uttalar sig för stärkt ålderskontroll (för meddelandeappar m.m.) – dock under förutsättning att användarnas rätt till anonymitet inte kränks. Vilket känns som en självmotsägelse. Att kontrollera ålder utan att kontrollera identitet kan bli knepigt.

Österrike säger nej till ChatControl med hänvisning till rätten till privatliv. Man oroas även över den stora mängd falska flaggningar ett sådant här system kan ge upphov till.

Samtidigt uttalar sig Frankrike, Bulgarien, Ungern, Rumänien, Nederländerna, Lettland och Finland klart för ChatControl.

Så vad tycker Sverige? Den utgående socialdemokratiska regeringen var positiv till ChatControl som sådan, men noterar att det inte finns något färdigt förslag att ta ställning till. Moderaterna och SD är också i princip positiva, men vill även de avvakta tills det finns ett färdigt förslag. KD är uttalat för ChatControl redan nu.

I sammanhanget kan nämnas att medan Sverige ”avvaktar” ett färdigt förslag, så är många andra medlemsstater i full färd med att utforma just ett sådant

Så det känns som om Sverige inte riktigt är med i matchen. Vilket är anmärkningsvärt, då vi kommer att vara ordförandeland i EU efter årsskiftet – och då få huvudansvar för frågan.

Länk: Interne Dokumente zeigen, wie gespalten die EU-Staaten sind »

Relaterat:
• Chat Control – The End of the Privacy of Digital Correspondence »
• EU upphäver rätten till privat korrespondens »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »
• ChatControl: Vet politikerna vad de sysslar med? »

Youtube: Chat Control is a stupid and dangerous idea (feat. MEP Patrick Breyer) »

Tyska regeringen splittrad om #ChatControl

av

Den tyska regeringen sänder blandade signaler om EU-kommissionens förslag om att granska innehållet i all e-post, alla elektroniska meddelanden, alla chattar med mera. Så nu sätter liberalerna i regeringen upp ett antal röda linjer.

Det tycks finnas en spricka om ChatControl inom den tyska regeringen.

Kritik mot EU-kommissionens förslag om att av-kryptera och öppna all e-post och alla elektroniska meddelanden – för att sedan granska dess innehåll – framförs nu från liberalerna (FDP) i den tyska regeringen.

Detta bör inte komma som någon överraskning, då skrivningarna i den tyska trepartiregeringens koalitionsfördrag tydligt säger nej till generell övervakning, speciellt av privat kommunikation. Tidigare har så väl ministrar från FDP som socialdemokraterna (SDP) kritiserat förslaget om ChatControl.

Samtidigt har den tyska regeringen i vaga ordalag »välkomnat« EU-kommissionens förslag. Det finns tecken på att SDP kan ha svängt till ett försiktigt ja. Speciellt gäller det inrikesminister Nancy Faeser (SPD).

Därför har FDP nu formulerat en text där man sätter upp ett antal röda linjer:

  • Man säger nej till allmän ChatControl vad gäller e-post och meddelanden.
  • Man säger nej till kontroll av enskildas lagrade filer som ej delas med någon annan.
  • Man säger nej till »client-side scanning« där granskning av meddelanden och innehåll sker på användarens egen telefon, platta eller dator.
  • Man säger nej till att kringgå kryptering.
  • Man säger nej till granskning av röstmeddelanden och röstsamtal.
  • Man säger (i princip) nej till ålderskontroll / åldersgräns för meddelande-appar.
  • Man säger nej till att eftersöka innehåll som inte är olagligt under respektive medlemsstats nationella lagstiftning.

Läs hela FDP:s kravlista här. »

I grunden handlar detta om att försvara människors konventionsskyddade mänskliga rättigheter och vad dessa har att säga om rätten till privatliv och privat korrespondens. Och som vi brukar påpeka har FN uttalat att mänskliga rättigheter offline även skall gälla online.

Det är oklart hur detta kommer att sluta. Men om såväl den tyske justitieministern som digitaliseringsministern (båda FDP) säger nej lär det bli svårt för Tyskland att ställa sig bakom kommissionens förslag om ChatControl. Även om inrikesministern (SPD) skulle säga ja.

Dock räcker det inte med att Tyskland säger nej för att stoppa förslaget i ministerrådet. Så frågan kan mycket väl komma att avgöras i Europaparlamentet.

Läs mer:
• Clear lines against chat control: Liberals’ paper puts German Interior Minister Faeser on the spot »
• Chat Control – The End of the Privacy of Digital Correspondence »
• EU upphäver rätten till privat korrespondens »

ChatControl: Den som är oskyldig har allt att frukta

av

Obligatorisk granskning av alla våra elektroniska kommunikationer kan få katastrofala konsekvenser för helt oskyldiga människor.

EU-kommissionen vill att vår e-post och alla våra elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas. Syftet är att kontrollera att du inte ägnar dig åt sexuella övergrepp på barn.

Granskningen kommer att ske av maskiner, som saknar förmåga att bedöma kontext. Resultatet kommer med nödvändighet att bli felaktiga flaggningar (falska positiva).

New York Times / Techdirt / EFF rapporterar om en man som på uppmaning sänt bilder på sin son till dennes läkare. Då Google redan (frivilligt) granskar alla sina användares meddelanden flaggades meddelandet.

Till att börja med spärrades mannens Google-konto. Det vill säga att hans e-post, kalender, bilder, docs, drive, Google-telefon m.m. slutade fungera. På felaktiga grunder. Dessa åtgärder kan i sig ödelägga en människas hela arbetsliv.

Google polisanmälde också mannen. Polisen kunde dock inte nå honom, då Google spärrat hans e-post och telefon. Allt på hans Google-konto granskades, utan att man fann något annat misstänkt. Polisen kunde (eller ville) dock inte kontakta Google för att meddela att misstanken avskrivits.

Med tanke på vilka stora volymer som granskas leder sådan här innehållsgranskning till miljontals falska flaggningar. Det gäller även om de filter som granskar innehållet gör rätt i 99,9% av fallen. (Vilket de inte gör.)

Att detta kan få katastrofala konsekvenser för helt oskyldiga människor är uppenbart.

Det ovanstående är ett praktiskt exempel på hur fel ChatControl (obligatorisk innehållsgranskning) kan slå. Men det finns även principiella problem.

  • ChatControl är en kränkning av grundläggande mänskliga rättigheter som rätten till privatliv och privat kommunikation – när den appliceras på alla våra elektroniska kommunikationer utan misstanke om brott.
  • ChatControl kommer även att leda till att man kringgår den kryptering som skyddar våra kommunikationer. Vilket öppnar dörren för illasinnade aktörer och gör oss alla mindre säkra.
  • När ChatControl väl finns på plats kan syftet enkelt utökas. Övervakningslagar drabbas i princip alltid av ändamålsglidning.

Till råga på allt rår ChatControl inte på de metoder som vanligtvis används för att sprida olagligt innehåll.

Läs mer:
• EU upphäver rätten till privat korrespondens »
• Chat Control – The End of the Privacy of Digital Correspondence »
• Horrifying: Google Flags Parents As Child Sex Abusers After They Sent Their Doctors Requested Photos »
• Google’s Scans of Private Photos Led to False Accusations of Child Abuse »

#ChatControl: Vet politikerna vad de sysslar med?

av

ChatControl / meddelandekontroll kan inte stoppa brottslig verksamhet. Däremot kommer EU-förslaget att ge de sociala mediejättarna tillgång till mer känslig persondata om sina användare.

Man får ofta ett intryck av att politiker inte vet vad de sysslar med, när de stiftar lagar som gäller internet.

EU-kommissionens förslag om att all e-post, alla elektroniska meddelanden m.m. skall av-krypteras, öppnas och att dess innehåll skall granskas – »ChatControl« – väcker frågor.

Medan tjänster som Google, WhatsApp, Messenger, Telegram, Signal m.fl. kanske kan tvingas granska innehållet i våra elektroniska kommunikationer – så går det inte att komma åt den som använder riktig end2end-krypterad (EE2E) e-post (GPG). Även privata, egenhostade mail- och chatservrar lär hamna utanför meddelandekontrollen.

För den som vill distribuera olagligt material eller ägna sig åt olagliga aktiviteter online är det med andra ord lätt att gå runt det nya förslaget. Going dark.

Däremot kommer alla vanliga, hederliga människor att få innehållet i sina elektroniska kommunikationer granskade – av maskiner. Vilket är en kränkning av rätten till privat korrespondens, vilken i sin tur är en mänsklig rättighet.

Samtidigt kommer själva granskningen av innehållet i våra elektroniska kommunikationer att ske hos respektive tjänsteoperatör.

Företag som Google, Facebook, Apple, Microsoft kritiseras redan (inte minst av politiker) för att de vet för mycket om sina användare. Men med ChatControl är tanken att just dessa företag skall tvingas läsa alla våra privata meddelanden och analysera dess innehåll.

Big Data – som redan vet allt för mycket om oss – kommer alltså att påtvingas uppgiften att läsa och analysera det mesta vi skriver till varandra online. Detta kommer att ske med hjälp av maskiner och deras algoritmer.

Hur politiker kan tycka att sociala media vet för mycket om sina användare – och samtidigt tvinga dem att granska innehållet i alla våra meddelanden är märkligt.

Detta känns inte helt genomtänkt.

Läs mer:
• EU upphäver rätten till privat korrespondens (innehåller även de viktigaste länkarna) »

WhatsApp tar strid mot #ChatControl

av

Meddelandetjänsten WhatsApp tar strid mot förslag från brittiska politiker och EU om att av-kryptera alla användares meddelanden och att granska innehållet i våra elektroniska kommunikationer.

Facebook-ägda WhatsApps chef Will Cathcart säger till BBC att meddelandetjänsten inte kommer att sänka sin säkerhetsnivå. Han säger vidare att det vore dåraktigt att acceptera politikernas försök att försvaga eller kringgå kryptering.

Reaktionen kommer med anledning av britternas (försenade) Online Safety Bill. På samma sätt som EU:s »ChatControl« vill man bereda sig tillgång till innehållet i användarnas meddelanden och bildarkiv.

I båda fallen används sexuella övergrepp mot barn för att upphäva användarnas rätt till privatliv och privat korrespondens. En rätt som för övrigt är en konventionsskyddad mänsklig rättighet.

Man skall dessutom komma ihåg att kommunikationsappar inte bara används i UK och EU:

”If we had to lower security for the world, to accommodate the requirement in one country, that…would be very foolish for us to accept, making our product less desirable to 98% of our users because of the requirements from 2%,” Mr Cathcart told BBC News.

”What’s being proposed is that we – either directly or indirectly through software – read everyone’s messages,” Mr Cathcart said. ”I don’t think people want that.”

Ett sätt att kringgå kryptering kan vara client side scanning, redan på din telefon, platta eller dator. Vilket är vad Apple aviserade (vad gäller bilder) för något år sedan. Detta förslag drogs dock tillbaka, efter att ha utsatts för hård kritik. Vilket inte hindrar politikerna från att försöka igen…

Några röster från brittiska nätaktivister:

Ella Jakubowska, policy adviser at campaign group European Digital Rights, said: ”Client-side scanning is almost like putting spyware on every person’s phone.”

”It also creates a backdoor for malicious actors to have a way in to be able to see your messages.”

Dr Monica Horten, policy manager for the campaign organisation Open Rights Group, agreed: ”If Apple can’t get it right, how can the government?

”Client-side scanning is a form of mass surveillance – it is a deep interference with privacy.”

Prof Alan Woodward, of the University of Surrey, told BBC News that scanning could be misused: ”Of course, if you say: ’Do you think children should be kept safe?’ everyone’s going to say ’yes’.

”But if you then say to someone: ’Right, I’m going to put something on your phone that’s going to scan every single one of your images and compare it against the database,’ then suddenly you start to realise the implications.”

Länk:
• WhatsApp: We won’t lower security for any government »

Relaterat:
• En grundlig sågning av #ChatControl »

En grundlig sågning av #ChatControl

av

Bloggen Lawfare levererar svidande kritik mot EU-kommissionens förslag om Chat Control / meddelandekontroll. Läs mer nedan, där du även hittar länkar och resurser i ämnet.

#ChatControl är nätaktivisternas namn på EU-kommissiones förslag för att bekämpa (känd och tidigare okänd) barnpornografi samt sexuella övergrepp mot barn online.

Förslaget innebär bland annat att innehållet i dina meddelanden och din e-post skall granskas. (Artikel 7.) Och för att så skall kunna ske måste dess kryptering brytas eller kringgås, vilket är ytterst olämpligt.

Dessutom kommer det att leda till en 18-årsgräns för användning av meddelandeappar. (Artikel 6.)

Kritiken har varit omfattande. Till exempel står den ovan nämnda meddelandekontrollen i strid med vad Europakonventionen om de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens. Dessa är att anse som grundläggande mänskliga rättigheter.

Nyligen levererade Lawfare-bloggen en omfattande och genomarbetad kritik, som är rekommenderad läsning. Några nedslag i texten:

»The EU proposal would undo 20 years of progress in securing communications, while employing a set of technologies unlikely to achieve its stated goals. Even worse, the solutions it proposes for handling CSAM would create national security risks by weakening the best tool available for securing communications, end-to-end encryption, and defining a mission without the technology to accomplish it.«

»This lack of current technology leads to the fundamental flaw of the EU proposal. The proposal sets up a bureaucracy requiring industry solutions to a problem that no one—not service or hosting providers, nor governments—has technical solutions for or knows how to operate at this scale.«

»(A) lack of technical methods to effectively accomplish what the proposal claims to do with a strong likelihood that the technologies at hand would fail to produce the desired effect.«

»EU human rights law requires that surveillance solutions be proportionate. The proposal argues that the recommendations are indeed proportionate, but it does so on the basis of technology that does not yet exist (“EU Centre should facilitate access to reliable detection technologies to providers”). A surveillance solution with a low likelihood of accomplishing its goals without impeding fundamental privacy protections cannot be proportionate. Until and unless there is a technology that satisfies the requirements of low false positives and false negatives successfully operating at scale on encrypted communications, the claim that this proposal is proportionate is not a meaningful one.«

Förslaget har försenats på vägen, huvudsakligen på grund av dess bristande kontakt med verkligheten och dess nonchalans inför grundläggande mänskliga rättigheter. Kritiken inifrån EU-kommissionen har också varit hård.

Läs mer:
• EU-kommissionens förslag »
• EU avskaffar rätten till privat korrespondens »
• Resurs-sida: Chatcontrol.eu »
• Granskning: Lobbykampanjen för #ChatControl ›
• Går Chat Control att stoppa? »
• Chat Control är en idiotisk och farlig idé »
• EU-förslag: 18-årsgräns för alla meddelandeappar »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »

Tyskland stoppar EU:s ChatControl?

av

EU vill granska innehållet i alla dina elektroniska kommunikationer. Men nu ser Tyskland ut att säga nej.

Som vi tidigare rapporterat vill EU av-kryptera, öppna och kontrollera innehållet i alla medborgares alla elektroniska meddelanden, chattar, e-post med mera (ChatControl). Syftet är att bekämpa sexuella övergrepp mot barn.

Men det ser ut som om Tyskland kommer att säga nej i ministerrådet. Justitieminister Marco Buschmann (FDP) och digitaliseringsminister Volker Wissing (FDP) var först ut med att säga stopp. Och nu säger även inrikesminister Nancy Faeser (SPD) nej.

Faeser säger till Spiegel »Jag anser att det inte är förenligt med våra fri- och rättigheter att kontrollera alla privata meddelanden utan anledning.«

Hon menar att det är bättre att spana mot digitala miljöer där man vet att det faktiskt förekommer sexuella övergrepp mot barn, för att snabbt kunna sätta in polisiära insatser.

Om Tyskland säger nej kommer det att bli svårt för EU-kommissionär Ylva Johansson att driva igenom idén om ChatControl. Men än är striden inte avgjord.

• Messengerüberwachung dürfte an Deutschland scheitern »

Granskning: Lobbykampanjen för #ChatControl

av

Varifrån kommer förslaget om att granska innehållet i alla EU-medborgares alla meddelanden, chattar och all e-post? Tyska Netzpolitik har grävt i ämnet.

I går presenterade EU-kommissionen sitt förslag till ChatControl / meddelandekontroll. Förslaget är kraftigt försenat och har även mött hård kritik från EU-kommissionens tjänstemän. Så hur hamnade vi här?

Det började med att EU antog nya regler till skydd för medborgarnas rätt till privatliv och privat kommunikation online. Alla var i princip överens om att stärka detta skydd, då. Men snabbt påbörjades en lobbykampanj från den amerikanska organisationen Thorn.

Organisationen är grundad av Hoillywood-stjärnan Ashton Kutcher och hans dåvarande fru Demi Moore. Thorn äger dessutom det kommersiella verktyget Safer, som syftar till att identifiera barnporr och övergrepp mot barn (CSAM).

Thorn drev fram ett undantag från de nya EU-reglerna, vilket tillät operatörer och plattformar att granska innehållet i användares meddelanden, chattar och e-post på jakt efter CSAM. Och efter ytterligare lobbyinsatser från Thorn föreslår EU nu alltså att detta skall bli obligatoriskt.

Thorn har haft en extremt god tillgång till makthavare i EU. Man har haft möten med EU-kommissionärer, deras personal och även påverkat enskilda länder som Tyskland och Sverige.

Mängden möten och nivån på dessa saknar närmast motstycke. Bland dem man träffat finns bland andra EU-kommissionens ordförande Ursula von der Leyen och inrikeskommissionär Ylva Johansson.

Dock är man inte så pigga på att avslöja vad dessa möten handlat om. Se nedan.

Samtidigt har EU-kommissionär Ylva Johansson vägrat träffa företrädare för nätfrihets- och medborgarrättsorganisationer som har haft invändningar mot ChatControl.

Efter att ha arbetat i Europaparlamentet i fem år kan jag med säkerhet påstå att det ovanstående inte är ett normalt förfarande. Vilket stärker mig i misstanken om att man använder CSAM som murbräcka för en framtida övervakning av våra elektroniska kommunikationer i andra syften. Denna typ av lagar drabbas alltid av ändamålsglidning.

• Läs mer hos Netzpolitik: How a Hollywood star lobbies the EU for more surveillance »

Podcast om EU:s förbud mot anonyma krypotobetalningar, nätcensur och ChatControl

av

Jag medverkar i podcasten Bara Bitcoin – som denna gång inte bara handlar om Bitcoin.

Vi diskuterar bland annat EU:s förslag om förbud mot anonyma betalningar med kryptovaluta, nätcensur och Trusted Flaggers i EU:s nya Digital Services Act samt förslaget om av-kryptering och granskning av all e-post och alla elektroniska meddelanden (ChatControl2).

Lyssna på Spotify eller där poddar finns »