Femte juli

Nätet till folket!

Sökresultat för: chat control

ChatControl: EU-kommissionen duckar alla jobbiga frågor

av

Det blev hård kritik men få svar när EU-kommissionär Ylva Johansson grillades om förslaget om att granska innehållet i alla våra elektroniska kommunikationer.

EU-kommissionen vill att din e-post och alla dina elektroniska meddelanden med mera skall av-krypteras, att dess innehåll skall granskas och att misstänkt innehåll skall överlämnas till en ny EU-myndighet.

På måndagen höll Europaparlamentets utskott för mänskliga rättigheter, LIBE, en utfrågning av EU-kommissionär Ylva Johansson med anledning av detta förslag om åtgärder för att förhindra sexuellt utnyttjande av barn på nätet (CSAR), populärt kallat #ChatControl.

Det uppgivna syftet är en perfekt murbräcka, för vem är väl för sexuella övergrepp mot barn? Och vem vågar säga emot utan att riskera att misstänkliggöras? Samtidigt vet vi att nya övervakningslagar i princip alltid drabbas av ändamålsglidning.

Det mesta som presenterades är sådant som lätt går att utöka till andra syften.

Är det verkligen någon som tror att detta verktyg, när det väl finns på plats, inte kommer att användas för andra ändamål?

• Du kan se utfrågningen genom att följa denna länk.

Utfrågningen börjar lite försiktigt, men tar sig i andra halvan – då kommissionär Johansson fullständigt bombarderas med kritiska frågor och allvarliga invändningar. Vilka hon i allt väsentligt duckar i sina svar.

Rätten till privatliv och privat korrespondens är en grundläggande mänsklig rättighet. Och mänskliga rättigheter skall även gälla online.

Europakonventionen om de mänskliga rättigheterna föreskriver i artikel 8:1:

»Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens.»

Sedan finns det undantag, som till exempel för att bekämpa brott. Men då måste det finnas en misstanke. Att granska innehållet i alla medborgares alla elektroniska kommunikationer för den händelse att någon eventuellt skulle skriva eller sända något olagligt är inte förenligt med rätten till privat korrespondens.

Detta är en princip som redan slagits fast av EU-domstolen vad gäller datalagringen. Svepande övervakning utan misstanke om brott är inte tillåten.

EU-kommissionen försöker komma runt detta genom att göra det hela till en fråga om den inre marknaden snarare än mänskliga rättigheter. Vilket är precis samma knep den använde när man skrev det nu ogiltigförklarade datalagringsdirektivet. Det fungerade inte då och det kommer inte att fungera nu heller.

Men trots att det är uppenbart att CSAR kommer att falla i EU-domstolen om regleringen antas, så försöker kommissionen ändå.

Det finns hur mycket som helst att kommentera om utfrågningen. Därför kommer vi att bryta ner detta till mindre delar den närmaste tiden. Stay tuned.

Video:
• LIBES utfrågning av EU-kommissionär Ylva Johansson om CSAR »

Läs mer:
• Chat Control: The EU’s CSEM scanner proposal – The End of the Privacy of Digital Correspondence »

Nu börjar slaget om #ChatControl

av

Nu tas de första stegen mot granskning av innehållet i alla våra elektroniska kommunikationer. Den politiska striden är redan igång – och Sveriges nya regering kommer att få en nyckelroll.

Nu har EU-kommissionär Ylva Johanssons förslag om #ChatControl landat på Europaparlamentets bord. Det är nu det kommer att avgöras om vår e-post och alla våra elektroniska meddelanden skall av-krypteras, öppnas och dess innehåll granskas.

Allt vi skriver (och tar emot) kommer att inspekteras – av maskiner, som skall söka efter (och anmäla) misstänkt innehåll. Vad kan möjligen gå fel?

I praktiska termer handlar #ChatControl om huruvida man skall spana mot folk som är misstänkta för brott eller om man skall massövervaka alla.

Utöver problemen med automatiserad övervakning riktad mot människor som inte är misstänkta för brott är detta en viktig principiell fråga. Rätten till privatliv och privat kommunikation är en mänsklig rättighet.

FN:s människorättskommissionär oroas:

»“Moreover, in the general scanning of communications, frequent false positives cannot be avoided, even if accuracy rates are high, thereby implicating numerous innocent individuals. Given the possibility of such impacts, indiscriminate surveillance is likely to have a significant chilling effect on free expression and association, with people limiting the ways they communicate and interact with others and engaging in self-censorship.«

Sedan innehåller förslaget även andra ogenomtänkta saker, som en 18-årsgräns för meddelande-appar. Personer under 18 års ålder skall alltså inte kunna kommunicera elektroniskt med varandra eller någon annan. Och med ålderskrav kommer ID-krav, för alla.

• Läs mer om #ChatControl »

Nu börjar den politiska striden. Det tjeckiska EU-ordförandeskapet har dessutom utökat förslaget med borttagning av sökresultat. (!) Och i Europaparlamentet är den konservativa och den liberala gruppen pådrivande.

Vid årsskiftet blir Sverige ordförandeland i EU. Därmed hamnar processen i ministerrådet i vårt knä. Medlemsstaterna är splittrade från ett tydligt nej till ren entusiasm.

Om vi vill stoppa #ChatControl är det hög tid att handla nu. Allt för ofta är motståndet mot ogenomtänkta EU-beslut slumrande fram till det ögonblick då vi ställs inför fullbordat faktum, när redan det är för sent. Låt inte det hända igen.

Med moståndsfickor mot #ChatControl i både ministerrådet och parlamentet krävs att frågan börjar bubbla i media och i opinionen. Tryck måste komma från alla sidor.

En bra början är att kräva den nya svenska regeringen på besked.

Försvara rätten till privat korrespondens, rädda den digitala brevhemligheten!

Länkar / relaterat:
• Chat Control – The End of the Privacy of Digital Correspondence »
• UN Human Rights Commissioner warns against chat control »
• EU avskaffar rätten till privat korrespondens »
• Tyska regeringen splittrad om #ChatControl »
• EU:s medlemsstater splittrade om ChatControl. Vad tycker Sverige? »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »
• ChatControl: Den som är oskyldig har allt att frukta »
• Leak on chat control: EU Commission anticipates millions of false positives »
• Chat Control är en idiotisk och farlig idé »
• Granskning: Lobbykampanjen för #ChatControl »

EU:s medlemsstater splittrade om ChatControl. Vad tycker Sverige?

av

Konfliktlinjerna börjar klarna vad gäller EU:s förslag till granskning av innehållet i vår e-post och alla elektroniska meddelanden. Sveriges position är dock än så länge oklar.

Tyska Netzpolitik har kommit över dokument som visar medlemsstaternas inställning till av-kryptering, öppning och granskning av all e-post och alla våra elektroniska meddelanden – #ChatControl / meddelandekontroll.

Som vi tidigare rapporterat är den tyska regeringen splittrad. Man välkomnar förslaget i allmänna ordalag, men sågar det i detaljerna. Inrikesministern (SPD) vacklar fram och tillbaka, medan justitie- och digitaliseringsministern (båda FDP) är negativa.

Det förefaller som om Tyskland bara kan acceptera ChatControl om användarnas anonymitet kan garanteras. Vilket låter som en omöjlighet givet förslagets utformning. Man menar i sammanhanget att krypteringen inte får brytas, vilket är ett bra tecken.

En märklighet är att Tyskland uttalar sig för stärkt ålderskontroll (för meddelandeappar m.m.) – dock under förutsättning att användarnas rätt till anonymitet inte kränks. Vilket känns som en självmotsägelse. Att kontrollera ålder utan att kontrollera identitet kan bli knepigt.

Österrike säger nej till ChatControl med hänvisning till rätten till privatliv. Man oroas även över den stora mängd falska flaggningar ett sådant här system kan ge upphov till.

Samtidigt uttalar sig Frankrike, Bulgarien, Ungern, Rumänien, Nederländerna, Lettland och Finland klart för ChatControl.

Så vad tycker Sverige? Den utgående socialdemokratiska regeringen var positiv till ChatControl som sådan, men noterar att det inte finns något färdigt förslag att ta ställning till. Moderaterna och SD är också i princip positiva, men vill även de avvakta tills det finns ett färdigt förslag. KD är uttalat för ChatControl redan nu.

I sammanhanget kan nämnas att medan Sverige ”avvaktar” ett färdigt förslag, så är många andra medlemsstater i full färd med att utforma just ett sådant

Så det känns som om Sverige inte riktigt är med i matchen. Vilket är anmärkningsvärt, då vi kommer att vara ordförandeland i EU efter årsskiftet – och då få huvudansvar för frågan.

Länk: Interne Dokumente zeigen, wie gespalten die EU-Staaten sind »

Relaterat:
• Chat Control – The End of the Privacy of Digital Correspondence »
• EU upphäver rätten till privat korrespondens »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »
• ChatControl: Vet politikerna vad de sysslar med? »

Youtube: Chat Control is a stupid and dangerous idea (feat. MEP Patrick Breyer) »

Tyska regeringen splittrad om #ChatControl

av

Den tyska regeringen sänder blandade signaler om EU-kommissionens förslag om att granska innehållet i all e-post, alla elektroniska meddelanden, alla chattar med mera. Så nu sätter liberalerna i regeringen upp ett antal röda linjer.

Det tycks finnas en spricka om ChatControl inom den tyska regeringen.

Kritik mot EU-kommissionens förslag om att av-kryptera och öppna all e-post och alla elektroniska meddelanden – för att sedan granska dess innehåll – framförs nu från liberalerna (FDP) i den tyska regeringen.

Detta bör inte komma som någon överraskning, då skrivningarna i den tyska trepartiregeringens koalitionsfördrag tydligt säger nej till generell övervakning, speciellt av privat kommunikation. Tidigare har så väl ministrar från FDP som socialdemokraterna (SDP) kritiserat förslaget om ChatControl.

Samtidigt har den tyska regeringen i vaga ordalag »välkomnat« EU-kommissionens förslag. Det finns tecken på att SDP kan ha svängt till ett försiktigt ja. Speciellt gäller det inrikesminister Nancy Faeser (SPD).

Därför har FDP nu formulerat en text där man sätter upp ett antal röda linjer:

  • Man säger nej till allmän ChatControl vad gäller e-post och meddelanden.
  • Man säger nej till kontroll av enskildas lagrade filer som ej delas med någon annan.
  • Man säger nej till »client-side scanning« där granskning av meddelanden och innehåll sker på användarens egen telefon, platta eller dator.
  • Man säger nej till att kringgå kryptering.
  • Man säger nej till granskning av röstmeddelanden och röstsamtal.
  • Man säger (i princip) nej till ålderskontroll / åldersgräns för meddelande-appar.
  • Man säger nej till att eftersöka innehåll som inte är olagligt under respektive medlemsstats nationella lagstiftning.

Läs hela FDP:s kravlista här. »

I grunden handlar detta om att försvara människors konventionsskyddade mänskliga rättigheter och vad dessa har att säga om rätten till privatliv och privat korrespondens. Och som vi brukar påpeka har FN uttalat att mänskliga rättigheter offline även skall gälla online.

Det är oklart hur detta kommer att sluta. Men om såväl den tyske justitieministern som digitaliseringsministern (båda FDP) säger nej lär det bli svårt för Tyskland att ställa sig bakom kommissionens förslag om ChatControl. Även om inrikesministern (SPD) skulle säga ja.

Dock räcker det inte med att Tyskland säger nej för att stoppa förslaget i ministerrådet. Så frågan kan mycket väl komma att avgöras i Europaparlamentet.

Läs mer:
• Clear lines against chat control: Liberals’ paper puts German Interior Minister Faeser on the spot »
• Chat Control – The End of the Privacy of Digital Correspondence »
• EU upphäver rätten till privat korrespondens »

ChatControl: Den som är oskyldig har allt att frukta

av

Obligatorisk granskning av alla våra elektroniska kommunikationer kan få katastrofala konsekvenser för helt oskyldiga människor.

EU-kommissionen vill att vår e-post och alla våra elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas. Syftet är att kontrollera att du inte ägnar dig åt sexuella övergrepp på barn.

Granskningen kommer att ske av maskiner, som saknar förmåga att bedöma kontext. Resultatet kommer med nödvändighet att bli felaktiga flaggningar (falska positiva).

New York Times / Techdirt / EFF rapporterar om en man som på uppmaning sänt bilder på sin son till dennes läkare. Då Google redan (frivilligt) granskar alla sina användares meddelanden flaggades meddelandet.

Till att börja med spärrades mannens Google-konto. Det vill säga att hans e-post, kalender, bilder, docs, drive, Google-telefon m.m. slutade fungera. På felaktiga grunder. Dessa åtgärder kan i sig ödelägga en människas hela arbetsliv.

Google polisanmälde också mannen. Polisen kunde dock inte nå honom, då Google spärrat hans e-post och telefon. Allt på hans Google-konto granskades, utan att man fann något annat misstänkt. Polisen kunde (eller ville) dock inte kontakta Google för att meddela att misstanken avskrivits.

Med tanke på vilka stora volymer som granskas leder sådan här innehållsgranskning till miljontals falska flaggningar. Det gäller även om de filter som granskar innehållet gör rätt i 99,9% av fallen. (Vilket de inte gör.)

Att detta kan få katastrofala konsekvenser för helt oskyldiga människor är uppenbart.

Det ovanstående är ett praktiskt exempel på hur fel ChatControl (obligatorisk innehållsgranskning) kan slå. Men det finns även principiella problem.

  • ChatControl är en kränkning av grundläggande mänskliga rättigheter som rätten till privatliv och privat kommunikation – när den appliceras på alla våra elektroniska kommunikationer utan misstanke om brott.
  • ChatControl kommer även att leda till att man kringgår den kryptering som skyddar våra kommunikationer. Vilket öppnar dörren för illasinnade aktörer och gör oss alla mindre säkra.
  • När ChatControl väl finns på plats kan syftet enkelt utökas. Övervakningslagar drabbas i princip alltid av ändamålsglidning.

Till råga på allt rår ChatControl inte på de metoder som vanligtvis används för att sprida olagligt innehåll.

Läs mer:
• EU upphäver rätten till privat korrespondens »
• Chat Control – The End of the Privacy of Digital Correspondence »
• Horrifying: Google Flags Parents As Child Sex Abusers After They Sent Their Doctors Requested Photos »
• Google’s Scans of Private Photos Led to False Accusations of Child Abuse »

#ChatControl: Vet politikerna vad de sysslar med?

av

ChatControl / meddelandekontroll kan inte stoppa brottslig verksamhet. Däremot kommer EU-förslaget att ge de sociala mediejättarna tillgång till mer känslig persondata om sina användare.

Man får ofta ett intryck av att politiker inte vet vad de sysslar med, när de stiftar lagar som gäller internet.

EU-kommissionens förslag om att all e-post, alla elektroniska meddelanden m.m. skall av-krypteras, öppnas och att dess innehåll skall granskas – »ChatControl« – väcker frågor.

Medan tjänster som Google, WhatsApp, Messenger, Telegram, Signal m.fl. kanske kan tvingas granska innehållet i våra elektroniska kommunikationer – så går det inte att komma åt den som använder riktig end2end-krypterad (EE2E) e-post (GPG). Även privata, egenhostade mail- och chatservrar lär hamna utanför meddelandekontrollen.

För den som vill distribuera olagligt material eller ägna sig åt olagliga aktiviteter online är det med andra ord lätt att gå runt det nya förslaget. Going dark.

Däremot kommer alla vanliga, hederliga människor att få innehållet i sina elektroniska kommunikationer granskade – av maskiner. Vilket är en kränkning av rätten till privat korrespondens, vilken i sin tur är en mänsklig rättighet.

Samtidigt kommer själva granskningen av innehållet i våra elektroniska kommunikationer att ske hos respektive tjänsteoperatör.

Företag som Google, Facebook, Apple, Microsoft kritiseras redan (inte minst av politiker) för att de vet för mycket om sina användare. Men med ChatControl är tanken att just dessa företag skall tvingas läsa alla våra privata meddelanden och analysera dess innehåll.

Big Data – som redan vet allt för mycket om oss – kommer alltså att påtvingas uppgiften att läsa och analysera det mesta vi skriver till varandra online. Detta kommer att ske med hjälp av maskiner och deras algoritmer.

Hur politiker kan tycka att sociala media vet för mycket om sina användare – och samtidigt tvinga dem att granska innehållet i alla våra meddelanden är märkligt.

Detta känns inte helt genomtänkt.

Läs mer:
• EU upphäver rätten till privat korrespondens (innehåller även de viktigaste länkarna) »

WhatsApp tar strid mot #ChatControl

av

Meddelandetjänsten WhatsApp tar strid mot förslag från brittiska politiker och EU om att av-kryptera alla användares meddelanden och att granska innehållet i våra elektroniska kommunikationer.

Facebook-ägda WhatsApps chef Will Cathcart säger till BBC att meddelandetjänsten inte kommer att sänka sin säkerhetsnivå. Han säger vidare att det vore dåraktigt att acceptera politikernas försök att försvaga eller kringgå kryptering.

Reaktionen kommer med anledning av britternas (försenade) Online Safety Bill. På samma sätt som EU:s »ChatControl« vill man bereda sig tillgång till innehållet i användarnas meddelanden och bildarkiv.

I båda fallen används sexuella övergrepp mot barn för att upphäva användarnas rätt till privatliv och privat korrespondens. En rätt som för övrigt är en konventionsskyddad mänsklig rättighet.

Man skall dessutom komma ihåg att kommunikationsappar inte bara används i UK och EU:

”If we had to lower security for the world, to accommodate the requirement in one country, that…would be very foolish for us to accept, making our product less desirable to 98% of our users because of the requirements from 2%,” Mr Cathcart told BBC News.

”What’s being proposed is that we – either directly or indirectly through software – read everyone’s messages,” Mr Cathcart said. ”I don’t think people want that.”

Ett sätt att kringgå kryptering kan vara client side scanning, redan på din telefon, platta eller dator. Vilket är vad Apple aviserade (vad gäller bilder) för något år sedan. Detta förslag drogs dock tillbaka, efter att ha utsatts för hård kritik. Vilket inte hindrar politikerna från att försöka igen…

Några röster från brittiska nätaktivister:

Ella Jakubowska, policy adviser at campaign group European Digital Rights, said: ”Client-side scanning is almost like putting spyware on every person’s phone.”

”It also creates a backdoor for malicious actors to have a way in to be able to see your messages.”

Dr Monica Horten, policy manager for the campaign organisation Open Rights Group, agreed: ”If Apple can’t get it right, how can the government?

”Client-side scanning is a form of mass surveillance – it is a deep interference with privacy.”

Prof Alan Woodward, of the University of Surrey, told BBC News that scanning could be misused: ”Of course, if you say: ’Do you think children should be kept safe?’ everyone’s going to say ’yes’.

”But if you then say to someone: ’Right, I’m going to put something on your phone that’s going to scan every single one of your images and compare it against the database,’ then suddenly you start to realise the implications.”

Länk:
• WhatsApp: We won’t lower security for any government »

Relaterat:
• En grundlig sågning av #ChatControl »

En grundlig sågning av #ChatControl

av

Bloggen Lawfare levererar svidande kritik mot EU-kommissionens förslag om Chat Control / meddelandekontroll. Läs mer nedan, där du även hittar länkar och resurser i ämnet.

#ChatControl är nätaktivisternas namn på EU-kommissiones förslag för att bekämpa (känd och tidigare okänd) barnpornografi samt sexuella övergrepp mot barn online.

Förslaget innebär bland annat att innehållet i dina meddelanden och din e-post skall granskas. (Artikel 7.) Och för att så skall kunna ske måste dess kryptering brytas eller kringgås, vilket är ytterst olämpligt.

Dessutom kommer det att leda till en 18-årsgräns för användning av meddelandeappar. (Artikel 6.)

Kritiken har varit omfattande. Till exempel står den ovan nämnda meddelandekontrollen i strid med vad Europakonventionen om de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens. Dessa är att anse som grundläggande mänskliga rättigheter.

Nyligen levererade Lawfare-bloggen en omfattande och genomarbetad kritik, som är rekommenderad läsning. Några nedslag i texten:

»The EU proposal would undo 20 years of progress in securing communications, while employing a set of technologies unlikely to achieve its stated goals. Even worse, the solutions it proposes for handling CSAM would create national security risks by weakening the best tool available for securing communications, end-to-end encryption, and defining a mission without the technology to accomplish it.«

»This lack of current technology leads to the fundamental flaw of the EU proposal. The proposal sets up a bureaucracy requiring industry solutions to a problem that no one—not service or hosting providers, nor governments—has technical solutions for or knows how to operate at this scale.«

»(A) lack of technical methods to effectively accomplish what the proposal claims to do with a strong likelihood that the technologies at hand would fail to produce the desired effect.«

»EU human rights law requires that surveillance solutions be proportionate. The proposal argues that the recommendations are indeed proportionate, but it does so on the basis of technology that does not yet exist (“EU Centre should facilitate access to reliable detection technologies to providers”). A surveillance solution with a low likelihood of accomplishing its goals without impeding fundamental privacy protections cannot be proportionate. Until and unless there is a technology that satisfies the requirements of low false positives and false negatives successfully operating at scale on encrypted communications, the claim that this proposal is proportionate is not a meaningful one.«

Förslaget har försenats på vägen, huvudsakligen på grund av dess bristande kontakt med verkligheten och dess nonchalans inför grundläggande mänskliga rättigheter. Kritiken inifrån EU-kommissionen har också varit hård.

Läs mer:
• EU-kommissionens förslag »
• EU avskaffar rätten till privat korrespondens »
• Resurs-sida: Chatcontrol.eu »
• Granskning: Lobbykampanjen för #ChatControl ›
• Går Chat Control att stoppa? »
• Chat Control är en idiotisk och farlig idé »
• EU-förslag: 18-årsgräns för alla meddelandeappar »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »

Tyskland stoppar EU:s ChatControl?

av

EU vill granska innehållet i alla dina elektroniska kommunikationer. Men nu ser Tyskland ut att säga nej.

Som vi tidigare rapporterat vill EU av-kryptera, öppna och kontrollera innehållet i alla medborgares alla elektroniska meddelanden, chattar, e-post med mera (ChatControl). Syftet är att bekämpa sexuella övergrepp mot barn.

Men det ser ut som om Tyskland kommer att säga nej i ministerrådet. Justitieminister Marco Buschmann (FDP) och digitaliseringsminister Volker Wissing (FDP) var först ut med att säga stopp. Och nu säger även inrikesminister Nancy Faeser (SPD) nej.

Faeser säger till Spiegel »Jag anser att det inte är förenligt med våra fri- och rättigheter att kontrollera alla privata meddelanden utan anledning.«

Hon menar att det är bättre att spana mot digitala miljöer där man vet att det faktiskt förekommer sexuella övergrepp mot barn, för att snabbt kunna sätta in polisiära insatser.

Om Tyskland säger nej kommer det att bli svårt för EU-kommissionär Ylva Johansson att driva igenom idén om ChatControl. Men än är striden inte avgjord.

• Messengerüberwachung dürfte an Deutschland scheitern »