Nätet till folket!
Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.
EU-kommissionens ordförande Ursula von der Leyen har just levererat sitt första linjetal i Europaparlamentet.
Bland annat flaggar hon för en europeisk digital identitet.
Tanken har varit uppe länge. Bland annat har det talats om att det skall krävas ett EU-ID för att kunna koppla upp sig på internet.
Detta kan bli ett hot såväl mot rätten till privatliv / anonymitet som ett verktyg för att kringgå kryptering (nycklar kopplade till EUeID).
Nu är det dags att vara vaksam.
»I would not accept that there is a contradiction between fighting serious crimes like child sexual abuse and respect the privacy. I do not accept that kind of contradiction.«
Så formulerade sig EU-kommissionär Ylva Johansson inför Europaparlamentets utskott för medborgerliga och mänskliga rättigheter förra veckan. (Video »)
Uttalandet är märkligt. Johansson accepterar inte att det finns en motsättning mellan att bekämpa vissa brott å ena sidan och medborgarnas rätt till privatliv å den andra. Inte ens när hon själv är pådrivande för ett förslag som innebär att 500 miljoner européers privata meddelanden skall avkrypteras, kontrolleras och analyseras – utan någon konkret misstanke om brott.
Hon förnekar helt enkelt verkliga förhållanden som inte passar hennes övervakningsagenda.
För alla andra torde det vara uppenbart att svepande övervakning och granskning av all privat elektronisk kommunikation kränker såväl rätten till privatliv som rätten till privat korrespondens – när det inte finns någon misstanke om att de övervakade skulle ha begått någon brottslig handling.
Ylva Johansson är intellektuellt ohederlig. Och hon ägnar sig åt fulspel när hon gömmer massövervakningen bakom en känslig fråga.
Relaterat: EU vill använda AI för att se om du har olämpliga kontakter med barn »
Barnporr och övergrepp mot barn är ett säkert kort när EU vill utöka övervakningen av medborgarnas kommunikationer. Det innebär att ingen törs protestera – även om förslagen är uppåt väggarna tokiga och farliga.
Vi har tidigare skrivit om saken här:
• EU vill se övervakning, granskning och analys av alla elektroniska meddelanden »
• EU vill skanna all din elektroniska kommunikation i jakt på barnporr – utan misstanke »
Nu börjar det komma fram fler detaljer. Bland annat vill EU-kommissionen använda sig av AI för att i hemlighet kontrollera att du och alla andra som använder internet inte har olämplig kontakt med barn.
Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) förklarar på sin blogg:
»The EU Commission is proposing to screen and monitor all private electronic communications without suspicion in order to search for possible child pornographic content. Today it presented draft legislation to this effect. International providers of e-mail and messenger services are to be permitted to search the content of all private messages for child and youth pornography as well as for the “luring” of minors in order to report this to authorities and non-governmental organizations worldwide.
Not only searches for known pictures and videos are to be legalised, but also error-prone “artificial intelligence”, for example to automatically search text messages for “luring” of minors. If an algorithm reports a suspected message, message content and customer data could be automatically forwarded to law enforcement agencies and non-governmental organizations worldwide without human examination. Regardless of the outcome of the case, the persons concerned should never know that their private communications were disclosed.«
Detta känns som upplagt för galna missförstånd och märkliga tolkningstvister. Och som vanligt är det den som är oskyldig som har mest att frukta.
Breyer:
»The more criminals are pushed to move their communications to impenetrable channels the less likely will the prosecution of child abuse be successful. (…)
Intercepting and filtering the content of all our private communications without suspicion and across the board by corporations such as Facebook and Google is absolutely ineffective and even counterproductive for investigating the channels used by organized crime, but it threatens the privacy and security of Internet communications of millions of innocent citizens and will probably not stand up in court. (…)
With error-prone and opaque AI text filters in place, we can expect countless users falsely reported every day and a thousandfold reading of private messages by international corporations. Particularly affected would be messages from teenagers among themselves, who have a right to respect their sex lives. Reports are to be uncontrollably forwarded to states such as the USA, where no data protection applies, with unforeseeable consequences when travelling.«
Säg att den AI som är inblandad missförstår ett av dina meddelanden – och att du sedan, ovetande om detta, försöker resa in i t.ex. USA. Vad kan möjligen gå fel?
Ännu snurrigare blir detta med tanke på att det aktuella lagförslaget är till för att upphäva konsekvenserna av ett annat lagförslag – som går ut på att skydda medborgarnas elektroniska kommunikationer. Man vill helt enkelt ha två motstridiga uppsättningar av regler. Vilket känns som en tveksam plan.
Om man låter AI-system analysera alla våra meddelanden – är det då någon som tror att detta kommer att stanna vid att bekämpa övergrepp mot barn? Historien lär oss att all övervakning tenderar att drabbas av ändamålsglidning – och ständigt utvidgas till nya områden.
Vill vi verkligen ha ett system där datorer granskar och analyserar alla våra elektroniska kommunikationer – och i förekommande fall rapporterar till myndigheterna om det hittar något intressant?
Detta öppnar möjligheter för åsiktsregistrering, kartläggning av oppositionella och förföljelse av oliktänkande. Vilket blir extra oroväckande med tanke på att vi lever i en tid när yttrande- och meningsfriheten redan hotas från flera håll.
Men presentera det som ett system för att bekämpa barnporr – och ingen vågar protestera.
Förre chefen för amerikanska NSA – National Security Agency – Keith Alexander har valts in i Amazons styrelse.
Han var ytterst ansvarig för den amerikanska globala massövervakning som avslöjades av visselblåsaren Edward Snowden – och som nyligen förklarades olaglig av en domstol.
Detta är uppseendeväckande med tanke på att Amazon driver molnbaserade datacenter över hela världen.
Man kan fråga sig vilka signaler det sänder till Amazons kunder – att en av den olagliga massövervakningens arkitekter nu i någon mening får kontroll över deras outsourcade dataprocesser och molnlagring.
The Verge: Former NSA chief Keith Alexander has joined Amazon’s board of directors »«
EU vill att alla medborgares elektroniska kommunikation skall övervakas och analyseras i kampen mot barnpornografi – även om det inte finns någon misstanke.
Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) skriver i ett pressmeddelande:
»Cens-Ursula von der Leyen is attacking security and privacy on the net, instead of focusing on the real failures in protecting children, for example in the areas of insufficient prevention of child abuse, insufficient funding of therapy services or overburdened prosecutors. To allow corporations like Facebook to intercept and screen the content of all our private communications without any suspicion and across the board is absolutely ineffective for investigating the channels used by organized crime, but it does threaten the privacy and security of Internet communications of millions of innocent citizens and is unlikely to withstand judicial challenges. Imagine that the postal service would open all letters in search of forbidden content. We will not accept that Cens-Ursula sets up digital black cabinets!«
Not: Ursula von der Leyen fick öknamnet Zensursula i Tyskland i samband med att hon. drev igenom den kritiserade NetzDG-lagen.
Länk: Patrick Breyers pressmeddelande »
Se även: EU vill se övervakning, granskning och analys av alla elektroniska meddelanden »
EU:s opinionsinstitut YouGov har frågat medborgare i tio medlemsstater vad de anser om förslagen om nätcensur i förordningen om terror-relaterat innehåll online (TERREG).
TLDR: Folket säger nej.
På frågan om vem som skall bestämma vilket material som kan komma att censureras säger de tillfrågade:
Vilket innebär att endast 38% stöder ministerrådets linje i förhandlingarna om TERREG.
Man har även frågat om ministerrådets förslag att en myndighet i en medlemsstat skall kunna besluta om nedtagning av innehåll i andra länder.
Undersökningen har initierats av Patrick Breyer, ledamot av Europaparlamentet (PP, DE).
Länkar:
• YouGov (PDF) »
• Piratpartiet: EU-medborgare motsätter sig utländsk anti-terror internetcensur»
5 juli-stiftelsen har idag lämnat in sitt yttrande över EU-kommissionens konsultation om the Digital Services Act – som är tänkt att bli EU:s nya allmänna regelverk för internet. (PDF)
Konsultationen består huvudsakligen av ett frågeformulär om allt mellan himmel och jord, vilket i sig är intressant. Man får en känsla av att EU-kommissionen försöker göra DSA så heltäckande som möjligt, med ett betydande inslag av micro management – vilket knappast kommer att gynna en redan överreglerad europeisk IT-sektor.
Det är också intressant att se vad som inte finns i frågeformuläret. Med tanke på all förhandsinformation om gemensamma EU-regler för innehåll online är det märkligt att man i princip helt förbigår den frågan, vilket vi också påpekar. Att man släppt den bollen är knappast troligt. Snarare inser man hur kontroversiell frågan är – och försöker hålla den under radarn så länge som möjligt. Vilket är det sätt på vilket EU ofta hanterar kontroversiella frågor.
Stiftelsen har endast svarat på de frågor som direkt berör oss, samt lämnat in en egen skrivelse med tre viktiga punkter:
Hela skrivelsen (PDF, engelska) kan laddas ner här. Vi lägger även upp de substantiella delarna av vårt svar här:
In the prologue to the Digital Services Act there has been much talk about common EU rules concerning online content, as there are different rules in different member states – e.g. the German NetzDG Act and the French Avia Law.
Given this, we are somewhat surprised that the vast questionnaire for the public consultation contains very little if any on this topic.
1) No censorship prior to publication
Given human rights declarations adopted by the EU, rule of law and fundamental principles of western, liberal democracy – we find upload filters and other forms of internet censorship unacceptable.
It should be a commonly accepted principle that no censorship should be applied prior to publication. If someone publishes content that is illegal – legal proceedings should take place against the person responsible after publication. And if any content is to be removed, this should be tried by a court of law.
Simply put, you should not punish anyone for a crime not yet committed.
And if you are to infringe on users’ rights online despite this, it must be decided through due process / in a court of law. This principle has already been established in the EU Telecoms Package back in 2009.
2) No upload filters – especially not for opinions
A problem with upload filters is that they tend to expand the scope from copyright infringements (the Copyright Directive) to opinions (the Regulation on Terrorist Content Online).
Upload filters are very blunt tools, unable to understand context and exceptions for e.g. »fair use« such as critique and satire – thus restricting an open, democratic debate.A well-known example of over-filtration is the picture of the »Vietnam Napalm Girl« – a historically important document blocked by Facebook on the grounds of nudity. (Later cleared after being published by the Norwegian ex-prime minister and director-general of the WHO Gro Harlem Brundtland.)
Such shortcomings will become even more obvious if applied to opinions.
Considering the constant tendency to mission creep, we strongly recommend that the EU abstain from stipulating upload filters altogether.
3) Mere Conduit for platforms (without curation)
A central principle in the old eCommerce directive is Mere Conduit, stating that ISP’s and other operators cannot be held responsible for their users’ actions.
This principle should be retained – and it should be made clear that it also applies to social media platforms, as long as they do not curate or edit user-generated content in any substantial way.
As long as the issue is about digital infrastructure – service providers and platforms should not be held responsible any more than any other provider of infrastructure like roads or the postal service.
Furthermore, the prohibition of any general monitoring obligation should be upheld.
Läs mer om the Digital Services Act och konsultationen (deadline 8 september) på EU-kommissionens hemsida. »
»Polisen vill nu avlyssna personer som ännu inte är misstänkta« utropar Sveriges Radio med viss berättigad förskräckelse.
Rimligen menar inte biträdande rikspolischefen att man skall kunna avlyssna vem som helst hur som helst. Och då måste avlyssningen rimligen inriktas. Mot element som polisen befarar kommer att begå brott. Vilket känns snubblande nära just en misstanke.
Och det är precis vad biträdande rikspolischef Mats Löfving säger:
– I ett underrättelsesyfte, precis! Människor som ännu inte ingår i nån brottsutredning. Utan människor som på ett tydligt sätt kan kopplas till gängkriminalitet.
Så att vi vet vad det handlar om. Men det är vanskligt nog.
Ett problem är att man med nödvändighet kommer att kränka en hel del hederliga medborgares integritet. Bekanta, flickvänner, affärskompanjoner och innebandylaget kommer alla att sugas in i sociogrammet över vilka som kan komma att avlyssnas runt en misstänkt kriminell. Det är ett betydande ingrepp i människors rätt till privatliv.
Vad har vi för garantier för att mandatet för denna övervakningsmaskin inte kommer att utökas? Om vi tycker att det är OK att man avlyssnar människor som inte är misstänkta för brott – då är ändå frågan varför detta sker inte huggen i sten. Då kommer den till synes obligatoriska ändamålsglidningen.
För att inte tala om hur detta skulle kunna missbrukas av en ond regering, en galen justitieminister, någon illvillig person i systemet eller bara bli ett offer för den svenska slumpen.
Som verktyg för en stat med ambitionen att kontrollera allt eller förtrycka alla är detta den heliga graal: Möjligheten att kunna avlyssna i princip vem som helst utan någon konkret misstanke om brott. Som i DDR.
Nu vet jag att större delen av svenska folket inte håller med mig. Och jag förstår varför. Kriminaliteten i landet har ändrat karaktär, till den punkt där den inte längre går att bekämpa med traditionella metoder.
Det är illavarslande. På så många sätt.
Men man måste ändå vara medveten om riskerna med att lämna den demokratiska rättsstatens grundläggande värden. Även om det senare av någon anledning ändå skulle anses nödvändigt.
Grundregeln måste vara att medborgare som inte stör någon annan skall lämnas ifred.
US Court of Appeals for the Ninth Circuit har kommit fram till att NSA:s massövervakning – som avslöjades av visselblåsaren Edward Snowden – är olaglig.
Domstolen menar att NSA:s program för insamling av bulkdata från amerikanska teleoperatörer strider mot Foreign Intelligence Surveillance Act och att den även kan ha brutit mot konstitutionen.
Snowden riskerar fortfarande åtal i USA – även om president Trump funderat högt om att kanske benåda honom.
• US court: NSA mass surveillance program exposed by Snowden was illegal »
EU vill se nya åtgärder mot sexuellt utnyttjande av barn, narkotika och vapen på internet. Vilket skapat en hel del oreda.
Å ena sidan stärker ny lagstiftning konfidentialitet och skydd för privat korrespondens vad gäller e-post, meddelandetjänster och IP-telefoni. Å andra sidan har man nu insett att detta innebär att man inte längre kommer att kunna övervaka medborgarnas kommunikationer på samma sätt som tidigare. Därför presenteras ytterligare en lag som gör det obligatoriskt för service providers att söka igenom sina användares meddelanden och kommunikation.
Det känns totalt förvirrat och spretigt.
Detta innebär även att man vill kunna knäcka krypterad kommunikation, vilket vi rapporterat om tidigare. Hur detta skall ske är fortfarande oklart. En möjlig väg är att försöka knäcka krypteringen som sådan – en annan att ägna sig åt storskalig hemlig dataavläsning, som kan ge tillgång till meddelanden i klartext innan de krypterats eller efter att de avkrypterats.
»Inrikeskommissionär« Ylva Johansson beskriver den nya lagstiftningen som att den »kräver att onlineplattformar upptäcker och rapporterar« olagligt innehåll.
EU-kommissionens vice ordförande Margaritis Schinas, som ansvarar för främjande av den europeiska livsstilen säger »De som profiterar på att orsaka misär och skada genom att sälja olagliga droger och skjutvapen eller sprida fruktansvärd barnpornografi måste stoppas och ställas inför rätta. Den inre säkerheten är en central pelare i EU:s strategi för säkerhetsunionen som ska skydda européerna och främja vår livsstil.«
Med detta avskaffar man i praktiken rätten till privat korrespondens – som den formuleras i till exempel Europakonventionen om de mänskliga rättigheterna.
Nu skall all e-post, alla elektroniska meddelanden och all internet-telefoni – all din elektroniska kommunikation – övervakas, granskas och analyseras.
Länkar:
• Netzpolitik: EU-Kommission plant Durchleuchtungspflicht »
• EU-kommissionen: Säkerhetsunionen – initiativ mot narkotika, olagliga vapen och sexuella övergrepp mot barn »
• Relterat: EU och Europol satsar på att knäcka kryptering »