Femte juli

Nätet till folket!

EU

Denna kategori använder vi för att samla nyheter och poster som har med EU att göra. Idag kommer de flesta initiativ som gäller internetfrågorna därifrån - för att sedan bli lag i medlemsstaterna.

EU vill använda AI för att se om du har olämpliga kontakter med barn

av

Barnporr och övergrepp mot barn är ett säkert kort när EU vill utöka övervakningen av medborgarnas kommunikationer. Det innebär att ingen törs protestera – även om förslagen är uppåt väggarna tokiga och farliga.

Vi har tidigare skrivit om saken här:
• EU vill se övervakning, granskning och analys av alla elektroniska meddelanden »
• EU vill skanna all din elektroniska kommunikation i jakt på barnporr – utan misstanke »

Nu börjar det komma fram fler detaljer. Bland annat vill EU-kommissionen använda sig av AI för att i hemlighet kontrollera att du och alla andra som använder internet inte har olämplig kontakt med barn.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) förklarar på sin blogg:

»The EU Commission is proposing to screen and monitor all private electronic communications without suspicion in order to search for possible child pornographic content. Today it presented draft legislation to this effect. International providers of e-mail and messenger services are to be permitted to search the content of all private messages for child and youth pornography as well as for the “luring” of minors in order to report this to authorities and non-governmental organizations worldwide.

Not only searches for known pictures and videos are to be legalised, but also error-prone “artificial intelligence”, for example to automatically search text messages for “luring” of minors. If an algorithm reports a suspected message, message content and customer data could be automatically forwarded to law enforcement agencies and non-governmental organizations worldwide without human examination. Regardless of the outcome of the case, the persons concerned should never know that their private communications were disclosed.«

Detta känns som upplagt för galna missförstånd och märkliga tolkningstvister. Och som vanligt är det den som är oskyldig som har mest att frukta.

Breyer:

»The more criminals are pushed to move their communications to impenetrable channels the less likely will the prosecution of child abuse be successful. (…)

Intercepting and filtering the content of all our private communications without suspicion and across the board by corporations such as Facebook and Google is absolutely ineffective and even counterproductive for investigating the channels used by organized crime, but it threatens the privacy and security of Internet communications of millions of innocent citizens and will probably not stand up in court. (…)

With error-prone and opaque AI text filters in place, we can expect countless users falsely reported every day and a thousandfold reading of private messages by international corporations. Particularly affected would be messages from teenagers among themselves, who have a right to respect their sex lives. Reports are to be uncontrollably forwarded to states such as the USA, where no data protection applies, with unforeseeable consequences when travelling.«

Säg att den AI som är inblandad missförstår ett av dina meddelanden – och att du sedan, ovetande om detta, försöker resa in i t.ex. USA. Vad kan möjligen gå fel?

Ännu snurrigare blir detta med tanke på att det aktuella lagförslaget är till för att upphäva konsekvenserna av ett annat lagförslag – som går ut på att skydda medborgarnas elektroniska kommunikationer. Man vill helt enkelt ha två motstridiga uppsättningar av regler. Vilket känns som en tveksam plan.

Om man låter AI-system analysera alla våra meddelanden – är det då någon som tror att detta kommer att stanna vid att bekämpa övergrepp mot barn? Historien lär oss att all övervakning tenderar att drabbas av ändamålsglidning – och ständigt utvidgas till nya områden.

Vill vi verkligen ha ett system där datorer granskar och analyserar alla våra elektroniska kommunikationer – och i förekommande fall rapporterar till myndigheterna om det hittar något intressant?

Detta öppnar möjligheter för åsiktsregistrering, kartläggning av oppositionella och förföljelse av oliktänkande. Vilket blir extra oroväckande med tanke på att vi lever i en tid när yttrande- och meningsfriheten redan hotas från flera håll.

Men presentera det som ett system för att bekämpa barnporr – och ingen vågar protestera.

Läs mer hos Patrick Breyer »

EU vill skanna all din elektroniska kommunikation i jakt på barnporr – utan misstanke

av

EU vill att alla medborgares elektroniska kommunikation skall övervakas och analyseras i kampen mot barnpornografi – även om det inte finns någon misstanke.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) skriver i ett pressmeddelande:

»Cens-Ursula von der Leyen is attacking security and privacy on the net, instead of focusing on the real failures in protecting children, for example in the areas of insufficient prevention of child abuse, insufficient funding of therapy services or overburdened prosecutors. To allow corporations like Facebook to intercept and screen the content of all our private communications without any suspicion and across the board is absolutely ineffective for investigating the channels used by organized crime, but it does threaten the privacy and security of Internet communications of millions of innocent citizens and is unlikely to withstand judicial challenges. Imagine that the postal service would open all letters in search of forbidden content. We will not accept that Cens-Ursula sets up digital black cabinets!«

Not: Ursula von der Leyen fick öknamnet Zensursula i Tyskland i samband med att hon. drev igenom den kritiserade NetzDG-lagen.

Länk: Patrick Breyers pressmeddelande »

Se även: EU vill se övervakning, granskning och analys av alla elektroniska meddelanden »

EU-opinion: Nej till uppladdningsfilter och överstatlig censur i TERREG

av

EU:s opinionsinstitut YouGov har frågat medborgare i tio medlemsstater vad de anser om förslagen om nätcensur i förordningen om terror-relaterat innehåll online (TERREG).

TLDR: Folket säger nej.

På frågan om vem som skall bestämma vilket material som kan komma att censureras säger de tillfrågade:

  • En myndighet, som polisen eller en domstol: 44%
  • Onlineplattformar, med hjälp av algoritmer eller uppladdningsfilter: 38%
  • Inget av de två: 15%
  • Vet ej: 17%

Vilket innebär att endast 38% stöder ministerrådets linje i förhandlingarna om TERREG.

Man har även frågat om ministerrådets förslag att en myndighet i en medlemsstat skall kunna besluta om nedtagning av innehåll i andra länder.

  • 51% säger nej och vill att endast nationella myndigheter skall kunna besluta om nedtagning.
  • 37% håller med ministerrådet om att en nationell myndighet skall kunna besluta om nedtagning även i andra länder.
  • 19% vet ej.

Undersökningen har initierats av Patrick Breyer, ledamot av Europaparlamentet (PP, DE).

Länkar:
• YouGov (PDF) »
• Piratpartiet: EU-medborgare motsätter sig utländsk anti-terror internetcensur»

5 juli-stiftelsen om EU:s planer för nätet: Nej till censur och uppladdningsfilter – värna plattformarnas budbärarimmunitet

av

5 juli-stiftelsen har idag lämnat in sitt yttrande över EU-kommissionens konsultation om the Digital Services Act – som är tänkt att bli EU:s nya allmänna regelverk för internet. (PDF)

Konsultationen består huvudsakligen av ett frågeformulär om allt mellan himmel och jord, vilket i sig är intressant. Man får en känsla av att EU-kommissionen försöker göra DSA så heltäckande som möjligt, med ett betydande inslag av micro management – vilket knappast kommer att gynna en redan överreglerad europeisk IT-sektor.

Det är också intressant att se vad som inte finns i frågeformuläret. Med tanke på all förhandsinformation om gemensamma EU-regler för innehåll online är det märkligt att man i princip helt förbigår den frågan, vilket vi också påpekar. Att man släppt den bollen är knappast troligt. Snarare inser man hur kontroversiell frågan är – och försöker hålla den under radarn så länge som möjligt. Vilket är det sätt på vilket EU ofta hanterar kontroversiella frågor.

Stiftelsen har endast svarat på de frågor som direkt berör oss, samt lämnat in en egen skrivelse med tre viktiga punkter:

  • Ingen förhandscensur. I den mån användarnas rättigheter ändå inskränks bör detta inte få ske med mindre än föregående domstolsprövning.
  • Nej till uppladdningsfilter. De bör varken förekomma vad gäller upphovsrätt (upphovsrättsdirektivet) eller åsikter (t.ex. förordningen om terror-relaterat innehåll online).
  • Budärarimmuniteten måste upprätthållas. Varken operatörer eller plattformar skall kunna hållas ansvariga för vad deras användare gör – så länge det handlar om att tillhandahålla teknisk infrastruktur utan redaktionell styrning av innehållet. Förbudet mot generell övervakning måste upprätthållas.

Hela skrivelsen (PDF, engelska) kan laddas ner här. Vi lägger även upp de substantiella delarna av vårt svar här:

In the prologue to the Digital Services Act there has been much talk about common EU rules concerning online content, as there are different rules in different member states – e.g. the German NetzDG Act and the French Avia Law.

Given this, we are somewhat surprised that the vast questionnaire for the public consultation contains very little if any on this topic.

1) No censorship prior to publication

Given human rights declarations adopted by the EU, rule of law and fundamental principles of western, liberal democracy – we find upload filters and other forms of internet censorship unacceptable.

It should be a commonly accepted principle that no censorship should be applied prior to publication. If someone publishes content that is illegal – legal proceedings should take place against the person responsible after publication. And if any content is to be removed, this should be tried by a court of law.

Simply put, you should not punish anyone for a crime not yet committed.

And if you are to infringe on users’ rights online despite this, it must be decided through due process / in a court of law. This principle has already been established in the EU Telecoms Package back in 2009.

2) No upload filters – especially not for opinions

A problem with upload filters is that they tend to expand the scope from copyright infringements (the Copyright Directive) to opinions (the Regulation on Terrorist Content Online).
Upload filters are very blunt tools, unable to understand context and exceptions for e.g. »fair use« such as critique and satire – thus restricting an open, democratic debate.

A well-known example of over-filtration is the picture of the »Vietnam Napalm Girl« – a historically important document blocked by Facebook on the grounds of nudity. (Later cleared after being published by the Norwegian ex-prime minister and director-general of the WHO Gro Harlem Brundtland.)

Such shortcomings will become even more obvious if applied to opinions.

Considering the constant tendency to mission creep, we strongly recommend that the EU abstain from stipulating upload filters altogether.

3) Mere Conduit for platforms (without curation)

A central principle in the old eCommerce directive is Mere Conduit, stating that ISP’s and other operators cannot be held responsible for their users’ actions.

This principle should be retained – and it should be made clear that it also applies to social media platforms, as long as they do not curate or edit user-generated content in any substantial way.

As long as the issue is about digital infrastructure – service providers and platforms should not be held responsible any more than any other provider of infrastructure like roads or the postal service.

Furthermore, the prohibition of any general monitoring obligation should be upheld.

Läs mer om the Digital Services Act och konsultationen (deadline 8 september) på EU-kommissionens hemsida. »

EU vill se övervakning, granskning och analys av alla elektroniska meddelanden

av

EU vill se nya åtgärder mot sexuellt utnyttjande av barn, narkotika och vapen på internet. Vilket skapat en hel del oreda.

Å ena sidan stärker ny lagstiftning konfidentialitet och skydd för privat korrespondens vad gäller e-post, meddelandetjänster och IP-telefoni.  Å andra sidan har man nu insett att detta innebär att man inte längre kommer att kunna övervaka medborgarnas kommunikationer på samma sätt som tidigare. Därför presenteras ytterligare en lag som gör det obligatoriskt för service providers att söka igenom sina användares meddelanden och kommunikation.

Det känns totalt förvirrat och spretigt.

Detta innebär även att man vill kunna knäcka krypterad kommunikation, vilket vi rapporterat om tidigare. Hur detta skall ske är fortfarande oklart. En möjlig väg är att försöka knäcka krypteringen som sådan – en annan att ägna sig åt storskalig hemlig dataavläsning, som kan ge tillgång till meddelanden i klartext innan de krypterats eller efter att de avkrypterats.

»Inrikeskommissionär« Ylva Johansson beskriver den nya lagstiftningen som att den »kräver att onlineplattformar upptäcker och rapporterar« olagligt innehåll.

EU-kommissionens vice ordförande Margaritis Schinas, som ansvarar för främjande av den europeiska livsstilen säger »De som profiterar på att orsaka misär och skada genom att sälja olagliga droger och skjutvapen eller sprida fruktansvärd barnpornografi måste stoppas och ställas inför rätta. Den inre säkerheten är en central pelare i EU:s strategi för säkerhetsunionen som ska skydda européerna och främja vår livsstil.«

Med detta avskaffar man i praktiken rätten till privat korrespondens – som den formuleras i till exempel Europakonventionen om de mänskliga rättigheterna.

Nu skall all e-post, alla elektroniska meddelanden och all internet-telefoni – all din elektroniska kommunikation – övervakas, granskas och analyseras.

Länkar:
• Netzpolitik: EU-Kommission plant Durchleuchtungspflicht »
• EU-kommissionen: Säkerhetsunionen – initiativ mot narkotika, olagliga vapen och sexuella övergrepp mot barn »
• Relterat: EU och Europol satsar på att knäcka kryptering »

EU-kommissionen vill veta vad du tycker om Europas digitala framtid

av

EU-kommissionen har lanserat en »public consultation« inför arbetet med the Digital Services Act, DSA.

Detta är ett utmärkt tillfälle att argumentera mot nätcensur, uppladdningsfilter och smygcensur genom de sociala nätverkens användarvillkor.

Uttryck dina åsikter, på ett rimligt sätt, med dina egna ord. En välformulerad, unik inlaga är värt mycket mer än copy-pastade identiska svar i massupplaga.

Konsultationen är öppen för alla – privatpersoner, organisationer, företag med flera.

Läs mer hos EU-kommssionen »

Nätnyheter från Femtejuli.se – 2020-08-24

av

Kommenterade nätnyheter:
• Svensk polis får använda automatisk ansiktsigenkänning
• EU & Europol vill knäcka kryptering
• Europol vill ha direkt tillgång till företagsdata
• Tänker Trump benåda Snowden?
• Twitter och Youtube censurerar – igen
• EU-studie föreslår digital järnridå

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

EU: Studie föreslår digital järnridå

av

»A European firewall/cloud/internet would foster a digital ecosystem in Europe based on data and innovation. It would drive competition and set standards, similar to what has happened in China in the past 20 years.«

Citatet kommer ur ett dokument från Europaparlamentet: New Developments in Digital Services – Short-(2021), medium-(2025) and long-term (2030) perspectives and the implications for the Digital Services Act (PDF) »

Syftet sägs vara följande. »The study lays out predictions for digital services in the next one to ten years and provides recommendations for action for the European Parliament in preparation for the Digital Services Act.« Författare är fem personer på Future Candy, som påstår sig vara en »digital innovation engine«.

Vill man vara lite elak skulle man kunna beskriva dokumentet som en samling idéer för politisk micro management av den europeiska IT-sektorn. Vilket i sig är en mycket tveksam idé.

För att främja en livskraftig IT-sektor i Europa tycks man vilja bygga upp digitala gränser och barriärer mot resten av världen.

Vilket i så fall strider mot hela internets idé om fria gränslösa informationsflöden. Författarna tycks dock mena att det främjar konkurrens och utveckling:.

»Technologically, it would require a top-level infrastructure, high-speed 5G or a 6G data network and a firewall. Setting up such a network would promote many European companies and therefore boost business and drive innovation.

Like the Chinese firewall, this European internet would block off services that condone or support unlawful conduct from third party countries.«

Digital protektionism. Har man verkligen tänkt igenom detta?

OK, detta är bara en studie, ett papper beställt av Europaparlamentet. Men det är ändå en del av beslutsunderlaget för EU:s nya Digital Services Act – och kan som sådant komma att styra mycket av hur projektet utvecklas. Plus att det naturligtvis kommer att ge många politiker och tjänstemän idéer. För om en ledande »digital innovation engine« säger att en digital järnridå är en bra sak, då är det nog så – kan beslutsfattarna tänka.

Det hela blir än mer oroande med tanke på att the Digital Services Act också är tänkt att skapa enhetliga EU-regler för vad som skall vara tillåtet att publicera på internet. I kombination med en digital järnridå får det alla larmklockor att ringa.

Om vi inte vill ha en digital järnridå – då måste vi reagera högljutt och snabbt. Då kan beslutsfattarna bli nervösa och idén slängas i papperskorgen. Men om vi inte reagerar är risken att detta är något som biter sig fast i processen och så småningom förverkligas genom lagstiftning.

I EU – precis som i all annan politik – måste man reagera tidigt på dumheter. Väntar man, då blir det väldigt mycket svårare att stoppa förslagen. Sedan är det för sent att göra något åt saken.

Kina som föredöme – the irony.

EU och Europol satsar på att knäcka kryptering

av

EU-kommissionen arbetar just nu på en ny studie om hur man kan forcera end-to-end-krypterade meddelanden.

Europols European Centre for Cybercrime (EC3) i Haag arbetar redan med att knäcka krypterat innehåll och krypterade lagringsmedia. Enligt uppgift lyckas man i 39% av fallen. Målet är att i framtiden även kunna forcera krypterade meddelanden.

Matthias Monroy skriver på sin blogg:

»In the future, the „decryption platform“ is to use supercomputers of the European Union. For this purpose, Europol has concluded an agreement with the Joint Research Centre of the EU Commission, according to which the attacks on encrypted content are to be carried out in Ispra, Italy, at Lake Maggiore. Europol says, however, that the commissioning of the facility, which was planned last year, has been delayed and is now to take place in the summer of this year. Problems have therefore arisen with the secure connection between Ispra and Europol’s control room in The Hague.«

En särskild expertgrupp har nu tillsatts för att ta sig an frågan om krypterade meddelanden. I ett dokument från EU-kommissionen flaggas även för en ny approach. Monroy:

»Internet service providers such as Google, Facebook and Microsoft are to create opportunities to read end-to-end encrypted communications. If criminal content is found, it should be reported to the relevant law enforcement authorities. To this end, the Commission has initiated an „expert process“ with the companies in the framework of the EU Internet Forum, which is to make proposals in a study.«

Detta är intressant. Man vill alltså tvinga nätjättarna att läsa krypterad kommunikation. Vilket kan bli komplicerat för de företag som valt system för kryptering som inte ens de själva kan knäcka. Om de sedan hittar något misstänkt skall det anmälas till relevanta myndigheter.

Utöver att staten bereder sig tillgång till medborgarnas privata kommunikation (och därmed kränker rätten till privatliv och privat korrespondens) innebär knäckt kryptering ett mindre säkert internet för oss alla – oavsett om det handlar om bakdörrar eller att forcera krypterad kommunikation. Sådana verktyg blir, förr eller senare, även tillgängliga för andra – som kan ha en helt annan agenda. Till exempel bör man komma ihåg att en läcka avslöjade många av de verktyg för övervakning och dataintrång som används av amerikanska myndigheter – vilka nu hamnat i händerna på kriminella element runt om i världen.

Länk: European Commission starts new attack on end-to-end encryption »

Video: Nej till uppladdningsfilter och nätcensur

av

Med upphovsrättsdirektivet introducerades uppladdningsfilter och nätcensur. Med förordningen om terrorrelterat innehåll online vill ministerrådet använda uppladdningsfilter och censur även mot åsikter. Samtidigt förbereds EU:s nya Digital Services Act, som är tänkt att ge enhetliga regler i alla medlemsstater för vad som får publieras online.

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.