Tyskland stiftar pre-crime-lag mot hat och hot på nätet, EU väntas följa efter

Tyskland är på väg att skärpa sina redan hårda lagar mot hot och hat på nätet. Politico rapporterar…

In proposals published Wednesday, Angela Merkel’s government announced new measures to force social media platforms to proactively report illegal content such as death threats or incitement of hatred on their platforms to law enforcement. That follows complaints that it takes too long to follow up on harmful content because police must wait until people file official charges.

Berlin will also create a new federal police unit to handle the submissions, and companies will be required to hand over the IP address, or online identifier, of those publishing hateful material.

Frågan är hur detta skall gå till rent praktiskt. Under den gällande NetzDG-lagen skall anmält olagligt material plockas ner inom 1-7 dygn. Men om plattformarna måste agera proaktivt – då kräver detta rimligen automatisk granskning av allt som laddas upp. Och problemen med automatisk, algoritmdriven filtrering är redan väl kända.

Den nya tyska lagstiftningen kan för övrigt komma att bli vägledande för hela EU:

Within the European Commission, officials are considering similar efforts as part of the so-called Digital Services Act that is expected to overhaul the level of responsibilities that digital players must hold for what is circulated online. That comes as Brussels is pushing for greater efforts to clamp down on terrorist content, as well as greater efforts by social media companies to stop the spread of misinformation online.

Politico: Germany lays down marker for online hate speech laws »

 

Sommarlovet är över – kampen för ett fritt internet och fri information fortsätter

Sommaren är över och ett nytt politiskt år har börjat. Här är några av de saker som är aktuella vad gäller nätfrihet, fri information och övervakning.

• EU:s upphovsrättsirektiv (uppladdningsfilter)

I våras antogs EU:s nya upphovsrättsdirektiv. Nu skall det inkorporeras i medlemsstaternas lagstiftning. För Sveriges del har regeringen börjat med ett samråd med ett stort antal intressenter – tyvärr med kraftig övervikt för sådana som vill ha en mer repressiv upphovsrättsregim.

Till skillnad från mycket övrig lagstiftning kommer det inte att genomföras någon utredning. Istället tänker regeringen själv upprätta en promemoria, som sedan skall ligga till grund för en proposition till riksdagen nästa sommar. Man räknar med att den svenska lagen skall kunna träda ikraft den 7 juni år 2021.

Här är det viktigt att komma ihåg att samtliga riksdagens partier utom S tog tydlig ställning mot det nya direktivet under EU-valrörelsen. Nu gäller det att hålla frågan levande, så att de inte viker ner sig i frågan.

Dessutom har Polen tagit direktivet till EU-domstolen, i förhoppning om att få det upphävt. Detta är något som Sverige borde kunna stödja – om den politiska viljan finns bland riksdagens partier.

Länk 1 » | Länk 2 » | Länk 3 » | Länk 4 »

• Den nya svenska datalagringen

Innan sommaren beslutade riksdagen – åter igen – om en svensk lag vad gäller datalagring. (Lagring av data om alla svenskars alla tele- och nätkommunikationer m.m.) Detta trots att EU-domstolen underkänt det direktiv som datalagringen vilar på. Och trots att Sverige redan fått bakläxa av domstolen vad gäller den tidigare lagstiftningen.

I sak har inget ändrats. EU-domstolen säger nej till urskiljningslös lagring av data om alla människors kommunikationer utan misstanke om brott. Men detta är precis vad riksdagen nu åter har beslutat om.

Nu återstår att se om även den senaste lagen kommer att överklagas till EU-domstolen. (Tele2 har meddelat att de inte tänker överklaga denna gång.)

Skulle lagen stå sig – då gäller det att se till att den endast används på det sätt som den från början var avsedd att göra. Det vill säga för att utreda allvarlig brottslighet och terrorism – inte för att jaga fildelare eller för att låta Skattemyndigheten snoka runt i folks privatliv.

På EU-nivå kan en utredning och ett eventuellt nytt direktiv vara på väg, på begäran av medlemsstaterna.

Länk 1 » | Länk 2 » | Länk 3 » | Länk 4 » | Länk 5 » | Länk 6 »

• Hemlig dataavläsning

I september är det tänkt att regeringen skall lägga fram sitt förslag till hemlig dataavläsning. Det vill säga att man vill kunna installera spionprogram som kan kartlägga alla filer, kontakter och kommunikationer på en dator eller mobil.

Läs på och var beredd för en intensiv debatt om detta övervakningsverktyg.

Länk »

• EU:s Digital Services Act

Detta är ett nytt regelverk som är tänkt att ersätta eller komplettera EU:s gamla eHandels-direktiv. Vilket är oroande, eftersom det gamla direktivet innehåller en del viktiga principer (budbärarimmunitet och förbud mot generell övervakning) som vissa krafter helst skulle vilja bli av med. Här gäller det att vara uppmärksam på vad som sker – och att komma in tidigt i diskussionen, medan den fortfarande går att påverka.

En speciellt intressant detalj som läckt ut är att EU-kommissionens tjänstemän tycks luta åt att förbudet mot generell övervakning inte skall gälla om denna sker genom automatisk filtrering som styrs av algoritmer.

Man vill även ha enhetliga regler för att bekämpa näthat och »skadlig information« i EU.

Detta är en debatt som än så länge främst kommer att föras på EU-nivå. Vi kommer att bevaka utvecklingen här på bloggen.

Länk 1 » | Länk 2 » | Länk 3 » | Länk 4 »

• Övriga saker att hålla ett öga på…

PNR: EU skyndar på registrering av våra tåg- och båtresor »

EU:s planer på ID-kort och persondatabas »

Striden om vår rätt till kryptering och anonym kommunikation »

EU-domstolen granskar det bristande persondataskyddet för data som överförs från EU till USA »

I februari beslutar brittisk domstol om utlämning av Julian Assange till USA – där han riskerar ett fängelsestraff på upp till 175 år »

Under tiden oroas FN:s specielle rapportör om Tortyr över Assanges hälsotillstånd »

Whistelblowern Chelsea Manning sitter fängslad i USA, då hon vägrar vittna mot Julian Assange inför den Grand Jury som förbereder ett åtal mot honom »

Detta är ingen heltäckande lista – utan mer för att friska upp minnet vad gäller sådant som var aktuellt innan landet gick på semester.

EU:s Digital Services Act – mer reglering och censur

Tyska Netzpolitik har fått tag i ett dokument i vilket EU-kommissionens tjänstemän drar upp riktlinjerna för EU:s nätpolitik de kommande fem åren. Planen är att lägga fram en »Digital Services Act« som har ambitionen att ta ett helhetsgrepp på nätfrågorna. Och som väntat är det mer reglering och censur på gång.

På EU-språk heter det att lägga fram ett horisontellt regelverk för att harmonisera den inre digitala marknaden.

Dokumentet bekräftar att ambitionen är att täcka in det mesta:

»This would include services such as ISPs, cloud services, content delivery networks, domain name services, social media services, search engines, collaborative economy platforms, online advertising services, and digital services built on electronic contracts and distributed ledgers.«

Det främsta målet tycks vara att ersätta eller kringgå eHandelsdirektivets förbud mot generell övervakning och principen om budbärarimmunitet.

»While the prohibition of general monitoring obligations should be maintained as another foundational cornerstone of Internet regulation, specific provisions governing algorithms for automated filtering technologies – where these are used – should be considered, to provide the necessary transparency and accountability of automated content moderation Systems.«

Ovanstående kryptiska formulering antyder att man kan komma att göra skillnad mellan övervakning (monitoring) i allmänna termer och filtrering / moderering / förhandscensur med hjälp av algoritmer. Det skulle i så fall vara en direkt skamlös väg att lotsa upphovsrättsdirektivets »uppladdningsfilter« förbi förbudet mot allmän övervakning.

Techdirt kommenterar Glyn Moody saken så här »That’s a classic: affirming that general monitoring is prohibited, while bringing in rules for proactive automated filtering technologies — aka general monitoring. It would tilt the playing field even more in favor of big, mostly US companies, and would guarantee that the EU never produces its own digital giants like Google or Facebook.«

Vidare i texten…

»Regulating content moderation. Uniform rules for the removal of illegal content such as illegal hate speech would be made binding across the EU, building on the Recommendation on illegal content and relevant case-law, and include a robust set of fundamental rights safeguards.«

Vilket bygger på att man kan få fram en enhetlig definition av näthat som fungerar i och accepteras av alla EU-länder. Det kan i sig bli synnerligen intressant.

»The analysis will also cover harmful content (which is not necessarily illegal), as such content is not only addressed in EU-level policies (such as the AVIVSD), but also at MS level (e.g. the draft French fake news law, the UK Online Harms White Paper, etc. However, a clear distinction will be made between illegal and harmful content when it comes to exploring policy options.«

Då uppstår frågan vad som är skadligt/harmful. Och vem som skall bestämma det.

Och att ha ett separat regelverk för skadligt (till skillnad från olagligt) innehåll bör vara en röd flagga. Det kan lätt bli en gummibandsparagraf som kan öppna för censur av i princip vad som helst.

»A dedicated regulatory structure should ensure oversight and enforcement of the rules, in particular for cross-border situations, but also partnerships and guidance for emerging issues, and with appropriate digital capacities and competences, inter alia to help translate rules into technical solutions.«

Om man har reglering, då måste man naturligtvis även ha verktyg för att upprätthålla den. Och i detta fall gläntar man på dörren för en ny, överstatlig internet-byråkrati på EU-nivå.

Man nämner också att det kanske är mindre lämpligt att det nya regelverket läggs fram som ett direktiv. Istället överväger man en förordning/reglering (regulation). Skillnaden är att ett direktiv vävs in i medlemsstaternas lagstiftning, medan en reglering är ett regelverk som gäller rakt av i hela EU.

Nu skall påpekas att det läckta dokumentet är ett arbetspapper. Exakt vad EU-kommissionen kommer att lägga fram vet vi ännu inte. Men informationen ovan lär vara en god indikation. Och den är helt i linje med vad EU-kommissionens nya ordförande Ursula von der Leyen hade att säga om de digitala frågorna när hon blev vald.

Digital Services Act – det är här striden om internets frihet i EU kommer att stå de närmaste fem åren.

Länkar:
• EU-kommissionens dokument (PDF) »
• Techdirt: EU Looking To Regulate Everything Online, And To Make Sites Proactively Remove Material »
• EDRi: E-Commerce review – Technology is the solution. What is the problem?
• MAB: A Europe fit for the digital age (ur von der Leyens programförklaring) »