Femte juli

Nätet till folket!

TCO

Rapport: Behovet av censur av terror-relaterat innehåll online är överdrivet

av

Som vi rapporterat har Europaparlamentet antagit förordningen om terror-relaterat innehåll online (TERREG) – utan votering.

Men behövs TERREG över huvud taget? Vi har hittat en intressant rapport (PDF) från The Global Network on Extremism and Technology som använt textanalys för att kartlägga förekomsten av just terror-relaterat innehåll online.

Det visar sig att förekomsten av sådant material idag är betydligt mindre än tidigare. Jämfört med toppen runt år 2015 har förekomsten av terror-relaterat innehåll online minskat med ungefär 85%. Vilket innebär att det inte är ett så stort problem som EU-kommissionen och ministerrådet vill göra gällande.

Mycket talar för att förordningen mest är något som EU tagit till för att visa handlingskraft efter de terror-angrepp som ägde rum för runt fem år sedan – men som idag är en rätt meningslös åtgärd.

Dessutom skall man hålla i minnet att direkt olagligt material (stämpling, uppvigling m.m.) redan är olagligt i medlemsstaterna – och därför skall plockas bort ändå.

Vad TERREG däremot gör är att ställa orimliga krav på att flaggat material skall plockas ner inom en timma och utan föregående rättslig prövning, möjlighet för myndigheter i ett land att beordra nedtagning av innehåll på plattformar och servrar i andra länder – samt ställa krav som i praktiken kommer att kräva uppladdningsfilter (som måste granska allt som alla laddar upp) för att hålla material som en gång flaggats borta.

Nu när förordningen ändå är godkänd har vi fått ett verktyg för censur av åsikter online – som lätt kan utökas till att gälla annat än bara terror-relaterat innehåll. (Dessutom är det fortfarande oklart exakt vad man menar med ”terrorism”.)

Se MEP Marcel Kolajas (PP, CZ) anförande i Europaparlamentet »

Relaterat: EU adopts law giving tech giants one hour to remove terrorist content »

Om en dryg vecka inför EU censur av åsikter online

av

Under sin session den 26-29 april kommer Europaparlamentet med största sannolikhet att godkänna förordningen om terror-relaterat innehåll online. Detta är ett principiellt viktigt steg, eftersom det innebär att man öppnar dörren för censur av åsikter online.

Av erfarenhet vet vi att denna typ av lagstiftning är ett enkelriktat flöde. Om den väl införts, då kommer den att drabbas av ändamålsglidning och att utökas. Så detta handlar inte bara om terrorister och deras propaganda. Det handlar om att öppna dörren för censur av åsikter online.

Att detta sker så gott som helt utan offentlig debatt eller uppmärksamhet i media är oroande.

Dessutom lider förslaget av allvarliga praktiska brister och problem.

Till exempel föreskrivs att nätplattformar och operatörer skall avlägsna flaggat innehåll inom en timma. Vilket i praktiken gör det omöjligt att bedriva internetbaserad verksamhet i liten skala, utan bemanning dygnet runt.

Någon föregående rättslig prövning kommer inte att ske. Det kommer att räcka med att en myndighet beordrar nedtagning av innehåll för att den måste verkställas. Detta är principiellt problematiskt, då inskränkningar av yttrandefriheten är ett allvarligt avsteg från våra grundläggande fri- och rättigheter.

En myndighet i ett EU-land kan beordra nedtagning av innehåll i en annan medlemsstat – utan att varesig begära rättsbistånd eller informera myndigheterna i det aktuella landet. Vilket innebär att tjänstemän i låt säga Rumänien, Polen eller Frankrike har rätt att censurera innehåll på svenska servrar.

Förordningen föreskriver även att plattformarna / operatörerna skall se till att material som en gång plockats ner inte laddas upp igen. Även om man (efter förhandlingar) noga aktar sig för att använda ordet uppladdningsfilter – så kommer sådana att bli nödvändiga för att detta skall kunna ske. Vill man stoppa något från att laddas upp – då måste man låta maskiner inspektera och analysera allt som alla laddar upp.

Även om det inte finns någon debatt om detta, så finns det i vart fall organisationer som protesterar. EDRi rapporterar:

»On 25 March, 61 human rights and journalist associations sent a joint letter to Members of the European Parliament, urging them to vote against the proposed Regulation on addressing the dissemination of terrorist content online.

The coalition considers that the proposed regulation as it stands now has no place in EU law, as it poses serious threats to freedom of expression and opinion, freedom to access information, the right to privacy, and the rule of law.«

Sprid ordet. Om en dryg vecka är det för sent att göra motstånd.

• EDRi: Coalition of human rights and journalist organisations express concerns for free speech »
• Brevet i fråga (PDF) »

En votering kvar innan EU inför nätcensur för åsikter

av

Nu återstår bara ett steg – behandling i Europaparlamentets plenum – innan EU:s förordning om terror-relaterat innehåll online träder i kraft.

Den stora principfrågan är att detta handlar om censur av åsikter. Förvisso terroristers åsikter. Men det kan snabbt ändras, när principen väl är etablerad. Dessutom är definitionen av vad som är att betrakta som terrorism farligt vag.

Även på detaljnivå finns problematiska delar:

  • Rapporterat material skall tas ner inom en timma, utom när det är direkt omöjligt. Detta kommer att ställa stora krav på små plattformar som inte kan ha jour dygnet runt. Vilket i sin tur stärker de stora plattformarnas övertag mot de små.
  • I praktiken kommer flaggningen att ske av polis, åklagare eller andra myndigheter. Någon föregående rättslig prövning kommer inta att ske, vilket man borde kunna kräva när det gäller att tolka lagen för att inskränka yttrandefriheten.
  • Myndigheter i en av EU:s medlemsstater kommer att kunna beordra nedtagning av innehåll på plattformar i andra länder. Det minsta man borde kunna kräva är att en myndighet (eller ännu hellre domstol) i det land där plattformen är benägen först får yttra sig. Eller att man får vända sig till aktuell myndighet i respektive land – som i sin tur får besluta om eventuell nedtagning.
  • Material som flagats eller tagits ner en gång skall inte kunna laddas upp igen. Detta kommer att kräva kontroll av allt som alla användare laddar upp. Det enda praktiska sättet att hantera detta är med automatiska uppladdningsfilter – även om förordningen säger att sådana inte skall vara obligatoriska.

Någon direkt debatt, uppmärksamhet i media eller några protester av substans syns inte till.

Redan nu är det uppenbart att förordningen strider mot författningen i Frankrike. Det är även troligt att frågan kommer att gå till EU-domstolen, men då först efter att förordningen klubbats och blivit lag.

Voteringen i Europaparlamentet kommer att ske under våren.

Video: Aktuella nätnyheter

av

Kommenterade nätnyheter:
EU-förordningen om terror-relaterat innehåll online (TERREG/TCO)
EU:s Digital Services Act (DSA)

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

Nästa omröstning om TERREG – EP/LIBE 11 januari

av

Förhandlingarna om EU:s nya förordning om terror-relaterat innehåll online är som bekant klara. Nu skall kompromissen behandlas av Europaparlamentet. Första steget blir i utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) den 11 januari. Utfallet av den voteringen (förmodligen röstar LIBE ja till kompromissen) kommer sedan att vara huvudförslag när parlamentet under våren röstar i plenum.

Den stora frågan i kompromissen är att onlineplattformar kan men inte måste använda sig av uppladdningsfilter. Som vi tidigare rapporterat kommer detta i de flesta fall förmodligen ändå att leda till att automatiserade uppladdningsfilter används – eftersom alternativet är manuell granskning, vilket vore oerhört resurskrävande och långsamt.

Läs mer hos Piratpartiet »

EU: Uppladdningsfilter införs bakvägen

av

Även om det konsoliderade dokumentet från EU:s trilog-förhandlingar om terror-relaterat innehåll online inte finns tillgängligt ännu, så börjar vissa saker klarna.

Vad gäller eventuella uppladdningsfilter har Statewatch följande att tillföra:

»Hosting service providers exposed to terrorist content will need to take specific measures to address the misuse of their services and to protect their services against the dissemination of terrorist content. The draft regulation is very clear that the decision as to the choice of measures remains with the hosting service provider.«

Detta innebär fortfarande att flaggat material måste plockas ner och att plattformarna måste hindra att det laddas upp igen. »Nyheten« är att plattformarna själva får bestämma hur detta skall ske.

Vilket i praktiken är ett val mellan att anställa tusentals nya mänskliga moderatorer – eller använda automatiska uppladdningsfilter. Av ekonomiska och praktiska skäl kommer det med största säkerhet att bli uppladdningsfilter.

På så sätt kan EU-kommissionen och ministerrådet i praktiken tvinga plattformarna att använda uppladdningsfilter – utan att direkt nämna detta kontroversiella verktyg i lagstiftningen.

Det kommer alltså inte att finnas några uppladdningsfilter att rösta om i förslaget – men de kommer att införas ändå.

Tidigare poster:
• Motstridiga besked om uppladdningsfilter i TERREG/TCO »
• EU-förhandlingar: Ja till nätcensur och uppladdningsfilter »

Motstridiga besked om uppladdningsfilter i TERREG/TCO

av

Detta är intressant. Som vi rapporterat avslutades idag EU:s trilog-förhandlingar om förordningen om terror-relaterat innehåll online.

EU-kommissionen skriver i sitt pressmeddelande:

»Obligations for service providers to address proactively the misuse of their services for the dissemination of terrorist content online.«

Jag kanske är lite trög. Men jag kan inte tolka proaktiva åtgärder som något annat än uppladdningsfilter. I vart fall inte i praktiken.

Andra sidan, Piratpartiet i Europaparlamentet via MEP Patrick Breyer DE skriver:

»After hard work and protests from civil society, we were able to achieve important partial successes: We have prevented an obligation on platforms to deploy error-prone upload filters.«

Uppenbarligen är man inte helt överens om vad man kommit överens om.

Om man skall vara proaktiv, då måste man rimligen vidta åtgärder innan något slags faktum är fullbordat. Frågan är hur det skall gå till utan den enda proaktiva åtgärd som finns på bordet – nämligen uppladdningsfilter.

Vi kommer väl att få veta, vad det lider. Men det känns som om de två sidorna tolkar utfallet från förhandlingarna på helt olika sätt. (Vilket i och för sig inte är ovanligt.)

Piratpartisterna i Europaparlamentet har säkert gjort sitt bästa. Men nu är det tyvärr EU-kommissionen och Ylva Johansson som har tolkningsföreträde.

EU-förhandlingar: Ja till nätcensur och uppladdningsfilter

av

Trilog-förhandlingarna mellan EU-kommissionen, ministerrådet och Europaparlamentet om EU:s nya förordning om terror-relaterat innehåll online uppges vara klara.

Dåliga saker:

  • Flaggat material måste som regel plockas ner inom en timma.
  • Myndigheterna i en medlemsstat kommer att kunna beordra censur av material på servrar i andra EU-länder.
  • Plattformar åläggs att vara proaktiva i att förhindra spridning av oönskat material – vilket i praktiken betyder uppladdningsfilter, för att gå igenom allt som alla laddar upp. (»Obligations for service providers to address proactively the misuse of their services for the dissemination of terrorist content online.«)

Bra saker:

  • Man gör ett undantag för journalism, konst, forskning m.m.
  • Det skall finnas en mekanism för att överklaga.

Detta enligt EU-kommissionens pressmeddelande. Reservation för att det är en partsinlaga.

I ett vidare perspektiv innebär detta att EU tar det principiella steget att införa nätcensur för åsikter. Dessutom kommer denna censur i huvudsak att vara automatiserad.

Det må visserligen handla om terror-relaterat innehåll, än så länge. Men när censurverktygen väl finns på plats, då kan mandatet för vad som skall censureras lätt utökas.

Nu skall denna överenskommelse dels godkännas av EU:s ministerråd, vilket mest blir en formsak. Dels av Europaparlamentet – där det finns en sista möjlighet att säga nej till nätcensur. Dock verkar de stora partigrupperna redan ha bestämt sig för att rösta ja.

EDIT: Föga förvånande finns det lite olika bilder av vad man kommit fram till. Ovanstående bygger som sagt på EU-kommissionens pressmeddelande. Mer information kan tillkomma när andra sidan uttalat sig.

Uppdatering: Motstridiga besked om uppladdningsfilter i TERREG/TCO »

Mer övervakning men få nyheter i Ylva Johanssons EU-plan mot terrorism

av

För den som följer övervakningsfrågorna i EU var det något förvånande när EU-kommissionär Ylva Johansson i radionyheterna i morse meddelade att hon kommer att lägga fram ett förslag för att ge myndigheterna möjlighet att snabbt plocka ner terror-relaterad information och propaganda på internet.

Ett sådant förslag finns nämligen redan: EU:s nya förordning om terror-relaterat innehåll online (TERREG/TCO). Och där pågår förhandlingar mellan kommissionen, rådet och parlamentet. Tanken är att morgondagens trilog-förhandlingar skall vara de sista. Men fortfarande är positionerna låsta. De viktigaste frågorna man förhandlar om gäller:

  • Ministerrådet vill att oönskat material skall plockas bort inom en timma, vilket Europaparlamentet menar är orealistiskt.
  • Ministerrådet vill att myndigheter i en medlemsstat skall kunna beordra nedtagning av innehåll på servrar i andra medlemsstater (eller tredje land).
  • Ministerrådet vill inte se något undantag för journalistik, kultur, forskning, dokumentation etc.
  • Ministerrådet vill se uppladdningsfilter, det vill säga automatiserad nätcensur – vilket parlamentet säger nej till.

Detta är alltså inte något nytt, utan ett ärende som redan dragits i långbänk. Vad det handlar om är att Ylva Johansson försöker öka trycket på parlamentet inför morgondagens förhandlingar.

På det hela taget är det väldigt lite nytt som presenteras i den Counter-Terrorism Agenda for the EU som EU-kommissionen presenterade idag.

Därmed inte annat sagt än att dokumentet listar ett antal kontroversiella åtgärder, även om de i allt väsentligt redan är kända. Exempel:

  • Automatiserad ansiktsigenkänning för identifiering, lokalisering och övervakning av individer.
  • EU:s nya Digital Services Act kommer att presentera en »horisontell« approach till olagligt innehåll online.
  • Ökad kontroll av resenärer genom PNR och samkörning av databaser.
  • Förstärkning av Europols mandat.
  • Man vill kringgå kryptering av privata meddelanden.
  • Förenklat utbyte av digitala bevis mellan medlemsstater.
  • Ett nytt datalagringsdirektiv.

Några nyheter finns dock:

  • 2021 kommer man att uppdatera EU:s Code of Conduct on countering illegal hate speech online.
  • 2021 kommer kommissionen att lägga fram ett förslag om »interconnected bank account registers« – det vill säga en central funktion för att kunna kontrollera alla bankkonton och transaktioner (i detta sammanhang relevant vad gäller terror-finansiering).
  • Man planerar att tillsätta en »Counter-Terrorism Coordinator«.

Även om dagens dokument främst fokuserar på radikal, militant islamism – så omfattar det även höger- och vänsterextremism.

Man har också en uppmaning till medlemsstaterna:

»Ensure that projects which are incompatible with European values or pursue an illegal agenda do not receive support from public funds.«

Ylva Johanssons 25-sidiga handlingsplan innehåller som sagt mest redan kända förslag. Den känns mer som ett papper för att avleda eventuell kritik mot att EU gör för lite för att bekämpa terrorism än som något nytt i sak. Men det kan naturligtvis vara bra att vi nu får EU:s planer på området sammanfattade i ett dokument.

Länkar:
• EU-kommissionens pressmeddelande »
• Counter-Terrorism Agenda for the EU (PDF) »

EU:s nätcensur i långbänk

av

EU:s nya förordning om terror-relaterat innehåll online (TERREG/TCO) befinner sig i något slags limbo.

I trilogförhandlingarna kommer ministerrådet och Europaparlamentet inte överens. Det finns skäl att tro att man kört fast. Det tyska EU-ordförandeskapet vill å sin sida att förordningen skall vara klubbad och klar innan årsskiftet. Men i sak rör det sig knappast alls. Enda beskedet som finns är förhandlingarna skall fortsätta ”i slutet av november”.

Förslaget till förordning om terror-relaterat innehåll online är en förordning som föreskriver censur av åsikter. Terroristers åsikter, förvisso. Men det centrala är inte vems åsikter man vill censurera, utan att man vill censurera. Har man väl accepterat censur är det bara en formalitet att besluta vem eller vad man vill censurera. Censur skall inte förekomma i en demokratisk rättsstat.

I sak är ministerrådet och Europaparlamentet oense på en lång rad punkter. (Hela listan») Om man skall välja ut de viktigaste är de:

  • Censur av flaggat material skall verkställas inom en timma.
  • Myndigheter i en medlemsstat skall kunna besluta om censur i andra länder.
  • Det finns inget undantag för forskning, dokumentation, journalistik m.m.
  • Ministerrådet vill se uppladdningsfilter, som skall analysera allt som laddas upp, för att hindra återuppladdning av flaggat material.

Automatiserad, gränslös nätcensur helt enkelt.

Och vill vi verkligen att polska, rumänska eller franska myndigheter skall kunna beordra censur av svenska web-siter?

Fortsättning följer.