Femte juli

Nätet till folket!

Sökresultat för: TERREG

I dag börjar nya regler för nätcensur att gälla i EU #TERREG

av

Ny EU-lag kommer att kräva uppladdningsfilter som granskar allt du publicerar. Den tycks även ge justitieminister Morgan Johansson makt att censurera internet.

Idag träder EU-förordningen om terror-relaterat innehåll online (TERREG) i kraft.

Den föreskriver att terror-relaterat innehåll på anmodan skall tas bort av sociala media och andra plattformar – inom en timma. Vilket kan vara praktsikt omöjligt för en mindre plattform eller forum.

Den föreskriver även att sådant material som en gång plockats ner skall hållas borta. Vilket innebär att man måste kontrollera allt som alla skriver och laddar upp.

Det enda rimliga sättet att göra detta är med maskiner och deras algoritmer. Uppladdningsfilter. Automatiserad censur. Syftet kan sedan lätt utökas.

Det sker faktiskt redan i andra syften. EU:s upphovsrättsdirektiv ställde sådana krav på plattformar att de endast kan tillgodoses med automatiska uppladdningsfilter.

Tanken på automatiskt beslutsfattande känns inte helt bekväm. Maskiner har nämligen ingen känsla för kontext, ingen humor och ingen social kompetens.

Allt du skriver och laddar upp kommer att granskas innan det går online. Så att du inte publicerar något olämpligt. Vilket implicerar att staten inte litar på dig.

Några nedslag i EU:s faktablad:

»Terrorist Content Online Regulation provides a legal framework to ensure that hosting service providers, that make content available to the public, address the misuse of their services for the dissemination of terrorist content online. Online platforms will be obliged to remove terrorist content upon receiving a removal order from Member States’ authorities within one hour and to take measures when their platforms are exposed to terrorist content.«

En imponerande vag formulering om uppladdningsfilter:

»There is no obligation to use automated tools to identify or remove content. Where platforms choose to use such tools, they need to ensure human oversight and publicly report on their functioning.«

Något tvång på uppladdningsfilter? Nej något sådant har vi inte. Bara regler som gör att att sådana blir nödvändiga… Det hela är milt kafka-artat.

Den stora grejen med internet var att alla kunde publicera sig fritt – utan att fråga någon annan om lov. Med uppladdningsfilter känns det lite som grindvakternas återkomst.

Det blir värre. Från Politico:

»Public authorities such as law enforcement, interior ministries and Europol can now require a platform or cloud services to remove specific posts, music, livestreams, photos and videos inciting violence and glorifying terrorist attacks. Promoting terrorist groups and instructions for how to commit an attack will also be forbidden online.«

Inrikesminister i Sverige är justitieminister Morgan Johansson. Det verkar alltså som om vi har en EU-förordning som ger Morgan Johansson rätt att ta bort saker från internet. Är det verkligen så klokt? Är det ens förenligt med svensk grundlag?

Man kan även notera att Morgan Johansson är ansvarig för tillkomsten av TERRG, som svensk representant på EU:s ministerråd när förordningen bereddes. Man kan således säga att han givit sig själv rätten att censurera.

»Any European Union country, from Hungary to Poland, can tell a company to remove terrorist content across the bloc.«

Det vill säga att Morgan Johansson även kan ta bort innehåll på spanska plattformar. Ungern kommer att kunna ta bort innehåll på franska siter. Det kan bli intressant att följa.

Gränsöverskridande nedtagningsorder etableras även som ett mer generellt verktyg i EU:s nya Digital Services Act. Vilket väcker frågor som om en polsk åklagare kommer att kunna stänga ner information om abort (på polska, kan vi anta) på ett svenskt forum.

Nåväl. Folk var varnade. Ingen brydde sig. Nu är vi här.

• Politico: Online platforms now have an hour to remove terrorist content in the EU »
• EU-kommissionens sida om TERREG »
• EU-kommissionens faktablad »

Nästa omröstning om TERREG – EP/LIBE 11 januari

av

Förhandlingarna om EU:s nya förordning om terror-relaterat innehåll online är som bekant klara. Nu skall kompromissen behandlas av Europaparlamentet. Första steget blir i utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) den 11 januari. Utfallet av den voteringen (förmodligen röstar LIBE ja till kompromissen) kommer sedan att vara huvudförslag när parlamentet under våren röstar i plenum.

Den stora frågan i kompromissen är att onlineplattformar kan men inte måste använda sig av uppladdningsfilter. Som vi tidigare rapporterat kommer detta i de flesta fall förmodligen ändå att leda till att automatiserade uppladdningsfilter används – eftersom alternativet är manuell granskning, vilket vore oerhört resurskrävande och långsamt.

Läs mer hos Piratpartiet »

Motstridiga besked om uppladdningsfilter i TERREG/TCO

av

Detta är intressant. Som vi rapporterat avslutades idag EU:s trilog-förhandlingar om förordningen om terror-relaterat innehåll online.

EU-kommissionen skriver i sitt pressmeddelande:

»Obligations for service providers to address proactively the misuse of their services for the dissemination of terrorist content online.«

Jag kanske är lite trög. Men jag kan inte tolka proaktiva åtgärder som något annat än uppladdningsfilter. I vart fall inte i praktiken.

Andra sidan, Piratpartiet i Europaparlamentet via MEP Patrick Breyer DE skriver:

»After hard work and protests from civil society, we were able to achieve important partial successes: We have prevented an obligation on platforms to deploy error-prone upload filters.«

Uppenbarligen är man inte helt överens om vad man kommit överens om.

Om man skall vara proaktiv, då måste man rimligen vidta åtgärder innan något slags faktum är fullbordat. Frågan är hur det skall gå till utan den enda proaktiva åtgärd som finns på bordet – nämligen uppladdningsfilter.

Vi kommer väl att få veta, vad det lider. Men det känns som om de två sidorna tolkar utfallet från förhandlingarna på helt olika sätt. (Vilket i och för sig inte är ovanligt.)

Piratpartisterna i Europaparlamentet har säkert gjort sitt bästa. Men nu är det tyvärr EU-kommissionen och Ylva Johansson som har tolkningsföreträde.

EU-opinion: Nej till uppladdningsfilter och överstatlig censur i TERREG

av

EU:s opinionsinstitut YouGov har frågat medborgare i tio medlemsstater vad de anser om förslagen om nätcensur i förordningen om terror-relaterat innehåll online (TERREG).

TLDR: Folket säger nej.

På frågan om vem som skall bestämma vilket material som kan komma att censureras säger de tillfrågade:

  • En myndighet, som polisen eller en domstol: 44%
  • Onlineplattformar, med hjälp av algoritmer eller uppladdningsfilter: 38%
  • Inget av de två: 15%
  • Vet ej: 17%

Vilket innebär att endast 38% stöder ministerrådets linje i förhandlingarna om TERREG.

Man har även frågat om ministerrådets förslag att en myndighet i en medlemsstat skall kunna besluta om nedtagning av innehåll i andra länder.

  • 51% säger nej och vill att endast nationella myndigheter skall kunna besluta om nedtagning.
  • 37% håller med ministerrådet om att en nationell myndighet skall kunna besluta om nedtagning även i andra länder.
  • 19% vet ej.

Undersökningen har initierats av Patrick Breyer, ledamot av Europaparlamentet (PP, DE).

Länkar:
• YouGov (PDF) »
• Piratpartiet: EU-medborgare motsätter sig utländsk anti-terror internetcensur»

TERREG: Säg nej till EU:s nya uppladdningsfilter

av

EU:s nya förordning om terror-relaterat innehåll online kommer att leda till automatiska uppladdningsfilter och förhandscensur.

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

TERREG: Ännu ett akut hot mot ett fritt och öppet internet

av

EU fullständigt sprutar ur sig lagförslag efter lagförslag som på ena eller andra sättet underminerar internets öppenhet och frihet.

2019 förlorade vi kampen mot EU:s upphovsrättsdirektiv – och de uppladdningsfilter som är tänkta att hindra oss från att ladda upp information på nätet som är eller kan misstänkas vara upphovsrättsskyddad.

Med detta etablerades principen om automatiserad förhandscensur i EU:s regelverk.

Och nu är en förordning om terror-relaterat innehåll på internet (TERREG) i hög fart på väg genom EU:s beslutsapparat.

Med denna förordning vill EU omöjliggöra uppladdning – det vill säga publicering – av sådant som kan anses vara »terror-relaterat«. Inte ens vetenskapen, journalistiken eller konsten kommer att undantas, om ministerrådet får som det vill.

Det kan förvisso vara rimligt att försöka hålla nätet fritt från terroristers propaganda och infotainment. På samma sätt som det kan vara rimligt att vänligt men bestämt skjuta alla åt sidan som de facto är beredda att angripa det civiliserade västerländska samhället med våld.

Detta måste ske med största respekt för det fria ordet, våra fri- och rättigheter och det demokratiska samhällets principer. Tyvärr verkar TERREG inte ta dessa faktorer på det allvar de förtjänar.

Men låt oss utgå från att terror-relaterat innehåll på nätet skall bort. Exakt vad är det då som skall bort? Var går gränsen mellan vad som är acceptabelt och oacceptabelt?

Här måste etableras något slags standard. Och plötsligt har vi nya lagar om vad som får respektive inte får publiceras på internet. Med allt vad sådant brukar medföra av oförutsedda och oönskade konsekvenser.

Men även om vi bortser från sådana invändningar är förslaget till förordning illa skrivet.

Till exempel föreslås att terror-relaterat innehåll på nätet skall vara avlägsnat inom en timma. När så är tekniskt möjligt, vill Europaparlamentet tillägga. Vilket ministerrådet tjurskalligt motsätter sig.

Och i andra ändan av systemet har vi uppladdningsfiltret. Ministerrådets position:

»Hosting service providers shall use “proactive measures” to prevent the re-upload of content previously taken down and to detect and identify alleged terrorist content.«

På andra sidan står Europaparlamentet som säger nej till uppladdningsfilter. Parlamentet tvingas även påpeka att vi bara kan stifta lagar som gäller i EU – och att rådets krav på global filtrering inte är möjligt.

Detta är bara några av problemen med TERREG. Vi kommer att återkomma med fler bloggposter i ämnet. Om du vill läsa mer rekommenderas följande länkar.

• Bland andra Tim Berners-Lee, Vint Cerf och Bruce Schneier varnar för TERREG: Nätpionjärer varnar för EU-förslag mot terror-relaterat innehåll på internet »

• Den tyske piratpartisten i Europaparlamentet, Patrick Breyer, sitter med i den trialog i vilken EU:s olika institutioner försöker komma överens om TERREG. Läs hans genomgång av ärendet här »

Nästa trialog-förhandling är planerad till den 18 mars, om smittoläget tillåter.

Uppladdningsfilter – vad händer med en ny regering?

av

Kan en ny regering stoppa de uppladdningsfilter som blir konsekvensen av EU:s upphovsrättsdirektiv? De flesta partier var ju emot sådana filter i EU-valet. Snart skall riksdagen rösta.

Om valresultatet håller i sig kommer vi att få en ny regering. Detta kan vara intressant vad gäller implementeringen av EU:s upphovsrättsdirektiv i svensk lag.

Direktivet föreskriver bland annat att tjänsteleverantörer (sociala media och andra plattformar) kan hållas ansvariga för upphovsrättsintrång som orsakas av material som användarna laddar upp.

Direktivet undviker noga ordet ”uppladdningsfilter”. Ändå är sådana automatiserade filter i praktiken det enda sättet för tjänsteleverantörerna att undvika ansvar för användarnas handlingar.

När uppladdningsfilter väl etablerats som verktyg kan syftet sedan lätt utökas, vilket i viss mån redan skett (TERREG).

Sverige har, något år försenat, fått en lagrådsremiss (från den utgående regeringen) om hur detta skall omsättas till svensk lag.

Så vad händer om vi får en ny regering?

Låt oss börja med att se vad som står att läsa i lagrådsremissen (PDF). Sidan 103:

»Även om utgångspunkten är att en tjänsteleverantör är upphovsrättsligt ansvarig för det innehåll som laddas upp, kan leverantören under vissa förutsättningar ändå gå fri från det ansvaret när verk och andra prestationer laddas upp utan tillstånd. Här krävs att leverantörerna gör vad de kan (best efforts i den engelska språkversionen) för att erhålla tillstånd. Det krävs också att leverantörerna i enlighet med höga branschstandarder för god yrkessed gör vad de kan för att säkerställa att skyddat innehåll, som rättsinnehavarna lämnat särskild information om, inte görs tillgängliga på tjänsterna (artikel 17.4). Slutligen krävs att leverantörerna agerar snabbt för att hindra tillgång till olovligt material när de uppmärksammas på förekomsten av sådant av rättsinnehavaren.«

Detta kan endast ske med uppladdningsfilter. Dessutom måste dessa filter vara smarta, begripa kontext och ha humor. Vilket inte är fallet. Sidan 104:

»Medlemsstaterna ska vidare säkerställa att användarna kan förlita sig på vissa inskränkningar i upphovsrätten när de använder de aktuella tjänsterna. Det handlar om användning för citat, kritik och recensioner och användning i karikatyr-, parodi- eller pastischsyfte (artikel 17.7 andra stycket)…«

Föreslagen lagtext (52 l 2, sid 390):

»En tjänsteleverantör ska inte ansvara för en olovlig överföring enligt 52 j § om leverantören, efter att ha fått en tillräckligt välgrundad underrättelse från rättsinnehavaren, skyndsamt hindrar tillgång till innehållet. För att ansvarsfrihet ska föreligga krävs även att leverantören har gjort det som skäligen kan krävas för att (…) säkerställa att innehåll som medför intrång i upphovsrätten till verk som rättsinnehavarna har försett leverantören med relevant och nödvändig information om, inte görs tillgängligt på tjänsten.«

Så vad händer nu? Enligt internetoperatören Bahnhofs föredömliga sammanställning över partiernas officiella inställning kan vi läsa att:

  • V är skeptiska men har inte tagit ställning till det slutliga förslaget.
  • S (som skrivit lagrådsremissen) är för den framlagda texten.
  • MP stödjer förslaget.
  • Centern är kritisk men kan nog ändå tänka sig att stödja propositionen.
  • Från L finns inget svar.
  • KD har inte tagit ställning.
  • M (som varit uttalat kritiska till uppladdningsfilter) granskar regeringens förslag ”mycket noggrant”.
  • SD säger nej till förslaget.

Högerblocket (som just nu ser ut att få regeringsmakten) är alltså mer kritiskt än den utgående regeringen.

Här skall påpekas att alla partier utom S sa nej till uppladdningsfilter i EU-valet.

Så, kommer en ny regering att kunna stoppa de lagar som kommer att leda till uppladdningsfilter?

Svaret är nej. Detta är ett EU-direktiv och frågan avgjordes med minsta möjliga marginal (och några fel-röster) i Europaparlamentet våren 2014. Som medlemsstat är Sverige skyldigt att implementera direktivet i sin lagstiftning.

Skulle riksdagen ändå säga nej kan det bli återremisser tills den röstar ja.

Möjligen kan en ny regering mjuka upp texten något. Men vi kommer ändå inte undan.

Tyvärr.

Länkar:
• Regeringens pressmeddelande »
• Lagrådsremiss (PDF) »
• Nu ska riksdagen rösta om upphovsrättsdirektivet »
• Bahnhofs sammanställning över partiernas åsikter i nätfrågor »

Stoppa den nya nätcensuren!

av

Utan att någon tycks ta någon direkt notis om saken är vi på väg att införa förhandscensur på internet. Inom kort kan maskiner och algoritmer bestämma vad du tillåts säga och uttrycka.

I Sverige är förhandscensur av pressen uttryckligen förbjuden i grundlagen. Vilket är en bra princip. Man skall inte behöva få ett godkännande av staten innan man publicerar information och åsikter. Skulle något olagligt publiceras, då blir det en rättslig fråga i efterhand.

Samma princip bör gälla för alla som publicerar sig online. Så kommer dock inte att vara fallet nu när EU:s nya upphovsrättsdirektiv blir svensk lag. De krav den nya lagstiftningen ställer kommer att leda till uppladdningsfilter. Alltså automatiska filter som granskar och godkänner eller stoppar innehåll innan publicering skett. Det vill säga förhandscensur.

Förhandscensur handlar alltså om att information stoppas innan den nått andra. Vilket är en påtaglig inskränkning av yttrandefriheten.

Upphovsrättsdirektivet är bara början. Förordningen om terror-relaterat innehåll online (TERREG) ställer också krav som endast kan mötas med automatiska uppladdningsfilter. Och i EU:s nya Digital Services Act vill många se uppladdningsfilter som något slags allmänt verktyg för att hålla oönskat material borta från nätet.

Till att börja med bör alla som använder sociala media och andra nätplattformar vara medvetna om att allt vi laddar upp kommer att granskas av censurmaskinerna. Skall man kunna stoppa vissa former av innehåll, ja då måste man ju skanna allt.

Sedan har vi frågan om vad som skall censureras av algoritmerna. Den gränsen kommer inte nödvändigtvis att dras vid vad som är lagligt respektive olagligt. I ministerrådet finns krafter (t.ex. Frankrike) som även vill censurera icke olagliga uttryck som kan anses hatiska eller hotfulla. Det vill säga censur utan lagligt stöd. Vilket är oacceptabelt. Plus att det inte är självklart eller oomstritt vad som kan betraktas som hatiskt.

Slutligen det uppenbara: Om man ger staten rätt att införa förhandscensur och att bestämma dess former – då kan detta komma att missbrukas av ondsinta eller inkompetenta politiker och deras funktionärer.

Nu är frågan om svenska folket kommer att protestera när det införs förhandscensur – eller om vi skall vänta tills det är för sent.

Ständigt, dessa uppladdningsfilter

av

Uppladdningsfilter tycks vara på väg att bli något slags standard i EU:s internetrelaterade lagstiftning. Men vill vi verkligen att allt vi laddar upp till publika plattformar skall förhandscensureras – av maskiner?

Det började med artikel 17 i EU:s nya upphovsrättsdirektiv (EUCD) – som i praktiken kommer att leda till uppladdningsfilter. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) – som också kommer att leda till uppladdningsfilter. Och vad gäller den föreslagna Digital Services Act (DSA) finns det starka krafter som vill lägga till uppladdningsfilter som något slags allmänt verktyg för att motverka att oönskat innehåll sprids.

Till att börja med måste vi fråga oss om det alls är lämpligt eller önskvärt att all text, alla bilder, all video, alla ljudfiler med mera som vi lägger upp på olika plattformar skall förhandscensureras.

Det rimliga borde var att om någon på nätet – precis som i övriga livet – gör något olagligt, då blir detta en fråga för rättsväsendet när handlingen väl har skett. Om detta sedan kan slås fast i en oberoende rättslig process, då kan innehållet tas ner.

Därför är förhandscensur av pressen förbjuden i Sverige. Detsamma borde gälla online.

Nästa fråga är om vi verkligen vill att sådan censur skall skötas av maskiner. Algoritmer klarar inte att ta hänsyn till sammanhang, förstå humor eller satir, göra undantag för memer eller kritik. Man kan med säkerhet säga att uppladdningsfilter kommer att stoppa mer information än vad som från början var tänkt. Det vill säga även information som bör få publiceras.

En tredje invändning är att om uppladdningsfilter väl finns på plats, då är det en enkel sak att utöka deras användningsområde. Sådan ändamålsglidning förekommer nästan alltid.

Jag förundras över hur vissa politiska partier kan hävda att om andra partier kommer till makten, då hotas den svenska demokratin – samtidigt som de förstnämnda inte tvekar att rulla ut verktyg för censur, kontroll och övervakning som ju faktiskt kan användas av framtida regeringar just för att inskränka den svenska demokratin.

Europol jagar åsikter online

av

Den europeiska polismyndigheten Europol höll nyligen en »Referral Action Day against right-wing terrorist online propaganda«. Den gick ut på att man surfade runt på nätet och anmälde innehåll som kan tänkas bryta mot plattformarnas användarvillkor.

Statewatch:

»The ”Action Day” followed recommendations made by the Council of the EU and was part of a growing move towards EU and national bodies removing ”violent extremist” material from the internet.

However, as ”violent extremism” is a term for which – unlike terrorism – there is no legal definition, it has an expansive scope that puts much in the eye of the beholder.«

Här blir det lite konstigt, när den europeiska polismyndigheten jagar material som inte är definierat juridiskt. Polisen är till för att upprätthålla lagen. Att då lägga dess resurser på att anmäla innehåll som kanske eller kanske inte är olagligt är inte rättssäkert. Det blir också lite märkligt om polisen jobbar gentemot sociala medias abuse-avdelningar istället för rättsväsendet.

Om en EU-myndighet alls skall syssla med sådant här – är det då verkligen polisens uppgift?

Liknande insatser sägs vara planerade vad gäller vänsterradikal propaganda, jihadism och systemkritiska »Covid 19-förnekare«.

Detta kan möjligen ge en fingervisning om vad som kan komma att omfattas av EU:s nya förordning om terror-relaterat innehåll online (TERREG) – som är uppenbart vag i sin definition av vad som är att betrakta som terrorism.

Det känns tryggare om man håller fast vid vad EU-kommissionen föreslagit i sin Digital Services Act (DSA) – det vill säga att endast olagligt material skall avlägsnas från nätet. (Vilket bland andra Frankrike vill utöka till att även omfatta »hat«.)

Statewatch: EU: Growing online censorship of presumed ”violent extremism” of all ideological varieties »