Uppladdningsfilter, statligt godkända nätgranskare och gränsöverskridande nedtagningsorder är aktuella EU-förslag som begränsar rätten att fritt uttrycka sig på nätet. Vilket strider mot FN:s 5 juli-deklaration om mänskliga rättigheter online.
Trusted Flaggers
EU:s nya verktyg begränsar rätten att fritt uttrycka sig online
Uppladdningsfilter, statligt godkända nätgranskare och gränsöverskridande nedtagningsorder är exempel på hur EU inför verktyg som kan användas för att begränsa rätten att fritt uttrycka sig online, som den slås fast i FN:s 5 juli-resolution.
Som vi uppmärksammat fyller FN:s 5 juli-resolution om mänskliga rättigheter på internet tio år. Den första artikeln lyder:
»Affirms that the same rights that people have offline must also be protected online, in particular freedom of expression, which is applicable regardless of frontiers and through any media of one’s choice, in accordance with articles 19 of the Universal Declaration of Human Rights and the International Covenant on Civil and Political Rights;«
I denna bloggpost tittar vi närmare på hur EU förhåller sig till saken.
Till att börja med har EU (upphovsrättsdirektivet och förordningen om terror-relaterat innehåll online) ställt upp krav som med nödvändighet leder till att sociala media och andra aktörer kommer att behöva använda uppladdningsfilter – för att hindra spridning av olagligt innehåll.
Uppladdningsfilter är problematiska i sig. Maskiner som inte förstår kontext, humor eller nyanser skall avgöra vad som får laddas upp och spridas. Detta är rätt väl kritiserat och debatterat.
Vad som inte är lika väl ventilerat är frågan om hur uppladdningsfilter kan komma att användas i andra syften. För när de väl finns på plats, då kan syftet enkelt utökas.
Uppladdningsfilter är i sig en inskränkning i rätten att fritt uttrycka sig. Det finns inga garantier mot att de kan komma att missbrukas – med ont uppsåt, av inkompetens eller av missriktad välvilja.
En öppen fråga är om enskilda medlemsstater kommer att kunna kräva att syftet för uppladdningsfilter utökas, när systemet ändå finns på plats. I respektive länders nationella lagstiftning finns gott om exempel på sådant som är olagligt i ett (eller ett fåtal) EU-länder men inte i de andra.
En annan aktuell fråga är de så kallade Trusted Flaggers (sv: betrodda anmälare) som kommer med EU:s Digital Services Act. De är tänkta att vara statligt godkända nätgranskare, med en direktlinje till sociala media för att rekommendera vilket innehåll som bör plockas bort.
En trusted flagger kan vara en myndighet. Vilket i så fall innebär att myndigheter – utan rättslig prövning – får rätt att i praktiken censurera sociala media och andra nätplattformar.
Detta är ett avsteg från principen att yttrandefrihetens gränser skall sättas av lag och att överträdelser av denna lag skall bedömas av en oberoende domstol.
Istället blir nu myndigheters och enskilda tjänstemäns agenda, preferenser och åsikter vägledande.
Om risken för missbruk är stor när det gäller uppladdningsfilter, så är denna risk ännu mycket större vad gäller trusted flaggers.
Länder som Ungern kritiseras redan för censur och bristande frihet för media. Det är inte svårt att föreställa sig hur statligt godkända nätcensorer kommer att användas där.
En trusted flagger kan också vara en organisation som företräder »kollektiva intressen«. Vilket låter som särintressen. Det kan vara en organisation med en politisk eller semi-politisk agenda. Eller branschorganisationer. Som ges rätt att begränsa nätanvändarnas yttrandefrihet.
Både trusted flaggers och uppladdningsfilter är exempel på lagstiftning eller konsekvenser av lagstiftning som strider mot människors rätt att fritt uttrycka sig – med betydande potential för missbruk.
EU:s Digital Services Act innehåller även gränsöverskridande nedtagningsorder. Vilket innebär att en myndighet i Polen, Frankrike eller Rumänien kan beordra att innehåll tas bort från plattformar och servrar i Sverige – även om innehållet i fråga inte är olagligt här.
Vilket rimligen strider mot 5 juli-deklarationens skrivning om rätten att fritt uttrycka sig utan hänsyn till nationsgränser.
Det är också värt att notera att våra politiker ofta ägnar sig åt påtryckningar (utanför den demokratiska processen) mot sociala media. Syftet är att inskränka yttrandefriheten – inte genom lagstiftning utan genom respektive plattforms användarvillkor.
Till detta kommer sociala medias egna censurivranden och en med polariseringen växande cancel-kultur.
Skall man sammanfatta, så har EU nu infört de verktyg som krävs för att begränsa medborgarnas rätt att fritt uttrycka sig online. Vilket leder oss in i en ny fas, nämligen hur dessa kommer att användas.
5 juli-deklarationen är därför mer aktuell idag än någonsin tidigare. Det är hög tid att se till att i vart fall de europeiska demokratierna lever upp till den.
Nu klubbas EU:s Digital Services Act
Statligt utsedda nätgranskare och gränsöverskridande nätcensur blir konsekvensen av EU:s Digital Services Act, som just nu är på väg att godkännas.
Idag har EU:s ministerråd godkänt den (bakom stängda dörrar) slutförhandlade Digital Services Act (DSA). I morgon väntas Europaparlamentets utskott för den inre marknaden (IMCO) göra det samma. Sedan återstår bara ett sista OK från Europaparlamentet i plenum.
Detta innebär bland annat att statligt utsedda nätgranskare – så kallade Trusted Flaggers – med rätt att rekommendera sociala media att ta bort innehåll blir verklighet. Dessa skall, enligt dokumenten, företräda »kollektiva intressen« och kommer att ha en direktlina till de olika sociala plattformarna så att deras rekommendationer prioriteras.
Vi kommer även att få gränsöverskridande nedtagningsorder. Vilket innebär att myndigheter i ett EU-land kan beordra att innehåll skall censureras i en annan medlemsstat – även om detta innehåll inte är olagligt i det senare. Vad kan möjligen gå fel?
Det är även intressant vad som inte finns i DSA. Det finns ingen rätt till anonymitet. Inte någon rätt till kryptering. Det finns inte heller något skydd mot svepande datalagring eller uppladdningsfilter.
Nu återstår att se hur DSA kommer att tillämpas. Till exempel vilka som blir statligt utsedda nätgranskare och hur deras mandat kommer att omsättas i praktiken.
• Läs mer: Digital Service Act shows EU‘s unwillingness to take digital age into its own hands »
Trusted Flaggers – EU:s nya nätcensur dekonstruerad
Här är ett försök att enkelt förklara några av problemen med de nya statligt godkända nätcensorerna i EU:s Digital Services Act.
EU:s nya Digital Services Act (DSA, förordningen om digitala tjänster) är tänkt att anpassa unionens lagstiftning till dagens tekniska verklighet. Den innehåller både bra och dåliga saker. Till exempel skall olagligt material tas bort, vilket ger samma regler på nätet som i den fysiska världen. Vilket känns rimligt.
I en rättsstat skall yttrandefrihetens gränser sättas av lag som stiftats i god demokratisk ordning. Sedan är det upp till rättsväsendet att avgöra om ett visst yttrande överträtt denna gräns eller ej – i en fristående rättslig prövning, där den tilltalade har rätt att försvara sig.
Med DSA blir det annorlunda. Nu blir det inte någon rättslig prövning. Istället skall statligt godkända nätcensorer – Trusted Flaggers / »betrodda anmälare« – få en direktlinje till sociala media för att rekommendera vilket innehåll de tycker bör avlägsnas.
En Trusted Flagger kan vara en myndighet, en intresseorganisation, ett särintresse, en branschorganisation eller annan företrädare för vad förordningen kallar »kollektiva intressen«.
Här flyttar man alltså makten över yttrandefriheten från lag och rättsväsende till intressenter som är part i målet. Vilket känns direkt olämpligt.
I grunden är det tänkt att Trusted Flaggers skall identifiera vad de anser vara olagligt innehåll och anmäla detta till respektive sociala media för åtgärd. Men som i så många andra EU-förslag har allt fått ett eget liv i processen.
Redan i direktivets inledning kan vi läsa att Trusted Flaggers även skall hjälpa till med att identifiera information som är oförenlig med respektive socialt nätverks användarvillkor. Det vill säga innehåll som oftast inte är olagligt.
Statligt godkända nätcensorer skall alltså kunna rekommendera att innehåll som inte är olagligt skall avlägsnas från internet.
Här skall man komma ihåg att EU:s politiska beslutsapparat under många år använt sig av påtryckningar mot sociala media för att få dem att ändra sina användarvillkor på olika sätt. På så vis har man kunnat begränsa det fria ordet utan en massa krångel som lagstiftning, demokratisk process och offentlig debatt.
Längre in i texten (recital 58 & artikel 27) kan vi läsa att Trusted Flaggers även skall medverka vid analys av systemrisker; att de skall ha ett utökat samarbete med sociala media; att de skall medverka vid utbildning för sociala plattformar samt att de skall bidra till utformning av uppförandekoder.
Här har alltså makten över det fria ordet flyttats från lagstiftning och rättsväsende till användarvillkor och särintressen. Samt att de nya nätcensorerna kommer att få en massa extra uppgifter. Och det blir värre.
Till exempel är det värt att notera att vad som är lagligt respektive olagligt skiljer sig mellan olika länder – samtidigt som internet inte känner några nationsgränser.
I förordningen vill man att en myndighet i ett EU-land skall kunna beordra borttagning av innehåll på servrar i andra medlemsstater. Detta även om innehållet i fråga inte är olagligt i det land där servern står.
Vilket innebär att franska, polska och bulgariska inskränkningar i det fria ordet även kan komma att drabba Sverige – utan stöd i svensk lag, i sak.
Detta är verkligen inte bra. Man kan undra om politikerna förstår vad de sysslar med.
DSA är nu färdigbehandlad i Europaparlamentets utskott och i ministerrådet. Trilogförhandlingarna mellan kommissionen, rådet och parlamentet är avslutade. Allt är klappat och klart för beslut.
Under resans gång – i utskott och förhandlingar – har mycket lagts till utöver vad som anges ovan. Vi vet redan att mer som kan vara problematiskt och en hel del ny micro management tillkommit.
Enligt Europaparlamentets ansvariga tjänstemän kommer den slutliga texten dock inte att kunna offentliggöras förrän om ungefär två veckor.
Sedan är det klart för ministerrådet och parlamentet att snabbt klubba DSA. Och eftersom det är en förordning kommer den att gälla rakt av, exakt som den är skriven, i hela EU. (Till skillnad från direktiv, som inarbetas i varje medlemslands existerande lagstiftning)
EU:s Digital Services Act på två minuter (video)
EU:s Digital Services Act klar för beslut
Ingen rätt till anonymitet online, ingen rätt till kryptering, inget förbud mot datalagring eller uppladdningsfilter. Myndigheter i ett EU-land kan beordra borttagning av innehåll på servrar i en annan medlemsstat – även om det inte är olagligt i det senare. Dessutom statligt godkända nätcensorer. Det är några av punkterna från slutförhandlingen om EU:s nya Digital Services Act.
Efter 16 timmars förhandlingar mellan EU-kommissionen, ministerrådet och Europaparlamentet finns nu en överenskommelse om EU:s Digital Services Act. Det finns dock ingen sammanställd slutlig text ännu. Men en del saker vet vi redan.
Låt oss börja med att se hur Europaparlamentet presenterar saken i sitt pressmeddelande:
• Access to platforms’ algorithms now possible
• Online platforms will have to remove illegal products, services or content swiftly after they have been reported
• Protection of minors online reinforced; additional bans on targeted advertising for minors as well as targeting based on sensitive data
• Users will be better informed how content is recommended to them
En god nyhet är att användare som censureras av sociala media kan komma att få någon form av möjlighet att överklaga.
Så över till den mer kritiske ledamoten av Europaparlamentet Patrick Breyer (PP, DE):
»We were able to prevent removal obligations for search engines. We could also prevent the indiscriminate collection of the cell phone numbers of all uploaders to adult platforms, which would have endangered their privacy and the safety of sex workers due to foreseeable data hacks and leaks. Minors will be protected from surveillance advertising on online platforms. However, the ban on using sensitive personality traits (e.g. a person’s political opinion, diseases or sexual preferences) for targeted manipulation and targeting was heavily watered down.«
»Our online privacy will not be protected by a right to use digital services anonymously, nor by a right to encryption, a ban on data retention, or a right to generally opt-out of surveillance advertising in your browser (do not track). Freedom of expression on the Internet is not protected from error-prone censorship machines (upload filters), nor from arbitrary platform censorship. Cross-border removal orders issued by illiberal member states without a court order can take down media reports and information that is perfectly legal in the country of publication.«
Dessutom står förslaget om Trusted Flaggers (betrodda anmälare / statligt godkända nätcensorer) kvar, då det inte mött något egentligt motstånd eller ens ifrågasatts under förhandlingarna. Läs mer om problemen med Trusted Flaggers här »
Nu när förhandlingarna är klara kommer förordningen sannolikt att godkännas av EU:s ministerråd och Europaparlamentet utan ändringar.
Vi återkommer när det finns en slutlig, konsoliderad text.
Kortvideo: Säg nej till EU:s nya nätcensur
Podcast om EU:s förbud mot anonyma krypotobetalningar, nätcensur och ChatControl
Jag medverkar i podcasten Bara Bitcoin – som denna gång inte bara handlar om Bitcoin.
Vi diskuterar bland annat EU:s förslag om förbud mot anonyma betalningar med kryptovaluta, nätcensur och Trusted Flaggers i EU:s nya Digital Services Act samt förslaget om av-kryptering och granskning av all e-post och alla elektroniska meddelanden (ChatControl2).
Låt inte EU införa nätcensur i tysthet
I EU:s Digital Services Act föreslås så kallade Trusted Flaggers, betrodda anmälare på svenska.
Myndigheter, intresseorganisationer, särintressen och andra kollektiva intressen kan få rollen som Trusted Flaggers.
En Trusted Flaggers uppgift är att identifiera sådant som denne anser vara olämpligt, på nätet.
Dessa skall få en direktlina till sociala media, för att ”rekommendera” vad som bör tas bort.
Och de sociala medieplattformarna lär i huvudsak göra som de blir tillsagda.
På vilket sätt är detta inte censur?
När blev det en bra idé att låta myndighetspersoner inskränka yttranden på nätet? Är det verkligen genomtänkt att ge organisationer makt över det fria ordet? Och med vilken rätt kommer dessa Trusted Flaggers att plocka bort icke olagligt innehåll?
Ja, icke olagligt innehåll. Olagligt material skall plockas bort ändå. Det står uttryckligen i samma förslag. Vad man tänker ta bort är icke olagligt material som man finner… olämpligt.
Så får det inte gå till i en rättsstat. Yttrandefrihetens gränser skall sättas av lag som tydligt slår fast vad som inte får sägas. Inte av byråkrater, aktivister, organisationer och deras agendor.
Detta känns inte helt genomtänkt. Inte minst är sammansmältningen mellan staten och olika organisationer problematisk.
På annat håll i EU:s Digital Services Act slås det fast att den som blir censurerad i sociala media skall ha någon rimlig form av möjlighet att överklaga ett sådant beslut. Och det är ju en bra sak, hur man nu tänkt hantera de stora mängder fall som kan förväntas.
Vad händer då om någon överklagar att innehåll censurerats på Facebook – om denna censur skett på anmodan av Trusted Flaggers? Är det Meta eller staten man skall processa mot?
Detta för att inte tala om hur systemet med Trusted Flaggers kan missbrukas i länder som Ungern.
Kommer religiösa organisationer att tillåtas bli Trusted Flaggers? De är ju vad förslaget uttryckligen vill ha, nämligen företrädare för »kollektiva intressen«. Greenpeace? LO? Svenskt Näringsliv?
Inse vad man håller på att ställa till med.
Låt inte EU införa nätcensur i tysthet.
EU:s nya nätcensur – enkelt förklarad
De flesta inser att censur är något problematiskt och dåligt.
Censur är förtryck av vissa yttranden och åsikter. Därför bör censur förekomma så lite som möjligt i en demokratisk rättstat.
Med censur blir den demokratiska processen en meningslös gest, då olika åsikter inte längre kan brytas mot varandra.
Utan ett fritt utbyte av tankar blir opposition omöjlig. Samhället stagnerar.
Idiotiska påståenden skall bemötas i en fri, öppen debatt – inte censureras.
Skall yttrandefriheten ändå begränsas, då måste det ske genom lag som stiftas i en transparent, demokratisk process – och som tydligt anger vad det är som inte får sägas.
De flesta inser att ett fritt och öppet internet är en förutsättning för vårt moderna samhälle.
Kampen för ett fritt internet handlar inte bara om att slippa bli övervakad, censurerad och kartlagd.
Det är även en kamp för själens frihet, samarbete, kreativitet, marknad och samhällets allmänna utveckling.
Därför är inskränkningar av internets frihet inte bara en fråga för den som är intresserad av nätpolitik – utan något som berör alla.
Internet är ett verktyg för framåtskridande. Därför måste dess frihet upprätthållas.
Så långt har vi alltså noterat att censur är dåligt och att ett fritt och öppet internet är viktigt.
Då är frågan varför ingen bryr sig när EU nu inför censur av internet.
Myndigheter, intresseorganisationer, särintressen och ”företrädare för kollektiva intressen” kommer att tilldelas rollen som Trusted Flaggers. Betrodda anmälare, på svenska.
Dessa skall ha en direktlinje till sociala media, för att rekommendera vilket innehåll som skall plockas bort.
Notera nu att detta inte handlar om olaglig information. Sådan kommer att plockas bort ändå.
Detta handlar om lagligt innehåll som anses olämpligt.
Varpå vi överger principen att yttrandefrihetens gränser skall sättas genom lag.
Då blir det istället byråkrater, lobbyorganisationer och särintressen som bestämmer vad som får sägas och skrivas – utifrån sina subjektiva premisser och referensramar.
Vad kan väl möjligen gå fel?
Trusted Flaggers är en del av EU:s nya Digital Services Act. Ingen tycks bry sig eller reagera. Inga kritiska politiska röster hörs. Inget intresse uppvisas från medias sida. Ingen debatt förs.