Uppladdningsfilter, statligt godkända nätgranskare och gränsöverskridande nedtagningsorder är aktuella EU-förslag som begränsar rätten att fritt uttrycka sig på nätet. Vilket strider mot FN:s 5 juli-deklaration om mänskliga rättigheter online.
Yttrandefrihet
Yttrandefriheten är en förutsättning för våra övriga fri- och rättigheter samt för ett öppet, demokratiskt samhälle. Idag är yttrandefriheten under attack från såväl statliga som privata aktörer och från politiska grupperingar som vill tysta sina motståndare.
EU diskuterar att den som tillhandahåller innehåll på internet skall tvingas betala extra
EU-kommissionen funderar på att tvinga de företag som tillhandahåller information, innehåll och tjänster på internet att betala extra för att nå sina användare.
EU-kommissionen diskuterar något slags ny betalmodell för internet.
Idag är det den som vill använda nätet för att konsumera information som betalar för in uppkoppling, till sin internetoperatör.
Vad EU-kommissionen diskuterar är att även innehålls- och tjänsteleverantörer (som Netflix, Facebook, Google m.fl.) skall betala till de internetoperatörer som levererar nät till slutanvändaren.
(Det kan nämnas att innehållsleverantörerna redan betalar för sin trafik till internet. Nu vill man alltså tvinga ISP:arna att ta betalt även för dessa innehållsleverantörers trafik från internet till användaren. Vilket användaren som sagt redan betalt för.)
I ett brev till EU-kommissionen skriver ett antal oroade ledamöter av Europaparlamentet:
»Though no specific proposal is known, statements to the press indicate that a new provision would require payments from online service providers to broadband providers – ostensibly to fund the rollout of 5G and fiber to the home. This would reverse decades of successful internet economics by requiring the providers of websites and applications to pay fees to ISPs that have never existed before.«
Idén känns orimligt på flera sätt. Att tvinga en internetoperatör att överge sin nuvarande affärsmodell och även börja fakturera tjänsteleverantörerna känns som omotiverad klåfingrighet – med potentiellt oförutsedda och oönskade konsekvenser.
Om man ökar kostnaden för innehållsleverantören, då kommer även kostnaden för oss användare att öka. Netflix kommer att behöva höja priset. Facebook kommer att behöva mjölka sina användare på mer persondata. Mängden annonser kommer att öka.
Det kan även bli stökigt att sätta en gräns för vad som anses vara en tillräckligt stor tjänsteleverantör för att den skall tvingas betala för att få finnas på nätet. Eller har man tänkt sig att alla som har en hemsida skall drabbas?
Hela idén är bakvänd. Internets storhet ligger i att det finns ett stort utbud av innehåll och information fritt tillgängligt för alla – och att slutanvändaren betalar för sin uppkoppling till hela detta digitala universum. På så sätt stimuleras ett stort och ständigt växande utbud av information och tjänster.
Men om den som tillhandahåller innehåll och information tvingas betala extra för att över huvud taget bli distribuerad på slutsträckan till användaren – då kommer hela den frihet, öppenhet och mångfald som kännetecknar nätet att tyna bort.
Hela grejen med internet är att alla – stor som liten – fritt kan publicera sig, utan att behöva fråga några grindvakter om lov. Vilket EU-kommissionen tydligen vill ändra på.
Länkar:
• Reuters: EU’s Vestager assessing if tech giants should share telecoms network costs »
• Brev från 54 ledamöter av Europaparlamentet till EU-kommissionen (PDF) »
EU:s nya verktyg begränsar rätten att fritt uttrycka sig online
Uppladdningsfilter, statligt godkända nätgranskare och gränsöverskridande nedtagningsorder är exempel på hur EU inför verktyg som kan användas för att begränsa rätten att fritt uttrycka sig online, som den slås fast i FN:s 5 juli-resolution.
Som vi uppmärksammat fyller FN:s 5 juli-resolution om mänskliga rättigheter på internet tio år. Den första artikeln lyder:
»Affirms that the same rights that people have offline must also be protected online, in particular freedom of expression, which is applicable regardless of frontiers and through any media of one’s choice, in accordance with articles 19 of the Universal Declaration of Human Rights and the International Covenant on Civil and Political Rights;«
I denna bloggpost tittar vi närmare på hur EU förhåller sig till saken.
Till att börja med har EU (upphovsrättsdirektivet och förordningen om terror-relaterat innehåll online) ställt upp krav som med nödvändighet leder till att sociala media och andra aktörer kommer att behöva använda uppladdningsfilter – för att hindra spridning av olagligt innehåll.
Uppladdningsfilter är problematiska i sig. Maskiner som inte förstår kontext, humor eller nyanser skall avgöra vad som får laddas upp och spridas. Detta är rätt väl kritiserat och debatterat.
Vad som inte är lika väl ventilerat är frågan om hur uppladdningsfilter kan komma att användas i andra syften. För när de väl finns på plats, då kan syftet enkelt utökas.
Uppladdningsfilter är i sig en inskränkning i rätten att fritt uttrycka sig. Det finns inga garantier mot att de kan komma att missbrukas – med ont uppsåt, av inkompetens eller av missriktad välvilja.
En öppen fråga är om enskilda medlemsstater kommer att kunna kräva att syftet för uppladdningsfilter utökas, när systemet ändå finns på plats. I respektive länders nationella lagstiftning finns gott om exempel på sådant som är olagligt i ett (eller ett fåtal) EU-länder men inte i de andra.
En annan aktuell fråga är de så kallade Trusted Flaggers (sv: betrodda anmälare) som kommer med EU:s Digital Services Act. De är tänkta att vara statligt godkända nätgranskare, med en direktlinje till sociala media för att rekommendera vilket innehåll som bör plockas bort.
En trusted flagger kan vara en myndighet. Vilket i så fall innebär att myndigheter – utan rättslig prövning – får rätt att i praktiken censurera sociala media och andra nätplattformar.
Detta är ett avsteg från principen att yttrandefrihetens gränser skall sättas av lag och att överträdelser av denna lag skall bedömas av en oberoende domstol.
Istället blir nu myndigheters och enskilda tjänstemäns agenda, preferenser och åsikter vägledande.
Om risken för missbruk är stor när det gäller uppladdningsfilter, så är denna risk ännu mycket större vad gäller trusted flaggers.
Länder som Ungern kritiseras redan för censur och bristande frihet för media. Det är inte svårt att föreställa sig hur statligt godkända nätcensorer kommer att användas där.
En trusted flagger kan också vara en organisation som företräder »kollektiva intressen«. Vilket låter som särintressen. Det kan vara en organisation med en politisk eller semi-politisk agenda. Eller branschorganisationer. Som ges rätt att begränsa nätanvändarnas yttrandefrihet.
Både trusted flaggers och uppladdningsfilter är exempel på lagstiftning eller konsekvenser av lagstiftning som strider mot människors rätt att fritt uttrycka sig – med betydande potential för missbruk.
EU:s Digital Services Act innehåller även gränsöverskridande nedtagningsorder. Vilket innebär att en myndighet i Polen, Frankrike eller Rumänien kan beordra att innehåll tas bort från plattformar och servrar i Sverige – även om innehållet i fråga inte är olagligt här.
Vilket rimligen strider mot 5 juli-deklarationens skrivning om rätten att fritt uttrycka sig utan hänsyn till nationsgränser.
Det är också värt att notera att våra politiker ofta ägnar sig åt påtryckningar (utanför den demokratiska processen) mot sociala media. Syftet är att inskränka yttrandefriheten – inte genom lagstiftning utan genom respektive plattforms användarvillkor.
Till detta kommer sociala medias egna censurivranden och en med polariseringen växande cancel-kultur.
Skall man sammanfatta, så har EU nu infört de verktyg som krävs för att begränsa medborgarnas rätt att fritt uttrycka sig online. Vilket leder oss in i en ny fas, nämligen hur dessa kommer att användas.
5 juli-deklarationen är därför mer aktuell idag än någonsin tidigare. Det är hög tid att se till att i vart fall de europeiska demokratierna lever upp till den.
Kortvideo: Mänskliga rättigheter online – FN:s 5 juli-deklaration
Tio år sedan FN:s 5 juli-resolution om mänskliga rättigheter på internet
Den 5 juli 2012 antog FN:s människorättsråd (HRC) en resolution som stadgar att mänskliga rättigheter skall gälla även på internet. Men hur har det gått i verkligheten sedan dess?
På sin 31:a session den 5 juli 2012 antog FN:s Människorättsråd (Human Rights Council) resolution A/HRC/RES/20/8, som stadgar att mänskliga rättigheter även skall gälla på internet, särskilt vad gäller yttrandefrihet.
Länder som Kina och Kuba hade invändningar, men godtog den ändå utan votering. En vecka senare antogs resolutionen av FN:s Generalförsamling. Drivande krafter bakom initiativet var USA och Sverige.
1. Affirms that the same rights that people have offline must also be protected online, in particular freedom of expression, which is applicable regardless of frontiers and through any media of one’s choice, in accordance with articles 19 of the Universal Declaration of Human Rights and the International Covenant on Civil and Political Rights;
2. Recognizes the global and open nature of the Internet as a driving force in accelerating progress towards development in its various forms;
Det är nyckelformuleringarna.
Människors rättigheter måste respekteras, även online. Inte minst yttrandefriheten.
Man understryker även vikten av internets öppna natur.
Den artikel i FN:s Människorättsstadga (PDF) som artikel ett ovan hänvisar till (19) lyder:
»Var och en har rätt till åsiktsfrihet och yttrandefrihet. Denna rätt innefattar frihet att utan ingripande hysa åsikter samt söka, ta emot och sprida information och idéer med hjälp av alla uttrycksmedel och oberoende av gränser.«
Det är för att upprätthålla dessa värden som 5 juli-stiftelsen finns. På användarnas sida. Mot inskränkningar av det fria ordet online.
Och för mänskliga rättigheter som rätten till privatliv och privat korrespondens även online. För ett fritt och öppet internet.
Hur har det då gått sedan resolutionen antogs? Det korta svaret är: Inte strålande.
Det finns uppenbara bovar i dramat, som Kina och Ryssland. Ibland blir det spektakulärt som när Belarus dirigerade ner ett passerande trafikflygplan – för att gripa en oppositionell bloggare. Skurkstater över hela världen vet att information är makt och handlar därefter.
Men problemen kryper närmare. Dels har vi de redan så utskällda sociala medierna. Klämda mellan motstridiga intressen tvingas de dra gränser för vad som får uttryckas.
Med tiden har de utsatts för allt mer tryck från politiken – som gärna ser att sociala media begränsar yttrandefriheten genom sina användarvillkor. Så att nämnda politiker inte behöver ta den striden genom lagstiftning, med tillhörande demokratisk process och debatt.
Det är – rätt eller fel – en allmänt utbredd uppfattning att människor censureras i sociala media av politiska skäl. Och vad som får sägas varierar uppenbarligen över tid.
Det finns tydliga drag av ängslighet över modereringsfrågan – när techföretagen tvingas förhålla sig till olika för tillfället trendande politiska drev och krav från särintressen.
En annan aktör är EU. På senare år har man presenterat en aldrig sinande ström av förslag som stryper internets frihet och öppenhet. Och som samtidigt ökar politikens makt över nätet.
Allt vi laddar upp skall inspekteras och godkännas av maskiner. Man har beslutat att alla medlemsstater skall ha statligt godkända nätgranskare. Och nu vill EU-kommissionen att all e-post och alla elektroniska meddelanden skall öppnas och dess innehåll granskas, av maskiner.
Potentialen för missbruk är enorm. Yttrandefriheten, liksom rätten till privatliv, naggas ständigt i kanten.
Sedan har vi den tilltagande polariseringen i samhällsdebatten. Enligt Uppsala Universitet anser 20% av svenska folket att grupper de ogillar inte fritt skall få uttrycka sina åsikter. Mer än 50% anser sig i dagens politiska klimat inte öppet kunna uttrycka sina åsikter.
Speciellt allvarligt blir det om åsiktsintoleransen letar sig in i offentlig verksamhet.
5 juli-resolutionen och de mänskliga rättigheterna handlar visserligen främst om individens fri- och rättigheter i förhållande till staten. Men under de tio år som gått kan man konstatera att hoten mot rätten att »utan ingripande hysa åsikter samt söka, ta emot och sprida information och idéer« hotas från allt fler håll.
5 juli-deklarationen är därför än viktigare idag än när den antogs.
Kampen går vidare!
Nu klubbas EU:s Digital Services Act
Statligt utsedda nätgranskare och gränsöverskridande nätcensur blir konsekvensen av EU:s Digital Services Act, som just nu är på väg att godkännas.
Idag har EU:s ministerråd godkänt den (bakom stängda dörrar) slutförhandlade Digital Services Act (DSA). I morgon väntas Europaparlamentets utskott för den inre marknaden (IMCO) göra det samma. Sedan återstår bara ett sista OK från Europaparlamentet i plenum.
Detta innebär bland annat att statligt utsedda nätgranskare – så kallade Trusted Flaggers – med rätt att rekommendera sociala media att ta bort innehåll blir verklighet. Dessa skall, enligt dokumenten, företräda »kollektiva intressen« och kommer att ha en direktlina till de olika sociala plattformarna så att deras rekommendationer prioriteras.
Vi kommer även att få gränsöverskridande nedtagningsorder. Vilket innebär att myndigheter i ett EU-land kan beordra att innehåll skall censureras i en annan medlemsstat – även om detta innehåll inte är olagligt i det senare. Vad kan möjligen gå fel?
Det är även intressant vad som inte finns i DSA. Det finns ingen rätt till anonymitet. Inte någon rätt till kryptering. Det finns inte heller något skydd mot svepande datalagring eller uppladdningsfilter.
Nu återstår att se hur DSA kommer att tillämpas. Till exempel vilka som blir statligt utsedda nätgranskare och hur deras mandat kommer att omsättas i praktiken.
• Läs mer: Digital Service Act shows EU‘s unwillingness to take digital age into its own hands »
Så skapas EU:s nät- och övervakningslagar
EU:s grumliga beslutsprocess leder till att det stiftas dåliga och farliga lagar utan att någon hinner reagera. Detta gäller inte minst frågor som rör internets frihet och övervakning.
Lagar som tvingar fram uppladdningsfilter. Statligt godkända nätgranskare. Av-kryptering och granskning av innehållet i alla medborgares e-post, meddelanden, chattar och övriga elektroniska kommunikationer. Det är tre saker som är aktuella i EU just nu.
Massor av saker vi varnat för är nu lag. Och mer är på väg. Om jag får kika i kristallkulan kan frågan om desinformation komma att bli het. Den har stor potential för ogenomtänkta lagförslag.
Ett skäl till strömmen av dåliga och farliga lagar är den vägg av byråkrati, snårigheter, brutna länkar, fikonspråk, arrogans och direkt hemlighetsmakeri som omger EU:s beslutsprocess. Jag vet, jag har jobbat i Europaparlamentet.
Till och med som aktivt intresserad är det svårt att få fram relevant information. Det är enklare att googla något än att försöka hitta det via EU-institutionernas hemsidor.
Sedan måste man sålla. Det kan läggas tusentals ändringsförslag på vägen – i vilka djävulen sitter i detaljerna. Det hela blir oöverskådligt.
Till EU:s nya AI Act har det lagts 3.312 ändringsförslag i Europaparlamentet. Dessa kommer utskottsledamöterna sedan att rösta om, under forcerade former som ibland inte ger tid för varesig eftertanke eller analys. Sedan kan det komma fler ändringar i plenum.
Och när parlamentet och ministerrådet sedan sagt sitt om EU-kommissionens förslag – då låser man in sig bakom stängda dörrar i en så kallad trilog. Det är där allt görs upp, utan insyn. Sedan brukar det mest vara en formsak att få de folkvalda och medlemsstaterna att godkänna den slutliga kompromissen.
I en sådan miljö kan nästan vad som helst glida igenom utan att media och allmänhet hinner reagera. I den mån de alls är medvetna om vad som pågår.
Det är ett demokratiskt problem.
I dag börjar nya regler för nätcensur att gälla i EU #TERREG
Ny EU-lag kommer att kräva uppladdningsfilter som granskar allt du publicerar. Den tycks även ge justitieminister Morgan Johansson makt att censurera internet.
Idag träder EU-förordningen om terror-relaterat innehåll online (TERREG) i kraft.
Den föreskriver att terror-relaterat innehåll på anmodan skall tas bort av sociala media och andra plattformar – inom en timma. Vilket kan vara praktsikt omöjligt för en mindre plattform eller forum.
Den föreskriver även att sådant material som en gång plockats ner skall hållas borta. Vilket innebär att man måste kontrollera allt som alla skriver och laddar upp.
Det enda rimliga sättet att göra detta är med maskiner och deras algoritmer. Uppladdningsfilter. Automatiserad censur. Syftet kan sedan lätt utökas.
Det sker faktiskt redan i andra syften. EU:s upphovsrättsdirektiv ställde sådana krav på plattformar att de endast kan tillgodoses med automatiska uppladdningsfilter.
Tanken på automatiskt beslutsfattande känns inte helt bekväm. Maskiner har nämligen ingen känsla för kontext, ingen humor och ingen social kompetens.
Allt du skriver och laddar upp kommer att granskas innan det går online. Så att du inte publicerar något olämpligt. Vilket implicerar att staten inte litar på dig.
Några nedslag i EU:s faktablad:
»Terrorist Content Online Regulation provides a legal framework to ensure that hosting service providers, that make content available to the public, address the misuse of their services for the dissemination of terrorist content online. Online platforms will be obliged to remove terrorist content upon receiving a removal order from Member States’ authorities within one hour and to take measures when their platforms are exposed to terrorist content.«
En imponerande vag formulering om uppladdningsfilter:
»There is no obligation to use automated tools to identify or remove content. Where platforms choose to use such tools, they need to ensure human oversight and publicly report on their functioning.«
Något tvång på uppladdningsfilter? Nej något sådant har vi inte. Bara regler som gör att att sådana blir nödvändiga… Det hela är milt kafka-artat.
Den stora grejen med internet var att alla kunde publicera sig fritt – utan att fråga någon annan om lov. Med uppladdningsfilter känns det lite som grindvakternas återkomst.
Det blir värre. Från Politico:
»Public authorities such as law enforcement, interior ministries and Europol can now require a platform or cloud services to remove specific posts, music, livestreams, photos and videos inciting violence and glorifying terrorist attacks. Promoting terrorist groups and instructions for how to commit an attack will also be forbidden online.«
Inrikesminister i Sverige är justitieminister Morgan Johansson. Det verkar alltså som om vi har en EU-förordning som ger Morgan Johansson rätt att ta bort saker från internet. Är det verkligen så klokt? Är det ens förenligt med svensk grundlag?
Man kan även notera att Morgan Johansson är ansvarig för tillkomsten av TERRG, som svensk representant på EU:s ministerråd när förordningen bereddes. Man kan således säga att han givit sig själv rätten att censurera.
»Any European Union country, from Hungary to Poland, can tell a company to remove terrorist content across the bloc.«
Det vill säga att Morgan Johansson även kan ta bort innehåll på spanska plattformar. Ungern kommer att kunna ta bort innehåll på franska siter. Det kan bli intressant att följa.
Gränsöverskridande nedtagningsorder etableras även som ett mer generellt verktyg i EU:s nya Digital Services Act. Vilket väcker frågor som om en polsk åklagare kommer att kunna stänga ner information om abort (på polska, kan vi anta) på ett svenskt forum.
Nåväl. Folk var varnade. Ingen brydde sig. Nu är vi här.
• Politico: Online platforms now have an hour to remove terrorist content in the EU »
• EU-kommissionens sida om TERREG »
• EU-kommissionens faktablad »
Trusted Flaggers – EU:s nya nätcensur dekonstruerad
Här är ett försök att enkelt förklara några av problemen med de nya statligt godkända nätcensorerna i EU:s Digital Services Act.
EU:s nya Digital Services Act (DSA, förordningen om digitala tjänster) är tänkt att anpassa unionens lagstiftning till dagens tekniska verklighet. Den innehåller både bra och dåliga saker. Till exempel skall olagligt material tas bort, vilket ger samma regler på nätet som i den fysiska världen. Vilket känns rimligt.
I en rättsstat skall yttrandefrihetens gränser sättas av lag som stiftats i god demokratisk ordning. Sedan är det upp till rättsväsendet att avgöra om ett visst yttrande överträtt denna gräns eller ej – i en fristående rättslig prövning, där den tilltalade har rätt att försvara sig.
Med DSA blir det annorlunda. Nu blir det inte någon rättslig prövning. Istället skall statligt godkända nätcensorer – Trusted Flaggers / »betrodda anmälare« – få en direktlinje till sociala media för att rekommendera vilket innehåll de tycker bör avlägsnas.
En Trusted Flagger kan vara en myndighet, en intresseorganisation, ett särintresse, en branschorganisation eller annan företrädare för vad förordningen kallar »kollektiva intressen«.
Här flyttar man alltså makten över yttrandefriheten från lag och rättsväsende till intressenter som är part i målet. Vilket känns direkt olämpligt.
I grunden är det tänkt att Trusted Flaggers skall identifiera vad de anser vara olagligt innehåll och anmäla detta till respektive sociala media för åtgärd. Men som i så många andra EU-förslag har allt fått ett eget liv i processen.
Redan i direktivets inledning kan vi läsa att Trusted Flaggers även skall hjälpa till med att identifiera information som är oförenlig med respektive socialt nätverks användarvillkor. Det vill säga innehåll som oftast inte är olagligt.
Statligt godkända nätcensorer skall alltså kunna rekommendera att innehåll som inte är olagligt skall avlägsnas från internet.
Här skall man komma ihåg att EU:s politiska beslutsapparat under många år använt sig av påtryckningar mot sociala media för att få dem att ändra sina användarvillkor på olika sätt. På så vis har man kunnat begränsa det fria ordet utan en massa krångel som lagstiftning, demokratisk process och offentlig debatt.
Längre in i texten (recital 58 & artikel 27) kan vi läsa att Trusted Flaggers även skall medverka vid analys av systemrisker; att de skall ha ett utökat samarbete med sociala media; att de skall medverka vid utbildning för sociala plattformar samt att de skall bidra till utformning av uppförandekoder.
Här har alltså makten över det fria ordet flyttats från lagstiftning och rättsväsende till användarvillkor och särintressen. Samt att de nya nätcensorerna kommer att få en massa extra uppgifter. Och det blir värre.
Till exempel är det värt att notera att vad som är lagligt respektive olagligt skiljer sig mellan olika länder – samtidigt som internet inte känner några nationsgränser.
I förordningen vill man att en myndighet i ett EU-land skall kunna beordra borttagning av innehåll på servrar i andra medlemsstater. Detta även om innehållet i fråga inte är olagligt i det land där servern står.
Vilket innebär att franska, polska och bulgariska inskränkningar i det fria ordet även kan komma att drabba Sverige – utan stöd i svensk lag, i sak.
Detta är verkligen inte bra. Man kan undra om politikerna förstår vad de sysslar med.
DSA är nu färdigbehandlad i Europaparlamentets utskott och i ministerrådet. Trilogförhandlingarna mellan kommissionen, rådet och parlamentet är avslutade. Allt är klappat och klart för beslut.
Under resans gång – i utskott och förhandlingar – har mycket lagts till utöver vad som anges ovan. Vi vet redan att mer som kan vara problematiskt och en hel del ny micro management tillkommit.
Enligt Europaparlamentets ansvariga tjänstemän kommer den slutliga texten dock inte att kunna offentliggöras förrän om ungefär två veckor.
Sedan är det klart för ministerrådet och parlamentet att snabbt klubba DSA. Och eftersom det är en förordning kommer den att gälla rakt av, exakt som den är skriven, i hela EU. (Till skillnad från direktiv, som inarbetas i varje medlemslands existerande lagstiftning)
Nördarna som räddar Twitters själ?
Vilket liv det blev när Musk nu vill köpa Twitter. Litar man mindre på honom när det gäller det fria ordet än de nuvarande ägarna? Vilka är BlackRock, Morgan Stanley och det saudiska kungahuset.
Om jag får spekulera, så tror jag att Musk har idéer. Han har redan talat om open source. Tänk om han kan utnyttja Twitters användarbas för att skapa något verkligt universellt? Vad håller just nu på att bli tekniskt möjligt?
På Twitter skriver företagets medgrundare Jack Dorsey:
»In principle, I don’t believe anyone should own or run Twitter. It wants to be a public good at a protocol level, not a company. Solving for the problem of it being a company however, Elon is the singular solution I trust. I trust his mission to extend the light of consciousness.«
Detta handlar kanske om något mer än det fria ordet. En räddningsoperation för en teknisk vision.
• Bloomberg: Musk Is the ‘Singular Solution I Trust’ for Twitter, Dorsey Says »
EU-kommissionen låter samtidigt påpeka att det är den som bestämmer hur allt skall vara:
