Femte juli Nätet till folket!

Nätet till folket!

Trusted Flaggers

EU talar med kluven tunga om digitala rättigheter

av Lämna en kommentar

Gör som vi säger, inte som vi gör – tycks vara budskapet i EU:s nya deklaration om digitala rättigheter. Skulle man leva upp till det man skriver, då skulle flera aktuella lagförslag behöva gå i papperskorgen. Vilket knappast kommer att ske.

EU:s tre institutioner har enats om en deklaration om digitala rättigheter och principer för ett »digitalt årtionde« (European Declaration on Digital Rights and Principles for the Digital Decade). PDF »

Detta är inte lagtext utan mer ett styrdokument. Men även sådana får konsekvenser i verkligheten.

Deklarationen innehåller en del bra saker plus en hel del godhetsignalering. Alla utsatta grupper nämns och miljön får sitt avsnitt.

»The EU way for the digital transformation of our societies and economy encompasses in particular digital sovereignty in an open manner, respect of fundamental rights, rule of law and democracy, inclusion, accessibility, equality, sustainability, resilience, security, improving quality of life, the availability of services and respect of everyone’s rights and aspirations. It should contribute to a dynamic, resource efficient, and fair economy and society in the EU.«

Imponerande. Men låt oss fokusera på kärnfrågorna.

Dokumentet bekänner sig till rätten till privatliv. Dock får man en känsla av att det mer handlar om individens förhållande till Big Data och mindre om relationen till staten.

Det finns tecken på att EU ställer högre krav på andra än på sig själv. Som när man vill att innehållet i alla människors e-post, alla elektroniska meddelanden, alla chattar med mera skall granskas av maskiner. Vilket är att avskaffa den digitala brevhemligheten.

Vilket i sin tur är ett brott mot vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens. Och mänskliga rättigheter offline skall gälla även online.

Samma sak gäller datalagringen. Det blir konstigt när kommissionen och rådet understryker vikten av fundamentala rättigheter – när de samtidigt försöker runda EU-domstolens nej till datalagring, vilket just motiveras med att den strider mot nämnda rättigheter.

Vad gäller yttrandefrihet säger deklarationen:

Everyone has the right to freedom of expression and information, as well as freedom of assembly and of association in the online digital environment.

Även detta klingar en smula falskt, då EU-institutionerna snarare tycks vara intresserade av att begränsa det fria ordet online.

Till exempel genom att ge myndigheter, organisationer och »kollektiva intressen« rollen som statligt godkända nätpoliser – med makt att rekommendera att innehåll skall plockas bort. Utan föregående rättslig prövning. (Trusted Flaggers i EU:s nya Digital Services Act.)

I övrigt innehåller denna deklaration många vackra, men vaga skrivningar. Även om en del saker är bra, så är detta ytterligare en framflyttning av politikens makt över nätet.

Den nya regeringen, uppladdningsfilter, nätcensur och #ChatControl

av Lämna en kommentar

Hur kommer en M+KD+L-regering med stöd av SD att hantera nät- och övervakningsfrågorna? Kan man hoppas att den respekterar våra grundläggande fri- och rättigheter? Och hur kommer den att agera i EU?

Här är tre aktuella frågor:

• Uppladdningsfilter

De nya regeringspartierna har profilerat sig som motståndare till uppladdningsfilter, i samband med förra EU-valet. Samtidigt är EU:s nya upphovsrättsdirektiv klubbat och klart, med begränsat utrymme för förändringar när det skall implementeras i svensk lag.

En proposition har redan lagts fram av den avgående S-regeringen. Även om man inte vill kännas vid ordet uppladdningsfilter, så kommer sådana ändå att bli konsekvensen av lagförslaget.

Förmodligen kommer den nya regeringen att säga att det inte finns något att göra åt saken, då vi är skyldiga att följa EU-direktivet. Eventuella uppmjukningar av propositionens text får ses som en glad överraskning, men inget som är troligt.

• Nätcensur / Trusted Flaggers

EU:s nya Digital Services Act (DSA) ger oss statligt godkända nätgranskare (myndigheter, organisationer m.fl.) som skall få en direktlinje till sociala media, för att rekommendera vilket innehåll som skall plockas bort.

Eftersom EU-förordningar skall tillämpas rakt av råder ingen tvekan om att vi kommer att få sådana nätgranskare / Trusted Flaggers. Det som kan påverkas är hur detta skall ske och vilka de skall vara.

Med tanke på regeringens profil är det inte troligt att politiskt drivna intresseorganisationer kommer att utses till Trusted Flaggers. Däremot bör man vara fortsatt vaksam mot att andra särintressen får en sådan roll. Och att myndigheter ges möjlighet att i praktiken censurera innehåll på nätet utan föregående rättslig prövning är fortfarande ett problem.

Det är en öppen fråga hur den nationella digitala samordnare som föreskrivs i DSA skall bli verklighet. Denne skall bland annat ha ansvar för de ovan nämnda nätgranskarna. Kommer detta att bli en ny myndighet? Eller kommer funktionen att hamna under någon existerande myndighet – och i så fall vilken?

Även om Trusted Flaggers är ett fullbordat faktum med DSA tycks det finnas ett rätt stort utrymme för att påverka hur systemet skall bli verklighet. Detta måste ske på ett rättssäkert sätt, med största möjliga respekt för grundläggande fri- och rättigheter.

• #ChatControl / CSAR / meddelandekontroll

EU-kommissionen har föreslagit att e-post och alla elektroniska meddelanden skall av-krypteras, öppnas och deras innehåll skall granskas. Detta omfattar alla utan att det behöver finnas någon misstanke om brott.

Vilket strider mot förbudet mot generell övervakning. Det strider även mot EU-domstolens förbud mot svepande övervakning av alla utan misstanke om brott (datalagringen).

I grunden är detta en fråga om mänskliga rättigheter – vad gäller rätten till privatliv och privat korrespondens. Dessa skall gälla även online.

Här är den första frågan hur Sverige kommer att ställa sig i EU:s ministerråd. Man kan anta att KD är för #ChatControl. Förmodligen även Moderaterna. Vad gäller Liberalerna kan man notera att i vart fall deras systerpartier i EU är mer skeptiska. SD sänder blandade signaler.

Här finns fortfarande utrymme för att påverka. Vilket är viktigt, inte minst med tanke på att Sverige kommer att vara ordförandeland i EU efter årsskiftet.

Skall vi rädda den digitala brevhemligheten, då är det nu det måste ske.

Nu är EU:s nya nätcensur här

av 1 kommentar

Nu är det klubbat och klart i EU: Vi får statligt godkända nätgranskare och gränsöverskridande nedtagningsorder av innehåll, även om det inte är olagligt.

Nu har även EU:s ministerråd sagt ja till unionens nya Digital Services Act, DSA (sv: Fördordningen om digitala tjänster). Den kommer därmed att träda ikraft om ett drygt år.

Eftersom det är en förordning (och inte ett direktiv) kommer DSA inte att behöva implementeras i nationell lagstiftning – utan gäller rakt av i alla medlemsstater, som den är skriven.

Förordningen innehåller en del bra saker – som något slags odefinierad möjlighet att överklaga censur av innehåll på sociala media. Men det är de problematiska delarna vi måste hålla ögonen på.

• Trusted Flaggers – statligt godkända nätgranskare

Trusted flaggers (sv: betrodda anmälare) är statligt godkända nätgranskare som skall ha en direktlina till sociala media för att rekommendera vilket innehåll som skall plockas bort.

En Trusted Flagger kan vara en myndighet eller en företrädare för ”kollektiva intressen” (organisationer) som utses av staten. De skall verka under insyn av en ny nationell digital samordnare (Digital Service Coordinator) som i sin tur verkar under en nyinrättad European Board for Digital Services.

Trusted Flaggers är problematiska på flera sätt. Till exempel är det anmärkningsvärt att myndigheter och andra nu får rätt att i praktiken censurera innehåll utan föregående rättslig prövning.

Grundtanken har varit att en Trusted Flagger skall anmäla olagligt innehåll. Men i DSA kan vi läsa om att de kan få bredare uppgifter. Och även om de strikt skulle hålla sig till olagligt innehåll, så finns det gott om lagar i EU:s medlemsstater (t.ex. Polen och Ungern) som inte stämmer överens med vad som rimligen kan anses vara i linje med yttrandefriheten i en liberal demokrati.

Nu skall det bli spännande att se vilka som utses till Trusted Flaggers. Det samma gäller den nya nationella digitala samordnaren. Blir det en ny myndighet eller kommer uppgiften att underställas till exempel Post- och Telestyrelsen? Detta kommer att bli en fråga för vår nya regering.

• Gränsöverskridande nedtagningsorder

Ett annat problem är att en myndighet i en medlemsstat skall kunna beordra nedtagning av innehåll på plattformar och servrar i ett annat land – även om detta innehåll inte är olagligt i det senare.

Detta är problematiskt, av lätt insedda skäl. Men nu när det är klubbat återstår att se hur detta verktyg kommer att användas.

Vi kommer att få anledning att återkomma i frågan.

Video: EU och yttrandefriheten online

av Lämna en kommentar

Uppladdningsfilter, statligt godkända nätgranskare och gränsöverskridande nedtagningsorder är aktuella EU-förslag som begränsar rätten att fritt uttrycka sig på nätet. Vilket strider mot FN:s 5 juli-deklaration om mänskliga rättigheter online.

Youtube »

EU:s nya verktyg begränsar rätten att fritt uttrycka sig online

av 2 kommentarer

Uppladdningsfilter, statligt godkända nätgranskare och gränsöverskridande nedtagningsorder är exempel på hur EU inför verktyg som kan användas för att begränsa rätten att fritt uttrycka sig online, som den slås fast i FN:s 5 juli-resolution.

Som vi uppmärksammat fyller FN:s 5 juli-resolution om mänskliga rättigheter på internet tio år. Den första artikeln lyder:

»Affirms that the same rights that people have offline must also be protected online, in particular freedom of expression, which is applicable regardless of frontiers and through any media of one’s choice, in accordance with articles 19 of the Universal Declaration of Human Rights and the International Covenant on Civil and Political Rights;«

I denna bloggpost tittar vi närmare på hur EU förhåller sig till saken.

Till att börja med har EU (upphovsrättsdirektivet och förordningen om terror-relaterat innehåll online) ställt upp krav som med nödvändighet leder till att sociala media och andra aktörer kommer att behöva använda uppladdningsfilter – för att hindra spridning av olagligt innehåll.

Uppladdningsfilter är problematiska i sig. Maskiner som inte förstår kontext, humor eller nyanser skall avgöra vad som får laddas upp och spridas. Detta är rätt väl kritiserat och debatterat.

Vad som inte är lika väl ventilerat är frågan om hur uppladdningsfilter kan komma att användas i andra syften. För när de väl finns på plats, då kan syftet enkelt utökas.

Uppladdningsfilter är i sig en inskränkning i rätten att fritt uttrycka sig. Det finns inga garantier mot att de kan komma att missbrukas – med ont uppsåt, av inkompetens eller av missriktad välvilja.

En öppen fråga är om enskilda medlemsstater kommer att kunna kräva att syftet för uppladdningsfilter utökas, när systemet ändå finns på plats. I respektive länders nationella lagstiftning finns gott om exempel på sådant som är olagligt i ett (eller ett fåtal) EU-länder men inte i de andra.

En annan aktuell fråga är de så kallade Trusted Flaggers (sv: betrodda anmälare) som kommer med EU:s Digital Services Act. De är tänkta att vara statligt godkända nätgranskare, med en direktlinje till sociala media för att rekommendera vilket innehåll som bör plockas bort.

En trusted flagger kan vara en myndighet. Vilket i så fall innebär att myndigheter – utan rättslig prövning – får rätt att i praktiken censurera sociala media och andra nätplattformar.

Detta är ett avsteg från principen att yttrandefrihetens gränser skall sättas av lag och att överträdelser av denna lag skall bedömas av en oberoende domstol.

Istället blir nu myndigheters och enskilda tjänstemäns agenda, preferenser och åsikter vägledande.

Om risken för missbruk är stor när det gäller uppladdningsfilter, så är denna risk ännu mycket större vad gäller trusted flaggers.

Länder som Ungern kritiseras redan för censur och bristande frihet för media. Det är inte svårt att föreställa sig hur statligt godkända nätcensorer kommer att användas där.

En trusted flagger kan också vara en organisation som företräder »kollektiva intressen«. Vilket låter som särintressen. Det kan vara en organisation med en politisk eller semi-politisk agenda. Eller branschorganisationer. Som ges rätt att begränsa nätanvändarnas yttrandefrihet.

Både trusted flaggers och uppladdningsfilter är exempel på lagstiftning eller konsekvenser av lagstiftning som strider mot människors rätt att fritt uttrycka sig – med betydande potential för missbruk.

EU:s Digital Services Act innehåller även gränsöverskridande nedtagningsorder. Vilket innebär att en myndighet i Polen, Frankrike eller Rumänien kan beordra att innehåll tas bort från plattformar och servrar i Sverige – även om innehållet i fråga inte är olagligt här.

Vilket rimligen strider mot 5 juli-deklarationens skrivning om rätten att fritt uttrycka sig utan hänsyn till nationsgränser.

Det är också värt att notera att våra politiker ofta ägnar sig åt påtryckningar (utanför den demokratiska processen) mot sociala media. Syftet är att inskränka yttrandefriheten – inte genom lagstiftning utan genom respektive plattforms användarvillkor.

Till detta kommer sociala medias egna censurivranden och en med polariseringen växande cancel-kultur.

Skall man sammanfatta, så har EU nu infört de verktyg som krävs för att begränsa medborgarnas rätt att fritt uttrycka sig online. Vilket leder oss in i en ny fas, nämligen hur dessa kommer att användas.

5 juli-deklarationen är därför mer aktuell idag än någonsin tidigare. Det är hög tid att se till att i vart fall de europeiska demokratierna lever upp till den.

Nu klubbas EU:s Digital Services Act

av Lämna en kommentar

Statligt utsedda nätgranskare och gränsöverskridande nätcensur blir konsekvensen av EU:s Digital Services Act, som just nu är på väg att godkännas.

Idag har EU:s ministerråd godkänt den (bakom stängda dörrar) slutförhandlade Digital Services Act (DSA). I morgon väntas Europaparlamentets utskott för den inre marknaden (IMCO) göra det samma. Sedan återstår bara ett sista OK från Europaparlamentet i plenum.

Detta innebär bland annat att statligt utsedda nätgranskare – så kallade Trusted Flaggers – med rätt att rekommendera sociala media att ta bort innehåll blir verklighet. Dessa skall, enligt dokumenten, företräda »kollektiva intressen« och kommer att ha en direktlina till de olika sociala plattformarna så att deras rekommendationer prioriteras.

Vi kommer även att få gränsöverskridande nedtagningsorder. Vilket innebär att myndigheter i ett EU-land kan beordra att innehåll skall censureras i en annan medlemsstat – även om detta innehåll inte är olagligt i det senare. Vad kan möjligen gå fel?

Det är även intressant vad som inte finns i DSA. Det finns ingen rätt till anonymitet. Inte någon rätt till kryptering. Det finns inte heller något skydd mot svepande datalagring eller uppladdningsfilter.

Nu återstår att se hur DSA kommer att tillämpas. Till exempel vilka som blir statligt utsedda nätgranskare och hur deras mandat kommer att omsättas i praktiken.

• Läs mer: Digital Service Act shows EU‘s unwillingness to take digital age into its own hands »

Trusted Flaggers – EU:s nya nätcensur dekonstruerad

av 3 kommentarer

Här är ett försök att enkelt förklara några av problemen med de nya statligt godkända nätcensorerna i EU:s Digital Services Act.

EU:s nya Digital Services Act (DSA, förordningen om digitala tjänster) är tänkt att anpassa unionens lagstiftning till dagens tekniska verklighet. Den innehåller både bra och dåliga saker. Till exempel skall olagligt material tas bort, vilket ger samma regler på nätet som i den fysiska världen. Vilket känns rimligt.

I en rättsstat skall yttrandefrihetens gränser sättas av lag som stiftats i god demokratisk ordning. Sedan är det upp till rättsväsendet att avgöra om ett visst yttrande överträtt denna gräns eller ej – i en fristående rättslig prövning, där den tilltalade har rätt att försvara sig.

Med DSA blir det annorlunda. Nu blir det inte någon rättslig prövning. Istället skall statligt godkända nätcensorer – Trusted Flaggers / »betrodda anmälare« – få en direktlinje till sociala media för att rekommendera vilket innehåll de tycker bör avlägsnas.

En Trusted Flagger kan vara en myndighet, en intresseorganisation, ett särintresse, en branschorganisation eller annan företrädare för vad förordningen kallar »kollektiva intressen«.

Här flyttar man alltså makten över yttrandefriheten från lag och rättsväsende till intressenter som är part i målet. Vilket känns direkt olämpligt.

I grunden är det tänkt att Trusted Flaggers skall identifiera vad de anser vara olagligt innehåll och anmäla detta till respektive sociala media för åtgärd. Men som i så många andra EU-förslag har allt fått ett eget liv i processen.

Redan i direktivets inledning kan vi läsa att Trusted Flaggers även skall hjälpa till med att identifiera information som är oförenlig med respektive socialt nätverks användarvillkor. Det vill säga innehåll som oftast inte är olagligt.

Statligt godkända nätcensorer skall alltså kunna rekommendera att innehåll som inte är olagligt skall avlägsnas från internet.

Här skall man komma ihåg att EU:s politiska beslutsapparat under många år använt sig av påtryckningar mot sociala media för att få dem att ändra sina användarvillkor på olika sätt. På så vis har man kunnat begränsa det fria ordet utan en massa krångel som lagstiftning, demokratisk process och offentlig debatt.

Längre in i texten (recital 58 & artikel 27) kan vi läsa att Trusted Flaggers även skall medverka vid analys av systemrisker; att de skall ha ett utökat samarbete med sociala media; att de skall medverka vid utbildning för sociala plattformar samt att de skall bidra till utformning av uppförandekoder.

Här har alltså makten över det fria ordet flyttats från lagstiftning och rättsväsende till användarvillkor och särintressen. Samt att de nya nätcensorerna kommer att få en massa extra uppgifter. Och det blir värre.

Till exempel är det värt att notera att vad som är lagligt respektive olagligt skiljer sig mellan olika länder – samtidigt som internet inte känner några nationsgränser.

I förordningen vill man att en myndighet i ett EU-land skall kunna beordra borttagning av innehåll på servrar i andra medlemsstater. Detta även om innehållet i fråga inte är olagligt i det land där servern står.

Vilket innebär att franska, polska och bulgariska inskränkningar i det fria ordet även kan komma att drabba Sverige – utan stöd i svensk lag, i sak.

Detta är verkligen inte bra. Man kan undra om politikerna förstår vad de sysslar med.

DSA är nu färdigbehandlad i Europaparlamentets utskott och i ministerrådet. Trilogförhandlingarna mellan kommissionen, rådet och parlamentet är avslutade. Allt är klappat och klart för beslut.

Under resans gång – i utskott och förhandlingar – har mycket lagts till utöver vad som anges ovan. Vi vet redan att mer som kan vara problematiskt och en hel del ny micro management tillkommit.

Enligt Europaparlamentets ansvariga tjänstemän kommer den slutliga texten dock inte att kunna offentliggöras förrän om ungefär två veckor.

Sedan är det klart för ministerrådet och parlamentet att snabbt klubba DSA. Och eftersom det är en förordning kommer den att gälla rakt av, exakt som den är skriven, i hela EU. (Till skillnad från direktiv, som inarbetas i varje medlemslands existerande lagstiftning)

EU:s Digital Services Act klar för beslut

av 2 kommentarer

Ingen rätt till anonymitet online, ingen rätt till kryptering, inget förbud mot datalagring eller uppladdningsfilter. Myndigheter i ett EU-land kan beordra borttagning av innehåll på servrar i en annan medlemsstat – även om det inte är olagligt i det senare. Dessutom statligt godkända nätcensorer. Det är några av punkterna från slutförhandlingen om EU:s nya Digital Services Act.

Efter 16 timmars förhandlingar mellan EU-kommissionen, ministerrådet och Europaparlamentet finns nu en överenskommelse om EU:s Digital Services Act. Det finns dock ingen sammanställd slutlig text ännu. Men en del saker vet vi redan.

Låt oss börja med att se hur Europaparlamentet presenterar saken i sitt pressmeddelande:

• Access to platforms’ algorithms now possible
• Online platforms will have to remove illegal products, services or content swiftly after they have been reported
• Protection of minors online reinforced; additional bans on targeted advertising for minors as well as targeting based on sensitive data
• Users will be better informed how content is recommended to them

En god nyhet är att användare som censureras av sociala media kan komma att få någon form av möjlighet att överklaga.

Så över till den mer kritiske ledamoten av Europaparlamentet Patrick Breyer (PP, DE):

»We were able to prevent removal obligations for search engines. We could also prevent the indiscriminate collection of the cell phone numbers of all uploaders to adult platforms, which would have endangered their privacy and the safety of sex workers due to foreseeable data hacks and leaks. Minors will be protected from surveillance advertising on online platforms. However, the ban on using sensitive personality traits (e.g. a person’s political opinion, diseases or sexual preferences) for targeted manipulation and targeting was heavily watered down.«

»Our online privacy will not be protected by a right to use digital services anonymously, nor by a right to encryption, a ban on data retention, or a right to generally opt-out of surveillance advertising in your browser (do not track). Freedom of expression on the Internet is not protected from error-prone censorship machines (upload filters), nor from arbitrary platform censorship. Cross-border removal orders issued by illiberal member states without a court order can take down media reports and information that is perfectly legal in the country of publication.«

Dessutom står förslaget om Trusted Flaggers (betrodda anmälare / statligt godkända nätcensorer) kvar, då det inte mött något egentligt motstånd eller ens ifrågasatts under förhandlingarna. Läs mer om problemen med Trusted Flaggers här »

Nu när förhandlingarna är klara kommer förordningen sannolikt att godkännas av EU:s ministerråd och Europaparlamentet utan ändringar.

Vi återkommer när det finns en slutlig, konsoliderad text.