Nätet till folket!
Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.
Läs min krönika om nätcensur, trusted flaggers och uppladdningsfilter i Bulletin, innan den hamnar bakom betalvägg:
EU:s nya hot mot yttrandefriheten »
”EU vill göra företrädare för ”kollektiva intressen” till statligt godkända nätcensorer och införa uppladdningsfilter för sociala media. Trots dessa uppenbara inskränkningar i yttrandefriheten förekommer ingen debatt i frågan.”
Idag och i morgon hålls förhandlingar i Storbritanniens High Court vad gäller utlämning av Wikileaks grundare och chefredaktör Julian Assange till USA. I samband med detta kan det vara läge att uppmärksamma vissa fakta i målet.
Detta har hänt: USA vill ha Wikileaks chefredaktör Julian Assange utlämnad för spioneri kopplat till att man anser att han uppmanat källor att hacka amerikanska system. Utlämnas han riskerar han upp till 175 år i fängelse. Brittisk domstol har avslagit detta på humanitära grunder. Beslutet har överklagats av amerikanska myndigheter.
Här kan det vara på sin plats att hålla ett par saker i minne.
För det första har USA:s nyckelvittne tagit tillbaka sina uppgifter och exponerats som en mytoman. Denna person sitter idag i fängelse på Island för upprepad brottslighet.
För det andra har det avslöjats att amerikanska myndigheter diskuterat möjligheten att kidnappa och möjligen även döda Assange. Vilket knappast kan stärka deras sak.
För det tredje har Wikileaks tagit emot och publicerat läckt information, precis som vilken vanlig nyhetsredaktion som helst. Det Wikileaks har publicerat har i stora delar även publicerats av respekterad mainstreammedia i USA och resten av världen. Skulle Assange utlämnas och sedan fällas är detta ett hot mot tryckfriheten och pressens frihet.
Tunga aktörer som Amnesty International och internationella journalistorganisationer kräver att målet mot Assange läggs ner och att han försätts på fri fot.
Detta kan vara bra att känna till, då det inte alltid framgår av den vanliga rapporteringen i media.
Utan att någon verkar bry sig om saken håller EU på att införa statligt godkända nätcensorer. Vilka kommer de att vara, hur skall de utses och av vem? Och vilka befogenheter kommer de att få? Som det ser ut just nu är risken att de kommer att få betydligt större makt än man från början tänkt sig, vilket kan bli problematiskt.
I EU-kommissionens förslag till Digital Services Act (Förordningen om digitala tjänster) introduceras begreppet trusted flaggers. Dessa är tänkta att bli statligt godkända nätgranskare – med en gräddfil till sociala medias abuse-avdelningar som på deras rekommendationer kan plocka bort innehåll.
• Vilka kan bli trusted flaggers?
I artikel 19 i DSA slås fast att trusted flaggers skall ”representera kollektiva intressen”. I recital 46 slås fast att trusted flaggers skall vara ”entiteter” och inte enskilda individer. En trusted flagger kan vara till exempel en myndighet, ”semi-offentliga” organ eller icke-statliga organisationer.
Organisationer skall kunna ansöka hos respektive medlemsstats Digital Services Coordinator (en ny befattning som föreslås i DSA) för att bli trusted flaggers.
Ett problem är att organisationer och andra som representerar kollektiva intressen som regel har en agenda. Det finns nästan alltid en mening med föreningen. Ofta är agendan mer eller mindre politisk. Ibland är sådana organisationer rena särintressen.
Räkna med att det kommer att bildas en kö av olika intresseorganisationer som vill bli statligt godkända nätpoliser – med makt att censurera och styra information inom sina respektive intresseområden.
Till sin själva konstruktion är alltså modellen med trusted flaggers inte objektiv – utan öppnar för att ge makt åt allehanda partiska organisationer och särintressen att styra över vad folk får uttrycka och posta på nätet.
Vad kan möjligen gå fel?
• Hur skall trusted flaggers utses?
Ur artikel 19 i DSA:
»The status of trusted flaggers under this Regulation shall be awarded, upon application by any entities, by the Digital Services Coordinator of the Member State in which the applicant is established…«
Varje medlemsland utser sin egen Digital Services Coordinator. Denne utser sedan trusted flaggers.
Vilket innebär att regeringen i länder som Polen och Ungern kommer att utse den som i sin tur utser trusted flaggers. Skulle Vänsterpartiet eller Sverigedemokraterna få makten i Sverige, då blir det de som ytterst får makten över de nya nätpoliserna.
I slutändan ligger makten över den nya nätcensuren alltså hos den för tillfället sittande regeringen i respektive medlemsstat. Vilket kanske inte alltid är helt lyckat. I vart fall inte ur ett demokrati- och yttrandefrihetsperspektiv.
Vad kan möjligen gå fel?
• Steget från trusted flaggers till riktiga nätcensorer
I kommissionens förlag till DSA får trusted flaggers som sagt en gräddfil till sociala medias abuse-avdelningar. Men det är ändå hos respektive plattform som det slutliga beslutet om att ta bort material ligger. Än så länge.
I Europaparlamentet har ett ändringsförslag börjat vinna mark (i bl.a. JURI) som säger att innehåll som anmäls av trusted flaggers alltid skall plockas ner. Punkt.
I så fall får vi skarp nätcensur, på riktigt.
Vad kan möjligen gå fel?
• Med uppladdningsfilter hålls oönskat innehåll borta för alltid
Samtidigt finns det krafter i EU-apparaten som vill att uppladdningsfilter skall införas som något slags allmänt verktyg i DSA. Syftet är att information som plockats ner en gång inte skall kunna laddas upp igen.
Till att börja med innebär det att allt som alla skriver eller postar (länkar, bilder, ljud, videos m.m.) måste granskas av maskiner innan det kan publiceras – eller stoppas.
Dessutom kan det leda till att sådant som censurerats av till exempel politiska skäl kan komma att hållas borta från nätet för alltid. Även om informationen i fråga med tiden skulle visa sig vara korrekt eller av allmänintresse.
Tankarna går till George Orwells 1984.
Vad kan möjligen gå fel?
eBevis är förslaget om att myndigheter i ett EU-land skall kunna begära ut data direkt från företag i en annan medlemsstat – utan att blanda in det andra landets rättsväsende. Utöver att förslaget är onödigt så medför det en rad risker – vad gäller pressens frihet, känslig persondata, rätten att protestera samt rätten till en opartisk och rättvis rättegång.
Redan för ett år sedan beskrev EDRi förslaget så här:
»The initial e-evidence proposal by the Commission aims to allow law enforcement agencies across the EU to access electronic information more quickly by requesting it directly from online service providers in other EU countries. Unfortunately, the Commission forgot to build in meaningful human rights safeguards that would protect suspects and other affected persons from unwarranted data access.
The Commission proposal is not only harmful, but simply not needed at this point. To speed up cross-border access to data for law enforcement, there already is the European Investigation Order (EIO). It exists only since 2018 and has never been systematically evaluated, let alone improved.«
Skillnaden mot den europeiska utredningsordern (EIO) är alltså att man vill att myndigheterna i låt säga Bulgarien skall kunna begära ut information och data direkt från företag i exempelvis Sverige, utan att blanda in svenska myndigheter.
Vilket kan vara problematiskt när det land som begär ut uppgifter inte håller tillräcklig standard vad gäller opartiskt rättsväsende, demokratiska principer eller rättssäkerhet.
I ett brev (PDF) uttryckte EDRi och 25 andra organisationer (däribland Europeiska Journalistfederationen, European Broadcasting Union, de europeiska tidningsutgivarna, organisationen för den europeiska internetindustrin, Wikimedia och många andra) redan i våras sin oro. I stora drag delar man i detta brev samma invändningar som gjorts av Tysklands justitiedepartement och EU:s dataskyddsombudsman.
De krav man framförde är följande. Vi tar dem på engelska för att inget skall tappas bort i översättningen:
Man skrev även:
To conclude, we call on the negotiators to build a predictable, accountable legal structure for access to personal data across borders that does not undermine existing fundamental rights protection standards.
Vilket känns som ett högst rimligt krav. Speciellt i dessa tider då EU oroas över demokratin, det oberoende rättsväsendet och rättssäkerheten i flera medlemsländer.
Nu följs detta upp av EDRi och 13 andra medborgarrättsorganisationer som i ett antal scenarier visar hur förslaget om eBevis kan hota pressens frihet, känslig persondata, rätten att protestera samt rätten till en opartisk och rättvis rättegång. Läs om dessa scenarier i denna rapport (PDF).
Rapporten ger dessutom ett antal rekommendationer, som återges i faksimil under länkarna nedan.
Länkar:
• EDRi: Stories reveal profound flaws in the “e-Evidence Regulation” »
• Brev (PDF): Trilogue negotiations on the e-evidence proposal – European media and journalists, civil society groups, professional organisations and technology companies call on decision makers to protect fundamental rights »
• Ny rapport (PDF): Demonstrating gaps in the e-Evidence Regulation »
Skall yttrandefrihetens gränser sättas av lag – eller skall olika särintressen tillåtas censurera sociala media? Den frågan är plötsligt högaktuell vad gäller EU:s Digital Services Act.
Vi har tidigare rapporterat om behandlingen av EU:s Digital Services Act – Förordningen om digitala tjänster – i Europaparlamentet. Ju mer man gräver i materialet, ju mer anmärkningsvärt blir det. I sin genomgång hittar Piratpartiet ytterligare en anmärkningsvärd detalj från parlamentets rättsliga utskott, JURI.
Det handlar om så kallade Trusted Flaggers – som skall vara statligt utsedda nätgranskare som företräder ”kollektiva intressen” och som skall ha en gräddfil till sociala medias abuse-avdelningar.
»JURI vill i sin tur ta detta redan problematiska koncept ännu längre, och föreslår att det material som rapporteras av ”trusted flaggers” ska tas bort automatiskt, utan granskning. Det vore – utan minsta överdrift – att inrätta statligt godkända censorer av internet.«
I sammanhanget kan det vara värt att fundera lite över begreppet ”kollektiva intressen” ovan. Vad är det? Vilka är det?
Rimligen lär det handla om intresseorganisationer – som även kan betraktas som särintressen. En intresseorganisation har som regel en agenda. Och nu vill man alltså ge dem makt att censurera sociala media, utan vidare granskning.
Frågan är om det är så lämpligt att låta särintressen censurera nätet. Om vi alls skall ha nätcensorer på nationell nivå – då bör de givetvis vara oberoende, opartiska och höjda över all misstanke om att driva en egen agenda.
Hela frågan om trusted flaggers känns som ett typexempel på missriktad välvilja som kan få oväntade och oönskade konsekvenser.
I en demokratisk rättsstat skall gränserna för yttrandefriheten sättas av lag och i förekommande fall genomgå en opartisk bedömning i domstol. Inte bestämmas av olika intresseorganisationer.
Utan att någon tycks ta någon direkt notis om saken är vi på väg att införa förhandscensur på internet. Inom kort kan maskiner och algoritmer bestämma vad du tillåts säga och uttrycka.
I Sverige är förhandscensur av pressen uttryckligen förbjuden i grundlagen. Vilket är en bra princip. Man skall inte behöva få ett godkännande av staten innan man publicerar information och åsikter. Skulle något olagligt publiceras, då blir det en rättslig fråga i efterhand.
Samma princip bör gälla för alla som publicerar sig online. Så kommer dock inte att vara fallet nu när EU:s nya upphovsrättsdirektiv blir svensk lag. De krav den nya lagstiftningen ställer kommer att leda till uppladdningsfilter. Alltså automatiska filter som granskar och godkänner eller stoppar innehåll innan publicering skett. Det vill säga förhandscensur.
Förhandscensur handlar alltså om att information stoppas innan den nått andra. Vilket är en påtaglig inskränkning av yttrandefriheten.
Upphovsrättsdirektivet är bara början. Förordningen om terror-relaterat innehåll online (TERREG) ställer också krav som endast kan mötas med automatiska uppladdningsfilter. Och i EU:s nya Digital Services Act vill många se uppladdningsfilter som något slags allmänt verktyg för att hålla oönskat material borta från nätet.
Till att börja med bör alla som använder sociala media och andra nätplattformar vara medvetna om att allt vi laddar upp kommer att granskas av censurmaskinerna. Skall man kunna stoppa vissa former av innehåll, ja då måste man ju skanna allt.
Sedan har vi frågan om vad som skall censureras av algoritmerna. Den gränsen kommer inte nödvändigtvis att dras vid vad som är lagligt respektive olagligt. I ministerrådet finns krafter (t.ex. Frankrike) som även vill censurera icke olagliga uttryck som kan anses hatiska eller hotfulla. Det vill säga censur utan lagligt stöd. Vilket är oacceptabelt. Plus att det inte är självklart eller oomstritt vad som kan betraktas som hatiskt.
Slutligen det uppenbara: Om man ger staten rätt att införa förhandscensur och att bestämma dess former – då kan detta komma att missbrukas av ondsinta eller inkompetenta politiker och deras funktionärer.
Nu är frågan om svenska folket kommer att protestera när det införs förhandscensur – eller om vi skall vänta tills det är för sent.
Efter att Wikileaks 2017 publicerat information om amerikanska verktyg för massövervakning – Vault 7 – diskuterades planer på att kidnappa Julian Assange på hög politisk nivå i Washington. Inom CIA undersöktes även möjligheten att mörda honom. Man planerade också insatser mot andra medarbetare hos Wikileaks – samt att göra det möjligt att åtala fristående journalister som Glenn Greenwald och Laura Poitras.
I helgen avslöjade Yahoo News hur amerikansk underrättelsetjänst försökt komma åt Wikileaks grundare och redaktör Julian Assange. Redan tidigare har dokument avslöjat hur man planerat att svartmåla Wikileaks och fabricera anklagelser mot Assange. Denna gång gick man dock längre. På hög politisk nivå diskuterades möjligheten att kidnappa Assange.
Inom CIA diskuterades även att mörda honom och operativa insatser på Londons gator ifall Ryssland skulle försöka smuggla ut honom. Man undersökte även möjligheten att använda infiltratörer och att göra inbrott hos Wikileaks medarbetare eller att på annat sätt stjäla deras datorer.
Men det var inte bara Wikileaks som hamnade i skottgluggen. Även fristående journalister skulle oskadliggöras. Ur artikeln:
»Still chafing at the limits in place, top intelligence officials lobbied the White House to redefine WikiLeaks — and some high-profile journalists — as “information brokers,” which would have opened up the use of more investigative tools against them, potentially paving the way for their prosecution, according to former officials.«
»Among the journalists some U.S. officials wanted to designate as “information brokers” were Glenn Greenwald, then a columnist for the Guardian, and Laura Poitras, a documentary filmmaker, who had both been instrumental in publishing documents provided by Snowden.«
Julian Assange sitter idag i ett brittiskt högsäkerhetsfängelse medan förhandlingar pågår om utlämning till USA, där han riskerar 175 år i fängelse för sitt journalistiska arbete. US Department of Justices nyckelvittne har dock visat sig vara både mullvad för amerikanska myndigheter och mytoman. Han har nu offentligt tagit tillbaka sina påståenden.
Kärnfrågan – som från början hindrade Obama-administrationen från att ge sig efter Wikileaks – handlar om pressens frihet. Skulle man döma och fängsla Assange – då skulle all media som gör oönskade avslöjanden riskera samma sak.
Läs hela artikeln: Kidnapping, assassination and a London shoot-out: Inside the CIA’s secret war plans against WikiLeaks »
Europarådet har hållit en utfrågning kring spionprogramvaran Pegasus, som enligt uppgift använts för att övervaka journalister, oppositionella och politiker runt om i världen. Bland annat medverkade FN:s människorättskommissionär Michelle Bachelet. Här är ett par citat ur hennes anförande.
»Without minimal safeguards and control, expensive and highly intrusive technologies will continue to be used to monitor voices regarded as critical or hostile at home and abroad. These technologies, that detect and exploit vulnerabilities of digital communications without leaving any trace will keep being used as weapons to silence dissent and punish independent reporting.«
»First and foremost, the human rights law applicable here is clear: surveillance measures can only be justified in narrowly defined circumstances, based on the law. In addition, such measures must be both necessary and proportionate to a legitimate goal. Government hacking at the scale reported is never going to meet these criteria.«
Det skall tilläggas att även svenska myndigheter använder Pegasus eller snarlik spyware för övervakning, inom ramen för hemlig dataavläsning.
• Statement by United Nations High Commissioner for Human Rights, Michelle Bachelet »
Samtidigt som vanliga användare drabbas av Facebooks ofta oförklarliga censur och avstängningar – så kan 5,8 miljoner VIP-användare posta i princip vad som helst utan att riskera några konsekvenser.
Det började med XCheck som verkar ha varit ett sätt för Facebook att undvika dålig PR som kan orsakas av automatiserad censur av kändisar. Detta har med tiden utvecklats till ett slags vitlistning av miljontals VIP-användare, som släpper igenom sådant som andra skulle bli av med sitt konto för.
»Over the years, XCheck has allowed celebrities, politicians, athletes, activists, journalists, and even the owners of ”animal influencers” like “Doug the Pug” to post whatever they want, with few to no consequences for violating the company’s rules.«
Ett läckt internt Facebook-memo har i delar publicerats av Wall Street Journal och ArsTechnica:
»For a select few members of our community, we are not enforcing our policies and standards« (…) »Unlike the rest of our community, these people can violate our standards without any consequences.«
Man skall inte underskatta att Facebook går en knepig balansgång vad gäller moderering. Men detta måste sticka i ögonen på alla vanliga användare som blivit censurerade på grund av struntsaker eller av oklar anledning.
Facebook är ett privat företag och de får göra rätt mycket som de vill. Men de kan inte vänta sig att undgå kritik när de ger olika användare olika ”rättigheter”. Speciellt inte med tanke på förtagets dominerande ställning inom sociala media.
Uppladdningsfilter tycks vara på väg att bli något slags standard i EU:s internetrelaterade lagstiftning. Men vill vi verkligen att allt vi laddar upp till publika plattformar skall förhandscensureras – av maskiner?
Det började med artikel 17 i EU:s nya upphovsrättsdirektiv (EUCD) – som i praktiken kommer att leda till uppladdningsfilter. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) – som också kommer att leda till uppladdningsfilter. Och vad gäller den föreslagna Digital Services Act (DSA) finns det starka krafter som vill lägga till uppladdningsfilter som något slags allmänt verktyg för att motverka att oönskat innehåll sprids.
Till att börja med måste vi fråga oss om det alls är lämpligt eller önskvärt att all text, alla bilder, all video, alla ljudfiler med mera som vi lägger upp på olika plattformar skall förhandscensureras.
Det rimliga borde var att om någon på nätet – precis som i övriga livet – gör något olagligt, då blir detta en fråga för rättsväsendet när handlingen väl har skett. Om detta sedan kan slås fast i en oberoende rättslig process, då kan innehållet tas ner.
Därför är förhandscensur av pressen förbjuden i Sverige. Detsamma borde gälla online.
Nästa fråga är om vi verkligen vill att sådan censur skall skötas av maskiner. Algoritmer klarar inte att ta hänsyn till sammanhang, förstå humor eller satir, göra undantag för memer eller kritik. Man kan med säkerhet säga att uppladdningsfilter kommer att stoppa mer information än vad som från början var tänkt. Det vill säga även information som bör få publiceras.
En tredje invändning är att om uppladdningsfilter väl finns på plats, då är det en enkel sak att utöka deras användningsområde. Sådan ändamålsglidning förekommer nästan alltid.
Jag förundras över hur vissa politiska partier kan hävda att om andra partier kommer till makten, då hotas den svenska demokratin – samtidigt som de förstnämnda inte tvekar att rulla ut verktyg för censur, kontroll och övervakning som ju faktiskt kan användas av framtida regeringar just för att inskränka den svenska demokratin.