Nätet till folket!
I denna kategori publicerar vi nyheter som rör inskränkningar av yttrandefriheten såväl online som i den fysiska världen. Vi ägnar speciell uppmärksamhet åt förslag om förhandscensur på nätet. Principen bör vara att den som publicerar något olagligt på nätet också bör vara ansvarig för det - och att detta ansvar kan utkrävas först när publicering har skett.
Läs min krönika om nätcensur, trusted flaggers och uppladdningsfilter i Bulletin, innan den hamnar bakom betalvägg:
EU:s nya hot mot yttrandefriheten »
”EU vill göra företrädare för ”kollektiva intressen” till statligt godkända nätcensorer och införa uppladdningsfilter för sociala media. Trots dessa uppenbara inskränkningar i yttrandefriheten förekommer ingen debatt i frågan.”
Utan att någon verkar bry sig om saken håller EU på att införa statligt godkända nätcensorer. Vilka kommer de att vara, hur skall de utses och av vem? Och vilka befogenheter kommer de att få? Som det ser ut just nu är risken att de kommer att få betydligt större makt än man från början tänkt sig, vilket kan bli problematiskt.
I EU-kommissionens förslag till Digital Services Act (Förordningen om digitala tjänster) introduceras begreppet trusted flaggers. Dessa är tänkta att bli statligt godkända nätgranskare – med en gräddfil till sociala medias abuse-avdelningar som på deras rekommendationer kan plocka bort innehåll.
• Vilka kan bli trusted flaggers?
I artikel 19 i DSA slås fast att trusted flaggers skall ”representera kollektiva intressen”. I recital 46 slås fast att trusted flaggers skall vara ”entiteter” och inte enskilda individer. En trusted flagger kan vara till exempel en myndighet, ”semi-offentliga” organ eller icke-statliga organisationer.
Organisationer skall kunna ansöka hos respektive medlemsstats Digital Services Coordinator (en ny befattning som föreslås i DSA) för att bli trusted flaggers.
Ett problem är att organisationer och andra som representerar kollektiva intressen som regel har en agenda. Det finns nästan alltid en mening med föreningen. Ofta är agendan mer eller mindre politisk. Ibland är sådana organisationer rena särintressen.
Räkna med att det kommer att bildas en kö av olika intresseorganisationer som vill bli statligt godkända nätpoliser – med makt att censurera och styra information inom sina respektive intresseområden.
Till sin själva konstruktion är alltså modellen med trusted flaggers inte objektiv – utan öppnar för att ge makt åt allehanda partiska organisationer och särintressen att styra över vad folk får uttrycka och posta på nätet.
Vad kan möjligen gå fel?
• Hur skall trusted flaggers utses?
Ur artikel 19 i DSA:
»The status of trusted flaggers under this Regulation shall be awarded, upon application by any entities, by the Digital Services Coordinator of the Member State in which the applicant is established…«
Varje medlemsland utser sin egen Digital Services Coordinator. Denne utser sedan trusted flaggers.
Vilket innebär att regeringen i länder som Polen och Ungern kommer att utse den som i sin tur utser trusted flaggers. Skulle Vänsterpartiet eller Sverigedemokraterna få makten i Sverige, då blir det de som ytterst får makten över de nya nätpoliserna.
I slutändan ligger makten över den nya nätcensuren alltså hos den för tillfället sittande regeringen i respektive medlemsstat. Vilket kanske inte alltid är helt lyckat. I vart fall inte ur ett demokrati- och yttrandefrihetsperspektiv.
Vad kan möjligen gå fel?
• Steget från trusted flaggers till riktiga nätcensorer
I kommissionens förlag till DSA får trusted flaggers som sagt en gräddfil till sociala medias abuse-avdelningar. Men det är ändå hos respektive plattform som det slutliga beslutet om att ta bort material ligger. Än så länge.
I Europaparlamentet har ett ändringsförslag börjat vinna mark (i bl.a. JURI) som säger att innehåll som anmäls av trusted flaggers alltid skall plockas ner. Punkt.
I så fall får vi skarp nätcensur, på riktigt.
Vad kan möjligen gå fel?
• Med uppladdningsfilter hålls oönskat innehåll borta för alltid
Samtidigt finns det krafter i EU-apparaten som vill att uppladdningsfilter skall införas som något slags allmänt verktyg i DSA. Syftet är att information som plockats ner en gång inte skall kunna laddas upp igen.
Till att börja med innebär det att allt som alla skriver eller postar (länkar, bilder, ljud, videos m.m.) måste granskas av maskiner innan det kan publiceras – eller stoppas.
Dessutom kan det leda till att sådant som censurerats av till exempel politiska skäl kan komma att hållas borta från nätet för alltid. Även om informationen i fråga med tiden skulle visa sig vara korrekt eller av allmänintresse.
Tankarna går till George Orwells 1984.
Vad kan möjligen gå fel?
Skall yttrandefrihetens gränser sättas av lag – eller skall olika särintressen tillåtas censurera sociala media? Den frågan är plötsligt högaktuell vad gäller EU:s Digital Services Act.
Vi har tidigare rapporterat om behandlingen av EU:s Digital Services Act – Förordningen om digitala tjänster – i Europaparlamentet. Ju mer man gräver i materialet, ju mer anmärkningsvärt blir det. I sin genomgång hittar Piratpartiet ytterligare en anmärkningsvärd detalj från parlamentets rättsliga utskott, JURI.
Det handlar om så kallade Trusted Flaggers – som skall vara statligt utsedda nätgranskare som företräder ”kollektiva intressen” och som skall ha en gräddfil till sociala medias abuse-avdelningar.
»JURI vill i sin tur ta detta redan problematiska koncept ännu längre, och föreslår att det material som rapporteras av ”trusted flaggers” ska tas bort automatiskt, utan granskning. Det vore – utan minsta överdrift – att inrätta statligt godkända censorer av internet.«
I sammanhanget kan det vara värt att fundera lite över begreppet ”kollektiva intressen” ovan. Vad är det? Vilka är det?
Rimligen lär det handla om intresseorganisationer – som även kan betraktas som särintressen. En intresseorganisation har som regel en agenda. Och nu vill man alltså ge dem makt att censurera sociala media, utan vidare granskning.
Frågan är om det är så lämpligt att låta särintressen censurera nätet. Om vi alls skall ha nätcensorer på nationell nivå – då bör de givetvis vara oberoende, opartiska och höjda över all misstanke om att driva en egen agenda.
Hela frågan om trusted flaggers känns som ett typexempel på missriktad välvilja som kan få oväntade och oönskade konsekvenser.
I en demokratisk rättsstat skall gränserna för yttrandefriheten sättas av lag och i förekommande fall genomgå en opartisk bedömning i domstol. Inte bestämmas av olika intresseorganisationer.
Utan att någon tycks ta någon direkt notis om saken är vi på väg att införa förhandscensur på internet. Inom kort kan maskiner och algoritmer bestämma vad du tillåts säga och uttrycka.
I Sverige är förhandscensur av pressen uttryckligen förbjuden i grundlagen. Vilket är en bra princip. Man skall inte behöva få ett godkännande av staten innan man publicerar information och åsikter. Skulle något olagligt publiceras, då blir det en rättslig fråga i efterhand.
Samma princip bör gälla för alla som publicerar sig online. Så kommer dock inte att vara fallet nu när EU:s nya upphovsrättsdirektiv blir svensk lag. De krav den nya lagstiftningen ställer kommer att leda till uppladdningsfilter. Alltså automatiska filter som granskar och godkänner eller stoppar innehåll innan publicering skett. Det vill säga förhandscensur.
Förhandscensur handlar alltså om att information stoppas innan den nått andra. Vilket är en påtaglig inskränkning av yttrandefriheten.
Upphovsrättsdirektivet är bara början. Förordningen om terror-relaterat innehåll online (TERREG) ställer också krav som endast kan mötas med automatiska uppladdningsfilter. Och i EU:s nya Digital Services Act vill många se uppladdningsfilter som något slags allmänt verktyg för att hålla oönskat material borta från nätet.
Till att börja med bör alla som använder sociala media och andra nätplattformar vara medvetna om att allt vi laddar upp kommer att granskas av censurmaskinerna. Skall man kunna stoppa vissa former av innehåll, ja då måste man ju skanna allt.
Sedan har vi frågan om vad som skall censureras av algoritmerna. Den gränsen kommer inte nödvändigtvis att dras vid vad som är lagligt respektive olagligt. I ministerrådet finns krafter (t.ex. Frankrike) som även vill censurera icke olagliga uttryck som kan anses hatiska eller hotfulla. Det vill säga censur utan lagligt stöd. Vilket är oacceptabelt. Plus att det inte är självklart eller oomstritt vad som kan betraktas som hatiskt.
Slutligen det uppenbara: Om man ger staten rätt att införa förhandscensur och att bestämma dess former – då kan detta komma att missbrukas av ondsinta eller inkompetenta politiker och deras funktionärer.
Nu är frågan om svenska folket kommer att protestera när det införs förhandscensur – eller om vi skall vänta tills det är för sent.
Det började så bra. Internet var fria flöden av information, medborgarjournalistik, bloggbävningar, aktivism och synergieffekter som uppstod när människor som är geografiskt utspridda kopplades samman globalt. Porrindustrin gick i täten för att visa på nätets oerhörda kommersiella potential. Allt var fritt och kreativiteten flödade.
Först ut bland internets fiender var upphovsrättsindustrin. Den vägrade anpassa sig till en ny marknad. Musik skulle säljas på CD och film på DVD. Men verkligheten brydde sig inte. Om inte Big Entertainment vill tillhandahålla det folk vill ha online, då hamnar det där ändå.
En lång rad förslag lades fram på EU-nivå. Det började med att man ville att internetleverantörerna, ISP:arna skulle bli nätpoliser. Och att fildelare skulle stängas av från internet. De förslagen föll, men följdes av en rad nya.
Senast ut var upphovsrättsdirektivet med sina ansvarskrav som kommer att leda till uppladdningsfilter. Den matchen vann nöjesindustrin, efter att Europaparlamentet med hårfin marginal (och ett par ledamöter som röstade fel) biföll direktivet i sin nuvarande form.
Efter Big Entertainment kom Big Media. Inte nog med att internet lett till att vem som helst nu kan bli publicist. Med en mer decentraliserad samhällsdebatt kan media inte längre dominera agendan på samma sätt som tidigare. Vilket kan vara extra irriterande om man bedriver agenda-driven journalistik. Gammelmedia förlorade helt enkelt mycket av sin makt.
Big Medias andra problem är hur de skall lyckas ta betalt när allt ändå finns gratis på internet. Oviljan mot den nya verkligheten har varit lika stor inom pressen som nöjesindustrin. Därför har media länge ägnat sig åt krypskytte mot internet.
Även Big Media fick vad de hoppats på i upphovsrättsdirektivet – länkavgift, a.k.a. länkskatt. Tanken är att om man länkar till media, då skall media ha betalt. Vilket ju är helt bakvänt.
Detta kommer delvis att lösas med licensavtal mellan de sociala mediejättarna och de stora drakarna och insamlingssällskap. Vilket kommer att leda till att sociala media kan släppa fram SVT, DN och Aftonbladet utan risk, men inte lika självklart små medieaktörer som inte omfattas av avtalen med jättarna.
Internets tredje fiende är Big Government. Makthavare gillar helt enkelt inte när folk ifrågasätter och lägger sig i. Vilket är precis vad internet gjort möjligt. Därför är det inte förvånande att politikerna med liv och lust ger sig i kast med att reglera internet.
Den som läser denna blogg kan se hur överheten lägger fram förslag efter förslag som kringskär internts frihet, inskränker yttrandefriheten och ökar övervakningen.
Även politiken fick något när upphovsrättsdirektivet klubbades, nämligen ovan nämnda uppladdningsfilter. När dessa väl finns på plats – då ligger makten över vad som skall släppas fram respektive censureras ytterst hos politikerna. Vars omdöme inte alltid är på topp. Och som ser nätet som ett hot mot sin egen makt.
På fredagen presenterade regeringen en 400-sidig remiss – Upphovsrätten på den digitala inre marknaden – som innehåller förslag till hur EU:s nya upphovsrättsdirektiv skall bli svensk lag. I denna första av en serie bloggposter kommer vi att fokusera på själva lagtexten i några centrala punkter och vad den innebär.
• Uppladdningfilter
På samma sätt som i EU-direktivet så kräver man inte uttryckligen uppladdningsfilter – men sätter samtidigt upp regler som kommer att göra dem nödvändiga i praktiken.
52 l §
En tjänsteleverantör ska inte ansvara för en olovlig överföring enligt 52 j § om leverantören, efter att ha fått en tillräckligt välgrundad underrättelse från rättsinnehavaren, skyndsamt hindrar tillgång till innehållet. För att ansvarsfrihet ska föreligga krävs även att leverantören har gjort det som skäligen kan krävas för att
1. få nödvändiga tillstånd till de överföringar till allmänheten som leverantören gör på tjänsten, och
2. säkerställa att innehåll som medför intrång i upphovsrätten till verk som rättsinnehavarna har försett leverantören med relevant och nödvändig information om, inte görs tillgängligt på tjänsten.
För att lyckas med detta måste man inspektera allt som alla laddar upp. Det enda praktiska sättet att göra detta är med automatiska uppladdningsfilter – som ju inte förstår kontext. Vilket i sin tur kommer att leda till att innehåll som bör få laddas upp stoppas genom överblockering.
Sedan kan man också fundera över de praktiska problemen med att nätplattformar skall behöva skaffa tillstånd / licenser för allt möjligt som folk vill ladda upp. Men mer om det i en senare bloggpost.
• Länkskatt
Reglerna för ersättning till media för material som återges i sociala media och på andra nätplattformar återkommer på flera olika ställen i den föreslagna lagtexten. Nyckelpargrafen är denna:
48 b §
En utgivare av en presspublikation har, med de inskränkningar som föreskrivs i denna lag, en uteslutande rätt att genom en informationssamhällets tjänst och för användning på internet förfoga över sin presspublikation genom att
1. framställa exemplar av presspublikationen, och
2. göra presspublikationen till- gänglig för allmänheten på ett sådant sätt att enskilda kan få tillgång till den från en plats och vid en tidpunkt som de själva väljer.
Rätten enligt första stycket omfattar inte
1. enskilda användares förfoganden som inte sker i förvärvssyfte,
2. hyperlänkningsåtgärder, eller
3. användning av mycket korta utdrag ur en presspublikation.
Rätten enligt första stycket gäller till utgången av det andra året efter det år då presspublikationen offentliggjordes.
Detta innebär att allt som inte är en ren länk eller ett mycket kort utdrag kan leda till att plattformen måste ge ekonomisk ersättning till det media man citerar. Hur detta skall ske är en smula komplicerat, så vi återkommer även med en separat bloggpost om detta under veckan.
Fortfarande måste man fråga sig var logiken ligger i att en nätplattform som driver trafik till en mediesite skall tvingas betala för att göra detta.
• Fair use
Det finns även positiva nyheter. Till exempel detta undantag:
52 p §
En användare får, trots 2 §, tillgängliggöra verk för citat, kritik och recensioner och i karikatyr-, parodi- eller pastischsyfte på en tjänst som avses i 52 i §. Bestämmelserna i 11 § andra stycket ska tillämpas i sådana fall.
Användaren har vidare rätt att, utan hinder av åtgärder som vidtas enligt 52 l §, använda verk enligt första stycket och även i övrigt tillgängliggöra innehåll som inte medför intrång i upphovsrätt på tjänsten.
Tjänsteleverantören ska i sina användarvillkor informera användarna om deras rätt enligt denna paragraf.
Vilket innebär att svensk lagstiftnings citaträtt utökas.
• Användares rättigheter vid felaktig filtrering
Här regleras vad som skall ske om man anser att man fått lagligt innehåll (avseende upphovsrätt) censurerat.
Klagomål
52 q §
En tjänsteleverantör ska ha rutiner för att kunna hantera klagomål från användare av tjänsten när tillgången till innehåll som de laddat upp har hindrats till följd av en åtgärd som vidtagits med stöd av 52 l §.
Den berörda rättsinnehavaren ska få tillfälle att yttra sig över klagomålet och vederbörligen motivera sin begäran om att tillgången till innehållet ska hindras.
Klagomål ska avgöras skyndsamt och senast inom sju dagar. Om rättsinnehavarens begäran inte är vederbörligen motiverad, ska innehållet återställas. Ett beslut om att inte återställa tillgången till innehållet ska föregås av en fysisk granskning.
Skadestånd
52 r §
Om en tjänsteleverantör uppsåtligen eller av oaktsamhet åsidosätter sina skyldigheter enligt 52o§ och en användare lider skada av åsidosättandet, ska tjänsteleverantören ersätta skadan.
Föreläggande att vidta rättelse
52 s §
Om en tjänsteleverantör åsidosätter sina skyldigheter enligt 52 o § eller 52 q § första eller tredje stycket får en domstol vid vite förelägga leverantören att vidta rättelse.
En talan om föreläggande enligt första stycket får väckas av en användare eller av en organisation som företräder ett flertal användare.
Detta är bara något av vad som föreslås i regeringens remiss. Vi kommer att gräva ner oss i materialet och återkomma med fler bloggposter i ämnet.
Notera att detta är en remiss, inte nödvändigtvis ett slutligt lagförslag. Detta är samtidigt en chans för alla som har åsikter att komma in med remissvar.
Fortsättning följer.
• Regeringen: Justitiedepartementet remitterar förslag om hur EU-direktivet om upphovsrätten på den digitala inre marknaden ska genomföras i Sverige »
• Remissen (PDF) »
Visst, sociala media har många fel och brister. Men blir det verkligen bättre för att vi ger politiken ökad makt över dem? Två fel gör inte nödvändigtvis ett rätt.
På båda sidor Atlanten pågår just nu politisk debatt och lagstiftning om sociala media. Frågan är vad man skall få säga på internet, eller i vart fall på dess plattformar.
Även om EU-kommissionen inte föreslagit det, så håller frågan om uppladdningsfilter på att smyga sig in i the Digital Services Act, DSA. Ministerrådet och Europaparlamentet är de skyldiga.
Uppladdningsfilter granskar allt som alla skriver, delar eller lägger upp. Sedan kommer algoritmer i ett datoriserat beslutssystem att bestämma om du skall få framföra din åsikt eller dela din information. Det mesta kommer att passera. Men inte allt.
Vad som skall stoppas respektive släppas igenom avgörs i slutändan av politiska beslut. Vilka snabbt kan ändras. Inte alltid av ädla skäl.
Förvisso kan sådana beslut fattas i god demokratisk ordning. Men bara för att man kan samla ihop en majoritet behöver det inte betyda att det man gör är rätt.
De grundläggande rättigheterna är till för att en majoritet inte skall kunna förtrycka en minoritet.
Det är därför till exempel yttrandefriheten är så viktig. Utan den kan man inte göra sin röst hörd och då inte heller hävda sina övriga rättigheter.
Denna yttrandefrihet begränsas de facto av nämnda uppladdningsfilter.
Bara tanken – att filtrera den information medborgarna delar sinsemellan, så att inget otillåtet eller olämpligt slinker med…
Hur kan ett sådant system inte komma att missbrukas i allehanda syften?
Uppladdningsfilter, gränsöverskridande order om att ta ner innehåll samt av-kryptering och granskning av meddelanden och mail – det blev resultatet av gårdagens omröstning om EU:s Digital Services Act i Europaparlamentets rättsliga utskott.
Nu har vi resultatet från gårdagens omröstning om EU:s Digital Services Act (DSA) i Europaparlamentets rättsliga utskott (JURI). Ledamoten Patrick Breyer (PP, DE) meddelar resultatet på Twitter och på sin blogg.
Uppladdningsfilter: Utskottet röstade ja. De gröna/PP, hälften av socialdemokraterna och en liberal röstade nej.
Gränsöverskridande order om att ta ner innehåll på plattformar i andra länder: Utskottet röstade ja. De gröna/PP, socialdemokraterna och en liberal röstade nej.
Av-kryptering och granskning av innehåll i meddelanden och mail: Utskottet röstade ja. De gröna/PP, tre socialdemokrater och en liberal röstade nej.
Nedtagning av icke-auktoriserat strömmat innehåll inom 30 minuter (!): Utskottet röstade ja. De gröna/PP, tre socialdemokrater, alla liberaler och en från den nationalistiska gruppen (iD-gruppen) röstade nej.
DSA bereds just nu i flera utskott i Europaparlamentet och i ministerrådet. På sin utmärkta samlingssida om DSA förklarar Piratpartiet:
»Efter omröstningen i JURI överlämnas utskottets åsikter till det ansvariga utskottet IMCO. IMCO ska rösta fram ett förslag till parlamentets ståndpunkt den 8 november. Därefter ska hela EU-parlamentet antingen ge stöd till IMCO:s förslag eller avslå det under sin plenumsession i december. Om parlamentet godtar IMCO:s förslag (troligt) går DSA sedan vidare till förhandlingar mellan parlamentet, ministerrådet och kommissionen under 2022.«
Läs mer hos Patrick Breyer och hos Piratpartiet.
Slut på end-to-end-kryptering, nya generella uppladdningsfilter och gränsöverskridande nätcensur är några av konsekvenserna om en av Europaparlamentets rapportörer för The Digital Services Act får sin vilja igenom.
EU:s nya Digital Services Act (DSA) håller just nu på att tröskas genom beslutsapparaten. I morgon, torsdag, skall Europaparlamentets utskott för rättsliga frågor (JURI) rösta om sitt utlåtande – som är författat av en konservativ fransk ledamot. Några nedslag:
Bland annat vill den ansvarige ledamoten Geoffroy Didier att DSA inte bara skall handla om sådant som publiceras offentligt, fritt för andra att ta del av. Han vill att den nya lagtiftningen även skall omfatta privata meddelanden. Utöver att detta strider mot brevhemligheten, rätten till privat kommunikation och rätten till privatliv innebär detta att myndigheterna även måste bereda sig tillgång till medborgarnas krypterade meddelanden.
Didier vill även se uppladdningsfilter för att permanent hålla oönskat innehåll borta från nätet. Vilket innebär att allt som alla laddar upp måste granskas och godkännas i förväg. Vilket är lika med förhandscensur – som kommer att skötas av maskiner och algoritmer som saknar sinne för sammanhang, legitima undantag och humor.
Rapportören vill även att JURI tar ställning för gränsöverskridande nedtagningsorder. Det vill säga att myndigheter i ett EU-land skall kunna beordra att innehåll på plattformar och servrar i andra medlemsstater skall plockas bort. Vilket kommer att leda till ett race-to-the-bottom, där alla enskilda länders strängaste åsiktslagar kommer att påtvingas hela EU.
Som om inte det är illa nog vill Didier att en nedtagningsorder i ett EU-land även skall gälla globalt. Man kan lätt inse att sådant kan komma att straffa sig genom att länder som Ryssland och Kina då kan komma att kräva att information som de ogillar även skall censureras i EU.
Den piratpartistiske ledamoten v Europaparlamentet Patrick Breyer (PP, DE) säger:
»The Rapporteur’s proposals are radical. They would i.e. threaten the secrecy of private correspondence and end-to-end encryption, mandate and encourage error-prone ex-ante upload filtering, introduce excessively short content take-down delays, enforce excessive national laws (e.g. in Poland or Hungary) throughout the EU and even globally, turn ‚trusted flaggers‘ into ‚trusted censors‘ and much more. I expect the vote to be very tight on several of these issues.«