EU:s ministerråd vill inte bara att olagligt material skall avlägsnas från internet – utan även hat och hot, även om det i sig inte är olagligt.
Rättssäkerhet
Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.
Facebook sätter upp principer för censur av satir
Facebook och dess oversight board håller på att utarbeta principer för att moderera satir.
En av dessa principer som håller på att utkristalliseras är att satir inte bör »slå nedåt«. Vilket öppnar för helt nya tolkningsproblem.
Hur gör man till exempel med ett påbud eller en lag som kommer från politiken, som uppges syfta till att stärka någon marginaliserad grupp – men som till sin utformning ändå är tveksam, kontraproduktiv, rättsvidrig eller bara fånig? Skall sådant inte vara möjligt att häckla, bara för att det påstådda syftet kan anses vara gott?
Det kommer att uppstå uppenbara tolkningsproblem om man skall dra något slags gräns mellan saklig kritik och innehåll som gör sig lustig över ett förslag, en företeelse, en händelse eller något annat. På detta sätt håller Facebook på att trassla in sig i resonemang och tolkningar som kan få mycket märkliga, oväntade och oönskade konsekvenser.
Vi har sagt det förr: Livet skulle bli mycket lättare för sociala media om de höll sig till grundprincipen att bara begränsa yttranden som är olagliga.
• Länk: Facebook’s New Announcement on Satire Doesn’t Bode Well for the Babylon Bee… »
Regeringen i samtal med Facebook och Google om demokrati och mänskliga rättigheter
I en tyvärr sprakande och nästan ohörbar web-sändning organiserade Utrikesdepartementet idag ett samtal om demokrati på nätet mellan ansvariga ministrar och Facebook & Google.
Regeringens pressmeddelande:
»Demokrati på internet är temat för det dialogmöte som initierats av utrikesminister Ann Linde, kultur- och demokratiminister Amanda Lind och energi- och digitaliseringsminister Anders Ygeman onsdagen den 16 juni. I dialogen deltar Janne Elvelid, samhällspolitisk chef på Facebook Sverige, Sara Övreby, samhällspolitisk chef på Google Sverige, Marcin de Kaminski, chef för säkerhet och innovation på Civil Rights Defenders och Nadja Dolata, sakkunnig inom mänskliga rättigheter, genus och innovation. Samtalet modereras av journalisten Emanuel Karlsten.«
Regeringen efterlyste mer insatser mot hat och hot på nätet. Facebook efterlyste vägledning från politikerna. Google försökte förklara hur nätet fungerar. Civil Rights Defenders pekade på att detta är en debatt på ett sluttande plan där man måste upprätthålla de grundläggande fri- och rättigheterna. Och Dolata påpekade att det främst är människor i utsatta positioner som drabbas om yttrandefriheten inskränks.
Utrikesminister Ann Linde (S) tycktes i sammanhanget vara mest upprörd över att internet finns och att det ger möjlighet för folket att säga vad det tycker.
Att olagligt material skall plockas ner från plattformarna, det verkar alla vara överens om. Och det är vad som föreslås i EU:s Digital Services Act. Så – med risk för att tjata – vad som diskuteras är i vilken mån icke olagligt material skall plockas ner och i så fall vad och hur.
Frågan är hur man hade tänkt sig att politiken och statens våldsmonopol skall kunna ta ner material som inte är olagligt. Det vill säga lagligt. Det kan ju då knappast ske genom lagstiftning.
Alternativet är att politiken påverkar vad sociala media och nätplattformar skriver in i sina användarvillkor. Och då har man plötsligt genomfört en inskränkning av yttrandefriheten – efter politiska påtryckningar men utanför den öppna demokratiska processen och utanför lagstiftningen. Så är det till viss del redan. Och det är ett problem. Vill politikerna inskränka det fira ordet, då måste det ske genom lag som stiftas av riksdagen.
Räkna med att detta kommer att bli en stor fråga, inte minst på EU-nivå.
I många små steg inskränker EU det fria ordet online
Ett par saker håller just nu på att hända samtidigt i EU.
Dels är EU:s nya Digital Services Act (DSA) på väg att kapas av krafter som vill förbjuda även icke olagliga yttranden på nätet och som vill använda förordningen för att införa allmänna uppladdningsfilter.
Samtidigt har vi den nya förordningen om terror-relaterat innehåll online som vill se rutiner för att oönskat material plockas ner inom en timma, som ger myndigheter i ett EU-land rätt att stänga ner innehåll på servrar i andra länder – och som också kommer att leda till uppladdningsfilter.
I bakgrunden pågår arbete med en ny Code of Conduct on countering illegal hate speech online samt en European Democracy Action Plan. Båda syftar till att bekämpa hat och hot online och kan bli pådrivande för att skärpa sociala medias användarvillkor ytterligare.
Detta är bara några exempel på lagstiftning på gång som rör det fria ordet online i EU. De är var för sig oroväckande. Tillsammans kan de mynna ut i en censurapparat vars motsvarighet vi aldrig tidigare skådat.
Sedan blir det den för tillfället rådande politiska majoriteten, de för tillfället rådande politiska trenderna eller den senaste moralpaniken som kommer att styra vad som får uttryckas på nätet.
Vad som definieras som »hat« eller vem som är att betrakta som »terrorist« kan ändras med ett klubbslag.
Sluta censurera sådant som inte är olagligt
Att reglera internet och att övervaka folket tycks vara en prioriterad politisk uppgift. Det går med en rasande fart nu.
Pandemin har förmodligen gjort det lättare. Never waste a good crisis.
Jag noterar att Europol nu har börjat punktmarkera såväl högerextremister som vänsterextremister, islamister och corona-förnekare online. Vad jag förstår använder man sig inte av lagen, eftersom en del av det material man vill ha bort inte är olagligt. Istället anmäler man innehåll till de sociala nätverkens abuse-avdelningar för brott mot nämnda nätverks användarvillkor.
Vilket alltså innebär att statens våldsmonopol ägnar tid och resurser åt att tysta oönskade röster på nätet – som inte nödvändigtvis gör något olagligt. Man kan även fundera på om det är lagen eller Facebooks användarvillkor som skall vägleda polisen i dess förhållande till det fria ordet.
Idén med att göra känsliga inskränkningar i yttrandefriheten genom att påverka sociala media att uppdatera sina användarvillkor är dubiös. Skall man göra inskränkningar i det fria ordet, då skall det ske genom lag i en öppen demokratisk process. Inte genom diskreta påtryckningar mot sociala media.
I EU-kommissionens förslag till en Digital Services Act (DSA) skriver man att olagligt material skall plockas bort. En del länder i ministerrådet, med Frankrike i spetsen, vill gå längre och även avlägsna hat och hot. Men alltså hat och hot som inte redan fallit under rubriken olagligt? Det vill säga att avlägsna lagligt innehåll. See what they did there?
Europaparlamentets franske rapportör om DSA vill redan nu att uppladdningsfilter skall införas som något slags allmänt verktyg. Det vill säga automatisk granskning och i förekommande fall censur av allt du laddar upp – där din yttrandefrihet regleras av maskiner, algoritmer och av den som kontrollerar dessa.
Jag vill inte låta alarmistisk. Men denna slappa hållning gentemot den demokratiska rättsstatens grundläggande principer och metoder är olämplig. Vi håller på att flytta makten över det fria ordet från lagstiftning och rättsväsende till slutna rum.
Europol jagar åsikter online
Den europeiska polismyndigheten Europol höll nyligen en »Referral Action Day against right-wing terrorist online propaganda«. Den gick ut på att man surfade runt på nätet och anmälde innehåll som kan tänkas bryta mot plattformarnas användarvillkor.
»The ”Action Day” followed recommendations made by the Council of the EU and was part of a growing move towards EU and national bodies removing ”violent extremist” material from the internet.
However, as ”violent extremism” is a term for which – unlike terrorism – there is no legal definition, it has an expansive scope that puts much in the eye of the beholder.«
Här blir det lite konstigt, när den europeiska polismyndigheten jagar material som inte är definierat juridiskt. Polisen är till för att upprätthålla lagen. Att då lägga dess resurser på att anmäla innehåll som kanske eller kanske inte är olagligt är inte rättssäkert. Det blir också lite märkligt om polisen jobbar gentemot sociala medias abuse-avdelningar istället för rättsväsendet.
Om en EU-myndighet alls skall syssla med sådant här – är det då verkligen polisens uppgift?
Liknande insatser sägs vara planerade vad gäller vänsterradikal propaganda, jihadism och systemkritiska »Covid 19-förnekare«.
Detta kan möjligen ge en fingervisning om vad som kan komma att omfattas av EU:s nya förordning om terror-relaterat innehåll online (TERREG) – som är uppenbart vag i sin definition av vad som är att betrakta som terrorism.
Det känns tryggare om man håller fast vid vad EU-kommissionen föreslagit i sin Digital Services Act (DSA) – det vill säga att endast olagligt material skall avlägsnas från nätet. (Vilket bland andra Frankrike vill utöka till att även omfatta »hat«.)
Statewatch: EU: Growing online censorship of presumed ”violent extremism” of all ideological varieties »
EU: Ministrar vill censurera icke olagliga yttranden på nätet
Vid måndagens möte med EU:s justitie- och inrikesministrar diskuterades bland annat EU:s nya Digital Services Act (DSA).
En central punkt i DSA är att olagligt material skall plockas ner från nätet. Men det räcker tydligen inte. Frankrike och flera andra länder vill att även till exempel hat skall avlägsnas. Det vill säga att innehåll som är oönskat och obehagligt – men inte nödvändigtvis olagligt – skall censureras.
För det första kan man fundera över de formella grunderna om en medlemsstat vill förbjuda sådant som inte är olagligt.
Man kan också undra vem som i så fall skall fatta detta beslut och på vilka grunder. Kommer det att bli som i förordningen om terror-relaterat innehåll online, TERREG – där en enskild tjänsteman i en medlemsstat kan beordra nedtagning av material i vilket annat EU-land som helst, utan föregående rättslig prövning?
Vidare öppnar detta för subjektiva bedömningar, vilket inte är rättssäkert.
Det fria ordet är centralt för ett demokratiskt samhälle. Tidigare generationer har kämpat i århundraden för yttrandefriheten. Människor har offrat sin frihet och i vissa fall sina liv för rätten att uttrycka åsikter som inte delas av makthavarna. Därför bör inskränkningar endast kunna ske genom lag och tillhörande rättslig prövning.
Räkna med att detta kommer att bli en stridsfråga.
• Sveriges Radio: Delade meningar i EU om vad man får säga på nätet »
EU-kommissionens vägledning om artikel 17 är en besvikelse
På måndag skall EU:s nya upphovsättsdirektiv vara implementerat i medlemsstaternas lagstiftning. Det var i vart fall tanken, tills man insåg att direktivet ställer principer som är svåra att förena mot varandra.
Idag presenterade EU-kommissionen sitt vägledande (ej bindande) dokument om hur detta skall gå till – och då speciellt hur den kontroversiella artikel 17 (tidigare artikel 13) skall tillämpas. Det vill säga den artikel som i praktiken kommer att leda till uppladdningsfilter.
Tidigare har kommissionen menat att bara innehåll som uppenbart bryter mot upphovsrätten (manifestly infringing content) skall stoppas. Nu har detta ändrats till att allt innehåll som flaggats av upphovsrättsinnehavaren skall stoppas. Vilket i praktiken innebär att sådant material blir omöjligt att använda även i syften som borde vara tillåtna – som memes, kritik, debatt m.m.
»The first draft of the guidance document seemed to recognize those concerns and prioritize user rights. But the final result, issued today, is disappointing. On the plus side, the EU Commission stresses that Article 17 does not mandate the use of specific technology to demonstrate ”best efforts” to ensure users don’t improperly upload copyright-protected content on platforms. However, the guidance document failed to state clearly that mandated upload filters undermine the fundamental rights protection of users. The EU Commission differentiates ”manifestly” infringing uploads from other user uploads, but stresses the importance of rightsholders’ blocking instructions, and the need to ensure they do not suffer ”economic harm.” And rather than focusing on how to ensure legitimate uses such as quotations or parodies, the Commission advises that platforms must give heightened attention to ”earmarked” content. As a practical matter, that ”heightened attention” is likely to require using filters to prevent users from uploading such content.«
Diego Naranjo, Head of Policy hos EDRi säger:
»Having participated in the stakeholder dialogue, which was a lengthy and transparent process, we have the impression that the results of this process were sacrificed in the final months leading up to the launch of these guidelines, behind closed doors and due to pressure from the entertainment industry.«
»[T]o protect users’ fundamental right to freedom of expression, fully automated blocking must be limited to cases of manifestly infringing uploads. All other cases require some form of human assessment, during which the user uploads must remain available. However, by including an exception to this rule in the final guidance that is so broad as to cover virtually all cases that rightholders wish to cover, the rule that user rights are protected becomes the exception in practice.«
Nuvarande ledamoten av Europaparlamentet Patrick Breyer (PP, DE):
»Once again, the EU Commission accepts the collateral suppression of legal content in the interest of industry profits. Civil society, which has taken to the streets in Europe in their thousands against this radical automated restriction of freedom of expression, is once again being thrown out on its ear. The manual review of unjustified filtering will usually take place too late to prevent damage to our freedom of expression, especially for comments on current affairs. It is no surprise that these guidelines are published on a Friday and only three days before the transposition deadline, with major Member States having transposed the Directive already, in order to give EU citizens and activists as little chance as possible to react to this fundamental rights breach.«
På samma länk uttalar sig även Europaparlamentets vice talman, Marcel Kolaja (PP, CZ):
»What the Commission basically says is that all manifestly infringing content needs to be blocked. However, that means that all the content that is being uploaded needs to be monitored. And of course, that is not something that the platforms would be able to do manually. Therefore, service providers will be forced to use upload filters. However, these are error-prone and will not be able to correctly recognize exceptions, such as content that is a satire or a parody. Even with the Commission’s guidance, upload filters will not be able to correctly distinguish infringing content from manifestly infringing content. Freedom of expression will become unjustifiably restricted.«
Notera speciellt att dagens vägledande dokument från EU-kommissionen alltså skiljer sig från den första versionen – som kommissionen lämnade in till EU-domstolen med anledning av att Polen överklagat artikel 17.
EU-domstolens generaladvokat genomskådade dock bluffen och sköt upp sin rekommendation till dom från maj till senare i sommar – i väntan på kommissionens slutliga dokument. Vilket uppenbarligen var klokt, med tanke på hur det har förändrats.
Nu hänger frågan om uppladdningsfilter i upphovsrättsdirektivet och »fair use« alltså på EU-domstolen. Och den kan knappast ha undgått att notera att EU-kommissionen försökt föra den bakom ljuset.
EU-kommissionens vägledning om uppladdningsfilter – publiceras tre dagar innan direktivet skall vara nationell lag
Måndag den 7 juni skall EU:s nya upphovsrättsdirektiv vara implementerat i medlemsstaternas lagstiftning. I vart fall enligt direktivet.
I morgon, fredag den 4 juni, kommer EU-kommissionen enligt uppgift att publicera sina riktlinjer för hur detta skall ske.
Ett skäl till att det blivit så här är att direktivet visat sig svårt att göra om till lag utan att inskränka internets öppenhet och frihet, användarnas rättigheter och det fria ordet.
Ett annat skäl är att Polen överklagat artikel 17 (som kommer att leda till uppladdningsfilter) till EU-domstolen. I domstolen har kommissionen presenterat preliminära riktlinjer för implementering. Dessa föll dock inte i god jord hos upphovsrättsindustrin. Och EU-domstolens generaladvokat har skjutit upp sitt förslag till beslut tre månader – eftersom han misstänker att kommissionen kommer att lägga fram andra riktlinjer än de som presenterats för domstolen.
I morgon, tre dagar innan direktivet är tänkt att vara lag, får vi kanske veta hur detta är tänkt att gå till.
Sista försvarslinjen mot massövervakning i Europa
Europadomstolen för de mänskliga rättigheterna gav ju Sverige och Storbritannien smisk på fingrarna förra veckan:
• Europadomstolen: FRA-lagen måste skrivas om »
• Även den brittiska massövervakningen får bakläxa av Europadomstolen »
The Guardian har fördjupat sig i ämnet och funnit en del intressanta detaljer. De är intressanta även om texten utgår från det brittiska fallet (som behandlades tillsammans med det svenska).
»The chamber, the ultimate court of the ECHR, also concluded that GCHQ’s regime for sharing sensitive digital intelligence with foreign governments was not illegal.« (…)
Vilket man händelsevis kommer fram till veckan innan den dansk-svensk-norsk-tysk-amerikanska övervakningsskandalen bubblar upp i media.
»One of the partially dissenting judges, Paulo Pinto de Albuquerque said the ruling had opened the gates for an electronic “Big Brother” in Europe. Four other judges also partially dissented from the majority opinion, disagreeing with the finding that the regime for sharing sensitive digital intelligence with foreign governments was not illegal. Three of the dissenting judges quoted from George Orwell’s Nineteen Eighty-Four: “There was of course no way of knowing whether you were being watched at any given moment.”«
Europadomstolen var alltså oenig. Vi får försöka reda ut mer om det. Men redan den information vi har är intressant. En splittrad domstol, där domarna i minoritet citerar Orwell. Sådant ser man inte varje dag.
En Europadomstol för de mänskliga rättigheterna som är oenig… i en fråga (internationellt informationsutbyte) som bara dagar senare briserar med stort buller i media och politik. Man kan inte utesluta att det finns ett samband. Men det kan lika gärna vara en slump.
För övrigt är den här dansk-amerikanska övervakningen av svenska politiker (m.fl.) inte ens en nyhet. Att sådant förekommer vet den som besvärat sig med att titta i Snowdens läckta NSA-dokument. Och det är ändå åtta år gammal information. Hur mycket mission creep har man inte hunnit med sedan dess?
När jag jobbade i Europaparlamentet pågick utskottsutfrågningar om massövervakningen. Även där framkom information som gör att den senaste historien inte alls förvånar. (FRA var för övrigt inbjudet att delta under dessa utfrågningar. Men de valde att avstå.)
Frågan är inte bara vem danskarna och NSA avlyssnade – utan även i vilken omfattning svenska FRA ägnar sig åt samma sak.
Det kan möjligen bli svårt att med trovärdighet vara upprörd över att våra allierade tjuvlyssnar på oss – om vi själva gör det samma.
Men åter till Europadomstolen. Den är alltså oenig om urskiljningslös massövervakning och om i vilken mån det skall vara tillåtet för underrättelsetjänster att ägna sig åt byteshandel med information från denna massövervakning. Men domstolen landar ändå i att – i stort sett – ge grönt ljus.
(Dessutom fick Sverige kritik för hur FRA:s övervakning förhåller sig till juridiska personer, för bristande tillsyn och för bristande persondataskydd vid informationsutbyte.)
Europadomstolen verkar under Europarådet. Sedan har vi EU-domstolen – som på sitt håll kommit fram till att det inte är tillåtet med urskiljningslös insamling av alla människors kommunikationsdata, utan specifik misstanke om brott.
Medlemsstaterna i ministerrådet vill ha så mycket övervakning de bara kan få. EU-kommissionen har ur sitt von oben-perspektiv inget emot att kontrollera vad folket har för sig. Och i Europaparlamentet är det bara vänstern, gröningarna (utom Bah Kuhnke) och en och annan principfast liberal som gör motstånd.
Det förefaller som om EU-domstolen är den sista försvarslinjen mot massövervakningen. Därför vill Frankrike nu ändra EU:s fördrag och rättighetsstadga, så att denna envisa domstol till slut tvingas ge upp sitt motstånd. Sedan är dammluckorna att betrakta som vidöppna.