Regeringen i samtal med Facebook och Google om demokrati och mänskliga rättigheter

I en tyvärr sprakande och nästan ohörbar web-sändning organiserade Utrikesdepartementet idag ett samtal om demokrati på nätet mellan ansvariga ministrar och Facebook & Google.

Regeringens pressmeddelande:

»Demokrati på internet är temat för det dialogmöte som initierats av utrikesminister Ann Linde, kultur- och demokratiminister Amanda Lind och energi- och digitaliseringsminister Anders Ygeman onsdagen den 16 juni. I dialogen deltar Janne Elvelid, samhällspolitisk chef på Facebook Sverige, Sara Övreby, samhällspolitisk chef på Google Sverige, Marcin de Kaminski, chef för säkerhet och innovation på Civil Rights Defenders och Nadja Dolata, sakkunnig inom mänskliga rättigheter, genus och innovation. Samtalet modereras av journalisten Emanuel Karlsten.«

Regeringen efterlyste mer insatser mot hat och hot på nätet. Facebook efterlyste vägledning från politikerna. Google försökte förklara hur nätet fungerar. Civil Rights Defenders pekade på att detta är en debatt på ett sluttande plan där man måste upprätthålla de grundläggande fri- och rättigheterna. Och Dolata påpekade att det främst är människor i utsatta positioner som drabbas om yttrandefriheten inskränks.

Utrikesminister Ann Linde (S) tycktes i sammanhanget vara mest upprörd över att internet finns och att det ger möjlighet för folket att säga vad det tycker.

Att olagligt material skall plockas ner från plattformarna, det verkar alla vara överens om. Och det är vad som föreslås i EU:s Digital Services Act. Så – med risk för att tjata – vad som diskuteras är i vilken mån icke olagligt material skall plockas ner och i så fall vad och hur.

Frågan är hur man hade tänkt sig att politiken och statens våldsmonopol skall kunna ta ner material som inte är olagligt. Det vill säga lagligt. Det kan ju då knappast ske genom lagstiftning.

Alternativet är att politiken påverkar vad sociala media och nätplattformar skriver in i sina användarvillkor. Och då har man plötsligt genomfört en inskränkning av yttrandefriheten – efter politiska påtryckningar men utanför den öppna demokratiska processen och utanför lagstiftningen. Så är det till viss del redan. Och det är ett problem. Vill politikerna inskränka det fira ordet, då måste det ske genom lag som stiftas av riksdagen.

Räkna med att detta kommer att bli en stor fråga, inte minst på EU-nivå.

I många små steg inskränker EU det fria ordet online

Ett par saker håller just nu på att hända samtidigt i EU.

Dels är EU:s nya Digital Services Act (DSA) på väg att kapas av krafter som vill förbjuda även icke olagliga yttranden på nätet och som vill använda förordningen för att införa allmänna uppladdningsfilter.

Samtidigt har vi den nya förordningen om terror-relaterat innehåll online som vill se rutiner för att oönskat material plockas ner inom en timma, som ger myndigheter i ett EU-land rätt att stänga ner innehåll på servrar i andra länder – och som också kommer att leda till uppladdningsfilter.

I bakgrunden pågår arbete med en ny Code of Conduct on countering illegal hate speech online samt en European Democracy Action Plan. Båda syftar till att bekämpa hat och hot online och kan bli pådrivande för att skärpa sociala medias användarvillkor ytterligare.

Detta är bara några exempel på lagstiftning på gång som rör det fria ordet online i EU. De är var för sig oroväckande. Tillsammans kan de mynna ut i en censurapparat vars motsvarighet vi aldrig tidigare skådat.

Sedan blir det den för tillfället rådande politiska majoriteten, de för tillfället rådande politiska trenderna eller den senaste moralpaniken som kommer att styra vad som får uttryckas på nätet.

Vad som definieras som »hat« eller vem som är att betrakta som »terrorist« kan ändras med ett klubbslag.

Sluta censurera sådant som inte är olagligt

Att reglera internet och att övervaka folket tycks vara en prioriterad politisk uppgift. Det går med en rasande fart nu.

Pandemin har förmodligen gjort det lättare. Never waste a good crisis.

Jag noterar att Europol nu har börjat punktmarkera såväl högerextremister som vänsterextremister, islamister och corona-förnekare online. Vad jag förstår använder man sig inte av lagen, eftersom en del av det material man vill ha bort inte är olagligt. Istället anmäler man innehåll till de sociala nätverkens abuse-avdelningar för brott mot nämnda nätverks användarvillkor.

Vilket alltså innebär att statens våldsmonopol ägnar tid och resurser åt att tysta oönskade röster på nätet – som inte nödvändigtvis gör något olagligt. Man kan även fundera på om det är lagen eller Facebooks användarvillkor som skall vägleda polisen i dess förhållande till det fria ordet.

Idén med att göra känsliga inskränkningar i yttrandefriheten genom att påverka sociala media att uppdatera sina användarvillkor är dubiös. Skall man göra inskränkningar i det fria ordet, då skall det ske genom lag i en öppen demokratisk process. Inte genom diskreta påtryckningar mot sociala media.

I EU-kommissionens förslag till en Digital Services Act (DSA) skriver man att olagligt material skall plockas bort. En del länder i ministerrådet, med Frankrike i spetsen, vill gå längre och även avlägsna hat och hot. Men alltså hat och hot som inte redan fallit under rubriken olagligt? Det vill säga att avlägsna lagligt innehåll. See what they did there?

Europaparlamentets franske rapportör om DSA vill redan nu att uppladdningsfilter skall införas som något slags allmänt verktyg. Det vill säga automatisk granskning och i förekommande fall censur av allt du laddar upp – där din yttrandefrihet regleras av maskiner, algoritmer och av den som kontrollerar dessa.

Jag vill inte låta alarmistisk. Men denna slappa hållning gentemot den demokratiska rättsstatens grundläggande principer och metoder är olämplig. Vi håller på att flytta makten över det fria ordet från lagstiftning och rättsväsende till slutna rum.

Europol jagar åsikter online

Den europeiska polismyndigheten Europol höll nyligen en »Referral Action Day against right-wing terrorist online propaganda«. Den gick ut på att man surfade runt på nätet och anmälde innehåll som kan tänkas bryta mot plattformarnas användarvillkor.

Statewatch:

»The ”Action Day” followed recommendations made by the Council of the EU and was part of a growing move towards EU and national bodies removing ”violent extremist” material from the internet.

However, as ”violent extremism” is a term for which – unlike terrorism – there is no legal definition, it has an expansive scope that puts much in the eye of the beholder.«

Här blir det lite konstigt, när den europeiska polismyndigheten jagar material som inte är definierat juridiskt. Polisen är till för att upprätthålla lagen. Att då lägga dess resurser på att anmäla innehåll som kanske eller kanske inte är olagligt är inte rättssäkert. Det blir också lite märkligt om polisen jobbar gentemot sociala medias abuse-avdelningar istället för rättsväsendet.

Om en EU-myndighet alls skall syssla med sådant här – är det då verkligen polisens uppgift?

Liknande insatser sägs vara planerade vad gäller vänsterradikal propaganda, jihadism och systemkritiska »Covid 19-förnekare«.

Detta kan möjligen ge en fingervisning om vad som kan komma att omfattas av EU:s nya förordning om terror-relaterat innehåll online (TERREG) – som är uppenbart vag i sin definition av vad som är att betrakta som terrorism.

Det känns tryggare om man håller fast vid vad EU-kommissionen föreslagit i sin Digital Services Act (DSA) – det vill säga att endast olagligt material skall avlägsnas från nätet. (Vilket bland andra Frankrike vill utöka till att även omfatta »hat«.)

Statewatch: EU: Growing online censorship of presumed ”violent extremism” of all ideological varieties »

Karlsten om problemen med uppladdningsfilter

Som vi tidigare rapporterat har EU-kommissionen publicerat sina riktlinjer till implementering av artikel 17 (tidigare 13) i EU:s nya upphovsrättsdirektiv. Det vill säga frågan om uppladdningsfilter.

Nu ser jag att den utmärkte Emanuel Karlsten gett sig in på att bevaka frågan. Han är bra på att gräva fram saker. Och han är på krigsstigen:

»I praktiken skulle det innebära att till exempel SVT, eller en filmstudio som Warner kan skapa ett referensbibliotek med allt sitt innehåll, vilket innebär att alla sajter som används av EU-medborgare förbjuds tillåta användare publicera något av det – bild, film eller ljud. Det är också plattformen som har ansvar att ändå tillåta bilder – om de görs i form av satir, humor eller kritik. Hur det i praktiken ska fungera är svårt att både förutse och förstå.

I grunden innebär det att det filter som tidigare heligt lovats inte skulle finnas, nu får en mer framträdande roll.«

Nu är frågan hur implementeringen är tänkt att ske i Sverige. Samtidigt finns det en möjlighet att EU-domstolen dödar artikel 17, då den överprövas där, på begäran av Polen.

• Emanuel Karlsten: Idag skulle upphovsrättsdirektivet varit lag i Sverige – därför dröjer det och därför är det problematiskt »
EU-kommissionens vägledning om artikel 17 är en besvikelse »

EU: Ministrar vill censurera icke olagliga yttranden på nätet

Vid måndagens möte med EU:s justitie- och inrikesministrar diskuterades bland annat EU:s nya Digital Services Act (DSA).

En central punkt i DSA är att olagligt material skall plockas ner från nätet. Men det räcker tydligen inte. Frankrike och flera andra länder vill att även till exempel hat skall avlägsnas. Det vill säga att innehåll som är oönskat och obehagligt – men inte nödvändigtvis olagligt – skall censureras.

För det första kan man fundera över de formella grunderna om en medlemsstat vill förbjuda sådant som inte är olagligt.

Man kan också undra vem som i så fall skall fatta detta beslut och på vilka grunder. Kommer det att bli som i förordningen om terror-relaterat innehåll online, TERREG – där en enskild tjänsteman i en medlemsstat kan beordra nedtagning av material i vilket annat EU-land som helst, utan föregående rättslig prövning?

Vidare öppnar detta för subjektiva bedömningar, vilket inte är rättssäkert.

Det fria ordet är centralt för ett demokratiskt samhälle. Tidigare generationer har kämpat i århundraden för yttrandefriheten. Människor har offrat sin frihet och i vissa fall sina liv för rätten att uttrycka åsikter som inte delas av makthavarna. Därför bör inskränkningar endast kunna ske genom lag och tillhörande rättslig prövning.

Räkna med att detta kommer att bli en stridsfråga.

• Sveriges Radio: Delade meningar i EU om vad man får säga på nätet »

EU-kommissionens vägledning om artikel 17 är en besvikelse

På måndag skall EU:s nya upphovsättsdirektiv vara implementerat i medlemsstaternas lagstiftning. Det var i vart fall tanken, tills man insåg att direktivet ställer principer som är svåra att förena mot varandra.

Idag presenterade EU-kommissionen sitt vägledande (ej bindande) dokument om hur detta skall gå till – och då speciellt hur den kontroversiella artikel 17 (tidigare artikel 13) skall tillämpas. Det vill säga den artikel som i praktiken kommer att leda till uppladdningsfilter.

Tidigare har kommissionen menat att bara innehåll som uppenbart bryter mot upphovsrätten (manifestly infringing content) skall stoppas. Nu har detta ändrats till att allt innehåll som flaggats av upphovsrättsinnehavaren skall stoppas. Vilket i praktiken innebär att sådant material blir omöjligt att använda även i syften som borde vara tillåtna – som memes, kritik, debatt m.m.

EFF kommenterar:

»The first draft of the guidance document seemed to recognize those concerns and prioritize user rights. But the final result, issued today, is disappointing. On the plus side, the EU Commission stresses that Article 17 does not mandate the use of specific technology to demonstrate ”best efforts” to ensure users don’t improperly upload copyright-protected content on platforms. However, the guidance document failed to state clearly that mandated upload filters undermine the fundamental rights protection of users. The EU Commission differentiates ”manifestly” infringing uploads from other user uploads, but stresses the importance of rightsholders’ blocking instructions, and the need to ensure they do not suffer ”economic harm.” And rather than focusing on how to ensure legitimate uses such as quotations or parodies, the Commission advises that platforms must give heightened attention to ”earmarked” content. As a practical matter, that ”heightened attention” is likely to require using filters to prevent users from uploading such content.«

Diego Naranjo, Head of Policy hos EDRi säger:

»Having participated in the stakeholder dialogue, which was a lengthy and transparent process, we have the impression that the results of this process were sacrificed in the final months leading up to the launch of these guidelines, behind closed doors and due to pressure from the entertainment industry.«

Tidigare ledamoten av Europaparlamentet Julia Reda (PP, DE) på GFF (Society for Civil Rights) och Paul Keller, IViR (Institute for Information Law) skriver:

»[T]o protect users’ fundamental right to freedom of expression, fully automated blocking must be limited to cases of manifestly infringing uploads. All other cases require some form of human assessment, during which the user uploads must remain available. However, by including an exception to this rule in the final guidance that is so broad as to cover virtually all cases that rightholders wish to cover, the rule that user rights are protected becomes the exception in practice.«

Nuvarande ledamoten av Europaparlamentet Patrick Breyer (PP, DE):

»Once again, the EU Commission accepts the collateral suppression of legal content in the interest of industry profits. Civil society, which has taken to the streets in Europe in their thousands against this radical automated restriction of freedom of expression, is once again being thrown out on its ear. The manual review of unjustified filtering will usually take place too late to prevent damage to our freedom of expression, especially for comments on current affairs. It is no surprise that these guidelines are published on a Friday and only three days before the transposition deadline, with major Member States having transposed the Directive already, in order to give EU citizens and activists as little chance as possible to react to this fundamental rights breach.«

På samma länk uttalar sig även Europaparlamentets vice talman, Marcel Kolaja (PP, CZ):

»What the Commission basically says is that all manifestly infringing content needs to be blocked. However, that means that all the content that is being uploaded needs to be monitored. And of course, that is not something that the platforms would be able to do manually. Therefore, service providers will be forced to use upload filters. However, these are error-prone and will not be able to correctly recognize exceptions, such as content that is a satire or a parody. Even with the Commission’s guidance, upload filters will not be able to correctly distinguish infringing content from manifestly infringing content. Freedom of expression will become unjustifiably restricted.«

Notera speciellt att dagens vägledande dokument från EU-kommissionen alltså skiljer sig från den första versionen – som kommissionen lämnade in till EU-domstolen med anledning av att Polen överklagat artikel 17.

EU-domstolens generaladvokat genomskådade dock bluffen och sköt upp sin rekommendation till dom från maj till senare i sommar – i väntan på kommissionens slutliga dokument. Vilket uppenbarligen var klokt, med tanke på hur det har förändrats.

Nu hänger frågan om uppladdningsfilter i upphovsrättsdirektivet och »fair use« alltså på EU-domstolen. Och den kan knappast ha undgått att notera att EU-kommissionen försökt föra den bakom ljuset.

EU-kommissionens vägledning om uppladdningsfilter – publiceras tre dagar innan direktivet skall vara nationell lag

Måndag den 7 juni skall EU:s nya upphovsrättsdirektiv vara implementerat i medlemsstaternas lagstiftning. I vart fall enligt direktivet.

I morgon, fredag den 4 juni, kommer EU-kommissionen enligt uppgift att publicera sina riktlinjer för hur detta skall ske.

Ett skäl till att det blivit så här är att direktivet visat sig svårt att göra om till lag utan att inskränka internets öppenhet och frihet, användarnas rättigheter och det fria ordet.

Ett annat skäl är att Polen överklagat artikel 17 (som kommer att leda till uppladdningsfilter) till EU-domstolen. I domstolen har kommissionen presenterat preliminära riktlinjer för implementering. Dessa föll dock inte i god jord hos upphovsrättsindustrin. Och EU-domstolens generaladvokat har skjutit upp sitt förslag till beslut tre månader – eftersom han misstänker att kommissionen kommer att lägga fram andra riktlinjer än de som presenterats för domstolen.

I morgon, tre dagar innan direktivet är tänkt att vara lag, får vi kanske veta hur detta är tänkt att gå till.

Facebook, dess censur och förlorade trovärdighet

Facebook har problem med sitt förhållande till verkligheten. Följande har hänt:

  • Facebook censurerar postningar som hävdar att det nya corona-viruset är skapat av människan och/eller spridits från ett biologiskt labb i Wuhan, Kina. Man menar att detta är en teori som har motbevisats.
  • Samtidigt lägger den nya amerikanska administrationen ner den förra administrationens utredning om virusets ursprung.
  • Uppgifter i media (bl.a. Wall Street Journal) gör gällande att anställda på labbet i Wuhan insjuknat i vad som förefaller vara Covid-19 redan i november 2019 – det vill säga innan det egentliga utbrottet.
  • Den nya amerikanska administrationen tillsätter en ny utredning.
  • Facebook tillåter åter postningar enligt första punkten ovan.

Låt oss för ett ögonblick bortse från Trump, Biden och själva sakfrågan – för att istället titta närmare på Facebook, dess förhållande till verkligheten och dess trovärdighet.

Det som stämplades som fake news i går är uppenbarligen en möjlig sanning idag. Människor har tystats, åsikter har avfärdats och debatten har begränsats. Facebook har bidragit till osäkerhet och förvirring – och förlorat den eventuella trovärdighet man haft.

Nu kan man naturligtvis hävda att ny information tillkommit, vilket är helt riktigt. Men det ändrar inte det faktum att Facebook censurerat postningar och avfärdat påståenden som eventuellt är korrekta. Vilket skett med sedvanlig tvärsäkerhet och arrogans – och utan möjlighet till överprövning.

En fråga man kan ställa sig är om det är amerikanska inrikespolitiska hänsyn som styrt Facebooks handlande.

En annan fråga är om man kan lita på Facebook i ett vidare perspektiv. Hur skall man förhålla sig till en social medieplattform som har ett så dynamiskt förhållande till verkligheten?

Livet skulle kunna bli så mycket enklare för sociala media om de i princip bara censurerar innehåll som är uppenbart olagligt.

Rapportör vill se uppladdningsfilter i EU:s Digital Services Act

Europaparlamentets utskott för rättsliga frågor – JURI – har nu börjat sin behandling av EU:s nya Digital Services Act – DSA.

Utskottets rapportör i ämnet är den franske, konservative ledamoten Geoffroy Didier. Vem som är rapportör är viktigt, då det är denne som sedan för utskottets eller hela parlamentets talan i framtida förhandlingar.

På dagens sammanträde med JURI stakade han ut sin väg. Mest uppseendeväckande är att han vill se uppladdningsfilter som ett allmänt verktyg i DSA:s verktygslåda.

Det började med upphovsrättsdirektivet vars regler kommer att leda till uppladdningsfilter. Vi varnade redan då för att detta öppnade dammluckorna. Upphovsrättsdirektivet hade sedan inte ens hunnit bli lag i de flesta medlemsländer innan nästa förslag var uppe till votering. Nämligen TERREG, Förordningen om terror-relaterat innehåll online. Även om dess text aktar sig noga för att nämna ordet uppladdningsfilter – så är det förordningen föreskriver sådant som kommer att kräva just sådana. Nyligen var Spanien ute och ville ha in uppladdningsfilter i DSA. Och idag föreslår alltså en av denna dossiers nyckelpersoner just sådana.

Du kan se diskussionen i JURI här »