Femte juli

Nätet till folket!

Censur

I denna kategori publicerar vi nyheter som rör inskränkningar av yttrandefriheten såväl online som i den fysiska världen. Vi ägnar speciell uppmärksamhet åt förslag om förhandscensur på nätet. Principen bör vara att den som publicerar något olagligt på nätet också bör vara ansvarig för det - och att detta ansvar kan utkrävas först när publicering har skett.

Patrick Breyer på Twitter

EU: Nätcensur antagen utan votering – före debatten i plenum

av

Europaparlamentets arbetsordning är hopplöst snårig och komplicerad. Dessutom är det inte alltid man följer den, då man inte vill ha en massa stök. Och nu, detta:

Europaparlamentet har just godkänt förordningen om terror-relaterat innehål online utan omröstning i plenum. Debatten i plenum kommer dock, enligt föredragningslistan, att äga rum först i morgon, onsdag kl 20:30. (!)

Den piratpartistiske, tyske ledamoten Patrick Breyer skriver på sin blogg:

»The European Parliament Civil Liberties Committee voted in favour of the regulation. The plenary approved it without vote.«

Vilket är en smula absurt. Åter tycks man handla enligt modellen: Först beslutar man. Sedan debatterar man. Därefter tar man reda på fakta.

Sammanfattningsvis har vi nu fått censur av åsikter online, krav på nedtagning av flaggat innehåll inom en timma, rätt för myndigheter i ett land att beordra nedtagning av material på servrar i andra länder (utan samråd med landet i fråga) och ett krav på att flaggat material inte skall kunna läggas upp igen – vilket i praktiken kommer att kräva uppladdningsfilter, även om man noga undviker att använda det ordet i dokumenten.

Nu återstår att se om det eventuellt blir någon prövning av förordningen i domstol.

Länkar:
• MEP Patrick Breyer (PP, DE) »
• Breyers anförande i LIBE (video) »

Uppladdningsfilter – det nya normala i EU:s nätpolitik

av

Först var det artikel 17 (f.d. 13) i EU:s upphovsrättsdirektiv som kommer att kräva uppladdningsfilter, även om man inte använder det ordet. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) som röstas igenom i Europaparlamentet på torsdag – som också i praktiken kommer att kräva uppladdningsfilter, åter utan att använda själva ordet i texten. Och nu föreslår Spanien att EU:s nya Digital Services Act (DSA) skall innehålla uppladdningsfilter för att se till att innehåll som tidigare tagits ner förblir borta.

Ett övergripande problem med uppladdningsfilter är att allt som alla laddar upp måste inspekteras, granskas och i förekommande fall censureras. Dels är det både integritetskränkande och en form av automatiserad censur. Dels kommer lagstiftningens krav att medföra att startups och nya, små utmanare till de sociala mediejättarna kommer att få svårt att bedriva verksamhet – eftersom uppladdningsfilter är komplicerade och kostsamma. På så sätt stärks Facebooks, Twitters och Youtubes dominerande ställning, på mindre konkurrenters bekostnad.

Vidare är automatiserade uppladdningsfilter korkade. De kan inte bedöma kontext. De kan därför inte släppa igenom sådant som rimligen borde släppas igenom – som memes, satir, kritik och debatt. Vilket kommer att leda till att innehåll som inte borde censureras ändå kommer att stoppas.

Som Piratpartiet noterar i en bloggpost går uppladdningsfilter inte heller ihop med den EU-lagstiftning som förbjuder plattformarna att övervaka alla användares aktivitet. Detta bör gå att få prövat i EU-domstolen, dock inte innan sådan lagstiftning redan är på plats.

Det ser alltså ut som om uppladdningsfilter är på väg att bli det nya normala i EU:s nätlagstiftning. Något som vore intressant att undersöka är hur sådan lagstiftning går ihop med den svenska grundlagens förbud mot förhandscensur.

Länkar:
• Piratpartiet: Spanien föreslår att generella uppladdningsfilter ska ingå i Digital Services Act »
• Netzpolitik: Entfernung illegaler Inhalte entzweit EU-Länder »

Upphovsrättsdirektivet: EU-kommissionen på väg att svika sina löften om artikel 17 och uppladdningsfilter?

av

I sommar skall EU:s nya upphovsrättsdirektiv vara implementerat i medlemsstaternas lagstiftning. Oredan är stor – speciellt när det gäller den kontroversiella artikel 17 (tidigare artikel 13) som kommer att tvinga fram uppladdningsfilter.

Det hela kompliceras av att Polen har tagit artikel 17 till EU-domstolen. Från domstolen kommer nu besked om att generaladvokatens yttrande över fallet – som var tänkt att presenteras nu på torsdag – skjuts fram tre månader.

Skälet till detta är att domstolen väntar på EU-kommissionens riktlinjer för implementering av direktivet i allmänhet och artikel 17 i synnerhet. Några sådana riktlinjer har dock inte setts till, trots att det bara är två månader kvar tills direktivet skall vara lag i medlemsstaterna.

Communia rapporterar:

»While the Commission has been hinting at the imminent release of the guidance for a few months now, the timing indicates that the Commission precisely wanted to avoid giving the Advocate General time to study the guidance. This does not bode well for the fundamental rights safeguards the Commission is planning to present. Signals are mounting that the delays are the result of intense behind-the-scenes political wrangling aimed at undermining the user rights safeguards to be included in the guidance.«

Nu har 21 organisationer som arbetar med nätfrågor skrivit ett öppet brev. Åter till Communia:

»The letter urges the Commission “not to weaken its guidance through open ended exception clauses that seem to benefit particular rightsholders at the expense of users’ fundamental rights” and stresses that “strong ex-ante fundamental rights protections are necessary to meet the obligation of result to protect users’ fundamental rights.”

The letter further highlights the fact that, by issuing guidance that substantially diverges from the position taken before the CJEU, the Commission would indicate that it is ultimately lacking the political will to ensure that the required fundamental rights protections will be included in national implementations of the directive.«

I utkastet till riktlinjer (som presenterats för domstolen) har man givit intryck av att man tänker respektera användarnas rättigheter. Tanken var att garantera att garantera att medlemsstaterna bara blockerar uppladdningar som uppenbart bryter mot upphovsrätten. Det vill säga att man gör undantag för memes, satir, kritik, samhällsdebatt m.m. Detta togs dock inte emot väl av upphovsrättsindustrin och medlemsstater som Frankrike. Sedan dess är det tyst från kommissionens sida.

»Almost half a year later the guidance is still nowhere to be seen. Yesterday Commissioner Thierry Breton informed members of the CULT committee of the European Parliament that the guidance would be presented “within the next weeks”, but refused to answer a direct question from MEP Marcel Kolaja if the guidance would “defend the legal interpretation that the Commission held before the CJEU, according to which only manifestly infringing content may be blocked?”.«

På det hela taget verkar det som om kommissionen är på väg att backa från de garantier som man tidigare givit – och att man försökt föra EU-domstolen bakom ljuset.

Vilket är precis vad vi som kritiserat upphovsrättsdirektivet varnat för. Artikel 17 – som kommer att leda till uppladdningsfilter – är helt enkelt inte förenlig med rimliga rättigheter för användarna. Den är i praktiken ogenomförbar utan att inskränka internets frihet och öppenhet på ett oacceptabelt sätt.

Extra surt är detta eftersom upphovsrättsdirektivet antogs med hårfin majoritet i Europaparlamentet. Till råga på allt fälldes avgörandet av en handfull ledamöter som efteråt meddelat att de röstade fel.

Från den svenska regeringens sida syns inga livstecken i frågan – trots att upphovsrättsdirektivet skall vara svensk lag senast den 1 juli i år.

Communia: Open letter on Article 17 – Is the Commission about to abandon its commitment to protect fundamental rights? »

Om en dryg vecka inför EU censur av åsikter online

av

Under sin session den 26-29 april kommer Europaparlamentet med största sannolikhet att godkänna förordningen om terror-relaterat innehåll online. Detta är ett principiellt viktigt steg, eftersom det innebär att man öppnar dörren för censur av åsikter online.

Av erfarenhet vet vi att denna typ av lagstiftning är ett enkelriktat flöde. Om den väl införts, då kommer den att drabbas av ändamålsglidning och att utökas. Så detta handlar inte bara om terrorister och deras propaganda. Det handlar om att öppna dörren för censur av åsikter online.

Att detta sker så gott som helt utan offentlig debatt eller uppmärksamhet i media är oroande.

Dessutom lider förslaget av allvarliga praktiska brister och problem.

Till exempel föreskrivs att nätplattformar och operatörer skall avlägsna flaggat innehåll inom en timma. Vilket i praktiken gör det omöjligt att bedriva internetbaserad verksamhet i liten skala, utan bemanning dygnet runt.

Någon föregående rättslig prövning kommer inte att ske. Det kommer att räcka med att en myndighet beordrar nedtagning av innehåll för att den måste verkställas. Detta är principiellt problematiskt, då inskränkningar av yttrandefriheten är ett allvarligt avsteg från våra grundläggande fri- och rättigheter.

En myndighet i ett EU-land kan beordra nedtagning av innehåll i en annan medlemsstat – utan att varesig begära rättsbistånd eller informera myndigheterna i det aktuella landet. Vilket innebär att tjänstemän i låt säga Rumänien, Polen eller Frankrike har rätt att censurera innehåll på svenska servrar.

Förordningen föreskriver även att plattformarna / operatörerna skall se till att material som en gång plockats ner inte laddas upp igen. Även om man (efter förhandlingar) noga aktar sig för att använda ordet uppladdningsfilter – så kommer sådana att bli nödvändiga för att detta skall kunna ske. Vill man stoppa något från att laddas upp – då måste man låta maskiner inspektera och analysera allt som alla laddar upp.

Även om det inte finns någon debatt om detta, så finns det i vart fall organisationer som protesterar. EDRi rapporterar:

»On 25 March, 61 human rights and journalist associations sent a joint letter to Members of the European Parliament, urging them to vote against the proposed Regulation on addressing the dissemination of terrorist content online.

The coalition considers that the proposed regulation as it stands now has no place in EU law, as it poses serious threats to freedom of expression and opinion, freedom to access information, the right to privacy, and the rule of law.«

Sprid ordet. Om en dryg vecka är det för sent att göra motstånd.

• EDRi: Coalition of human rights and journalist organisations express concerns for free speech »
• Brevet i fråga (PDF) »

USA: HD-domare menar att Twitter är en kollektiv nyttighet som alla har rätt att använda

av

I USA ger HD-domaren Justice Clarence Thomas uttryck för åsikten att sociala plattformar och nätjättar med dominerande ställning (Twitter, Facebook, Google m.fl.) är kollektiva nyttigheter, närmast att jämföra med telekom-infrastruktur. Därmed skall de även vara skyldiga att tillhandahålla sina tjänster till alla.

Bakgrunden är att Högsta Domstolen upphävt en dom i en lägre rätt, som kommit fram till att president Trump handlade i strid med konstitutionen när han blockerade folk på Twitter. Den upphävda domen menar att då kontot @realdonaldtrump tillhörde presidenten, var ett publikt forum och att presidenten därför inte hade rätt att inskränka det fria ordet där. Skälet till att HD upphävde domen var – ironiskt nog – att Twitter stängt av Trump och att han därmed inte kan anses ha full kontroll över kontot.

Protocol rapporterar:

»Thomas states that in order for an account like @realdonaldtrump to be truly classified as government controlled, ”the power of a platform to unilaterally remove a government account” would have to be ”reduced.”«

Detta är intressant i sig. Och Justice Thomas stannar inte där:

»Thomas argues that while private companies aren’t subject to the First Amendment, common carriers are unique to other private businesses in that they do not have the ”right to exclude.” Thomas suggests that large tech platforms with substantial market power should be bound by the same restrictions. ”If the analogy between common carriers and digital platforms is correct, then an answer may arise for dissatisfied platform users who would appreciate not being blocked: laws that restrict the platform’s right to exclude,” Thomas writes.

Such a restriction would substantially curb tech giants’ ability to moderate content, a proposal that both tech giants and those on the left who want to see more aggressive content moderation online would almost certainly reject.«

Han ansluter sig alltså till dem som menar att nätjättarnas dominerande ställning gör att de inte kan behandlas som vanliga förtag, som är fria att göra affärer med vem de vill. Snarare gör deras ställning att de inte skall ha rätt att utestänga användare.

»”It changes nothing that these platforms are not the sole means for distributing speech or information. A person always could choose to avoid the toll bridge or train and instead swim the Charles River or hike the Oregon Trail,” Thomas writes. ”But in assessing whether a company exercises substantial market power, what matters is whether the alternatives are comparable. For many of today’s digital platforms, nothing is.”«

Oavsett om man håller med eller inte finns alltså tecken på att USA:s högsta juridiska instans lutar åt att det är möjligt med lagstiftning som hindrar plattformarna från att blockera användare. Vilket är en signal till lagstiftarna.

Frågan blir om det alls skall vara möjligt att stänga av någon. En snarlik diskussion uppstod i samband med behandlingen av EU:s telekompaket 2009. Då ville fransmännen och upphovsättsindustrin kunna stänga av fildelare från internet helt och hållet. Det ledde till att det etablerades en princip om att ingen får stängas av från nätet utan föregående rättslig prövning. Något liknande kan nu kanske bli aktuellt i USA, men med nätjättarna i fokus.

Länk: Justice Thomas argues for making Facebook, Twitter and Google utilities »

Medborgarrättsorganisationer rasar mot EU:s nya nätcensur

av

Ett 60-tal organisationer har skrivit brev till Europaparlamentets ledamöter och vädjat till dem om att rösta nej till förordningen om terror-relaterat innehåll online (TERREG/TCO).

Bland undertecknarna finns bland andra Amnesty, Europeiska Medborgarrätsuniuonen, EFF, EDRi, Polska Helsingfors-kommittén, Human Rights Watch, Internationella Juristkommissionen, CCC, La Quadrature Du Net,  Reportrar utan gränser, Statewatch, Wikimedia och svenska DFRI.

De praktiska problemen med TERREG är:

  • Flaggat material skall som huvudregel plockas ner inom en timma, vilket blir praktiskt svårt att hantera för mindre plattformar.
  • Denna snäva tidsram ger inget utrymme för rättsliga överväganden – och någon föregående rättslig prövning kommer inte att ske.
  • Myndigheter i ett EU-land kan beordra nedtagning av material i en annan medlemsstat, utan klartecken från den senare.
  • Nerplockat material skall inte kunna laddas upp igen. Även om texten (efter förhandlingar) noga undviker ordet ”uppladdningsfilter” – så är användning av just automatiska uppladdningsfilter den enda praktiskt användbara metoden. Och uppladdningsfilter innebär att allt som du och alla andra laddar upp måste granskas av maskiner inna det kan publiceras.

Det finns även invändningar mot att detta kan komma att drabba journalistisk verksamhet, forskning, dokumentation och lagföring av övergrepp.

Förslaget är dessutom oroväckande svävande när det gäller att definiera vad som egentligen anses vara terrorism och terror-relaterat.

Elefanten i rummet – som tyvärr inte berörs i brevet – är att detta även etablerar en censur av åsikter online i EU. Förvisso terroristers åsikter. Men när principen väl är etablerad kan det ändras med ett klubbslag.

Tar man ett steg tillbaka och betraktar den större bilden – då kan man konstatera att samtidigt som TERREG är på väg att bli lag, så är EU-apparaten även på väg att kräva av-kryptering och granskning av nätanvändarnas meddelanden och e-post i namn av att skydda barn mot övergrepp. Sammantaget blir detta en storebrorsstat som granskar, analyserar och i förekommande fall censurerar det mesta som sker online.

Länkar:
• DW: Rights groups slam EU online terrorist content law »
• Liberties: Free Speech Advocates Urge EU Legislators to Vote ’No’ to Automated Censorship Online »

Sociala media, användarnas rättigheter och nya statligt godkända censorer

av

Sociala medias ofta till synes slumpartade censur av inlägg och avstängning av användare är en ständig källa till irritation. Speciellt som det inte går att kontakta de olika plattformarna – och då den som censureras inte får reda på varför. Vilket blir extra problematiskt med tanke på nätjättarnas dominerande ställning i debatten.

Men det kan bli ändring på den saken. I EU:s föreslagna Digital Services Act (DSA) vill man att den som blir censurerad skall få veta varför – och även få en reell möjlighet att överklaga beslutet.

Även om detta är detaljreglering av hur privata företag skall bedriva in verksamhet – så kommer många användare säkert att välkomna att de nu kommer att få något som ger viss ”rättsäkerhet”. (Även om begreppet rättssäkerhet snarare handlar om förhållandet mellan individen och staten / rättsväsendet.)

Problemet med DSA är att förordningen vill införa ett nytt censurinstrument – så kallade ”trusted flaggers” som enligt förslaget skall representera ”kollektiva intressen” och som skall få en egen gräddfil till respektive sociala medieplattforms abuse-avdelning.

Det skall förvisso vara offentligt vilka dessa ”trusted flaggers” är. Och om de missköter si skall de kunna mista sitt uppdrag. Men det ligger fortfarande något obehagligt över att införa statligt godkända nätgranskare. Speciellt om dessa skall företräda ”kollektiva intressen” – vilket förmodligen kommer att öppna dörren för olika särintressen och identitetspolitiska överväganden. Vilket kan bli en soppa.

Generellt sett bör gränserna för det fria ordet sättas av lagstiftaren och sedan upprätthållas av ett oväldigt rättsväsende. Att sätta icke-statliga aktörer som officiellt godkända censorer kommer garanterat att skapa helt nya konflikter.

Nu gäller det att se till att DSA behåller ”rättssäkerheten” för sociala medias användare – samtidigt som ”trusted flaggers” inte ytterligare bidrar till polariseringen av samhällsdebatten.

Relaterat:
• At a glance: Does the EU Digital Services Act protect freedom of expression? »
• Nätjättarnas makt är ett frihetligt dilemma »

Aktuella EU-planer som kan inskränka friheten online

av

Det är mycket nu. Här är en listning av några saker som är på gång i EU när det gäller internets frihet, yttrandefrihet och övervakning:

Chat control

EU vill att alla användares alla meddelanden skall avkrypteras och grankas i jakt på olagligt innehåll. Förmodligen omröstning i Europaparlamentets plenum i april. Länk »

TERREG / TCO

EU vill införa censur för åsikter. Visserligen handlar det om terroristpropaganda, men det kan lätt utökas till andra områden. Förordningen kräver nedtagning av flaggat material inom en timma, ger medlemsstaternas myndigheter rätt att beordra nedtagning av material på servrar i andra länder – och återuppladdning av flaggat material får inte ske, vilket i praktiken kommer att kräva uppladdningsfilter. Länk »

Uppladdningsfilter (copyright)

EU:s redan beslutade upphovsrättsdirektiv håller nätplattformarna ansvariga om upphovsrättsskyddat material publiceras. I praktiken innebär detta automatiserade uppladdningsfilter som granskar allt som alla laddar upp – och som inte förstår i vilken kontext sådant material publiceras. Detta skall vara införlivat i svensk lagstiftning senast i sommar.

Länkskatt (copyright)

I EU:s upphovsrättsdirektiv ingår även idén om länkskatt – det vill säga att närplattformarna tvingas betala traditionell media för att länka till dess siter. Även detta skall vara svensk lag senast i sommar.

Trusted Flaggers (DSA)

I EU:s föreslagna Digital Services Act föreslås bland annat att organisationer som »företräder kollektiva intressen« skall upphöjas till statligt godkända nätgranskare, vars anmälningar till nätplattformarna skall prioriteras. En del säkerhetsspärrar finns, men detta kommer att bli kontroversiellt. Länk »

Nytt datalagringsdirektiv

EU-kommissionen o0ch ministerrådet vill gå fram med ett nytt datalagringsdirektiv – efter att EU-domstolen ogiltigförklarat det förra, då det strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv. Vad det handlar om är lagring av data om alla medborgares alla telefonsamtal, SMS, e-postmeddelanden, nätuppkopplingar, mobilpositioner m.m.

Code of Conduct on countering illegal hate speech online

EU-kommissionär Ylva Johansson har flaggat för att en ny EU-gemensam uppförandekod skall sättas upp vad gäller hat och hot på nätet. Detta är ett kontroversiellt ämne som säkert kommer att skapa debatt. Dock är det oklart om denna uppförandekod kommer att beslutas inom ramen för de demokratiska institutionerna – eller om den kommer att fastställas med partsintressen, bakom stängda dörrar till exempel i EU:s Internet Forum.

Övrigt

Det pågår även arbete vad gäller frågor som automatiserad ansiktsigenkänning och utökad registrering av resenärer (PNR). Därtill kommer naturligtivs frågan om ett digitalt corona-pass för resor och fri rörlighet i samhället. Detta är av intresse även om dessa frågor inte direkt berör friheten online.

Följ nät- och övervakningsfrågorna här på bloggen.

Bryr sig någon om EU:s nya nätcensur?

av

I Europaparlamentet kommer man under våren (förmodligen under april-sessionen, vecka 17) att rösta om förordningen om terror-relaterat innehåll online (TERREG / TCO).

Det känns som att jag tjatar om detta. Och som att aktivister, media och allmänheten inte riktigt bryr sig.

Ändå handlar det om att införa censur av åsikter på nätet. Vilket är en stor sak.

Erfarenheten visar att denna typ av lagar ofta drabbas av ändamålsglidning. Med ett klubbslag kan censuren utökas – och det saknas inte krafter som vill förbjuda både det ena och det andra på nätet.

Speciellt oroande är att detta sammanfaller med att EU senare i år kommer att uppdatera sina riktlinjer vad gäller hat och hot online. Om principen om nätcensur då redan är etablerad, då kommer det att bli frestande att använda detta verktyg utan att det har ett dugg med terrorism att göra.

Dessutom är denna förordning illa utformad i sak. Flaggat material skall tas ner inom en timma, vilket knappast ger utrymme för någon seriös analys av dess laglighet. Någon föregående rättslig prövning kommer inte att ske. Myndigheter i en medlemsstat kan beordra nedtagning av innehåll på servrar i andra EU-länder. Material som en gång flaggats skall inte kunna laddas upp igen – vilket kommer att kräva kontroll och analys av allt som alla laddar upp.

Det där sista kommer i praktiken att kräva uppladdningsfilter – även om man noga undviker att använda just det ordet i förordningen.

När denna förordning väl är klubbad – då har vi som sagt  infört censur av åsikter online. Förordningar och direktiv staplas på varandra. Var för sig går de kanske att motivera på ett eller annat sätt. Men sammantaget kommer de att få konsekvenser för det fria ordet online och den fria åsiktsbildningen.

Något intresse av att stanna upp för att analysera helhetsbilden eller ens åtgärdernas effektivitet finns inte. Det gäller såväl när det kommer till inskränkningar av informationens frihet som utrullningen av en aldrig sinande ström av övervakningslagar.

Steg för steg rör vi oss mot att skapa en Storebrorsstat. Till sist når vi en punkt där detta blir ett påtagligt demokratiskt problem. Möjligen är vi redan där.

Läs mer: En votering kvar innan EU inför nätcensur för åsikter »