Femte juli

Nätet till folket!

Censur

I denna kategori publicerar vi nyheter som rör inskränkningar av yttrandefriheten såväl online som i den fysiska världen. Vi ägnar speciell uppmärksamhet åt förslag om förhandscensur på nätet. Principen bör vara att den som publicerar något olagligt på nätet också bör vara ansvarig för det - och att detta ansvar kan utkrävas först när publicering har skett.

TERREG: Ännu ett akut hot mot ett fritt och öppet internet

av

EU fullständigt sprutar ur sig lagförslag efter lagförslag som på ena eller andra sättet underminerar internets öppenhet och frihet.

2019 förlorade vi kampen mot EU:s upphovsrättsdirektiv – och de uppladdningsfilter som är tänkta att hindra oss från att ladda upp information på nätet som är eller kan misstänkas vara upphovsrättsskyddad.

Med detta etablerades principen om automatiserad förhandscensur i EU:s regelverk.

Och nu är en förordning om terror-relaterat innehåll på internet (TERREG) i hög fart på väg genom EU:s beslutsapparat.

Med denna förordning vill EU omöjliggöra uppladdning – det vill säga publicering – av sådant som kan anses vara »terror-relaterat«. Inte ens vetenskapen, journalistiken eller konsten kommer att undantas, om ministerrådet får som det vill.

Det kan förvisso vara rimligt att försöka hålla nätet fritt från terroristers propaganda och infotainment. På samma sätt som det kan vara rimligt att vänligt men bestämt skjuta alla åt sidan som de facto är beredda att angripa det civiliserade västerländska samhället med våld.

Detta måste ske med största respekt för det fria ordet, våra fri- och rättigheter och det demokratiska samhällets principer. Tyvärr verkar TERREG inte ta dessa faktorer på det allvar de förtjänar.

Men låt oss utgå från att terror-relaterat innehåll på nätet skall bort. Exakt vad är det då som skall bort? Var går gränsen mellan vad som är acceptabelt och oacceptabelt?

Här måste etableras något slags standard. Och plötsligt har vi nya lagar om vad som får respektive inte får publiceras på internet. Med allt vad sådant brukar medföra av oförutsedda och oönskade konsekvenser.

Men även om vi bortser från sådana invändningar är förslaget till förordning illa skrivet.

Till exempel föreslås att terror-relaterat innehåll på nätet skall vara avlägsnat inom en timma. När så är tekniskt möjligt, vill Europaparlamentet tillägga. Vilket ministerrådet tjurskalligt motsätter sig.

Och i andra ändan av systemet har vi uppladdningsfiltret. Ministerrådets position:

»Hosting service providers shall use “proactive measures” to prevent the re-upload of content previously taken down and to detect and identify alleged terrorist content.«

På andra sidan står Europaparlamentet som säger nej till uppladdningsfilter. Parlamentet tvingas även påpeka att vi bara kan stifta lagar som gäller i EU – och att rådets krav på global filtrering inte är möjligt.

Detta är bara några av problemen med TERREG. Vi kommer att återkomma med fler bloggposter i ämnet. Om du vill läsa mer rekommenderas följande länkar.

• Bland andra Tim Berners-Lee, Vint Cerf och Bruce Schneier varnar för TERREG: Nätpionjärer varnar för EU-förslag mot terror-relaterat innehåll på internet »

• Den tyske piratpartisten i Europaparlamentet, Patrick Breyer, sitter med i den trialog i vilken EU:s olika institutioner försöker komma överens om TERREG. Läs hans genomgång av ärendet här »

Nästa trialog-förhandling är planerad till den 18 mars, om smittoläget tillåter.

EU, Sverige och friheten på nätet

av

Friheten – och då inte minst yttrandefriheten på internet är under attack – från den politiska makten.

I EU har man nu ett nytt upphovsrättsdirektiv som öppnat upp för automatisk filtrering av sådant som användare laddar upp på sociala media. Det vill säga automatiserad förhandscensur.

I det EU-direktiv mot terrorrealaterat innehåll på nätet som just nu är under beredning vill medlemsstaterna att oönskat material skall plockas bort inom en timma – inte bara från sociala plattformar utan även från enskilda individers molntjänster, som Dropbox. Vilket förutsätter att även privat information måste övervakas, analyseras och filtreras. Man säger rakt ut att man vill se uppladdningsfilter. Och medlemsstaterna ser i sammanhanget inte något skäl att göra undantag för utbildning, konst, journalistik eller forskning.

Just nu pågår även arbetet med att ta fram en Digital Services Act – som bland annat är tänkt att innehålla gemensamma EU-regler mot hat och hot på nätet – istället för den nationella lagstiftning där bland andra Frankrike och Tyskland är pådrivande. Det finns skäl att tro att genensam EU-lagstiftning på området kommer att utgå från just de länder som har den strängaste lagstiftningen på området.

Även Sveriges »digitaliseringsminister«, Anders Ygeman (S), har varit ute i media och flaggat för att göra plattformarna ansvariga för vad deras användare laddar upp på nätet.

I sammanhanget kan det vara bra att komma ihåg även andra förslag som bollats i EU-apparaten – som ID-krav vid uppkoppling och ett EU-operativsystem.

I den EU-finansierade forskningen finns bland annat projekt som syftar till ökad övervakning av vad folk tycker och säger online. Till exempel PREVISION (A predictive platform running analytics through data obtained from ”online social networks, the open web, the Darknet, CCTV and video surveillance systems, traffic and financial data sources, and many more”.) Och CONNEXION (A predictive policing tool relying on social media, ’dark web’, and IoT data.) Allt kopplat till automatiserad övervakning, beteendeanalys och en uppsjö olika register.

Om man lägger samman alla de olika delarna får man en förfärande helhetsbild. En lång rad olika förslag som vart för sig är problematiska ger tillsammans ett system för övervakning och censur som inte hör hemma i en demokratisk rättsstat.

Politikerna, de vill bara ha mer av samma. Så kommer det alltid att vara. Om vi inte vill leva i en outhärdlig Storebrors-stat måste motståndet därför komma underifrån, från folket. Och det börjar bli ont om tid.

Ny tysk lag ännu ett steg på vägen mot automatiserad nätcensur

av

Ny tysk lagstiftning är på väg vad gäller hat och hot på internet.

Politico rapporterar:

Germany is cracking down on hate speech online amid a rise in right-wing extremism, but critics warn that civil liberties will end up as collateral damage. (…)

“Hate crimes should finally end up where they belong — in court,” said the Social Democrat Justice Minister Christine Lambrecht after the bill was approved by the government.

The draft law will force social media companies to proactively report potentially criminal content on their platforms to law enforcement.

Detta innebär att nätplattformarna själva måste identifiera potentiellt olagligt eller olämpligt material, bedöma dess innehåll – och i förekommande fall censurera och rapportera sina användare till polisen.

Den enda praktiska möjligheten att göra detta är med automatiska filter – som inte kan bedöma kontext och som därmed kommer att överfiltrera. Dessutom måste någon (oklart vem) definiera vad som till exempel är att betrakta som hat. Vilket inte alltid är uppenbart.

Lagförslaget är dessutom intressant eftersom tysk och fransk lagstiftning just nu är de drivande krafterna bakom ett gemensamt regelverk för vad som får publiceras på internet – inom ramen för EU:s Digital Services Act.

“There is no question that our society has a problem with right-wing extremism and hate speech,” said Elisabeth Niekrenz of Berlin-based civil liberties organization Digitale Gesellschaft (Digital Society), ”which deeply worries me. But the measures presented [by Lambrecht] infringe people’s right to informational self-determination, open the door for more surveillance, grant law enforcement more powers to intervene and allow for more data collection.”

Politico: German hate speech crackdown sparks censorship fears »

Nu börjar striden om nätcensur på EU-nivå

av

Idag presenterade EU-kommissionen ett första, allmänt hållet papper om sin nya Digitial Services Act. Detta nya regelverk kommer att bli mycket omfattande. EUobserver sammanfattar:

»The European Commission unveiled on Wednesday the EU’s vision for digital policies, focusing on data and artificial intelligence governance. The commission wants to establish new binding requirements for the development and use of ”high-risk” AI applications – which might pose risks for citizens or be related to specific sectors such as healthcare, policing or transport. Additionally, the commission wants to create a common single market for data.«

Vi har tidigare rapporterat om hur kommissionens tjänstemän förberett frågan för den tillträdande kommissionen. Bland annat menar de att det behövs ett enhetligt regelverk för blockering av material och en enhetlig definition av näthat:

»Regulating content moderation. Uniform rules for the removal of illegal content such as illegal hate speech would be made binding across the EU, building on the Recommendation on illegal content and relevant case-law, and include a robust set of fundamental rights safeguards.« (…)

»The analysis will also cover harmful content (which is not necessarily illegal), as such content is not only addressed in EU-level policies (such as the AVIVSD), but also at MS level (e.g. the draft French fake news law, the UK Online Harms White Paper, etc. However, a clear distinction will be made between illegal and harmful content when it comes to exploring policy options.«

I dagens dokument (PDF) från kommissionen skriver man bland annat:

»In this context, it is essential that the rules applicable to digital services across the EU are strengthened and modernised, clarifying the roles and responsibilities of online platforms. The sale of illicit, dangerous or counterfeit goods, and dissemination of illegal content must be tackled as effectively online as it is offline.«

Luddigt, förvisso. Men detta är långt från ett färdigt förslag ännu. Och redan i går var vår svenske digitaliseringsminister Anders Ygeman (S) ute och krattade manegen:

»Digitaliseringsminister Anders Ygeman vill se en lagstiftning där sociala medier-företagen hålls delvis ansvariga för det som publiceras på deras plattformar.

– Ytterst är det den som själv skriver ett inlägg som är ansvarig, men jag menar att de sociala plattformarna måste ha ett medansvar för det som publiceras på deras plattformar och med det vill jag ha en skyldighet för företagen att ta ner olagligt material, säger Anders Ygeman.

En sådan här lagstiftning passar bäst på europeisk nivå, säger Anders Ygeman, eftersom det rör sig om internationella företag. Men om det inte skulle gå vägen i EU så vill han ta till svensk lagstiftning.

Den piratpartistiske, tyske ledamoten av Europaparlamentet Patrick Breyer kommenterade frågan redan när han tillträdde förra sommaren:

»In the worst case the Commission’s plans could make online platforms act as an ‘Internet police’ and ‘Internet censor’, and incentivize error-prone upload filters, which would violate the fundamental right to free speech. Unrealistic time frames for removing content could existentially threaten small and medium-sized businesses and non-commercial services. Governments prying on our online activities could put the confidentiality of our intimate passions and weaknesses at risk.

In the best case, however, wrong national legislation such as in Germany and France could be replaced and free speech online protected better, messaging services and social networks could be interconnected enhancing competition and user choice, and the right to use Internet services anonymously could be protected at EU level. Freedom of speech, consumer choice, the right to privacy and the principles of a global Internet need to be at the heart of any digital services regulation. It’s about our digital habitat. The Internet community is watching the Commission very carefully now.«

Och här (Youtube) kan du se det anförande han höll i Europaparlamentets utskott för rättsliga frågor, JURI, i veckan.

Det finns även skäl att anta att the Digital Services Act (DSA) kommer att urholka eHandels-direktivets förbud mot generell övervakning och dess budbärarimmunitet (att operatörer och plattformar inte kan hållas ansvariga för vad deras användare gör).

 

Vi återkommer inom kort med mer information. Här är tills vidare en del länkar:

• EU-kommissionens arbetsdokument: Shaping Europe’s digital future  (PDF) »

• Pirate MEP Patrick Breyer i EP JURI (Youtube) »

Tidigare publicerade texter i ämnet:

• Pirate MEP Patrick Breyer om DSA »

• EU:s Digital Services Act – mer reglering och censur »

• EU 2020: Nu står kampen om det fria ordet på internet »

EU vs. Facebook vs. yttrandefriheten

av

Lionel Laurent hos Bloomberg:

»It’s not very surprising that Mark Zuckerberg’s state-visit-style trip to Brussels got a pretty chilly reception from European Union officials. The Facebook Inc. co-founder is pleading for more regulation to solve what he and his top lobbyist Nick Clegg consider to be a failure of public policy: If only governments could agree on how to regulate the internet without curbing free expression, the social network would be only too happy to comply.

This analysis is not new, and entirely misdiagnoses the problem in the Europeans’ view: It is Facebook’s business model, which hoovers up billions of users’ intimate thoughts and behavior patterns to better target ads, which is the issue. And it’s one that the social network would prefer just to tinker with at the margins, given the costs involved.«

Att tro att politiken kan eller vill reglera internet utan att inskränka yttrandefriheten känns en smula naivt.

Sedan kan man fundera över om någon egentligen företräder användarnas intressen i sammanhanget. Men så brukar det ju vara: Politik och »stakeholders« gör upp utan att lyssna till vad vanligt folk tycker.

Länk: Facebook’s Business Model Is What Brussels Hates – The question is whether Mark Zuckerberg will be “nibbled to death by ducks” or hit with something harder »

EU:s uppladdningsfilter – en praktisk omöjlighet som ändå är på väg att bli verklighet

av

EU-kommissionens samtalsrunda med så kallade stakeholders (nätjättarna och upphovsrättsindustrin) om uppladdningsfilter (artikel 17, f.d. 13 i EU:s nya upphovsrättsdirektiv) närmar sig sitt slut.

Emanuel Karlsten ger en ögonblicksbild från det näst sista mötet:

Ett återkommande försvar för ”internetfilter” har varit att tekniken ska kunna hålla isär satir och kritik från upphovsrättsskydd. Socialdemokraterna i Sverige, som blev de som tillsammans med SD tippade vågen för direktivet, menade i en intervju att ”jag förställer mig att det går till så… Att tekniken är sådan att man är oerhört noga med att vad man tittar på”.

Under det fjärde mötet hölls föredrag från både Facebook och företag som kan tänkas vilja sälja den teknik som ska filtrera ut överträdelser. Samtliga framhöll att den teknik som finns idag inte kan gå bortom att jämföra uppladdat innehåll mot en databas, och ta bort det som matchar. Ingen representant kunde erbjuda en teknik som gjorde analys av till exempel ett upphovsrättsskyddat verks kontext.

Detta är en avgörande insikt, eftersom det gör det väldigt svårt att implementera ett ”filter” och samtidigt skydda internetanvändares yttrandefrihet och rätt att publicera kritik och satir.

Ett uppladdningsfilter är med andra ord en precis lika fyrkantig idé som vi kritiker påpekat från början. Om det blir verklighet finns det idag inget som tyder på att det skulle kunna skilja på sådant upphovsrättsskyddat material som skall vara tillåtet respektive förbjudet att ladda upp.

Communia rapporterar:

In this situation, the Commission will need to show if it is willing to defend the legislative compromise reached with Article 17, or if it will sacrifice user rights in the light of powerful commercial interests that are interested in undermining the user rights safeguards that were included in the final compromise. Together with the other users’ organisations represented in the dialogue we will push for meaningful safeguards (such as human review of automated content matches before uploads can be deleted). As there are currently no further meetings of the stakeholder dialogue on the agenda, the discussion about user rights at the next meeting will likely be the final showdown. This means that it will be crucial for anyone that has an interest in safeguarding user rights (including the European Parliament, which introduced the relevant provisions into the final compromise) to pay close attention to the next meeting.

Enkelt uttryckt: Förhandlingarna närmar sig sitt slut. Någon lösning på hur filtrering av upphovsrättsskyddat material är tänkt att ske finns inte. Något skydd för »fair use« av upphovsrättsskyddat material i form av memes, kritik, satir etc. finns inte.

Allt verkar med andra ord att bli precis så illa som man kunde frukta. Och de som hävdade att det inte är några problem syns inte längre till i debatten.

Länkar:
• Emanuel Karlsten: ”TV-bolag vill ta bort videos med deras logga” och andra förslag från EU-kommissionens möte om internetfilter »
• Communia: Article 17 stakeholder dialogue (day 5): It all depends »

Wired: Censurvännernas verkliga problem är inte Facebook, utan folket

av

»But the reason these companies—Facebook in particular—talk about free speech is not simply to conceal their economic stake in the reproduction of misinformation; it’s also a polite way for them to suggest that the real culpability for what pullulates on their platforms lies with their users. Facebook has always presented itself, in contrast to legacy gatekeepers, as a neutral bit of infrastructure; people may post what they like and access what they fancy. When Zuckerberg talks about “free expression,” he is describing the sanctity of a market­place where supply is liberated to seek the level of demand. What he is saying, by implication, is that the affliction of partisan propaganda reflects not a problem of supply but of demand—a deep and transparent expression of popular desire.«

Wired: Bad Algorithms Didn’t Break Democracy »

EU:s uppladdningsfilter: Låsta positioner i kommissionens samtal

av

Idag, den 16 januari, håller EU-kommissionen ännu ett »stakeholder meeting« om upphovsrättsdirektivets artikel 17 (f.d. 13) – som ställer krav på licensiering och filtrering av upphovsrättsskyddat material på nätplattformarna.

Fortfarande är motsättningarna mellan plattformar (och därmed även användare) och upphovsrättsindustrin betydande. EDRi skriver om resultatet av förra mötet:

After Youtube’s Content ID presentation during the third meeting, Facebook’s Rights Management tool presentation reiterated what civil society has been repeating during the entire duration of the copyright debates: filtering tools cannot understand context. Content recognition technologies are only capable of matching files and cannot recognise copyright exceptions such as caricature or parody.

This argument has now been clearly and repeatedly laid out to the European Commission by both civil society organisations and providers of content recognition technology. We would therefore expect that the Commission’s guidelines will take this into account and recommend that filters should not be used to automatically block or remove uploaded content.

Denna fråga har blivit högaktuell efter att Frankrike och Nederländerna lagstiftat innan alla andra – och valt att helt strunta i undantag för memes, satir, kritik och andra former av »fair use«.

Plattformarna oroas också över felaktiga upphovsrättsanspråk, som kan komma att leda till att material och poster felaktigt censureras.

Vi återkommer när mer information läckt ut om dagens möte.

EDRi » Copyright stakeholder dialogues: Filters can’t understand context »

Vem skall bestämma vad som är sanning?

av

Debatten om politisk annonsering i sociala media fortsätter. Facebook har bestämt att inte faktakolla politiska annonser. Google begränsar så kallad micro-targeting. Och Twitter har helt stoppat politiska annonser. Och just nu utsätts framförallt Facebook för hård kritik för sitt beslut.

Debatten rymmer flera principiellt intressanta frågor. Som vem som skall bestämma vad som är sanning. Och vad sanning egentligen är. Samt hur detta i så fall skall prövas. Ingen av dessa frågor har fått något rimligt svar.

Anta att två politiska partier har olika uppfattning om hur något förhåller sig – och att båda påståendena inte kan vara rätt samtidigt. Vem skall då bestämma vad som är »rätt«? Hur vet man vad som är korrekt? Och vad händer om politiska partier och kandidater inte tillåts ifrågasätta vedertagna uppfattningar?

Debatten visar också att man underskattar internets deltagandekultur. Är det någonstans som olika påståenden granskas och ifrågasätts – då är det på nätet. Finns det någonstans där politiker kritiseras och hånas för felaktiga påståenden – då är det på nätet.

Dessutom blir det väldigt konstigt om olika regler skall gälla på respektive utanför internet.

Politico: Facebook sticking with policies on politicians’ lies and voter targeting »

Facebook om EU:s »uppladdningsfilter«

av

Det får nu anses klarlagt att EU:s nya upphovsrättsdirektiv kommer att leda till att allt som folk laddar upp – i vart fall på Facebook – kommer att förhandsgranskas, analyseras och i förekommande fall censureras.

Torrentfreak rapporterar:

»In a recent meeting organized by the European Commission, Facebook explained in detail how this automated system works. The meeting was organized to create a dialogue between various parties about possible solutions for the implementation of Article 17.

In Facebook’s presentation Dave Axelgard, product Manager for Rights Manager, explained how automated matching of copyrighted content takes place on the social media network. He also detailed what actions rightsholders can take in response, and how users can protest misuse and abuse of the system.«

Den goda nyheten är att Facebook anstränger sig för att komma tillrätta med felaktiga och falska upphovsrättsliga anspråk:

»Facebook works hard to catch and prevent these types of misuse and abuse, to ensure that its automated detection system doesn’t remove legitimate content. This is also something to keep in mind for the implementation of possible ‘upload filters’ with the introduction of Article 17. (…)

Facebook tries to limit abuse through a variety of measures. The company limits access to its Rights Manager tool to a select group of verified copyright holders. In addition, it always requires playable reference files, so all claims can be properly vetted.«

Men det finns fortfarande problem:

“Our matching system is not able to take context into account. It’s just seeking to identify whether or not two pieces of content matched to one another,” Axelgard said, responding to a question from Communia’s Paul Keller.

Vilket är precis vad upphovsrättsdirektivets kritiker varnat för från första början.

Torrentfreak: Facebook Sees Copyright Abuse as One of the Platform’s Main Challenges »

Uppdatering – Mer relevant information här: Article 17 stakeholder dialogue (day 4): it’s all about transparency »