Skarpt läge om nätcensur och »länkskatt« i EU

Nu går hanteringen av EU:s nya direktiv om upphovsrätt in i sin slutspurt. Och mycket talar för att såväl förslagen om nätcensur (uppladdningsfilter, artikel 13) och »länkskatt« (artikel 11) kan komma att klubbas igenom. Detta om inte internet, dess aktivister och andra vänner av ett öppet samhälle genast höjer sina röster.

Fredag den 18 januari behandlas frågan på nytt i EU:s ministerråd. Måndag den 21 januari hålls den sista förhandlingsrundan mellan Europaparlamentet, ministerrådet och EU-kommissionen. Sedan klubbas direktivet i Europaparlamentets plenum vid någon av följande sessioner: 25-28/3, 11-14/4 eller 15-18/4.

En sammanställning av läget i sak finner du hos den tyska, piratpartistiska ledamoten av Europaparlamentet, Julia Reda: Article 13 is almost finished – and it will change the internet as we know it »

Sammanfattningsvis ser det ut som om man tänker gå vidare med det uppladdningsfilter som kommer att tvinga nätplattformar som Youtube, Facebook, Twitter m.fl. att filtrera och analysera all text, alla bilder, allt ljud, all musik och all video som alla användare laddar upp. För att sedan, i förekommande fall, censurera innehåll – i en process som står helt utanför rättsstatens normala rutiner.

Detta kommer att slå hårt mot all sorts fria kreatörer. Youtube överväger att helt blockera användare från EU om förslaget blir verklighet – då en filtrering av allt som alla lägger upp kommer att bli komplicerad, dyr och förmodligen omöjlig att genomföra.

En konsekvens kan komma att bli att de sociala plattformarna kommer att skalas av till att i princip bara innehålla bilder på folks lunch. Detta kommer att bli ett slag mot hela samhällsdebatten på nätet. Och ett steg tillbaka från en uppkopplad värld där vi delar all världens kunskap och kultur.

Samtidigt kommer den så kallade »länkskatten« (som kräver licensiering av allt mediematerial som delas) att göra det svårt, dyrt eller rent av omöjligt att länka in nyheter ur samhällsdebatten på sociala plattformar. Detta är ett hot mot den fria, demokratiska debatten.

Nu är det dags att höja sin röst och protestera – till försvar för ett fritt och öppet internet. Till försvar för en levande samhällsdebatt. Till försvar för informationens frihet. Till försvar för kreativitet, kunskap och fri kultur. Till försvar för ett öppet informationssamhälle.

Nu är det upp till dig att säga ifrån, om du inte vill leva i ett tystare och censurerat samhälle.

/ HAX

P.S. Demonstrera gärna mot artikel 11 & 13 på lördag den 19 januari »

Vänstern, finansbranschen och det fria ordet

En företeelse i tiden är att man försöker tysta politiska motståndare. Mest uppmärksammade är kanske de amerikanska universitetens »Social Justice Warriors« (SJW) – som ofta försöker hindra akademiker och andra från att tala och hålla föreläsningar.

Detta har spridits ut i samhället i övrigt, till exempel i form av »de-plattformering«. Det vill säga att frispråkiga samhällsdebattörer och nätprofiler får basen för sin ekonomiska existens undanryckt.

Det kan handla om att man försöker förmå annonsörer att bojkotta vissa internetprofiler, som framförallt vänstern upplever som utmanande. Detta kan ske direkt – eller indirekt, genom påtryckningar mot plattformar som till exempel Youtube.

Men det kan även ta sig formen att samhällsdebattörer får uppleva hur arbetsgivare och uppdragsgivare tar sin hand ifrån dem – efter organiserade kampanjer från politiska motståndare.

Detta är ett fenomen som i princip alltid riktas mot samhällsdebattörer som befinner sig på politikens högra planhalva. Och de organiseras i princip alltid av vänsterkrafter. Vänstern såväl definierar som surfar på vad som anses vara politiskt korrekt.

En intressant aspekt av detta fenomen är att allt fler företag ställer sig på samma sida som de som vill tysta andra.

Till exempel har vi sett hur Patreon kastat ut nätprofiler (som inte gjort något mer uppseendeväckande än argumenterat för en åsikt) från sitt nätverk – på vilket läsare, tittare, lyssnare och följare kunnat ge ett månatligt ekonomiskt bidrag.

Detta leder i sin tur till att många – både givare och mottagare – kommit att bojkotta Patreon och söka sig till andra alternativ. Alternativ som sedan kommit att bojkottas av centrala betalningsförmedlare, som kreditkortsföretagen och PayPal.

Här går alltså stora, globala finansbolag in och spelar en aktiv roll i de-plattformering och i att tysta fria röster.

Detta är inget nytt fenomen. När jag jobbade i Europaparlamentet lyfte vi frågan om att kreditkortsföretagen vägrade befatta sig med Wikileaks. Resultatet blev att parlamentet uttalade att sådana bojkotter är problematiska och ett ofog.

På ett annat plan har vi kunnat se hur samma betalningsförmedlare stängt ner sina betalningskanaler för till exempel postorderföretag som säljer sexleksaker. Av »moraliska« skäl.

Finansbolag har naturligtvis rätt att göra affärer med vem de vill. Men de bör också betänka sitt ansvar, när de innehar en dominerande position på marknaden för betalningsförmedlare.

Den rimliga principen borde vara att acceptera betalningar för all verksamhet som är laglig – istället för att agera moralpolis, utifrån subjektiva värderingar och diverse påtryckningar.

På sikt är en sådan princip den enda hållbara – eftersom de aktuella bolagen annars inte kommer att kunna freda sig mot allehanda särintressen som vill tysta och skada andra.

Det bör även ligga i dessa betalningsförmedlares och finansbolags långsiktiga intresse att låta lagstiftning – och inget annat än lagstiftning – styra vilka aktörer de befattar sig med. Detta inte minst då de själva, i sin verksamhet är beroende av en fungerande rättsstat.

/ HAX

Relaterat:
• Frihetsfana under Sargon of Akkad »

Rapport: Internet blev mindre fritt 2018

Den amerikanska organisationen Freedom House har presenterat sin årliga rapport över tillståndet för internet i världen. Slutsatsen är – föga förvånande – att nätet har blivit mindre fritt under det år som gått.

Wired sammanfattar överskådligt vad som är problematiskt »…increasing censorship in response to disinformation, the widespread collection of personal data, and a growing group of countries emulating China’s model of digital authoritarianism.«

Vilket ger en deprimerande helhetsbild:

Since June 2017, the report found, internet freedom declined in 26 countries, while only 19 countries saw their scores improve. As a result, just 20 percent of the global internet population is considered “free.” The message is dire: Without significant effort on the part of tech companies, democratic nations, advocacy groups, the public, and the press, democracy might not survive the digital era.

Vad kan då göras? I Freedom House-rapporten finns en lista på förslag:

For Policymakers:

  • Ensure that all internet-related laws and practices adhere to international human rights law and standards.
  • Enact strong data protection laws to provide greater transparency and control over personal data.
  • Include human rights safeguards in national strategies on artificial intelligence (AI).
  • Fund rapid response capacity to counter attacks on internet freedom.
  • Impose sanctions—such as freezing of assets—on foreign tech companies involved in human rights abuses.
  • In the United States, reintroduce and pass the Global Online Freedom Act (GOFA).

For the Private Sector:

  • Adhere to the UN Guiding Principles on Business and Human Rights.
  • Conduct human rights impact assessments for new markets and commit to doing no harm.
  • Grant users control over their information and ensure that it is not being misused.
  • Ensure fair and transparent content moderation practices.
  • Engage in continuous dialogue with local civil society organizations.
  • Label automated “bot” accounts.
  • Use internal expertise to help counter Chinese state censorship and protect users.

For Civil Society:

  • Partner with the private sector on fact-checking efforts.
  • Work with scholars to examine how disinformation spreads and why people are likely to share it.
  • Monitor home countries’ collaboration with Beijing and Chinese firms.
  • Continue to raise awareness about government censorship and surveillance efforts.

Tyvärr är Sverige inte med i sammanställningen. Däremot kan man konstatera att internet anses var »fritt« i länder som Australien och Storbritannien – vilket nog kan diskuteras.

Utöver de frågor som Freedom House berör kan man lägga upphovsrättsindustrins ständiga krav på filtrering, censur och på att operatörer och plattformar skall agera nätpoliser. Även om detta sker i en kommersiell kontext – så kan konsekvenserna för det fria ordet och den fria åsiktsbildningen bli allvarliga.

Länkar:
• Freedom House: Freedom on the Net 2018 – The Rise of Digital Authoritarianism »
• Wireds sammanfattning: The Internet Became Less Free in 2018. Can We Fight Back?

/ HAX

FN-kritik mot EU:s förordning om spridning av terrorisminnehåll online

Kritiken växer mot EU:s föreslagna förordning om »förhindrande av spridning av terrorisminnehåll online«. European Digital Rights – EDRi – rapporterar att tre av FN:s tyngsta rapportörer (yttrandefrihet, privatliv och mänskliga rättigheter i relation till kontraterrorism) har allvarliga invändningar.

Speciellt saknar man tydliga definitioner av vad som skall anses rymmas inom den luddiga och klumpiga formuleringen terrorisminnehåll.

»As Commissioner Mijatović argues, governments frequently design counter-terrorism legislation that can lead to a dangerous curb of the freedom of expression by relying on hasty implementations and insufficiently clear definitions. Citing examples from Russia, the United Kingdom, France, Turkey and Spain, the analysis compellingly outlines the inherent dangers of “catch-all” labels such as “glorification of terrorism” and the use of counter-terrorism legislation to suppress political opponents, especially (but not only) in countries where the rule of law is endangered or abolished.«

Varningen gäller inte minst det luddiga begreppet »glorification of terrorist acts« – som kan betyda i stort sett vad som helst.

Vi kommer inte att kunna påstå annat än att vi blivit varnade.

Andra problem är att den tidsram (en timma) inom vilken anmält material skall plockas bort inte tillåter någon seriös rättslig prövning. Samtidigt är det fortfarande oklart vilka myndigheter (och vilken deras rättsliga kapacitet skall vara) som skall kunna beordra att innehåll censureras.

FN-rapportörerna oroas också över att denna förordning kan öppna för påtryckningar från myndigheter till nätplattformarna om att även censurera material som inte är olagligt, utan bara anses vara oönskat.

Kritik riktas även mot att förordningen i praktiken kommer att kräva automatiserad filtrering av allt uppladdat material.

I det stora hela är denna förordning ytterligare ett steg på den väg där inskränkningar i yttrandefriheten flyttas från lagstiftning till användarvillkor – och från rättsväsendet till privata nätföretag. Vilket är problematiskt, om vi vill leva i en fungerande demokratisk rättsstat.

EDRi – Terrorist Content Regulation: Warnings from the UN and the CoE »
EU:s ministerråd – Terrorisminnehåll online: rådet antar förhandlingsposition om nya regler för att förhindra spridning »

/ HAX

Idag röstar EU:s ministerråd om automatiserad nätcensur

Just nu sitter EU:s justitie- och inrikesministrar i möte för att klubba medlemsstaternas position vad gäller en ny förordning om terror-relaterat innehåll online – 2018/0331(COD) Proposal for a Regulation of the European Parliament and of the Council on preventing the dissemination of terrorist content online – general approach. (PDF»)

Förslaget innebär i korthet att terror-relaterat material som laddats upp av användare på sociala plattformar skall avlägsnas inom en timma från det att en (ej närmare definierad) nationell myndighet gjort plattformen uppmärksam på dess existens.

Till att börja med kan man konstatera att även om detta är en förordning (som skall tillämpas rakt av), så ger den medlemsstaterna en öppning för att hänga på ytterligare skäl för censur som kan använda samma verktyg. (Se till exempel tyska NetzDG – som använder liknande verktyg för att rensa sociala plattformar från »hat«. Vilket visat sig vara ett reellt hot mot det fria ordet.)

I sak är definitionen av terror-relaterat innehåll fortfarande vag. Jag är inte helt övertygad om att justitieminister Morgan Johansson (S) har helt torrt på fötterna när han säger att »Vi har varit angelägna om att det här ska handla om det som är straffbart. Alltså till exempel att uppmana till terrorhandlingar eller råd kring hur man kan begå olika terrorhandlingar.« Och mycket riktigt fortsätter han i nästa andetag med en brasklapp. »Sedan finns det en gråzon, sådant man tycker är olämpligt, men som inte är straffbart.«

Dessutom finns klara signaler i förordningens inledande text som gör det rätt klart att man gärna ser att de sociala plattformarna hanterar sådant här inom ramen för sina användarvillkor. Vilket dels riskerar att leda till överfiltrering och dels gör den enskilda användaren rättslös. (Rätten till överprövning gäller bara om beslutet om att avlägsna innehåll kommer från myndigheterna.)

Ett allvarligt problem är att denna förordning kräver övervakning, kontroll och analys av allt som alla laddar upp på t.ex. Facebook, Twitter och Youtube. Det gäller allt du skriver, alla bilder du lägger upp och allt du länkar till. Även om det bra är en bild från julfesten.

Dels talar förordningen om proaktiva åtgärder. Dels stadgar artikel 6:2 att plattformarna skall hindra att sådant material som en gång plockats ner inte skall kunna publiceras igen. Här talas uttryckligen om att använda »automatiska verktyg« – det vill säga automatisk filtrering – det vill säga automatiserad censur.

Man vill även att dessa verktyg skall användas för att upptäcka, identifiera samt avlägsna eller blockera terror-relaterat innehåll på plattformarnas eget initiativ.

Det råder alltså ingen tvekan om att förlaget kommer att leda till automatiserad filtrering, syftande till censur, av allt.

(Som av en händelse kommer detta förslag samtidigt som EU diskuterar automatisk filtrering, syftande till censur – när det gäller upphovsrättsskyddat innehåll. Möjligen försöker man slå två flugor i en smäll.)

/ HAX

Edit: Nästa steg blir Europaparlamentet. Om parlamentet gör större ändringar blir det förhandlingar. Om parlamentet säger ja, då är det klappat och klart.

Läs även EDRi – Terrorist Content Regulation: Civil rights groups raise major concerns »

När EU går terroristernas ärenden

Att skydda medborgarna mot terrorism är en fråga på flera plan. Dels handlar det om att förhindra terrorattentat. Dels handlar det om ett försvar mot terrorismens underliggande mål – det vill säga dess strävan att ödelägga vårt öppna, fria, demokratiska samhälle.

Vad gäller det första – att förhindra terrorattentat – pekar erfarenhet och forskning på att massövervakning inte ger det skydd man hoppats. De flesta terrorister som genomfört attentat har varit kända för och flaggade av myndigheterna. Men man har inte haft resurser att hålla ögonen på dem. Istället har man satsat på att övervaka allt som hela befolkningen har för sig. Vilket inte gör oss tryggare, utan snarare tvärt om.

När det gäller att försvara vårt öppna, fria, demokratiska samhälle bör det rimligen innebära att försvara våra mänskliga och medborgerliga fri- och rättigheter. I detta ingår till exempel rätten till privatliv och yttrandefriheten. Men det är inte vad som sker. Istället gör EU gemensam sak med terroristerna för att undergräva dessa värden.

Just nu arbetar EU-maskineriet med flera olika ärenden som är problematiska.

Regulation on Terrorist Content Online

EU-kommissionen föreslår en ny reglering för att bekämpa terror-relaterat material online. EDRi sammanfattar några av regleringens centrala punkter:

  • Obligations to take down content on the basis of removal orders within one hour.
  • An arbitrary system of referrals of arbitrarily designated potentially dangerous (but not illegal) content to internet service providers. The removal of this content is decided by the provider, based on their terms of service and not the law.
  • Unclear, arbitrary “proactive” measures to be imposed on an unclear subset of service providers to remove unspecified content.

I regleringens förklarande delar öppnar man för att operatörer och plattformar skall kunna använda AI för att identifiera och avlägsna oönskat, terror-relaterat material. Vilket, speciellt då denna teknik än så länge är i sin vagga, är teknik som varken är speciellt tillförlitlig eller allmänt tillgänglig. I den mån den finns och kan användas kommer den att leda till överfiltrering, det vill säga att man censurerar mer än vad som är tänkt och nödvändigt. Dessutom är detta en teknik som förmodligen bara de stora plattformarna kommer att ha resurser för att använda. Den blir alltså en barriär som hindrar små och nya aktörer från att ge sig in på marknaden.

Överfiltrering ses för övrigt inte som ett problem i regleringen, utan ett mål.

Därtill kommer det ständiga problemet att ansvaret för censuren flyttas från lagstiftning och rättsväsende till privata operatörer och deras användarvillkor. Vilket gör individen rättslös.

I slutändan landar detta i att allt material som vi laddar upp på olika plattformar kommer att övervakas, granskas och analyseras. Allt.

Länk: Terrorist content regulation – prior authorisation for all uploads? »

Europaparlamentets TERR-utskott

Samtidigt pågår arbetet med en icke-bindande rapport i Europaparlamentets speciella, hemlighetsfulla »Special Committee on Terrorism« (TERR). Dess syfte tycks i stort sett vara att understödja de initiativ som kommer från EU-kommissionen på området.

Även här har EDRi en slagkraftig sammanfattning…

Unfortunately, references to fundamental rights were so scarce that Committee members chose to add a preamble to the Report to introduce vague considerations for the respect of fundamental rights and freedoms instead of mainstreaming our fundamental rights in the text. For instance, the Report calls for the alignment of the European counter-terrorist policies with the Charter of Fundamental Rights of the European Union, while proposing measures that are in contradiction to this principle. (…)

Compensating repressive and freedom-restrictive measures with superficial references to fundamental rights (such as removing more content online “but without endangering freedom of speech” or balancing interoperability with “fundamental rights of the data subjects”) is utterly insufficient at best and duplicitous at worst. Fundamental rights deserve stronger protection.

Rapporten upprepar även det farliga och orealistiska kravet på bakdörrar till kryptering. EDRi igen…

Worse still, it exacerbates the initial provisions on encryption, by requesting the development of a hub for decryption, including decryption tools and expertise within Europol, to access data obtained in the course of criminal investigations. Weakening encryption to supposedly support law enforcement services actually creates vulnerabilities and increases security risks.

Vilket öppnar allt vi gör på nätet för främmande makt och allsköns cyberbrottslighet.

Denna rapport (som alltså lyckligtvis inte är bindande, men ändå allvarlig) kommer upp till votering i plenum på någon av Europaparlamentets sessioner nu i vinter.

Länk: The TERR Committee votes on its irreparable draft Report »

/ HAX

Varför skapas inga nätjättar i Europa?

Här är ett intressant lästips. Techdirts Mike Masnick skriver under rubriken: Why Europe Will Never Build Its Own Digital Giants. Ur texten…

(W)hat fascinated me most was the general resistance to understanding the fundamentals of both innovation and the internet. But in the past few years, it’s become increasingly clear that the EU’s concept of the internet is almost entirely out of sync with how digital innovation works, especially with the ways in which the EU has gone about regulating the internet — from the GDPR to the Copyright Directive, to the antitrust efforts, to the Terrorism regulation.

Vilket i stort sett är vad den europeiska nätrörelsen hävdat länge nu – för döva öron.

Utöver att Europa är på väg att hamna på efterkälken tekniskt och ekonomiskt finns det även skäl att vara orolig över hur all denna nya reglering hämmar ett fritt flöde av information och inskränker våra demokratiska fri- & rättigheter.

Länk: Why Europe Will Never Build Its Own Digital Giants »

EU ställer orealistiska krav på nätcensur

I EU är frågan om censur av terrorrelaterat innehåll på nätet på väg mot beslut. Vad som kan anses vara terror eller terrorism är fortfarande rätt oklart. Och vi vet sedan tidigare att detta är ett sluttande plan, som fortsätter med censur av diffust definierat hatiskt eller diskriminerande innehåll – vilket brukar sluta med att man ger sig efter det mesta som politiker och myndigheter ogillar.

Förslaget innebär att alla »hosting service providers« i vissa fall måste ta ner material som ogillas av myndigheterna inom en timma. Att de skall ha en hotline för sådana ärenden bemannad 24/7. Och att de själva måste vara uppmärksamma och avlägsna sådant innehåll – annars kan myndigheterna komma att övervaka allt som laddas upp.

Detta är något som möjligen nätets jättar som Google, Facebook och Twitter kan hantera. Men för små och alternativa plattformar är kraven mycket svåra, rent av omöjliga att möta.

Dessutom är detta ytterligare ett steg mot att flytta makten över yttrandefriheten från lagarna och rättsväsendet till privata operatörer och deras användarvillkor. Vilket gör den enskilda individen i stort sett rättslös.

Det ser ut som om EU-kommissionen, medlemsstaterna och Europaparlamentet försöker driva igenom denna reglering med ett minimum av offentlig debatt och demokratisk insyn. Vilket naturligtvis inte får ske.

Läs mer hos La Quadrature du Net:
• Antiterrorism Censorship: Macron teams up with the Web giants to set up mass surveillance »

/ HAX

Krav på öppenhet och transparens om Facebooks censur

Det är ett välkänt problem att Facebook ibland tar ner innehåll och blockerar användare utan någon egentlig motivering och utan verkliga möjligheter att begära överprövning. Detta har lett till reaktioner från bl.a. EFF och Human Rights Watch. EFF skriver…

The Electronic Frontier Foundation (EFF) and more than 70 human and digital rights groups called on Mark Zuckerberg today to add real transparency and accountability to Facebook’s content removal process. Specifically, the groups demand that Facebook clearly explain how much content it removes, both rightly and wrongly, and provide all users with a fair and timely method to appeal removals and get their content back up.

Detta är helt klart ett rimligt krav, speciellt med tanke på Facebooks dominerande ställning inom sociala media.

Men det är inte utan praktiska problem. Som vi t.ex. kunnat se i en tv-dokumentär handlar det om mycket stora volymer – och besluten fattas på ett par sekunder, om ens det. Att göra processen »rättssäker« och transparent skulle innebära mycket extraarbete och stora kostnader. Inte desto mindre är det nödvändigt.

Det skall bli intressant att se vad Facebook svarar, om de svarar över huvud taget.

Länkar:
• EFF, Human Rights Watch, and Over 70 Civil Society Groups Ask Mark Zuckerberg to Provide All Users with Mechanism to Appeal Content Censorship on Facebook »
• Why did Facebook pull your post? Digital rights groups want you to know »

/ HAX