Idag röstar EU:s ministerråd om automatiserad nätcensur

Just nu sitter EU:s justitie- och inrikesministrar i möte för att klubba medlemsstaternas position vad gäller en ny förordning om terror-relaterat innehåll online – 2018/0331(COD) Proposal for a Regulation of the European Parliament and of the Council on preventing the dissemination of terrorist content online – general approach. (PDF»)

Förslaget innebär i korthet att terror-relaterat material som laddats upp av användare på sociala plattformar skall avlägsnas inom en timma från det att en (ej närmare definierad) nationell myndighet gjort plattformen uppmärksam på dess existens.

Till att börja med kan man konstatera att även om detta är en förordning (som skall tillämpas rakt av), så ger den medlemsstaterna en öppning för att hänga på ytterligare skäl för censur som kan använda samma verktyg. (Se till exempel tyska NetzDG – som använder liknande verktyg för att rensa sociala plattformar från »hat«. Vilket visat sig vara ett reellt hot mot det fria ordet.)

I sak är definitionen av terror-relaterat innehåll fortfarande vag. Jag är inte helt övertygad om att justitieminister Morgan Johansson (S) har helt torrt på fötterna när han säger att »Vi har varit angelägna om att det här ska handla om det som är straffbart. Alltså till exempel att uppmana till terrorhandlingar eller råd kring hur man kan begå olika terrorhandlingar.« Och mycket riktigt fortsätter han i nästa andetag med en brasklapp. »Sedan finns det en gråzon, sådant man tycker är olämpligt, men som inte är straffbart.«

Dessutom finns klara signaler i förordningens inledande text som gör det rätt klart att man gärna ser att de sociala plattformarna hanterar sådant här inom ramen för sina användarvillkor. Vilket dels riskerar att leda till överfiltrering och dels gör den enskilda användaren rättslös. (Rätten till överprövning gäller bara om beslutet om att avlägsna innehåll kommer från myndigheterna.)

Ett allvarligt problem är att denna förordning kräver övervakning, kontroll och analys av allt som alla laddar upp på t.ex. Facebook, Twitter och Youtube. Det gäller allt du skriver, alla bilder du lägger upp och allt du länkar till. Även om det bra är en bild från julfesten.

Dels talar förordningen om proaktiva åtgärder. Dels stadgar artikel 6:2 att plattformarna skall hindra att sådant material som en gång plockats ner inte skall kunna publiceras igen. Här talas uttryckligen om att använda »automatiska verktyg« – det vill säga automatisk filtrering – det vill säga automatiserad censur.

Man vill även att dessa verktyg skall användas för att upptäcka, identifiera samt avlägsna eller blockera terror-relaterat innehåll på plattformarnas eget initiativ.

Det råder alltså ingen tvekan om att förlaget kommer att leda till automatiserad filtrering, syftande till censur, av allt.

(Som av en händelse kommer detta förslag samtidigt som EU diskuterar automatisk filtrering, syftande till censur – när det gäller upphovsrättsskyddat innehåll. Möjligen försöker man slå två flugor i en smäll.)

/ HAX

Edit: Nästa steg blir Europaparlamentet. Om parlamentet gör större ändringar blir det förhandlingar. Om parlamentet säger ja, då är det klappat och klart.

Läs även EDRi – Terrorist Content Regulation: Civil rights groups raise major concerns »

När EU går terroristernas ärenden

Att skydda medborgarna mot terrorism är en fråga på flera plan. Dels handlar det om att förhindra terrorattentat. Dels handlar det om ett försvar mot terrorismens underliggande mål – det vill säga dess strävan att ödelägga vårt öppna, fria, demokratiska samhälle.

Vad gäller det första – att förhindra terrorattentat – pekar erfarenhet och forskning på att massövervakning inte ger det skydd man hoppats. De flesta terrorister som genomfört attentat har varit kända för och flaggade av myndigheterna. Men man har inte haft resurser att hålla ögonen på dem. Istället har man satsat på att övervaka allt som hela befolkningen har för sig. Vilket inte gör oss tryggare, utan snarare tvärt om.

När det gäller att försvara vårt öppna, fria, demokratiska samhälle bör det rimligen innebära att försvara våra mänskliga och medborgerliga fri- och rättigheter. I detta ingår till exempel rätten till privatliv och yttrandefriheten. Men det är inte vad som sker. Istället gör EU gemensam sak med terroristerna för att undergräva dessa värden.

Just nu arbetar EU-maskineriet med flera olika ärenden som är problematiska.

Regulation on Terrorist Content Online

EU-kommissionen föreslår en ny reglering för att bekämpa terror-relaterat material online. EDRi sammanfattar några av regleringens centrala punkter:

  • Obligations to take down content on the basis of removal orders within one hour.
  • An arbitrary system of referrals of arbitrarily designated potentially dangerous (but not illegal) content to internet service providers. The removal of this content is decided by the provider, based on their terms of service and not the law.
  • Unclear, arbitrary “proactive” measures to be imposed on an unclear subset of service providers to remove unspecified content.

I regleringens förklarande delar öppnar man för att operatörer och plattformar skall kunna använda AI för att identifiera och avlägsna oönskat, terror-relaterat material. Vilket, speciellt då denna teknik än så länge är i sin vagga, är teknik som varken är speciellt tillförlitlig eller allmänt tillgänglig. I den mån den finns och kan användas kommer den att leda till överfiltrering, det vill säga att man censurerar mer än vad som är tänkt och nödvändigt. Dessutom är detta en teknik som förmodligen bara de stora plattformarna kommer att ha resurser för att använda. Den blir alltså en barriär som hindrar små och nya aktörer från att ge sig in på marknaden.

Överfiltrering ses för övrigt inte som ett problem i regleringen, utan ett mål.

Därtill kommer det ständiga problemet att ansvaret för censuren flyttas från lagstiftning och rättsväsende till privata operatörer och deras användarvillkor. Vilket gör individen rättslös.

I slutändan landar detta i att allt material som vi laddar upp på olika plattformar kommer att övervakas, granskas och analyseras. Allt.

Länk: Terrorist content regulation – prior authorisation for all uploads? »

Europaparlamentets TERR-utskott

Samtidigt pågår arbetet med en icke-bindande rapport i Europaparlamentets speciella, hemlighetsfulla »Special Committee on Terrorism« (TERR). Dess syfte tycks i stort sett vara att understödja de initiativ som kommer från EU-kommissionen på området.

Även här har EDRi en slagkraftig sammanfattning…

Unfortunately, references to fundamental rights were so scarce that Committee members chose to add a preamble to the Report to introduce vague considerations for the respect of fundamental rights and freedoms instead of mainstreaming our fundamental rights in the text. For instance, the Report calls for the alignment of the European counter-terrorist policies with the Charter of Fundamental Rights of the European Union, while proposing measures that are in contradiction to this principle. (…)

Compensating repressive and freedom-restrictive measures with superficial references to fundamental rights (such as removing more content online “but without endangering freedom of speech” or balancing interoperability with “fundamental rights of the data subjects”) is utterly insufficient at best and duplicitous at worst. Fundamental rights deserve stronger protection.

Rapporten upprepar även det farliga och orealistiska kravet på bakdörrar till kryptering. EDRi igen…

Worse still, it exacerbates the initial provisions on encryption, by requesting the development of a hub for decryption, including decryption tools and expertise within Europol, to access data obtained in the course of criminal investigations. Weakening encryption to supposedly support law enforcement services actually creates vulnerabilities and increases security risks.

Vilket öppnar allt vi gör på nätet för främmande makt och allsköns cyberbrottslighet.

Denna rapport (som alltså lyckligtvis inte är bindande, men ändå allvarlig) kommer upp till votering i plenum på någon av Europaparlamentets sessioner nu i vinter.

Länk: The TERR Committee votes on its irreparable draft Report »

/ HAX

Varför skapas inga nätjättar i Europa?

Här är ett intressant lästips. Techdirts Mike Masnick skriver under rubriken: Why Europe Will Never Build Its Own Digital Giants. Ur texten…

(W)hat fascinated me most was the general resistance to understanding the fundamentals of both innovation and the internet. But in the past few years, it’s become increasingly clear that the EU’s concept of the internet is almost entirely out of sync with how digital innovation works, especially with the ways in which the EU has gone about regulating the internet — from the GDPR to the Copyright Directive, to the antitrust efforts, to the Terrorism regulation.

Vilket i stort sett är vad den europeiska nätrörelsen hävdat länge nu – för döva öron.

Utöver att Europa är på väg att hamna på efterkälken tekniskt och ekonomiskt finns det även skäl att vara orolig över hur all denna nya reglering hämmar ett fritt flöde av information och inskränker våra demokratiska fri- & rättigheter.

Länk: Why Europe Will Never Build Its Own Digital Giants »

EU ställer orealistiska krav på nätcensur

I EU är frågan om censur av terrorrelaterat innehåll på nätet på väg mot beslut. Vad som kan anses vara terror eller terrorism är fortfarande rätt oklart. Och vi vet sedan tidigare att detta är ett sluttande plan, som fortsätter med censur av diffust definierat hatiskt eller diskriminerande innehåll – vilket brukar sluta med att man ger sig efter det mesta som politiker och myndigheter ogillar.

Förslaget innebär att alla »hosting service providers« i vissa fall måste ta ner material som ogillas av myndigheterna inom en timma. Att de skall ha en hotline för sådana ärenden bemannad 24/7. Och att de själva måste vara uppmärksamma och avlägsna sådant innehåll – annars kan myndigheterna komma att övervaka allt som laddas upp.

Detta är något som möjligen nätets jättar som Google, Facebook och Twitter kan hantera. Men för små och alternativa plattformar är kraven mycket svåra, rent av omöjliga att möta.

Dessutom är detta ytterligare ett steg mot att flytta makten över yttrandefriheten från lagarna och rättsväsendet till privata operatörer och deras användarvillkor. Vilket gör den enskilda individen i stort sett rättslös.

Det ser ut som om EU-kommissionen, medlemsstaterna och Europaparlamentet försöker driva igenom denna reglering med ett minimum av offentlig debatt och demokratisk insyn. Vilket naturligtvis inte får ske.

Läs mer hos La Quadrature du Net:
• Antiterrorism Censorship: Macron teams up with the Web giants to set up mass surveillance »

/ HAX

Krav på öppenhet och transparens om Facebooks censur

Det är ett välkänt problem att Facebook ibland tar ner innehåll och blockerar användare utan någon egentlig motivering och utan verkliga möjligheter att begära överprövning. Detta har lett till reaktioner från bl.a. EFF och Human Rights Watch. EFF skriver…

The Electronic Frontier Foundation (EFF) and more than 70 human and digital rights groups called on Mark Zuckerberg today to add real transparency and accountability to Facebook’s content removal process. Specifically, the groups demand that Facebook clearly explain how much content it removes, both rightly and wrongly, and provide all users with a fair and timely method to appeal removals and get their content back up.

Detta är helt klart ett rimligt krav, speciellt med tanke på Facebooks dominerande ställning inom sociala media.

Men det är inte utan praktiska problem. Som vi t.ex. kunnat se i en tv-dokumentär handlar det om mycket stora volymer – och besluten fattas på ett par sekunder, om ens det. Att göra processen »rättssäker« och transparent skulle innebära mycket extraarbete och stora kostnader. Inte desto mindre är det nödvändigt.

Det skall bli intressant att se vad Facebook svarar, om de svarar över huvud taget.

Länkar:
• EFF, Human Rights Watch, and Over 70 Civil Society Groups Ask Mark Zuckerberg to Provide All Users with Mechanism to Appeal Content Censorship on Facebook »
• Why did Facebook pull your post? Digital rights groups want you to know »

/ HAX

EU vill förbjuda nätpublicister att sprida sitt material utan att ta betalt

EU:s nya upphovsrättsdirektiv (som just nu slutförhandlas) är fyllt av frågetecken.

Ett av dem rör Creative Commons – som är en frivillig, öppen licensform där den som skapar ett verk ger andra rätt att dela och i vissa fall fritt återanvända verket i fråga. Denna licensform kolliderar med direktivets artikel 11, den så kallade länkskatten.

Från Creative Commons web-plats…

”Not only is a link tax bad for business, it would undermine the intention of authors who wish to share without additional strings attached, such as creators who want to share works under open licenses. This could be especially harmful to Creative Commons licensors if it means that remuneration must be granted notwithstanding the terms of the CC license.”

Vad det handlar om är att EU är på väg att förbjuda nätpublicister att gratis tillgängliggöra sitt material för andra att sprida och använda.

Detta gäller inte bara Creative Commons – utan alla nätpublicister. Vilket kommer att innebära att små och alternativa nyhetsplattformar går miste om mycket av den inlänkning som är helt nödvändig för att de skall kunna nå ut och, ytterst, överleva.

Sett ur EU:s perspektiv finns en förklaring. Eftersom systemet med länkskatt inte fungerat som tänkt där det prövats (Spanien och Tyskland) vill man nu göra det obligatoriskt för alla, överallt inom EU. Resonemanget tycks vara att om alla tvingas vara med – då kommer det att fungera bättre. Vilket känns som en högst tveksam tanke.

Albert Einstein brukar tillskrivas yttrandet att definitionen av vansinne är att göra samma sak om och om igen och förvänta sig ett annat resultat.

Man kan även se på frågan med utgångspunkt från äganderätten. Skall det verkligen vara förbjudet för en publicist att skänka bort sitt material till andra? Och hur förhåller sig detta till yttrandefriheten? Skall det bara gå att sprida länkar till sina ord om de stora nätplattformarna och andra är beredda att betala för det?

Creative Commons: EU’s proposed link tax would [still] harm Creative Commons licensors »

Rapport: Internets frihet minskar världen över

”Digital authoritarianism is on the rise, according to a new report from a group that monitors internet freedoms. Freedom House, a pro-democracy think tank, said today that governments are seeking more control over users’ data while also using laws nominally intended to address “fake news” to suppress dissent. It marked the eighth consecutive year that Freedom House found a decline in online freedoms around the world.”

The Verge: Internet freedom continues to decline around the world, a new report says »

5 juli-podden om blockeringskriget mellan Bahnhof och Elsevier

I ett färskt avsnitt av 5 juli-podden tar vi upp följande ämnen:

  • Svenska internetoperatören Bahnhof blockerar internet i protest mot krav från rättsinnehavare och det svenska rättsväsendet. Vi tittar närmare på företaget bakom kraven – Elsevier – och upptäcker en långsam revolution på svenska och tyska universitet.
  • Datalagring utan gränser – nytt förslag från EU-kommissionen kan gå tvärsemot EU-domstolen.
  • Google stänger ner sitt sociala nätverk Google+ efter upptäckt sårbarhet. Facebook stänger inte ner efter massivt säkerhetshål som kan ha drabbat 50 miljoner användare.
  • Protester mot att Facebook har raderat politiska sidor på vänster- och högerkanten. Ett pågående rättsfall i New York kan ha konsekvenser för hur sociala nätverk raderar innehåll.
  • The Oatmeals seriestripp om hur man når folk (http-länk).

5 juli-podden görs av Karl Andersson och Henrik HAX Alexandersson på uppdrag av 5 juli-stiftelsen som arbetar för mänskliga rättigheter på internet.

Följ oss här:

Ladda ner avsnittet här:

71: Bahnhof blockerar internet! (MP3)

Blandade signaler från Google om yttrandefrihet på nätet

Breitbart (som i och för sig ofta har hårt vinklade artiklar) har fått fatt på ett memo från Google – som sänder oroväckande signaler om yttrandefriheten på nätet.

”An internal company briefing produced by Google and leaked exclusively to Breitbart News argues that due to a variety of factors, including the election of President Trump, the “American tradition” of free speech on the internet is no longer viable.”

Länk: The Good Censor »