EU:s Digital Services Act – mer reglering och censur

Tyska Netzpolitik har fått tag i ett dokument i vilket EU-kommissionens tjänstemän drar upp riktlinjerna för EU:s nätpolitik de kommande fem åren. Planen är att lägga fram en »Digital Services Act« som har ambitionen att ta ett helhetsgrepp på nätfrågorna. Och som väntat är det mer reglering och censur på gång.

På EU-språk heter det att lägga fram ett horisontellt regelverk för att harmonisera den inre digitala marknaden.

Dokumentet bekräftar att ambitionen är att täcka in det mesta:

»This would include services such as ISPs, cloud services, content delivery networks, domain name services, social media services, search engines, collaborative economy platforms, online advertising services, and digital services built on electronic contracts and distributed ledgers.«

Det främsta målet tycks vara att ersätta eller kringgå eHandelsdirektivets förbud mot generell övervakning och principen om budbärarimmunitet.

»While the prohibition of general monitoring obligations should be maintained as another foundational cornerstone of Internet regulation, specific provisions governing algorithms for automated filtering technologies – where these are used – should be considered, to provide the necessary transparency and accountability of automated content moderation Systems.«

Ovanstående kryptiska formulering antyder att man kan komma att göra skillnad mellan övervakning (monitoring) i allmänna termer och filtrering / moderering / förhandscensur med hjälp av algoritmer. Det skulle i så fall vara en direkt skamlös väg att lotsa upphovsrättsdirektivets »uppladdningsfilter« förbi förbudet mot allmän övervakning.

Techdirt kommenterar Glyn Moody saken så här »That’s a classic: affirming that general monitoring is prohibited, while bringing in rules for proactive automated filtering technologies — aka general monitoring. It would tilt the playing field even more in favor of big, mostly US companies, and would guarantee that the EU never produces its own digital giants like Google or Facebook.«

Vidare i texten…

»Regulating content moderation. Uniform rules for the removal of illegal content such as illegal hate speech would be made binding across the EU, building on the Recommendation on illegal content and relevant case-law, and include a robust set of fundamental rights safeguards.«

Vilket bygger på att man kan få fram en enhetlig definition av näthat som fungerar i och accepteras av alla EU-länder. Det kan i sig bli synnerligen intressant.

»The analysis will also cover harmful content (which is not necessarily illegal), as such content is not only addressed in EU-level policies (such as the AVIVSD), but also at MS level (e.g. the draft French fake news law, the UK Online Harms White Paper, etc. However, a clear distinction will be made between illegal and harmful content when it comes to exploring policy options.«

Då uppstår frågan vad som är skadligt/harmful. Och vem som skall bestämma det.

Och att ha ett separat regelverk för skadligt (till skillnad från olagligt) innehåll bör vara en röd flagga. Det kan lätt bli en gummibandsparagraf som kan öppna för censur av i princip vad som helst.

»A dedicated regulatory structure should ensure oversight and enforcement of the rules, in particular for cross-border situations, but also partnerships and guidance for emerging issues, and with appropriate digital capacities and competences, inter alia to help translate rules into technical solutions.«

Om man har reglering, då måste man naturligtvis även ha verktyg för att upprätthålla den. Och i detta fall gläntar man på dörren för en ny, överstatlig internet-byråkrati på EU-nivå.

Man nämner också att det kanske är mindre lämpligt att det nya regelverket läggs fram som ett direktiv. Istället överväger man en förordning/reglering (regulation). Skillnaden är att ett direktiv vävs in i medlemsstaternas lagstiftning, medan en reglering är ett regelverk som gäller rakt av i hela EU.

Nu skall påpekas att det läckta dokumentet är ett arbetspapper. Exakt vad EU-kommissionen kommer att lägga fram vet vi ännu inte. Men informationen ovan lär vara en god indikation. Och den är helt i linje med vad EU-kommissionens nya ordförande Ursula von der Leyen hade att säga om de digitala frågorna när hon blev vald.

Digital Services Act – det är här striden om internets frihet i EU kommer att stå de närmaste fem åren.

Länkar:
• EU-kommissionens dokument (PDF) »
• Techdirt: EU Looking To Regulate Everything Online, And To Make Sites Proactively Remove Material »
• EDRi: E-Commerce review – Technology is the solution. What is the problem?
• MAB: A Europe fit for the digital age (ur von der Leyens programförklaring) »

De sociala nätjättarnas självskadebeteende

Facebook, Twitter, Pinterest och Google/Youtube har anklagats för och/eller blivit avslöjade med att vara politiskt partiska. Vilket nu är på väg att slå tillbaka mot dem själva.

Det handlar om privata företag, så de är naturligtvis fria att välja sin egen väg. Men plattformarnas dominerande ställning har samtidigt medfört en omfattande kritik, speciellt i USA.

Kärnfrågan är om de är att betrakta som plattformar eller publicister.

Om de är plattformar, då har de fördelen av budbärarimmunitet (safe harbour/mere conduit) – som innebär att de inte kan hållas ansvariga för vad deras användare gör.

Men om de är att betrakta som publicister, då faller ansvaret för vad som publiceras på dem själva.

Om de modererar sitt innehåll genom att missgynna vissa politiska åsikter och gynna andra – då kommer de att betraktas som publicister. Det innebär att de kan komma att förlora sin budbärarimmunitet. Vilket redan är en konkret politisk fråga i USA.

Men frågan är om politisk reglering är ett dugg bättre.

Med risk för att vara tjatig: Den enda hållbara strategin för de sociala plattformarna är att bara censurera sådant som är direkt olagligt. Och att vara fullständigt öppna och transparenta med hur de hanterar detta.

Men det verkar inte vara den väg de sociala plattformarna väljer att gå. Facebook har själva efterlyst mer politisk styrning. Och Google har avslöjats med att driva en dold politisk agenda.

Saken blir knappast bättre av att Google censurerar avslöjande reportage som exponerar företagets politiska subjektivitet. (Om du vill se det senaste exemplet på alternativmedias granskning – som censurerats av Google-ägda Youtube – då finns reportaget på andra videositer, som Bitchute.)

Youtube i censur-träsket

Youtube tycks vara på väg att öppna dörren för censur, som varken har med lagen eller användarvillkoren att göra. En konsekvens av detta är att Youtube (och andra sociala plattformar) kan komma att förlora vad de har kvar av sin budbärarimmunitet.

Ett telefonbolag kan inte hållas ansvarigt för vad dess användare säger i telefonsamtal. Posten kan inte hållas ansvarig för vad folk skriver eller skickar. Ägaren av en väg kan inte hållas ansvarig för vem som kör på den och i vilket syfte. Principen är att den som äger och driver infrastruktur inte är ansvarig för vad dess användare gör.

Denna princip (budbärarimmunitet / safe harbor / mere conduit) har i stort sett gällt även för internetoperatörer och nätplattformar. Vilket är en klok princip. Om någon gör något som är fel, då är det den personens ansvar – inte nät- eller plattformsoperatörens.

Tyvärr urholkas principen om budbärarimmunitet steg för steg, till exempel genom EU:s nya upphovsrättsdirektiv. Men än så länge finns grundprincipen kvar, i vart fall som ett eftersträvansvärt koncept. Dock finns det tecken som tyder på att Youtube just är på väg att slå in sista spiken i dess kista.

Den utlösande faktorn är ett bråk mellan Vox-kommentatorn Carlos Maza och Youtube-profilen / komikern Steven Crowder. Maza kräver att Crowder skall stängas av från Youtube. Till Youtubes försvar skall sägas att man inte stängt av Crowder. Däremot har man stängt av hans möjlighet att tjäna pengar på Youtube-anonser (trots att han varken brutit mot lagen eller användarvillkoren). För den som vill veta mer om just den konflikten rekommenderas detta samtal mellan Tucker Carlson och Glenn Greenwald.

Detta har fått Youtube att ändra sin policy. På plattformens officiella blogg skriver man bland annat:

»Today, we’re taking another step in our hate speech policy by specifically prohibiting videos alleging that a group is superior in order to justify discrimination, segregation or exclusion based on qualities like age, gender, race, caste, religion, sexual orientation or veteran status.« (…)

»Our systems are also getting smarter about what types of videos should get this treatment, and we’ll be able to apply it to even more borderline videos moving forward. As we do this, we’ll also start raising up more authoritative content in recommendations, building on the changes we made to news last year. For example, if a user is watching a video that comes close to violating our policies, our systems may include more videos from authoritative sources (like top news channels) in the ”watch next” panel.« (…)

Detta kan betyda lite vad som helst – och öppnar dörrarna för subjektiv bedömning. Man kan till exempel undra hur Youtubes algoritmer skall kunna skilja mellan »skillnader« och »överlägsenhet« – vilket även många människor verkar oförmögna att göra.

Risken är att detta kommer att leda till en tämligen urskiljningslös, automatiserad blockering och censur – som dessutom missar sitt eget mål.

Samtidigt oroas forskare, jurister, människorättsaktivister och journalister över att viktig dokumentation från krigs- och konfliktområden och om extremism inte lägre är tillgänglig. Lärare protesterar mot att Youtube-filmer de lagt upp för att förklara nazismens framväxt och brott mot mänskligheten för sina studenter nu rensas bort från plattformen.

Det centrala problemet är att godtycke och subjektivitet med detta är på väg att få samma tyngd som lag och formella användarvillkor. Vilket innebär att Youtube självmant ikläder sig rollen av censor eller nätpolis. Då försvagas principen om budbärarimmunitet – till den punkt där den blir meningslös, eftersom företaget frivilligt tar på sig just den uppgift som principen var tänkt att skydda det emot. Och då kommer Youtube att hamna i en situation då allt som publiceras av dess användare blir företagets direkta ansvar.

Antingen släpper man igenom allt som man inte själv upptäckt / informerats om är direkt olagligt – och behåller sin budbärarimmunitet. Eller så censurerar man utifrån subjektiva kriterier – och blir därmed (lagligt och/eller moraliskt) ansvariga för varenda videosnutt som laddas upp.

Men just nu binder Youtube bara ris åt egen rygg.

För att inte tala om hur en icke rättssäker censur uppmuntrar till massanmälningar av Youtube-filmer – på grund av att vissa grupper inte tycker om de åsikter som framförs i dem. Massanmälningar som ofta leder till avstängning från Youtube och/eller dess annonsprogram.

Youtube befinner sig just nu på ett brant sluttande plan.

/ HAX

Länkar:
• Youtube: Our ongoing work to tackle hate »
• YouTube just banned supremacist content, and thousands of channels are about to be removed »
• YouTube’s anti-extremism crackdown targets journalist who documents extremism »
• YouTube is deleting videos on Nazi history as part of its hate speech crackdown »
• Video: Tucker Carlson och Glenn Greenwald om Youtube-censuren »