Corona-krisen: Youtube övergår till mer automatisk granskning av innehåll

Youtube meddelar:

»Our Community Guidelines enforcement today is based on a combination of people and technology: Machine learning helps detect potentially harmful content and then sends it to human reviewers for assessment. As a result of the new measures we’re taking, we will temporarily start relying more on technology to help with some of the work normally done by reviewers. This means automated systems will start removing some content without human review, so we can continue to act quickly to remove violative content and protect our ecosystem, while we have workplace protections in place.«

Mänskliga granskare sänds alltså hem – av smittskyddsskäl. Maskinerna tar över.

Utan att ta ställning till om detta är nödvändigt eller ej, så kommer det att innebära en mer fyrkantig granskning av innehåll – då maskiner som bekant har problem med kontext, satir och ton. Youtube medger det själva:

»As we do this, users and creators may see increased video removals, including some videos that may not violate policies.«

I takt med att corona-krisen breder ut sig får vi nog räkna med att maskinell granskning av innehåll kommer att bli allt vanligare, både på Youtube och andra plattformar. Häromdagen fick till exempel Facebooks granskande algoritmer fnatt – även då på grund av att krisen medfört neddragning av mänsklig granskning.

En sak att vara uppmärksam på är om trenden mot mer automatiserad granskning kommer att hålla i sig även efter krisen. Det håller ju till exempel nätplattformarnas kostnader nere.

Facebooks censur-bugg visar risken med uppladdningsfilter

Igår fick Facebooks algoritmer fnatt och började censurera / spam-märka helt seriösa länkade artiklar från etablerad media – vilket fick som konsekvens att folk inte kunde dela dem.

Enligt uppgift skall ett underliggande problem vara att den pågående smittspridningen reducerat Facebooks stab av mänskliga granskare av innehåll. När systemet då började få egna idéer tog det därför ett tag innan det upptäcktes och kunde åtgärdas.

Kan man få ett bättre exempel på riskerna med automatisk filtrering av uppladdat innehåll?

Ändå är det precis vad som krävs med EU:s nya upphovsrättsdirektiv. Då måste allt som laddas upp (bild, text, ljud, rörliga bilder, filer) granskas, analyseras och godkännas. Det samma gäller med den föreslagna EU-regleringen mot terror-relaterat innehåll på nätet – för att kunna blockera visst innehåll måste allt som laddas upp förhandsgranskas och analyseras.

Med tanke på volymerna måste denna granskning utföras av maskiner som saknar känsla för till exempel kontext, även om det förhoppningsvis kommer att finnas något sätt att begära omprövning inför en människa.

EU är på väg att driva oss in i en situation där vi inte bara får förhandscensur – utan även automatiserad förhandscensur utförd av humorfria maskiner.

Det är inte acceptabelt.

TERREG: Ännu ett akut hot mot ett fritt och öppet internet

EU fullständigt sprutar ur sig lagförslag efter lagförslag som på ena eller andra sättet underminerar internets öppenhet och frihet.

2019 förlorade vi kampen mot EU:s upphovsrättsdirektiv – och de uppladdningsfilter som är tänkta att hindra oss från att ladda upp information på nätet som är eller kan misstänkas vara upphovsrättsskyddad.

Med detta etablerades principen om automatiserad förhandscensur i EU:s regelverk.

Och nu är en förordning om terror-relaterat innehåll på internet (TERREG) i hög fart på väg genom EU:s beslutsapparat.

Med denna förordning vill EU omöjliggöra uppladdning – det vill säga publicering – av sådant som kan anses vara »terror-relaterat«. Inte ens vetenskapen, journalistiken eller konsten kommer att undantas, om ministerrådet får som det vill.

Det kan förvisso vara rimligt att försöka hålla nätet fritt från terroristers propaganda och infotainment. På samma sätt som det kan vara rimligt att vänligt men bestämt skjuta alla åt sidan som de facto är beredda att angripa det civiliserade västerländska samhället med våld.

Detta måste ske med största respekt för det fria ordet, våra fri- och rättigheter och det demokratiska samhällets principer. Tyvärr verkar TERREG inte ta dessa faktorer på det allvar de förtjänar.

Men låt oss utgå från att terror-relaterat innehåll på nätet skall bort. Exakt vad är det då som skall bort? Var går gränsen mellan vad som är acceptabelt och oacceptabelt?

Här måste etableras något slags standard. Och plötsligt har vi nya lagar om vad som får respektive inte får publiceras på internet. Med allt vad sådant brukar medföra av oförutsedda och oönskade konsekvenser.

Men även om vi bortser från sådana invändningar är förslaget till förordning illa skrivet.

Till exempel föreslås att terror-relaterat innehåll på nätet skall vara avlägsnat inom en timma. När så är tekniskt möjligt, vill Europaparlamentet tillägga. Vilket ministerrådet tjurskalligt motsätter sig.

Och i andra ändan av systemet har vi uppladdningsfiltret. Ministerrådets position:

»Hosting service providers shall use “proactive measures” to prevent the re-upload of content previously taken down and to detect and identify alleged terrorist content.«

På andra sidan står Europaparlamentet som säger nej till uppladdningsfilter. Parlamentet tvingas även påpeka att vi bara kan stifta lagar som gäller i EU – och att rådets krav på global filtrering inte är möjligt.

Detta är bara några av problemen med TERREG. Vi kommer att återkomma med fler bloggposter i ämnet. Om du vill läsa mer rekommenderas följande länkar.

• Bland andra Tim Berners-Lee, Vint Cerf och Bruce Schneier varnar för TERREG: Nätpionjärer varnar för EU-förslag mot terror-relaterat innehåll på internet »

• Den tyske piratpartisten i Europaparlamentet, Patrick Breyer, sitter med i den trialog i vilken EU:s olika institutioner försöker komma överens om TERREG. Läs hans genomgång av ärendet här »

Nästa trialog-förhandling är planerad till den 18 mars, om smittoläget tillåter.

EU, Sverige och friheten på nätet

Friheten – och då inte minst yttrandefriheten på internet är under attack – från den politiska makten.

I EU har man nu ett nytt upphovsrättsdirektiv som öppnat upp för automatisk filtrering av sådant som användare laddar upp på sociala media. Det vill säga automatiserad förhandscensur.

I det EU-direktiv mot terrorrealaterat innehåll på nätet som just nu är under beredning vill medlemsstaterna att oönskat material skall plockas bort inom en timma – inte bara från sociala plattformar utan även från enskilda individers molntjänster, som Dropbox. Vilket förutsätter att även privat information måste övervakas, analyseras och filtreras. Man säger rakt ut att man vill se uppladdningsfilter. Och medlemsstaterna ser i sammanhanget inte något skäl att göra undantag för utbildning, konst, journalistik eller forskning.

Just nu pågår även arbetet med att ta fram en Digital Services Act – som bland annat är tänkt att innehålla gemensamma EU-regler mot hat och hot på nätet – istället för den nationella lagstiftning där bland andra Frankrike och Tyskland är pådrivande. Det finns skäl att tro att genensam EU-lagstiftning på området kommer att utgå från just de länder som har den strängaste lagstiftningen på området.

Även Sveriges »digitaliseringsminister«, Anders Ygeman (S), har varit ute i media och flaggat för att göra plattformarna ansvariga för vad deras användare laddar upp på nätet.

I sammanhanget kan det vara bra att komma ihåg även andra förslag som bollats i EU-apparaten – som ID-krav vid uppkoppling och ett EU-operativsystem.

I den EU-finansierade forskningen finns bland annat projekt som syftar till ökad övervakning av vad folk tycker och säger online. Till exempel PREVISION (A predictive platform running analytics through data obtained from ”online social networks, the open web, the Darknet, CCTV and video surveillance systems, traffic and financial data sources, and many more”.) Och CONNEXION (A predictive policing tool relying on social media, ’dark web’, and IoT data.) Allt kopplat till automatiserad övervakning, beteendeanalys och en uppsjö olika register.

Om man lägger samman alla de olika delarna får man en förfärande helhetsbild. En lång rad olika förslag som vart för sig är problematiska ger tillsammans ett system för övervakning och censur som inte hör hemma i en demokratisk rättsstat.

Politikerna, de vill bara ha mer av samma. Så kommer det alltid att vara. Om vi inte vill leva i en outhärdlig Storebrors-stat måste motståndet därför komma underifrån, från folket. Och det börjar bli ont om tid.

Ny tysk lag ännu ett steg på vägen mot automatiserad nätcensur

Ny tysk lagstiftning är på väg vad gäller hat och hot på internet.

Politico rapporterar:

Germany is cracking down on hate speech online amid a rise in right-wing extremism, but critics warn that civil liberties will end up as collateral damage. (…)

“Hate crimes should finally end up where they belong — in court,” said the Social Democrat Justice Minister Christine Lambrecht after the bill was approved by the government.

The draft law will force social media companies to proactively report potentially criminal content on their platforms to law enforcement.

Detta innebär att nätplattformarna själva måste identifiera potentiellt olagligt eller olämpligt material, bedöma dess innehåll – och i förekommande fall censurera och rapportera sina användare till polisen.

Den enda praktiska möjligheten att göra detta är med automatiska filter – som inte kan bedöma kontext och som därmed kommer att överfiltrera. Dessutom måste någon (oklart vem) definiera vad som till exempel är att betrakta som hat. Vilket inte alltid är uppenbart.

Lagförslaget är dessutom intressant eftersom tysk och fransk lagstiftning just nu är de drivande krafterna bakom ett gemensamt regelverk för vad som får publiceras på internet – inom ramen för EU:s Digital Services Act.

“There is no question that our society has a problem with right-wing extremism and hate speech,” said Elisabeth Niekrenz of Berlin-based civil liberties organization Digitale Gesellschaft (Digital Society), ”which deeply worries me. But the measures presented [by Lambrecht] infringe people’s right to informational self-determination, open the door for more surveillance, grant law enforcement more powers to intervene and allow for more data collection.”

Politico: German hate speech crackdown sparks censorship fears »

Nu börjar striden om nätcensur på EU-nivå

Idag presenterade EU-kommissionen ett första, allmänt hållet papper om sin nya Digitial Services Act. Detta nya regelverk kommer att bli mycket omfattande. EUobserver sammanfattar:

»The European Commission unveiled on Wednesday the EU’s vision for digital policies, focusing on data and artificial intelligence governance. The commission wants to establish new binding requirements for the development and use of ”high-risk” AI applications – which might pose risks for citizens or be related to specific sectors such as healthcare, policing or transport. Additionally, the commission wants to create a common single market for data.«

Vi har tidigare rapporterat om hur kommissionens tjänstemän förberett frågan för den tillträdande kommissionen. Bland annat menar de att det behövs ett enhetligt regelverk för blockering av material och en enhetlig definition av näthat:

»Regulating content moderation. Uniform rules for the removal of illegal content such as illegal hate speech would be made binding across the EU, building on the Recommendation on illegal content and relevant case-law, and include a robust set of fundamental rights safeguards.« (…)

»The analysis will also cover harmful content (which is not necessarily illegal), as such content is not only addressed in EU-level policies (such as the AVIVSD), but also at MS level (e.g. the draft French fake news law, the UK Online Harms White Paper, etc. However, a clear distinction will be made between illegal and harmful content when it comes to exploring policy options.«

I dagens dokument (PDF) från kommissionen skriver man bland annat:

»In this context, it is essential that the rules applicable to digital services across the EU are strengthened and modernised, clarifying the roles and responsibilities of online platforms. The sale of illicit, dangerous or counterfeit goods, and dissemination of illegal content must be tackled as effectively online as it is offline.«

Luddigt, förvisso. Men detta är långt från ett färdigt förslag ännu. Och redan i går var vår svenske digitaliseringsminister Anders Ygeman (S) ute och krattade manegen:

»Digitaliseringsminister Anders Ygeman vill se en lagstiftning där sociala medier-företagen hålls delvis ansvariga för det som publiceras på deras plattformar.

– Ytterst är det den som själv skriver ett inlägg som är ansvarig, men jag menar att de sociala plattformarna måste ha ett medansvar för det som publiceras på deras plattformar och med det vill jag ha en skyldighet för företagen att ta ner olagligt material, säger Anders Ygeman.

En sådan här lagstiftning passar bäst på europeisk nivå, säger Anders Ygeman, eftersom det rör sig om internationella företag. Men om det inte skulle gå vägen i EU så vill han ta till svensk lagstiftning.

Den piratpartistiske, tyske ledamoten av Europaparlamentet Patrick Breyer kommenterade frågan redan när han tillträdde förra sommaren:

»In the worst case the Commission’s plans could make online platforms act as an ‘Internet police’ and ‘Internet censor’, and incentivize error-prone upload filters, which would violate the fundamental right to free speech. Unrealistic time frames for removing content could existentially threaten small and medium-sized businesses and non-commercial services. Governments prying on our online activities could put the confidentiality of our intimate passions and weaknesses at risk.

In the best case, however, wrong national legislation such as in Germany and France could be replaced and free speech online protected better, messaging services and social networks could be interconnected enhancing competition and user choice, and the right to use Internet services anonymously could be protected at EU level. Freedom of speech, consumer choice, the right to privacy and the principles of a global Internet need to be at the heart of any digital services regulation. It’s about our digital habitat. The Internet community is watching the Commission very carefully now.«

Och här (Youtube) kan du se det anförande han höll i Europaparlamentets utskott för rättsliga frågor, JURI, i veckan.

Det finns även skäl att anta att the Digital Services Act (DSA) kommer att urholka eHandels-direktivets förbud mot generell övervakning och dess budbärarimmunitet (att operatörer och plattformar inte kan hållas ansvariga för vad deras användare gör).

 

Vi återkommer inom kort med mer information. Här är tills vidare en del länkar:

• EU-kommissionens arbetsdokument: Shaping Europe’s digital future  (PDF) »

• Pirate MEP Patrick Breyer i EP JURI (Youtube) »

Tidigare publicerade texter i ämnet:

• Pirate MEP Patrick Breyer om DSA »

• EU:s Digital Services Act – mer reglering och censur »

• EU 2020: Nu står kampen om det fria ordet på internet »

EU vs. Facebook vs. yttrandefriheten

Lionel Laurent hos Bloomberg:

»It’s not very surprising that Mark Zuckerberg’s state-visit-style trip to Brussels got a pretty chilly reception from European Union officials. The Facebook Inc. co-founder is pleading for more regulation to solve what he and his top lobbyist Nick Clegg consider to be a failure of public policy: If only governments could agree on how to regulate the internet without curbing free expression, the social network would be only too happy to comply.

This analysis is not new, and entirely misdiagnoses the problem in the Europeans’ view: It is Facebook’s business model, which hoovers up billions of users’ intimate thoughts and behavior patterns to better target ads, which is the issue. And it’s one that the social network would prefer just to tinker with at the margins, given the costs involved.«

Att tro att politiken kan eller vill reglera internet utan att inskränka yttrandefriheten känns en smula naivt.

Sedan kan man fundera över om någon egentligen företräder användarnas intressen i sammanhanget. Men så brukar det ju vara: Politik och »stakeholders« gör upp utan att lyssna till vad vanligt folk tycker.

Länk: Facebook’s Business Model Is What Brussels Hates – The question is whether Mark Zuckerberg will be “nibbled to death by ducks” or hit with something harder »

EU:s uppladdningsfilter – en praktisk omöjlighet som ändå är på väg att bli verklighet

EU-kommissionens samtalsrunda med så kallade stakeholders (nätjättarna och upphovsrättsindustrin) om uppladdningsfilter (artikel 17, f.d. 13 i EU:s nya upphovsrättsdirektiv) närmar sig sitt slut.

Emanuel Karlsten ger en ögonblicksbild från det näst sista mötet:

Ett återkommande försvar för ”internetfilter” har varit att tekniken ska kunna hålla isär satir och kritik från upphovsrättsskydd. Socialdemokraterna i Sverige, som blev de som tillsammans med SD tippade vågen för direktivet, menade i en intervju att ”jag förställer mig att det går till så… Att tekniken är sådan att man är oerhört noga med att vad man tittar på”.

Under det fjärde mötet hölls föredrag från både Facebook och företag som kan tänkas vilja sälja den teknik som ska filtrera ut överträdelser. Samtliga framhöll att den teknik som finns idag inte kan gå bortom att jämföra uppladdat innehåll mot en databas, och ta bort det som matchar. Ingen representant kunde erbjuda en teknik som gjorde analys av till exempel ett upphovsrättsskyddat verks kontext.

Detta är en avgörande insikt, eftersom det gör det väldigt svårt att implementera ett ”filter” och samtidigt skydda internetanvändares yttrandefrihet och rätt att publicera kritik och satir.

Ett uppladdningsfilter är med andra ord en precis lika fyrkantig idé som vi kritiker påpekat från början. Om det blir verklighet finns det idag inget som tyder på att det skulle kunna skilja på sådant upphovsrättsskyddat material som skall vara tillåtet respektive förbjudet att ladda upp.

Communia rapporterar:

In this situation, the Commission will need to show if it is willing to defend the legislative compromise reached with Article 17, or if it will sacrifice user rights in the light of powerful commercial interests that are interested in undermining the user rights safeguards that were included in the final compromise. Together with the other users’ organisations represented in the dialogue we will push for meaningful safeguards (such as human review of automated content matches before uploads can be deleted). As there are currently no further meetings of the stakeholder dialogue on the agenda, the discussion about user rights at the next meeting will likely be the final showdown. This means that it will be crucial for anyone that has an interest in safeguarding user rights (including the European Parliament, which introduced the relevant provisions into the final compromise) to pay close attention to the next meeting.

Enkelt uttryckt: Förhandlingarna närmar sig sitt slut. Någon lösning på hur filtrering av upphovsrättsskyddat material är tänkt att ske finns inte. Något skydd för »fair use« av upphovsrättsskyddat material i form av memes, kritik, satir etc. finns inte.

Allt verkar med andra ord att bli precis så illa som man kunde frukta. Och de som hävdade att det inte är några problem syns inte längre till i debatten.

Länkar:
• Emanuel Karlsten: ”TV-bolag vill ta bort videos med deras logga” och andra förslag från EU-kommissionens möte om internetfilter »
• Communia: Article 17 stakeholder dialogue (day 5): It all depends »

Wired: Censurvännernas verkliga problem är inte Facebook, utan folket

»But the reason these companies—Facebook in particular—talk about free speech is not simply to conceal their economic stake in the reproduction of misinformation; it’s also a polite way for them to suggest that the real culpability for what pullulates on their platforms lies with their users. Facebook has always presented itself, in contrast to legacy gatekeepers, as a neutral bit of infrastructure; people may post what they like and access what they fancy. When Zuckerberg talks about “free expression,” he is describing the sanctity of a market­place where supply is liberated to seek the level of demand. What he is saying, by implication, is that the affliction of partisan propaganda reflects not a problem of supply but of demand—a deep and transparent expression of popular desire.«

Wired: Bad Algorithms Didn’t Break Democracy »

EU:s uppladdningsfilter: Låsta positioner i kommissionens samtal

Idag, den 16 januari, håller EU-kommissionen ännu ett »stakeholder meeting« om upphovsrättsdirektivets artikel 17 (f.d. 13) – som ställer krav på licensiering och filtrering av upphovsrättsskyddat material på nätplattformarna.

Fortfarande är motsättningarna mellan plattformar (och därmed även användare) och upphovsrättsindustrin betydande. EDRi skriver om resultatet av förra mötet:

After Youtube’s Content ID presentation during the third meeting, Facebook’s Rights Management tool presentation reiterated what civil society has been repeating during the entire duration of the copyright debates: filtering tools cannot understand context. Content recognition technologies are only capable of matching files and cannot recognise copyright exceptions such as caricature or parody.

This argument has now been clearly and repeatedly laid out to the European Commission by both civil society organisations and providers of content recognition technology. We would therefore expect that the Commission’s guidelines will take this into account and recommend that filters should not be used to automatically block or remove uploaded content.

Denna fråga har blivit högaktuell efter att Frankrike och Nederländerna lagstiftat innan alla andra – och valt att helt strunta i undantag för memes, satir, kritik och andra former av »fair use«.

Plattformarna oroas också över felaktiga upphovsrättsanspråk, som kan komma att leda till att material och poster felaktigt censureras.

Vi återkommer när mer information läckt ut om dagens möte.

EDRi » Copyright stakeholder dialogues: Filters can’t understand context »