Corona-krisen: Youtube övergår till mer automatisk granskning av innehåll

Youtube meddelar:

»Our Community Guidelines enforcement today is based on a combination of people and technology: Machine learning helps detect potentially harmful content and then sends it to human reviewers for assessment. As a result of the new measures we’re taking, we will temporarily start relying more on technology to help with some of the work normally done by reviewers. This means automated systems will start removing some content without human review, so we can continue to act quickly to remove violative content and protect our ecosystem, while we have workplace protections in place.«

Mänskliga granskare sänds alltså hem – av smittskyddsskäl. Maskinerna tar över.

Utan att ta ställning till om detta är nödvändigt eller ej, så kommer det att innebära en mer fyrkantig granskning av innehåll – då maskiner som bekant har problem med kontext, satir och ton. Youtube medger det själva:

»As we do this, users and creators may see increased video removals, including some videos that may not violate policies.«

I takt med att corona-krisen breder ut sig får vi nog räkna med att maskinell granskning av innehåll kommer att bli allt vanligare, både på Youtube och andra plattformar. Häromdagen fick till exempel Facebooks granskande algoritmer fnatt – även då på grund av att krisen medfört neddragning av mänsklig granskning.

En sak att vara uppmärksam på är om trenden mot mer automatiserad granskning kommer att hålla i sig även efter krisen. Det håller ju till exempel nätplattformarnas kostnader nere.

Facebooks censur-bugg visar risken med uppladdningsfilter

Igår fick Facebooks algoritmer fnatt och började censurera / spam-märka helt seriösa länkade artiklar från etablerad media – vilket fick som konsekvens att folk inte kunde dela dem.

Enligt uppgift skall ett underliggande problem vara att den pågående smittspridningen reducerat Facebooks stab av mänskliga granskare av innehåll. När systemet då började få egna idéer tog det därför ett tag innan det upptäcktes och kunde åtgärdas.

Kan man få ett bättre exempel på riskerna med automatisk filtrering av uppladdat innehåll?

Ändå är det precis vad som krävs med EU:s nya upphovsrättsdirektiv. Då måste allt som laddas upp (bild, text, ljud, rörliga bilder, filer) granskas, analyseras och godkännas. Det samma gäller med den föreslagna EU-regleringen mot terror-relaterat innehåll på nätet – för att kunna blockera visst innehåll måste allt som laddas upp förhandsgranskas och analyseras.

Med tanke på volymerna måste denna granskning utföras av maskiner som saknar känsla för till exempel kontext, även om det förhoppningsvis kommer att finnas något sätt att begära omprövning inför en människa.

EU är på väg att driva oss in i en situation där vi inte bara får förhandscensur – utan även automatiserad förhandscensur utförd av humorfria maskiner.

Det är inte acceptabelt.

EU, Sverige och friheten på nätet

Friheten – och då inte minst yttrandefriheten på internet är under attack – från den politiska makten.

I EU har man nu ett nytt upphovsrättsdirektiv som öppnat upp för automatisk filtrering av sådant som användare laddar upp på sociala media. Det vill säga automatiserad förhandscensur.

I det EU-direktiv mot terrorrealaterat innehåll på nätet som just nu är under beredning vill medlemsstaterna att oönskat material skall plockas bort inom en timma – inte bara från sociala plattformar utan även från enskilda individers molntjänster, som Dropbox. Vilket förutsätter att även privat information måste övervakas, analyseras och filtreras. Man säger rakt ut att man vill se uppladdningsfilter. Och medlemsstaterna ser i sammanhanget inte något skäl att göra undantag för utbildning, konst, journalistik eller forskning.

Just nu pågår även arbetet med att ta fram en Digital Services Act – som bland annat är tänkt att innehålla gemensamma EU-regler mot hat och hot på nätet – istället för den nationella lagstiftning där bland andra Frankrike och Tyskland är pådrivande. Det finns skäl att tro att genensam EU-lagstiftning på området kommer att utgå från just de länder som har den strängaste lagstiftningen på området.

Även Sveriges »digitaliseringsminister«, Anders Ygeman (S), har varit ute i media och flaggat för att göra plattformarna ansvariga för vad deras användare laddar upp på nätet.

I sammanhanget kan det vara bra att komma ihåg även andra förslag som bollats i EU-apparaten – som ID-krav vid uppkoppling och ett EU-operativsystem.

I den EU-finansierade forskningen finns bland annat projekt som syftar till ökad övervakning av vad folk tycker och säger online. Till exempel PREVISION (A predictive platform running analytics through data obtained from ”online social networks, the open web, the Darknet, CCTV and video surveillance systems, traffic and financial data sources, and many more”.) Och CONNEXION (A predictive policing tool relying on social media, ’dark web’, and IoT data.) Allt kopplat till automatiserad övervakning, beteendeanalys och en uppsjö olika register.

Om man lägger samman alla de olika delarna får man en förfärande helhetsbild. En lång rad olika förslag som vart för sig är problematiska ger tillsammans ett system för övervakning och censur som inte hör hemma i en demokratisk rättsstat.

Politikerna, de vill bara ha mer av samma. Så kommer det alltid att vara. Om vi inte vill leva i en outhärdlig Storebrors-stat måste motståndet därför komma underifrån, från folket. Och det börjar bli ont om tid.

Video: Senaste nätnyheterna

De senaste nätnyheterna från denna blogg: Hemlig dataavläsning, EU:s uppladdningsfilter. Britterna kliver av GDPR. Sverige och massövervakningen & Assange – mystiken tätnar.

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

Låst läge i EU-samtal om uppladdningsfilter

I veckan höll EU-kommissionen ännu ett möte för att försöka uppnå en någorlunda enhetlig implementering av det nya upphovsrättsdirektivet i medlemsstaterna.

Communia rapporterar:

»This week saw the sixth meeting of the EU stakeholder dialogue on the implementation of Article 17 of the new copyright directive. This meeting was the first one where the question of how to reconcile the protection of user rights’ with automated filters based on technology that cannot assess the legality of the use of copyrighted works was explicitly on the agenda. From the perspective of the users’ organisations participating in the stakeholder dialogue this is the main question that the stakeholder dialogue (and the guidelines that the Commission will have to issue afterwards) needs to address.

Unfortunately, Monday’s meeting did not result in a productive discussion about how to protect users’ rights. Proposals made by COMMUNIA and Studio71 on how to strike a balance between the rights of users and the interests of creators and other rightholders were largely ignored by a coalition of major rightholders from both the music and the audio-visual sectors.«

Fortsatt låsta positioner, med andra ord. Samtidigt går arbetet med att göra nationell lagstiftning av direktivet vidare.

Här är Communias förslag till en process som skulle kunna respektera användarnas rättigheter – och släppa fram memes, satir, kritik med mera som automatiska filter inte kan identifiera:

Förslaget stöds av fler än 50 forskare med koppling till upphovsrättsfrågorna. Men upphovsrättsindustrin säger (med ett fåtal undantag) nej.

With the major AV and music rightholders unwilling (or incapable, as their representatives in the stakeholder dialogue clearly lack the mandate to engage in a constructive manner) to contribute to finding a solution for the tensions inherent to Article 17, it is clear that the dialogue has hit a brick wall. The Commission – which has repeatedly made its dissatisfaction with the attitude of these rightholders clear – has announced that it will now “reflect on the input received and on a way forward”. In practical terms this means that there will be no further meetings of the stakeholder dialogue until the end of march when the Commission will “share initial views on the content of the guidelines”. These initial views should provide us with a first clue if the Commission has been listening to our proposals and concerns or if it will succumb to the bullying tactics of the major rightholders (who will undoubtedly attempt to assert additional political pressure during the next weeks).

Läs mer hos Communia: Article 17 stakeholder dialogue (day 6): Hitting a brick wall »

Se mötet i efterhand, här »

Artikel 17: Nätjättar överväger att lämna Europa

Ett Europa utan Youtube, Twitter och Facebook?

Detta är ett av flera scenarier som övervägs av den amerikanska IT-branschen efter att EU antagit sitt nya, hårt kritiserade upphovsrättsdirektiv. Speciellt är det artikel 17 (f.d. 13) – licenskrav som kan leda till uppladdningsfilter – som är problematisk.

TorrentFreak rapporterar:

»The Computer & Communications Industry Association (CCIA), which includes Amazon, Cloudflare, Facebook, and Google as members, is one of the concerned groups. According to the CCIA, Article 17 will have significant consequences for both online services and users.

“Online services must implement filtering technologies in order to comply with the requirements under Article 17. While Article 17 avoids the word ‘filter’, practically speaking content-based filtering will be required if a service is to have any hope of achieving compliance,” the group writes.

CCIA notes that Article 17 will result in a ‘notice-and-staydown’ obligation. This goes against the current global standards that provide online services with a safe harbor against copyright infringements committed by users.

As a result, tech companies fear that they will no longer be able to operate freely in the EU. In some cases, that could mean that they can’t operate there at all. Contrary to claims from EU officials, CCIA believes that lawful activities carried out by users will be severely restricted.«

Redan tidigare har Youtube luftat tanken att EU:s nya uppladdningsfilter kan komma tvinga dem att blockera alla användare i EU-länderna.

Företagen i CCIA-gruppen menar att artikel 17 flyttar ansvaret för upphovsrättsintrång från den som laddar upp till nätföretagen. Vilket bryter mot principen om budbärarimmunitet (som för övrigt också finns i annan EU-lagstiftning). Då detta kan komma att utsätta nätjättarna för en oacceptabel juridisk risk, måste de nu överväga om de kan vara kvar på den europeiska marknaden.

De upprepar även att oavsett vad EU-tror, så kan automatisk filtrering inte göra undantag för »fair use« som memer, kritik, satir m.m. Algoritmer kan helt enkelt inte bedöma kontext.

Nu vädjar man om hjälp hos den amerikanska regeringen och förvaltningen för att få EU att nyktra till i frågan.

(Och eftersom det i princip bara kommer att bli amerikanska nätplattformar som drabbas, skulle artikel 17 till och med komma att uppfattas som ett handelshinder. Eller i vart fall kastas in i debatten om nätskatter och plattformarnas skattehemvist. Och då har EU hjälpt till att tända elden under ett digitalt handelskrig.)

EU:s nya upphovsrättsdirektiv är alltså på väg att landa i något som till och med är värre än vad man kunde frukta.

TorrentFreak: Tech Giants Warn U.S. Against EU Upload Filters and Site Blocking »

EU:s uppladdningsfilter – en praktisk omöjlighet som ändå är på väg att bli verklighet

EU-kommissionens samtalsrunda med så kallade stakeholders (nätjättarna och upphovsrättsindustrin) om uppladdningsfilter (artikel 17, f.d. 13 i EU:s nya upphovsrättsdirektiv) närmar sig sitt slut.

Emanuel Karlsten ger en ögonblicksbild från det näst sista mötet:

Ett återkommande försvar för ”internetfilter” har varit att tekniken ska kunna hålla isär satir och kritik från upphovsrättsskydd. Socialdemokraterna i Sverige, som blev de som tillsammans med SD tippade vågen för direktivet, menade i en intervju att ”jag förställer mig att det går till så… Att tekniken är sådan att man är oerhört noga med att vad man tittar på”.

Under det fjärde mötet hölls föredrag från både Facebook och företag som kan tänkas vilja sälja den teknik som ska filtrera ut överträdelser. Samtliga framhöll att den teknik som finns idag inte kan gå bortom att jämföra uppladdat innehåll mot en databas, och ta bort det som matchar. Ingen representant kunde erbjuda en teknik som gjorde analys av till exempel ett upphovsrättsskyddat verks kontext.

Detta är en avgörande insikt, eftersom det gör det väldigt svårt att implementera ett ”filter” och samtidigt skydda internetanvändares yttrandefrihet och rätt att publicera kritik och satir.

Ett uppladdningsfilter är med andra ord en precis lika fyrkantig idé som vi kritiker påpekat från början. Om det blir verklighet finns det idag inget som tyder på att det skulle kunna skilja på sådant upphovsrättsskyddat material som skall vara tillåtet respektive förbjudet att ladda upp.

Communia rapporterar:

In this situation, the Commission will need to show if it is willing to defend the legislative compromise reached with Article 17, or if it will sacrifice user rights in the light of powerful commercial interests that are interested in undermining the user rights safeguards that were included in the final compromise. Together with the other users’ organisations represented in the dialogue we will push for meaningful safeguards (such as human review of automated content matches before uploads can be deleted). As there are currently no further meetings of the stakeholder dialogue on the agenda, the discussion about user rights at the next meeting will likely be the final showdown. This means that it will be crucial for anyone that has an interest in safeguarding user rights (including the European Parliament, which introduced the relevant provisions into the final compromise) to pay close attention to the next meeting.

Enkelt uttryckt: Förhandlingarna närmar sig sitt slut. Någon lösning på hur filtrering av upphovsrättsskyddat material är tänkt att ske finns inte. Något skydd för »fair use« av upphovsrättsskyddat material i form av memes, kritik, satir etc. finns inte.

Allt verkar med andra ord att bli precis så illa som man kunde frukta. Och de som hävdade att det inte är några problem syns inte längre till i debatten.

Länkar:
• Emanuel Karlsten: ”TV-bolag vill ta bort videos med deras logga” och andra förslag från EU-kommissionens möte om internetfilter »
• Communia: Article 17 stakeholder dialogue (day 5): It all depends »

Storbritannien implementerar inte EU:s upphovsrättsdirektiv – i vart fall inte ännu

EU:s upphovsrättsdirektiv hinner inte införas i Storbritannien innan Brexit och läggs – i vart fall tills vidare – i malpåse.

Den ansvarige ministern, Chris Skidmore, meddelande följande som svar på en fråga i underhuset:

»[T]he United Kingdom will not be required to implement the Directive, and the Government has no plans to do so.« (…) »Any future changes to the UK copyright framework will be considered as part of the usual domestic policy process.«

Samtidigt kommer signaler om att frågan kan bli aktuell igen, senare. Men man skall också komma ihåg att premiärminister Boris Johnson, innan han blev premiärminister, menade EU:s nya upphovsrättsdirektiv är »hemskt för internet«.

Detta innebär att britterna än så länge slipper dumheter som »länkskatt« och »uppladdningsfilter«. Vilket möjligen kan göra Storbritannien intressant som bas för europeiska nätplattformar – samtidigt som EU gör vad det kan för att skrämma bort dem.

Länkar:
• The Verge » The UK won’t implement EU’s controversial copyright directive after Brexit »
• BoingBoing » Brexit means the UK will shelve the EU Copyright Directive (for now) »
• Computer Sweden » Efter Brexit: Britterna inför inte nya upphovsrättsdirektivet »

EU:s uppladdningsfilter: Låsta positioner i kommissionens samtal

Idag, den 16 januari, håller EU-kommissionen ännu ett »stakeholder meeting« om upphovsrättsdirektivets artikel 17 (f.d. 13) – som ställer krav på licensiering och filtrering av upphovsrättsskyddat material på nätplattformarna.

Fortfarande är motsättningarna mellan plattformar (och därmed även användare) och upphovsrättsindustrin betydande. EDRi skriver om resultatet av förra mötet:

After Youtube’s Content ID presentation during the third meeting, Facebook’s Rights Management tool presentation reiterated what civil society has been repeating during the entire duration of the copyright debates: filtering tools cannot understand context. Content recognition technologies are only capable of matching files and cannot recognise copyright exceptions such as caricature or parody.

This argument has now been clearly and repeatedly laid out to the European Commission by both civil society organisations and providers of content recognition technology. We would therefore expect that the Commission’s guidelines will take this into account and recommend that filters should not be used to automatically block or remove uploaded content.

Denna fråga har blivit högaktuell efter att Frankrike och Nederländerna lagstiftat innan alla andra – och valt att helt strunta i undantag för memes, satir, kritik och andra former av »fair use«.

Plattformarna oroas också över felaktiga upphovsrättsanspråk, som kan komma att leda till att material och poster felaktigt censureras.

Vi återkommer när mer information läckt ut om dagens möte.

EDRi » Copyright stakeholder dialogues: Filters can’t understand context »