Överfiltrering är redan ett problem i sociala media

Efter attacken mot en moské i Nya Zeeland har Facebook och Youtube kämpat för att rensa bort nya uppladdningar av den live-stream som sändes av attentatsmannen.

Det rör sig om stora volymer och man har fått använda sig av automatisk filtrering för uppgiften. Detta är dock inte utan problem. EDRi förklarar:

”How many unrelated videos have been wrongfully removed by automatic filters? Facebook says, for example: “Out of respect for the people affected by this tragedy and the concerns of local authorities, we’re also removing all edited versions of the video that do not show graphic content.” This is information that is apparently not in violation of the rules of the platform (or even the law), but that is blocked out of deference to the next of kin.

However empathetic that might be, it also shows how much our public debate depends on the whims of one commercial company. What happens to videos of journalists reporting on the events? Or to a video by a victim’s relative, who uses parts of the recording in a commemorative video of her or his own? In short, it’s very problematic for a dominant platform to make such decisions.”

Det beskriver rätt väl problemet med automatisk filtrering. Resultatet blir överfiltrering utan någon hänsyn till den kontext i vilken publiceringen sker. Vilket i slutändan är till skada för det fria ordet.

EDRi: What the YouTube and Facebook statistics aren’t telling us »

Europaparlamentet röstar om terror-filter

Under onsdagen voterar Europaparlamentet om sin position avseende förordningen om terror-relaterat innehåll online.

Alla som har en website blir tvingade att se till att eventuellt terror-relaterat innehåll kommer bort inom en timma – och att det inte laddas upp igen.

Bland de punkter som Europaparlamentet har att ta ställning till finns frågan om man uttryckligen skall kräva uppladdningsfilter eller ej. Utskottet säger nej, men detta riskerar att ändras i plenarvoteringen. Dessutom kan man fråga sig vad parlamentet tror sig vinna genom att inte nämna ordet »uppladdningsfilter« – när förslaget ändå är skrivet så att det förutsätter att sådana måste användas.

Detta blir problematiskt på samma sätt som artikel 13/17 i upphovsrättsdirektivet: Det flyttar makten över det fria ordet från lagarna och våra domstolar – till privata företag och deras användarvillkor. Vilket är direkt olämpligt i en demokratisk rättsstat.

Läs även:
• Pirate MEP Julia Reda »
• Emanuel Karlstens analys »
• Techdirt »

Uppdatering: Parlamentet röstade igenom terrorlag som tvingar alla sajter att ta bort propaganda inom en timme »

Nätpionjärer varnar för EU-förslag mot terror-relaterat innehåll på internet

Bland andra Tim Berners-Lee, Vint Cerf och Bruce Schneier varnar för EU:s nya förordning om terror-relaterat innehåll på nätet. I ett brev till berörda ledamöter i Europaparlamentet skriver de bland annat…

[T]he fight against terrorism does not preclude lawmakers from their responsibility to implement evidence-based law that is proportionate, justified, and supportive of its stated aim.

The EU Terrorist Content regulation, if adopted as proposed, will restrict the basic rights of European internet users and undercut innovation on the internet without meaningfully contributing to the fight against terrorism.

De sammanfattar sin kritik i fyra punkter:

  • Definitionen av terror-relaterat innehåll är oklar och riskerar att även drabba t.ex. forskning, journalistik och utbildning.
  • Förordningen är inte proportionerlig, utan drabbar även nätsiter som till sin natur inte har något att göra med terrorism eller terrorpropaganda.
  • Bestämmelsen om att terror-relaterat innehåll skall plockas ner inom en timma är omöjlig att leva upp till för små och medelstora nätplattformar.
  • Kravet på filtrering för att hålla redan identifierat terror-relaterat innehåll borta kräver filtrering av allt som alla användare laddar upp. Detta är svårt eller rent av omöjligt att hantera för små mätplattformar. De enda som möjligen kan möta kravet är dagens nätjättar, som därmed stärker sin dominans på marknaden ytterligare.

Läs brevet (PDF) »

EU förbereder ytterligare uppladdningsfilter

I skuggan av striden om EU:s upphovsrättsdirektiv pågår arbetet med att införa ytterligare ett uppladdningsfilter.

Det handlar om EU:s förordning om »förhindrande av spridning av terrorisminnehåll online«. Ett par saker sticker ut.

• För det första är definitionen av »terrorism« luddig. Dessutom vet vi sedan tidigare att detta är ett sluttande plan. Denna typ av regler brukar (utan att någon riktigt förstår hur det går till) som regel även utvidgas till att omfatta »hatfullt« innehåll. Och därmed öppnas portarna för att lite vad som helst kan komma att censureras.

• För det andra innehåller förordningen en regel om att innehåll som anmäls skall plockas bort inom en timma. Dels känns det som om detta är otillräckligt med tid för att göra en rättssäker bedömning. Vidare är det en tidsgräns som är svår, eller direkt omöjlig att möta för mindre plattformar.

• För det tredje måste nätplattformarna garantera att material som flaggats eller plockats ner inte kan laddas upp igen. Detta kräver – med nödvändighet – filtrering av allt som alla användare laddar upp.

Nu försöker EU-kommissionen stressa igenom förordningen innan EU-valet. Men att stressa fram ogenomtänkta inskränkningar av yttrandefriheten är en mycket dålig idé.

Dessutom lider förslaget till filtrering av samma brist som upphovsrättsdirektivets artikel 13: I en rättsstat skall yttrandefriheten inte inskränkas utan föregående rättslig prövning, i varje enskilt fall, under lagarna.

I detta fall handlar det dessutom om en förordning/reglering – som börjar gälla direkt när beslut har fattats, utan att behöva inkorporeras i medlemsstaternas lagstiftning.

Läs mer:
• Terrorist Content Online: The Return of the Upload Filter »
• FN-kritik mot EU:s förordning om spridning av terrorisminnehåll online »
• Idag (6/12-18) röstar EU:s ministerråd om automatiserad nätcensur »
• EU:s glömda förslag om automatiserad nätcensur »
• WITNESS brings together voices to push back on dangerous EU “Dissemination of Terrorist Content” proposal »
• När EU går terroristernas ärenden »
• Techdirt podcast: The EU Endangers Free Speech Online… Again »
• Tory MEP’s motives for delaying EU terror legislation questioned »

Alla var där – se videon från gårdagens Artikel 13-demonstration i Berlin

5 juli-stiftelsen har demonstrerat. Mot upphovsrättsdirektivet i dess nuvarande form – mer konkret Artikel 11 och 13, aka 17 – och för ett fritt internet.

Som ni kan se i videon från gårdagens demonstration i Berlin var stämningen fantastisk. Så mycket folk, och så mycket ungt folk – jag haffade flera av dem, som förklarade att detta gällde dem personligen. Det är deras Youtube som står på spel – och i förlängningen deras internet.

Jag sprang in i journalisten Emanuel Karlsten, som bevakar demonstrationen och botfrågan efter en Kickstarter-kampanj.

Jag träffade också piratgänget Rick Falkvinge, Christian Engström och Fabian Rosdalen.

Liksom förstås vår egen Hax i högform och stiftelsens ordförande Oscar Swartz.

Och om vi nu inte lyckas stoppa dessa idiotiska artiklar i Upphovsrättsdirektivet nästa vecka, då vette fan vad som händer.

Tyska regeringen: Artikel 13 innebär uppladdningsfilter

Artikel 13 i EU:s nya direktiv om upphovsrätt gör nätplattformarna ansvariga för upphovsrättsskyddat material som deras användare laddar upp. Men kommer det att innebära uppladdningsfilter – som kontrollerar, analyserar och filtrerar allt som laddas upp? Ja, säger alla som begriper tekniken. Nej, säger de som vill ha artikel 13.

Nu kommenterar den tyska regeringen saken. Christian Lange på det tyska justitiedepartementet säger:

In the [German] federal government’s view it appears likely that algorithmic measures will have to be taken in connection with large volumes of data for practical reasons alone.

Vilket, på vanligt språk innebär att det sannolikt kommer att bli automatiska uppladdningsfilter. Alltså precis vad förslagets kritiker varnat för.

Läs mer hos Techdirt: German Government Confirms That Article 13 Does Mean Upload Filters, Destroying Claims To The Contrary Once And For All »

EU:s upphovsrättsdirektiv – ett beställningsjobb för särintressen?

EU:s nya upphovsrättsdirektiv är helt enkelt inte genomtänkt.

Det föreskriver en kontroll av allt som alla laddar upp på så gott som alla plattformar. Detta kräver automatisk filtrering och censur. Men inte heller då kommer det att fungera rimligt. Det finns helt enkelt ingen fungerande teknik som kan hålla ordning på all text, allt ljud, alla bilder och all video som laddas upp.

Förslaget är så illa skrivet att man måste fråga sig vad det egentliga syftet är.

Man kan konstatera att det bara är nätjättarna som eventuellt klarar att leva upp till direktivets krav. Små och nya aktörer kommer att kvävas i sin linda. Eftersom allt som laddas upp kommer att kräva licens blir bara visst innehåll, från ett fåtal stora aktörer delbart. Detta kommer att gynna Big Media, Big Entertainment, Big Business och Big Data – på ett sätt som strider mot internets själva idé om att vara en global plattform öppen för alla. Detta i ett regelverk som just nu håller på att fastställas av Big Government.

Alla andra – startups, små plattformar, alternativmedia, content creators, bloggar och alla användare kommer att drabbas.

Oavsett om detta är resultatet av en illvillig plan, sammanfallande intressen eller »bara« ogenomtänkt lagstiftning – så blir resultatet att vårt fria och öppna internet är hotat. Och jag kan inte frigöra mig från misstanken att detta är något som välkomnas av de aktörer som ser fri information och en modern digital marknad som ett hot mot sina förlegade affärsmodeller.

Särlagstiftning som syftar till att skydda vissa aktörer mot teknisk utveckling, ny konkurrens och en föränderlig marknad är usel lagstiftning. Den inte bara snedvrider marknaden. Den strider även mot grundprincipen om att lagstiftning skall vara generell till sin natur – inte ett beställningsverk från särintressen.

För en saklig och intressant genomgång av några av direktivets problem, läs DW.com: Memes Could Be Filtered Out by EU Copyright Law »

/ HAX

FN:s rapportör om mänskliga rättigheter kritiserar artikel 13

Lästips: UN Human Rights Rapporteur: Upload Filters “Disproportionate Response” to Copyright Infringement »

”David Kaye, the UN’s Special Rapporteur on freedom of opinion and expression, has raised the alarm over the EU’s proposals for Article 13 and its de facto filtering requirements. ”Such sweeping pressure for pre-publication filtering is neither a necessary nor proportionate response to copyright infringement online,” Kaye warns.”

Den orimliga artikel 13

Artikel 13 i EU:s omstridda upphovsrättsdirektiv slår fast att nätplattformar med användargenererat innehåll kommer att hållas ansvariga om deras användare laddar upp upphovsrättsskyddat material.

Till att börja med bryter detta mot en av grundprinciperna för en demokratisk rättsstat. Om ett brott begås (till exempel om någon sprider innehåll som skyddas av upphovsrätten) – då skall personen i fråga ställas till svars i efterhand (när handlingen är ett faktum). Med artikel 13 får vi istället förhandscensur och ett system där plattformarna måste kontrollera och filtrera vad användarna lägger upp och delar.

På Youtube laddas mer än 300 timmar video upp varje minut. På Facebook laddas mer än 350.000.000 bilder upp varje dag, tillsammans med miljarder andra poster. På Instagram räknar man med att 95.000.000 bilder och videos laddas upp varje dag.

Allt detta (plus all text och allt ljud) måste med artikel 13 kontrolleras innan det laddas upp – så att det inte inkräktar på någon annans upphovsrätt. Att göra detta manuellt är omöjligt. Så det måste ske genom automatisk filtrering.

Ett problem i sammanhanget är att det inte finns något globalt register över allt som skyddas av upphovsrätten.

Ta till exempel bilden ovan, från demonstrationen i Berlin mot artikel 11 & 13 för en dryg vecka sedan. Hur skall de automatiska filtren veta om det är min bild – eller om det är någon annans upphovsrättsskyddade bild?

Hur skall de automatiska filtren veta om en bild är skyddad av upphovsrätten eller om den är fritt tillgänglig inom ramen för public domain eller Creative Commons?

Hur skall filtren hantera det faktum att bilden ovan innehåller ett registrerat varumärke (McDonalds)? Och bilden på en rysk soldat över Checkpoint Charlie – är den fri eller upphovsrättsskyddad?

Artikel 13 kommer inte bara att kräva uppladdningsfilter. Frågan är om det över huvud taget kommer att vara möjligt att driva nätplattformar med användargenererat material i EU, om förslaget blir verklighet.

Artikel 13 kommer verkligen att förändra internet som vi känner det. Den måste stoppas!

/ HAX

(P.S. Bilden ovan är tagen av mig. Den får fritt delas, användas och ändras. CC=0)