Nätpionjärer varnar för EU-förslag mot terror-relaterat innehåll på internet

Bland andra Tim Berners-Lee, Vint Cerf och Bruce Schneier varnar för EU:s nya förordning om terror-relaterat innehåll på nätet. I ett brev till berörda ledamöter i Europaparlamentet skriver de bland annat…

[T]he fight against terrorism does not preclude lawmakers from their responsibility to implement evidence-based law that is proportionate, justified, and supportive of its stated aim.

The EU Terrorist Content regulation, if adopted as proposed, will restrict the basic rights of European internet users and undercut innovation on the internet without meaningfully contributing to the fight against terrorism.

De sammanfattar sin kritik i fyra punkter:

  • Definitionen av terror-relaterat innehåll är oklar och riskerar att även drabba t.ex. forskning, journalistik och utbildning.
  • Förordningen är inte proportionerlig, utan drabbar även nätsiter som till sin natur inte har något att göra med terrorism eller terrorpropaganda.
  • Bestämmelsen om att terror-relaterat innehåll skall plockas ner inom en timma är omöjlig att leva upp till för små och medelstora nätplattformar.
  • Kravet på filtrering för att hålla redan identifierat terror-relaterat innehåll borta kräver filtrering av allt som alla användare laddar upp. Detta är svårt eller rent av omöjligt att hantera för små mätplattformar. De enda som möjligen kan möta kravet är dagens nätjättar, som därmed stärker sin dominans på marknaden ytterligare.

Läs brevet (PDF) »

EU förbereder ytterligare uppladdningsfilter

I skuggan av striden om EU:s upphovsrättsdirektiv pågår arbetet med att införa ytterligare ett uppladdningsfilter.

Det handlar om EU:s förordning om »förhindrande av spridning av terrorisminnehåll online«. Ett par saker sticker ut.

• För det första är definitionen av »terrorism« luddig. Dessutom vet vi sedan tidigare att detta är ett sluttande plan. Denna typ av regler brukar (utan att någon riktigt förstår hur det går till) som regel även utvidgas till att omfatta »hatfullt« innehåll. Och därmed öppnas portarna för att lite vad som helst kan komma att censureras.

• För det andra innehåller förordningen en regel om att innehåll som anmäls skall plockas bort inom en timma. Dels känns det som om detta är otillräckligt med tid för att göra en rättssäker bedömning. Vidare är det en tidsgräns som är svår, eller direkt omöjlig att möta för mindre plattformar.

• För det tredje måste nätplattformarna garantera att material som flaggats eller plockats ner inte kan laddas upp igen. Detta kräver – med nödvändighet – filtrering av allt som alla användare laddar upp.

Nu försöker EU-kommissionen stressa igenom förordningen innan EU-valet. Men att stressa fram ogenomtänkta inskränkningar av yttrandefriheten är en mycket dålig idé.

Dessutom lider förslaget till filtrering av samma brist som upphovsrättsdirektivets artikel 13: I en rättsstat skall yttrandefriheten inte inskränkas utan föregående rättslig prövning, i varje enskilt fall, under lagarna.

I detta fall handlar det dessutom om en förordning/reglering – som börjar gälla direkt när beslut har fattats, utan att behöva inkorporeras i medlemsstaternas lagstiftning.

Läs mer:
• Terrorist Content Online: The Return of the Upload Filter »
• FN-kritik mot EU:s förordning om spridning av terrorisminnehåll online »
• Idag (6/12-18) röstar EU:s ministerråd om automatiserad nätcensur »
• EU:s glömda förslag om automatiserad nätcensur »
• WITNESS brings together voices to push back on dangerous EU “Dissemination of Terrorist Content” proposal »
• När EU går terroristernas ärenden »
• Techdirt podcast: The EU Endangers Free Speech Online… Again »
• Tory MEP’s motives for delaying EU terror legislation questioned »

Den orimliga artikel 13

Artikel 13 i EU:s omstridda upphovsrättsdirektiv slår fast att nätplattformar med användargenererat innehåll kommer att hållas ansvariga om deras användare laddar upp upphovsrättsskyddat material.

Till att börja med bryter detta mot en av grundprinciperna för en demokratisk rättsstat. Om ett brott begås (till exempel om någon sprider innehåll som skyddas av upphovsrätten) – då skall personen i fråga ställas till svars i efterhand (när handlingen är ett faktum). Med artikel 13 får vi istället förhandscensur och ett system där plattformarna måste kontrollera och filtrera vad användarna lägger upp och delar.

På Youtube laddas mer än 300 timmar video upp varje minut. På Facebook laddas mer än 350.000.000 bilder upp varje dag, tillsammans med miljarder andra poster. På Instagram räknar man med att 95.000.000 bilder och videos laddas upp varje dag.

Allt detta (plus all text och allt ljud) måste med artikel 13 kontrolleras innan det laddas upp – så att det inte inkräktar på någon annans upphovsrätt. Att göra detta manuellt är omöjligt. Så det måste ske genom automatisk filtrering.

Ett problem i sammanhanget är att det inte finns något globalt register över allt som skyddas av upphovsrätten.

Ta till exempel bilden ovan, från demonstrationen i Berlin mot artikel 11 & 13 för en dryg vecka sedan. Hur skall de automatiska filtren veta om det är min bild – eller om det är någon annans upphovsrättsskyddade bild?

Hur skall de automatiska filtren veta om en bild är skyddad av upphovsrätten eller om den är fritt tillgänglig inom ramen för public domain eller Creative Commons?

Hur skall filtren hantera det faktum att bilden ovan innehåller ett registrerat varumärke (McDonalds)? Och bilden på en rysk soldat över Checkpoint Charlie – är den fri eller upphovsrättsskyddad?

Artikel 13 kommer inte bara att kräva uppladdningsfilter. Frågan är om det över huvud taget kommer att vara möjligt att driva nätplattformar med användargenererat material i EU, om förslaget blir verklighet.

Artikel 13 kommer verkligen att förändra internet som vi känner det. Den måste stoppas!

/ HAX

(P.S. Bilden ovan är tagen av mig. Den får fritt delas, användas och ändras. CC=0)

Kommer artikel 13 att döda Instagram?

Kommer det över huvud taget att vara möjligt för oss som bor i EU att använda sociala plattformar som Instagram i framtiden?

Så här: Artikel 13 i EU:s nya direktiv om upphovsrätt föreslår att nätplattformar med användargenererat material kommer att hållas ansvariga för eventuella intrång i upphovsrätten.

Därför kommer dessa plattformar att tvingas filtrera och censurera sådant som du lägger upp så att ingen text, ingen bild, inget ljud och ingen video strider mot någon annans upphovsrätt. Vilket i princip är omöjligt. Det finns inget register över allt som är skyddat av upphovsrätten – och detta skydd uppstår så fort någon skapar något.

Ta en godtycklig Instagram-bild som du laddat upp. Följande gäller då:

  • Om du tagit bilden själv (och den inte innehåller några upphovsrättsskyddade objekt) är det tillåtet att lägga upp bilden.
  • Om det är »din« bild i meningen att den är tagen med din mobil, men av någon annan (som t.ex. tagit en bild av dig) – då tillfaller upphovsrätten fotografen. Och då är det förbjudet att lägga upp bilden, utan fotografens tillstånd.
  • Om det är en bild som du köpt av en bildbank och du har licens för att använda den – då är det tillåtet att lägga upp den.
  • Om det är en bild eller illustration som du »hittat« på nätet och gärna vill dela med andra – då tillhör upphovsrätten inte dig och då är det förbjudet att lägga upp den.

Detta kommer att avgöras av automatiska, algoritm-styrda filter. Frågan är hur de skall veta vad som gäller för den bild du vill lägga upp. Svaret är att det är omöjligt att veta.

Det skall bli intressant att se hur Instagram kommer att hantera detta. Kanske drar de samma slutsats som Youtube – som överväger att blockera användare och tittare i EU, eftersom de nya reglerna är omöjliga att efterleva.

Detta brukar avfärdas som skrämselpropaganda av dem som är för artikel 13. Men de har samtidigt inget svar på hur problemet skall lösas. Nada.

Artikel 13 är ett exempel på hur EU stiftar regler som rör upphovsrätt och internets fria informationsflöde utan att göra någon vettig konsekvensanalys. Man fattar beslut om sådant som man inte förstår. Och man viftar bort all kritik och alla invändningar – tills det är för sent.

Det är som vanligt i EU: Först stiftar man lagar, sedan tar man reda på fakta och därefter utbryter en yrvaken debatt – när det uppstår oväntade och oönskade konsekvenser.

/ HAX

Artikel 13: Allt om EU:s uppladdningsfilter

EU:s nya upphovsrättsdirektiv är på väg mot en sista, avgörande omröstning i Europaparlamentet. Låt oss därför titta lite närmare på dess enskilda delar.

I denna post: Artikel 13, uppladdningsfiltret.

• Vad är uppladdningsfiltret och varför blir det nödvändigt?

Nätplattformar med användargenererat material (som Youtube, Facebook, Instagram, LinkedIn, Snapchat, Familjeliv, SvenskaFans, Kamratposten m.fl.) hålls ansvariga om deras användare laddar upp upphovsrättsskyddat material (text, bild, ljud, video) – om de inte anses ha gjort tillräckligt för att förhindra detta.

Artikel 13 säger i och för sig att uppladdningsfilter inte kommer att vara obligatoriska. Men det är helt enkelt ett knep för att mildra kritiken. Enda sättet för plattformarna att försäkra sig om att de lever upp till kraven ovan är att granska och analysera allt som alla användare laddar upp. Och med tanke på de enorma volymer med material  som laddas upp varje dag är den enda möjligheten att göra detta genom automatisk filtrering.

• Vem drabbas?

I direktivets inledning (artikel 2) talas om »a provider of an information society service whose main or one of the main purposes is to store and give the public access to a large amount of copyright protected works or other protected subject-matter uploaded by its users which it organises and promotes for profit-making purposes.«

Vad som menas med »main purpose« är oklart. Men alla de plattformar som nämns i punkten ovan gör det möjligt att dela upphovsrättsskyddat material (som tidningsartiklar, Youtube-filmer, bilder etc.). Dessutom är ju det material som användarna själva producerar med automatik upphovsrättsskyddat. Så allt talar för att direktivet kommer att slå mot alla plattformar som låter användare ladda upp material.

Även termen »profit making purposes« lämnar utrymme för tolkning. Men strikt tolkat gäller det om plattformen så bara har Google-annonser som genererar ytterst blygsamma inkomster.

Man gör även ett nummer av att man undantar små och nystartade plattformar. Vilket man i praktiken inte gör. För att undantas måste en plattform uppfylla samtliga följande tre villkor. 1) Inte vara äldre än tre år. 2) Ha en omsättning på mindre än 10 miljoner euro. 3) Ha färre än fem miljoner unika månatliga användare. Och när treårs-gränsen passerats gäller direktivet för alla plattformar, hur små och obetydliga de än är.

Det finns ett undantag till i artikel 2. »Providers of services such as not-for profit online encyclopedias, not-for profit educational and scientific repositories, open source software developing and sharing platforms, electronic communication service providers as defined in Directive 2018/1972 establishing the European Communications Code, online marketplaces and business-to business cloud services and cloud services which allow users to upload content for their own use shall not be considered online content sharing service providers within the meaning of this Directive.« Vilket är en liten tröst i eländet.

• Licensiering?

I artikel 13:1 skriver man »An online content sharing service provider shall therefore obtain an authorisation from the rightholders referred to in Article 3(1) and (2) of Directive 2001/29/EC, for instance by concluding a licencing agreement, in order to communicate or make available to the public works or other subject matter.«

Det innebär att allt som laddas upp på till exempel Facebook eller Instagram måste täckas av ett avtal mellan plattformen och den som innehar upphovsrätten. Vilket dels kompliceras av att det inte finns något register över alla världens upphovsrättsskyddade verk – dels av att det bara är praktiskt möjligt att teckna licensavtal med ett mindre antal av alla innehavare av sådana. Den praktiska konsekvensen blir att man bara kommer att få ladda upp / dela material från ett litet urval av källor.

Detta är ett steg tillbaka till världen som den var innan internet – när man var beroende av andras tillstånd för att få dela information.

Ur ett praktiskt perspektiv blir det i princip omöjligt att veta om en bild som en användare lägger upp på t.ex. Instagram är tagen av användaren själv (vilket skall vara tillåtet), om den omfattas av någons upphovsrätt (och inte får publiceras), om den är upphovsrättsskyddad men köpt med publiceringsrätt från en bildbank eller om det är en bild som kan delas fritt för att den är public domain (till exempel då upphovsrätten gått ut) alternativt är publicerad under en Creative Commons-licens (som tillåter delning under vissa villkor). Detta blir så komplicerat att det kan göra nätplattformar som Instagram omöjliga att driva i EU.

• Fair use?

En ljuspunkt är att man öppnar för något som i vart fall delvis kan liknas vid principen om »fair use« i artikel 13:5:

Member States shall ensure that users in all Member States are able to rely on the following existing exceptions and limitations when uploading and making available content generated by users on online content sharing services:
a) quotation, criticism, review,
b) use for the purpose of caricature, parody or pastiche.

Detta är på inget sätt heltäckande, men gör att man från EU:s sida i vart fall kan säga att man inte förbjudit memer. Däremot är det tveksamt om detta omfattar citaträtt för till exempel video-essäer, nyhetsanalyser, debattinlägg etc. på Youtube.

Frågan är bara hur de automatiska uppladdningsfiltren skall kunna veta om något är t.ex. parodi eller ej.

• Oförutsedda och oönskade konsekvenser

Detta är ett direktiv, inte en förordning. Det innebär att innehållet skall bakas in i 28 olika medlemsstaters lagstiftning, vilket kommer att leda till olika tolkningar i olika länder. (Hade det varit en förordning/reglering hade den däremot införts rakt av, lika för alla.) Reglerna kommer alltså att skilja sig från land till land, vilket kan ge märkliga resultat i en uppkopplad värld som inte känner några nationsgränser.

Att skapa de filter som krävs blir dyrt och svårt, kanske omöjligt. De skall inte bara kunna avgöra om en text, en bild, ljud eller video inkräktar på någon annans upphovsrätt. De skall dessutom kunna bedöma om de publiceras i en kontext som tillåter publicering, som kritik eller parodi. (Bara Youtubes filter för att sålla bort upphovsrättsskyddad musik kostade 60 miljoner USD att utveckla – och fungerar ändå inte som det skall, med många felaktiga flaggningar.)

Youtube har redan meddelat att man kan komma att blockera användare och tittare i EU, eftersom detta direktiv ställer omöjliga krav på filtrering. Hur siter som Facebook, Instagram, Snapchat, LinkedIn m.fl. skall göra är oklart. Och för svenska plattformar som Familjeliv, SvenskaFans och Kamratposten finns inga alternativ: Inför en förmodligen omöjlig och helt säkert oerhört kostsam filtrering – eller lägg ner.

För oss användare kommer möjligheten att publicera oss på olika plattformar (inklusive Blogger och WordPress) att begränsas. Hur hanterar man till exempel en bloggpost som innehåller en bild från någon icke specificerad bildbyrå och en text som kanske eller kanske inte innehåller utdrag ur andra texter? Eller en Youtube-film om ett aktuellt nyhetsförlopp, som innehåller skärmdumpar från nätartiklar? Svaret är att ingen vet.

Detta är bara att skrapa på ytan vad gäller direktivets oförutsedda och oönskade konsekvenser. Men en sak kan man säga med rätt stor säkerhet: De olika plattformarnas användarvillkor kommer att skärpas dramatiskt.

Dessutom kommer detta att leda till problem som berör själva rättsstatens grundläggande principer. Dels kommer makten över det fira ordet att flyttas från lagarna och domstolarna till användarvillkor och privata aktörer. Dels upphävs principen om att förhandscensur inte skall förekomma.

• Vad händer nu?

Nästa steg blir en slutlig omröstning i Europaparlamentets plenum, förmodligen i mars eller april. Där är det möjligt att antingen rycka ut artikel 13 (vilket i så fall leder till omförhandling och nya trialoger) – eller att fälla hela direktivet.

/ HAX

Länkar:

• Artikel 13, preliminär version (PDF) »

• Julia Reda: The text of Article 13 and the EU Copyright Directive has just been finalised »

• EFF: The Final Version of the EU’s Copyright Directive Is the Worst One Yet »

• TheNexWeb: EU’s final Copyright Reform upholds disastrous upload filters »

• Bahnhof – EU-NYTT: Artikel 11 & 13 har förvärrats en sista gång »

• TechDirt: EU Moves Forward With Agreement To Fundamentally Change The Internet From Open To Closed »

• TorrentFreak: EU Reaches Deal on Article 13 and Other Copyright Reform Plans »

• Euractiv: Deal struck on copyright reform after ‘intense’ negotiations »

• EUobserver: EU agrees draft copyright reform, riling tech giants »

Vad du kan göra:

Skriv på petitionen mot artikel 13 »

Sexual-censuren dödar internet

Rekommenderad läsning:

»Violet Blue« har en intressant artikel hos Engadget: How sex censorship killed the internet we love »

Några nedslag i texten:

I can feel my anxiety climbing as I try to find current news stories about sex. Google News shows one lonely result for ”porn,” an article that is 26 days old. I log out of everything and try different browsers because this can’t be right.

I pop over to Yahoo News and try the same searches, exhaling relief to see 892 news articles for ”porn” from outlets ranging from Associated Press to Rolling Stone. They’re there. It’s just that Google’s 2018 algorithm upgrade filters out news with the word ”porn” in it. Like articles about porn performer suicide, tips for revenge porn victims, parents who oppose porn website age-verification (turns out, today’s parents are more afraid of data collection than their kids watching porn).

Stories with the word ”porn” in them are important because they’re about censorship, sexual health, business trends, sex work, politics, gender and women. They’re about people.

Det är inte bara Google som får kritik:

We used to have a living, breathing museum-of-sex culture online. But in December 2018, Tumblr banned and removed adult content from its service. Estimated loss: at least 12.5 million blogs.

Även Facebooks sex-censur får en släng av sleven:

The erasure of erotic art, to me, represents a crisis point of culture, of democracy. Art effects the greatest change and empowerment when it’s transgressive, scandalous, nude, erotic. Visibility matters. Art is where minds are opened, ideas challenged, viewpoints explored, where people who hate have a chance to be changed, even if for a minute.

Exemplen på censur är otaliga. Det handlar även om andra än sociala nätplattformar och Google. Patreon, Cloudflare, PayPal är en del av det sexualneurotiska komplexet. Starbucks blockerar sexsiter i sitt kundnätverk. Skribenten hävdar att det till och med gått så långt att Google Drive skannar användarnas filer för att radera sådant som bedöms vara explicit sexuellt innehåll!

Och i takt med att internet blir allt mer mobilt och användarna i allt större utsträckning går från att surfa nätet till att använda appar dras snaran åt allt hårdare.

Läs hela artikeln!

Facebook skapar en egen »Högsta Domstol«

Frågan om vad som skall få publiceras på Facebook är aktuell, kontroversiell och känslig. Nu föreslår företaget en lösning – ett slags etiskt råd på 40 personer. Wired har fördjupat sig i förslaget:

Facebook will pick the initial cohort, saving it from the Kafkaesque process of drafting a separate committee to pick the final committee. After that, the members will pick their own successors, none of whom may be Facebook employees, past or present, or government officials. Board members will split into smaller panels to deliberate on individual cases and will choose their own dockets, based on referrals from Facebook users and from Facebook itself. Their collective decisions will be public, but their individual votes won’t be. (…)

With the board, Facebook is designing oversight in its own image. In doing so, it’s also opening itself up to a new wave of criticism about which 40 experts it considers to be worthy of the public trust.

Initiativet är begripligt. Möjligen kommer det att höja nivån på vissa beslut. Samtdigt är antalet fallgropar närmast oändligt.

Och i slutändan landar det i ett nu för tiden ständigt problem: Att makten över det fria ordet flyttas från lagarna och rättsväsendet till privata företag och deras användarvillkor.

Wired: Real Facebook Oversight Requires More Than a 40-Expert Board »

EU:s glömda förslag om automatiserad nätcensur

Samtidigt som debatten rasar om uppladdningsfiltret i EU:s nya direktiv om upphovsrätt finns ännu ett förslag som innehåller automatiserad nätcensur: Regulation on Dissemination of Terrorist Content Online.

Det handlar om en ny förordning som skall stoppa terrorelaterat innehåll på nätet. (Av erfarenhet vet vi att sådana förslag, på något magiskt sätt, snabbt brukar utökas med det luddiga begreppet hatfullt innehåll i största allmänhet.)

Förordningen stadgar inte bara att visst innehåll snabbt skall plockas bort av de plattformar där det publiceras. Den kräver även att sådant material inte skall kunna laddas upp igen, när det väl plockats ner.

Hur man än vänder och vrider på frågan – så innebär detta att allt som laddas upp måste granskas, analyseras och i förekommande fall censureras. Vilket är en övermänsklig uppgift. Så detta måste hanteras automatiskt.

Åter flyttas alltså frågan om yttrandefrihet och censur från lagar och domstolar till nätplattformarnas användarvillkor och algoritmer. Vilket inte är lämpligt i en demokratisk rättsstat.

Läs mer: WITNESS brings together voices to push back on dangerous EU “Dissemination of Terrorist Content” proposal »

Facebook: Mer transparens för annonser i EU-valet

Nervositeten ökar inför EU-valet:

Facebook will implement tools to make political advertising more transparent during the upcoming European Parliament election, including so-called issue-ads, the company announced Monday.

“In late March, we will launch new tools to help prevent interference in the upcoming election and make political advertising on Facebook more transparent,” Nick Clegg, the company’s newly appointed VP for global affairs and communications, said at a Brussels event today. (…)

People and organizations wishing to run political ads will need to be authorized by the platform and all ads will have to contain “paid for by” disclaimers, Clegg said.

Transparens är bra. Men att de som vill annonsera i samband med EU-valet måste godkännas i förväg kan bli stökigt. Speciellt som vissa av EU:s makthavare tycks betrakta all kritik som fake news. Och det finns ju redan ett nära samarbete mellan EU och Facebook för att försöka styra upp innehållet på sociala media.

Politico.eu: Facebook to roll out ad transparency rules ahead of European election »

Vad för slags data samlar Facebook – och vad tycker användarna?

»Last week, Pew released the results of a survey investigating how users understand Facebook’s data collection practices and how they react when shown what the platform thinks it knows about them. The upshot is that 74% of users weren’t aware that Facebook assembles lists of their interests and traits. 88% of respondents were assigned “categories” for advertising, which could include racial or ethnic “affinities” and political leanings. 58% of those users were “not comfortable” with the company compiling that information.«

EFF: A Guided Tour of the Data Facebook Uses to Target Ads »