Uppladdningsfilter för åsikter – EU:s förhandlingar återupptas

Under torsdagen (24 september) kommer förhandlingarna om EU:s förordning om terror-relaterat innehåll online (TERREG) att. återupptas efter sommaren. I trilogen ingår EU-kommissionen, ministerrådet och Europaparlamentet.

Här är de viktigaste punkterna:

  • Ministerrådet vill att oönskat material avlägsnas från nätets plattformar inom en timma. Parlamentet vill istället att detta skall ske så snart det är praktiskt möjligt.
  • Ministerrådet vill ha uppladdningsfilter, främst för att hindra att material som en gång plockats ner från att laddas upp igen. Detta kräver granskning av allt som alla laddar upp. Parlamentet säger helt nej till uppladdningsfilter.
  • Ministerrådet vill att en myndighet i ett land även skall kunna beordra nedtagning av material som finns på plattformar i andra länder. Parlamentet säger nej.
  • Parlamentet vill ha ett undantag från nedtagning vad gäller journalistik, forskning, konst m.m.

Positionerna kan ha justerats under sommaren – men det får vi reda på först när förhandlingarna har återupptagits.

En viktig principiell fråga är att TERREG utvidgar användning av uppladdningsfilter för upphovsrätt (upphovsrättsdirektivet) till att även omfatta åsikter. Risken är uppenbar att regelverket kommer att drabbas av ändamålsglidning och i framtiden även användas för att censurera annat material / andra åsikter. Detta gäller speciellt som EU:s nya Digital Services Act sägs komma att sätta upp gemensamma regler för vad som får publiceras på nätet i EU.

Fortsättning följer.

Uppdatering: Läs mer hos Piratpartiet »

Presidentvalet 2020 – Facebooks största prövning

Facebook håller på att gå upp i något slags stabsläge inför det amerikanska presidentvalet.

ArsTechnica:

»Facebook has said it will take aggressive and exceptional measures to “restrict the circulation of content” on its platform if November’s presidential election descends into chaos or violent civic unrest.

In an interview with the Financial Times, Nick Clegg, the company’s head of global affairs, said it had drawn up plans for how to handle a range of outcomes, including widespread civic unrest or “the political dilemmas” of having in-person votes counted more rapidly than mail-in ballots, which will play a larger role in this election due to the coronavirus pandemic.

“There are some break-glass options available to us if there really is an extremely chaotic and, worse still, violent set of circumstances,” Mr Clegg said, though he stopped short of elaborating further on what measures were on the table.«

Visst, det kan bli stökigt. Vilket inte minst de senaste månadernas kravaller och oroligheter har visat. Och det faktum att internet och Facebook (i princip) låter människor kommunicera och interagera fritt är tveklöst en faktor att ta med i beräkningen.

För det första bör man ha klart för sig att allt Facebook gör också påverkar situationen. Det handlar om dynamiska skeenden med ofta oförutsedda konsekvenser. Och i kaosartade eller metastabila system kan ibland små förändringar av input leda till dramatiska konsekvenser. Detta kan bli något av en Pandoras ask.

Samtidigt måste Facebook rimligen hålla sig politiskt neutralt. Utrymmet för soloflygningar från enskilda medarbetare med starka personliga politiska preferenser är synnerligen begränsat. Och följderna om Facebook som helhet agerar som en icke-vald politisk aktör kan bli stora. Här kan frågan om huruvida företaget är en plattform eller en redaktionell spelare komma att bli högaktuell.

Inte ens frågan om otillbörlig påverkan av valet från yttre aktörer är kristallklar. Detta visar inte minst förra presidentvalrörelsen. De är möjligt (eller rent av troligt) att mycket av den information som då spreds kom från ryska hackare. Men det innebär inte nödvändigtvis att den är falsk eller irrelevant. Läckorna från det demokratiska partiets inre var viktiga och relevanta för väljarna – oavsett hur de kom till allmänhetens kännedom.

Detta är ett getingbo. Om man får tro vissa analytiker kommer alla valresultat – utom en solklar seger för Biden – att leda till social oro.

I ett sådant läge behöver man ha koll på sina premisser. Rimligen måste demokratin och dess fria, rättvisa val sättas i främsta rummet. Samtidigt finns inget facit för vilka åtgärder som verkar i den riktningen – eller vilka som är kontraproduktiva. Detta kommer att kräva gott omdöme, ödmjukhet och objektivitet. Vilket tyvärr inte är självklara ingångsvärden.

Facebook ger sig helt enkelt in i ett äventyr med ett överväldigande antal okända faktorer. Det skall bli intressant att följa. Kanske vore det enklare om de höll sig till en enkel princip: Att bara stoppa innehåll som är direkt olagligt.

Men så lätt tänker man alltså inte göra det för sig.

ArsTechnica: Facebook vows to restrict users if US election descends into chaos »

Aktuell lista – så hotar EU vårt fria och öppna internet

Femte juli

Här är en sammanställning över aktuella EU-projekt och initiativ som hotar vårt fria och öppna internet.

Beslut som redan har fattats:

  • EU:s upphovsrättsdirektiv gör plattformarna ansvariga om användarna lägger upp upphovsrättsskyddat innehåll. Detta kommer att leda till uppladdningsfilter och granskning av allt som alla laddar upp.
  • EU:s upphovsrättsdirektiv etablerade även den märkliga »länkskatten« – det vill säga att nätplattformar kan tvingas betala om de länkar till etablerad media. (I Frankrike vill man även tvinga t.ex. Google att länka.)

Upphovsrättsdirektivet skall vara implementerat i medlemsstaternas lagstiftning senast sommaren 2021.

Beslut i pipelinen för denna mandatperiod:

  • Det har aviserats att EU:s nya Digital Services Act kommer att ge oss enhetliga regler för vad som får publiceras på nätet i EU.
  • EU-kommissionär Ylva Johansson har meddelat att man kommer att göra ett nytt försök att införa allmän datalagring – trots att EU-domstolen upphävde det förra direktivet på principiella grunder.
  • EU-kommissionen och Europol arbetar med att knäcka kryptering och/eller etablera bakdörrar.
  • EU-kommissionen vill att sociala nätverk och meddelandeplattformar skall avkryptera, läsa och analysera sina användares meddelanden – och i förekommande fall anmäla olämpligt innehåll till myndigheterna.
  • Om ministerrådet får som det vill kommer förordningen om terror-relaterat innehåll att leda till censur av åsikter – plus övervakning och filtrering av allt som alla användare laddar upp (uppladdningsfilter).
  • EU-kommissionens ordförande Ursula von der Leyen vill se en digital identitet för alla EU-medborgare – som kommer att krävas för det mesta du gör på internet och i den digitala världen.
  • Europol kommer att ges automatiserad tillgång till data från privata företag.

Övrigt:

  • I en studie som Europaparlamentet beställt inför the Digital Services Act föreslår författarna en digital järnridå – det vill säga att internet i EU omges med en brandvägg, som i Kina.
  • Det tyska EU-ordförandeskapet vill se en gemensam databas för automatiserad ansiktsigenkänning och annan biometrisk data.
  • Förslag om en »internet-skatt« återkommer ständigt i nya former.

Detta är bara några av alla förslag som lagts fram eller diskuterats de senaste månaderna.

EU vill använda AI för att se om du har olämpliga kontakter med barn

Barnporr och övergrepp mot barn är ett säkert kort när EU vill utöka övervakningen av medborgarnas kommunikationer. Det innebär att ingen törs protestera – även om förslagen är uppåt väggarna tokiga och farliga.

Vi har tidigare skrivit om saken här:
• EU vill se övervakning, granskning och analys av alla elektroniska meddelanden »
• EU vill skanna all din elektroniska kommunikation i jakt på barnporr – utan misstanke »

Nu börjar det komma fram fler detaljer. Bland annat vill EU-kommissionen använda sig av AI för att i hemlighet kontrollera att du och alla andra som använder internet inte har olämplig kontakt med barn.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) förklarar på sin blogg:

»The EU Commission is proposing to screen and monitor all private electronic communications without suspicion in order to search for possible child pornographic content. Today it presented draft legislation to this effect. International providers of e-mail and messenger services are to be permitted to search the content of all private messages for child and youth pornography as well as for the “luring” of minors in order to report this to authorities and non-governmental organizations worldwide.

Not only searches for known pictures and videos are to be legalised, but also error-prone “artificial intelligence”, for example to automatically search text messages for “luring” of minors. If an algorithm reports a suspected message, message content and customer data could be automatically forwarded to law enforcement agencies and non-governmental organizations worldwide without human examination. Regardless of the outcome of the case, the persons concerned should never know that their private communications were disclosed.«

Detta känns som upplagt för galna missförstånd och märkliga tolkningstvister. Och som vanligt är det den som är oskyldig som har mest att frukta.

Breyer:

»The more criminals are pushed to move their communications to impenetrable channels the less likely will the prosecution of child abuse be successful. (…)

Intercepting and filtering the content of all our private communications without suspicion and across the board by corporations such as Facebook and Google is absolutely ineffective and even counterproductive for investigating the channels used by organized crime, but it threatens the privacy and security of Internet communications of millions of innocent citizens and will probably not stand up in court. (…)

With error-prone and opaque AI text filters in place, we can expect countless users falsely reported every day and a thousandfold reading of private messages by international corporations. Particularly affected would be messages from teenagers among themselves, who have a right to respect their sex lives. Reports are to be uncontrollably forwarded to states such as the USA, where no data protection applies, with unforeseeable consequences when travelling.«

Säg att den AI som är inblandad missförstår ett av dina meddelanden – och att du sedan, ovetande om detta, försöker resa in i t.ex. USA. Vad kan möjligen gå fel?

Ännu snurrigare blir detta med tanke på att det aktuella lagförslaget är till för att upphäva konsekvenserna av ett annat lagförslag – som går ut på att skydda medborgarnas elektroniska kommunikationer. Man vill helt enkelt ha två motstridiga uppsättningar av regler. Vilket känns som en tveksam plan.

Om man låter AI-system analysera alla våra meddelanden – är det då någon som tror att detta kommer att stanna vid att bekämpa övergrepp mot barn? Historien lär oss att all övervakning tenderar att drabbas av ändamålsglidning – och ständigt utvidgas till nya områden.

Vill vi verkligen ha ett system där datorer granskar och analyserar alla våra elektroniska kommunikationer – och i förekommande fall rapporterar till myndigheterna om det hittar något intressant?

Detta öppnar möjligheter för åsiktsregistrering, kartläggning av oppositionella och förföljelse av oliktänkande. Vilket blir extra oroväckande med tanke på att vi lever i en tid när yttrande- och meningsfriheten redan hotas från flera håll.

Men presentera det som ett system för att bekämpa barnporr – och ingen vågar protestera.

Läs mer hos Patrick Breyer »

Facebook uppges betala användare för att inte logga in under presidentvalet

New York Post:

»Facebook is offering users money to refrain from using the site and Instagram in the weeks leading up to the bitterly contested November elections.

To assess the impact of social media on voting, the company will pay selected members up to $120 to deactivate their accounts beginning at the end of September.«

Länk: Facebook will pay users to log off before 2020 election »

EU-opinion: Nej till uppladdningsfilter och överstatlig censur i TERREG

EU:s opinionsinstitut YouGov har frågat medborgare i tio medlemsstater vad de anser om förslagen om nätcensur i förordningen om terror-relaterat innehåll online (TERREG).

TLDR: Folket säger nej.

På frågan om vem som skall bestämma vilket material som kan komma att censureras säger de tillfrågade:

  • En myndighet, som polisen eller en domstol: 44%
  • Onlineplattformar, med hjälp av algoritmer eller uppladdningsfilter: 38%
  • Inget av de två: 15%
  • Vet ej: 17%

Vilket innebär att endast 38% stöder ministerrådets linje i förhandlingarna om TERREG.

Man har även frågat om ministerrådets förslag att en myndighet i en medlemsstat skall kunna besluta om nedtagning av innehåll i andra länder.

  • 51% säger nej och vill att endast nationella myndigheter skall kunna besluta om nedtagning.
  • 37% håller med ministerrådet om att en nationell myndighet skall kunna besluta om nedtagning även i andra länder.
  • 19% vet ej.

Undersökningen har initierats av Patrick Breyer, ledamot av Europaparlamentet (PP, DE).

Länkar:
• YouGov (PDF) »
• Piratpartiet: EU-medborgare motsätter sig utländsk anti-terror internetcensur»

5 juli-stiftelsen om EU:s planer för nätet: Nej till censur och uppladdningsfilter – värna plattformarnas budbärarimmunitet

5 juli-stiftelsen har idag lämnat in sitt yttrande över EU-kommissionens konsultation om the Digital Services Act – som är tänkt att bli EU:s nya allmänna regelverk för internet. (PDF)

Konsultationen består huvudsakligen av ett frågeformulär om allt mellan himmel och jord, vilket i sig är intressant. Man får en känsla av att EU-kommissionen försöker göra DSA så heltäckande som möjligt, med ett betydande inslag av micro management – vilket knappast kommer att gynna en redan överreglerad europeisk IT-sektor.

Det är också intressant att se vad som inte finns i frågeformuläret. Med tanke på all förhandsinformation om gemensamma EU-regler för innehåll online är det märkligt att man i princip helt förbigår den frågan, vilket vi också påpekar. Att man släppt den bollen är knappast troligt. Snarare inser man hur kontroversiell frågan är – och försöker hålla den under radarn så länge som möjligt. Vilket är det sätt på vilket EU ofta hanterar kontroversiella frågor.

Stiftelsen har endast svarat på de frågor som direkt berör oss, samt lämnat in en egen skrivelse med tre viktiga punkter:

  • Ingen förhandscensur. I den mån användarnas rättigheter ändå inskränks bör detta inte få ske med mindre än föregående domstolsprövning.
  • Nej till uppladdningsfilter. De bör varken förekomma vad gäller upphovsrätt (upphovsrättsdirektivet) eller åsikter (t.ex. förordningen om terror-relaterat innehåll online).
  • Budärarimmuniteten måste upprätthållas. Varken operatörer eller plattformar skall kunna hållas ansvariga för vad deras användare gör – så länge det handlar om att tillhandahålla teknisk infrastruktur utan redaktionell styrning av innehållet. Förbudet mot generell övervakning måste upprätthållas.

Hela skrivelsen (PDF, engelska) kan laddas ner här. Vi lägger även upp de substantiella delarna av vårt svar här:

In the prologue to the Digital Services Act there has been much talk about common EU rules concerning online content, as there are different rules in different member states – e.g. the German NetzDG Act and the French Avia Law.

Given this, we are somewhat surprised that the vast questionnaire for the public consultation contains very little if any on this topic.

1) No censorship prior to publication

Given human rights declarations adopted by the EU, rule of law and fundamental principles of western, liberal democracy – we find upload filters and other forms of internet censorship unacceptable.

It should be a commonly accepted principle that no censorship should be applied prior to publication. If someone publishes content that is illegal – legal proceedings should take place against the person responsible after publication. And if any content is to be removed, this should be tried by a court of law.

Simply put, you should not punish anyone for a crime not yet committed.

And if you are to infringe on users’ rights online despite this, it must be decided through due process / in a court of law. This principle has already been established in the EU Telecoms Package back in 2009.

2) No upload filters – especially not for opinions

A problem with upload filters is that they tend to expand the scope from copyright infringements (the Copyright Directive) to opinions (the Regulation on Terrorist Content Online).
Upload filters are very blunt tools, unable to understand context and exceptions for e.g. »fair use« such as critique and satire – thus restricting an open, democratic debate.

A well-known example of over-filtration is the picture of the »Vietnam Napalm Girl« – a historically important document blocked by Facebook on the grounds of nudity. (Later cleared after being published by the Norwegian ex-prime minister and director-general of the WHO Gro Harlem Brundtland.)

Such shortcomings will become even more obvious if applied to opinions.

Considering the constant tendency to mission creep, we strongly recommend that the EU abstain from stipulating upload filters altogether.

3) Mere Conduit for platforms (without curation)

A central principle in the old eCommerce directive is Mere Conduit, stating that ISP’s and other operators cannot be held responsible for their users’ actions.

This principle should be retained – and it should be made clear that it also applies to social media platforms, as long as they do not curate or edit user-generated content in any substantial way.

As long as the issue is about digital infrastructure – service providers and platforms should not be held responsible any more than any other provider of infrastructure like roads or the postal service.

Furthermore, the prohibition of any general monitoring obligation should be upheld.

Läs mer om the Digital Services Act och konsultationen (deadline 8 september) på EU-kommissionens hemsida. »

Länkskatt: Facebook överväger att helt sluta länka till media i Australien

Det är inte bara i EU som den märkliga idén om »länkskatt« debatteras. Ett lagförslag i Australien är inne på samma spår – vilket fått Facebook att hota med att helt sluta med nyheter från australisk media och möjligen även att blockera användare i landet från att dela nyhetsnotiser.

»Länkskatten« är ursprungligen en idé som lanserades i EU:s nya upphovsrättsdirektiv. Tanken är att den som länkar till medias nyhetsartiklar skall betala en ersättning till mediehusen. Vilket naturligtvis är helt bakvänt. Att länka till något gynnar den som länkarna ger uppmärksamhet och besökare. Men i tider då de traditionella mediehusen har svårt att finna hållbara affärsmodeller för den digitala marknaden – då söker de andra inkomstkällor. Även om sådana är ologiska och kontraproduktiva.

Nu tycks Facebook ha fått nog. Företaget vill inte betala pengar för att driva besökare till traditionell media. I en bloggpost skriver man, med anledning av lagförslaget i Australien:

»Assuming this draft code becomes law, we will reluctantly stop allowing publishers and people in Australia from sharing local and international news on Facebook and Instagram. This is not our first choice – it is our last. But it is the only way to protect against an outcome that defies logic and will hurt, not help, the long-term vibrancy of Australia’s news and media sector.« (…)

»The ACCC presumes that Facebook benefits most in its relationship with publishers, when in fact the reverse is true. News represents a fraction of what people see in their News Feed and is not a significant source of revenue for us. Still, we recognize that news provides a vitally important role in society and democracy, which is why we offer free tools and training to help media companies reach an audience many times larger than they have previously.«

Om lagförslaget blir verklighet kan alltså ett mediehus på eget initiativ dela en länk (rubrik, bild och kort ingress) på Facebook till sina egna artiklar – och sedan kräva att Facebook betalar nämnda mediehus för dess egen marknadsföring.

Även Google överväger om de kan fortsätta sin verksamhet i Australien på samma sätt som tidigare. Utöver att man delar Facebooks invändningar ser man problem med att lagförslaget kräver att de traditionella mediehusen skall få förhandsinformation om eventuella förändringar av Googles algoritmer. Vilket i så fall skulle ge Big Media möjlighet att konkurrera ut många andra nyhetskällor.

En liknande strid pågår i Frankrike och den lär – som en konsekvens av det nya upphovsrättsdirektivet – snart utkämpas i samtliga EU-länder.

Utöver att idén om »länkskatt« är ologisk – så kan den leda till att användare i många länder får en sämre användarupplevelse. Eller att vissa plattformar helt lämnar länderna i fråga.

Under rubriken oförutsedda konsekvenser kan detta även komma att landa i att allmänheten får minskad tillgång till nyheter från traditionella media – till förmån för de alternativa nyhetskällor som politiken och mediehusen själva stämplat som mindre trovärdiga.

• Facebook: An Update About Changes to Facebook’s Services in Australia »
• Cnet: Google clashes with Australia watchdog over proposed law to force it to pay for news »
• Macrumors: Facebook Threatens to Block All News Sharing on Its Platform in Australia »
• Techcrunch: Facebook threatens to block news sharing in Australia as it lobbies against revenue share law »

Youtube medger överdriven censur

»Google said that between April and June, more than 11.4 million videos were removed from the video platform. That was a 50 percent increase compared to the previous quarter.

The company says it had to rely more on technology as the pandemic forced it to send workers home. The technology they are using to moderate content, however, has been over-enforcing policies, Google now admits.«

• Reclaim the Net: YouTube admits its over-zealous “wide net” moderation has been deleting non-violating content »

• Youtube / Google: Responsible policy enforcement during Covid-19 »

EU-kommissionen vill veta vad du tycker om Europas digitala framtid

EU-kommissionen har lanserat en »public consultation« inför arbetet med the Digital Services Act, DSA.

Detta är ett utmärkt tillfälle att argumentera mot nätcensur, uppladdningsfilter och smygcensur genom de sociala nätverkens användarvillkor.

Uttryck dina åsikter, på ett rimligt sätt, med dina egna ord. En välformulerad, unik inlaga är värt mycket mer än copy-pastade identiska svar i massupplaga.

Konsultationen är öppen för alla – privatpersoner, organisationer, företag med flera.

Läs mer hos EU-kommssionen »