Femte juli

Nätet till folket!

Sociala media

Detta är kategorin för nyheter och bloggposter som rör sociala media - samt deras relation till sina användare.

Aktuell lista – så hotar EU vårt fria och öppna internet

av

Femte juli

Här är en sammanställning över aktuella EU-projekt och initiativ som hotar vårt fria och öppna internet.

Beslut som redan har fattats:

  • EU:s upphovsrättsdirektiv gör plattformarna ansvariga om användarna lägger upp upphovsrättsskyddat innehåll. Detta kommer att leda till uppladdningsfilter och granskning av allt som alla laddar upp.
  • EU:s upphovsrättsdirektiv etablerade även den märkliga »länkskatten« – det vill säga att nätplattformar kan tvingas betala om de länkar till etablerad media. (I Frankrike vill man även tvinga t.ex. Google att länka.)

Upphovsrättsdirektivet skall vara implementerat i medlemsstaternas lagstiftning senast sommaren 2021.

Beslut i pipelinen för denna mandatperiod:

  • Det har aviserats att EU:s nya Digital Services Act kommer att ge oss enhetliga regler för vad som får publiceras på nätet i EU.
  • EU-kommissionär Ylva Johansson har meddelat att man kommer att göra ett nytt försök att införa allmän datalagring – trots att EU-domstolen upphävde det förra direktivet på principiella grunder.
  • EU-kommissionen och Europol arbetar med att knäcka kryptering och/eller etablera bakdörrar.
  • EU-kommissionen vill att sociala nätverk och meddelandeplattformar skall avkryptera, läsa och analysera sina användares meddelanden – och i förekommande fall anmäla olämpligt innehåll till myndigheterna.
  • Om ministerrådet får som det vill kommer förordningen om terror-relaterat innehåll att leda till censur av åsikter – plus övervakning och filtrering av allt som alla användare laddar upp (uppladdningsfilter).
  • EU-kommissionens ordförande Ursula von der Leyen vill se en digital identitet för alla EU-medborgare – som kommer att krävas för det mesta du gör på internet och i den digitala världen.
  • Europol kommer att ges automatiserad tillgång till data från privata företag.

Övrigt:

  • I en studie som Europaparlamentet beställt inför the Digital Services Act föreslår författarna en digital järnridå – det vill säga att internet i EU omges med en brandvägg, som i Kina.
  • Det tyska EU-ordförandeskapet vill se en gemensam databas för automatiserad ansiktsigenkänning och annan biometrisk data.
  • Förslag om en »internet-skatt« återkommer ständigt i nya former.

Detta är bara några av alla förslag som lagts fram eller diskuterats de senaste månaderna.

EU vill använda AI för att se om du har olämpliga kontakter med barn

av

Barnporr och övergrepp mot barn är ett säkert kort när EU vill utöka övervakningen av medborgarnas kommunikationer. Det innebär att ingen törs protestera – även om förslagen är uppåt väggarna tokiga och farliga.

Vi har tidigare skrivit om saken här:
• EU vill se övervakning, granskning och analys av alla elektroniska meddelanden »
• EU vill skanna all din elektroniska kommunikation i jakt på barnporr – utan misstanke »

Nu börjar det komma fram fler detaljer. Bland annat vill EU-kommissionen använda sig av AI för att i hemlighet kontrollera att du och alla andra som använder internet inte har olämplig kontakt med barn.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) förklarar på sin blogg:

»The EU Commission is proposing to screen and monitor all private electronic communications without suspicion in order to search for possible child pornographic content. Today it presented draft legislation to this effect. International providers of e-mail and messenger services are to be permitted to search the content of all private messages for child and youth pornography as well as for the “luring” of minors in order to report this to authorities and non-governmental organizations worldwide.

Not only searches for known pictures and videos are to be legalised, but also error-prone “artificial intelligence”, for example to automatically search text messages for “luring” of minors. If an algorithm reports a suspected message, message content and customer data could be automatically forwarded to law enforcement agencies and non-governmental organizations worldwide without human examination. Regardless of the outcome of the case, the persons concerned should never know that their private communications were disclosed.«

Detta känns som upplagt för galna missförstånd och märkliga tolkningstvister. Och som vanligt är det den som är oskyldig som har mest att frukta.

Breyer:

»The more criminals are pushed to move their communications to impenetrable channels the less likely will the prosecution of child abuse be successful. (…)

Intercepting and filtering the content of all our private communications without suspicion and across the board by corporations such as Facebook and Google is absolutely ineffective and even counterproductive for investigating the channels used by organized crime, but it threatens the privacy and security of Internet communications of millions of innocent citizens and will probably not stand up in court. (…)

With error-prone and opaque AI text filters in place, we can expect countless users falsely reported every day and a thousandfold reading of private messages by international corporations. Particularly affected would be messages from teenagers among themselves, who have a right to respect their sex lives. Reports are to be uncontrollably forwarded to states such as the USA, where no data protection applies, with unforeseeable consequences when travelling.«

Säg att den AI som är inblandad missförstår ett av dina meddelanden – och att du sedan, ovetande om detta, försöker resa in i t.ex. USA. Vad kan möjligen gå fel?

Ännu snurrigare blir detta med tanke på att det aktuella lagförslaget är till för att upphäva konsekvenserna av ett annat lagförslag – som går ut på att skydda medborgarnas elektroniska kommunikationer. Man vill helt enkelt ha två motstridiga uppsättningar av regler. Vilket känns som en tveksam plan.

Om man låter AI-system analysera alla våra meddelanden – är det då någon som tror att detta kommer att stanna vid att bekämpa övergrepp mot barn? Historien lär oss att all övervakning tenderar att drabbas av ändamålsglidning – och ständigt utvidgas till nya områden.

Vill vi verkligen ha ett system där datorer granskar och analyserar alla våra elektroniska kommunikationer – och i förekommande fall rapporterar till myndigheterna om det hittar något intressant?

Detta öppnar möjligheter för åsiktsregistrering, kartläggning av oppositionella och förföljelse av oliktänkande. Vilket blir extra oroväckande med tanke på att vi lever i en tid när yttrande- och meningsfriheten redan hotas från flera håll.

Men presentera det som ett system för att bekämpa barnporr – och ingen vågar protestera.

Läs mer hos Patrick Breyer »

Facebook uppges betala användare för att inte logga in under presidentvalet

av

New York Post:

»Facebook is offering users money to refrain from using the site and Instagram in the weeks leading up to the bitterly contested November elections.

To assess the impact of social media on voting, the company will pay selected members up to $120 to deactivate their accounts beginning at the end of September.«

Länk: Facebook will pay users to log off before 2020 election »

EU-opinion: Nej till uppladdningsfilter och överstatlig censur i TERREG

av

EU:s opinionsinstitut YouGov har frågat medborgare i tio medlemsstater vad de anser om förslagen om nätcensur i förordningen om terror-relaterat innehåll online (TERREG).

TLDR: Folket säger nej.

På frågan om vem som skall bestämma vilket material som kan komma att censureras säger de tillfrågade:

  • En myndighet, som polisen eller en domstol: 44%
  • Onlineplattformar, med hjälp av algoritmer eller uppladdningsfilter: 38%
  • Inget av de två: 15%
  • Vet ej: 17%

Vilket innebär att endast 38% stöder ministerrådets linje i förhandlingarna om TERREG.

Man har även frågat om ministerrådets förslag att en myndighet i en medlemsstat skall kunna besluta om nedtagning av innehåll i andra länder.

  • 51% säger nej och vill att endast nationella myndigheter skall kunna besluta om nedtagning.
  • 37% håller med ministerrådet om att en nationell myndighet skall kunna besluta om nedtagning även i andra länder.
  • 19% vet ej.

Undersökningen har initierats av Patrick Breyer, ledamot av Europaparlamentet (PP, DE).

Länkar:
• YouGov (PDF) »
• Piratpartiet: EU-medborgare motsätter sig utländsk anti-terror internetcensur»

5 juli-stiftelsen om EU:s planer för nätet: Nej till censur och uppladdningsfilter – värna plattformarnas budbärarimmunitet

av

5 juli-stiftelsen har idag lämnat in sitt yttrande över EU-kommissionens konsultation om the Digital Services Act – som är tänkt att bli EU:s nya allmänna regelverk för internet. (PDF)

Konsultationen består huvudsakligen av ett frågeformulär om allt mellan himmel och jord, vilket i sig är intressant. Man får en känsla av att EU-kommissionen försöker göra DSA så heltäckande som möjligt, med ett betydande inslag av micro management – vilket knappast kommer att gynna en redan överreglerad europeisk IT-sektor.

Det är också intressant att se vad som inte finns i frågeformuläret. Med tanke på all förhandsinformation om gemensamma EU-regler för innehåll online är det märkligt att man i princip helt förbigår den frågan, vilket vi också påpekar. Att man släppt den bollen är knappast troligt. Snarare inser man hur kontroversiell frågan är – och försöker hålla den under radarn så länge som möjligt. Vilket är det sätt på vilket EU ofta hanterar kontroversiella frågor.

Stiftelsen har endast svarat på de frågor som direkt berör oss, samt lämnat in en egen skrivelse med tre viktiga punkter:

  • Ingen förhandscensur. I den mån användarnas rättigheter ändå inskränks bör detta inte få ske med mindre än föregående domstolsprövning.
  • Nej till uppladdningsfilter. De bör varken förekomma vad gäller upphovsrätt (upphovsrättsdirektivet) eller åsikter (t.ex. förordningen om terror-relaterat innehåll online).
  • Budärarimmuniteten måste upprätthållas. Varken operatörer eller plattformar skall kunna hållas ansvariga för vad deras användare gör – så länge det handlar om att tillhandahålla teknisk infrastruktur utan redaktionell styrning av innehållet. Förbudet mot generell övervakning måste upprätthållas.

Hela skrivelsen (PDF, engelska) kan laddas ner här. Vi lägger även upp de substantiella delarna av vårt svar här:

In the prologue to the Digital Services Act there has been much talk about common EU rules concerning online content, as there are different rules in different member states – e.g. the German NetzDG Act and the French Avia Law.

Given this, we are somewhat surprised that the vast questionnaire for the public consultation contains very little if any on this topic.

1) No censorship prior to publication

Given human rights declarations adopted by the EU, rule of law and fundamental principles of western, liberal democracy – we find upload filters and other forms of internet censorship unacceptable.

It should be a commonly accepted principle that no censorship should be applied prior to publication. If someone publishes content that is illegal – legal proceedings should take place against the person responsible after publication. And if any content is to be removed, this should be tried by a court of law.

Simply put, you should not punish anyone for a crime not yet committed.

And if you are to infringe on users’ rights online despite this, it must be decided through due process / in a court of law. This principle has already been established in the EU Telecoms Package back in 2009.

2) No upload filters – especially not for opinions

A problem with upload filters is that they tend to expand the scope from copyright infringements (the Copyright Directive) to opinions (the Regulation on Terrorist Content Online).
Upload filters are very blunt tools, unable to understand context and exceptions for e.g. »fair use« such as critique and satire – thus restricting an open, democratic debate.

A well-known example of over-filtration is the picture of the »Vietnam Napalm Girl« – a historically important document blocked by Facebook on the grounds of nudity. (Later cleared after being published by the Norwegian ex-prime minister and director-general of the WHO Gro Harlem Brundtland.)

Such shortcomings will become even more obvious if applied to opinions.

Considering the constant tendency to mission creep, we strongly recommend that the EU abstain from stipulating upload filters altogether.

3) Mere Conduit for platforms (without curation)

A central principle in the old eCommerce directive is Mere Conduit, stating that ISP’s and other operators cannot be held responsible for their users’ actions.

This principle should be retained – and it should be made clear that it also applies to social media platforms, as long as they do not curate or edit user-generated content in any substantial way.

As long as the issue is about digital infrastructure – service providers and platforms should not be held responsible any more than any other provider of infrastructure like roads or the postal service.

Furthermore, the prohibition of any general monitoring obligation should be upheld.

Läs mer om the Digital Services Act och konsultationen (deadline 8 september) på EU-kommissionens hemsida. »

Länkskatt: Facebook överväger att helt sluta länka till media i Australien

av

Det är inte bara i EU som den märkliga idén om »länkskatt« debatteras. Ett lagförslag i Australien är inne på samma spår – vilket fått Facebook att hota med att helt sluta med nyheter från australisk media och möjligen även att blockera användare i landet från att dela nyhetsnotiser.

»Länkskatten« är ursprungligen en idé som lanserades i EU:s nya upphovsrättsdirektiv. Tanken är att den som länkar till medias nyhetsartiklar skall betala en ersättning till mediehusen. Vilket naturligtvis är helt bakvänt. Att länka till något gynnar den som länkarna ger uppmärksamhet och besökare. Men i tider då de traditionella mediehusen har svårt att finna hållbara affärsmodeller för den digitala marknaden – då söker de andra inkomstkällor. Även om sådana är ologiska och kontraproduktiva.

Nu tycks Facebook ha fått nog. Företaget vill inte betala pengar för att driva besökare till traditionell media. I en bloggpost skriver man, med anledning av lagförslaget i Australien:

»Assuming this draft code becomes law, we will reluctantly stop allowing publishers and people in Australia from sharing local and international news on Facebook and Instagram. This is not our first choice – it is our last. But it is the only way to protect against an outcome that defies logic and will hurt, not help, the long-term vibrancy of Australia’s news and media sector.« (…)

»The ACCC presumes that Facebook benefits most in its relationship with publishers, when in fact the reverse is true. News represents a fraction of what people see in their News Feed and is not a significant source of revenue for us. Still, we recognize that news provides a vitally important role in society and democracy, which is why we offer free tools and training to help media companies reach an audience many times larger than they have previously.«

Om lagförslaget blir verklighet kan alltså ett mediehus på eget initiativ dela en länk (rubrik, bild och kort ingress) på Facebook till sina egna artiklar – och sedan kräva att Facebook betalar nämnda mediehus för dess egen marknadsföring.

Även Google överväger om de kan fortsätta sin verksamhet i Australien på samma sätt som tidigare. Utöver att man delar Facebooks invändningar ser man problem med att lagförslaget kräver att de traditionella mediehusen skall få förhandsinformation om eventuella förändringar av Googles algoritmer. Vilket i så fall skulle ge Big Media möjlighet att konkurrera ut många andra nyhetskällor.

En liknande strid pågår i Frankrike och den lär – som en konsekvens av det nya upphovsrättsdirektivet – snart utkämpas i samtliga EU-länder.

Utöver att idén om »länkskatt« är ologisk – så kan den leda till att användare i många länder får en sämre användarupplevelse. Eller att vissa plattformar helt lämnar länderna i fråga.

Under rubriken oförutsedda konsekvenser kan detta även komma att landa i att allmänheten får minskad tillgång till nyheter från traditionella media – till förmån för de alternativa nyhetskällor som politiken och mediehusen själva stämplat som mindre trovärdiga.

• Facebook: An Update About Changes to Facebook’s Services in Australia »
• Cnet: Google clashes with Australia watchdog over proposed law to force it to pay for news »
• Macrumors: Facebook Threatens to Block All News Sharing on Its Platform in Australia »
• Techcrunch: Facebook threatens to block news sharing in Australia as it lobbies against revenue share law »

Youtube medger överdriven censur

av

»Google said that between April and June, more than 11.4 million videos were removed from the video platform. That was a 50 percent increase compared to the previous quarter.

The company says it had to rely more on technology as the pandemic forced it to send workers home. The technology they are using to moderate content, however, has been over-enforcing policies, Google now admits.«

• Reclaim the Net: YouTube admits its over-zealous “wide net” moderation has been deleting non-violating content »

• Youtube / Google: Responsible policy enforcement during Covid-19 »

EU-kommissionen vill veta vad du tycker om Europas digitala framtid

av

EU-kommissionen har lanserat en »public consultation« inför arbetet med the Digital Services Act, DSA.

Detta är ett utmärkt tillfälle att argumentera mot nätcensur, uppladdningsfilter och smygcensur genom de sociala nätverkens användarvillkor.

Uttryck dina åsikter, på ett rimligt sätt, med dina egna ord. En välformulerad, unik inlaga är värt mycket mer än copy-pastade identiska svar i massupplaga.

Konsultationen är öppen för alla – privatpersoner, organisationer, företag med flera.

Läs mer hos EU-kommssionen »

Nätnyheter från Femtejuli.se – 2020-08-24

av

Kommenterade nätnyheter:
• Svensk polis får använda automatisk ansiktsigenkänning
• EU & Europol vill knäcka kryptering
• Europol vill ha direkt tillgång till företagsdata
• Tänker Trump benåda Snowden?
• Twitter och Youtube censurerar – igen
• EU-studie föreslår digital järnridå

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

Kan vi lita på att sociala media förmedlar en korrekt bild av verkligheten?

av

Frågan om vad som får och inte får eller bör visas i sociala media blir allt märkligare. Vi har nu nått en punkt där bilden av verkligheten och den verkliga verkligheten börjar skilja sig åt.

Ett intressant exempel är att Twitter och Youtube infört ett stopp för material som har sitt ursprung i hack eller dataintrång. Bakgrunden är att sådant material kom att spela en viktig roll i presidentvalet 2016 – då e-post från det demokratiska partiet hackades (förmodligen av ryska hackare) och publicerades av Wikileaks. Detta vill man undvika i presidentvalet i november i år.

Problemet är bara att de e-postmeddelanden som läckte ut var äkta – och att de missförhållanden som de avslöjade var verkliga. (Visserligen användes läckan sedan av allehanda konspirationsteoretiker och nättroll för egna vildsinta teorier, men det ändrar inte det förhållande att den grundläggande information var äkta vara.)

Frågan man måste ställa sig är vad som kommer att hända om samma sak sker igen. Kommer Twitter och Youtube i så fall att censurera information som visar att ett av de politiska partierna fulspelar och sätter sig över de demokratiska spelreglerna? Är inte sådant information som väljarna faktiskt bör få kännedom om?

Eller, för att ta ett hypotetiskt exempel – hur har man tänkt hantera information som kommer från ett hack och som visar att någon av kandidaterna (eller deras parti/kampanjorganisationer) begått ett allvarligt brott? Skall det i så fall förtigas – inte för att informationen är felaktig, utan för att den kommer från ett dataintrång?

Det är troligt att det kommer att ske hackerattacker för att få fram ofördelaktig information om kandidaterna även i detta presidentval. Och där Twitter och Youtube nu lagt ribban kan ingen sådan information publiceras – oavsett vilken av kandidaterna det gäller.

Detta skall bli intressant att följa.

Samtidigt väcker nätjättarnas beslut en större fråga: Kan vi lita på att sociala media förmedlar en korrekt bild av verkligheten?

• Reclaim the Net: YouTube joins Twitter in banning content around “hacked” material in the run up to the election »