Femte juli

Nätet till folket!

Sociala media

Detta är kategorin för nyheter och bloggposter som rör sociala media - samt deras relation till sina användare.

Nu är EU:s nya nätcensur här

av

Nu är det klubbat och klart i EU: Vi får statligt godkända nätgranskare och gränsöverskridande nedtagningsorder av innehåll, även om det inte är olagligt.

Nu har även EU:s ministerråd sagt ja till unionens nya Digital Services Act, DSA (sv: Fördordningen om digitala tjänster). Den kommer därmed att träda ikraft om ett drygt år.

Eftersom det är en förordning (och inte ett direktiv) kommer DSA inte att behöva implementeras i nationell lagstiftning – utan gäller rakt av i alla medlemsstater, som den är skriven.

Förordningen innehåller en del bra saker – som något slags odefinierad möjlighet att överklaga censur av innehåll på sociala media. Men det är de problematiska delarna vi måste hålla ögonen på.

• Trusted Flaggers – statligt godkända nätgranskare

Trusted flaggers (sv: betrodda anmälare) är statligt godkända nätgranskare som skall ha en direktlina till sociala media för att rekommendera vilket innehåll som skall plockas bort.

En Trusted Flagger kan vara en myndighet eller en företrädare för ”kollektiva intressen” (organisationer) som utses av staten. De skall verka under insyn av en ny nationell digital samordnare (Digital Service Coordinator) som i sin tur verkar under en nyinrättad European Board for Digital Services.

Trusted Flaggers är problematiska på flera sätt. Till exempel är det anmärkningsvärt att myndigheter och andra nu får rätt att i praktiken censurera innehåll utan föregående rättslig prövning.

Grundtanken har varit att en Trusted Flagger skall anmäla olagligt innehåll. Men i DSA kan vi läsa om att de kan få bredare uppgifter. Och även om de strikt skulle hålla sig till olagligt innehåll, så finns det gott om lagar i EU:s medlemsstater (t.ex. Polen och Ungern) som inte stämmer överens med vad som rimligen kan anses vara i linje med yttrandefriheten i en liberal demokrati.

Nu skall det bli spännande att se vilka som utses till Trusted Flaggers. Det samma gäller den nya nationella digitala samordnaren. Blir det en ny myndighet eller kommer uppgiften att underställas till exempel Post- och Telestyrelsen? Detta kommer att bli en fråga för vår nya regering.

• Gränsöverskridande nedtagningsorder

Ett annat problem är att en myndighet i en medlemsstat skall kunna beordra nedtagning av innehåll på plattformar och servrar i ett annat land – även om detta innehåll inte är olagligt i det senare.

Detta är problematiskt, av lätt insedda skäl. Men nu när det är klubbat återstår att se hur detta verktyg kommer att användas.

Vi kommer att få anledning att återkomma i frågan.

Uppladdningsfilter – vad händer med en ny regering?

av

Kan en ny regering stoppa de uppladdningsfilter som blir konsekvensen av EU:s upphovsrättsdirektiv? De flesta partier var ju emot sådana filter i EU-valet. Snart skall riksdagen rösta.

Om valresultatet håller i sig kommer vi att få en ny regering. Detta kan vara intressant vad gäller implementeringen av EU:s upphovsrättsdirektiv i svensk lag.

Direktivet föreskriver bland annat att tjänsteleverantörer (sociala media och andra plattformar) kan hållas ansvariga för upphovsrättsintrång som orsakas av material som användarna laddar upp.

Direktivet undviker noga ordet ”uppladdningsfilter”. Ändå är sådana automatiserade filter i praktiken det enda sättet för tjänsteleverantörerna att undvika ansvar för användarnas handlingar.

När uppladdningsfilter väl etablerats som verktyg kan syftet sedan lätt utökas, vilket i viss mån redan skett (TERREG).

Sverige har, något år försenat, fått en lagrådsremiss (från den utgående regeringen) om hur detta skall omsättas till svensk lag.

Så vad händer om vi får en ny regering?

Låt oss börja med att se vad som står att läsa i lagrådsremissen (PDF). Sidan 103:

»Även om utgångspunkten är att en tjänsteleverantör är upphovsrättsligt ansvarig för det innehåll som laddas upp, kan leverantören under vissa förutsättningar ändå gå fri från det ansvaret när verk och andra prestationer laddas upp utan tillstånd. Här krävs att leverantörerna gör vad de kan (best efforts i den engelska språkversionen) för att erhålla tillstånd. Det krävs också att leverantörerna i enlighet med höga branschstandarder för god yrkessed gör vad de kan för att säkerställa att skyddat innehåll, som rättsinnehavarna lämnat särskild information om, inte görs tillgängliga på tjänsterna (artikel 17.4). Slutligen krävs att leverantörerna agerar snabbt för att hindra tillgång till olovligt material när de uppmärksammas på förekomsten av sådant av rättsinnehavaren.«

Detta kan endast ske med uppladdningsfilter. Dessutom måste dessa filter vara smarta, begripa kontext och ha humor. Vilket inte är fallet. Sidan 104:

»Medlemsstaterna ska vidare säkerställa att användarna kan förlita sig på vissa inskränkningar i upphovsrätten när de använder de aktuella tjänsterna. Det handlar om användning för citat, kritik och recensioner och användning i karikatyr-, parodi- eller pastischsyfte (artikel 17.7 andra stycket)…«

Föreslagen lagtext (52 l 2, sid 390):

»En tjänsteleverantör ska inte ansvara för en olovlig överföring enligt 52 j § om leverantören, efter att ha fått en tillräckligt välgrundad underrättelse från rättsinnehavaren, skyndsamt hindrar tillgång till innehållet. För att ansvarsfrihet ska föreligga krävs även att leverantören har gjort det som skäligen kan krävas för att (…) säkerställa att innehåll som medför intrång i upphovsrätten till verk som rättsinnehavarna har försett leverantören med relevant och nödvändig information om, inte görs tillgängligt på tjänsten.«

Så vad händer nu? Enligt internetoperatören Bahnhofs föredömliga sammanställning över partiernas officiella inställning kan vi läsa att:

  • V är skeptiska men har inte tagit ställning till det slutliga förslaget.
  • S (som skrivit lagrådsremissen) är för den framlagda texten.
  • MP stödjer förslaget.
  • Centern är kritisk men kan nog ändå tänka sig att stödja propositionen.
  • Från L finns inget svar.
  • KD har inte tagit ställning.
  • M (som varit uttalat kritiska till uppladdningsfilter) granskar regeringens förslag ”mycket noggrant”.
  • SD säger nej till förslaget.

Högerblocket (som just nu ser ut att få regeringsmakten) är alltså mer kritiskt än den utgående regeringen.

Här skall påpekas att alla partier utom S sa nej till uppladdningsfilter i EU-valet.

Så, kommer en ny regering att kunna stoppa de lagar som kommer att leda till uppladdningsfilter?

Svaret är nej. Detta är ett EU-direktiv och frågan avgjordes med minsta möjliga marginal (och några fel-röster) i Europaparlamentet våren 2014. Som medlemsstat är Sverige skyldigt att implementera direktivet i sin lagstiftning.

Skulle riksdagen ändå säga nej kan det bli återremisser tills den röstar ja.

Möjligen kan en ny regering mjuka upp texten något. Men vi kommer ändå inte undan.

Tyvärr.

Länkar:
• Regeringens pressmeddelande »
• Lagrådsremiss (PDF) »
• Nu ska riksdagen rösta om upphovsrättsdirektivet »
• Bahnhofs sammanställning över partiernas åsikter i nätfrågor »

Valet, politikerna och de mänskliga rättigheterna online

av

Den som vill rösta för ett fritt internet, för yttrandefrihet off- såväl som online och för rätten till privatliv och privat korrespondens har ett svårt val.

Bryr man sig bara om dessa frågor finns Piratpartiet och kanske Vänsterpartiet. Piratpartiet har ingen chans att komma in i riksdagen. Och Vänsterpartiet är ett ytterkantsparti som de flesta har andra skäl att ogilla.

Vänsterpartiet skall dock ha en eloge för att ha hållit ut längst. De är idag det enda riksdagsparti som motsätter sig övervakningsstaten – efter att Miljöpartiet sålde ut sina principer i utbyte mot makt. Vad gäller yttrandefrihet befinner de sig dock på ett sluttande plan.

I övrigt är mörker. EU:s nya statligt godkända nätgranskare accepteras utan vidare debatt. EU-lagstiftning som leder till att vi får uppladdningsfilter, som skall förhandsgranska allt alla lägger upp på sociala media och andra plattformar är inte något kontroversiellt bland våra politiker.

De driver på vad gäller lagring av data om allas alla telefonsamtal, SMS, e-postmeddelanden, uppkopplingar, mobilpositioner med mera – utan misstanke om brott. Trots att EU-domstolen förbjudit verksamheten, med hänvisning till de mänskliga rättigheterna.

Svenska politiker ser inget problem med att EU-kommissionen föreslår att all e-post och allas alla meddelanden och andra elektroniska kommunikationer skall av-krypteras, öppnas och att dess innehåll skall granskas. Av maskiner.

Alla dessa frågor faller tillbaka på de mänskliga rättigheterna och vad dessa har att säga om rätten att fritt uttrycka sig samt rätten till privatliv och privat korrespondens.

Sverige var för övrigt med och drev fram FN:s »5 juli-resolution« som säger att mänskliga rättigheter offline även skall gälla online. Så vi borde leva upp till vårt ord.

De mänskliga rättigheterna finns för att skydda individen mot staten. Därför är det alarmerande att se hur dessa rättigheter ständigt gröps ur och inskränks av just de politiker som nämnda rättigheter är tänkta att skydda oss emot.

Statligt godkända nätgranskare är en dålig idé. Fast Orban blir nog glad. Uppladdningsfilter är det verktyg som, när det väl finns på plats enkelt kan få utökat syfte. Sådana här lagar drabbas i princip alltid av ändamålsglidning.

Datalagring är en kränkning av rätten till privatliv som EU-domstolen sagt nej till gång på gång. Inte för att medlemsländerna bryr sig. Och förslaget om »#ChatControl« är att avskaffa den digitala brevhemligheten. Det vill säga att avskaffa rätten till privat korrespondens.

Vad är detta, annat än inskränkningar av våra mänskliga rättigheter?

Allt detta sker i stort sett utan offentlig debatt, utan insyn och i stor politisk enighet. (Ingen annan bryr sig heller.)

Så hur röstar man, om man tycker att dessa frågor är viktiga? På riktigt, viktiga.

Online Safety Bill – ny drakonisk brittisk nätlagstiftning

av

Fängelse för kränkningar online, nedtagningsorder, uppladdningsfilter samt av-kryptering och granskning av e-post och elektroniska meddelanden är några av förslagen i brittiska regeringens förslag till ny nätlagstiftning.

Nu när EU-byråkratin har sent sommarlov vill vi passa på att uppmärksamma vad som håller på att ske i Storbritannien – med dess Online Safety Bill.

The Online Safety Bill har varit en följetong. Den har tidigare lagts fram, dragits tillbaka, reviderats och lagts fram igen. Nu väntar man med att behandla den tills det finns en ny brittisk premiärminister.

• Yttrandefriheten begränsas

Enligt förslaget kan den som sprider information som kan orsaka »psychological harm amounting to at least serious distress« dömas till fängelse i upp till två år. Och den som sprider »false communications« kan fängslas upp till 51 veckor.

Till att börja med är kriterierna ovan subjektiva. Vad som är så kallade kränkningar varierar från person till person – från verkliga kränkningar till irritation över att andra har bättre argument. Och vad som är att betrakta som sant respektive falskt tycks ibland variera över tid.

EFF kommenterar:

»The problem here should be obvious: these are utterly subjective criteria. People disagree all the time about what constitutes a false statement. Determining what statements have a “real and substantial risk” of causing psychological harm is the epitome of a subjective question, as is who might have a “reasonable excuse” for making such a statement. The apparent lack of legal certainty casts doubt on whether the UK’s Online Safety Act meets international human rights standards.«

Samtidigt görs ett undantag för press och för den som online visar en film avsedd för visning på biograf. Däremot drabbas små innehållskreatörer, aktivister, medborgarjournalister och privatpersoner.

• Nedtagningsorder och uppladdningsfilter

På samma sätt som i EU kommer den brittiska lagen att kräva att till exempel terror-relaterat innehåll tas bort inom en snäv tidsgräns. För att sedan hålla detta material borta krävs att man använder uppladdningsfilter – som granskar allt som alla skriver eller laddar upp.

Och uppladdningsfilter saknar – som vi brukar påpeka – förmåga att bedöma kontext, humor och omdöme.

• Kringgå kryptering

Här går britterna i takt med EU-kommissionen, som vill att all e-post och alla elektroniska kommunikationer skall av-krypteras och att dess innehåll skall granskas, i jakt på visst olagligt innehåll.

Skillnaden mot EU:s »ChatControl« är att britterna vill att plattformarna skall använda statligt godkänd programvara för detta.

Och som bekant kan man inte kringgå eller skapa bakdörrar vad gäller kryptering utan att göra oss alla mer sårbara online.

• Mänskliga rättigheter

Precis som i EU är britterna nu på väg att införa nätlagstiftning som kränker vad de mänskliga rättigheterna har att säga om rätten att fritt uttrycka sig samt rätten till privatliv och privat kommunikation.

I sammanhanget bör nämnas att det finns en godkänd FN-deklaration som säger att mänskliga rättigheter offline även skall gälla online.

• Läs mer hos EFF: The UK Online Safety Bill Attacks Free Speech and Encryption »

EFF om problemen med uppladningsfilter

av

EFF sammanfattar problemen med automatiserade uppladdningsfilter – vilka saknar omdöme, humor och förmåga att bedöma kontext.

»General monitoring is problematic both when it is directly required by law and when, though not required, it is effectively mandatory because the legal risks of not doing it are so great. Specifically, these indirect requirements incentivize platforms to proactively monitor user behaviors, filter and check user content, and remove or locally filter anything that is controversial, objectionable, or potentially illegal to avoid legal responsibility. This inevitably leads to over censorship of online content as platforms seek to avoid liability for failing to act “reasonably” or remove user content they “should have known” was harmful.«

Så skriver Electronic Frontier Foundation (EFF) i sin text »General Monitoring is not the Answer to the Problem of Online Harms«.

Man listar även en del konkreta problem med uppladdningsfilter och andra former av generell övervakning av vad folk postar på sociala media. Några exempel:

  • De stora volymerna material kräver att skanning och beslut sker med hjälp av automatiska uppladdningsfilter, som kan spegla respektive plattforms subjektiva premisser och även leda till profilering.
  • Uppladdningsfilter drabbas ofta av fel, är notoriskt opålitliga och leder till överblockering.
  • Uppladdningfilter strider mot de grundläggande mänskliga rättigheterna (rätten att fritt uttrycka sig) som går bortom vad som är proportionellt och nödvändigt.
  • Granskning av allt som laddas upp kommer att ha en avkylande effekt på yttrandefriheten.
  • Uppladdningsfilter kan även ge företag och stat möjlighet till profilering av användare.
  • Uppladdningsfilter är stora och dyrbara system, som gör det svårt för nya aktörer att slå sig in på den sociala mediemarknaden.

Sedan kan man tillägga att uppladdningsfilter saknar förmåga att bedöma kontext, saknar humor och omdöme.

»We have previously expressed concern about governments employing more aggressive and heavy-handed approaches to intermediary regulation, with policymakers across the globe calling on platforms to remove allegedly legal but ‘undesirable’ or ‘harmful’ content from their sites, while also expecting platforms to detect and remove illegal content. In doing so, states fail to protect fundamental freedom of expression rights and fall short of their obligations to ensure a free online environment with no undue restrictions on legal content, whilst also restricting the rights of users to share and receive impartial and unfiltered information. This has a chilling effect on the individual right to free speech wherein users change their behavior and abstain from communicating freely if they know they are being actively observed—leading to a pernicious culture of self-censorship.«

Uppladdningsfilter kommer att bli den praktiska effekten av till exempel EU:s nya upphovsrättsdirektiv och dess förordning om terror-relaterat innehåll online. En bredare användning av uppladdningsfilter diskuteras bland annat i EU:s ministerråd.

Läs hela texten: General Monitoring is not the Answer to the Problem of Online Harms »

Facebook provar automatisk end-to-end-kryptering av meddelanden

av

Samtidigt som EU-kommissionen vill av-kryptera, öppna och granska innehållet i alla våra elektroniska meddelanden meddelar Facebook att de tänker göra end-to-end-kryptering till en standardfunktion i Messenger.

Facebook meddelade i slutet av förra veckan att man nu provar att göra end-to-end-kryptering (E2EE) till en standardfunktion i Messenger. Idag kräver sådant opt-in av användaren.

Facebook / Meta använder redan E2EE för ljud- och videosamtal i Messenger, direktchattar på Instagram och för backup av WhatsApp-chattar på Android och iOS.

Denna nyhet blir extra intressant då EU-kommissionen nyligen föreslagit att all e-post, alla meddelanen och chattar (m.m.) skall av-krypteras och dess innehåll inspekteras i jakt på olagligt innehåll (#ChatControl).

Frågan om kryptering av meddelanden i Messenager har aktualiserats av ett amerikanskt rättsfall, snarare än EU:s ChatControl. Inte desto mindre går Facebooks besked på rak kollisionskurs med EU-kommissionens förslag.

Detta kan bli spännande att följa.

Läs mer:
• Facebook Testing Default End-to-End Encryption and Encrypted Backups in Messenger »
• Facebook will begin testing end-to-end encryption as default on Messenger app »

Rättsfall: Porr sägs ha flaggats som terror-relaterat innehåll för att begränsa konkurrens

av

OnlyFans anklagas för att ha mutat personal på Meta till att terror-flagga konkurrerande pornografiskt innehåll på nätet.

I ett pågående amerikanskt rättsfall anklagas sexsiten OnlyFans och Meta för att ha terror-flaggat OnlyFans konkurrenter hos Global Internet Forum to Counter Terrorism (GIFCT).

Vilket innebär att innehållet stoppas eller skuggbannas på de dominerande nätplattformarna (som är desamma som grundade GIFCT).

Enligt anklagelserna skall OnlyFans ha mutat anställda på Meta för att föra upp konkurrerande plattformar och enskilda nätporr-aktörer på GIFCT:s terror-lista.

Detta skall ha skett genom en utbetalning från OnlyFans moderbolag, via ett dotterbolag i Hong Kong till ett bankkonto på Filippinerna – som i sin tur disponeras av anställda på Meta.

OnlyFans och Meta nekar till alla anklagelser.

Fallet är intressant – då det visar hur olika verktyg som lanseras med de bästa intentioner kan missbrukas och användas för att inskränka det fria ordet och den fria konkurrensen online.

Läs mer: NYP » | BBC »

#ChatControl: Vet politikerna vad de sysslar med?

av

ChatControl / meddelandekontroll kan inte stoppa brottslig verksamhet. Däremot kommer EU-förslaget att ge de sociala mediejättarna tillgång till mer känslig persondata om sina användare.

Man får ofta ett intryck av att politiker inte vet vad de sysslar med, när de stiftar lagar som gäller internet.

EU-kommissionens förslag om att all e-post, alla elektroniska meddelanden m.m. skall av-krypteras, öppnas och att dess innehåll skall granskas – »ChatControl« – väcker frågor.

Medan tjänster som Google, WhatsApp, Messenger, Telegram, Signal m.fl. kanske kan tvingas granska innehållet i våra elektroniska kommunikationer – så går det inte att komma åt den som använder riktig end2end-krypterad (EE2E) e-post (GPG). Även privata, egenhostade mail- och chatservrar lär hamna utanför meddelandekontrollen.

För den som vill distribuera olagligt material eller ägna sig åt olagliga aktiviteter online är det med andra ord lätt att gå runt det nya förslaget. Going dark.

Däremot kommer alla vanliga, hederliga människor att få innehållet i sina elektroniska kommunikationer granskade – av maskiner. Vilket är en kränkning av rätten till privat korrespondens, vilken i sin tur är en mänsklig rättighet.

Samtidigt kommer själva granskningen av innehållet i våra elektroniska kommunikationer att ske hos respektive tjänsteoperatör.

Företag som Google, Facebook, Apple, Microsoft kritiseras redan (inte minst av politiker) för att de vet för mycket om sina användare. Men med ChatControl är tanken att just dessa företag skall tvingas läsa alla våra privata meddelanden och analysera dess innehåll.

Big Data – som redan vet allt för mycket om oss – kommer alltså att påtvingas uppgiften att läsa och analysera det mesta vi skriver till varandra online. Detta kommer att ske med hjälp av maskiner och deras algoritmer.

Hur politiker kan tycka att sociala media vet för mycket om sina användare – och samtidigt tvinga dem att granska innehållet i alla våra meddelanden är märkligt.

Detta känns inte helt genomtänkt.

Läs mer:
• EU upphäver rätten till privat korrespondens (innehåller även de viktigaste länkarna) »

Video: EU och yttrandefriheten online

av

Uppladdningsfilter, statligt godkända nätgranskare och gränsöverskridande nedtagningsorder är aktuella EU-förslag som begränsar rätten att fritt uttrycka sig på nätet. Vilket strider mot FN:s 5 juli-deklaration om mänskliga rättigheter online.

Youtube »