Femte juli

Nätet till folket!

Yttrandefrihet

Yttrandefriheten är en förutsättning för våra övriga fri- och rättigheter samt för ett öppet, demokratiskt samhälle. Idag är yttrandefriheten under attack från såväl statliga som privata aktörer och från politiska grupperingar som vill tysta sina motståndare.

EFF om problemen med uppladningsfilter

av

EFF sammanfattar problemen med automatiserade uppladdningsfilter – vilka saknar omdöme, humor och förmåga att bedöma kontext.

»General monitoring is problematic both when it is directly required by law and when, though not required, it is effectively mandatory because the legal risks of not doing it are so great. Specifically, these indirect requirements incentivize platforms to proactively monitor user behaviors, filter and check user content, and remove or locally filter anything that is controversial, objectionable, or potentially illegal to avoid legal responsibility. This inevitably leads to over censorship of online content as platforms seek to avoid liability for failing to act “reasonably” or remove user content they “should have known” was harmful.«

Så skriver Electronic Frontier Foundation (EFF) i sin text »General Monitoring is not the Answer to the Problem of Online Harms«.

Man listar även en del konkreta problem med uppladdningsfilter och andra former av generell övervakning av vad folk postar på sociala media. Några exempel:

  • De stora volymerna material kräver att skanning och beslut sker med hjälp av automatiska uppladdningsfilter, som kan spegla respektive plattforms subjektiva premisser och även leda till profilering.
  • Uppladdningsfilter drabbas ofta av fel, är notoriskt opålitliga och leder till överblockering.
  • Uppladdningfilter strider mot de grundläggande mänskliga rättigheterna (rätten att fritt uttrycka sig) som går bortom vad som är proportionellt och nödvändigt.
  • Granskning av allt som laddas upp kommer att ha en avkylande effekt på yttrandefriheten.
  • Uppladdningsfilter kan även ge företag och stat möjlighet till profilering av användare.
  • Uppladdningsfilter är stora och dyrbara system, som gör det svårt för nya aktörer att slå sig in på den sociala mediemarknaden.

Sedan kan man tillägga att uppladdningsfilter saknar förmåga att bedöma kontext, saknar humor och omdöme.

»We have previously expressed concern about governments employing more aggressive and heavy-handed approaches to intermediary regulation, with policymakers across the globe calling on platforms to remove allegedly legal but ‘undesirable’ or ‘harmful’ content from their sites, while also expecting platforms to detect and remove illegal content. In doing so, states fail to protect fundamental freedom of expression rights and fall short of their obligations to ensure a free online environment with no undue restrictions on legal content, whilst also restricting the rights of users to share and receive impartial and unfiltered information. This has a chilling effect on the individual right to free speech wherein users change their behavior and abstain from communicating freely if they know they are being actively observed—leading to a pernicious culture of self-censorship.«

Uppladdningsfilter kommer att bli den praktiska effekten av till exempel EU:s nya upphovsrättsdirektiv och dess förordning om terror-relaterat innehåll online. En bredare användning av uppladdningsfilter diskuteras bland annat i EU:s ministerråd.

Läs hela texten: General Monitoring is not the Answer to the Problem of Online Harms »

Rättsfall: Porr sägs ha flaggats som terror-relaterat innehåll för att begränsa konkurrens

av

OnlyFans anklagas för att ha mutat personal på Meta till att terror-flagga konkurrerande pornografiskt innehåll på nätet.

I ett pågående amerikanskt rättsfall anklagas sexsiten OnlyFans och Meta för att ha terror-flaggat OnlyFans konkurrenter hos Global Internet Forum to Counter Terrorism (GIFCT).

Vilket innebär att innehållet stoppas eller skuggbannas på de dominerande nätplattformarna (som är desamma som grundade GIFCT).

Enligt anklagelserna skall OnlyFans ha mutat anställda på Meta för att föra upp konkurrerande plattformar och enskilda nätporr-aktörer på GIFCT:s terror-lista.

Detta skall ha skett genom en utbetalning från OnlyFans moderbolag, via ett dotterbolag i Hong Kong till ett bankkonto på Filippinerna – som i sin tur disponeras av anställda på Meta.

OnlyFans och Meta nekar till alla anklagelser.

Fallet är intressant – då det visar hur olika verktyg som lanseras med de bästa intentioner kan missbrukas och användas för att inskränka det fria ordet och den fria konkurrensen online.

Läs mer: NYP » | BBC »

Video: EU och yttrandefriheten online

av

Uppladdningsfilter, statligt godkända nätgranskare och gränsöverskridande nedtagningsorder är aktuella EU-förslag som begränsar rätten att fritt uttrycka sig på nätet. Vilket strider mot FN:s 5 juli-deklaration om mänskliga rättigheter online.

Youtube »

EU diskuterar att den som tillhandahåller innehåll på internet skall tvingas betala extra

av

EU-kommissionen funderar på att tvinga de företag som tillhandahåller information, innehåll och tjänster på internet att betala extra för att nå sina användare.

EU-kommissionen diskuterar något slags ny betalmodell för internet.

Idag är det den som vill använda nätet för att konsumera information som betalar för in uppkoppling, till sin internetoperatör.

Vad EU-kommissionen diskuterar är att även innehålls- och tjänsteleverantörer (som Netflix, Facebook, Google m.fl.) skall betala till de internetoperatörer som levererar nät till slutanvändaren.

(Det kan nämnas att innehållsleverantörerna redan betalar för sin trafik till internet. Nu vill man alltså tvinga ISP:arna att ta betalt även för dessa innehållsleverantörers trafik från internet till användaren. Vilket användaren som sagt redan betalt för.)

I ett brev till EU-kommissionen skriver ett antal oroade ledamöter av Europaparlamentet:

»Though no specific proposal is known, statements to the press indicate that a new provision would require payments from online service providers to broadband providers – ostensibly to fund the rollout of 5G and fiber to the home. This would reverse decades of successful internet economics by requiring the providers of websites and applications to pay fees to ISPs that have never existed before.«

Idén känns orimligt på flera sätt. Att tvinga en internetoperatör att överge sin nuvarande affärsmodell och även börja fakturera tjänsteleverantörerna känns som omotiverad klåfingrighet – med potentiellt oförutsedda och oönskade konsekvenser.

Om man ökar kostnaden för innehållsleverantören, då kommer även kostnaden för oss användare att öka. Netflix kommer att behöva höja priset. Facebook kommer att behöva mjölka sina användare på mer persondata. Mängden annonser kommer att öka.

Det kan även bli stökigt att sätta en gräns för vad som anses vara en tillräckligt stor tjänsteleverantör för att den skall tvingas betala för att få finnas på nätet. Eller har man tänkt sig att alla som har en hemsida skall drabbas?

Hela idén är bakvänd. Internets storhet ligger i att det finns ett stort utbud av innehåll och information fritt tillgängligt för alla – och att slutanvändaren betalar för sin uppkoppling till hela detta digitala universum. På så sätt stimuleras ett stort och ständigt växande utbud av information och tjänster.

Men om den som tillhandahåller innehåll och information tvingas betala extra för att över huvud taget bli distribuerad på slutsträckan till användaren – då kommer hela den frihet, öppenhet och mångfald som kännetecknar nätet att tyna bort.

Hela grejen med internet är att alla – stor som liten – fritt kan publicera sig, utan att behöva fråga några grindvakter om lov. Vilket EU-kommissionen tydligen vill ändra på.

Länkar:
• Reuters: EU’s Vestager assessing if tech giants should share telecoms network costs »
• Brev från 54 ledamöter av Europaparlamentet till EU-kommissionen (PDF) »

EU:s nya verktyg begränsar rätten att fritt uttrycka sig online

av

Uppladdningsfilter, statligt godkända nätgranskare och gränsöverskridande nedtagningsorder är exempel på hur EU inför verktyg som kan användas för att begränsa rätten att fritt uttrycka sig online, som den slås fast i FN:s 5 juli-resolution.

Som vi uppmärksammat fyller FN:s 5 juli-resolution om mänskliga rättigheter på internet tio år. Den första artikeln lyder:

»Affirms that the same rights that people have offline must also be protected online, in particular freedom of expression, which is applicable regardless of frontiers and through any media of one’s choice, in accordance with articles 19 of the Universal Declaration of Human Rights and the International Covenant on Civil and Political Rights;«

I denna bloggpost tittar vi närmare på hur EU förhåller sig till saken.

Till att börja med har EU (upphovsrättsdirektivet och förordningen om terror-relaterat innehåll online) ställt upp krav som med nödvändighet leder till att sociala media och andra aktörer kommer att behöva använda uppladdningsfilter – för att hindra spridning av olagligt innehåll.

Uppladdningsfilter är problematiska i sig. Maskiner som inte förstår kontext, humor eller nyanser skall avgöra vad som får laddas upp och spridas. Detta är rätt väl kritiserat och debatterat.

Vad som inte är lika väl ventilerat är frågan om hur uppladdningsfilter kan komma att användas i andra syften. För när de väl finns på plats, då kan syftet enkelt utökas.

Uppladdningsfilter är i sig en inskränkning i rätten att fritt uttrycka sig. Det finns inga garantier mot att de kan komma att missbrukas – med ont uppsåt, av inkompetens eller av missriktad välvilja.

En öppen fråga är om enskilda medlemsstater kommer att kunna kräva att syftet för uppladdningsfilter utökas, när systemet ändå finns på plats. I respektive länders nationella lagstiftning finns gott om exempel på sådant som är olagligt i ett (eller ett fåtal) EU-länder men inte i de andra.

En annan aktuell fråga är de så kallade Trusted Flaggers (sv: betrodda anmälare) som kommer med EU:s Digital Services Act. De är tänkta att vara statligt godkända nätgranskare, med en direktlinje till sociala media för att rekommendera vilket innehåll som bör plockas bort.

En trusted flagger kan vara en myndighet. Vilket i så fall innebär att myndigheter – utan rättslig prövning – får rätt att i praktiken censurera sociala media och andra nätplattformar.

Detta är ett avsteg från principen att yttrandefrihetens gränser skall sättas av lag och att överträdelser av denna lag skall bedömas av en oberoende domstol.

Istället blir nu myndigheters och enskilda tjänstemäns agenda, preferenser och åsikter vägledande.

Om risken för missbruk är stor när det gäller uppladdningsfilter, så är denna risk ännu mycket större vad gäller trusted flaggers.

Länder som Ungern kritiseras redan för censur och bristande frihet för media. Det är inte svårt att föreställa sig hur statligt godkända nätcensorer kommer att användas där.

En trusted flagger kan också vara en organisation som företräder »kollektiva intressen«. Vilket låter som särintressen. Det kan vara en organisation med en politisk eller semi-politisk agenda. Eller branschorganisationer. Som ges rätt att begränsa nätanvändarnas yttrandefrihet.

Både trusted flaggers och uppladdningsfilter är exempel på lagstiftning eller konsekvenser av lagstiftning som strider mot människors rätt att fritt uttrycka sig – med betydande potential för missbruk.

EU:s Digital Services Act innehåller även gränsöverskridande nedtagningsorder. Vilket innebär att en myndighet i Polen, Frankrike eller Rumänien kan beordra att innehåll tas bort från plattformar och servrar i Sverige – även om innehållet i fråga inte är olagligt här.

Vilket rimligen strider mot 5 juli-deklarationens skrivning om rätten att fritt uttrycka sig utan hänsyn till nationsgränser.

Det är också värt att notera att våra politiker ofta ägnar sig åt påtryckningar (utanför den demokratiska processen) mot sociala media. Syftet är att inskränka yttrandefriheten – inte genom lagstiftning utan genom respektive plattforms användarvillkor.

Till detta kommer sociala medias egna censurivranden och en med polariseringen växande cancel-kultur.

Skall man sammanfatta, så har EU nu infört de verktyg som krävs för att begränsa medborgarnas rätt att fritt uttrycka sig online. Vilket leder oss in i en ny fas, nämligen hur dessa kommer att användas.

5 juli-deklarationen är därför mer aktuell idag än någonsin tidigare. Det är hög tid att se till att i vart fall de europeiska demokratierna lever upp till den.

Tio år sedan FN:s 5 juli-resolution om mänskliga rättigheter på internet

av

Den 5 juli 2012 antog FN:s människorättsråd (HRC) en resolution som stadgar att mänskliga rättigheter skall gälla även på internet. Men hur har det gått i verkligheten sedan dess?

På sin 31:a session den 5 juli 2012 antog FN:s Människorättsråd (Human Rights Council) resolution A/HRC/RES/20/8, som stadgar att mänskliga rättigheter även skall gälla på internet, särskilt vad gäller yttrandefrihet.

Länder som Kina och Kuba hade invändningar, men godtog den ändå utan votering. En vecka senare antogs resolutionen av FN:s Generalförsamling. Drivande krafter bakom initiativet var USA och Sverige.

1. Affirms that the same rights that people have offline must also be protected online, in particular freedom of expression, which is applicable regardless of frontiers and through any media of one’s choice, in accordance with articles 19 of the Universal Declaration of Human Rights and the International Covenant on Civil and Political Rights;

2. Recognizes the global and open nature of the Internet as a driving force in accelerating progress towards development in its various forms;

Det är nyckelformuleringarna.

Människors rättigheter måste respekteras, även online. Inte minst yttrandefriheten.

Man understryker även vikten av internets öppna natur.

Den artikel i FN:s Människorättsstadga (PDF) som artikel ett ovan hänvisar till (19) lyder:

»Var och en har rätt till åsiktsfrihet och yttrandefrihet. Denna rätt innefattar frihet att utan ingripande hysa åsikter samt söka, ta emot och sprida information och idéer med hjälp av alla uttrycksmedel och oberoende av gränser.«

Det är för att upprätthålla dessa värden som 5 juli-stiftelsen finns. På användarnas sida. Mot inskränkningar av det fria ordet online.

Och för mänskliga rättigheter som rätten till privatliv och privat korrespondens även online. För ett fritt och öppet internet.

Hur har det då gått sedan resolutionen antogs? Det korta svaret är: Inte strålande.

Det finns uppenbara bovar i dramat, som Kina och Ryssland. Ibland blir det spektakulärt som när Belarus dirigerade ner ett passerande trafikflygplan – för att gripa en oppositionell bloggare. Skurkstater över hela världen vet att information är makt och handlar därefter.

Men problemen kryper närmare. Dels har vi de redan så utskällda sociala medierna. Klämda mellan motstridiga intressen tvingas de dra gränser för vad som får uttryckas.

Med tiden har de utsatts för allt mer tryck från politiken – som gärna ser att sociala media begränsar yttrandefriheten genom sina användarvillkor. Så att nämnda politiker inte behöver ta den striden genom lagstiftning, med tillhörande demokratisk process och debatt.

Det är – rätt eller fel – en allmänt utbredd uppfattning att människor censureras i sociala media av politiska skäl. Och vad som får sägas varierar uppenbarligen över tid.

Det finns tydliga drag av ängslighet över modereringsfrågan – när techföretagen tvingas förhålla sig till olika för tillfället trendande politiska drev och krav från särintressen.

En annan aktör är EU. På senare år har man presenterat en aldrig sinande ström av förslag som stryper internets frihet och öppenhet. Och som samtidigt ökar politikens makt över nätet.

Allt vi laddar upp skall inspekteras och godkännas av maskiner. Man har beslutat att alla medlemsstater skall ha statligt godkända nätgranskare. Och nu vill EU-kommissionen att all e-post och alla elektroniska meddelanden skall öppnas och dess innehåll granskas, av maskiner.

Potentialen för missbruk är enorm. Yttrandefriheten, liksom rätten till privatliv, naggas ständigt i kanten.

Sedan har vi den tilltagande polariseringen i samhällsdebatten. Enligt Uppsala Universitet anser 20% av svenska folket att grupper de ogillar inte fritt skall få uttrycka sina åsikter. Mer än 50% anser sig i dagens politiska klimat inte öppet kunna uttrycka sina åsikter.

Speciellt allvarligt blir det om åsiktsintoleransen letar sig in i offentlig verksamhet.

5 juli-resolutionen och de mänskliga rättigheterna handlar visserligen främst om individens fri- och rättigheter i förhållande till staten. Men under de tio år som gått kan man konstatera att hoten mot rätten att »utan ingripande hysa åsikter samt söka, ta emot och sprida information och idéer« hotas från allt fler håll.

5 juli-deklarationen är därför än viktigare idag än när den antogs.

Kampen går vidare!

Nu klubbas EU:s Digital Services Act

av

Statligt utsedda nätgranskare och gränsöverskridande nätcensur blir konsekvensen av EU:s Digital Services Act, som just nu är på väg att godkännas.

Idag har EU:s ministerråd godkänt den (bakom stängda dörrar) slutförhandlade Digital Services Act (DSA). I morgon väntas Europaparlamentets utskott för den inre marknaden (IMCO) göra det samma. Sedan återstår bara ett sista OK från Europaparlamentet i plenum.

Detta innebär bland annat att statligt utsedda nätgranskare – så kallade Trusted Flaggers – med rätt att rekommendera sociala media att ta bort innehåll blir verklighet. Dessa skall, enligt dokumenten, företräda »kollektiva intressen« och kommer att ha en direktlina till de olika sociala plattformarna så att deras rekommendationer prioriteras.

Vi kommer även att få gränsöverskridande nedtagningsorder. Vilket innebär att myndigheter i ett EU-land kan beordra att innehåll skall censureras i en annan medlemsstat – även om detta innehåll inte är olagligt i det senare. Vad kan möjligen gå fel?

Det är även intressant vad som inte finns i DSA. Det finns ingen rätt till anonymitet. Inte någon rätt till kryptering. Det finns inte heller något skydd mot svepande datalagring eller uppladdningsfilter.

Nu återstår att se hur DSA kommer att tillämpas. Till exempel vilka som blir statligt utsedda nätgranskare och hur deras mandat kommer att omsättas i praktiken.

• Läs mer: Digital Service Act shows EU‘s unwillingness to take digital age into its own hands »

Så skapas EU:s nät- och övervakningslagar

av

EU:s grumliga beslutsprocess leder till att det stiftas dåliga och farliga lagar utan att någon hinner reagera. Detta gäller inte minst frågor som rör internets frihet och övervakning.

Lagar som tvingar fram uppladdningsfilter. Statligt godkända nätgranskare. Av-kryptering och granskning av innehållet i alla medborgares e-post, meddelanden, chattar och övriga elektroniska kommunikationer. Det är tre saker som är aktuella i EU just nu.

Massor av saker vi varnat för är nu lag. Och mer är på väg. Om jag får kika i kristallkulan kan frågan om desinformation komma att bli het. Den har stor potential för ogenomtänkta lagförslag.

Ett skäl till strömmen av dåliga och farliga lagar är den vägg av byråkrati, snårigheter, brutna länkar, fikonspråk, arrogans och direkt hemlighetsmakeri som omger EU:s beslutsprocess. Jag vet, jag har jobbat i Europaparlamentet.

Till och med som aktivt intresserad är det svårt att få fram relevant information. Det är enklare att googla något än att försöka hitta det via EU-institutionernas hemsidor.

Sedan måste man sålla. Det kan läggas tusentals ändringsförslag på vägen – i vilka djävulen sitter i detaljerna. Det hela blir oöverskådligt.

Till EU:s nya AI Act har det lagts 3.312 ändringsförslag i Europaparlamentet. Dessa kommer utskottsledamöterna sedan att rösta om, under forcerade former som ibland inte ger tid för varesig eftertanke eller analys. Sedan kan det komma fler ändringar i plenum.

Och när parlamentet och ministerrådet sedan sagt sitt om EU-kommissionens förslag – då låser man in sig bakom stängda dörrar i en så kallad trilog. Det är där allt görs upp, utan insyn. Sedan brukar det mest vara en formsak att få de folkvalda och medlemsstaterna att godkänna den slutliga kompromissen.

I en sådan miljö kan nästan vad som helst glida igenom utan att media och allmänhet hinner reagera. I den mån de alls är medvetna om vad som pågår.

Det är ett demokratiskt problem.

I dag börjar nya regler för nätcensur att gälla i EU #TERREG

av

Ny EU-lag kommer att kräva uppladdningsfilter som granskar allt du publicerar. Den tycks även ge justitieminister Morgan Johansson makt att censurera internet.

Idag träder EU-förordningen om terror-relaterat innehåll online (TERREG) i kraft.

Den föreskriver att terror-relaterat innehåll på anmodan skall tas bort av sociala media och andra plattformar – inom en timma. Vilket kan vara praktsikt omöjligt för en mindre plattform eller forum.

Den föreskriver även att sådant material som en gång plockats ner skall hållas borta. Vilket innebär att man måste kontrollera allt som alla skriver och laddar upp.

Det enda rimliga sättet att göra detta är med maskiner och deras algoritmer. Uppladdningsfilter. Automatiserad censur. Syftet kan sedan lätt utökas.

Det sker faktiskt redan i andra syften. EU:s upphovsrättsdirektiv ställde sådana krav på plattformar att de endast kan tillgodoses med automatiska uppladdningsfilter.

Tanken på automatiskt beslutsfattande känns inte helt bekväm. Maskiner har nämligen ingen känsla för kontext, ingen humor och ingen social kompetens.

Allt du skriver och laddar upp kommer att granskas innan det går online. Så att du inte publicerar något olämpligt. Vilket implicerar att staten inte litar på dig.

Några nedslag i EU:s faktablad:

»Terrorist Content Online Regulation provides a legal framework to ensure that hosting service providers, that make content available to the public, address the misuse of their services for the dissemination of terrorist content online. Online platforms will be obliged to remove terrorist content upon receiving a removal order from Member States’ authorities within one hour and to take measures when their platforms are exposed to terrorist content.«

En imponerande vag formulering om uppladdningsfilter:

»There is no obligation to use automated tools to identify or remove content. Where platforms choose to use such tools, they need to ensure human oversight and publicly report on their functioning.«

Något tvång på uppladdningsfilter? Nej något sådant har vi inte. Bara regler som gör att att sådana blir nödvändiga… Det hela är milt kafka-artat.

Den stora grejen med internet var att alla kunde publicera sig fritt – utan att fråga någon annan om lov. Med uppladdningsfilter känns det lite som grindvakternas återkomst.

Det blir värre. Från Politico:

»Public authorities such as law enforcement, interior ministries and Europol can now require a platform or cloud services to remove specific posts, music, livestreams, photos and videos inciting violence and glorifying terrorist attacks. Promoting terrorist groups and instructions for how to commit an attack will also be forbidden online.«

Inrikesminister i Sverige är justitieminister Morgan Johansson. Det verkar alltså som om vi har en EU-förordning som ger Morgan Johansson rätt att ta bort saker från internet. Är det verkligen så klokt? Är det ens förenligt med svensk grundlag?

Man kan även notera att Morgan Johansson är ansvarig för tillkomsten av TERRG, som svensk representant på EU:s ministerråd när förordningen bereddes. Man kan således säga att han givit sig själv rätten att censurera.

»Any European Union country, from Hungary to Poland, can tell a company to remove terrorist content across the bloc.«

Det vill säga att Morgan Johansson även kan ta bort innehåll på spanska plattformar. Ungern kommer att kunna ta bort innehåll på franska siter. Det kan bli intressant att följa.

Gränsöverskridande nedtagningsorder etableras även som ett mer generellt verktyg i EU:s nya Digital Services Act. Vilket väcker frågor som om en polsk åklagare kommer att kunna stänga ner information om abort (på polska, kan vi anta) på ett svenskt forum.

Nåväl. Folk var varnade. Ingen brydde sig. Nu är vi här.

• Politico: Online platforms now have an hour to remove terrorist content in the EU »
• EU-kommissionens sida om TERREG »
• EU-kommissionens faktablad »