Femte juli

Nätet till folket!

Censur

I denna kategori publicerar vi nyheter som rör inskränkningar av yttrandefriheten såväl online som i den fysiska världen. Vi ägnar speciell uppmärksamhet åt förslag om förhandscensur på nätet. Principen bör vara att den som publicerar något olagligt på nätet också bör vara ansvarig för det - och att detta ansvar kan utkrävas först när publicering har skett.

Nu rullas EU:s nya nätcensur ut

av

Statligt godkända nätcensorer skall få rekommendera att innehåll plockas bort på nätet – utan föregående rättslig prövning.

Enligt EU:s Digital Services Act (DSA) skall alla medlemsstater ha utsett så kallade Trusted Flaggers till årsskiftet. Vilket dock bara skett i dygt hälften av länderna.

En Trusted Flagger (sv: betrodd anmälare) är till exempel en organiation, myndighet eller branschorganisation som får en direktlina till sociala media för att rekommendera vilket innehåll som skall plockas bort.

Egentligen skall de fokusera på olagligt innehåll. Men DSA anger också att de bland annat skall hjälpa till att identifiera innehåll som bryter mot plattformarnas användarvillkor, även om det inte är olagligt.

Vilket innebär att en statligt godkänd aktör inte bara får rätt att rekommendera censur utan föregående rättslig prövning – utan i praktiken censur även i fall där inget olagligt föreligger. Det känns som en tveksam konstruktion i en demokratisk rättsstat.

Speciellt ifall en Trusted Flagger som företräder ett visst (sär)intresse kommer att rekommendera censur av innehåll där organisationen i någon mening är part i målet.

Om man ser till EU-kommissionens lista över godkända Trusted Flaggers märker man snabbt att många av dem sysslar med att bekämpa »hat och hot« online. Just »hat« är ett område som öppnar för ett stort mått av subjektivitet.

När EU nu stressar på för att det skall utses fler Trusted Flaggers är risken uppenbar att man fyller på med organisationer som företräder särintressen som främst vill främja sin egen agenda – genom den makt som nu tilldelas dem över det fria ordet online.

Detta riskerar att bli ytterligare ett område där missriktad välvilja kommer att ställa oss inför nya, oförutsedda och oönskade problem.

Om bara någon hade varnat för detta i tid…

• DiscloseTV: The EU censorship network expands »
• TKP: EU-Zensoren-Netz weitet sich aus »
• EU-kommissionens lista över godkända Trusted Flaggers »

Äldre bloggposter i ämnet:
• Trusted Flaggers – EU:s nya nätcensur dekonstruerad (april 2022) »
• Möt de nya statligt godkända nätcensorerna (november 2024) »

CC0

(S): ID-krav för onlinespel med chattar – och fler nätcensorer

av

Socialdemokraterna vill se ID-krav för spelplattformar med chattar – och fler statligt godkända nätcensorer.

Socialdemokraterna krävde på en presskonferens i veckan att »samhället kliver fram och vidtar åtgärder för att spelplattformarna skall vara säkra för barn och unga«.

Detta tänker man åstadkomma genom att införa ID-krav för spelplattformar med chat-funktioner. Så att man vet vem som deltar.

Som vanligt väcker sådana här förslag massor av frågor. Hur skall det gå till? Hur har man tänkt sig att få plattformar i andra jurisdiktioner att delta? Kommer man att kombinera detta med en åldersgräns (som man vill göra med sociala media)?

Sedan kom Anders Ygeman in på ett intressant sidospår: Socialdemokraterna vill se »betydligt fler« Trusted Flaggers (»betrodda anmälare«). Det vill säga statligt godkända nätcensorer, med en direktlina till sociala media för att rekommendera vilket innehåll som bör plockas bort.

Trusted Flaggers introducerades i EU:s Digital Services Act (DSA). Än så länge finns det bara två i Sverige. ECPAT (som rapporterar in innehåll med övergrepp mot barn) och Svenska Stöldskyddsföreningen.

Upphovsrättsorganisationer och Läkemedelsverket sägs också vara på gång. Vilket ändå får sägas vara rätt återhållsamt. I andra länder har det uppstått frågor och debatt efter att mer politiskt vinklade organisationer utsetts till Trusted Flaggers.

Om nu Socialdemokraterna vill se »betydligt fler« Trusted Flaggers är den uppenbara frågan: Vilka?

Med tanke på partiets rätt avoga inställning till det fria ordet på internet finns det skäl att vara vaksam.

Socialdemokraterna vill dessutom att Trusted Flaggers (som idag verkar inom sina respektive organisationers ramar) skall avlönas av skattebetalarna.

En fråga som uppstår är om det är lämpligt att statligt godkända (och avlönade?) nätcensorer skall kunna rekommendera att innehåll tas bort utan föregående rättslig prövning.

Relaterat:
• Möt de nya statligt godkända nätcensorerna (november 2024) »

CC0

EU/DSA: Vad hände med användarnas rättigheter?

av

EU tycker tydligen att det är viktigare att begränsa användarnas yttrandefrihet på sociala media än att försvara deras rättigheter.

EU-kommissionen är snabb när det gäller att kritisera de stora sociala medieplattformarna när den tycker att de inte censurerar tillräckligt.

Men när det gäller de användarrättigheter som stadgas i EU:s Digital Services Act (DSA) tycks kommissionen vara rätt ointresserad.

DSA säger följande:

  • Användare har rätt att överklaga moderation (borttagna inlägg, skuggbanning m.m.).
  • Plattformar måste erbjuda ett internt klagomålssystem.
  • De måste ge en motivering när de tar bort eller begränsar innehåll.
  • Användaren kan gå vidare till ett certifierat utomstående tvistlösningsorgan.
  • Användaren får också vända sig till nationella myndigheter eller domstol.
  • DSA gäller både censur av inlägg och avstängning av konton.
  • Kontostängning måste vara proportionerlig.
  • Plattformen måste förvarna om och motivera avstängning (utom vid mycket allvarliga brott).

Uppenbarligen fungerar detta inte. Användare blir censurerade, skuggbannade och avstängda utan att det finns något meningsfullt sätt att överklaga. (Automatiserade AI-svar som bara meddelar att beslutet kvarstår baserat på vaga generella formuleringar räknas inte.)

Få om ens några medlemsstater har etablerat något utomstående tvistlösningsorgan. (Ansvarig nationell myndighet i Sverige är Post & Telestyrelsen, PTS). Och någon struktur för hur kommissionen skall leva upp till sitt övergripande ansvar på detta område tycks inte existera i sinnevärlden.

Däremot är EU-kommissionen som sagt snabb när det gäller att klaga på att sociala media inte censurerar tillräckligt mycket.

Man kan lätt få intrycket av att EU tycker det är viktigare att begränsa användarnas yttrandefrihet än att försvara deras rättigheter.

EU:s demokratisköld – demokratins bröstvärn eller sanningsministerium?

av

EU-kommissionens presentation av en europeisk demokratisköld stärker våra misstankar. Man tänker försöka försvara demokratin med byråkrati.

Idag presenterade EU-kommissionen sin Democracy Shield. Utifrån tidigare information har vi beskrivit den som att EU tänker försvara demokratin med byråkrati. Nu skulle vi äntligen få veta vad det är man tänker göra.

Ett enkelt omdöme är att det är mycket floskler och väldigt få svar på frågan: Hur?

Syftet med skölden sägs vara att stärka demokratins motståndskraft i EU-länderna: skydda fria val, oberoende medier, ett starkt civilsamhälle och motverka informationsmanipulation och desinformation.

Vilket vid ett första påseende kan låta bra. Tills man börjar fundera närmare på vad det egentligen innebär och hur det skall gå till.

Uppenbarligen handlar det om att kontrollera flödet av information i vårt samhälle, vilket i sig kan vara problematiskt ur ett demokratiskt perspektiv.

Åtgärderna delas in i tre huvudområden:

  1. Säkerställa integriteten i informationsmiljön – att motverka desinformation och utveckla digital läskunnighet. Man vill även skapa ett EU-nätverk av faktagranskare.
  2. Stärka institutioner, fria och rättvisa val, samt oberoende medier – även om val är nationellt ansvar, tas stödåtgärder fram på EU-nivå.
  3. Öka samhällelig resiliens och medborgarengagemang – bland annat genom bättre digital och mediekompetens bland medborgarna. Kommissionen har i sammanhanget tagit fram en EU Strategy for Civil Society.

Vi får också veta att man skall inrätta ett European Centre for Democratic Resilience. Där skall man sätta upp en plattform för att synka sitt arbete med civilsamhällets organisationer, researchers, akademien, fact checkers och media.

I Kommissionens pressmeddelande säger President von der Leyen:

»Democracy is the foundation of our freedom, prosperity, and security. The European Democracy Shield will reinforce the core elements that allow citizens to live our shared democratic values every day – free speech, independent media, resilient institutions, and a vibrant civil society. This is Europe’s strength and we must increase our collective capacity to protect it at all times.«

Fortfarande hänger frågan i luften: Hur?

Någonstans i allt detta måste någon bestämma vad som är rätt och fel, sant eller falskt. Vilket kan vara en frestelse för den som för tillfället har den politiska makten.

Det här kan landa hur som helst. Från att framgångsrikt skydda oss mot krafter som på riktigt vill skada oss – till ett Sanningsministerium som håller efter folk som tycker fel.

Kommissionen säger att initiativet inte skall inskränka yttrandefriheten – men gränsen mellan skydd och kontroll är tunn.

Med tanke på den omfattande byråkrati som omgärdar EU:s demokratisköld (se tidigare bloggposter, länkar nedan) kan man anta att det i vart fall inte blir en särskilt agil verksamhet.

Nu kommer Europaparlamentet (där den svenske moderaten Tomas Tobé är ansvarig rapportör) och ministerrådet att ge kommissionens ramverk och ambitioner sin välsignelse. Vilket sedan kommer att uppfattas som grönt ljus för kommissionen att lägga konkreta förslag. Om vilka vi alltså vet väldigt lite.

Jag kan inte säga att jag blivit så mycket klokare efter dagens presentation. Vaksamhet rekommenderas.

• EU-Kommissionen: European Democracy Shield and EU Strategy for Civil Society pave the way for stronger and more resilient democracies »

Läs gärna våra tidigare bloggposter i ämnet:

• EU: Försvara demokratin med byråkrati »
• EU:s nya demokratisköld tycks mest bestå av byråkrati »

Nu får Ryssland, Kina och Iran tillgång till data på svenska servrar

av

Sverige har just skrivit under en FN-konvention som ger skurkstater tillgång till data på svenska servrar.

Anta att en oppositionell i skurkstaten X-land publicerar sig och sitt motstånd mot X-regimen på en svensk server. Skall då svenska myndigheter tvingas hjälpa X-land att bygga ett case mot nämnde dissident i syfte att fängsla honom för sina åsikter?

Man kan tycka att svaret borde vara nej. Men det är en av många möjliga oönskade konsekvenser av FN:s Cybercrime Treaty – som Sverige och EU just undertecknat i Hanoi.

Vi ruppmärksammade det här 2019 efter att internationell press rapporterat om att en konvention som kan komma att censurera internet. I januari 2024 hade förslaget fått mer kött på benen och vi varnade bland annat för följande risker:

  • Man är inte ens överens om vad »cyberbrottslighet« egentligen är. Vilket skapar utrymme för godtycke.
  • Vad vi i de demokratiska rättsstaterna betraktar som helt lagliga yttranden online kan komma att kriminaliseras.
  • Verksamhet som bedrivs av cybersäkerhetsexperter, visselblåsare, aktivister och journalister kan komma att kriminaliseras.
  • Säker elektronisk kommunikation kommer att undermineras.
  • IT-tekniker kan tvingas kringgå dagens verktyg för säkerhet online.
  • Data och information kan komma att delas och hämtas över gränserna på ett sätt som går bortom vad som kan anses vara lämpligt, nödvändigt och proportionerligt. Detta utan rimligt dataskydd och utan hänsyn till rättsstatens grundläggande principer.

Problemen tycks kvarstå. Vi kunde också rapportera att Ryssland, Kina och Iran är några av de länder som uppvisat betydande entusiasm för förslaget.

Och nu är konventionen vid målsnöret. Återstår bara att anta den i FN:s generalförsamling och de undertecknande ländernas nationella parlament. Den ersätter då Budapestkonventionen från 2001.

Dock tycks USA ha låtit bli att skriva under. SC Media:

»Michael Bell, chief executive officer at Suzu Labs, said the United States has been placed in an impossible position. While the treaty attempts to solve actual problems and offer avenues for cross border evidence-sharing for ransomware and human trafficking, it also establishes a legal route for authoritarian regimes to demand data from sources they wouldn’t have otherwise, Bell said.«

»“All under the guise of catching criminals, but there are serious concerns about the collection of this data, and I argue that the U.S. should stay out until there are enforcement mechanisms to protect human rights and to shield legitimate security researchers,” said Bell. “Otherwise, we are legitimizing the same surveillance tactics we condemn China and Russia for using while compounding those issues by sharing that data with the international community. The real risk isn’t isolation, it’s that more than 70 countries now have a framework to compel data handovers that would bypass our constitutional protections.”«

För Sveriges del hamnar frågan på riksdagens bord för ratificering. Kommer någon att bry sig?

• FN: Sixty-five nations sign first UN treaty to fight cybercrime, in milestone for digital cooperation »

• EFF: Joint Statement on the UN Cybercrime Convention: EFF and Global Partners Urge Governments Not to Sign »

• SC Media: US absence from UN Cybercrime Treaty praised by groups over privacy abuse »

Tidigare poster med länkar och resurser:
• Oro för censur med FN:s nya resolution om cyberbrott (december 2019) »
• Skurkstater i FN vill ta kontroll över internet (januari 2024) »
• FN ger skurkstater makt över internet (juli 2024) »
• FN ger skurkstater tillgång till data på svenska servrar (augusti 2024) »

CC0

Behöver vi speciella lagar för internet?

av

EU:s internetlagstiftning är onödig, skapar byråkrati och strider mot den demokratiska rättsstatens principer.

EU:s Digital Services Act (DSA) innehåller egentligen bara en kristallklar övergripande regel: Olagligt innehåll skall plocks bort från nätet. Men behövs det verkligen en speciell lag för det?

Samtidigt skapar DSA med sina i övrigt vaga formuleringar en gråzon. Till exempel att de största sociala medieplattformarna och sökmotorerna förväntas motverka skadligt och olämpligt innehåll även om det inte är olagligt.

Antingen är något olagligt och därmed förbjudet. Eller så är det inte olagligt och skall därför vara tillåtet. Så är det i samhället i övrigt. Och så bör det vara även online.

Redan när EU-kommissionen lade fram sitt förslag om DSA skrev vi att detta handlar om att politikerna försöker ta makten över nätet. Vilket visat sig vara korrekt.

I praktiken går det till så att politikerna utövar påtryckningar på plattformarna att genom moderering och användarvillkor censurera sådana åsikter och yttranden som nämnda politiker aldrig skulle kunna (eller våga) förbjuda i en öppen, demokratisk process.

För politikerna är detta praktiskt. De kan peka på att privata företag får ha vilka användarvillkor de vill (inom rimliga gränser). Därmed kan de lägga ansvaret för censuren på någon annan. Även när dessa politiker utövar påtryckningar mot plattformarna bakom kulisserna.

För vår demokratiska rättsstat är detta farligt. Yttrandefrihetens gränser skall sättas genom lag, inte på hemliga möten mellan politiker och Big Data.

Det finns redan massor av lagar om hets mot folkgrupp, olaga hot, förtal, bedrägeri och annat – som gäller såväl i den fysiska världen som på nätet. Och att olagligt innehåll skall avlägsnas behöver man inte stifta speciella lagar om.

Om någon bryter mot lagen skall detta prövas rättsligt. Inte i en insynsskyddad process som handlar om vad olika aktörer tycker borde censureras, utan möjlighet till överprövning.

Svårare behöver det inte vara. DSA och all byråkrati förordningen skapar skulle kunna avskaffas utan några större konsekvenser – mer än att den politiska makten över internet skulle minska. Vilket vore en bra sak, speciellt då våra politiker inte alltid tycks förstå vad de lagstiftar om.

CC0

Google backar om censur

av

Google/Youtube medger att man censurerat innehåll efter politiska påtryckningar. Man släpper även på kanaler igen som tidigare stängts ner.

Google medger att man censurerat innehåll som berör pandemin och det amerikanska presidentvalet efter påtryckningar från den förra amerikanska administrationen.

Ämnen som att Covid-19 kan ha kommit från ett kinesiskt lab och nyheter om Hunter Bidens laptop är exempel på sådant som Google idag gör avbön från att ha stoppat. Vilket nog är lika så bra, då båda historierna visat sig ha viss substans.

Detta väcker i sin tur frågor om fri opinionsbildning och eventuell valpåverkan. Det är också en påminnelse om att även om en fråga kan tystas ner en viss tid, så kan det straffa sig i långa loppet när omständigheterna klarnar.

»Reflecting the Company’s commitment to free expression, YouTube will provide an opportunity for all creators to rejoin the platform if the company terminated their channels for repeated violations of COVID-19 and elections integrity policies that are no longer in effect.«

I sin avbön släpper Google/Youtube alltså på vissa av de kanaler igen som tidigare stängts ner. Man förklarar även att man tänker undvika att använda externa faktagranskare. Sådana har kritiserats för att ha en politisk bias. Och man sänder en signal till Trump-administrationen:

»YouTube values conservative voices on its platform. These creators have extensive reach and play an important role in civic discourse.«

Det ser alltså ut som att man tänker akta sig för allt som kan uppfattas som partisk moderering av innehåll. Man kommer att tillhandahålla en plattform, inte lägga sig i vad de som producerar innehåll tycker. Vi får väl se hur länge det håller.

Nu återstår att se hur Google/Youtube kommer att förhålla sig till alla nya regler i EU.

• TechCrunch: YouTube will reinstate accounts banned for spreading misinformation »
• Reclaim the Net: Google Admits Biden White House Pressured Content Removal, Promises to Restore Banned YouTube Accounts »

CC0

Kriget mot nätporren har spårat ur

av

Porren byggde internet. Nu rasar dess innehållsskapare mot politisk reglering. I USA finns det politiker som vill förbjuda nätporr helt och hållet. Och VPN.

Få saker har bidragit till internets utveckling som porren. Den har drivit trafik, teknikutveckling och betalningslösningar. I begynnelsen utgjorde porren uppåt hälften av all internettrafik. Idag är siffran 10-20%.

På ett annat plan har internet givit människor möjlighet att anonymt utforska olika sidor av sin sexualitet. Och dating-apparna har givit massor av människor massor av härlig sex i den fysiska världen.

Men alla gillar inte porr. Sexualskräck och moralpanik har fortfarande stort inflytande på debatten – och nätpolitiken.

Britterna har tagit i från tårna och infört ålderskontroller för i princip allt som i något slags kontext kan uppfattas som skadligt, stötande eller olämpligt för minderåriga. Vilket lett till att britternas persondata nu är i händerna på företag som erbjuder lösningar för åldersverifikation. Varav vissa verkar rent skumma.

Även EU vill rulla ut åldersverifiering för vuxet innehåll (DSA). Dock med en egen EU-app för att kontrollera användarnas ålder. Den kommer sedan att ersättas med EU:s nya digitala ID / plånbok. Vilket inte heller känns helt tryggt.

Nu klagar porrindustrin, inte minst fristående aktörer som internet givit möjlighet att verka utan att vara beroende eller stryrda av andra. (I Sverige har OnlyFans-lagen likställt tittarstyrt innehåll med sexköp.)

När stjärnan inom vuxenunderhållning »Marcello Bravo« (Markus Schlögl) nyligen fick ett pris på branschmässan i Amsterdam ägnade han sitt tacktal åt att kritisera politikerna, huvudsakligen britterna och deras Online Safety Act.

Tidskriften Politico intervjuade flera olika aktörer på mässan.

»The measures are “really just about control. It’s not actually about porn, but porn is a very good scapegoat,” said Christina Kastalia, a digital showgirl with a bachelor’s degree in law. “I see it [age verification regulations] more so as an attack to, literally, the entire society.” It’s not “just about porn. It’s about mass surveillance and it’s about control,” she said.«

»When porn platforms enforce age verification, “what you’re really doing is driving the traffic to places that are further underground,” said Jupiter Jetson, an adult content creator.«

»At the end of the day, Jetson said, the age verification measures are not about protecting children but simply wanting to see sex workers and adult content performers ”suffer”.«

I USA händer det saker på delstatsnivå. I Michigan har republikanerna lagt fram House Bill 4938, ”Anticorruption of Public Morals Act”. Och den är långtgående. Här är några exempel ur förslaget…

Man förbjuder verkliga och fiktiva beskrivningar, simulationer, ljudliga eller visuella skildringar, AI-genererade / animerade / digitalt skapade verk, skrivna verk och annat innehåll som skildrar sexuella handlingar. Och övrigt som kan befaras korrumpera den allmänna moralen. Till exempel innehåll som återger transexualitet.

Notera att detta inte handlar om barn och åldersgränser – utan skall gälla alla. Ingen skall få se något naket.

Internetleverantörer och plattformar skall tvingas blockera tillgång till innehåll, med krav på realtidsövervakning och omedelbar borttagning. Innehållsleverantörer som bryter mot lagen kan dömas till upp till 25 års fängelse – och föras in i registret över sexualförbrytare.

Rep. Josh Schriver säger »Don’t make it, don’t share it, don’t view it.« Lycka till med det…

Att tillhandahålla, underlätta användning av eller använda VPN för att nå innehåll som lagen förbjuder kan också leda till ansvar – med böter upp till 500.000 USD.

Detta förslag kan inte rimligen antas. Skulle så ändå ske skulle det strida mot såväl den amerikanska konstitutionen som en mängd federala lagar. Bara att något sådant här föreslås är absurt. Men nu för tiden tycks ju vad som helst kunna hända.

• Politico: Inside the porn industry’s revolt against tech rules »
• Reclaim the Net: Michigan GOP Bill Proposes Adult Content Ban, VPN Ban, and Restrictions on Transgender Depictions »

CC0