Femte juli

Nätet till folket!

Censur

I denna kategori publicerar vi nyheter som rör inskränkningar av yttrandefriheten såväl online som i den fysiska världen. Vi ägnar speciell uppmärksamhet åt förslag om förhandscensur på nätet. Principen bör vara att den som publicerar något olagligt på nätet också bör vara ansvarig för det - och att detta ansvar kan utkrävas först när publicering har skett.

EU: Utskott säger ja till uppladdningsfilter, gränsöverskridande nätcensur och granskning av meddelanden

av

Uppladdningsfilter, gränsöverskridande order om att ta ner innehåll samt av-kryptering och granskning av meddelanden och mail – det blev resultatet av gårdagens omröstning om EU:s Digital Services Act i Europaparlamentets rättsliga utskott.

Nu har vi resultatet från gårdagens omröstning om EU:s Digital Services Act (DSA) i Europaparlamentets rättsliga utskott (JURI). Ledamoten Patrick Breyer (PP, DE) meddelar resultatet på Twitter och på sin blogg.

Uppladdningsfilter: Utskottet röstade ja. De gröna/PP, hälften av socialdemokraterna och en liberal röstade nej.

Gränsöverskridande order om att ta ner innehåll på plattformar i andra länder: Utskottet röstade ja. De gröna/PP, socialdemokraterna och en liberal röstade nej.

Av-kryptering och granskning av innehåll i meddelanden och mail: Utskottet röstade ja. De gröna/PP, tre socialdemokrater och en liberal röstade nej.

Nedtagning av icke-auktoriserat strömmat innehåll inom 30 minuter (!): Utskottet röstade ja. De gröna/PP, tre socialdemokrater, alla liberaler och en från den nationalistiska gruppen (iD-gruppen) röstade nej.

DSA bereds just nu i flera utskott i Europaparlamentet och i ministerrådet. På sin utmärkta samlingssida om DSA förklarar Piratpartiet:

»Efter omröstningen i JURI överlämnas utskottets åsikter till det ansvariga utskottet IMCO. IMCO ska rösta fram ett förslag till parlamentets ståndpunkt den 8 november. Därefter ska hela EU-parlamentet antingen ge stöd till IMCO:s förslag eller avslå det under sin plenumsession i december. Om parlamentet godtar IMCO:s förslag (troligt) går DSA sedan vidare till förhandlingar mellan parlamentet, ministerrådet och kommissionen under 2022.«

Läs mer hos Patrick Breyer och hos Piratpartiet.

Uppladdningsfilter och gränsöverskridande nätcensur på bordet i EU:s nya Digital Services Act

av

Slut på end-to-end-kryptering, nya generella uppladdningsfilter och gränsöverskridande nätcensur är några av konsekvenserna om en av Europaparlamentets rapportörer för The Digital Services Act får sin vilja igenom.

EU:s nya Digital Services Act (DSA) håller just nu på att tröskas genom beslutsapparaten. I morgon, torsdag, skall Europaparlamentets utskott för rättsliga frågor (JURI) rösta om sitt utlåtande – som är författat av en konservativ fransk ledamot. Några nedslag:

Bland annat vill den ansvarige ledamoten Geoffroy Didier att DSA inte bara skall handla om sådant som publiceras offentligt, fritt för andra att ta del av. Han vill att den nya lagtiftningen även skall omfatta privata meddelanden. Utöver att detta strider mot brevhemligheten, rätten till privat kommunikation och rätten till privatliv innebär detta att myndigheterna även måste bereda sig tillgång till medborgarnas krypterade meddelanden.

Didier vill även se uppladdningsfilter för att permanent hålla oönskat innehåll borta från nätet. Vilket innebär att allt som alla laddar upp måste granskas och godkännas i förväg. Vilket är lika med förhandscensur – som kommer att skötas av maskiner och algoritmer som saknar sinne för sammanhang, legitima undantag och humor.

Rapportören vill även att JURI tar ställning för gränsöverskridande nedtagningsorder. Det vill säga att myndigheter i ett EU-land skall kunna beordra att innehåll på plattformar och servrar i andra medlemsstater skall plockas bort. Vilket kommer att leda till ett race-to-the-bottom, där alla enskilda länders strängaste åsiktslagar kommer att påtvingas hela EU.

Som om inte det är illa nog vill Didier att en nedtagningsorder i ett EU-land även skall gälla globalt. Man kan lätt inse att sådant kan komma att straffa sig genom att länder som Ryssland och Kina då kan komma att kräva att information som de ogillar även skall censureras i EU.

Den piratpartistiske ledamoten v Europaparlamentet Patrick Breyer (PP, DE) säger:

»The Rapporteur’s proposals are radical. They would i.e. threaten the secrecy of private correspondence and end-to-end encryption, mandate and encourage error-prone ex-ante upload filtering, introduce excessively short content take-down delays, enforce excessive national laws (e.g. in Poland or Hungary) throughout the EU and even globally, turn ‚trusted flaggers‘ into ‚trusted censors‘ and much more. I expect the vote to be very tight on several of these issues.«

• Läs mer hos Patrick Breyer »

Facebook stryper drogdebatten

av

Är det rimligt att Facebook har makt över politiska sakfrågor? Frågan är åter aktuell efter att det sociala nätverket stängt ner Sveriges största nätforum för att legalisera cannabis.

Debatten om en reformerad svensk drogpolitik har tagit ny fart på senare år. Det har skett i en öppen och fri debatt som börjat påverka opinionen och de politiska partierna. Som det skall vara i en demokrati. Men inte om Facebook får bestämma.

Idag stängde Facebook utan förvarning gruppen Avkriminalisera Cannabis! (AKC) som hade drygt 32.000 medlemmar.

Det skall påpekas att gruppen är modererad och att ingen försäljning och i princip ingen reklam förekommit. Istället är det en diskussionsgrupp.

Även om AKC har kvar sin vanliga hemsida, så kan det inte mäta sig med kraften och genomslaget hos en stor Facebookgrupp.

Stängningen av AKC kommer att påverka hur sakfrågan utvecklas i Sverige. Därmed utövar Facebook politisk makt, fast utan demokratiskt mandat.

Som vanligt kan man notera att Facebook är ett privat företag som får göra som det vill och tillåta eller förbjuda vilka grupper de vill. Men det innebär inte att Facebook har rätt att slippa kritik när de tystar en part i en politisk debatt.

Läs mer: Sveriges största forum för avkriminalisering och legalisering hotat »

Uppdatering från en läsare:

Gruppen är nu uppe igen, efter att Facebook har hävt blockeringen. Utan att förklara vad som hände, förstås. Dock är gruppen fortfarande shadowbannad, så man kan inte hitta den genom att söka på Facebook. För att gå med behöver man den här direktlänken:
https://www.facebook.com/groups/avkrim

Apple, Google, Putin och demokratin

av

Trots sina löften om att värna demokratin avlägsnade Apple och Google appen Smart Voting från sina ryska app-stores inför valet till den ryska Duman. Appen var ett viktigt verktyg för den ryska demokratiska oppositionen, i dess försök att utmana president Putin och hans maktparti Enade Ryssland.

AP skriver:

»The app in question, called Smart Voting, was a tool for organizing opposition to Russia President Vladimir Putin ahead of elections held over the weekend. The ban levied last week by a pair of the world’s richest and most powerful companies galled supporters of free elections and free expression.«

Varken Apple eller Google vill kommentera saken för AP eller annan media.

De två företagen sitter naturligtvis i en rävsax. Om de skulle tvingas lämna den ryska marknaden skulle deras plats snart tas av ryska, regimkontrollerade företag. De är också angelägna om att följ nationell lag på de marknader där de är aktiva. Inte desto mindre innebär borttagandet av Smart Voting-appen att man går en auktoritär regims ärenden.

Fri information är det bästa motgiftet mot auktoritära och totalitära tendenser. Därför är internet och de företag som hjälper oss att använda det viktigt. Speciellt i länder som tystar fria media.

»Navalny’s ally Ivan Zhdanov said on Twitter that the politician’s team is considering suing the two companies. He also mocked the move: “Expectations: the government turns off the internet. Reality: the internet, in fear, turns itself off.”«

Historien väcker frågan om huruvida vi som bor i demokratiska länder verkligen vill eller bör stödja företag som går icke-demokratiska staters ärenden. Tyvärr verkar det inte finnas så många alternativ, i vart fall inte för den som vill ha tillgång till ett vettigt ekosystem av appar och tjänster. Det borde det bli ändring på.

Don’t Be Evil.

• Apple, Google raise new concerns by yanking Russian app »
• Apple, Google remove opposition app as Russian voting begins

Ingen censur för Facebooks VIP-användare

av

Samtidigt som vanliga användare drabbas av Facebooks ofta oförklarliga censur och avstängningar – så kan 5,8 miljoner VIP-användare posta i princip vad som helst utan att riskera några konsekvenser.

Det började med XCheck som verkar ha varit ett sätt för Facebook att undvika dålig PR som kan orsakas av automatiserad censur av kändisar. Detta har med tiden utvecklats till ett slags vitlistning av miljontals VIP-användare, som släpper igenom sådant som andra skulle bli av med sitt konto för.

ArsTechnica:

»Over the years, XCheck has allowed celebrities, politicians, athletes, activists, journalists, and even the owners of ”animal influencers” like “Doug the Pug” to post whatever they want, with few to no consequences for violating the company’s rules.«

Ett läckt internt Facebook-memo har i delar publicerats av Wall Street Journal och ArsTechnica:

»For a select few members of our community, we are not enforcing our policies and standards« (…) »Unlike the rest of our community, these people can violate our standards without any consequences.«

Man skall inte underskatta att Facebook går en knepig balansgång vad gäller moderering. Men detta måste sticka i ögonen på alla vanliga användare som blivit censurerade på grund av struntsaker eller av oklar anledning.

Facebook är ett privat företag och de får göra rätt mycket som de vill. Men de kan inte vänta sig att undgå kritik när de ger olika användare olika ”rättigheter”. Speciellt inte med tanke på förtagets dominerande ställning inom sociala media.

Ständigt, dessa uppladdningsfilter

av

Uppladdningsfilter tycks vara på väg att bli något slags standard i EU:s internetrelaterade lagstiftning. Men vill vi verkligen att allt vi laddar upp till publika plattformar skall förhandscensureras – av maskiner?

Det började med artikel 17 i EU:s nya upphovsrättsdirektiv (EUCD) – som i praktiken kommer att leda till uppladdningsfilter. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) – som också kommer att leda till uppladdningsfilter. Och vad gäller den föreslagna Digital Services Act (DSA) finns det starka krafter som vill lägga till uppladdningsfilter som något slags allmänt verktyg för att motverka att oönskat innehåll sprids.

Till att börja med måste vi fråga oss om det alls är lämpligt eller önskvärt att all text, alla bilder, all video, alla ljudfiler med mera som vi lägger upp på olika plattformar skall förhandscensureras.

Det rimliga borde var att om någon på nätet – precis som i övriga livet – gör något olagligt, då blir detta en fråga för rättsväsendet när handlingen väl har skett. Om detta sedan kan slås fast i en oberoende rättslig process, då kan innehållet tas ner.

Därför är förhandscensur av pressen förbjuden i Sverige. Detsamma borde gälla online.

Nästa fråga är om vi verkligen vill att sådan censur skall skötas av maskiner. Algoritmer klarar inte att ta hänsyn till sammanhang, förstå humor eller satir, göra undantag för memer eller kritik. Man kan med säkerhet säga att uppladdningsfilter kommer att stoppa mer information än vad som från början var tänkt. Det vill säga även information som bör få publiceras.

En tredje invändning är att om uppladdningsfilter väl finns på plats, då är det en enkel sak att utöka deras användningsområde. Sådan ändamålsglidning förekommer nästan alltid.

Jag förundras över hur vissa politiska partier kan hävda att om andra partier kommer till makten, då hotas den svenska demokratin – samtidigt som de förstnämnda inte tvekar att rulla ut verktyg för censur, kontroll och övervakning som ju faktiskt kan användas av framtida regeringar just för att inskränka den svenska demokratin.

Statligt godkända nätcensorer kvar i EU:s förslag till Digital Services Act

av

Höstsäsongen i EU håller på att komma igång. Så det kan vara läge för en uppdatering vad gäller läget för den föreslagna Digital Services Act. En del förändringar till det bättre har föreslagits – men till exempel de nya nätcensorerna – Trusted Flaggers – finns fortfarande kvar i lagförslaget.

Läget vad gäller the Digital Services Act är att ministerrådet har diskuterat frågan och att vissa medlemsstater vill att även icke olagligt hat och hot på nätet skall avlägsnas från nätet.

Europaparlamentet håller å sin sida på att utarbeta en opinion, en slags åsiktsförklaring och grund för den fortsatta behandlingen. Utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) har under försommaren enats om en sådan – som under höstan kan komma att bli parlamentets (preliminära) position. Det är ömsom vin, ömsom vatten.

Bra saker i utskottets dokument:

  • Det skall vara tillåtet att använda nättjänster och att göra betalningar anonymt, där så är rimligt möjligt.
  • Kontextdriven snarare än persondata-driven annonsering såvida inte användaren aktivt ger sitt samtycke till det senare.
  • Användare skall ha rätt till krypterad kommunikation och trafik.
  • Olagligt material skall avlägsnas från nätet – inte blockeras.
  • Om material är lagligt eller ej skall avgöras av en oberoende rättslig instans – inte av administrativa instanser eller företag, efter politiska påtryckningar.
  • Uppladdningsfilter skall endast få användas undantagsvis.
  • Myndigheter i ett land skall inte kunna beordra nedtagning av innehåll på servrar / plattformar i en annan medlemsstat.
  • Plattformar skall inte tvingas att stänga av användare som postat olagligt innehåll.
  • Användarna bör få större kontroll över vilket innehåll som rekommenderas i deras flöden.

Så långt är det i stort sett bra. Men sedan har vi elefanten i rummet – Trusted Flaggers. Detta är tänkt att vara organisationer som företräder ”kollektiva intressen” – som skall fungera som statligt godkända nätgranskare, med direktlina till sociala medias abuse-avdelningar.

Ingen – inte ens de annars så alerta piratpartisterna – tycks ifrågasätta detta. Det enda utskottet säger är att Trusted Flaggers bör besitta sakkunskap inom det område de sätts att granska. Vilket knappast minskar risken för att olika särintressen, lobbygrupper och agenda-drivna grupper ges makt som nätcensorer.

Kan man över huvud taget vänta sig att nätcensorer som företräder kollektiva intressen kommer att vara objektiva och neutrala? Eller kommer de att sätta sina kollektiva intressen i främsta rummet? Vanligtvis kan man utgå från att kollektiva intressegrupper har en agenda som påverkar dess arbete.

Man kan tycka att detta borde vara en stor fråga. Men den förbigås i stort sett i tysthet.

Nästa steg blir för Europaparlamentet att jämka ihop utskotten till ett förslag som läggs fram i plenum, förmodligen under hösten. Dessutom skall ministerrådet, parallellt med parlamentets arbete, bestämma sin position. Därefter skall man försöka jämka samman dessa till ett slutligt förslag eller en kompromiss som alla EU-institutioner anser sig kunna leva med.

Läs mer:
• MEP Patrick Breyer (PP, DE) »
• LIBEs opinion (PDF) »

Apple öppnar för övervakning och censur

Femte juli protesterar mot Apple

av

Allt fler organisationer protesterar nu mot Apples planer på att skanna innehållet på användarnas egna telefoner (alltså innan det krypterats och skickats upp i molnet) efter så kallat sexuella övergrepp på barn-material, tidigare känt som ”barnporr”:

Öppet brev till Apple

Nu har ett gäng tunga kritiker gått samman och författat ett öppet brev till Apple:

5 juli-stiftelsen har i dag signerat brevet – och det kan du också göra via Github (det är lätt att regga sig även om man inte har en aning om vad Github är).

Det vi som skrivit under vill är följande:

  1. Att Apple omedelbart rullar tillbaka planerna på den föreslagna övervakningsteknologin.
  2. Att Apple gör ett uttalande som visar att de även fortsättningsvis är starka förkämpar för kryptering och användarintegritet.

Apples samarbete med NCMEC

En artikel i The Economist uppmärksammar att det är den amerikanska organisationen National Centre for Missing & Exploited Children (NCMEC) som ska tillhandahålla den databas som innehållet på användarnas telefoner ska kollas mot. NCMEC har ”ensamrätt” på barnporr i USA, vilket innebär att de kan samla på sig barnporr utan att bli bestraffade för det. Skriver alltså The Economist.

Läs våra tidigare inlägg om Apples planer:

Nandez, columbiansk twink på Onlyfans

Bankernas sexualskräck stoppar OnlyFans

av

Återigen stoppar banker och betalningsförmedlare en laglig tjänst online. Detta är en del i ett mönster där företrädesvis amerikanska bankers moralpanik och feghet drabbar verksamhet online. Idag är det OnlyFans, tidigare har det funnits exempel på allt från postorderföretag som säljer sexleksaker till Wikileaks som fått sina betalningskanaler stoppade.

OnlyFans är en verksamhet där sexarbetare , nakenmodeller och glada amatörer kunnat publicera sitt material för personligt kopplade prenumeranter. Grundat 2016 har företaget 150 miljoner användare och 1,5 miljoner skapare av innehåll som tjänat över tre miljarder USD.

Det om nu skett är att företaget – efter påtryckningar från bankerna – kommer att förbjuda explicit sexuellt innehåll, även om nakenbilder som sådana kan vara tillåtna. Exakt var gränsen går är ännu oklart. De nya reglerna börjar gälla i oktober.

TechCrunch har en bra beskrivning av verksamheten:

»The OnlyFans platform has become the de facto standard for independent creators doing adult content. Over the pandemic it grew increasingly popular as the adult industry, like others, had its normal operations interrupted. It has proved an invaluable asset for many creators, professional and aspiring, who used the platform to directly monetize fans without interacting with notoriously predatory established adult industry companies.«

Detta handlar om mer än sexarbetares och nakenmodellers möjlighet att interagera med sina fans och att tjäna pengar på ett säkert sätt. Kärnfrågan handlar om att banker, kreditkortsföretag och betalningsförmedlare – som ofta har en dominerande marknadsställning – stryper betalkanalerna för fullt laglig verksamhet.

För att ta ett icke-sexuellt exempel stoppade amerikanska banker, kreditkortsföretag och PayPal 2011 alla bidrag till Wikileaks och dess verksamhet. Den gången gick bankerna den amerikanska administrationens ärenden, då den senare själv saknade lagliga möjligheter att blockera Wikileaks finansiering. Vilket är tveksamt och problematiskt på flera sätt.

Vilken verksamhet som skall vara tillåten respektive förbjuden måste styras genom lag, stiftad i god demokratisk ordning efter en öppen, offentlig debatt.

Även om banker och betalningsförmedlare skall ha rätt att välja om de vill göra affärer med enskilda aktörer – så bör de noga fundera igenom sitt ansvar när de har en dominerande ställning på marknaden. Därför bör de också acceptera all laglig verksamhet som kunder.

Sådant här beteende kommer i längden att skada betalningsförmedlarna själva, då det bara påskyndar en övergång till Bitcoin och andra kryptovalutor.

Läxan man kan lära sig av detta är att ingen som driver en onlineverksamhet som på något sätt, av någon kan uppfattas som moraliskt tveksam går säker – även om det man sysslar med är fullständigt lagligt.

Länkar:
• TechCrunch: OnlyFans bans explicit content »
• TechCrunch: OnlyFans’ porn ban is crypto’s opportunity of a lifetime »
• ArsTechnica: OnlyFans bans sexually explicit content to appease banks and payment services »
• Bloomberg: OnlyFans to Bar Sexually Explicit Videos Starting in October »

Bild: Sidhuvud för colombianske Nandez Onlyfans.