Femte juli Nätet till folket!

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

EU allt närmare kontroll av innehållet i alla nätanvändares alla meddelanden

av 5 kommentarer

Med risk för att tjata: EU är på väg att införa kontroll, övervakning och analys av innehållet i alla alla nätanvändares alla meddelanden och all e-post. Detta omfattar även krypterad information, hur nu det är tänkt att gå till.

Så här sammanfattar ledamoten av Europaparlamentet Patrick Breyer (PP, DE) saken:

»The EU wants to have all private chats, messages, and emails automatically searched for suspicious content, generally and indiscriminately. The stated aim: To prosecute child pornography. The result: Mass surveillance through fully automated real-time messaging and chat control and the end of secrecy of digital correspondence.«

Häromdagen var det nya trílog-förhandlingar mellan Europaparlamentet, ministerrådet och kommissionen. För första gången under dessa samtal fördes frågan om medborgarnas grundläggande fri- och rättigheter (som rätten till privatliv och privat korrespondens) upp på dagordningen. Detta tycks dock inte ha haft någon större inverkan på sakfrågan. Se Patrick Breyer kommentera saken i ett videoklipp på Twitter.

Samtidigt har Microsoft, Facebook, Google m.fl. skrivit brev till Europaparlamentets ledamöter – där de argumenterar för färre begränsningar vad gäller denna övervakning av användarnas korrespondens.

En fråga i sammanhanget är hur EU-apparaten kan oroas över sociala medias insamling av användares persondata – och samtidigt vilja ge dessa företag tillgång till innehållet i alla användares alla meddelanden.

En annan fråga som hänger i luften är hur detta förslag förhåller sig till EU:s förbud mot generell övervakning.

Läs mer hos Patrick Breyer. Notera speciellt de risker med förslaget som han listar mot slutet av sin text.

Länkar:
• MEP Patrick Breyer (PP, DE) – video-uppdatering på Twitter »
• Patrick Breyers bloggpost om chat control »
• Big Datas brev till Europaparlamentets ledamöter »
• PP: Svenska EU-parlamentariker hetsar om ny övervakningslag »
• EU öppnar för automatisk granskning och analys av alla dina meddelanden och all din e-post »

Bryr sig någon om EU:s nya nätcensur?

av 1 kommentar

I Europaparlamentet kommer man under våren (förmodligen under april-sessionen, vecka 17) att rösta om förordningen om terror-relaterat innehåll online (TERREG / TCO).

Det känns som att jag tjatar om detta. Och som att aktivister, media och allmänheten inte riktigt bryr sig.

Ändå handlar det om att införa censur av åsikter på nätet. Vilket är en stor sak.

Erfarenheten visar att denna typ av lagar ofta drabbas av ändamålsglidning. Med ett klubbslag kan censuren utökas – och det saknas inte krafter som vill förbjuda både det ena och det andra på nätet.

Speciellt oroande är att detta sammanfaller med att EU senare i år kommer att uppdatera sina riktlinjer vad gäller hat och hot online. Om principen om nätcensur då redan är etablerad, då kommer det att bli frestande att använda detta verktyg utan att det har ett dugg med terrorism att göra.

Dessutom är denna förordning illa utformad i sak. Flaggat material skall tas ner inom en timma, vilket knappast ger utrymme för någon seriös analys av dess laglighet. Någon föregående rättslig prövning kommer inte att ske. Myndigheter i en medlemsstat kan beordra nedtagning av innehåll på servrar i andra EU-länder. Material som en gång flaggats skall inte kunna laddas upp igen – vilket kommer att kräva kontroll och analys av allt som alla laddar upp.

Det där sista kommer i praktiken att kräva uppladdningsfilter – även om man noga undviker att använda just det ordet i förordningen.

När denna förordning väl är klubbad – då har vi som sagt  infört censur av åsikter online. Förordningar och direktiv staplas på varandra. Var för sig går de kanske att motivera på ett eller annat sätt. Men sammantaget kommer de att få konsekvenser för det fria ordet online och den fria åsiktsbildningen.

Något intresse av att stanna upp för att analysera helhetsbilden eller ens åtgärdernas effektivitet finns inte. Det gäller såväl när det kommer till inskränkningar av informationens frihet som utrullningen av en aldrig sinande ström av övervakningslagar.

Steg för steg rör vi oss mot att skapa en Storebrorsstat. Till sist når vi en punkt där detta blir ett påtagligt demokratiskt problem. Möjligen är vi redan där.

Läs mer: En votering kvar innan EU inför nätcensur för åsikter »

IMF vill koppla din onlinehistorik till din kreditvärdighet

av 2 kommentarer

Ett antal medarbetare på Internationella Valutafonden (IMF) föreslår i en rapport att människors sökhistorik skall kopplas till deras kreditvärdighet.

Författarna menar att sådant som sökhistorik och nätinköp kan ge en bättre bild av enskilda individers kreditvärdighet, speciellt när kreditinstituten har dålig tillgång till hård data. De skriver:

»The most transformative information innovation is the increase in use of new types of data coming from the digital footprint of customers’ various online activities—mainly for credit-worthiness analysis.«

Till att börja med känns det som om detta ligger farligt nära det kinesiska systemet med »social scoring«.

Vidare kan människors digitala spår avslöja mycket privat information (politiska sympatier, sexuella preferenser, religion m.m.) som ingen annan har med att göra. Sådan information kan dessutom orsaka skada om den läcker (eller säljs) till andra aktörer.

Detta kan även utgöra ett hot mot informationens frihet och meningsfriheten, då människor kan komma att undvika känsliga och kontroversiella sökbegrepp i syfte att upprätthålla en god kreditvärdighet.

Samt att man i princip upphäver människors rätt til anonymitet på nätet.

Vad kan väl möjligen gå fel? Detta är ett förslag som bör gå rakt ner i papperskorgen.

Länkar:
• IMF Calls for Credit Score to be Tied to Internet Search History »
• What is Really New in Fintech »

EU öppnar för automatisk granskning och analys av alla dina meddelanden och all din e-post

av 5 kommentarer

Alla dina meddelanden och all din e-post kommer att granskas och analyseras. Är dessa meddelanden krypterade är det plattformens problem att avkryptera dem. Detta är konsekvensen av ny lagstiftning som just nu är på väg i EU.

Bakgrunden är ovanligt rörig, till och med för att vara EU. Enkelt uttryckt införde man i slutet av förra året en European Electronic Communications Code. Den gav användarna ett mycket starkt skydd för elektronisk korrespondens. Så starkt att man inte längre skulle kunna ägna sig åt regelmässig övervakning. Och så vill man ju inte ha det, kom man på efteråt.

Därför har man nu förhandlat fram ett undantag från den nya lagen – i väntan på ännu nyare regler, som inte går lika långt som EECC. Detta motiverar man med att man vill skydda barn mot sexuella övergrepp online. Det kunde lika gärna ha varit terrorism, penningtvätt, droghandel, organiserad brottslighet eller något annat. Men om man gömmer sig bakom barnporr och övergrepp mot barn – då är det få som vill eller vågar protestera.

Enkelt uttryckt kommer alla nätets meddelandetjänster att omfattas. Automatisk analys av alla meddelanden kommer att ske, i jakt på något intressant.

Den piratpartistiske, tyske ledamoten av Europaparlamentet Patrick Breyer skriver:

»In 2020 the European Commission proposed “temporary” legislation aimed at allowing the search of all private chats, messages, and emails for illegal depictions of minors and attempted initiation of contacts with minors. This is to allow the providers of Facebook Messenger, Gmail, et al, to scan every message for suspicious text and images. This takes place in a fully automated process and using error-prone “artificial intelligence”. If an algorithm considers a message suspicious, its content and meta-data are disclosed automatically and without human verification to a private US-based organization and from there to national police authorities worldwide. The reported users are not notified.«

Siffror från polisen i Schweiz pekar på att 90% av alla automatiserade flaggningar är falska. Och med tanke på det stora antalet ärenden är frågan hur många falska positiva som ändå kommer att slinka igenom – och rapporteras till polis. Vilket naturligtvis kan leda till allvarliga problem för den enskilde. Den som är oskyldig har mest att frukta.

»On your next trip overseas, you can expect big problems. Machine-generated reports on your communications may have been passed on to other countries, such as the USA, where there is no data privacy – with incalculable results.«

Hur detta är tänkt att fungera mot det generella förbudet mot övervakning i gällande och föreslagna EU-direktiv är oklart.

En annan öppen fråga är hur man tänkt hantera P2P-krypterad e-post där operatören inte har någon möjlighet att avkryptera meddelanden.

Europaparlamentet väntas rösta om saken under sin session i mars.

Länk: Messaging and chat control »

Frankrike och Tyskland kan sätta käppar i hjulet för EU:s Digital Services Act

av Lämna en kommentar

Frankrike och Tyskland ligger långt framme med egna repressiva internetlagar och vill gärna att EU:s nya Digital Services Act skall återspegla deras aktuella lagstiftning. Eller i vart fall ge utrymme för sådan parallell lagstiftning. Speciellt gäller detta Frankrike.

Financial Times rapporterar:

»France is pushing for the EU’s upcoming regulations on Big Tech to be changed so that member states could wield more power to punish bad behaviour and police more types of content.« (…)

»But EU officials worry that the French proposals will erode the EU’s single market. “This would remove one of the first pillars of EU law and it would mean that a company, instead of being subject to one regulator, is subject to 27 authorities,” said one person with direct knowledge of the discussions. “It risks fragmenting the single market into a nightmare.”« (…)

»Separately, France is also pushing for the DSA to widen beyond illegal content to the policing of harmful content and disinformation. “We think the text needs to be broadened to include other types of problematic content,” said (Cedric) O. “If there is no legal framework there is nothing to stop Twitter or Facebook from censoring speech they do not like.”«

Enkelt uttryckt: EU vill se gemensam lagstiftning medan Frankrike och Tyskland helst vill köra sitt eget race.

Med tanke på hur hårt den franska Avia-lagen och den tyska NetzDG-lagen kritiserats för att inskränka det fria ordet är detta oroväckande. Och vad som betraktas som problematiskt innehåll eller till och med desinformation kan uppenbarligen skilja sig en del från land till land.

Den franske digitaliseringsministern Cedric O sänder blandade signaler. Vi vet att den franska lagstiftningen syftar till att begränsa spridning av information online. Samtidigt talar han om att hindra Twitter och Facebook från att censurera på egen hand. Man kan lätt få intryck av att den franska regeringen är för censur när den själv får kontrollera den, men emot om den ligger i andras händer.

Med tanke på att internet inte känner några nationsgränser kan den frank/tyska linjen bli problematisk – och i värsta fall leda till ett balkaniserat internet i Europa.

Om ett år, våren 2022 kommer Frankrike att vara ordförandeland i EU. Man har redan meddelat att nätlagstiftning kommer att bli ett av ordförandeskapets prioriterade områden. Samtidigt kan man notera att Tjeckien är ordförandeland hösten 2022. Och om nuvarande opinionssiffror står sig är det inte omöjligt att Piratpartiet kommer att få en betydande ställning i tjeckisk politik. Vilket innebär att om Frankrike kommer med allt för tokiga förslag under sitt ordförandeskap, då kan de möjligen rättas till om de skjuts över till det påföljande tjeckiska ordförandeskapet.

Trots löften om motsatsen: Tyskland inför uppladdningsfilter

av 2 kommentarer

När EU antog sitt nya upphovsrättsdirektiv våren 2019 var vi många som varnade för att artikel 17 (tidigare artikel 13) skulle komma att leda till uppladdningsfilter.

Detta hävdade rapportören, MEP Axel Voss (CDU/EPP, DE) var överdrifter och skräckpropaganda. Även den tyska regeringen har försökt tona ner sådana farhågor.

Nu har vi facit, på temat vad var det vi sa..?

Den tyska regeringen vill se artikel 17 implementerad i sin nationella lagstiftning på detta sätt:

  • Först måste man kontrollera allt innehåll som alla laddar upp. På grund av de stora volymerna måste det med nödvändighet ske med automatiserade uppladdningfilter.
  • Materialet kommer sedan automatiskt att klassas i en av tre grupper.
  • Upphovsrättsskyddat licensierat material, som skall släppas igenom och publiceras.
  • Material som kanske eller kanske inte är upphovsrättsskyddat och som kanske eller kanske inte faller under undantag för parodi, satir, kritik m.m. Släpps detta innehåll igenom meddelas upphovsrättsinnehavaren, som då får möjlighet att överklaga. Stoppas det meddelas den som laddat upp det, som då får möjlighet att överklaga. Överklaganden skall avgöras inom en vecka.
  • Icke igenkänt/registrerat material (som i sig ändå kan vara skyddat av upphovsrätt, se nedan*) som släpps igenom – med reservation för att det dock måste plockas ner om det visar sig vara olagligt.

Hur denna teoretiska modell är tänkt att fungera i praktiken är oklart. En svag punkt gäller överklaganden. Hur hanterar man om tusentals, eller hundratusentals ärenden överklagas varje månad? Detta kommer antingen att kräva en omfattande administrativ apparat – eller så kommer man snabbt att bygga upp en omfattande kö med öppna ärenden. I det senare fallet (som är det troliga) minskar möjligheterna för en rättssäker behandling.

Intressant trivia (*) i sammanhanget är att det bara lär vara sådant som Big Media och Big Entertainment låtit registrera som upphovsrättsskyddat som flaggas i systemet. Men nästan allt annat (utom public domain och creative commons) är också upphovsrättsskyddat. Men dessa upphovsmän får inte samma skydd för sina verk som storföretagen. För att vara exakt, i princip inget skydd alls. Vilket antyder att det hela mer handlar om att skydda Big Business och dess intressen än upphovsrätten som sådan.

Den tyska utvecklingen är intressant inte bara för att man nu bryter löftet om att inga uppladdningsfilter kommer att krävas – utan även för att vi väntar på att den svenska regeringen skall lägga fram sitt förslag till hur upphovsrättsdirektivet skall implementeras i vår lagstiftning. Och den kikar naturligtvis på hur man gör i våra grannländer.

Läs mer på det tyska justitiedepartementets hemsida. »

Twitter och indiska regeringen i censurbråk

av Lämna en kommentar

Med anledning av det pågående bonde-upproret har den indiska regeringen givit Twitter order att stänga eller göra 1.100 konton osynliga, då de anklagas för att ha uppmanat till våld och att spridit falska nyheter.

Twitter har delvis gått med på regeringens krav, men vägrar att stänga konton som tillhör journalister, aktivister och andra som utövar sin grundläggande rätt att kritisera regeringen.

Shira Ovide skriver i New York Times On Tech Newsletter:

»The government of Prime Minister Narendra Modi is saying Twitter is breaking the law. Twitter is saying that India is breaking its own laws. And democracy activists say that tech companies like Twitter shouldn’t play along when governments pass laws that effectively shut down free speech.

There are regularly disputes between internet companies and governments — both democratic and not — over whether posts break a country’s laws. What’s unusual here is how public and high profile the disagreement is, and that India has threatened to imprison Twitter employees.«

Värt att notera är att den indiska regeringens begäran kom från ett ministerium och inte från en domstol. Den kan därmed betraktas som mer politisk än rättsligt prövad och bindande.

Det som sker nu kan även få betydelse för hur Twitter kommer att agera i andra länder med auktoritära regimer.

USA: Banker och betalningsförmedlare kan fortsätta agera moralpolis

av Lämna en kommentar

Vi har sett många exempel på hur banker, kreditkortsföretag och andra betalningsförmedlare som PayPal strypt betalningskanalerna för verksamhet som anses som kontroversiell. Det gäller allt ifrån Wikileaks och kryptovalutor till postorderbutiker för sexleksaker.

Detta är naturligtvis allvarligt. Verksamhet som är laglig bör få använda de stora och totalt dominerande betalningskanalerna. I vissa fall – som Wikileaks – blir det i förlängningen även en fråga om förutsättningarna för det fira ordet.

Ett annat exempel är Patreon, som stängt av möjligheten till crowdfunding för innehållsskapare vars åsikter företaget inte delar.

Ett tredje är hur vissa banker säger upp konton för kunder som genomför transaktioner kopplade till köp eller försäljning av kryptovalutor

Den förra amerikanska administrationen införde en Fair Access Rule som säger att »banks should conduct risk assessment of individual customers, rather than make broad-based decisions affecting whole categories or classes of customers when provisioning access to services, capital, and credit«. Det vill säga att man skall värdera varje enskilds kunds beteende och riskprofil snarare än att utestänga hela kategorier av laglig verksamhet från betalningssystemen.

Detta regelverk har ännu inte hunnit träda ikraft och kommer inte heller att göra det – då det redan upphävts av den nya amerikanska administrationen.

Reason skriver:

»This regulation was meant to shield politically unpopular but otherwise legal companies from banking discrimination, following Operation Chokepoint, a program initiated by President Barack Obama’s Justice Department. While ostensibly designed to combat fraud, in practice, Reason writers have observed, it empowered the government to target unfavorable industries, such as payday lending and pornography, by ”coercing private businesses in an attempt to centrally engineer the American marketplace based on its own politically biased moral judgments.”«

När Operation Chokepoint bland annat ledde till att Wikileaks fick sina betalningskanaler för stöd stängda uttalade Europaparlamentet att sådana rutiner är ett hot mot det fria ordet och den fria åsiktsbildningen.

Läs mer hos Reason: Biden Administration Suspends Rule Protecting Businesses from Banking Discrimination »

Rapport från EU-debatten om sociala media och skyddet för grundläggande rättigheter

av Lämna en kommentar

I Europaparlamentet har man just avslutat debatten »Democratic scrutiny of social media and the protection of fundamental rights« i vilken även EU-kommissionen och ministerrådet deltagit. Debatten skedde på begäran av EPP-gruppen, efter stormningen av Capitolium i Washington och efter att Donald Trump blivit avstängd från Twitter.

Bland de åsikter som framfördes var att samma regler gör gälla online som in resten av samhället, att reglerna bör fastställas av lagstiftare och upprätthållas av domstolar samt att man vill se ökad transparens vad gäller sociala medias algoritmer. Bland de mer färgstarka inläggen fanns de som betraktade sociala media som spridare av antidemokratiska virus och de som vill ställa Twitter, Facebook och Youtube under demokratisk (det vill säga politisk) kontroll.

Värt att notera är att ledamöter från Polen och Ungern varnade för vad som kan hända om man ger politiken kontroll över sociala media.

Enda svenska röst i debatten var Arba Kokalari (M) som konstaterade att det finns en brist på tydliga regler, vilket leder till att användare blir censurerade eller avstängda utan förklaring. Detta menar hon att man kan komma till rätta med genom EU:s nya Digital Services Act (DSA), där hon är skuggrapportör för EPP-gruppen.

Debatten  utgick (precis som DSA) från att sociala media även i framtiden kommer att se ut som och fungera ungefär som idag. Vilket knappast kommer att vara fallet. De enda som gjorde något försök att blicka framåt var de två piratpartistiska ledamöterna Marcel Kolaja (Tjeckien) och Patrick Breyer (Tyskland). Båda pekade på behovet av alternativa och decentraliserade plattformar.

Från kommissionen och ministerrådet kom även besked om att man nu dels arbetar med en »Democracy Action Plan« och dels med en »Media and audiovisual action plan« – vilka vi naturligtvis skall kika närmare på.

Intressant är även vad som inte nämndes i debatten. Till exempel har kommissionär Ylva Johansson flaggat för att en ny »Code of Conduct on countering illegal hate speech online« skall tas fram. Att detta inte togs upp i debatten kan vara ett tecken på att den kommer att utarbetas utanför de demokratiska institutionerna – gissningsvis bakom stängda dörrar tillsammans med de sociala mediejättarna i the European Internet Forum.

Debatten kan ses i efterhand här (timestamp från kl 15) »