Facebook skapar en egen »Högsta Domstol«

Frågan om vad som skall få publiceras på Facebook är aktuell, kontroversiell och känslig. Nu föreslår företaget en lösning – ett slags etiskt råd på 40 personer. Wired har fördjupat sig i förslaget:

Facebook will pick the initial cohort, saving it from the Kafkaesque process of drafting a separate committee to pick the final committee. After that, the members will pick their own successors, none of whom may be Facebook employees, past or present, or government officials. Board members will split into smaller panels to deliberate on individual cases and will choose their own dockets, based on referrals from Facebook users and from Facebook itself. Their collective decisions will be public, but their individual votes won’t be. (…)

With the board, Facebook is designing oversight in its own image. In doing so, it’s also opening itself up to a new wave of criticism about which 40 experts it considers to be worthy of the public trust.

Initiativet är begripligt. Möjligen kommer det att höja nivån på vissa beslut. Samtdigt är antalet fallgropar närmast oändligt.

Och i slutändan landar det i ett nu för tiden ständigt problem: Att makten över det fria ordet flyttas från lagarna och rättsväsendet till privata företag och deras användarvillkor.

Wired: Real Facebook Oversight Requires More Than a 40-Expert Board »

EU:s glömda förslag om automatiserad nätcensur

Samtidigt som debatten rasar om uppladdningsfiltret i EU:s nya direktiv om upphovsrätt finns ännu ett förslag som innehåller automatiserad nätcensur: Regulation on Dissemination of Terrorist Content Online.

Det handlar om en ny förordning som skall stoppa terrorelaterat innehåll på nätet. (Av erfarenhet vet vi att sådana förslag, på något magiskt sätt, snabbt brukar utökas med det luddiga begreppet hatfullt innehåll i största allmänhet.)

Förordningen stadgar inte bara att visst innehåll snabbt skall plockas bort av de plattformar där det publiceras. Den kräver även att sådant material inte skall kunna laddas upp igen, när det väl plockats ner.

Hur man än vänder och vrider på frågan – så innebär detta att allt som laddas upp måste granskas, analyseras och i förekommande fall censureras. Vilket är en övermänsklig uppgift. Så detta måste hanteras automatiskt.

Åter flyttas alltså frågan om yttrandefrihet och censur från lagar och domstolar till nätplattformarnas användarvillkor och algoritmer. Vilket inte är lämpligt i en demokratisk rättsstat.

Läs mer: WITNESS brings together voices to push back on dangerous EU “Dissemination of Terrorist Content” proposal »

Regeringsförklaringen: Mer övervakning

Sverige har fått en ny regering. I sin regeringsförklaring meddelade statsminister Stefan Löfven idag (S) bland annat följande:

  • Ny lagstiftning om datalagring överlämnas till riksdagen i närtid. 
  • Polisen ges rätt att besluta om kameraövervakning på allmän plats.
  • Oregistrerade kontantkort till mobiltelefoner förbjuds.
  • Terroristlagstiftningen skärps.
  • Säkerhetspolisen ges möjlighet att läsa krypterad trafik.

Mer övervakning och kontroll, med andra ord.

En annan intressant punkt är att »En ny myndighet inrättas för att stärka det psykologiska försvaret mot bland annat påverkans­operationer.« Detta kan betyda lite vad som helst. Från att på riktigt försvara demokratin till något slags sanningsministerium.

Det skall också bli intressant att se vad »En oberoende institution för mänskliga rättigheter inrättas« innebär. Det kan bli något bra, men lika gärna en papperstiger eller ett politiskt verktyg.

Även punkten »Ett system med kronvittnen utreds« är intressant – då ett sådant system lätt kan missbrukas. (Rättssäkerhet är samtidigt en fråga som i princip lyser med sin frånvaro i regeringsförklaringen.)

Här finns med andra ord mycket att hålla ögonen på. Förmodligen ligger förslagen om ny datalagring och om hemlig dataavläsning i princip klara på Justitiedepartementet.

Länk: Regeringsförklaringen »

/ HAX

Skarpt läge om nätcensur och »länkskatt« i EU

Nu går hanteringen av EU:s nya direktiv om upphovsrätt in i sin slutspurt. Och mycket talar för att såväl förslagen om nätcensur (uppladdningsfilter, artikel 13) och »länkskatt« (artikel 11) kan komma att klubbas igenom. Detta om inte internet, dess aktivister och andra vänner av ett öppet samhälle genast höjer sina röster.

Fredag den 18 januari behandlas frågan på nytt i EU:s ministerråd. Måndag den 21 januari hålls den sista förhandlingsrundan mellan Europaparlamentet, ministerrådet och EU-kommissionen. Sedan klubbas direktivet i Europaparlamentets plenum vid någon av följande sessioner: 25-28/3, 11-14/4 eller 15-18/4.

En sammanställning av läget i sak finner du hos den tyska, piratpartistiska ledamoten av Europaparlamentet, Julia Reda: Article 13 is almost finished – and it will change the internet as we know it »

Sammanfattningsvis ser det ut som om man tänker gå vidare med det uppladdningsfilter som kommer att tvinga nätplattformar som Youtube, Facebook, Twitter m.fl. att filtrera och analysera all text, alla bilder, allt ljud, all musik och all video som alla användare laddar upp. För att sedan, i förekommande fall, censurera innehåll – i en process som står helt utanför rättsstatens normala rutiner.

Detta kommer att slå hårt mot all sorts fria kreatörer. Youtube överväger att helt blockera användare från EU om förslaget blir verklighet – då en filtrering av allt som alla lägger upp kommer att bli komplicerad, dyr och förmodligen omöjlig att genomföra.

En konsekvens kan komma att bli att de sociala plattformarna kommer att skalas av till att i princip bara innehålla bilder på folks lunch. Detta kommer att bli ett slag mot hela samhällsdebatten på nätet. Och ett steg tillbaka från en uppkopplad värld där vi delar all världens kunskap och kultur.

Samtidigt kommer den så kallade »länkskatten« (som kräver licensiering av allt mediematerial som delas) att göra det svårt, dyrt eller rent av omöjligt att länka in nyheter ur samhällsdebatten på sociala plattformar. Detta är ett hot mot den fria, demokratiska debatten.

Nu är det dags att höja sin röst och protestera – till försvar för ett fritt och öppet internet. Till försvar för en levande samhällsdebatt. Till försvar för informationens frihet. Till försvar för kreativitet, kunskap och fri kultur. Till försvar för ett öppet informationssamhälle.

Nu är det upp till dig att säga ifrån, om du inte vill leva i ett tystare och censurerat samhälle.

/ HAX

P.S. Demonstrera gärna mot artikel 11 & 13 på lördag den 19 januari »

Vänstern, finansbranschen och det fria ordet

En företeelse i tiden är att man försöker tysta politiska motståndare. Mest uppmärksammade är kanske de amerikanska universitetens »Social Justice Warriors« (SJW) – som ofta försöker hindra akademiker och andra från att tala och hålla föreläsningar.

Detta har spridits ut i samhället i övrigt, till exempel i form av »de-plattformering«. Det vill säga att frispråkiga samhällsdebattörer och nätprofiler får basen för sin ekonomiska existens undanryckt.

Det kan handla om att man försöker förmå annonsörer att bojkotta vissa internetprofiler, som framförallt vänstern upplever som utmanande. Detta kan ske direkt – eller indirekt, genom påtryckningar mot plattformar som till exempel Youtube.

Men det kan även ta sig formen att samhällsdebattörer får uppleva hur arbetsgivare och uppdragsgivare tar sin hand ifrån dem – efter organiserade kampanjer från politiska motståndare.

Detta är ett fenomen som i princip alltid riktas mot samhällsdebattörer som befinner sig på politikens högra planhalva. Och de organiseras i princip alltid av vänsterkrafter. Vänstern såväl definierar som surfar på vad som anses vara politiskt korrekt.

En intressant aspekt av detta fenomen är att allt fler företag ställer sig på samma sida som de som vill tysta andra.

Till exempel har vi sett hur Patreon kastat ut nätprofiler (som inte gjort något mer uppseendeväckande än argumenterat för en åsikt) från sitt nätverk – på vilket läsare, tittare, lyssnare och följare kunnat ge ett månatligt ekonomiskt bidrag.

Detta leder i sin tur till att många – både givare och mottagare – kommit att bojkotta Patreon och söka sig till andra alternativ. Alternativ som sedan kommit att bojkottas av centrala betalningsförmedlare, som kreditkortsföretagen och PayPal.

Här går alltså stora, globala finansbolag in och spelar en aktiv roll i de-plattformering och i att tysta fria röster.

Detta är inget nytt fenomen. När jag jobbade i Europaparlamentet lyfte vi frågan om att kreditkortsföretagen vägrade befatta sig med Wikileaks. Resultatet blev att parlamentet uttalade att sådana bojkotter är problematiska och ett ofog.

På ett annat plan har vi kunnat se hur samma betalningsförmedlare stängt ner sina betalningskanaler för till exempel postorderföretag som säljer sexleksaker. Av »moraliska« skäl.

Finansbolag har naturligtvis rätt att göra affärer med vem de vill. Men de bör också betänka sitt ansvar, när de innehar en dominerande position på marknaden för betalningsförmedlare.

Den rimliga principen borde vara att acceptera betalningar för all verksamhet som är laglig – istället för att agera moralpolis, utifrån subjektiva värderingar och diverse påtryckningar.

På sikt är en sådan princip den enda hållbara – eftersom de aktuella bolagen annars inte kommer att kunna freda sig mot allehanda särintressen som vill tysta och skada andra.

Det bör även ligga i dessa betalningsförmedlares och finansbolags långsiktiga intresse att låta lagstiftning – och inget annat än lagstiftning – styra vilka aktörer de befattar sig med. Detta inte minst då de själva, i sin verksamhet är beroende av en fungerande rättsstat.

/ HAX

Relaterat:
• Frihetsfana under Sargon of Akkad »

FN-kritik mot EU:s förordning om spridning av terrorisminnehåll online

Kritiken växer mot EU:s föreslagna förordning om »förhindrande av spridning av terrorisminnehåll online«. European Digital Rights – EDRi – rapporterar att tre av FN:s tyngsta rapportörer (yttrandefrihet, privatliv och mänskliga rättigheter i relation till kontraterrorism) har allvarliga invändningar.

Speciellt saknar man tydliga definitioner av vad som skall anses rymmas inom den luddiga och klumpiga formuleringen terrorisminnehåll.

»As Commissioner Mijatović argues, governments frequently design counter-terrorism legislation that can lead to a dangerous curb of the freedom of expression by relying on hasty implementations and insufficiently clear definitions. Citing examples from Russia, the United Kingdom, France, Turkey and Spain, the analysis compellingly outlines the inherent dangers of “catch-all” labels such as “glorification of terrorism” and the use of counter-terrorism legislation to suppress political opponents, especially (but not only) in countries where the rule of law is endangered or abolished.«

Varningen gäller inte minst det luddiga begreppet »glorification of terrorist acts« – som kan betyda i stort sett vad som helst.

Vi kommer inte att kunna påstå annat än att vi blivit varnade.

Andra problem är att den tidsram (en timma) inom vilken anmält material skall plockas bort inte tillåter någon seriös rättslig prövning. Samtidigt är det fortfarande oklart vilka myndigheter (och vilken deras rättsliga kapacitet skall vara) som skall kunna beordra att innehåll censureras.

FN-rapportörerna oroas också över att denna förordning kan öppna för påtryckningar från myndigheter till nätplattformarna om att även censurera material som inte är olagligt, utan bara anses vara oönskat.

Kritik riktas även mot att förordningen i praktiken kommer att kräva automatiserad filtrering av allt uppladdat material.

I det stora hela är denna förordning ytterligare ett steg på den väg där inskränkningar i yttrandefriheten flyttas från lagstiftning till användarvillkor – och från rättsväsendet till privata nätföretag. Vilket är problematiskt, om vi vill leva i en fungerande demokratisk rättsstat.

EDRi – Terrorist Content Regulation: Warnings from the UN and the CoE »
EU:s ministerråd – Terrorisminnehåll online: rådet antar förhandlingsposition om nya regler för att förhindra spridning »

/ HAX

Fortsatt rättsröta i jakten på fildelare

Jäv, missriktad lagstiftning och uppenbara misstag av domstolen… Absurditeterna i jakten på fildelare bara fortsätter. Internetoperatören Bahnhof berättar om det senaste:

Copyright Management Service (CMS) är en upphovsrättsfirma ledd av VD Patrick Achache som etablerat sig i Sverige i samarbete med advokatfirman Njord Law Firm och står bakom mer än hälften av alla ”fildelarbrev” som skickats till svenska hushåll. Samma Patrick Achache driver även bolaget MaverickEye som har utvecklat övervakningssystemet MaverickMonitor som påstås identifiera fildelning och används som domstolsbevis av CMS själva. Att CMS och MaverickEye har samma ägare framgår inte i domstolsansökningarna – tvärtom framställs MaverickEye som ett oberoende företag.

Vilket i praktiken innebär att domstolen accepterar målsägandes egna påståenden som bevis. Så får det naturligtvis inte gå till i en rättsstat.

Totalt handlar det om utpressningsbrev till påstådda fildelare på minst 100 miljoner kronor.

Bahnhof: Utpressningsbreven – Samma person bakom både breven och bevisen »

Utpressningskollen »

Säpo kräver datalagring och trojaner

Samtidigt som polisens användning av hemliga tvångsmedel (avlyssning) ökar, vill Säkerhetspolisen ha mer övervakning.

I ett pressutspel pekar Säpos chef, Klas Friberg, på tre punkter.

Den kanske minst kontroversiella punkten är att ge Säkerhetspolisen rätt att ta del av uppgifter från signalspaning även under pågående förundersökning. Detta är en konsekvens av FRA-lagstiftningen, som jag aldrig riktigt lyckats förstå. Om man ändå redan bedriver signalspaning är det bara märkligt denna information – som man alltså ändå samlar in – inte får användas i pågående förundersökningar. Eller missar jag något här?

Nästa punkt är att Säpo vill att datalagringen – som EU-domstolen upphävt på grund av att den strider mot grundläggande mänskliga rättigheter – skall återupptas.

Vilket får mig att undra: Om Säpos uppgift är att försvara den svenska demokratin, varför envisas man då med att vilja ha verktyg för övervakning som EU:s högsta domstol anser vara i strid med den demokratiska rättsstatens principer?

Den tredje punkten handlar om kryptering och stats-trojaner. Säpo ogillar kryptering, eftersom den gör det svårare för dem att övervaka folk. Samtidigt är kryptering ett viktigt, ofta nödvändigt verktyg för företag, organisationer och individer.

Att skapa bakdörrar till kryptering vore att underminera säkerheten för alla, inklusive för centrala samhällsfunktioner. Det skulle öppna dörren för allehanda cyberbrottslingar och främmande stater.

Detta vill Säpo lösa genom så kallad hemlig dataavläsning, det vill säga en stats-trojan. Genom att i hemlighet installera spionprogramvara på folks datorer, plattor och telefoner vill man kunna avlyssna, övervaka och se alla filer och allt som görs på enheten. På så sätt kommer man bland annat att komma åt information när den – i okrypterat tillstånd – skrivs in eller läses.

Återigen handlar detta om ett verktyg som – när det hamnar i orätta händer, vilket det förr eller senare kommer att göra – försämrar säkerheten för alla. Det är rena drömmen för brottslingar, spioner och trollfabriker.

Säpo borde vara angeläget om att öka IT-säkerheten, inte medvetet försvaga den.

Slutligen: Det är ingen som protesterar mot att man övervakar människor som är misstänkta för brott eller som utgör en påtaglig fara för andra. Men detta måste gå att lösa utan svepande massövervakning av hela folket – och utan att underminera vårt samhälles IT-säkerhet.

/ HAX

Idag röstar EU:s ministerråd om automatiserad nätcensur

Just nu sitter EU:s justitie- och inrikesministrar i möte för att klubba medlemsstaternas position vad gäller en ny förordning om terror-relaterat innehåll online – 2018/0331(COD) Proposal for a Regulation of the European Parliament and of the Council on preventing the dissemination of terrorist content online – general approach. (PDF»)

Förslaget innebär i korthet att terror-relaterat material som laddats upp av användare på sociala plattformar skall avlägsnas inom en timma från det att en (ej närmare definierad) nationell myndighet gjort plattformen uppmärksam på dess existens.

Till att börja med kan man konstatera att även om detta är en förordning (som skall tillämpas rakt av), så ger den medlemsstaterna en öppning för att hänga på ytterligare skäl för censur som kan använda samma verktyg. (Se till exempel tyska NetzDG – som använder liknande verktyg för att rensa sociala plattformar från »hat«. Vilket visat sig vara ett reellt hot mot det fria ordet.)

I sak är definitionen av terror-relaterat innehåll fortfarande vag. Jag är inte helt övertygad om att justitieminister Morgan Johansson (S) har helt torrt på fötterna när han säger att »Vi har varit angelägna om att det här ska handla om det som är straffbart. Alltså till exempel att uppmana till terrorhandlingar eller råd kring hur man kan begå olika terrorhandlingar.« Och mycket riktigt fortsätter han i nästa andetag med en brasklapp. »Sedan finns det en gråzon, sådant man tycker är olämpligt, men som inte är straffbart.«

Dessutom finns klara signaler i förordningens inledande text som gör det rätt klart att man gärna ser att de sociala plattformarna hanterar sådant här inom ramen för sina användarvillkor. Vilket dels riskerar att leda till överfiltrering och dels gör den enskilda användaren rättslös. (Rätten till överprövning gäller bara om beslutet om att avlägsna innehåll kommer från myndigheterna.)

Ett allvarligt problem är att denna förordning kräver övervakning, kontroll och analys av allt som alla laddar upp på t.ex. Facebook, Twitter och Youtube. Det gäller allt du skriver, alla bilder du lägger upp och allt du länkar till. Även om det bra är en bild från julfesten.

Dels talar förordningen om proaktiva åtgärder. Dels stadgar artikel 6:2 att plattformarna skall hindra att sådant material som en gång plockats ner inte skall kunna publiceras igen. Här talas uttryckligen om att använda »automatiska verktyg« – det vill säga automatisk filtrering – det vill säga automatiserad censur.

Man vill även att dessa verktyg skall användas för att upptäcka, identifiera samt avlägsna eller blockera terror-relaterat innehåll på plattformarnas eget initiativ.

Det råder alltså ingen tvekan om att förlaget kommer att leda till automatiserad filtrering, syftande till censur, av allt.

(Som av en händelse kommer detta förslag samtidigt som EU diskuterar automatisk filtrering, syftande till censur – när det gäller upphovsrättsskyddat innehåll. Möjligen försöker man slå två flugor i en smäll.)

/ HAX

Edit: Nästa steg blir Europaparlamentet. Om parlamentet gör större ändringar blir det förhandlingar. Om parlamentet säger ja, då är det klappat och klart.

Läs även EDRi – Terrorist Content Regulation: Civil rights groups raise major concerns »