Femte juli

Nätet till folket!

Yttrandefrihet

Yttrandefriheten är en förutsättning för våra övriga fri- och rättigheter samt för ett öppet, demokratiskt samhälle. Idag är yttrandefriheten under attack från såväl statliga som privata aktörer och från politiska grupperingar som vill tysta sina motståndare.

EU-kommissionen vill att det corona-stängda Europaparlamentet godtar nya uppladdningsfilter

av

Se till att få tummen ur när det gäller förordningen om terror-relaterat innehåll online (TERREG/TCO). Det är budskapet från EU-kommissionär Ylva Johansson i ett brev till Europaparlamentet.

Mycket av EU:s lagstiftningsarbete har fått läggas åt sidan när all kraft nu fokuseras på corona-krisen. Europaparlamentets ledamöter är inte på plats, de flesta planerade sammanträden har skjutits upp och behandlingen av många ärenden har försenats.

Men EU-kommissionen menar att det finns saker som inte kan vänta. Till exempel EU-förordningen om terror-relaterat innehåll online. Så nu vill kommissionen att Europaparlamentet tar tag i frågan – oavsett om dess verksamhet är igång eller ej. Det kan lösas med onlinemöten, manar Ylva Johansson på i ett brev till ordföranden för utskottet för medborgerliga fri- och rättigheter.

Några egentliga sakliga skäl till varför det är så bråttom anger hon dock inte.

Här är några problem med förordningen:

  • EU:s ministerråd (medlemsstaterna) vill att terror-relaterat innehåll skall tas bort inom en timma. Europaparlamentet menar att det räcker med att säga att det skall ske så fort det är praktiskt möjligt.
  • Ministerrådet vill radera material även om det lagts upp i syften som utbildning, journalistik, konst eller forskning. Detta motsätter sig parlamentet.
  • Ministerrådet vill att en myndighet även skall kunna beordra borttagning av material i andra länder. Parlamentet menar att man måste gå via respektive lands myndigheter.
  • Ministerrådet kräver att nätets olika service providers skall åläggas att upptäcka, identifiera och blockera terror-relaterat innehåll. Parlamentet säger nej till de uppladdningsfilter detta skulle kräva.

Möjligen hoppas ministerrådet och kommissionen kunna köra över parlamentet om förhandlingarna stressas igenom online, istället för att beredas i vanlig ordning. Här sitter det kroatiska EU-ordförandeskapet i kommissionens knä. Om frågan däremot skjuts upp till efter sommaren blir det en fråga för det tyska ordförandeskapet – som faktiskt sägs vilja ha en del förändringar och förbättringar i texten.

Här skall man komma ihåg att de riktlinjer som nu slås fast kan komma att bli vägledande även för andra, framtida områden där EU anser att information bör blockeras eller censureras. Till exempel kan det bli vägledande för hur man tänker sig att hantera »hat och hot« på nätet i den kommande Digital Services Act. (Ärenden relaterade till upphovsrätt är delvis en annan sak och regleras i EU:s nya upphovsrättsdirektiv, som också kan komma att resultera i uppladdningsfilter.)

Länkar:
• MEP Patrick Breyer (PP, DE) ger en översikt vad gäller ministerrådets och parlamentets positioner »
• Video: Everything you need to know about the TCO regulation (TERREG) »
• EDRi: Terrorist Content Online Regulation: Time to get things right »
• EDRi: Open letter: Civil society urges Member States to respect the principles of the law in Terrorist Content Online Regulation »
• MEP Marcel Kolaja (PP, CZ) »
• EU Terrorist Content Regulation Rights Sell-Out »
• TERREG: Ännu ett akut hot mot ett fritt och öppet internet »

Ungern: Det fria ordet offras i coronakrisens spår

av

Ungerns premiärminister Victor Orbán har i samband med coronakrisen fått så gott som obegränsad makt. Beslutet är förvisso fattat i god demokratisk ordning av det demokratiskt valda parlamentet. Vilket visar hur demokratin paradoxalt nog kan avskaffa sig själv.

Frågan är vad som kommer att ske när krisen väl är över. Kommer Orbán då att återställa den demokratiska ordningen – eller behålla makten själv?

Vad vi redan nu vet är att det fria ordet inskränks i Ungern. SVT rapporterar:

»Samtidigt infördes möjligheten att straffa personer, såväl privatpersoner som journalister, som publicerar falska nyheter om coronaviruset med upp till fem år i fängelse.«

Falsk information som syftar till att destabilisera samhället är naturligtvis ett verkligt problem. Men det bästa sättet att bemöta sådan är med mer, korrekt information.

Vad som är falsk information är inte heller kristallklart. Risken är naturligtvis att den ungerska regimen kommer att använda sin nya makt till att tysta kritik, dölja missförhållanden och strypa den fria debatten. Vilket står i direkt konflikt med det demokratiska samhällets grundläggande principer.

Nu skall noteras att det – i det aktuella läget – inte alls är otänkbart att fler länder inskränker det fria ordet mer än vad som redan skett. I så fall måste detta uppmärksammas. För tyvärr finns en tendens att när länder som Ungern och Polen inskränker friheten – då undgår samtidigt andra EU-länder kritik, trots att de gör liknande saker.

Vi befinner oss i en situation där vad som helst kan hända. Så låt inte – den berättigade – kritiken mot Ungern göra oss blinda för vad som kan ske i våra egna länder.

Nu stresstestas det öppna samhället

av

Låt mig börja med att säga att jag inte tror annat än att de åtgärder som nu sätts in mot coronaviruset införs med de bästa intentioner och utan baktankar. De är förmodligen rimligt rätt och nödvändiga.

Men vi skall hålla i minne att det är en sak att införa frihetsinskränkningar – och en helt annan att avskaffa dem. Det är lätt hänt att makthavare ser sin sin chans att istället göra dem permanenta. »Slösa aldrig bort bort en bra kris« – som det politiska ordspråket säger.

Kommer till exempel insamlingen av den (förvisso anonymiserade) mobildata som EU nu vill ha att upphöra när krisen är över? Eller kommer den politiska makten och dess funktionärer att inse vilken oerhört rik källa till information om folket sådan data är? Så att de kan betrakta oss från ovan, som en myrstack – även efter krisen.

Snart kommer attackerna på det fria ordet och mot ett fritt och öppet internet. Det är bara en tidsfråga.

Detta är förvisso första gången mänskligheten möter en livestreamad existentiell kris i en uppkopplad värld. Så vi rör oss på delvis outforskad mark.

Och när nu även vanliga människor kan göra sin röst hörd online, ifrågasätta och lägga sig i – då blir det fria ordet på nätet lätt ett störningsmoment för överheten.

Detta medan internet i själva verket är det nya, fantastiska verktyg som vi kan använda för att så snabbt som möjligt bygga upp vår värld igen efter krisen. Och som låter oss arbeta, kommunicera och beställa hem mat (och prylar från Amazon) på ett smittsäkert sätt.

Möjligen kan man befara att traditionell media och internet ibland är en olycklig kombination. Jag har påpekat det tidigare:

Den nyhetscykel som förr var något dygn är i vår uppkopplade tid på sin höjd ett par timmar. Allt måste ständigt drivas framåt. Läsarna måste ges omedelbar tillfredsställelse och man måste få större genomslag än konkurrenterna. Varje klick är viktigt.

Så media måste alltid ha något nytt att komma med – för att hålla sig flytande. Vilket kan bidra till att skruva upp tonläget och skapa något slags masspsykos.

Jag tror helt enkelt att medias sensationalism i sammanhanget är ett större problem än att vissa vanliga människor gapar och bär sig åt i sociala media.

Detta sagt utan att undervärdera krisens djup och allvar. Men få saker blir bättre av att vi stressar upp oss över sådant som ännu inte har inträffat – och i många fall aldrig kommer att inträffa. Om inte annat för att människor i panik tenderar att fatta sämre och mindre rationella beslut än de som håller huvudet kallt.

 

Corona-krisen: Youtube övergår till mer automatisk granskning av innehåll

av

Youtube meddelar:

»Our Community Guidelines enforcement today is based on a combination of people and technology: Machine learning helps detect potentially harmful content and then sends it to human reviewers for assessment. As a result of the new measures we’re taking, we will temporarily start relying more on technology to help with some of the work normally done by reviewers. This means automated systems will start removing some content without human review, so we can continue to act quickly to remove violative content and protect our ecosystem, while we have workplace protections in place.«

Mänskliga granskare sänds alltså hem – av smittskyddsskäl. Maskinerna tar över.

Utan att ta ställning till om detta är nödvändigt eller ej, så kommer det att innebära en mer fyrkantig granskning av innehåll – då maskiner som bekant har problem med kontext, satir och ton. Youtube medger det själva:

»As we do this, users and creators may see increased video removals, including some videos that may not violate policies.«

I takt med att corona-krisen breder ut sig får vi nog räkna med att maskinell granskning av innehåll kommer att bli allt vanligare, både på Youtube och andra plattformar. Häromdagen fick till exempel Facebooks granskande algoritmer fnatt – även då på grund av att krisen medfört neddragning av mänsklig granskning.

En sak att vara uppmärksam på är om trenden mot mer automatiserad granskning kommer att hålla i sig även efter krisen. Det håller ju till exempel nätplattformarnas kostnader nere.

Facebooks censur-bugg visar risken med uppladdningsfilter

av

Igår fick Facebooks algoritmer fnatt och började censurera / spam-märka helt seriösa länkade artiklar från etablerad media – vilket fick som konsekvens att folk inte kunde dela dem.

Enligt uppgift skall ett underliggande problem vara att den pågående smittspridningen reducerat Facebooks stab av mänskliga granskare av innehåll. När systemet då började få egna idéer tog det därför ett tag innan det upptäcktes och kunde åtgärdas.

Kan man få ett bättre exempel på riskerna med automatisk filtrering av uppladdat innehåll?

Ändå är det precis vad som krävs med EU:s nya upphovsrättsdirektiv. Då måste allt som laddas upp (bild, text, ljud, rörliga bilder, filer) granskas, analyseras och godkännas. Det samma gäller med den föreslagna EU-regleringen mot terror-relaterat innehåll på nätet – för att kunna blockera visst innehåll måste allt som laddas upp förhandsgranskas och analyseras.

Med tanke på volymerna måste denna granskning utföras av maskiner som saknar känsla för till exempel kontext, även om det förhoppningsvis kommer att finnas något sätt att begära omprövning inför en människa.

EU är på väg att driva oss in i en situation där vi inte bara får förhandscensur – utan även automatiserad förhandscensur utförd av humorfria maskiner.

Det är inte acceptabelt.

TERREG: Ännu ett akut hot mot ett fritt och öppet internet

av

EU fullständigt sprutar ur sig lagförslag efter lagförslag som på ena eller andra sättet underminerar internets öppenhet och frihet.

2019 förlorade vi kampen mot EU:s upphovsrättsdirektiv – och de uppladdningsfilter som är tänkta att hindra oss från att ladda upp information på nätet som är eller kan misstänkas vara upphovsrättsskyddad.

Med detta etablerades principen om automatiserad förhandscensur i EU:s regelverk.

Och nu är en förordning om terror-relaterat innehåll på internet (TERREG) i hög fart på väg genom EU:s beslutsapparat.

Med denna förordning vill EU omöjliggöra uppladdning – det vill säga publicering – av sådant som kan anses vara »terror-relaterat«. Inte ens vetenskapen, journalistiken eller konsten kommer att undantas, om ministerrådet får som det vill.

Det kan förvisso vara rimligt att försöka hålla nätet fritt från terroristers propaganda och infotainment. På samma sätt som det kan vara rimligt att vänligt men bestämt skjuta alla åt sidan som de facto är beredda att angripa det civiliserade västerländska samhället med våld.

Detta måste ske med största respekt för det fria ordet, våra fri- och rättigheter och det demokratiska samhällets principer. Tyvärr verkar TERREG inte ta dessa faktorer på det allvar de förtjänar.

Men låt oss utgå från att terror-relaterat innehåll på nätet skall bort. Exakt vad är det då som skall bort? Var går gränsen mellan vad som är acceptabelt och oacceptabelt?

Här måste etableras något slags standard. Och plötsligt har vi nya lagar om vad som får respektive inte får publiceras på internet. Med allt vad sådant brukar medföra av oförutsedda och oönskade konsekvenser.

Men även om vi bortser från sådana invändningar är förslaget till förordning illa skrivet.

Till exempel föreslås att terror-relaterat innehåll på nätet skall vara avlägsnat inom en timma. När så är tekniskt möjligt, vill Europaparlamentet tillägga. Vilket ministerrådet tjurskalligt motsätter sig.

Och i andra ändan av systemet har vi uppladdningsfiltret. Ministerrådets position:

»Hosting service providers shall use “proactive measures” to prevent the re-upload of content previously taken down and to detect and identify alleged terrorist content.«

På andra sidan står Europaparlamentet som säger nej till uppladdningsfilter. Parlamentet tvingas även påpeka att vi bara kan stifta lagar som gäller i EU – och att rådets krav på global filtrering inte är möjligt.

Detta är bara några av problemen med TERREG. Vi kommer att återkomma med fler bloggposter i ämnet. Om du vill läsa mer rekommenderas följande länkar.

• Bland andra Tim Berners-Lee, Vint Cerf och Bruce Schneier varnar för TERREG: Nätpionjärer varnar för EU-förslag mot terror-relaterat innehåll på internet »

• Den tyske piratpartisten i Europaparlamentet, Patrick Breyer, sitter med i den trialog i vilken EU:s olika institutioner försöker komma överens om TERREG. Läs hans genomgång av ärendet här »

Nästa trialog-förhandling är planerad till den 18 mars, om smittoläget tillåter.

Internet och fri information – smittans motkrafter

av

Det är i tider som dessa som vi skall vara tacksamma för att vi har ett fritt och öppet internet.

Och hade Kina inte strypt den fria informationen – då hade vi haft minst ett par, tre veckor extra för att förbereda oss för coronaviruset. Spridningen hade varit mindre.

Men nu är det som det är. Tack vare att vår del av internet är fritt och öppet kan vi skaffa oss en rimligt god bild av vad som sker – istället för att behöva spekulera.

Om det blir störningar i den fysiska världens logistik – då kan man ändå hålla kontakt med nära och kära över nätet. Och med alla andra.

På nätet kan människor organisera sig för att hjälpa varandra på olika sätt – utan att behöva utsättas för smittorisk. (Till exempel kan själv-isolerade människor behöva hjälp med att få hem mat, om det här drar ut på tiden.)

Online kan vi även följa hur våra valda politiker och våra myndigheter hanterar situationen. Vilket så väl ger oss viktig information som möjlighet att granska hur en eventuell kris möts.

Transparens är i sammanhanget ett centralt begrepp. Människor som får korrekt information kan göra rationella val. Människor utan relevant information är utelämnade till ödet.

Detta är ett av skälen till att vi måste slåss för ett fortsatt fritt och öppet internet och fria informationsflöden.

EU, Sverige och friheten på nätet

av

Friheten – och då inte minst yttrandefriheten på internet är under attack – från den politiska makten.

I EU har man nu ett nytt upphovsrättsdirektiv som öppnat upp för automatisk filtrering av sådant som användare laddar upp på sociala media. Det vill säga automatiserad förhandscensur.

I det EU-direktiv mot terrorrealaterat innehåll på nätet som just nu är under beredning vill medlemsstaterna att oönskat material skall plockas bort inom en timma – inte bara från sociala plattformar utan även från enskilda individers molntjänster, som Dropbox. Vilket förutsätter att även privat information måste övervakas, analyseras och filtreras. Man säger rakt ut att man vill se uppladdningsfilter. Och medlemsstaterna ser i sammanhanget inte något skäl att göra undantag för utbildning, konst, journalistik eller forskning.

Just nu pågår även arbetet med att ta fram en Digital Services Act – som bland annat är tänkt att innehålla gemensamma EU-regler mot hat och hot på nätet – istället för den nationella lagstiftning där bland andra Frankrike och Tyskland är pådrivande. Det finns skäl att tro att genensam EU-lagstiftning på området kommer att utgå från just de länder som har den strängaste lagstiftningen på området.

Även Sveriges »digitaliseringsminister«, Anders Ygeman (S), har varit ute i media och flaggat för att göra plattformarna ansvariga för vad deras användare laddar upp på nätet.

I sammanhanget kan det vara bra att komma ihåg även andra förslag som bollats i EU-apparaten – som ID-krav vid uppkoppling och ett EU-operativsystem.

I den EU-finansierade forskningen finns bland annat projekt som syftar till ökad övervakning av vad folk tycker och säger online. Till exempel PREVISION (A predictive platform running analytics through data obtained from ”online social networks, the open web, the Darknet, CCTV and video surveillance systems, traffic and financial data sources, and many more”.) Och CONNEXION (A predictive policing tool relying on social media, ’dark web’, and IoT data.) Allt kopplat till automatiserad övervakning, beteendeanalys och en uppsjö olika register.

Om man lägger samman alla de olika delarna får man en förfärande helhetsbild. En lång rad olika förslag som vart för sig är problematiska ger tillsammans ett system för övervakning och censur som inte hör hemma i en demokratisk rättsstat.

Politikerna, de vill bara ha mer av samma. Så kommer det alltid att vara. Om vi inte vill leva i en outhärdlig Storebrors-stat måste motståndet därför komma underifrån, från folket. Och det börjar bli ont om tid.

Video: Senaste nätnyheterna

av

Denna vecka: Nätcensur i EU # Varför har EU inga egna nätjättar? # Europol hjälper EU-länder knäcka kryptering # Kommer britterna att lämna ut Assange till USA?

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

Ny tysk lag ännu ett steg på vägen mot automatiserad nätcensur

av

Ny tysk lagstiftning är på väg vad gäller hat och hot på internet.

Politico rapporterar:

Germany is cracking down on hate speech online amid a rise in right-wing extremism, but critics warn that civil liberties will end up as collateral damage. (…)

“Hate crimes should finally end up where they belong — in court,” said the Social Democrat Justice Minister Christine Lambrecht after the bill was approved by the government.

The draft law will force social media companies to proactively report potentially criminal content on their platforms to law enforcement.

Detta innebär att nätplattformarna själva måste identifiera potentiellt olagligt eller olämpligt material, bedöma dess innehåll – och i förekommande fall censurera och rapportera sina användare till polisen.

Den enda praktiska möjligheten att göra detta är med automatiska filter – som inte kan bedöma kontext och som därmed kommer att överfiltrera. Dessutom måste någon (oklart vem) definiera vad som till exempel är att betrakta som hat. Vilket inte alltid är uppenbart.

Lagförslaget är dessutom intressant eftersom tysk och fransk lagstiftning just nu är de drivande krafterna bakom ett gemensamt regelverk för vad som får publiceras på internet – inom ramen för EU:s Digital Services Act.

“There is no question that our society has a problem with right-wing extremism and hate speech,” said Elisabeth Niekrenz of Berlin-based civil liberties organization Digitale Gesellschaft (Digital Society), ”which deeply worries me. But the measures presented [by Lambrecht] infringe people’s right to informational self-determination, open the door for more surveillance, grant law enforcement more powers to intervene and allow for more data collection.”

Politico: German hate speech crackdown sparks censorship fears »