Femte juli Nätet till folket!

Nätet till folket!

Rättssäkerhet

Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.

Facebook får bakläxa i fyra av fem fall av sin nya oversight board

av 2 kommentarer

Facebooks nyinstiftade oversight board – ett slags högsta domstol för att lösa tvister om moderering – har just meddelat vägledande beslut i fem fall. I fyra av dessa kom man fram till att företaget tagit bort inlägg på felaktiga grunder.

Eftersom en del tycks ha fallit bort i översättningen till engelska skall vi inte göra saken värre genom att översätta en gång till. Så vi klipper helt fräckt in vad ArsTechnica rapporterar:

  • A user in Myanmar posted to Facebook that ”Muslims have something wrong in their mindset” (or maybe ”something is wrong with Muslims psychologically”—translations differ) arguing that Muslims should be more concerned about the genocide of Uighurs in China and less focused on hot-button issues like French cartoons mocking the Prophet Muhammad. Facebook removed the post as anti-Muslim hate speech. The Oversight Board re-instated it, finding that it was best understood as ”commentary on the apparent inconsistency between Muslims’ reactions to events in France and in China.”
  • A user wrote that (in the board’s paraphrase) Azerbaijanis ”are nomads and have no history compared to Armenians” and called for ”an end to Azerbaijani aggression and vandalism.” The post was made during an armed conflict between Armenia and Azerbaijan. The board upheld Facebook’s decision to remove it as hate speech.
  • A user in Brazil uploaded an image to raise awareness about breast cancer that featured eight pictures of female breasts—five of them with visible nipples. Facebook’s software automatically removed the post because it contained nudity. Human Facebook moderators later restored the images, but Facebook’s Oversight Board still issued a ruling criticizing the original removal and calling for greater clarity and transparency about Facebook’s processes in this area.
  • A user in the United States shared an apocryphal quote from Joseph Goebbels that ”stated that truth does not matter and is subordinate to tactics and psychology.” Facebook removed the post because it promoted a ”dangerous individual”—Goebbels. The user objected, arguing that his intention wasn’t to promote Goebbels but to criticize Donald Trump by comparing him to a Nazi. The board overturned Facebook’s decision, finding that Facebook hadn’t provided enough transparency on its dangerous individuals rule.
  • A French user criticized the French government for refusing to allow the use of hydroxychloroquine for treating COVID-19. The post described the drug as ”harmless.” Facebook removed the post for violating its policy against misinformation that can cause imminent harm. The board overturned the ruling, concluding that the post was commenting on an important policy debate, not giving people personal medical advice.

Tanken är att dessa beslut skall bli vägledande – även om det inte är helt tydligt hur det är tänkt att gå till.

»The big challenge is that Facebook is far too large—it has 2.7 billion users and 15,000 moderators—for the Oversight Board to review more than a tiny fraction of its moderation decisions. In order for the Oversight Board to have a meaningful impact on Facebook as a whole, the small number of cases it does review must create precedents that are followed by moderators in millions of other cases.«

ArsTechnica: Facebook “Supreme Court” overrules company in 4 of its first 5 decisions »

Frankrike driver på för nätcensur i EU – som strider mot den franska konstitutionen

av Lämna en kommentar

Under våren kommer Europaparlamentet att rösta om förordningen om terror-relaterat innehåll online (TERREG/TCO).

En central punkt i denna är att terror-relaterat innehåll skall tas bort inom en timma. Vilket knappast lämnar utrymme för varesig någon djupare analys eller rimlig rättslig prövning. Vilket är allvarligt. Det är ju trots allt inskränkningar i yttrandefriheten det handlar om.

Ett land som varit pådrivande för TERREG är Frankrike. Samtidigt upphävde landets konstitutionella råd förra året den så kallade AVIA-lagen om hat och hot på nätet. Skälet var att denna lag föreskrev borttagning av innehåll på nätet inom en timma – och att detta inte ansågs rättssäkert.

Frankrike är med andra ord pådrivande för EU-regler som föreskriver åtgärder som landets eget konstitutionella råd redan har underkänt.

Vi befinner oss alltså i en situation där såväl den franske EU-ministern som president Macron hyllar ett förslag som uppenbart strider mot den franska konstitutionen.

Länk: La Quadrature du Net asks for renewed support to challenge TERREG in France »

Dina rättigheter som användare under EU:s Digital Services Act

av Lämna en kommentar

Så här någon månad efter att det presenterats börjar media uppmärksamma EU-kommissionens förslag till Digital Services Act. Viss förvirring tycks råda, speciellt om användares rättigheter. Låt oss därför titta lite närmare på vad som verkligen föreslås.

Olagligt material skall avlägsnas

EU:s medlemsstater skall kunna kräva att olagligt material omedelbart avlägsnas. Och det måste ske under ordnade former.

  • Man måste förklara varför man anser att ett visst innehåll är olagligt – och hänvisa till gällande lagrum.
  • En sådan begäran skall kunna överprövas.
  • Nedtagningar måste vara nödvändiga.

När gäller vad som skall anses vara olagligt finns olika uppfattning i Europaparlamentet om huruvida detta skall avgöras av myndigheter eller domstol.

Användares rättigheter

  • Plattformarna skall upprätta transparensrapporter som visar vilket material som plockats ner på begäran av myndigheterna respektive på plattformarnas eget bevåg.
  • Huvudregeln är att den som anmäler innehåll måste förklara varför, vem hon är och dessutom gå i god för att anmälan är korrekt och motiverad.
  • Den som får material nedtaget / bortmodererat skall snarast informeras om saken, om metoden, om skälet och om möjligheten att överklaga.
  • Sociala plattformar skall ha lättillgängliga och begripliga rutiner för att hantera klagomål.
  • Något slags förlikningsorgan skall etableras för att lösa konflikter mellan service providers och användare utanför det vanliga rättsväsendet.

Detta kommer att rätta till de värsta formerna av godtycke vid moderering – och ger den som postat innehållet relevant information och möjlighet att överklaga. Det är jämfört med idag ett steg framåt för användarna. Men för plattformarna innebär det mycket merarbete, vilket möjligen kan komma att leda till striktare användarvillkor.

Trusted flaggers – statligt godkända nätgranskare

En kontroversiell punkt gäller så kallade Trusted Flaggers – som är tänkta att vara nätgranskare, godkända av EU och respektive medlemsstat. En trusted flagger kan vara en organisation eller annan entitet som representerar »kollektiva intressen«. Detta låter oroväckande. Men det skall i vart fall vara offentligt vilka dessa är – och deras anmälningar skall granskas. En trusted flagger som missköter sin uppgift skall kunna bli av med sitt uppdrag.

Nya regler om vad som är tillåtet att säga

The Digital Services Act reglerar hur innehåll som är olagligt eller olämpligt skall hanteras. Men inte vad. Detta styrs dels genom EU-lagstiftning och dels genom nationell lag. Därför är det av intresse i sammanhanget att EU nu planerar att uppdatera sin lagstiftning på området.

Under detta år kommer EU-kommissionen att lägga fram en ny Code of Conduct on countering illegal hate speech online.

Det är alltså här man kommer att sätta gränserna för vad som kommer att vara tillåtet respektive förbjudet att säga på nätet. Vilket kan bli rätt kontroversiellt.

Frågan är om denna uppförandekod kommer att läggas fram för Europaparlamentet och ministerrådet – eller om man åter kommer att göra upp med branschen bakom stängda dörrar i The European Internet Forum.

Relaterat:
• EU fick Twitter att fimpa Donald Trump »
• Dramatiskt ändrade regler kan vänta sociala medier »

Sociala media efter Trump

av Lämna en kommentar

Till listan över sådant som anges som skäl för att begränsa internets frihet – som fildelning, barnporr, piratprodukter, terrorism, penningtvätt, hat, droghandel med mera – läggs nu alltså även Trumpism.

De sociala plattformarna i allmänhet och Twitter i synnerhet sitter i en jobbig sits. Å ena sidan en statschef som anklagas för att hetsa sina anhängare till att kullkasta de demokratiska institutionerna och deras processer – och en nyvald amerikansk administration  som redan flaggat för att man tänker slå ner på vad man kallar inhemsk terrorism. Å andra sidan det fria ordet och tanken att yttrandefrihetens största värde är när den tillåter människor att säga sådant som andra inte vill höra, eller rent av tysta.

Twitter, Facebook och Google/Youtube befinner sig – som amerikanska företag – ständigt under hot om ny lagstiftning från den för tillfället sittande administrationen.

Gentemot oss användare har de samtidigt ett behov av att framstå som förutsägbara, konsekventa och rättvisa. Vilket är en närmast övermäktig uppgift  – så länge man låter till exempel de politiska ledarna i Ryssland, Iran och Venezuela sprida propaganda för sin icke-/antidemokratiska politik samtidigt som man stänger av Trump.

Lägg till detta problemet med att de tre stora är totalt dominerande vad gäller sociala media. Finns du inte på Twitter, Facebook och Youtube – då finns du inte. Blir du av med ditt konto på Facebook begränsas även dina möjligheter att kommunicera och umgås med släkt och vänner. Samtidigt måste dessa företag naturligtvis ha rätt att sätta upp regler för sin egen verksamhet och att välja bort användare som anses skada densamma.

»Så starta då något nytt istället för att gnälla!« Men så enkelt är det naturligtvis inte. Facebook är plattformen där nästan alla våra vänner befinner sig. Något motsvarande alternativ finns inte. Och människor är bekväma, de vill hellre ha alla sina kontakter på en plattform istället för utspridda på olika håll.

Även om vi ofta brukar skälla på EU för dess nätpolitik, så kan det finnas delar i den föreslagna Digital Services Act som stärker användarnas ställning. Till exempel att den som blir censurerad eller avstängd måste få veta varför – och ges en möjlighet att överklaga. Men det kräver en omfattande manuell hantering av ärenden – vilket plattformarna menar är en praktisk omöjlighet, på grund av de stora volymerna ärenden.

Samtidigt föreslår samma Digital Services Act att det skall införas statligt godkända nätgranskare – så kallade Trusted Flaggers – som företräder vad texten kallar »kollektiva intressen«. Vilket bör få varningsklockorna att börja ringa.

Dessutom har Europol (till synes på eget initiativ) utökat sitt mandat från att inte bara bekämpa brott utan även desinformation. Vilket implicerar att någon, någonstans måste bestämma vad som är att betrakta som sanning – vilket i sin tur inte alltid är uppenbart. Plus att själva idén om att polisen skall lägga sig i vilka åsikter människor framför känns främmande för ett demokratiskt samhälle.

Enklast är kanske om man kunde enas om att bara ta bort sådant som är olagligt. Men det medför en ny uppsättning problem, speciellt med tanke på att internet inte känner några nationsgränser.

Den samlade bilden ger vid handen att vi har en närmast omöjlig situation av motstridiga intressen och principer – och att det tills vidare är det nya normala.

Video: Aktuella nätnyheter

av Lämna en kommentar

Kommenterade nätnyheter:
EU-förordningen om terror-relaterat innehåll online (TERREG/TCO)
EU:s Digital Services Act (DSA)

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

SwebbTV – godkänd av staten men stoppad av Youtube

av 2 kommentarer

Web-tv-kanalen SwebbTV – med 65.000 följare – har raderats från Youtube.

Jag har bara sett enstaka avsnitt och kan inte riktigt uttala mig om dess innehåll. Jag vet inte heller om kanalen brutit mot Youtubes användarvillkor. Och det får inte ens SwebbTV själva veta. Men här finns en del detaljer som är värda att notera.

Under hösten fick SwebbTV mediestöd beviljat från Myndigheten för press radio och tv.

Sådant stöd omfattas av en rad regler.  Mediestödsförordningen säger bland annat:

3 a § Vid prövningen av frågor om redaktionsstöd för 2020 ska med allmänt nyhetsmedium även avses en del av en radio- eller tv-kanal om denna del har till sin primära uppgift att bedriva nyhetsbevakning och också har ett redaktionellt innehåll bestående av regelbunden och allsidig nyhetsförmedling som ger uttryck för ett brett utbud av ämnen och perspektiv samt granskning av för demokratin grundläggande skeenden.

I och med att man beviljats mediestöd bör SwebbTV, i statens ögon, vara att betrakta som någon form av »riktig« media.

Vilket gör Youtubes beslut en smula uppseendeväckande.

Fallet belyser även frågor som Youtube/Googles dominerande ställning, politiska drev som leder till deplattformering samt om yttrandefrihet i dagens medielandskap.

Framförallt är det problematiskt att det inte finns någon praktisk möjlighet att överklaga sådana här beslut – eller ens få reda på skälen till att material plockas bort / en kanal stängs ner. (Möjligen kan det bli en ändring på den saken med EU:s nya Digital Services Act.)

Med risk för att tjata: Allt skulle bli så oerhört mycket enklare för alla om man tillämpade en generell regel som säger att endast material som är olagligt kan plockas bort. Om inte annat skulle Youtube och de andra plattformarna då slippa misstanken om att de är politiskt partiska.

Några länkar:
• Bulletin: Kanalen Swebbtv raderad från Youtube »
• SwebbTV:s nya site »
• Newsvoice: Anna Wikland ansvarig för radering av SwebbTV från Youtube – Permanent beslut »
• Newsvoice: Stängningen av SwebbTV lyfts till Riksdagen – Alternativmedia förgörs av repressiva krafter – Exklusiv intervju för NewsVoice »

Vill vi ha statliga ordningsmän på internet?

av 3 kommentarer

Ett av de förslag som förs fram i EU:s nya Digital Services Act (DSA / förordningen om digitala tjänster) är så kallade »trusted flaggers«. Enkelt uttryckt handlar det om statligt godkända ordningsmän på nätet.

Detta har väckt förvånansvärt lite uppmärksamhet, i princip ingen alls. Låt oss kika närmare på förslaget.

  • Trusted flaggers skall vara underordnade nationella Digital Services Coordinators.
  • De skall besitta särskild kompetens för att identifiera och flagga olagligt innehåll på nätet.
  • Ett kriterium är, enligt DSA att »it represents collective interests and is independent from any online platform«.
  • Deras flaggningar skall prioriteras för behandling av nätplattformarna.
  • Det skall vara offentligt vilka dessa trusted flaggers är.
  • De skall kunna bli av med sitt uppdrag om de missköter sig.

På sidan 28, motivering 46 (förklarande memorandum, ej lagtext) finner vi en mer utförlig beskrivning:

»Action against illegal content can be taken more quickly and reliably where online platforms take the necessary measures to ensure that notices submitted by trusted flaggers through the notice and action mechanisms required by this Regulation are treated with priority, without prejudice to the requirement to process and decide upon all notices submitted under those mechanisms in a timely, diligent and objective manner. Such trusted flagger status should only be awarded to entities, and not individuals, that have demonstrated, among other things, that they have particular expertise and competence in tackling illegal content, that they represent collective interests and that they work in a diligent and objective manner. Such entities can be public in nature, such as, for terrorist content, internet referral units of national law enforcement authorities or of the European Union Agency for Law Enforcement Cooperation (‘Europol’) or they can be non-governmental organisations and semi- public bodies, such as the organisations part of the INHOPE network of hotlines for reporting child sexual abuse material and organisations committed to notifying illegal racist and xenophobic expressions online. For intellectual property rights, organisations of industry and of right-holders could be awarded trusted flagger status, where they have demonstrated that they meet the applicable conditions. The rules of this Regulation on trusted flaggers should not be understood to prevent online platforms from giving similar treatment to notices submitted by entities or individuals that have not been awarded trusted flagger status under this Regulation, from otherwise cooperating with other entities, in accordance with the applicable law, including this Regulation and Regulation (EU) 2016/794 of the European Parliament and of the Council.«

Dessa nätgranskare kan alltså vara statliga organ, representanter för vissa särintressen och organisationer.

Detta väcker massor av frågor. Hur tänker man  till exempel förhålla sig till nätgranskare utsedda att flagga olagligt material i länder som inte respekterar de medborgerliga fri- och rättigheterna och som har lagar som går på tvärs med övriga EU (t.ex. hädelselagar och abortförbud)? Hur genomtänkt är det egentligen att ge olika särintressen rollen som censorer – då de ju till sin natur är partiska? Hur har man tänkt förhålla sig till nätgranskare som kan misstänkas ha en politisk agenda?

Detta kan bli en soppa.

Rent spontant känns det som att prioriterad begäran om censur bara borde få begäras av en myndighet, till exempel den nya Digital Service Coordinator som medlemsstaterna förväntas inrätta. Och egentligen borde det inte få ske med mindre än föregående rättslig prövning.

Men att ha allehanda särintressen som nätcensorer utan någon föregående prövning av deras framställningar till nätplattformarna – det känns som upplagt för missbruk och konflikter. Om man alls skall ha trusted flaggers, då borde de snarare rikta sina anmälningar till sin nationella Digital Services Coordinator för prövning.

Det verkar som att EU – åter igen – dumpar frågan om vad som får publiceras på nätet på andra aktörer istället för att reglera det fria ordet genom lag och rättsväsende.

EU begränsar yttrandefriheten i smyg

av 1 kommentar

EU har utvecklat en metod för att införa kontroversiella inskränkningar av nätets frihet bakvägen.

Vi har sett det när politiker vill begränsa det fria ordet på internet. När sådana inskränkningar har varit för kontroversiella eller känsliga – då har man istället utövat påtryckningar mot de sociala plattformarna, så att de gör motsvarande inskränkningar genom sina användarvillkor. Vilket flyttar makten över det fria ordet från lagstiftning och domstolar till privata aktörer. Konsekvensen blir att den enskilde användaren i princip blir rättslös.

Ett annat, aktuellt, exempel är förordningen om terror-relaterat innehåll online. När förslaget om obligatoriska uppladdningsfilter blev för kontroversiellt – då blev de »frivilliga«. Plattformarna åläggs fortfarande ett ansvar för att viss information inte sprids, men lagstiftaren lämnar det till respektive plattform att besluta hur det skall ske. Formellt sett är detta ett steg i rätt riktning. Men i praktiken innebär det att plattformarna ställs inför valet att antingen granska allt som ladas upp manuellt (vilket är en närmast övermänsklig uppgift som skulle kräva en omfattande nyanställning av granskare) eller att använda automatiska uppladdningsfilter. Och då kommer de flesta med säkerhet att välja det senare.

EDRi kommenterar:

»Although authorities can no longer impose the use of automated content filtering tools, platforms are highly encouraged throughout the text to make all efforts to delete terrorist content, including by relying on their terms of services. Given current content moderation practices, it would involve content filtering. The problems of these context-blind, ill-suited technologies remain unanswered and unaccounted for.«

I grunden är detta en demokratifråga. Om man vill inskränka det fria ordet då måste reglerna vara föremål för en öppen och grundlig demokratisk lagstiftningsprocess. Vilket även ger den som drabbats av inskränkningen rätt att få sin sak prövad i domstol, under rättssäkra former.

Det är detta EU gång på gång kringgår.

Regler för elektroniska bevis – en soppa med för många kockar

av Lämna en kommentar

Frågan om elektroniska bevis är en röra. Vad det handlar om är att myndigheterna skall ges möjlighet att säkra bevis i brottsutredningar över gränserna, utan att behöva gå via lokal polis eller andra lokala myndigheter.

Europarådet, EU-kommissionen, FN och USA arbetar samtidigt, var och en på sitt håll, med lagar och regler för eEvidence.

  • Europarådet håller på att uppdatera den så kallade Budapest-konventionen.
  • EU:s ministerråd (vars medlemsstater också är medlemmar i Europarådet och som därmed kommer att underställas den nya Budapest-konventionen) driver på EU-kommissionen för att få fram ett nytt EU-regelverk om eEvidence.
  • FN har redan klubbat en resolution om ett »worldwide mutual legal assistance agreement to fight cybercrime« på initiativ från Ryssland, men mot EU:s och USA:s vilja, och trots protester från människorättsaktivister.
  • EU och USA förhandlar om ett avtal, som lär komma att bygga på den amerikanska Cloud-Act – som enkelt uttryckt ger myndigheterna tillgång till allt.

Allt är en soppa och det känns som om det är för många kockar. Någon egentlig debatt om huruvida olika länder skall kunna begära ut uppgifter från andra länders operatörer och plattformar (istället för att begära rättsbistånd från lokal polis) finns inte. Inte heller syns någon egentlig diskussion om säkerhets- och rättsäkerhetsaspekter. Vad händer till exempel om land X begär ut uppgifter från land Y, för att utreda något som inte är olagligt i land Y?

Läs mer: Electronic Evidence: No simplification for digital investigations yet »

Mer övervakning men få nyheter i Ylva Johanssons EU-plan mot terrorism

av Lämna en kommentar

För den som följer övervakningsfrågorna i EU var det något förvånande när EU-kommissionär Ylva Johansson i radionyheterna i morse meddelade att hon kommer att lägga fram ett förslag för att ge myndigheterna möjlighet att snabbt plocka ner terror-relaterad information och propaganda på internet.

Ett sådant förslag finns nämligen redan: EU:s nya förordning om terror-relaterat innehåll online (TERREG/TCO). Och där pågår förhandlingar mellan kommissionen, rådet och parlamentet. Tanken är att morgondagens trilog-förhandlingar skall vara de sista. Men fortfarande är positionerna låsta. De viktigaste frågorna man förhandlar om gäller:

  • Ministerrådet vill att oönskat material skall plockas bort inom en timma, vilket Europaparlamentet menar är orealistiskt.
  • Ministerrådet vill att myndigheter i en medlemsstat skall kunna beordra nedtagning av innehåll på servrar i andra medlemsstater (eller tredje land).
  • Ministerrådet vill inte se något undantag för journalistik, kultur, forskning, dokumentation etc.
  • Ministerrådet vill se uppladdningsfilter, det vill säga automatiserad nätcensur – vilket parlamentet säger nej till.

Detta är alltså inte något nytt, utan ett ärende som redan dragits i långbänk. Vad det handlar om är att Ylva Johansson försöker öka trycket på parlamentet inför morgondagens förhandlingar.

På det hela taget är det väldigt lite nytt som presenteras i den Counter-Terrorism Agenda for the EU som EU-kommissionen presenterade idag.

Därmed inte annat sagt än att dokumentet listar ett antal kontroversiella åtgärder, även om de i allt väsentligt redan är kända. Exempel:

  • Automatiserad ansiktsigenkänning för identifiering, lokalisering och övervakning av individer.
  • EU:s nya Digital Services Act kommer att presentera en »horisontell« approach till olagligt innehåll online.
  • Ökad kontroll av resenärer genom PNR och samkörning av databaser.
  • Förstärkning av Europols mandat.
  • Man vill kringgå kryptering av privata meddelanden.
  • Förenklat utbyte av digitala bevis mellan medlemsstater.
  • Ett nytt datalagringsdirektiv.

Några nyheter finns dock:

  • 2021 kommer man att uppdatera EU:s Code of Conduct on countering illegal hate speech online.
  • 2021 kommer kommissionen att lägga fram ett förslag om »interconnected bank account registers« – det vill säga en central funktion för att kunna kontrollera alla bankkonton och transaktioner (i detta sammanhang relevant vad gäller terror-finansiering).
  • Man planerar att tillsätta en »Counter-Terrorism Coordinator«.

Även om dagens dokument främst fokuserar på radikal, militant islamism – så omfattar det även höger- och vänsterextremism.

Man har också en uppmaning till medlemsstaterna:

»Ensure that projects which are incompatible with European values or pursue an illegal agenda do not receive support from public funds.«

Ylva Johanssons 25-sidiga handlingsplan innehåller som sagt mest redan kända förslag. Den känns mer som ett papper för att avleda eventuell kritik mot att EU gör för lite för att bekämpa terrorism än som något nytt i sak. Men det kan naturligtvis vara bra att vi nu får EU:s planer på området sammanfattade i ett dokument.

Länkar:
• EU-kommissionens pressmeddelande »
• Counter-Terrorism Agenda for the EU (PDF) »