Automatisk nätcensur i corona-krisens spår

Nej, detta handlar inte om vad man får eller inte får säga om Corona / COVID 19 på sociala media – utan om vad pandemin har inneburit vad gäller censur av övrigt innehåll.

EFF har djupdykt i frågan om vad som händer när moderering av innehåll styrs om från människor till maskiner i pandemins spår:

”While human content moderation doesn’t scale and comes with high social costs, it is indispensable. Automated systems are simply not capable of consistently identifying content correctly. Human communication and interactions are complex, and automated tools misunderstand the political, social or interpersonal context of speech all the time. That is why it is crucial that algorithmic content moderation is supervised by human moderators and that users can contest takedowns. As Facebook’s August 2020 transparency report shows, the company’s approach to content moderation during the coronavirus pandemic has been lacking in both human oversight and options for appeals.”

Ingen möjlighet att överklaga:

”When content is removed on either Facebook or Instagram, people typically have the option to contest takedown decisions. Typically, when the appeals process is initiated, the deleted material is reviewed by a human moderator and the takedown decision can get reversed and content reinstated. During the pandemic, however, that option has been seriously limited, with users receiving notification that their appeal may not be considered. According to the transparency report, there were zero appeals on Instagram during the second quarter of 2020 and very few on Facebook.”

Beslut om vad som får skrivas på sociala media fattas nu alltså helt och hållet av maskiner. Vilket är en rätt svindlande tanke.

Det visar sig också att Facebook och dess dotterbolag Instagram tillämpar olika principer för moderering av innehåll.

Nu återstår att se om sociala media kommer att fortsätta låta algoritmer fortsätta moderera innehåll utan egentlig mänsklig kontroll även efter corona-krisen. Maskiner är ju billigare än människor.

Hur som helst måste det till en rimlig och fungerande funktion för att överklaga beslut när innehåll censureras. En funktion där den drabbade tillåts argumentera för sin sak med mer än bara en maskin.

EFF: Facebook’s Most Recent Transparency Report Demonstrates the Pitfalls of Automated Content Moderation »

Presidentvalet 2020 – Facebooks största prövning

Facebook håller på att gå upp i något slags stabsläge inför det amerikanska presidentvalet.

ArsTechnica:

»Facebook has said it will take aggressive and exceptional measures to “restrict the circulation of content” on its platform if November’s presidential election descends into chaos or violent civic unrest.

In an interview with the Financial Times, Nick Clegg, the company’s head of global affairs, said it had drawn up plans for how to handle a range of outcomes, including widespread civic unrest or “the political dilemmas” of having in-person votes counted more rapidly than mail-in ballots, which will play a larger role in this election due to the coronavirus pandemic.

“There are some break-glass options available to us if there really is an extremely chaotic and, worse still, violent set of circumstances,” Mr Clegg said, though he stopped short of elaborating further on what measures were on the table.«

Visst, det kan bli stökigt. Vilket inte minst de senaste månadernas kravaller och oroligheter har visat. Och det faktum att internet och Facebook (i princip) låter människor kommunicera och interagera fritt är tveklöst en faktor att ta med i beräkningen.

För det första bör man ha klart för sig att allt Facebook gör också påverkar situationen. Det handlar om dynamiska skeenden med ofta oförutsedda konsekvenser. Och i kaosartade eller metastabila system kan ibland små förändringar av input leda till dramatiska konsekvenser. Detta kan bli något av en Pandoras ask.

Samtidigt måste Facebook rimligen hålla sig politiskt neutralt. Utrymmet för soloflygningar från enskilda medarbetare med starka personliga politiska preferenser är synnerligen begränsat. Och följderna om Facebook som helhet agerar som en icke-vald politisk aktör kan bli stora. Här kan frågan om huruvida företaget är en plattform eller en redaktionell spelare komma att bli högaktuell.

Inte ens frågan om otillbörlig påverkan av valet från yttre aktörer är kristallklar. Detta visar inte minst förra presidentvalrörelsen. De är möjligt (eller rent av troligt) att mycket av den information som då spreds kom från ryska hackare. Men det innebär inte nödvändigtvis att den är falsk eller irrelevant. Läckorna från det demokratiska partiets inre var viktiga och relevanta för väljarna – oavsett hur de kom till allmänhetens kännedom.

Detta är ett getingbo. Om man får tro vissa analytiker kommer alla valresultat – utom en solklar seger för Biden – att leda till social oro.

I ett sådant läge behöver man ha koll på sina premisser. Rimligen måste demokratin och dess fria, rättvisa val sättas i främsta rummet. Samtidigt finns inget facit för vilka åtgärder som verkar i den riktningen – eller vilka som är kontraproduktiva. Detta kommer att kräva gott omdöme, ödmjukhet och objektivitet. Vilket tyvärr inte är självklara ingångsvärden.

Facebook ger sig helt enkelt in i ett äventyr med ett överväldigande antal okända faktorer. Det skall bli intressant att följa. Kanske vore det enklare om de höll sig till en enkel princip: Att bara stoppa innehåll som är direkt olagligt.

Men så lätt tänker man alltså inte göra det för sig.

ArsTechnica: Facebook vows to restrict users if US election descends into chaos »

Länkskatt: Facebook överväger att helt sluta länka till media i Australien

Det är inte bara i EU som den märkliga idén om »länkskatt« debatteras. Ett lagförslag i Australien är inne på samma spår – vilket fått Facebook att hota med att helt sluta med nyheter från australisk media och möjligen även att blockera användare i landet från att dela nyhetsnotiser.

»Länkskatten« är ursprungligen en idé som lanserades i EU:s nya upphovsrättsdirektiv. Tanken är att den som länkar till medias nyhetsartiklar skall betala en ersättning till mediehusen. Vilket naturligtvis är helt bakvänt. Att länka till något gynnar den som länkarna ger uppmärksamhet och besökare. Men i tider då de traditionella mediehusen har svårt att finna hållbara affärsmodeller för den digitala marknaden – då söker de andra inkomstkällor. Även om sådana är ologiska och kontraproduktiva.

Nu tycks Facebook ha fått nog. Företaget vill inte betala pengar för att driva besökare till traditionell media. I en bloggpost skriver man, med anledning av lagförslaget i Australien:

»Assuming this draft code becomes law, we will reluctantly stop allowing publishers and people in Australia from sharing local and international news on Facebook and Instagram. This is not our first choice – it is our last. But it is the only way to protect against an outcome that defies logic and will hurt, not help, the long-term vibrancy of Australia’s news and media sector.« (…)

»The ACCC presumes that Facebook benefits most in its relationship with publishers, when in fact the reverse is true. News represents a fraction of what people see in their News Feed and is not a significant source of revenue for us. Still, we recognize that news provides a vitally important role in society and democracy, which is why we offer free tools and training to help media companies reach an audience many times larger than they have previously.«

Om lagförslaget blir verklighet kan alltså ett mediehus på eget initiativ dela en länk (rubrik, bild och kort ingress) på Facebook till sina egna artiklar – och sedan kräva att Facebook betalar nämnda mediehus för dess egen marknadsföring.

Även Google överväger om de kan fortsätta sin verksamhet i Australien på samma sätt som tidigare. Utöver att man delar Facebooks invändningar ser man problem med att lagförslaget kräver att de traditionella mediehusen skall få förhandsinformation om eventuella förändringar av Googles algoritmer. Vilket i så fall skulle ge Big Media möjlighet att konkurrera ut många andra nyhetskällor.

En liknande strid pågår i Frankrike och den lär – som en konsekvens av det nya upphovsrättsdirektivet – snart utkämpas i samtliga EU-länder.

Utöver att idén om »länkskatt« är ologisk – så kan den leda till att användare i många länder får en sämre användarupplevelse. Eller att vissa plattformar helt lämnar länderna i fråga.

Under rubriken oförutsedda konsekvenser kan detta även komma att landa i att allmänheten får minskad tillgång till nyheter från traditionella media – till förmån för de alternativa nyhetskällor som politiken och mediehusen själva stämplat som mindre trovärdiga.

• Facebook: An Update About Changes to Facebook’s Services in Australia »
• Cnet: Google clashes with Australia watchdog over proposed law to force it to pay for news »
• Macrumors: Facebook Threatens to Block All News Sharing on Its Platform in Australia »
• Techcrunch: Facebook threatens to block news sharing in Australia as it lobbies against revenue share law »

De regler som krävs för vad sociala media kan publicera finns redan i den vanliga lagstiftningen

I går höll amerikanska kongressen utskottförhör med Big Data.

Såväl Facebook som Google grillades vad gäller påstådd politisk partiskhet. Och i båda fallen finns rätt tydliga bevis för att man missgynnat konservativa / republikanska åsikter och kandidater.

Samtidigt kritiserades framförallt Facebook för att inte göra tillräckligt för att censurera andra grupper som påstås ägna sig åt hat och hot. Att finna en väg som alla är nöjda med verkar svårt, eller direkt omöjligt. Så det är kanske inte så konstigt att Mark Zuckerberg tidigare luftat tanken om reglering genom lagstiftning – så att Facebook själva slipper fatta svåra och känsliga beslut.

Sociala media sitter verkligen i en besvärlig situation. De har svårt att vara politiskt oberoende – dels då man kan misstänka att det finns en åsiktsmässig slagsida i företagen som sådana, dels då anställda bevisligen låter sina personliga politiska preferenser styra granskningen av vad som får publiceras. De anklagas samtidigt för att censurera för mycket – och för lite. Och vad gäller corona-krisen befinner de sig på ett gungfly, efter att ha beslutat att stoppa felaktig information – trots att det inte finns någon objektiv mall eller konsensus i många detaljfrågor.

Dessutom kompliceras situationen av företagens dominerande ställning.

Jag kan bara se en lösning. Det är att de sociala plattformarna får anpassa sig till lagstiftningen i respektive land där de är aktiva. Och då skall en enda regel gälla: Allt som inte är uttryckligen förbjudet i lag skall vara tillåtet att publicera.

Den lagstiftning Zuckerberg tidigare efterlyst finns alltså redan – i form av vanliga lagar, som skall gälla lika för alla överallt, oavsett om det är on- eller offline. Principen ovan lär dessutom vara den enda som i längden är möjlig att försvara och upprätthålla. (Sedan kan det lämnas till användarna att till exempel reglera graden av barnskydd och filtrering av potentiellt stötande material i sina egna, personliga inställningar.)

Några videofilmer från kongressförhören:
• Everything Facebook CEO Mark Zuckerberg just said to Congress in 16 minutes »
• Facebook CEO Mark Zuckerberg RESPONDS to Rep. Matt Gaetz over Project Veritas #ExposeFacebook Report »
• Biden vs Trump: Congress grills Google on Clinton election money »

Facebooks »högsta domstol« tar form

Facebook har nu presenterat de första medlemmarna i sin Oversight Board. Detta är den formellt fristående instans som skall avgöra principiellt viktiga frågor och ärenden som rör yttrandefriheten på det sociala nätverket.

Facebooks vice president of global affairs and communications, Nick Clegg, skriver i en bloggpost:

»As Mark Zuckerberg put it when he first outlined his blueprint for a new system for content governance and enforcement, “Facebook should not make so many important decisions about free expression and safety on our own.” With our size comes a great deal of responsibility and while we have always taken advice from experts on how to best keep our platforms safe, until now, we have made the final decisions about what should be allowed on our platforms and what should be removed. And these decisions often are not easy to make – most judgments do not have obvious, or uncontroversial, outcomes and yet many of them have significant implications for free expression.

That’s why we have created and empowered a new group to exercise independent judgment over some of the most difficult and significant content decisions.«

Av de 40 personer som skall ingå i det nya organet har nu 16 utsetts. Tonvikten ligger på ledamöter med bakgrund inom juridik, nätfrihetsfrågor, media och teknik. Politiskt finns ledamöter från höger tillvänster, även om de flesta nog kan betraktas som rätt opolitiska.

Bland namnen märks förra danska statsministern Helle Thorning-Schmidt och The Guardians förre chefredaktör Alan Rusbridger. Möjligen kommer András Sajó från Ungern att väcka debatt i vissa kretsar, då han bland annat har en bakgrund i det Soros-finansierade centraleuropeiska universitet som stängts ner i Budapest.

Detta skall bli intressant att följa. Man kan ju förstå att Facebook som i grunden är ett teknikföretag gärna lastar över de principiella, moraliska och filosofiska frågorna på någon annan – för att själva undgå kritik.

Intressant nog har man en öppen nominering av nya ledamöter till denna oversight board.

Big Data, Big Government – och din persondata

Google och Facebook har länge kritiserats för sin omfattande insamling av användarnas persondata. Men i den rådande smitto-krisen har avpersonaliserad data ställts till bland andra myndigheternas och forskningens förfogande.

Jag tänker inte spekulera kring om detta är till nytta för att bekämpa smittspridningen eller ej. Däremot kan man göra en del vidare iakttagelser.

Till exempel är det värt att notera att den tidigare kritiken mot nätjättarnas datainsamling är som bortblåst, i vart fall för tillfället. Vilket lär hänga samman med att Big Government insett att den plötsligt har en del gemensamma intressen med Big Data.

Vilket är ett skäl för att vara ytterst vaksam. Finns det anledning att tro att staten och de sociala plattformarna nu etablerar något slags symbios, där staten värderar tillgång till data om folket högre än individens rätt till privatliv? Ser – och griper – nätjättarna nu tillfället att konsolidera sin datainsamling med myndigheternas tysta medgivande?

Vad händer om data från de sociala plattformarna samkörs med myndigheternas övriga register och eventuellt synkas med massövervakningens verktyg? Eller med de nya corona-appar som man överväger att införa?

Detta kan leda till en mycket omfattande kontroll- och övervakningsstat. Speciellt som verktyg för övervakning som en gång har införts – om än »tillfälligt« – kan visa sig vara mycket svåra att bli av med. Och att historien visat att i princip all övervakning som införs drabbas av ändamålsglidning, där den kommer att användas i nya syften.

Bortsett från vad som kan motiveras eller ej i den rådande situationen: Man bör rent allmänt ha någon form av vattentäta skott mellan statens övervakning och registrering å ena sidan – och de sociala plattformarnas insamling av persondata å den andra.

Nätjättarna samlar data om oss för att tjäna pengar. Staten gör det för att bestämma hur den vill att vi skall leva våra liv, med tvång om så krävs. Om dessa två intressen flyter samman blir resultatet en korporativistisk storebrorsstat – som minskar individens privata sfär, frihet och rätt till självbestämmande.

/ HAX

Facebooks censur-bugg visar risken med uppladdningsfilter

Igår fick Facebooks algoritmer fnatt och började censurera / spam-märka helt seriösa länkade artiklar från etablerad media – vilket fick som konsekvens att folk inte kunde dela dem.

Enligt uppgift skall ett underliggande problem vara att den pågående smittspridningen reducerat Facebooks stab av mänskliga granskare av innehåll. När systemet då började få egna idéer tog det därför ett tag innan det upptäcktes och kunde åtgärdas.

Kan man få ett bättre exempel på riskerna med automatisk filtrering av uppladdat innehåll?

Ändå är det precis vad som krävs med EU:s nya upphovsrättsdirektiv. Då måste allt som laddas upp (bild, text, ljud, rörliga bilder, filer) granskas, analyseras och godkännas. Det samma gäller med den föreslagna EU-regleringen mot terror-relaterat innehåll på nätet – för att kunna blockera visst innehåll måste allt som laddas upp förhandsgranskas och analyseras.

Med tanke på volymerna måste denna granskning utföras av maskiner som saknar känsla för till exempel kontext, även om det förhoppningsvis kommer att finnas något sätt att begära omprövning inför en människa.

EU är på väg att driva oss in i en situation där vi inte bara får förhandscensur – utan även automatiserad förhandscensur utförd av humorfria maskiner.

Det är inte acceptabelt.

EU vs. Facebook vs. yttrandefriheten

Lionel Laurent hos Bloomberg:

»It’s not very surprising that Mark Zuckerberg’s state-visit-style trip to Brussels got a pretty chilly reception from European Union officials. The Facebook Inc. co-founder is pleading for more regulation to solve what he and his top lobbyist Nick Clegg consider to be a failure of public policy: If only governments could agree on how to regulate the internet without curbing free expression, the social network would be only too happy to comply.

This analysis is not new, and entirely misdiagnoses the problem in the Europeans’ view: It is Facebook’s business model, which hoovers up billions of users’ intimate thoughts and behavior patterns to better target ads, which is the issue. And it’s one that the social network would prefer just to tinker with at the margins, given the costs involved.«

Att tro att politiken kan eller vill reglera internet utan att inskränka yttrandefriheten känns en smula naivt.

Sedan kan man fundera över om någon egentligen företräder användarnas intressen i sammanhanget. Men så brukar det ju vara: Politik och »stakeholders« gör upp utan att lyssna till vad vanligt folk tycker.

Länk: Facebook’s Business Model Is What Brussels Hates – The question is whether Mark Zuckerberg will be “nibbled to death by ducks” or hit with something harder »

Vem skall bestämma vad som är sanning?

Debatten om politisk annonsering i sociala media fortsätter. Facebook har bestämt att inte faktakolla politiska annonser. Google begränsar så kallad micro-targeting. Och Twitter har helt stoppat politiska annonser. Och just nu utsätts framförallt Facebook för hård kritik för sitt beslut.

Debatten rymmer flera principiellt intressanta frågor. Som vem som skall bestämma vad som är sanning. Och vad sanning egentligen är. Samt hur detta i så fall skall prövas. Ingen av dessa frågor har fått något rimligt svar.

Anta att två politiska partier har olika uppfattning om hur något förhåller sig – och att båda påståendena inte kan vara rätt samtidigt. Vem skall då bestämma vad som är »rätt«? Hur vet man vad som är korrekt? Och vad händer om politiska partier och kandidater inte tillåts ifrågasätta vedertagna uppfattningar?

Debatten visar också att man underskattar internets deltagandekultur. Är det någonstans som olika påståenden granskas och ifrågasätts – då är det på nätet. Finns det någonstans där politiker kritiseras och hånas för felaktiga påståenden – då är det på nätet.

Dessutom blir det väldigt konstigt om olika regler skall gälla på respektive utanför internet.

Politico: Facebook sticking with policies on politicians’ lies and voter targeting »

Facebook om EU:s »uppladdningsfilter«

Det får nu anses klarlagt att EU:s nya upphovsrättsdirektiv kommer att leda till att allt som folk laddar upp – i vart fall på Facebook – kommer att förhandsgranskas, analyseras och i förekommande fall censureras.

Torrentfreak rapporterar:

»In a recent meeting organized by the European Commission, Facebook explained in detail how this automated system works. The meeting was organized to create a dialogue between various parties about possible solutions for the implementation of Article 17.

In Facebook’s presentation Dave Axelgard, product Manager for Rights Manager, explained how automated matching of copyrighted content takes place on the social media network. He also detailed what actions rightsholders can take in response, and how users can protest misuse and abuse of the system.«

Den goda nyheten är att Facebook anstränger sig för att komma tillrätta med felaktiga och falska upphovsrättsliga anspråk:

»Facebook works hard to catch and prevent these types of misuse and abuse, to ensure that its automated detection system doesn’t remove legitimate content. This is also something to keep in mind for the implementation of possible ‘upload filters’ with the introduction of Article 17. (…)

Facebook tries to limit abuse through a variety of measures. The company limits access to its Rights Manager tool to a select group of verified copyright holders. In addition, it always requires playable reference files, so all claims can be properly vetted.«

Men det finns fortfarande problem:

“Our matching system is not able to take context into account. It’s just seeking to identify whether or not two pieces of content matched to one another,” Axelgard said, responding to a question from Communia’s Paul Keller.

Vilket är precis vad upphovsrättsdirektivets kritiker varnat för från första början.

Torrentfreak: Facebook Sees Copyright Abuse as One of the Platform’s Main Challenges »

Uppdatering – Mer relevant information här: Article 17 stakeholder dialogue (day 4): it’s all about transparency »