Sociala media efter Trump

Till listan över sådant som anges som skäl för att begränsa internets frihet – som fildelning, barnporr, piratprodukter, terrorism, penningtvätt, hat, droghandel med mera – läggs nu alltså även Trumpism.

De sociala plattformarna i allmänhet och Twitter i synnerhet sitter i en jobbig sits. Å ena sidan en statschef som anklagas för att hetsa sina anhängare till att kullkasta de demokratiska institutionerna och deras processer – och en nyvald amerikansk administration  som redan flaggat för att man tänker slå ner på vad man kallar inhemsk terrorism. Å andra sidan det fria ordet och tanken att yttrandefrihetens största värde är när den tillåter människor att säga sådant som andra inte vill höra, eller rent av tysta.

Twitter, Facebook och Google/Youtube befinner sig – som amerikanska företag – ständigt under hot om ny lagstiftning från den för tillfället sittande administrationen.

Gentemot oss användare har de samtidigt ett behov av att framstå som förutsägbara, konsekventa och rättvisa. Vilket är en närmast övermäktig uppgift  – så länge man låter till exempel de politiska ledarna i Ryssland, Iran och Venezuela sprida propaganda för sin icke-/antidemokratiska politik samtidigt som man stänger av Trump.

Lägg till detta problemet med att de tre stora är totalt dominerande vad gäller sociala media. Finns du inte på Twitter, Facebook och Youtube – då finns du inte. Blir du av med ditt konto på Facebook begränsas även dina möjligheter att kommunicera och umgås med släkt och vänner. Samtidigt måste dessa företag naturligtvis ha rätt att sätta upp regler för sin egen verksamhet och att välja bort användare som anses skada densamma.

»Så starta då något nytt istället för att gnälla!« Men så enkelt är det naturligtvis inte. Facebook är plattformen där nästan alla våra vänner befinner sig. Något motsvarande alternativ finns inte. Och människor är bekväma, de vill hellre ha alla sina kontakter på en plattform istället för utspridda på olika håll.

Även om vi ofta brukar skälla på EU för dess nätpolitik, så kan det finnas delar i den föreslagna Digital Services Act som stärker användarnas ställning. Till exempel att den som blir censurerad eller avstängd måste få veta varför – och ges en möjlighet att överklaga. Men det kräver en omfattande manuell hantering av ärenden – vilket plattformarna menar är en praktisk omöjlighet, på grund av de stora volymerna ärenden.

Samtidigt föreslår samma Digital Services Act att det skall införas statligt godkända nätgranskare – så kallade Trusted Flaggers – som företräder vad texten kallar »kollektiva intressen«. Vilket bör få varningsklockorna att börja ringa.

Dessutom har Europol (till synes på eget initiativ) utökat sitt mandat från att inte bara bekämpa brott utan även desinformation. Vilket implicerar att någon, någonstans måste bestämma vad som är att betrakta som sanning – vilket i sin tur inte alltid är uppenbart. Plus att själva idén om att polisen skall lägga sig i vilka åsikter människor framför känns främmande för ett demokratiskt samhälle.

Enklast är kanske om man kunde enas om att bara ta bort sådant som är olagligt. Men det medför en ny uppsättning problem, speciellt med tanke på att internet inte känner några nationsgränser.

Den samlade bilden ger vid handen att vi har en närmast omöjlig situation av motstridiga intressen och principer – och att det tills vidare är det nya normala.

Zuckerberg i kongressutfrågning – efterlyser lagstiftning

De sociala nätjättarna håller just på att vittna inför den amerikanska kongressen. Här är en text från uppsnacket, som fångade mitt intresse:

»When Facebook CEO Mark Zuckerberg testifies before Congress on Wednesday, he will call on lawmakers to take explicit action to rewrite the law that protects a free and open internet. In doing so, he will be implicitly asking the federal government to impose huge new regulatory costs on social media sites like his own—costs that will ultimately protect Facebook from rising upstarts

Reason: Mark Zuckerberg to Congress: Please Regulate Us (Wink, Wink) »

Ur Zuckerbergs skriftliga inledningsanförande (PDF):

»I believe we need a more active role for governments and regulators, which is why in March last year I called for regulation on harmful content, privacy, elections, and data portability. We stand ready to work with Congress on what regulation could look like in these areas. By updating the rules for the internet, we can preserve what’s best about it—the freedom for people to express themselves and for entrepreneurs to build new things—while also protecting society from broader harms. I would encourage this Committee and other stakeholders to make sure that any changes do not have unintended consequences that stifle expression or impede innovation.«

Detta är korporativism i modern tappning – Big Data ber Big Government om kostsam speciallagstiftning som kommer att stoppa nya konkurrenter och uppstickare.

Och som Zuckerberg själv konstaterar, så riskerar sådan lagstiftning att få oväntade och oönskade konsekvenser för det fria ordet och för den tekniska utvecklingen.

Automatisk nätcensur i corona-krisens spår

Nej, detta handlar inte om vad man får eller inte får säga om Corona / COVID 19 på sociala media – utan om vad pandemin har inneburit vad gäller censur av övrigt innehåll.

EFF har djupdykt i frågan om vad som händer när moderering av innehåll styrs om från människor till maskiner i pandemins spår:

”While human content moderation doesn’t scale and comes with high social costs, it is indispensable. Automated systems are simply not capable of consistently identifying content correctly. Human communication and interactions are complex, and automated tools misunderstand the political, social or interpersonal context of speech all the time. That is why it is crucial that algorithmic content moderation is supervised by human moderators and that users can contest takedowns. As Facebook’s August 2020 transparency report shows, the company’s approach to content moderation during the coronavirus pandemic has been lacking in both human oversight and options for appeals.”

Ingen möjlighet att överklaga:

”When content is removed on either Facebook or Instagram, people typically have the option to contest takedown decisions. Typically, when the appeals process is initiated, the deleted material is reviewed by a human moderator and the takedown decision can get reversed and content reinstated. During the pandemic, however, that option has been seriously limited, with users receiving notification that their appeal may not be considered. According to the transparency report, there were zero appeals on Instagram during the second quarter of 2020 and very few on Facebook.”

Beslut om vad som får skrivas på sociala media fattas nu alltså helt och hållet av maskiner. Vilket är en rätt svindlande tanke.

Det visar sig också att Facebook och dess dotterbolag Instagram tillämpar olika principer för moderering av innehåll.

Nu återstår att se om sociala media kommer att fortsätta låta algoritmer fortsätta moderera innehåll utan egentlig mänsklig kontroll även efter corona-krisen. Maskiner är ju billigare än människor.

Hur som helst måste det till en rimlig och fungerande funktion för att överklaga beslut när innehåll censureras. En funktion där den drabbade tillåts argumentera för sin sak med mer än bara en maskin.

EFF: Facebook’s Most Recent Transparency Report Demonstrates the Pitfalls of Automated Content Moderation »

Presidentvalet 2020 – Facebooks största prövning

Facebook håller på att gå upp i något slags stabsläge inför det amerikanska presidentvalet.

ArsTechnica:

»Facebook has said it will take aggressive and exceptional measures to “restrict the circulation of content” on its platform if November’s presidential election descends into chaos or violent civic unrest.

In an interview with the Financial Times, Nick Clegg, the company’s head of global affairs, said it had drawn up plans for how to handle a range of outcomes, including widespread civic unrest or “the political dilemmas” of having in-person votes counted more rapidly than mail-in ballots, which will play a larger role in this election due to the coronavirus pandemic.

“There are some break-glass options available to us if there really is an extremely chaotic and, worse still, violent set of circumstances,” Mr Clegg said, though he stopped short of elaborating further on what measures were on the table.«

Visst, det kan bli stökigt. Vilket inte minst de senaste månadernas kravaller och oroligheter har visat. Och det faktum att internet och Facebook (i princip) låter människor kommunicera och interagera fritt är tveklöst en faktor att ta med i beräkningen.

För det första bör man ha klart för sig att allt Facebook gör också påverkar situationen. Det handlar om dynamiska skeenden med ofta oförutsedda konsekvenser. Och i kaosartade eller metastabila system kan ibland små förändringar av input leda till dramatiska konsekvenser. Detta kan bli något av en Pandoras ask.

Samtidigt måste Facebook rimligen hålla sig politiskt neutralt. Utrymmet för soloflygningar från enskilda medarbetare med starka personliga politiska preferenser är synnerligen begränsat. Och följderna om Facebook som helhet agerar som en icke-vald politisk aktör kan bli stora. Här kan frågan om huruvida företaget är en plattform eller en redaktionell spelare komma att bli högaktuell.

Inte ens frågan om otillbörlig påverkan av valet från yttre aktörer är kristallklar. Detta visar inte minst förra presidentvalrörelsen. De är möjligt (eller rent av troligt) att mycket av den information som då spreds kom från ryska hackare. Men det innebär inte nödvändigtvis att den är falsk eller irrelevant. Läckorna från det demokratiska partiets inre var viktiga och relevanta för väljarna – oavsett hur de kom till allmänhetens kännedom.

Detta är ett getingbo. Om man får tro vissa analytiker kommer alla valresultat – utom en solklar seger för Biden – att leda till social oro.

I ett sådant läge behöver man ha koll på sina premisser. Rimligen måste demokratin och dess fria, rättvisa val sättas i främsta rummet. Samtidigt finns inget facit för vilka åtgärder som verkar i den riktningen – eller vilka som är kontraproduktiva. Detta kommer att kräva gott omdöme, ödmjukhet och objektivitet. Vilket tyvärr inte är självklara ingångsvärden.

Facebook ger sig helt enkelt in i ett äventyr med ett överväldigande antal okända faktorer. Det skall bli intressant att följa. Kanske vore det enklare om de höll sig till en enkel princip: Att bara stoppa innehåll som är direkt olagligt.

Men så lätt tänker man alltså inte göra det för sig.

ArsTechnica: Facebook vows to restrict users if US election descends into chaos »

Länkskatt: Facebook överväger att helt sluta länka till media i Australien

Det är inte bara i EU som den märkliga idén om »länkskatt« debatteras. Ett lagförslag i Australien är inne på samma spår – vilket fått Facebook att hota med att helt sluta med nyheter från australisk media och möjligen även att blockera användare i landet från att dela nyhetsnotiser.

»Länkskatten« är ursprungligen en idé som lanserades i EU:s nya upphovsrättsdirektiv. Tanken är att den som länkar till medias nyhetsartiklar skall betala en ersättning till mediehusen. Vilket naturligtvis är helt bakvänt. Att länka till något gynnar den som länkarna ger uppmärksamhet och besökare. Men i tider då de traditionella mediehusen har svårt att finna hållbara affärsmodeller för den digitala marknaden – då söker de andra inkomstkällor. Även om sådana är ologiska och kontraproduktiva.

Nu tycks Facebook ha fått nog. Företaget vill inte betala pengar för att driva besökare till traditionell media. I en bloggpost skriver man, med anledning av lagförslaget i Australien:

»Assuming this draft code becomes law, we will reluctantly stop allowing publishers and people in Australia from sharing local and international news on Facebook and Instagram. This is not our first choice – it is our last. But it is the only way to protect against an outcome that defies logic and will hurt, not help, the long-term vibrancy of Australia’s news and media sector.« (…)

»The ACCC presumes that Facebook benefits most in its relationship with publishers, when in fact the reverse is true. News represents a fraction of what people see in their News Feed and is not a significant source of revenue for us. Still, we recognize that news provides a vitally important role in society and democracy, which is why we offer free tools and training to help media companies reach an audience many times larger than they have previously.«

Om lagförslaget blir verklighet kan alltså ett mediehus på eget initiativ dela en länk (rubrik, bild och kort ingress) på Facebook till sina egna artiklar – och sedan kräva att Facebook betalar nämnda mediehus för dess egen marknadsföring.

Även Google överväger om de kan fortsätta sin verksamhet i Australien på samma sätt som tidigare. Utöver att man delar Facebooks invändningar ser man problem med att lagförslaget kräver att de traditionella mediehusen skall få förhandsinformation om eventuella förändringar av Googles algoritmer. Vilket i så fall skulle ge Big Media möjlighet att konkurrera ut många andra nyhetskällor.

En liknande strid pågår i Frankrike och den lär – som en konsekvens av det nya upphovsrättsdirektivet – snart utkämpas i samtliga EU-länder.

Utöver att idén om »länkskatt« är ologisk – så kan den leda till att användare i många länder får en sämre användarupplevelse. Eller att vissa plattformar helt lämnar länderna i fråga.

Under rubriken oförutsedda konsekvenser kan detta även komma att landa i att allmänheten får minskad tillgång till nyheter från traditionella media – till förmån för de alternativa nyhetskällor som politiken och mediehusen själva stämplat som mindre trovärdiga.

• Facebook: An Update About Changes to Facebook’s Services in Australia »
• Cnet: Google clashes with Australia watchdog over proposed law to force it to pay for news »
• Macrumors: Facebook Threatens to Block All News Sharing on Its Platform in Australia »
• Techcrunch: Facebook threatens to block news sharing in Australia as it lobbies against revenue share law »

De regler som krävs för vad sociala media kan publicera finns redan i den vanliga lagstiftningen

I går höll amerikanska kongressen utskottförhör med Big Data.

Såväl Facebook som Google grillades vad gäller påstådd politisk partiskhet. Och i båda fallen finns rätt tydliga bevis för att man missgynnat konservativa / republikanska åsikter och kandidater.

Samtidigt kritiserades framförallt Facebook för att inte göra tillräckligt för att censurera andra grupper som påstås ägna sig åt hat och hot. Att finna en väg som alla är nöjda med verkar svårt, eller direkt omöjligt. Så det är kanske inte så konstigt att Mark Zuckerberg tidigare luftat tanken om reglering genom lagstiftning – så att Facebook själva slipper fatta svåra och känsliga beslut.

Sociala media sitter verkligen i en besvärlig situation. De har svårt att vara politiskt oberoende – dels då man kan misstänka att det finns en åsiktsmässig slagsida i företagen som sådana, dels då anställda bevisligen låter sina personliga politiska preferenser styra granskningen av vad som får publiceras. De anklagas samtidigt för att censurera för mycket – och för lite. Och vad gäller corona-krisen befinner de sig på ett gungfly, efter att ha beslutat att stoppa felaktig information – trots att det inte finns någon objektiv mall eller konsensus i många detaljfrågor.

Dessutom kompliceras situationen av företagens dominerande ställning.

Jag kan bara se en lösning. Det är att de sociala plattformarna får anpassa sig till lagstiftningen i respektive land där de är aktiva. Och då skall en enda regel gälla: Allt som inte är uttryckligen förbjudet i lag skall vara tillåtet att publicera.

Den lagstiftning Zuckerberg tidigare efterlyst finns alltså redan – i form av vanliga lagar, som skall gälla lika för alla överallt, oavsett om det är on- eller offline. Principen ovan lär dessutom vara den enda som i längden är möjlig att försvara och upprätthålla. (Sedan kan det lämnas till användarna att till exempel reglera graden av barnskydd och filtrering av potentiellt stötande material i sina egna, personliga inställningar.)

Några videofilmer från kongressförhören:
• Everything Facebook CEO Mark Zuckerberg just said to Congress in 16 minutes »
• Facebook CEO Mark Zuckerberg RESPONDS to Rep. Matt Gaetz over Project Veritas #ExposeFacebook Report »
• Biden vs Trump: Congress grills Google on Clinton election money »

Facebooks »högsta domstol« tar form

Facebook har nu presenterat de första medlemmarna i sin Oversight Board. Detta är den formellt fristående instans som skall avgöra principiellt viktiga frågor och ärenden som rör yttrandefriheten på det sociala nätverket.

Facebooks vice president of global affairs and communications, Nick Clegg, skriver i en bloggpost:

»As Mark Zuckerberg put it when he first outlined his blueprint for a new system for content governance and enforcement, “Facebook should not make so many important decisions about free expression and safety on our own.” With our size comes a great deal of responsibility and while we have always taken advice from experts on how to best keep our platforms safe, until now, we have made the final decisions about what should be allowed on our platforms and what should be removed. And these decisions often are not easy to make – most judgments do not have obvious, or uncontroversial, outcomes and yet many of them have significant implications for free expression.

That’s why we have created and empowered a new group to exercise independent judgment over some of the most difficult and significant content decisions.«

Av de 40 personer som skall ingå i det nya organet har nu 16 utsetts. Tonvikten ligger på ledamöter med bakgrund inom juridik, nätfrihetsfrågor, media och teknik. Politiskt finns ledamöter från höger tillvänster, även om de flesta nog kan betraktas som rätt opolitiska.

Bland namnen märks förra danska statsministern Helle Thorning-Schmidt och The Guardians förre chefredaktör Alan Rusbridger. Möjligen kommer András Sajó från Ungern att väcka debatt i vissa kretsar, då han bland annat har en bakgrund i det Soros-finansierade centraleuropeiska universitet som stängts ner i Budapest.

Detta skall bli intressant att följa. Man kan ju förstå att Facebook som i grunden är ett teknikföretag gärna lastar över de principiella, moraliska och filosofiska frågorna på någon annan – för att själva undgå kritik.

Intressant nog har man en öppen nominering av nya ledamöter till denna oversight board.

Big Data, Big Government – och din persondata

Google och Facebook har länge kritiserats för sin omfattande insamling av användarnas persondata. Men i den rådande smitto-krisen har avpersonaliserad data ställts till bland andra myndigheternas och forskningens förfogande.

Jag tänker inte spekulera kring om detta är till nytta för att bekämpa smittspridningen eller ej. Däremot kan man göra en del vidare iakttagelser.

Till exempel är det värt att notera att den tidigare kritiken mot nätjättarnas datainsamling är som bortblåst, i vart fall för tillfället. Vilket lär hänga samman med att Big Government insett att den plötsligt har en del gemensamma intressen med Big Data.

Vilket är ett skäl för att vara ytterst vaksam. Finns det anledning att tro att staten och de sociala plattformarna nu etablerar något slags symbios, där staten värderar tillgång till data om folket högre än individens rätt till privatliv? Ser – och griper – nätjättarna nu tillfället att konsolidera sin datainsamling med myndigheternas tysta medgivande?

Vad händer om data från de sociala plattformarna samkörs med myndigheternas övriga register och eventuellt synkas med massövervakningens verktyg? Eller med de nya corona-appar som man överväger att införa?

Detta kan leda till en mycket omfattande kontroll- och övervakningsstat. Speciellt som verktyg för övervakning som en gång har införts – om än »tillfälligt« – kan visa sig vara mycket svåra att bli av med. Och att historien visat att i princip all övervakning som införs drabbas av ändamålsglidning, där den kommer att användas i nya syften.

Bortsett från vad som kan motiveras eller ej i den rådande situationen: Man bör rent allmänt ha någon form av vattentäta skott mellan statens övervakning och registrering å ena sidan – och de sociala plattformarnas insamling av persondata å den andra.

Nätjättarna samlar data om oss för att tjäna pengar. Staten gör det för att bestämma hur den vill att vi skall leva våra liv, med tvång om så krävs. Om dessa två intressen flyter samman blir resultatet en korporativistisk storebrorsstat – som minskar individens privata sfär, frihet och rätt till självbestämmande.

/ HAX

Facebooks censur-bugg visar risken med uppladdningsfilter

Igår fick Facebooks algoritmer fnatt och började censurera / spam-märka helt seriösa länkade artiklar från etablerad media – vilket fick som konsekvens att folk inte kunde dela dem.

Enligt uppgift skall ett underliggande problem vara att den pågående smittspridningen reducerat Facebooks stab av mänskliga granskare av innehåll. När systemet då började få egna idéer tog det därför ett tag innan det upptäcktes och kunde åtgärdas.

Kan man få ett bättre exempel på riskerna med automatisk filtrering av uppladdat innehåll?

Ändå är det precis vad som krävs med EU:s nya upphovsrättsdirektiv. Då måste allt som laddas upp (bild, text, ljud, rörliga bilder, filer) granskas, analyseras och godkännas. Det samma gäller med den föreslagna EU-regleringen mot terror-relaterat innehåll på nätet – för att kunna blockera visst innehåll måste allt som laddas upp förhandsgranskas och analyseras.

Med tanke på volymerna måste denna granskning utföras av maskiner som saknar känsla för till exempel kontext, även om det förhoppningsvis kommer att finnas något sätt att begära omprövning inför en människa.

EU är på väg att driva oss in i en situation där vi inte bara får förhandscensur – utan även automatiserad förhandscensur utförd av humorfria maskiner.

Det är inte acceptabelt.

EU vs. Facebook vs. yttrandefriheten

Lionel Laurent hos Bloomberg:

»It’s not very surprising that Mark Zuckerberg’s state-visit-style trip to Brussels got a pretty chilly reception from European Union officials. The Facebook Inc. co-founder is pleading for more regulation to solve what he and his top lobbyist Nick Clegg consider to be a failure of public policy: If only governments could agree on how to regulate the internet without curbing free expression, the social network would be only too happy to comply.

This analysis is not new, and entirely misdiagnoses the problem in the Europeans’ view: It is Facebook’s business model, which hoovers up billions of users’ intimate thoughts and behavior patterns to better target ads, which is the issue. And it’s one that the social network would prefer just to tinker with at the margins, given the costs involved.«

Att tro att politiken kan eller vill reglera internet utan att inskränka yttrandefriheten känns en smula naivt.

Sedan kan man fundera över om någon egentligen företräder användarnas intressen i sammanhanget. Men så brukar det ju vara: Politik och »stakeholders« gör upp utan att lyssna till vad vanligt folk tycker.

Länk: Facebook’s Business Model Is What Brussels Hates – The question is whether Mark Zuckerberg will be “nibbled to death by ducks” or hit with something harder »