Facebooks censur-bugg visar risken med uppladdningsfilter

Igår fick Facebooks algoritmer fnatt och började censurera / spam-märka helt seriösa länkade artiklar från etablerad media – vilket fick som konsekvens att folk inte kunde dela dem.

Enligt uppgift skall ett underliggande problem vara att den pågående smittspridningen reducerat Facebooks stab av mänskliga granskare av innehåll. När systemet då började få egna idéer tog det därför ett tag innan det upptäcktes och kunde åtgärdas.

Kan man få ett bättre exempel på riskerna med automatisk filtrering av uppladdat innehåll?

Ändå är det precis vad som krävs med EU:s nya upphovsrättsdirektiv. Då måste allt som laddas upp (bild, text, ljud, rörliga bilder, filer) granskas, analyseras och godkännas. Det samma gäller med den föreslagna EU-regleringen mot terror-relaterat innehåll på nätet – för att kunna blockera visst innehåll måste allt som laddas upp förhandsgranskas och analyseras.

Med tanke på volymerna måste denna granskning utföras av maskiner som saknar känsla för till exempel kontext, även om det förhoppningsvis kommer att finnas något sätt att begära omprövning inför en människa.

EU är på väg att driva oss in i en situation där vi inte bara får förhandscensur – utan även automatiserad förhandscensur utförd av humorfria maskiner.

Det är inte acceptabelt.

EU vs. Facebook vs. yttrandefriheten

Lionel Laurent hos Bloomberg:

»It’s not very surprising that Mark Zuckerberg’s state-visit-style trip to Brussels got a pretty chilly reception from European Union officials. The Facebook Inc. co-founder is pleading for more regulation to solve what he and his top lobbyist Nick Clegg consider to be a failure of public policy: If only governments could agree on how to regulate the internet without curbing free expression, the social network would be only too happy to comply.

This analysis is not new, and entirely misdiagnoses the problem in the Europeans’ view: It is Facebook’s business model, which hoovers up billions of users’ intimate thoughts and behavior patterns to better target ads, which is the issue. And it’s one that the social network would prefer just to tinker with at the margins, given the costs involved.«

Att tro att politiken kan eller vill reglera internet utan att inskränka yttrandefriheten känns en smula naivt.

Sedan kan man fundera över om någon egentligen företräder användarnas intressen i sammanhanget. Men så brukar det ju vara: Politik och »stakeholders« gör upp utan att lyssna till vad vanligt folk tycker.

Länk: Facebook’s Business Model Is What Brussels Hates – The question is whether Mark Zuckerberg will be “nibbled to death by ducks” or hit with something harder »

Vem skall bestämma vad som är sanning?

Debatten om politisk annonsering i sociala media fortsätter. Facebook har bestämt att inte faktakolla politiska annonser. Google begränsar så kallad micro-targeting. Och Twitter har helt stoppat politiska annonser. Och just nu utsätts framförallt Facebook för hård kritik för sitt beslut.

Debatten rymmer flera principiellt intressanta frågor. Som vem som skall bestämma vad som är sanning. Och vad sanning egentligen är. Samt hur detta i så fall skall prövas. Ingen av dessa frågor har fått något rimligt svar.

Anta att två politiska partier har olika uppfattning om hur något förhåller sig – och att båda påståendena inte kan vara rätt samtidigt. Vem skall då bestämma vad som är »rätt«? Hur vet man vad som är korrekt? Och vad händer om politiska partier och kandidater inte tillåts ifrågasätta vedertagna uppfattningar?

Debatten visar också att man underskattar internets deltagandekultur. Är det någonstans som olika påståenden granskas och ifrågasätts – då är det på nätet. Finns det någonstans där politiker kritiseras och hånas för felaktiga påståenden – då är det på nätet.

Dessutom blir det väldigt konstigt om olika regler skall gälla på respektive utanför internet.

Politico: Facebook sticking with policies on politicians’ lies and voter targeting »

Facebook om EU:s »uppladdningsfilter«

Det får nu anses klarlagt att EU:s nya upphovsrättsdirektiv kommer att leda till att allt som folk laddar upp – i vart fall på Facebook – kommer att förhandsgranskas, analyseras och i förekommande fall censureras.

Torrentfreak rapporterar:

»In a recent meeting organized by the European Commission, Facebook explained in detail how this automated system works. The meeting was organized to create a dialogue between various parties about possible solutions for the implementation of Article 17.

In Facebook’s presentation Dave Axelgard, product Manager for Rights Manager, explained how automated matching of copyrighted content takes place on the social media network. He also detailed what actions rightsholders can take in response, and how users can protest misuse and abuse of the system.«

Den goda nyheten är att Facebook anstränger sig för att komma tillrätta med felaktiga och falska upphovsrättsliga anspråk:

»Facebook works hard to catch and prevent these types of misuse and abuse, to ensure that its automated detection system doesn’t remove legitimate content. This is also something to keep in mind for the implementation of possible ‘upload filters’ with the introduction of Article 17. (…)

Facebook tries to limit abuse through a variety of measures. The company limits access to its Rights Manager tool to a select group of verified copyright holders. In addition, it always requires playable reference files, so all claims can be properly vetted.«

Men det finns fortfarande problem:

“Our matching system is not able to take context into account. It’s just seeking to identify whether or not two pieces of content matched to one another,” Axelgard said, responding to a question from Communia’s Paul Keller.

Vilket är precis vad upphovsrättsdirektivets kritiker varnat för från första början.

Torrentfreak: Facebook Sees Copyright Abuse as One of the Platform’s Main Challenges »

Uppdatering – Mer relevant information här: Article 17 stakeholder dialogue (day 4): it’s all about transparency »

Facebooks godtyckliga censur är ett problem

Facebook agerar fullständigt ologiskt och utan ett spår av konsekvens i sitt förbud mot annonser som rör »sociala frågor, val eller politik«. Dessutom är förbudet i sig ett demokratiskt problem.

En bloggpost från tidskriften Kvartals chefredaktör Jörgen Huitfeldt fångade mitt intresse. Ämnet är hur Facebook godtyckligt och inkonsekvent stoppar vissa av tidskriftens annonser. Detta är extra intressant då Kvartal är en högst »rumsren« tidskrift på den borgerliga kanten – som inte med någon måttstock kan anklagas för att sprida hat eller hot.

Till och med en annons som marknadsför en intervju med moderatledaren Ulf Kristersson censureras. Annat släpps igenom. Och vid något tillfälle har kända och respekterade debattprofiler till och med blivit tillfälligt avstängda från Facebook för att ha delat inlägg (inte annonser) som det varit fritt fram för Kvartal själva att lägga upp på plattformen.

Veckan därpå börjar vi mer konsekvent att pröva Facebooks annonseringsregler för att försöka hitta någon slags logik. Vi lägger en slant på att marknadsföra Veckopanelen med Sanna Rayman, Gunilla Kindstrand och Karin Svanborg Sjövall. Där blir det nej. Återigen med motiveringen från roboten (kanske) att man inte får marknadsföra innehåll med ”sociala frågor, val eller politik.”

Därefter provar vi med Viktor Barth-Krons kommentar om Kristdemokraterna. Den går igenom. Handlar den om val och politik? Ja tveklöst. Förstår vi varför den får grönt ljus? Nej.

Vi provar med en ytterligare kommentar av Viktor Barth-Kron. Kanske är det honom Facebook gillar? Denna gång handlar hans text om Sverigedemokraterna. Den blir nekad. Utan motivering.

Den enda förklaring jag kan komma på är att det kan röra sig om att en del människor anmäler inlägg och annonser med åsikter de inte gillar. Helt enkelt för att de vill tysta dem som har en annan åsikt. Om det är organiserat eller ej kan vi låta vara osagt. Sedan gör Algoritmen sin grej och därefter kanske eller kanske inte inlägget / annonsen granskas av en människa som kanske eller kanske inte ändrar beslutet någon gång i efterhand.

Om det är så att människor anmäler publiceringar bara för att de inte delar de åsikter som framförs – då är detta ett problem som Facebook borde ta tag i. Till exempel skulle uppenbara okynnesanmälningar kunna leda till att anmälaren stängs av för någon form av falsk tillvitelse.

Men så har vi det märkliga påstådda förbudet mot att marknadsföra inlägg som rör »sociala frågor, val eller politik«. Vilket låter som en utmärkt bekväm ursäkt för Facebook för att rensa bort sådant som någon möjligen kan uppleva som stötande eller provocerande. Och som samtidigt för tankarna till Huxleys dystopi »Du sköna nya värld«. Allt skall vara slätstruket, lättsmält och okontroversiellt till förmån för ytliga distraktioner i form av lätt underhållning.

Med tanke på Facebooks dominerande ställning som social medie-plattform är detta skrämmande. Och att medvetet fördumma användarna är i ett vidare perspektiv ett demokratiskt problem.

Att förbjuda marknadsföring av inlägg som rör sociala frågor, val eller politik är dessutom att gå maktens ärenden. Ett etablerat parti eller en stor organisation med massor av följare har inga svårigheter att nå många användare genom att helt enkelt dela sina vanliga inlägg. Men för ett litet eller nytt politiskt parti, en ny aktivistgrupp eller för all del en privatperson med andra, nya åsikter innebär förbudet mot att marknadsföra inlägg att de får extremt svårt att nå det genomslag som etablerade makthavare har gratis. Spelreglerna är helt enkelt riggade.

Sedan kan man ju undra när det blev ett problem att människor intresserar sig för »sociala frågor, val eller politik«.

Facebook är förvisso ett privat företag. De får ha i stort sett vilka regler de vill. Och de är fria att sälja annonser till vilka de vill – eller att låta bli. Men det innebär inte att de kan förvänta sig att undgå kritik när de beter sig idiotiskt.

/ HAX

Kvartal: Facebooks skruvade version av yttrandefrihet »

EU fruktar kryptovalutor – diskuterar förbud

Facebooks planer på en egen digital valuta – Libra – har satt ny fart på debatten om kryptovalutor bland EU:s medlemsstater.

Som vanligt gömmer man mycket av kritiken bakom argument som att kryptovalutor kan användas för brottslig verksamhet, terrorfinansiering, penningtvätt m.m. I just Libras fall är det dock att skjuta bredvid målet, eftersom valutan varken gör sändare, mottagare eller betalningshistoriken anonym. Och inte ens Bitcoin-transaktioner är omöjliga att spåra, även om det är betydligt krångligare.

Det sägs att människor har två skäl för vad de säger och tycker. Ett som låter bra – och så det verkliga skälet.

I EU-ländernas fall är den verkliga invändningen att man fruktar att stater och regeringar kan mista kontrollen över penningpolitiken om digitala valutor blir alltför populära.

Man kan förstå oron, då inte ens traditionella valutor har något annat underliggande värde än medborgarnas förtroende. I det perspektivet är vanliga pengar till och med sämre än t.ex. Bitcoin – som ju har en bestämd och förutsägbar tillväxt – medan värdet på statlig valuta snabbt kan försämras genom penningpolitiska åtgärder.

Ur ett konsumentperspektiv är en mer relevant invändning att Facebook redan vet för mycket om sina användare och därmed har farligt stor makt över våra liv. Med en egen valuta skulle företaget öka denna makt.

Vilket dock inte är någon relevant invändning mot andra, decentraliserade kryptovalutor, som Bitcoin.

Nu är frågan om EU tänker förbjuda digitala valutor – och hur det i så fall är tänkt att gå till. Det verkar som att vissa medlemsstater, som Frankrike, driver en förbudslinje. Andra länder och EU-kommissionen är dock mer avvaktande. Frågan kommer att komma upp på nytt på EU-toppmötet i december.

Facebook, Twitter, politiken och sanningen

Från alla håll – inklusive inifrån företaget – kommer krav på att Facebook skall faktakolla politiska annonser. Vilket Mark Zuckerberg är tveksam till.

Diskussionen väcker frågor. Vad är egentligen sanning? Vem skall bedöma det?

Till synes motstridiga påståenden kan ibland båda vara korrekta. Och inte sällan är det långt från glasklart vad som är korrekt och vad som är fel – om inte annat för att data är ofullständiga eller för att man kan använda olika modeller för att bedöma samma sak. Att sätta sig till doms över vad som är sant och falskt i politisk marknadsföring är helt enkelt en övermänsklig, förmodligen omöjlig uppgift.

Twitter har å sin sida just meddelat att man från och med 22 november säger nej till politisk annonsering.

Det kan naturligtvis vara ett sätt att komma runt tolkningsproblemen ovan. Men det reser genast helt nya frågor.

Vad är en politisk annons? Om den kommer från ett politiskt parti eller en politisk kandidat är svaret rätt uppenbart. Men hur bedömer man frågan om till exempel Greenpeace eller ett företag annonserar om något som i grunden är en politisk fråga – och som kan komma att påverka hur människor röstar?

Och vad är politik? Hur skall man till exempel bedöma en annons från Amnesty som kritiserar bristen på mänskliga rättigheter i Kina?

Slutligen kan man förutse en del oklarheter som kommer att uppstå om politiska annonser blir förbjudna, men inte politiska postningar. Det lär resultera i högkonjunktur i trollfabriken.

Man kan förstå att både Facebook och Twitter sitter i en rävsax. Så det skall bli intressant att se hur detta utvecklar sig. Men vad gäller att kontrollera fakta, så verkar man ha glömt bort att det finns en aktör till – nämligen användarna. Om en politiker ljuger på nätet (oavsett om det är i en annons eller en vanlig postning) så kommer det omedelbart att uppmärksammas och påpekas av användare som är av en annan uppfattning. Därför kommer lögner alltid att slå tillbaka.

Och i ett vidare perspektiv är naturligtvis alla inskränkningar av det fria ordet beklagliga – även om både Facebook och Twitter är privata företag som får göra som de vill inom ramen för sina avtal med användarna.

Frankrike: Länkskatt för Google men inte för Facebook

EU:s nya upphovsrättsdirektiv innehåller bland annat den så kallade länkskatten – det vill säga att sökmotorer, plattformar m.fl. förväntas betala en avgift om de länkar till tidningars och mediehus artiklar. Vilket är lika besynnerligt som det låter. Först ut med att göra nationell lag av detta är Frankrike – som genast hamnat på kollisionskurs med Google.

Google vägrar och har istället för »rika länkar« gått över till att endast länka till franska media med artikelns rubrik och URL. Den franska regeringen rasar och vill tvinga Google att visa mer utförliga länkar och då också betala för detta. Läs mer: 1 » | 2 » | 3 » | 4 »

Nu meddelar även Facebook att de vägrar. Men reaktionen från Frankrike har inte blivit den man kan vänta sig. Politico förklarar:

Facebook’s refusal to pay for news in France under new legislation on the neighboring right for publishers does not have the same consequences as Google’s refusal, French Junior Digital Minister Cédric O said Monday.

”Facebook doesn’t raise the same issues [as Google]. Facebook doesn’t generate the same traffic, it’s not a search engine,” he told French radio France Inter.

Ministern medger i vart fall att Google är en sökmotor. Vilket rimligen innebär att de inte är en publicist. Vilket däremot Facebook möjligen är. Här någonstans bryter logiken samman. Om någon över huvud taget skall betala »länkskatt« – då är det väl den som publicerar länkar på sin plattform, snarare än den som hjälper människor att hitta web-sidor värda att besöka?

”In their news tab, [Facebook] decided to reference some quality media and to provide remuneration, which is closer to the spirit of the directive on neighboring rights,” said Cédric O, adding that the news tab raised other types of questions such as the social media giant’s potential role as ”censor.”

Detta kan vara en viktig ledtråd. Facebook skriver avtal med ett fåtal större media, vars innehåll de sedan lyfter fram på siten. Det innebär att alla andra media, mindre publikationer och alternativa media missgynnas. Vilket minister O tydligen också inser – men inte drar några rimliga slutsatser av.

Bortsett från att det hela luktar välkänd fransk elitism, så är den franska regeringens position inte helt lätt att förstå.

Politico: French junior digital minister: Facebook different from Google on copyright »

Kryptovalutor är en fråga om makt

Visa, Mastercard och Ebay hoppar av den grupp som backar upp Facebooks planerade digitala valuta, Libra. I vart fall för tillfället.

Så vad handlar det om? SVT rapporterar:

»Bland kritikerna finns bland annat den amerikanske presidenten Donald Trump, chefen för den amerikanska centralbanken Jerome Powell samt de franska och tyska regeringarna.

Kritiken har bland annat handlat om riskerna för kryptovalutans potentiella koppling till eventuell penningtvätt men också om att en privat global valuta kan komma att förflytta ekonomisk makt från stater till den privata sfären.

Enligt nyhetssajten Politico har flera av de företag som nu hoppar av varit måltavlor för direkt politisk press under de senaste veckorna.«

Svaret är alltså makt.

Länkar:
• SVT: Visa och Mastercard lämnar Facebooks kryptovaluta Libra »
• Politico: Facebook’s Libra project suffers major blow as Visa, MasterCard drop out »

USA, Storbritannien och Australien vill ha tillgång till allt på Facebooks alla plattformar

EFF:

»Top law enforcement officials in the United States, United Kingdom, and Australia told Facebook today that they want backdoor access to all encrypted messages sent on all its platforms. In an open letter, these governments called on Mark Zuckerberg to stop Facebook’s plan to introduce end-to-end encryption on all of the company’s messaging products and instead promise that it will “enable law enforcement to obtain lawful access to content in a readable and usable format.”

This is a staggering attempt to undermine the security and privacy of communications tools used by billions of people. Facebook should not comply.«

Länk: The Open Letter from the Governments of US, UK, and Australia to Facebook is An All-Out Attack on Encryption »

Uppdatering, fler länkar:
• BBC: Facebook encryption threatens public safety, say ministers »
• Privacy International: PI response to confused governments’ confusing declaration of war and victory on encryption »
• ArsTechnica: US wants Facebook to backdoor WhatsApp and halt encryption plans »