Femte juli

Nätet till folket!

Instagram

Meta tar strid mot EU om censur

av

Tillsammans med den nya amerikanska administrationen kommer Meta att ta strid mot länder som kräver censur i sociala media utöver vad som är olagligt. Man nämner särskilt EU. Meta ersätter även sina faktagranskare med »community notes«, där användare kan påpeka när något är fel.

Meta gör sig av med externa faktagranskare för sina sociala media (Facebook, Instagram och Threads). Istället kommer man att göra som X (Twitter) och satsa på »community notes« där användarna själva får möjlighet att påpeka felaktigheter.

Detta var en av nyheterna i en video som Metas VD Mark Zuckerberg publicerade idag. Här är det viktigaste, i punktform:

  • Metas innehållsmoderering har nått en punkt där för många misstag begås.
  • Meta tänker förenkla sin innehållspolicy och återupprätta yttrandefriheten på sina plattformar.
  • Externa faktagranskare kommer att ersättas med »community notes« där användarna påtalar sakfel.
  • Metas faktagranskare har varit politiskt vinklade och skadat förtroendet för Meta.
  • Man kommer att lätta på censuren vad gäller ämnen som invandring och kön.
  • Istället för att låta sina automatiska filter söka efter all slags brott mot företagets policy kommer man att fokusera på olagligt innehåll och grova övertramp.
  • I lindrigare fall kommer man inte att vidta åtgärder med mindre än att en postning anmäls.
  • Man kommer att bli mer positiva till politiskt innehåll (som under en tid prioriterats ner).
  • Man flyttar sina team för innehållsmoderering och »Trust and Safety« från Kalifornien till Texas. Detta hoppas man kan minska misstankarna om politisk censur.
  • Meta kommer att samarbeta med President Trump för att slå tillbaka mot regeringar runt om i världen som ger sig på amerikanska sociala media för att få dem att censurera. Speciellt nämner Zuckerberg EU, Latinamerika och Kina.
  • Man vill återvända till sina rötter vad gäller att erbjuda människor en plattform för att göra sina röster hörda.

Ett citat »Europe has an ever increasing number of laws institutionalizing censorship and making it difficult to build anything innovative there.«

Detta kommer inte att tas emot väl av EU och speciellt inte av EU-kommissionen.

De aviserade ändringarna är närmast en krigsförklaring mot EU:s Digital Services Act – som kräver att stora plattformar inte bara skall ta bort olagligt innehåll utan även motverka icke-olagliga men olämpliga eller skadliga yttranden.

Meta gör förändringarna med den nya amerikanska administrationens stöd. Vilket innebär att EU måste tänka efter innan man ger sig på amerikanska sociala media. Den transatlantiska relationen kommer ändå att utsättas för nog med prövningar de närmaste åren.

På det hela taget är Metas utspel välkommet. Man stärker yttrandefriheten och drar gränsen vid sådant som är olagligt eller grovt överträder användarvillkoren.

Vilket känns rimligt.

Räkna dock med många och upprörda kommentarer från aktörer som tycker något annat. Speciellt från EU och traditionell media.

Facebook: Sänd oss dina nakenbilder

av

Ladda upp dina privata nakenbilder till vår nya tjänst och vi skall se till att de inte sprids av andra. Detta erbjudande från Facebook & Co har fått många att höja på ögonbrynen.

Meta – som äger bl.a. Facebook och Instagram – försöker vidta åtgärder mot ”non-consensual sharing of intimate images” (NCII). Det vill säga hämndporr och andra oönskade publiceringar av intima bilder.

Tanken är att om man flaggar en bild i systemet, då kan de medverkande företagen kontrollera att den inte laddas upp – eller plocka ner den om den redan är publicerad.

Vilket förutsätter att allt som alla laddar upp kontrolleras. Ytterligare ett användningsområde för uppladdningsfilter, med andra ord.

Meta och den organisation som sköter detta – StopNCII.org – påpekar samtidigt att man inte kommer att lagra några bilder som sådana, utan bara deras digitala fingeravtryck (hash). Omvandlingen av bilden är tänkt att ske i användarnas egna mobiler / datorer.

Man skriver:

»The tool features hash-generating technology that assigns a unique hash value (a numerical code) to an image, creating a secure digital fingerprint. Tech companies participating in StopNCII.org receive the hash and can use that hash to detect if someone has shared or is trying to share those images on their platforms.

While participating companies use the hash they receive from StopNCII.org to identify images that someone has shared or is trying to share on their platforms, the original image never leaves the person’s device. Only hashes, not the images themselves, are shared with StopNCII.org and participating tech platforms.«

Det låter kanske betryggande. Men kommer det att fungera? Om bilden ändras (till exempel beskärs eller photoshoppas) då kommer även hash-värdet att ändras. Så det kan vara lätt att kringgå systemet.

Och vad händer om någon laddar upp en helt annan bild i systemet – som inte innehåller något naket, utan annat innehåll som personen i fråga vill få bort från nätet? Med endast en hash-sum och utan tillgång till originalet lär systemet knappast kunna bedöma om de inrapporterade bilderna är vad de påstås vara.

I grunden finns naturligtvis också en fråga om huruvida användarna litar på Meta-koncernen och att den sköter hanteringen av våra intima bilder på det sätt som påstås.

Bolagen i Meta-koncernen samarbetar dessutom med de nationella underrättelseorganen i USA. Här kan det vara värt att påminna om NSA:s valspråk ”Collect it all”. Komprometterande bilder av sexuell natur är en klassisk tillgång i underrättelsesammanhang.

Ingen försvarar att det publiceras intima bilder av människor utan deras samtycke. Men frågan är vilka indirekta effekter (som uppladdningsfilter) detta system kommer att medföra. Om det kan missbrukas. Och om det alls är effektivt givet sitt syfte.

Signals Facebook-kritiska annonser stoppade på Instagram

av

 

Facebook kritiseras för en omfattande insamling av data om sina användare.

Vilket kommunikations-appen Signal ville göra en poäng av, med en annonskampanj. På Instagram. Som ägs av Facebook. Se några av annonserna ovan.

Facebook-koncernen sa nej och stoppade annonserna. Vilket möjligen kommer att göra dem än mer uppmärksammade. Att tysta kritik är som regel en dålig idé.

Signal: The Instagram ads Facebook won’t show you »

Automatisk nätcensur i corona-krisens spår

av

Nej, detta handlar inte om vad man får eller inte får säga om Corona / COVID 19 på sociala media – utan om vad pandemin har inneburit vad gäller censur av övrigt innehåll.

EFF har djupdykt i frågan om vad som händer när moderering av innehåll styrs om från människor till maskiner i pandemins spår:

”While human content moderation doesn’t scale and comes with high social costs, it is indispensable. Automated systems are simply not capable of consistently identifying content correctly. Human communication and interactions are complex, and automated tools misunderstand the political, social or interpersonal context of speech all the time. That is why it is crucial that algorithmic content moderation is supervised by human moderators and that users can contest takedowns. As Facebook’s August 2020 transparency report shows, the company’s approach to content moderation during the coronavirus pandemic has been lacking in both human oversight and options for appeals.”

Ingen möjlighet att överklaga:

”When content is removed on either Facebook or Instagram, people typically have the option to contest takedown decisions. Typically, when the appeals process is initiated, the deleted material is reviewed by a human moderator and the takedown decision can get reversed and content reinstated. During the pandemic, however, that option has been seriously limited, with users receiving notification that their appeal may not be considered. According to the transparency report, there were zero appeals on Instagram during the second quarter of 2020 and very few on Facebook.”

Beslut om vad som får skrivas på sociala media fattas nu alltså helt och hållet av maskiner. Vilket är en rätt svindlande tanke.

Det visar sig också att Facebook och dess dotterbolag Instagram tillämpar olika principer för moderering av innehåll.

Nu återstår att se om sociala media kommer att fortsätta låta algoritmer fortsätta moderera innehåll utan egentlig mänsklig kontroll även efter corona-krisen. Maskiner är ju billigare än människor.

Hur som helst måste det till en rimlig och fungerande funktion för att överklaga beslut när innehåll censureras. En funktion där den drabbade tillåts argumentera för sin sak med mer än bara en maskin.

EFF: Facebook’s Most Recent Transparency Report Demonstrates the Pitfalls of Automated Content Moderation »

Porrskådespelares och sexarbetares Instagram-konton stängs utan giltiga skäl

av

Instagram raderar porrskådespelares och sexarbetares konton trots att de inte innehåller varesig något naket eller stötande. BBC rapporterar…

»Hundreds of porn stars and sex workers had their Instagram accounts deleted this year, and many say that they’re being held to a different standard than mainstream celebrities.

”I should be able to model my Instagram account on Sharon Stone or any other verified profile, but the reality is that doing that would get me deleted,” says Alana Evans, president of the Adult Performers Actors Guild and one of the leading voices in the battle that adult stars are waging to stay on the platform.

Ms Evans’ group has collected a list of more than 1,300 performers who claim that their accounts have been deleted by Instagram’s content moderators for violations of the site’s community standards, despite not showing any nudity or sex.

”They discriminate against us because they don’t like what we do for a living,” Ms Evans says.«

Möjligen finns det en tråkig förklaring:

»In late 2018, adult performers say, an individual or a number of individuals started a co-ordinated campaign to report accounts to social media platforms, with the clear intent of having them removed.«

Massanmälningar utan grund med enda syfte att få konton stängda, med andra ord.

Vilket är ett ofog som branschen måste försöka komma tillrätta med. Vore jag i Instagrams/Facebooks kläder – då skulle jag införa ett användarvillkor där de som okynnesanmäler konton (som inte bryter mot några regler) riskerar avstängning.

BBC: Why is Instagram deleting the accounts of hundreds of porn stars? »

Problemen med att Facebook stänger av Alex Jones och andra besvärliga människor

av

Facebook har bannlyst ett antal högljudda röster på sin plattform. Det gäller till exempel den populäre konspirationsteoretikern Alex Jones, ledaren för Nation of Islam Louis Farrakhan och alt-right-provokatören Milo Yiannopoulos.

Facebook är ett privat företag och får naturligtvis själva bestämma vilka som skall finnas på deras plattform. Men det innebär inte att företaget har rätt att slippa kritik eller att man inte kan problematisera kring beslutet.

Det finns förvisso en gräns för yttrandefriheten. Den går där ett hot uttalas i en sådan kontext att det föreligger en uppenbar fara för andras säkerhet och/eller egendom. Men i övrigt kan man endast säga att yttrandefrihet råder om folk tillåts säga vad de vill. Hindrar man dem, då har man per definition inte yttrandefrihet.

Det är möjligt att de nu avstängda har gått över gränsen. Men följande klipp från The Guardian väcker frågor:

The individuals have been banned from Facebook and Instagram under its policies against “dangerous individuals and organizations”. The company said it would continue its policy of banning accounts that praise or support these figures on the platform.

Frågan är vad som kan betraktas som »farligt« i sammanhanget. Och för vem. För Mark Zuckerbergs anseende? För Facebooks annonsinkomster? Eller för samhället som sådant? Hur avgör man i så fall objektivt den senare frågan?

Den andra meningen är också intressant. Innebär det att Facebook kommer att stänga av användare som protesterar mot de aktuella avstängningarna?

The bans highlight the arbitrary nature of Facebook’s decisions to bar prominent individuals from posting on its services. The company acts as both judge and jury on who is allowed to host material on its network, with accounts often removed only following sustained criticism in the media.

However, in recent months, the company has become increasingly willing to issue outright bans against individuals deemed to spread hate speech – in effect cutting many “alt-right” figures off from the social networks that allowed them to gain an audience in the first place.

Det finns skäl att tro att det är medial uppmärksamhet och organiserade anmälningskampanjer från de aktuella kontonas politiska motståndare som fått Facebook att agera – snarare än objektiva bedömningsgrunder som tillämpas lika för alla.

Facebook har som sagt rätt att göra som de vill på sin egen plattform. Men det förändrar inte det faktum att det som sker kan vara problematiskt och att det väcker frågor. Speciellt med tanke på Facebook/instagrams dominerande ställning bland sociala media.

Det behövs helt klart nya, konkurrerande sociala plattformar. Synd bara att EU stiftar lagar som gör det omöjligt att ta upp konkurrensen med nätjättarna.

/ HAX

Länk: Facebook bans Alex Jones, Milo Yiannopoulos and other far-right figures »

Kommer artikel 13 att döda Instagram?

av

Kommer det över huvud taget att vara möjligt för oss som bor i EU att använda sociala plattformar som Instagram i framtiden?

Så här: Artikel 13 i EU:s nya direktiv om upphovsrätt föreslår att nätplattformar med användargenererat material kommer att hållas ansvariga för eventuella intrång i upphovsrätten.

Därför kommer dessa plattformar att tvingas filtrera och censurera sådant som du lägger upp så att ingen text, ingen bild, inget ljud och ingen video strider mot någon annans upphovsrätt. Vilket i princip är omöjligt. Det finns inget register över allt som är skyddat av upphovsrätten – och detta skydd uppstår så fort någon skapar något.

Ta en godtycklig Instagram-bild som du laddat upp. Följande gäller då:

  • Om du tagit bilden själv (och den inte innehåller några upphovsrättsskyddade objekt) är det tillåtet att lägga upp bilden.
  • Om det är »din« bild i meningen att den är tagen med din mobil, men av någon annan (som t.ex. tagit en bild av dig) – då tillfaller upphovsrätten fotografen. Och då är det förbjudet att lägga upp bilden, utan fotografens tillstånd.
  • Om det är en bild som du köpt av en bildbank och du har licens för att använda den – då är det tillåtet att lägga upp den.
  • Om det är en bild eller illustration som du »hittat« på nätet och gärna vill dela med andra – då tillhör upphovsrätten inte dig och då är det förbjudet att lägga upp den.

Detta kommer att avgöras av automatiska, algoritm-styrda filter. Frågan är hur de skall veta vad som gäller för den bild du vill lägga upp. Svaret är att det är omöjligt att veta.

Det skall bli intressant att se hur Instagram kommer att hantera detta. Kanske drar de samma slutsats som Youtube – som överväger att blockera användare och tittare i EU, eftersom de nya reglerna är omöjliga att efterleva.

Detta brukar avfärdas som skrämselpropaganda av dem som är för artikel 13. Men de har samtidigt inget svar på hur problemet skall lösas. Nada.

Artikel 13 är ett exempel på hur EU stiftar regler som rör upphovsrätt och internets fria informationsflöde utan att göra någon vettig konsekvensanalys. Man fattar beslut om sådant som man inte förstår. Och man viftar bort all kritik och alla invändningar – tills det är för sent.

Det är som vanligt i EU: Först stiftar man lagar, sedan tar man reda på fakta och därefter utbryter en yrvaken debatt – när det uppstår oväntade och oönskade konsekvenser.

/ HAX