Ladda upp dina privata nakenbilder till vår nya tjänst och vi skall se till att de inte sprids av andra. Detta erbjudande från Facebook & Co har fått många att höja på ögonbrynen.
Meta – som äger bl.a. Facebook och Instagram – försöker vidta åtgärder mot ”non-consensual sharing of intimate images” (NCII). Det vill säga hämndporr och andra oönskade publiceringar av intima bilder.
Tanken är att om man flaggar en bild i systemet, då kan de medverkande företagen kontrollera att den inte laddas upp – eller plocka ner den om den redan är publicerad.
Vilket förutsätter att allt som alla laddar upp kontrolleras. Ytterligare ett användningsområde för uppladdningsfilter, med andra ord.
Meta och den organisation som sköter detta – StopNCII.org – påpekar samtidigt att man inte kommer att lagra några bilder som sådana, utan bara deras digitala fingeravtryck (hash). Omvandlingen av bilden är tänkt att ske i användarnas egna mobiler / datorer.
Man skriver:
»The tool features hash-generating technology that assigns a unique hash value (a numerical code) to an image, creating a secure digital fingerprint. Tech companies participating in StopNCII.org receive the hash and can use that hash to detect if someone has shared or is trying to share those images on their platforms.
While participating companies use the hash they receive from StopNCII.org to identify images that someone has shared or is trying to share on their platforms, the original image never leaves the person’s device. Only hashes, not the images themselves, are shared with StopNCII.org and participating tech platforms.«
Det låter kanske betryggande. Men kommer det att fungera? Om bilden ändras (till exempel beskärs eller photoshoppas) då kommer även hash-värdet att ändras. Så det kan vara lätt att kringgå systemet.
Och vad händer om någon laddar upp en helt annan bild i systemet – som inte innehåller något naket, utan annat innehåll som personen i fråga vill få bort från nätet? Med endast en hash-sum och utan tillgång till originalet lär systemet knappast kunna bedöma om de inrapporterade bilderna är vad de påstås vara.
I grunden finns naturligtvis också en fråga om huruvida användarna litar på Meta-koncernen och att den sköter hanteringen av våra intima bilder på det sätt som påstås.
Bolagen i Meta-koncernen samarbetar dessutom med de nationella underrättelseorganen i USA. Här kan det vara värt att påminna om NSA:s valspråk ”Collect it all”. Komprometterande bilder av sexuell natur är en klassisk tillgång i underrättelsesammanhang.
Ingen försvarar att det publiceras intima bilder av människor utan deras samtycke. Men frågan är vilka indirekta effekter (som uppladdningsfilter) detta system kommer att medföra. Om det kan missbrukas. Och om det alls är effektivt givet sitt syfte.