Ett antal ledamöter i Europaparlamentet vill utöka AI-reglerna i EU:s Digital Omnibus med ett förbud mot… »pornification apps« – vilka inte ens existerar.
Detta efter att Grok (precis som många andra AI) genererat bilder där en persons ansikte används på en av- eller lättklädd kropp. (T.ex. Ebba Buschs bikinibild.)
Vad som åsyftas torde vara de AI-tjänster som kan generera bilder. Vilket omfattar allt från OpenAI:s ChatGPT och Grok till rena bildgeneratorer som Midjourney och Googles NanoBanana. (Vilket även går att göra med Photoshop eller skalpell och klister.)
Det vill säga tjänster där bildgeneration ofta är en mindre del av verksamheten – och där lättklädda fejkbilder är en försumbar del av den totala mängden genererade bilder, i den mån de går att prompta fram över huvud taget.
Men några »pornification apps« existerar inte i AI:s ekosystem och allmänna utbud. Vill man ha ett förbud, då får man förbjuda AI som sådant.
Man kan förvisso styra bild-AI-tjänster till att inte generera lättklätt och vågat eller på andra sätt stötande innehåll. Vilket redan sker på i stort sett alla större AI-tjänster.
Men det är en helt annan sak att förbjuda dessa tjänster – med omfattande oönskade konsekvenser för alla som sysslar med sådant som bildhantering, grafisk formgivning och konst.
Det är som att förbjuda ordbehandlingsprogram för att någon kan använda dem för att skriva något snuskigt eller kränkande.
I sammanhanget kan man även fråga sig om det är så klokt att gå efter de verktyg som eventuellt används istället för den person som använder dem för att göra något som eventuellt är olagligt.
Som vanligt tycks politikerna inte begripa vad de sysslar med. Specielt inte när det råder moralpanik.
En av de ansvariga rapportörerna i Europaparlamentet är svenska Arba Kokalari (m) – som dock inte svarat på medias frågor om vad hon tycker.
• Parliament AI leads split on banning pornification apps »
CC0