AI:s språkmodeller speglar främst det dominerande narrativet och riskerar därför att vilseleda genom att utelämna relevant information.
Vi har väl alla varit med om att AI:s språkmodeller hävdar en sak – för att sedan backa när ny information tillförs. Står man på sig kan det till och med hända att den LLM man använder hittar vetenskapliga papper som stöder andra teser än den som maskinen först har framfört.
Det vill säga att man inte kan lita på det första svaret man får. Som i alla andra sammanhang måste man vara källkritisk, ställa uppföljande frågor och uttryckligen efterlysa avvikande teser och vetenskapliga papper som säger något annat.
Detta beror rimligen på att språkmodellerna viktar olika teser utifrån hur omskrivna och allmänt spridda de är. För AI hade jorden fortfarande varit platt.
Inte sällan är svaren på saker vi frågar AI om inom vårt område närmast copy-paste från EU:s eller regeringens presmeddelanden, som sedan även klistrats in i TT-telegram och traditionell medias rapportering.
Det är först när man har lyckats bryta sig igenom denna vall som man hittar den riktigt intressanta informationen och de rapporter som utmanar det dominerande narrativet.
Men för att lyckas med det måste man veta vilka frågor man ska ställa. Vilket i sin tur bygger på att man redan har kännedom om de aktuella politiska processerna i fråga.
Resultatet blir att den som saknar omfattande bakgrundsinformation riskerar att vilseledas av AI genom vad modellerna utelämnar. Det är ett problem.
Att det fungerar så här bekräftas i en ny studie i tidskriften Nature. Den visar att det inte bara är techjättar och regeringar som formar språkmodellernas världsbild, utan att etablerade medier också har ett starkt bidragande inflytande.
Studien visar även att medias inflytande över AI är större i länder med begränsad pressfrihet. Vilket inte heller är så konstigt. Men intressant.
Då mycket av dagens journalistik är öppet agendadriven, även i länder med stor pressfrihet, väcks därför frågan om AI:s objektivitet – eftersom den tränas på sådan information.
Själva uttrycket »artificiell intelligens« riskerar att leda fel. Det handlar inte om intelligens i betydelsen självständigt tänkande – utan om maskininlärning, som till sin natur befäster etablerade narrativ.
Även vad gäller AI tycks min gamle samhällskunskapslärares varningsord vara relevanta: All information har en avsändare. Alla avsändare har ett syfte med sin information.
• Nature: State media control influences large language models »
CC0
