Debatten om artificiell intelligens – AI – är på väg in på ett nytt spår. Nu handlar det om vilken »värdegrund« AI-systemen skall utrustas med.
Här finns två kolliderande synsätt: Antingen att AI-system skall utgå från verkliga förhållanden, vara objektiva och neutrala – för att åstadkomma optimala resultat. Eller att framtidens AI bör utrustas med något slags värdegrund.
Båda synsätten har sina problem.
Ett »neutralt« AI kan bli överdrivet utilitaristiskt på ett sätt som strider mot humanistiska principer, rättsstatens grunder och de demokratiska värdena.
Ett moraliskt riggat AI måste å andra sidan matas med något slags värdegrund. Frågan är då vilken värdegrund. Och vem som skall bestämma över detta.
(Sedan är AI naturligtvis inte ett universellt system, utan många olika.)
Detta är frågor som redan diskuteras och där det kan bli fråga om politiska beslut.
EU vill ta fram ett etiskt regelverk för AI. I den sammanfattande beskrivningen kan vi bland annat läsa… »AI systems should be used to enhance positive social change and enhance sustainability and ecological responsibility.« Vilket i sig är parametrar som öppnar för många olika, subjektiva tolkningar.
Samtidigt menar en del forskare att det är ett problem att AI främst utvecklas av vita, heterosexuella män…
Man kan även fundera över vad AI kommer att innebära vad gäller frågor som centralplanering, övervakning och maktutövning i vidare termer. Dessa verktyg kommer att kunna användas för att manipulera folket – och för att förtrycka det. I det fördolda eller öppet. Detta är dock en aspekt av frågan som i princip inte alls diskuteras.
Länkar:
• Europe to pilot AI ethics rules, calls for participants »
• Forskare varnar för diskriminerande artificiell intelligens »