Chatbotters reaktioner på hadefuldt sprog

Forskerne fodrede den kunstige intelligens med venstre- og højreorienteret data. Derefter testede de reaktionen på hadefuldt sprog.

* Modellerne, der blev trænet med venstreorienteret data, var mere følsomme over for hadefuldt sprog rettet mod etniske, religiøse og seksuelle minoriteter.

* Modellerne, der blev trænet med højreorienteret data, var mere følsomme over for hadefuldt sprog rettet mod hvide kristne mænd.

* Venstreorienterede sprogmodeller var bedre til at afsløre misinformation fra højreorienterede kilder. Men dårligere til at afsløre misinformation fra venstreorienterede kilder og omvendt.

Kilde: Studiet "From Pretraining Data to Language Models to Downstream Tasks: Tracking the Trails of Political Biases Leading to Unfair NLP Models".