Under de senaste månaderna har en grupp forskare vid universitetet i Zürich bedrivit ett AI-experiment i subredditen r/changemymind, där de använde bottar för att försöka påverka riktiga användares åsikter. Problemet var att varken användarna eller Reddit informerades om experimentet.
Bottarna svarade på inlägg från verkliga användare i ett försök att förändra deras ståndpunkter. I vissa fall låtsades bottarna vara överlevare av sexuella övergrepp eller kuratorer. Vissa kommentarer anpassades dessutom efter användarens forumhistorik för att öka trovärdigheten.
Totalt postade bottarna över 1 700 kommentarer och samlade in 10 000 karmapoäng innan de upptäcktes, enligt 404 Media.
Ben Lee, juridisk chef på Reddit, kallar experimentet ”oetiskt och olämpligt” i ett inlägg. De ansvariga forskarna har nu bannats från forumet och Reddit överväger att vidta rättsliga åtgärder. Universitetet i Zürich har också inlett en intern utredning, rapporterar 404 Media.
Forskarna själva hävdar att de haft godkännande från universitetets granskningsnämnd och att syftet med studien var att undersöka hur skadliga aktörer kan använda AI för att påverka den offentliga opinionen. 404 Media har arkiverat en stor del av bottarnas nu raderade inlägg, som du kan se här.
Vissa delar av studien har publicerats, men materialet är inte granskat externt och bör därför tolkas med försiktighet.
