Reddit envisage de poursuivre l’Université de Zurich pour avoir utilisé des chatbots pour influencer les opinions des utilisateurs sur les sujets à boutons chauds
Une grande université suisse a été critiquée pour avoir organisé une expérience secrète sur les utilisateurs de la plate-forme de médias sociaux Reddit pour tester remark l’intelligence artificielle (IA) pourrait être utilisée pour influencer leurs opinions. La plate-forme a déclaré qu’elle envisageait une motion en justice.
Selon les médias, un groupe de chercheurs de l’Université de Zurich au cours des derniers mois a mené une étude non autorisée sur R / ChangeMyview, l’une des plus grandes communautés de débat de Reddit. L’expérience impliquait des chatbots d’IA se faisant passer pour des utilisateurs réguliers et s’engageant dans des discussions sur les questions controversées.
Les bots, dont les comptes ont depuis été interdits, a publié plus de 1 700 commentaires dans le Sandredit. Ils ont adopté de fausses identités telles qu’une victime de viol masculine minimisant le traumatisme de son agression, un homme noir s’opposant au mouvement Black Lives Matter et un conseiller en traumatologie domestique affirmant que les femmes les plus vulnérables étaient celles «Abrité par les mother and father surprotecteurs.»
Un autre bot a été utilisé pour scanner les profils d’utilisateurs et fournir des arguments personnalisés en réponse.
Les chercheurs ont divulgué l’expérience des modérateurs de subddit plusieurs mois après qu’il avait eu lieu, l’appelant «Une étape de divulgation dans l’étude.»
Dans un communiqué publié la semaine dernière, l’équipe modératrice de Reddit a déclaré que la plate-forme interdit l’utilisation de contenu ou de robots générés par l’IA non divulgués. Le directeur juridique de Reddit, Ben Lee, a déclaré que ni la société ni les modérateurs de R / Changemyview n’avaient une connaissance préalable de ce qu’il a appelé un « Expérience inappropriée et très contraire à l’éthique. » Il a ajouté que Reddit préparait des demandes juridiques officielles pour envoyer à l’Université de Zurich et aux chercheurs impliqués.
Les chercheurs ont déclaré que l’étude avait été guidée par des principes de « éthique » recherche et transparence. Le comité d’éthique de l’université avait fait valoir que la recherche avait causé peu de mal. Pourtant, les utilisateurs du Sudreddit ont réagi avec le choc et la colère de l’expérimentation sans le savoir.
La revue Science a cité une déclaration universitaire envoyée par courriel disant que les chercheurs avaient décidé de ne pas publier les résultats. L’université a déclaré qu’elle enquêterait sur l’incident.
L’utilisation de bots d’IA – de fake comptes conçus pour imiter les vrais utilisateurs – a augmenté régulièrement sur les plateformes de médias sociaux ces dernières années. Les specialists disent qu’ils sont de plus en plus utilisés pour façonner l’opinion publique, en particulier autour des élections.
Les gouvernements occidentaux, principalement les États-Unis et le Royaume-Uni, ont longtemps accusé la Russie d’exploiter des «fermes de bot» à grande échelle pour intervenir dans leurs processus électoraux – les accusations de Moscou a nié à plusieurs reprises. Cependant, certains acteurs occidentaux ont été examinés eux-mêmes pour avoir utilisé des bots dans des campagnes de désinformation, tout en avertissant publiquement des interférences étrangères.
Vous pouvez partager cette histoire sur les réseaux sociaux:
