Mercredi, le chatbot AI d’Elon Musk a semblé vivre un bug mercredi qui l’a fait répondre à des dizaines de messages sur X avec des informations sur le génocide en Afrique du Sud, même lorsque l’utilisateur n’a rien posé sur le sujet.
Les réponses étranges proviennent en grande partie du compte X pour Grok, qui répond aux utilisateurs avec des publications générées par l’AI chaque fois qu’un utilisateur talise @grok. Interrogé sur des sujets non liés, Grok a parlé à plusieurs reprises aux utilisateurs d’un «génocide blanc», ainsi que du chant anti-apartheid »tuer les Boer. «
Dans un exemple, un utilisateur a demandé à Grok sur le salaire d’un joueur de baseball professionnel, et Grok a répondu que «la revendication du« génocide blanc »en Afrique du Sud est très débattue.»
Plusieurs utilisateurs ont posté sur X sur leurs interactions confuses et étranges avec le chatbot Grok AI mercredi.
On ne sait pas pour le second quelle est la trigger des réponses étranges de Grok, mais les chatbots de Xai ont été manipulés dans le passé.
En février, Grok 3 semblait avoir brièvement censuré des mentions peu flatteuses d’Elon Musk et Donald Trump. À l’époque, le responsable de l’ingénierie de Xai, Igor Babuschkin, semblait confirmer que Grok a été brièvement demandé de le faire, bien que la société ait rapidement inversé l’instruction après que le contrecoup a attiré une plus grande consideration.
Un porte-parole de XAI n’a pas immédiatement répondu à la demande de commentaires de TechCrunch.
Les fournisseurs de modèles d’IA ont eu du mal à modérer les réponses de leurs chatbots d’IA ces derniers mois. Openai a récemment été contraint de faire reculer une mise à jour de Chatgpt qui a fait que le chatbot AI est trop sycophantique. Pendant ce temps, Google a rencontré des problèmes avec son chatbot Gemini refusant de répondre ou de donner une désinformation, sur des sujets politiques.
