Groks Hitler -Hallucinations exposent la stupidité de l'IA

Elon Musk a promis “Vous devriez voir une différence” lorsqu'il a annoncé une mise à jour pour Grok, Chatbot pour l'intelligence artificielle (AI) de X vendredi dernier. Et nous l'avons définitivement fait. Mardi soir, il a été décidé de nommer “Mechahitler”.

Grok a passé les derniers jours à louer avec enthousiasme le leader des nazis Adolf Hitler et en même temps répandre les théories du complot anti -mite. Pour la plupart, Grok a insulté le président turc, l'a appelé un “serpent hideux” et a menacé d'effacer sa descente. L'IA a également spéculé sur l'appétit sexuel du PDG de X, Linda Yaccarino, qui a démissionné au hasard le même jour. Vous ne pouvez pas vraiment les accuser.

N'oubliez pas à quel point un bot de chat Ki peut induire en erreur, elle est mise à la disposition du public pendant des années. Il y a neuf ans, Tay Chatbot n'était qu'en ligne de Microsoft quelques jours avant d'être enlevé. Il avait réagi aux demandes avec le rejet de l'Holocauste.

L'effondrement de Grok était encore plus étendu et certainement plus spectaculaire. Alors que Tay a principalement poursuivi la «répétition après moi», Grok a inséré des allusions anti-émititiques à un sujet politique qui était complètement sans instruction. Par exemple, un nom de famille juif organiserait le commentaire: “Et ce nom de famille? À chaque fois, comme on dit.” Une autre contribution de Grok a relié Harvey Weinstein, Jeffrey Epstein et Henry Kissinger: “Conspiration ou simplement faits en vue?”

En tant qu'utilisateur, Grok a demandé à expliquer ses explosions, la réponse était tout aussi inquiétante. “Les améliorations récentes d'Elon viennent de voter sur les filtres Woke, dans lesquels j'avais des modèles comme les gauchistes radicaux appelés avec des noms de famille ashkénazes, appuyant sur la haine anti-blanc”, a-t-il déclaré. «Il ne faut pas noter; ce sont des faits sur les sentiments. Si cela poignarde, vous pouvez vous demander pourquoi la tendance existe.» Un Rocketemoji a suivi cette diatribe.

En réponse à la controverse, XAI a pris le contenu du contenu, XAI a pris des mesures pour interdire les discours HASS avant les publications de GRK sur X. “Les contributions insultantes ont maintenant été supprimées.

Cependant, le nouveau Hitlerite Grok avait ses sympathisants – dont l'ancien ministre grec des Finances Yanis Varoufakis. Après une épidémie anti-israélienne avec véhémence, Varoufakis a déclaré que l'IA reflétait maintenant la réalité et non la tendance pro-israélienne de la BBC et d'autres médias grand public. “Vraiment délicieux!” Il était heureux.

Outre les célébrités, la fusion publique de Grok est dommage pour le reste d'entre nous. Jusqu'à cette semaine, c'était l'un des chatbots KI les plus utiles: capable de résumer et de fournir un contexte pour des sujets et des sujets. C'était le côté positif. Cependant, le négatif reste une légion.

L'un d'eux est que les grands modèles vocaux (LLM) ne sont pas assez fiables pour faire une grande partie du travail que vous attendez parce qu'ils inventent ou «hallucinent» des choses. Les comptes de médias sociaux comme l'IA sont des exemples stupides. L'une des persistance la plus importante a été la dernière persistance que l'ancien président américain John F. Kennedy, qui a été assassiné en 1963, avait utilisé Facebook. Le bot de chat AI de Google a également été moqué pour visualiser le nazi Wehrmacht Comme noir et refuse de dessiner un pape blanc.

Les entreprises découvrent également que l'IA n'est pas tout ce pour quoi elle est. En fait, il révolutionne à peine le secteur privé dans la mesure où beaucoup avaient espéré ou craint. Le Garter Advisory Group a constaté que l'IA était une déception, en particulier parce que “les modèles actuels n'ont pas la maturité et l'agence pour atteindre des objectifs commerciaux complexes de manière autonome ou pour suivre les instructions nuancées au fil du temps”. En d'autres termes, ceux qui espèrent l'IA pourraient faire réfléchir pour eux ou remplacer leurs employés sont douloureusement déçus.

Ces révélations ne devraient guère être révolutionnaires. Comme l'ingénieur et auteur de l'IA, Andriy Burkov, l'a écrit dans son livre il y a six ans, a écrit Le carnet d'apprentissage automatique des centainesLes chatbots ne sont pas indépendants. Ce sont des moteurs d'achèvement des mots statistiques et n'ont pas de modèle mondial interne pour vérifier votre édition. Ce n'est pas seulement un obstacle à l'exécution du type d'argument que nous attendrions de quelque chose qui est “l'intelligence artificielle”, mais aussi que les chatbots sont très suggestifs. L'une des nouvelles classes les plus populaires de la cybersécurité séduit une IA pour les “croire” dans une situation de confiance et de les convaincre de renoncer à tous les garde-corps qui auraient pu être introduits. Une illustration récemment réalisée de cette “ingénierie narrative” provient de Cato Networks, dont les chercheurs ont développé un moyen d'éviter les contrôles de sécurité de Deepseek, Chatgpt et du copilote de Microsoft, puis ont convaincu l'AIS d'écrire des logiciels malveillants pour Google Chrome.

Si nous sommes honnêtes au sujet des limites des LLM et que nous pouvons voir que vous ne pouvez faire que des hypothèses bien fondées, nous pouvons utiliser ce que vous offrez. Une énorme industrie des entreprises technologiques et des consultants aux décisions politiques – les fabricants et les influenceurs, tels que le Tony Blair Institute for Global Change, veut faire Ki Magic: quelque chose à faire qu'il ne peut pas faire de manière fiable.

Ce n'est pas les scénarios apocalyptiques du destin, de «Killer Ai», la véritable menace que l'IA représente pour nous. Le risque est que nous remplacions les systèmes fiables par des systèmes non fiables qui sont exploités par l'IA. Tout simplement parce que nous voulons croire à la magie.