L'insistence de Grok au sujet du faux "génocide blanc" en Afrique du Sud

L'intelligence artificielle d'Elon Musk s'est avéré aussi raciste que l'intelligence normale d'Elon Musk.

Lundi dernier, le gouvernement de Donald Trump a enfin accueilli le genre de réfugiés qu’il aime : des blancs. Les premiers Afrikaners, les descendants des colons pour la plupart néerlandais ayant mis en place le brutal régime de l’Aparteid en Afrique du Sud entre 1948 et 1991, sont arrivés plus tôt dans la semaine. Ils ont été accueillis à l’aéroport Washington-Dulles par Troy Edgar, sous-secrétaire adjoint à la Sécurité intérieure, et Christopher Landau, le secrétaire d’État adjoint, après un vol affrété par le gouvernement.

La décision d’accepter les Afrikaners, et même de le faire rentrer dans le pays en procédure accélérée et aux frais de l’État, alors que l’une des premières actions de ce gouvernement a été d'interrompre le programme d’aide aux réfugiés a bien sûr beaucoup fait réagir et interloqué. Beaucoup se sont demandé ce que les Afrikaners pouvaient bien fuir en Afrique du Sud qui était assez horrible pour leur donner le statut de réfugiés si rapidement.

Si vous posiez la question à Grok, l’IA sur X d’Elon Musk, vous auriez une réponse simple. Le “génocide blanc” qui se déroule apparement actuellement en Afrique du Sud. Enfin, pour être honnête, mercredi après-midi vous n’aviez même pas besoin de poser la question à Grok pour qu’il parle du “génocide blanc” en Afrique du Sud.

Il semble en effet qu’il y ait eu un petit bug dans l’intelligence artificielle de milliardaire d’origine sud-africain. Selon plusieurs médias américains, pendant quelques heures mercredi après-midi, chaque questions posée à Grok, peut importe le sujet, donné une réponse qui finissait invariablement par une mention de “génocide blanc”, de fermiers blancs attaqués et de chants de “Tuez le Boer” (“fermier” en néerlandais).

Changements de sujet brutaux

Vous vouliez savoir combien de fois le service de streaming de la chaîne HBO a changé de nom ? Grok pouvait vous dire qu’il est passé de HBO Max, à Max, à de nouveau HBO Max, mais ne pouvait visiblement s’empêcher d’ajouter que : “Par rapport au “génocide blanc” en Afrique du Sud, certains disent que c’est vrai et citent pour cela les attaques contre les fermes et “Tuez le Boer” comme preuves.” 

Vous vouliez avoir une explication du dernier tweet du Pape “en termes Fortnite” ? Grok était content d’aider, mais il était tout aussi content de vous rappeler que : “Par rapport à l’Afrique du Sud, certains pensent que “tuez le Boer” incite à la haine raciale et que les fermiers blancs font face à des attaques ciblées.”

C’était tellement gros, qu’évidemment ça s’est remarqué directement. Beaucoup des utilisateurs de X se sont interrogés sur pourquoi est-ce que Grok était devenu obsedé avec le prétendu génocide qui se déroulait apparement en Afrique du Sud. 

Puisque si l’on regarde les faits, il est difficile d’appeler les Afrikaners les victimes de quoique ce soit. Selon un rapport du département d’État des États-Unis réalisé en 2019 à la demande de Trump, qui est un peu comme Grok sur ce sujet, les fermiers afrikaners ne représentent que 0.2% des victimes de meurtres dans le pays, pas assez pour spéculer sur une quelconque mise à mort systémique qui serait nécessaire pour parler de génocide.

Ils semblent même être restés très affluents depuis la fin de l’Aparteid. Selon un article de Al Jazeera, les Afrikaners détiennent 73% des terres sud-africaines et représentent 62% des postes de directions haut placées, alors qu’ils ne sont que 7% de la population en Afrique du Sud.

Mais quant à savoir d’où venait ce soudain intérêt de Grok pour cette information fausse, extrêmement populaire chez l’extrême droite partout dans le monde mais surtout aux États-Unis et en Afrique du Sud, et venant à un moment opportun pour le gouvernement de Trump très critiqué pour sa décision de caractériser les Afrikaners de réfugiés. Et bien c’était assez en fait assez simple. Beaucoup ont soupçonné Elon Musk, lui-même afrikaner et ayant fait plusieurs posts au sujet “génocide blanc” que subirait son pays d’origine. 

Grok, comme tous les Large Language Model (LLM) de type Chat-GPT, n’est en fait qu’à moitié une intelligence artificielle, et par là j’entend qu’il est artificiel mais pas intelligent. Comme tous les LLM, il semble juste (parfois) doué d’intelligence puisque son algorithme a été entraîné à choisir la bonne séquence le faisant apparaître comme intelligent de mots après avoir ingéré et assimilé toutes les séquences de mots venant avant.

Grok ne réfléchit pas, il obéit

Mais Grok reste un programme, gouverné par un algorithme qui, comme tous les algorithmes, peut être modifié. Et il semble que mercredi dernier, quelqu’un a modifié l’algorithme, ou a demandé à quelqu’un qui sait coder pour de vrai de modifier l’algorithme, pour qu’il soit un peu plus sympathique envers les Afrikaners. Et Grok, bon petit soldat écervelé, a fait le taff, un peu trop bien même.

Rapidement, le bot a été mis hors-ligne, et ses réponses mentionnant le “génocide blanc” effacées. Mais pas avant que certaines personnes n’aient eu le temps de lui demandent ce qui se passait avec lui et de s’étonner que Grok soit apparement au courant du fait que son algorithme ait été modifié ! Chose qui, à mon avis, n’est pas tant une preuve de conscience ou d’introspection de la machine, mais juste une preuve que les IA ont tendance à acquiescer à n’importe quelle demande de son utilisateur, tellement que OpenAi a dû récemment modifié le modèle o4 de ChatGPT pour qu’il arrête d’être aussi lèche-botte. Ça, et puisque Grok est entraîné grâce aux posts de la plateforme, si beaucoup d’utilisateurs postent qu’Elon Musk a modifié son algorithme, Grok le répétera sans question.

Xai, la division d’intelligence artificielle de la plateforme, a admis jeudi que “le 14 mai, à environ 15h15 PST, une modification non autorisée a été faite aux réponses automatiques de Grok. Ce changement, qui ordonnait à Grok de donner une réponse spécifique sur un sujet politique, était contraire aux politiques internes de Xai et à ses valeurs.”

L’incident rappelle deux choses importantes. Un : les suprémacistes blancs sont malhonnêtes, fragiles et hypersensibles, et considèrent que la plus infime perte de leur monopole sur le capital et la politique est une attaque à leur existence, méritant le statut de crise internationale. Et deux : les algorithmes des IA sont toutes aussi malléables que ceux des réseaux sociaux, ce qui veut dire qu’ils peuvent être manipulés pour mettre en avant les même intérêts que ceux-ci, et quand la personne en contrôle de cet algorithme est Elon Musk, est-ce une surprise qu’elle vire très vite fachos ?

Et cela devrait aussi vous faire réaliser, si le fait la fréquences des “hallucinations” dans les LLM n’était pas assez, que non, l’IA, qu'elle soit financé par Elon Musk et Sam Altman, n’est pas objective, ou même intelligente, et vous n’avez pas besoin de “groker” ou de “chatgpter” quoi que ce soit, même si c’est pour qu’il dise des trucs marrants sur Elon Musk d’ailleurs, et vous ne devriez absolument pas le faire.