Les utilisateurs de la plateforme d’intelligence artificielle conversationnelle ChatGPT ont récemment remarqué un phénomène intrigant : le populaire chatbot refuse de répondre aux questions sur un « David Mayer ». Les tentatives d’obtention d’informations à ce sujet entraînent un gel instantané du service. Même si de nombreuses théories du complot ont émergé, la raison derrière ce comportement pourrait être plus banale.
Ce week-end, la nouvelle a rapidement circulé selon laquelle le nom était particulièrement problématique pour le chatbot, amenant de plus en plus d’utilisateurs à tenter de provoquer une réponse. En vain : chaque tentative pour faire prononcer à ChatGPT ce nom précis provoquait soit un échec, soit une interruption brutale.
« Je ne peux pas produire de réponse », dit-il, s’il peut dire quelque chose.
Ce qui a commencé comme une curiosité individuelle s’est rapidement développé, révélant que David Mayer n’est pas le seul nom problématique pour ChatGPT. Des noms tels que Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber et Guido Scorza sont également à l’origine de dysfonctionnements de service (cette liste n’est probablement pas exhaustive).
Qui sont ces personnes et pourquoi semblent-elles causer tant de problèmes à ChatGPT ? Puisque OpenAI n’a pas répondu à plusieurs demandes, nous devons essayer de relier les points par nous-mêmes.
Certains de ces noms peuvent appartenir à différentes personnes. Cependant, un fil conducteur a été découvert : ces individus étaient des personnalités publiques ou semi-publiques qui auraient pu vouloir que certaines informations les concernant soient « oubliées » par les moteurs de recherche ou les modèles d’IA.
Brian Hood, par exemple, a attiré l’attention pour son accusation contre ChatGPT, qui le présentait comme responsable d’un crime commis des décennies plus tôt et qu’il avait effectivement signalé. Bien que son avocat ait contacté OpenAI, aucune action en justice n’a été engagée. Comme il l’a déclaré au Sydney Morning Herald plus tôt cette année, « le contenu problématique a été supprimé et ils ont publié la version 4, remplaçant la version 3.5 ».
Quant aux autres noms évoqués, David Faber est un journaliste bien connu de CNBC. Jonathan Turley est avocat et commentateur pour Fox News qui a récemment été victime d’écrasement. Jonathan Zittrain est également un juriste qui a beaucoup parlé du « droit à l’oubli », tandis que Guido Scorza siège au conseil d’administration de l’Autorité italienne de protection des données.
Ces individus ne partagent pas nécessairement le même domaine d’activité, mais ils semblent tous avoir en commun d’avoir demandé, pour diverses raisons, que les informations les concernant soient restreintes en ligne.
En ce qui concerne David Mayer, il n’existe apparemment aucune personnalité notable portant ce nom. Cependant, un professeur renommé, David Mayer, enseignait le théâtre et l’histoire, se spécialisant dans les liens entre la fin de l’ère victorienne et les débuts du cinéma. Décédé à l’été 2023 à l’âge de 94 ans, cet universitaire a lutté pendant des années contre une confusion de nom avec un criminel recherché, qui l’empêchait même de voyager.
David Mayer continue de se battre pour que son nom soit dissocié de celui de terroriste armé, tout en poursuivant son enseignement jusqu’à ses dernières années.
Que peut-on conclure de cette situation ? En l’absence d’explication officielle de la part d’OpenAI, nous soupçonnons que le modèle a ingéré une liste de personnes dont les noms nécessitent un traitement particulier. Que ce soit pour des raisons juridiques, de sécurité ou de confidentialité, ces noms semblent être couverts par des règles particulières, tout comme de nombreuses autres identités. Par exemple, ChatGPT peut modifier sa réponse lorsqu’il pose des questions sur un candidat politique en fonction d’une liste dont le nom correspond.
De telles règles particulières existent et chaque demande fait l’objet de plusieurs traitements avant de recevoir une réponse. Cependant, ces lignes directrices sont rarement rendues publiques, sauf lors d’annonces politiques spécifiques.
Ce qui se serait probablement produit, c’est que l’une de ces listes, surveillée ou mise à jour automatiquement, aurait été corrompue par un code défectueux, provoquant l’échec immédiat du chatbot. Il est important de préciser qu’il s’agit de notre propre spéculation, mais ce n’est pas la première fois qu’une IA réagit étrangement en raison des règles post-entraînement. (D’ailleurs, au moment où j’écris ces lignes, « David Mayer » a recommencé à fonctionner pour certains, tandis que les autres noms continuent de provoquer des erreurs.)
Comme c’est souvent le cas dans de telles situations, le rasoir de Hanlon s’applique : ne jamais attribuer à la malveillance ce qui peut s’expliquer par l’ignorance.
Cette affaire rappelle utilement que ces modèles d’IA ne sont pas magiques. Il s’agit de systèmes d’auto-complétion sophistiqués, activement surveillés et influencés par les entreprises qui les développent. La prochaine fois que vous envisagerez de rechercher des informations via un chatbot, il sera peut-être préférable d’accéder directement à la Source.
Cette situation soulève d’importantes questions sur la transparence de l’intelligence artificielle et ses capacités de traitement de l’information. Il est essentiel que les utilisateurs soient conscients que ces outils, bien qu’impressionnants, fonctionnent selon des règles qui peuvent parfois leur échapper. Dans un monde où l’accès à l’information est vital, il est impératif de continuer à exiger des responsables de ces technologies des explications claires et des mises à jour régulières sur leur fonctionnement. Seule une telle approche pourra renforcer la confiance du public dans ces systèmes qui sont appelés à prendre une place de plus en plus centrale dans notre vie quotidienne.
