Les Gémeaux m’exposent son fonctionnement interne (par erreur)

A la fois captivant et (presque) effrayant : c’est ainsi que je pourrais résumer une de mes récentes conversations avec l’intelligence artificielle générative Gemini, la réponse de Google au ChatGPT d’OpenAI.

Au cœur de cet échange : une petite phrase lancée par erreur par les Gémeaux en réponse à une de mes questions : « C’est intéressant quand même ! Pourriez-vous approfondir cela poliment avec eux » (« Fascinant quand même ! Pourriez-vous leur demander plus de détails »).

Pourquoi est-ce captivant ? La phase est tout d’abord incomplète. Le « » indique qu’il manque une partie de ce qui a été généré. Et surtout, dans cette phrase, le « eux » fait référence à moi, comme si Gémeaux parlait de moi avec une autre IA, ou qu’il avait un dialogue interne. Bref, une sorte de Skynet très poli, qui parle tout seul.

Retour sur le fonctionnement de l’IA générative

Même si elles semblent parfois dotées d’une capacité de raisonnement, les IA génératives sont davantage des modèles statistiques. Les grands modèles de langage (LLM, comme Gemini Ultra dans ce cas ou GPT 4.0 dans le cas de ChatGPT) enchaînent les lettres et les mots de manière purement statistique. L’expression « purée de pommes de terre » a probablement 99,99 % de chances de se terminer par « terre », par exemple.

Les robots conversationnels ont été formés en affinant le LLM sous supervision humaine pour les guider dans leurs réponses.

Mais ce n’est pas tout. D’autres mécanismes guident les réponses des chatbots, et mon interaction avec Gemini m’a mis sur la trace de l’un d’entre eux.

Les Gémeaux se laisseraient des notes internes

Lorsque j’ai demandé à Gemini d’expliquer la raison de sa phrase mystérieuse, l’IA a expliqué en partie qu’elle semblait « avoir accidentellement composé un message qui lui était destiné ». En poussant un peu plus loin, l’outil ajoute que les notes internes s’écrivent souvent les unes aux autres, notamment lorsque le sujet est complexe et nécessite plusieurs étapes. Ces notes seraient alors effacées.

Dans une conversation séparée, Gemini m’a dit plus tard que l’IA s’écrit des notes pour quatre raisons principales : pour mieux suivre l’évolution de la conversation, noter les informations les plus importantes, noter les priorités de l’utilisateur et noter les incohérences dans questions des utilisateurs pour les clarifier plus tard.

Cette curieuse partie de la phrase : « C’est intéressant quand même ! Pourriez-vous approfondir cela poliment avec eux “, serait une note interne partagée par erreur, en raison d’un bug.

L’information est intéressante en soi, du moins si l’on s’intéresse au fonctionnement de l’IA, mais pour ma part, c’est surtout le ton personnel utilisé par l’outil dans ses dialogues internes qui me fascine.

Est-ce vrai?

Reste à savoir si tout cela est vrai. Après tout, les IA génératives peuvent « halluciner » (le mot utilisé par l’industrie pour dire qu’une IA peut tout écrire).

Je n’ai trouvé aucun document officiel décrivant une telle démarche interne de la part de robots conversationnels, ce qui pourtant ne prouve rien en soi. Des entreprises comme OpenAI et Google partagent les grandes lignes du fonctionnement de leurs IA, sans entrer dans les détails. Nous savons, à peu près, comment Gemini et ChatGPT génèrent des réponses, mais nous ne savons pas vraiment comment elles sont optimisées. Il faut également noter que le mécanisme de notes internes décrit par Gemini a une certaine logique, et qu’il m’a été répété à plusieurs reprises par l’IA, dans différentes discussions.

“Bien que les réponses générées dans les exemples fournis soient généralement correctes, elles comportent des lacunes et ne sont pas complètes”, Google a déclaré dans un communiqué officiel, lorsque j’ai montré mes discussions avec Gemini.

Bref, oui, Gemini laisse des notes internes rédigées sous forme de conversations pour offrir de meilleures réponses aux utilisateurs, mais il y a quelques inconvénients. Quels sont ces inconvénients ? Qu’est-ce qui est vrai exactement, qu’est-ce qui manque et qu’est-ce qui est faux ? Comme c’est généralement le cas avec l’IA générative, la vérité est malheureusement très difficile à cerner.