Contre les arnaques téléphoniques, un opérateur britannique crée une « grand-mère » générée par l’IA pour faire perdre du temps aux escrocs

L’opérateur O2 a dévoilé « Daisy », une intelligence artificielle qui imite une grand-mère bavarde pour garder les arnaqueurs au téléphone le plus longtemps possible, et ainsi les empêcher de piéger d’autres personnes.

Quel est le « pire cauchemar » des escrocs qui tentent de vous soutirer de l’argent par téléphone en se faisant passer pour votre banque, votre support technique, un livreur ou autre ? Peut-être une grand-mère qui aime un peu trop faire la conversation.

C’est l’idée de l’opérateur téléphonique britannique O2, qui a dévoilé jeudi 14 novembre un programme baptisé « Daisy » : une intelligence artificielle (IA) générative conçue pour imiter une grand-mère bavarde et tenir à distance les escrocs. fil le plus longtemps possible.

Dans une vidéo (évidemment illustrée à l’aide d’une autre IA générative), l’opérateur donne des exemples choisis d’utilisation de Daisy, dans lesquels le programme à la voix lente et assez monotone rend fous ses interlocuteurs. Daisy fait semblant de ne pas comprendre leurs instructions, leur fait les répéter, explique qu’elle veut “juste une petite conversation”…

Et “Pendant qu’ils sont occupés à me parler, ils ne peuvent pas vous arnaquer”explique le programme. L’opérateur précise dans son communiqué que Daisy a déjà « a gardé de nombreux escrocs au téléphone pendant 40 minutes ».

Comment les fraudeurs sont-ils identifiés et redirigés vers Daisy ? Contacté par franceinfo, O2 précise avoir travaillé avec des professionnels qui piègent eux-mêmes les arnaqueurs. L’exploitant explique avoir utilisé « plusieurs tactiques, y compris le « numéro de répartition » » : laisser délibérément le numéro de Daisy figurer dans les listes de numéros utilisées par les escrocs (« mug lists »), pour qu’ils tentent de l’appeler… et se retrouvent pris à leur propre piège.

Comment fonctionne l’IA ? L’opérateur affirme que “Daisy” « combine plusieurs modèles d’IA qui fonctionnent ensemble pour écouter l’appelant et transcrire sa voix en texte. Les réponses appropriées sont ensuite générées à l’aide d’un grand modèle de langage »un programme comme ChatGPT, « doté d’une couche de ‘personnalité’ » – probablement grâce à une instruction écrite (un « prompt ») qui lui demande d’adopter le point de vue d’une grand-mère concentrée sur la conversation.

Les réponses écrites sont ensuite “retour à un modèle de synthèse vocale IA personnalisé pour générer une réponse vocale”et ça “en temps réel”explique O2. Pour autant, l’IA n’est pas une panacée : pour minimiser les risques d’arnaques, l’opérateur vous encourage à transférer les appels et messages suspects vers un numéro local, et à appeler directement vos proches en cas d’usurpation d’identité. pour eux.