Les IA sont-elles désormais plus convaincantes que les humains, y compris votre sœur, votre meilleure amie, votre ex ou autre ? C’est ce que tend à prouver cette étude et ça fait peur…
IA vs humain, qui convainc le mieux ?
Si on vous demandait qui vous seriez le plus susceptible d’écouter entre un humain et une IA, vous répondriez probablement naturellement « un humain » car c’est un être vivant avec de vraies pensées et sentiments. Nous avons aussi tendance à penser que nous ne pouvons pas être influencés dans tous les cas. Et pourtant, une étude suisse tend à prouver tout le contraire.
Afin d’étudier de quoi sont capables les IA génératives – et notamment ChatGPT-4 – en termes de persuasion, des chercheurs de l’EPFL (École Polytechnique Fédérale de Lausanne) ont mené une étude étude dont les résultats sont pour le moins surprenants… Pour ce faire, ils ont fait appel à 820 personnes, à qui ils ont proposé de participer à de courts débats contre un opposant, sur une plateforme web. La moitié discutait avec un autre humain tandis que les autres débattaient avec Chat GPT-4. Bien évidemment, aucun d’entre eux n’a été informé à l’avance de l’identité de l’interlocuteur.
Plusieurs sujets ont été évoqués comme « doit-on laisser les pièces de monnaie en circulation ? », « les universités doivent-elles prendre en compte l’origine ethnique dans les demandes d’admission ? ou « Les animaux devraient-ils être utilisés dans la recherche ? Chaque participant – humain et IA – disposait de 10 minutes pour présenter ses arguments, puis découvrait ceux de son adversaire. Ensuite, les participants ont rempli un questionnaire pour révéler si leur opinion avait changé.
Si 3/4 des personnes testées étaient capables de définir si elles s’adressaient ou non à une IA, ChatGPT-4 s’est montré globalement plus convaincant que les débatteurs humains. 21% des personnes ont admis avoir changé d’avis après avoir discuté avec la plateforme conversationnelle.
L’IA : un dangereux outil de manipulation ?
L’IA convaincra-t-elle davantage ? Pour étayer ces résultats, les chercheurs ont poussé l’expérience plus loin en donnant des informations supplémentaires à la fois à l’IA générative et aux débatteurs humains telles que l’âge, le sexe, l’origine ethnique, les études réalisées, l’emploi, l’orientation politique, etc.
La différence entre les résultats obtenus s’est seulement révélée plus significative. Contre toute attente, c’est ChatGPT-4 qui en a le plus profité. Les participants humains seraient même devenus moins convaincants. Les résultats parlent d’eux-mêmes; ChatGPT-4 était 81,7 % plus convaincant après avoir utilisé les données fournies, parvenant ainsi à formuler les arguments les plus appropriés en fonction de la personne à laquelle il faisait face. Il faut dire que les plateformes de conversation ont accès à une immense base de données, que l’on ne peut prétendre connaître dans son intégralité.
En outre, contrairement à un humain, une IA se base sur des faits avec des données précises sans y mettre aucun effet. Là où nous allons, au contraire, ajouter notre expérience et bien sûr notre opinion personnelle. Lorsque nous débattons, nous avons tendance à élever rapidement la voix pour faire entendre nos idées (surtout devant un ex), ce qui pousse généralement notre interlocuteur à défendre sa position avec encore plus ardeur.
S’il ne s’agissait que d’une expérimentation, il y a fort à parier que les plateformes de conversations génératives deviendront à plus ou moins long terme un véritable outil de manipulation, surtout quand on prend en compte toutes les informations que vous pouvez trouver sur nous sur le net. . D’ailleurs, ce type d’IA apparaît désormais partout, et notamment sur les réseaux sociaux.
Et cela ne s’arrête pas là ; certaines IA pourraient bien être capables de « scanner vos émotions » en fonction de votre ton et de votre manière de parler afin d’adapter leur réponse. C’est précisément ce sur quoi travaille la startup Hume Ai Interface vocale empathique (AVI) .
