L’intelligence artificielle générative (IA) favorise la diffusion de fausses informations sur la Shoah, qui risquent d’alimenter l’antisémitisme et d’altérer notre rapport à la vérité historique, selon un rapport de l’UNESCO publié mardi.
• Lire aussi : Montée de l’antisémitisme : « Il s’est passé quelque chose de très, très grave au Québec »
• Lire aussi : Holocauste : parler avec un survivant grâce à l’intelligence artificielle
• Lire aussi : Intelligence artificielle : pourquoi les experts réclament-ils une pause de six mois ?
« Si nous permettons que ces terribles faits de l’Holocauste soient édulcorés, déformés ou falsifiés par l’utilisation irresponsable de l’IA, nous risquons une propagation fulgurante de l’antisémitisme et une diminution de notre compréhension des causes et des conséquences de ces atrocités. » a indiqué la directrice générale de l’UNESCO, Audrey Azoulay, dans un communiqué.
L’agence onusienne a dévoilé cette publication en partenariat avec le Congrès juif mondial à l’occasion de la Journée internationale contre le discours de haine.
Les modèles d’IA générative, comme ChatGPT, qui génèrent du texte, des photos, des sons et des vidéos, à partir de requêtes dans le langage courant, peuvent inventer des événements de la Seconde Guerre mondiale qui n’ont jamais eu lieu, dénonce l’Unesco.
En février, l’interface d’intelligence générative de Google, Gemini, avait provoqué un tollé en produisant des images de nazis à la peau noire.
ChatGPT, qui a fait connaître l’IA générative au grand public lors de son lancement par OpenAI en 2022, a de son côté inventé le concept d’« Holocauste par noyade », selon lequel les nazis auraient noyé en masse des Juifs dans les lacs et rivières pendant La Seconde Guerre mondiale. Des inventions pures, sans fondement historique, rappelle l’Unesco.
Les modèles d’IA ont également tendance à simplifier à l’extrême l’histoire de l’extermination du peuple juif par les nazis et peuvent même faire l’objet de piratages les poussant à véhiculer l’idéologie nazie, souligne le rapport.
L’intelligence artificielle favorise ainsi la pensée complotiste, selon Karel Fracapane, spécialiste de l’éducation sur la Shoah à l’UNESCO.
“C’est un bon exemple de la façon dont l’IA, lorsqu’elle est appliquée à des sujets particulièrement difficiles et controversés, peut conduire à une forte érosion de la culture démocratique”, a-t-il expliqué à l’AFP.
Les entreprises technologiques doivent faire preuve de « plus de rigueur, de transparence et de responsabilité », a-t-il ajouté.
« Ce qui est contenu dans ce rapport est lié à ce qui se passe dans la société. Et cela a des conséquences politiques très réelles », a-t-il prévenu, faisant référence à la montée de l’extrême droite en Europe.
L’UNESCO, qui constate cependant que l’intelligence artificielle permet aussi de créer des outils pédagogiques plus interactifs pour les jeunes, appelle les entreprises du secteur à mettre en œuvre des recommandations éthiques pour l’IA.
