Après l’indignation provoquée dans une école américaine par la diffusion de propos racistes attribués au proviseur, le vertige de découvrir que la bande originale a été montée de toutes pièces. Cet épisode illustre les dangers d’une intelligence artificielle devenue accessible à tous.
• Lire aussi : Hyper-faux propos racistes : il utilise l’IA pour se venger
Eric Eiswert, directeur de Pikesville, dans le Maryland, près de Washington, s’est retrouvé au cœur d’une violente polémique avec un enregistrement vocal – qui s’est avéré faux – de lui tenant des propos choquants contre des étudiants juifs et des « enfants noirs ingrats ».
L’affaire, qui se produit en pleine année électorale aux États-Unis, met en évidence la facilité avec laquelle les outils d’IA générative peuvent être utilisés pour nuire à qui que ce soit, et les difficultés rencontrées par les autorités pour lutter contre de telles pratiques.
“Désormais, tout le monde est vulnérable”, et pas seulement les célébrités, prévient Hany Farid, professeur à l’université de Californie à Berkeley (ouest).
« Il suffit d’une image pour ajouter une personne à une vidéo, et de 30 secondes d’audio pour cloner la voix de quelqu’un », poursuit le spécialiste de la détection d’images et d’enregistrements manipulés numériquement, consulté par la police. dans ce cas.
Lorsque l’enregistrement a été divulgué sur les réseaux sociaux en janvier, il est rapidement devenu viral. Une publication récolte des milliers de commentaires sur Instagram, et propulse l’école au coeur d’une polémique nationale.
Le militant des droits civiques DeRay McKesson réclame la démission du proviseur sur son compte X, suivi par près d’un million d’internautes. Il admettra avoir été maltraité.
Les messages haineux pleuvent sur les réseaux sociaux et les appels téléphoniques menaçants se multiplient dans l’établissement. Le « monde serait meilleur si vous étiez dans la clandestinité », écrit un internaute au directeur.
Ce dernier est mis en permission, son domicile placé sous protection. Contacté par l’AFP, il n’a pas répondu.
Vengeance
«Je continue de m’inquiéter des dégâts causés par cette affaire», confie Billy Burke, directeur du syndicat représentant le proviseur.
Fin avril, Dazhon Darien, 31 ans, directeur sportif de l’école, a été arrêté par les autorités, accusé d’être à l’origine du faux. Les enquêteurs l’ont retracé jusqu’à l’adresse e-mail qui avait initialement partagé le dossier.
Il aurait agi pour se venger d’une enquête ouverte contre lui par le donneur d’ordre pour paiements suspects.
L’accusé a mené des recherches sur les outils d’IA du réseau informatique de l’école, selon l’acte d’accusation.
La bande originale, selon l’analyse d’un expert consulté par la police, “contient des traces de contenus générés par l’IA, avec un montage humain a posteriori”.
Cette affaire démontre la nécessité « d’adapter la loi aux avancées technologiques », a déclaré le procureur local Scott Shellenberger.
De nombreuses écoles américaines doivent déjà lutter contre la diffusion par les étudiants d’images pornographiques de leurs camarades réalisées grâce à l’IA générative, une pratique qui a provoqué de terribles vagues de harcèlement.
Les montages audio sont particulièrement difficiles à détecter. En janvier, un message diffusé par appels téléphoniques automatisés usurpant la voix du président Joe Biden incitait les électeurs démocrates de l’État du New Hampshire (nord-est) à s’abstenir lors des primaires du parti.
À Pikeville, l’affaire a ébranlé les habitants, « très proches les uns des autres », raconte Parker Bratton, l’entraîneur de golf du lycée.
“Il n’y a qu’un président, mais il y a un million de directeurs !”, s’inquiète-t-il, “les gens se demandent : ‘Que va-t-il m’arriver si quelqu’un décide tout simplement de détruire ma carrière ?’
