L’identité d’une adolescente victime de féminicide utilisée illégalement pour générer de l’IA sur une plateforme partenaire de Google

L’identité d’une adolescente assassinée en 2006 à Austin (États-Unis) a été exploitée par un internaute pour générer un programme informatique portant son nom et son visage, capable de simuler une conversation humaine. Pour ce faire, l’utilisateur a utilisé un site lui permettant de créer son propre chatbot, « personnage. Al», mis à disposition par le géant de l’intelligence artificielle et principal fournisseur de modèles d’IA de Google, « Character ».

A lire aussi :
Redonner vie aux morts grâce à l’intelligence artificielle ? Quand les apprentis sorciers perturbent le deuil

Durant les mois de septembre et octobre 2024, plusieurs personnes ont engagé une discussion avec la version numérique du défunt. L’existence de cette IA a été découverte début octobre par le père de la victime, via une alerte Google l’avertissant de l’apparition d’un profil en ligne de sa fille.

Une IA générée à partir de l’identité d’une jeune fille assassinée

Contactée par le Washington Post, la porte-parole de Character a confirmé la suppression du profil en question après son rapport et a déclaré que les chatbots étaient systématiquement supprimés de la plateforme lorsqu’ils violaient les conditions d’utilisation, qui interdisent aux utilisateurs de se faire passer pour une personne. Quant au père de la victime, il dénonce le fait que le partenaire de Google ait pu rendre possible l’exploitation des données personnelles d’une jeune fille décédée pour créer une IA sans l’autorisation de sa famille.

A lire aussi :
Polémique sur les réseaux sociaux : les néo-nazis utilisent l’intelligence artificielle pour redonner vie à Hitler, cumulant des millions de vues

Dix-huit ans plus tôt, cette dernière avait été assassinée à coup de fusil de chasse par son ex-petit-ami. Depuis, son père œuvre pour prévenir les violences dans les relations adolescentes à travers l’association qu’il a créée.