L’IA suscite des inquiétudes dans le divertissement pour adultes

Plus tard ce mois-ci, les Berlinois pourront réserver une heure avec une poupée sexuelle artificielle, le premier bordel virtuel au monde ayant mis en place ce service après une phase de test.

Les clients pourront interagir verbalement et physiquement avec les poupées IA.

“Beaucoup de gens se sentent plus à l’aise pour partager des affaires privées avec une machine parce qu’elle ne juge pas”, explique Philipp Fussenegger, fondateur et propriétaire de Cybrothel.

«Auparavant, les poupées avec une comédienne suscitaient un grand intérêt, car les utilisateurs ne pouvaient entendre que la voix et interagir avec la poupée. Aujourd’hui, la demande d’interaction avec l’intelligence artificielle est encore plus grande ».

Ce n’est que l’une des nombreuses façons dont l’IA générative est utilisée par l’industrie du divertissement pour adultes.

Une analyse de SplitMetrics a révélé que les applications compagnons d’IA ont atteint 225 millions de téléchargements sur le Google Play Store.

“Je m’attends à ce que davantage de développeurs d’applications prennent note de cette tendance et cherchent des moyens d’innover davantage et de monétiser cette catégorie”, a déclaré Thomas Kriebernegg, PDG de SplitMetrics.

Les compagnons d’IA peuvent être lucratifs, déclare Misha Rykov, chercheur en confidentialité au guide Confidentialité non incluse de Mozilla.

« Étant donné que la plupart des chatbots sont payants et que la technologie de base a été développée ailleurs [comme Open AI], c’est une activité à marge élevée. De plus, ces applications collectent des données personnelles et les partagent souvent avec des tiers tels que des annonceurs – un modèle économique éprouvé.

Mais la fusion de l’IA et de l’industrie du divertissement pour adultes a tiré la sonnette d’alarme.

L’un des problèmes réside dans les biais inhérents à l’IA générative, qui produit de nouveaux contenus basés sur les données sur lesquelles elle a été formée.

Il existe un risque que des stéréotypes rétrogrades sur le sexe et le plaisir soient codés dans les chatbots sexuels, explique le Dr Kerry McInerney, chercheur principal au Leverhulme Center for the Future of Intelligence de l’Université de Cambridge.

« Il est essentiel que nous comprenions quels types de données sont utilisés pour former les chatbots sexuels, sinon nous risquons de reproduire des idées sur le sexe qui rabaissent le plaisir féminin et ignorent les relations sexuelles qui existent en dehors du sexe hétérosexuel. »

Il existe également un risque de dépendance, selon Rykov, qui affirme que les chatbots IA ciblent les personnes seules, en particulier les hommes.

“La plupart des chatbots IA que nous avons examinés présentent un potentiel élevé de dépendance et plusieurs risques potentiels, en particulier pour les utilisateurs souffrant de problèmes de santé mentale.”

Mozilla a ajouté des avertissements de contenu à plusieurs chatbots IA « parce que nous avons trouvé des thèmes d’abus, de violence et de relations avec des mineurs », explique Rykov.

Il a également soulevé la question de la protection de la vie privée. Les chatbots de partenariat sont conçus pour collecter « une quantité sans précédent de données personnelles ».

M. Rykov ajoute que 90 % des applications examinées par Mozilla « peuvent partager ou vendre des données personnelles », tandis que plus de la moitié des applications ne permettent pas aux utilisateurs de supprimer leurs données personnelles.

D’autres mettent en garde contre le danger que l’IA pourrait représenter pour les relations dans le monde réel.

Tamara Hoyton, conseillère principale au service de conseil Relate, souligne que « certaines difficultés pourraient surgir si de véritables relations étaient établies » : « Certaines difficultés peuvent surgir si les rencontres réelles sont profondément décevantes parce qu’elles ne répondent pas aux exigences des définitions strictement définies qui les utilisateurs rencontrent dans le porno AI.

Mme Hoyton ajoute que, dans certains cas, l’IA pornographique pourrait conduire les utilisateurs vers des zones dangereuses.

« Il n’y a rien de mal à fantasmer, et beaucoup de gens sont excités par des pensées qu’ils n’ont absolument aucune intention de mettre en pratique ; La pornographie IA pourrait être considérée comme telle.

“Si cela aboutit à une présomption de consentement, par exemple un sentiment de droit, ou que chacun sera une source d’enthousiasme, basé sur l’expérience de l’utilisateur quant à la conformité de l’objet IA, alors c’est un problème.”

Les entreprises qui utilisent l’IA dans l’industrie du divertissement pour adultes reconnaissent la nécessité d’être prudentes, mais maintiennent que l’IA a un rôle important à jouer.

Philipp Hamburger, responsable de l’IA chez Lovehoney, affirme que l’entreprise vise à « améliorer l’expérience sexuelle de ses clients, plutôt que de la remplacer, ce qui est une ligne importante à tracer ».

D’autres estiment que l’IA aura un effet positif sur le secteur. Ruben Cruz est le co-fondateur de l’agence barcelonaise The Clueless Agency, qui a créé l’une des premières influenceuses IA, Aitana Lopez.

Il souligne que l’industrie du sexe existera toujours et que l’IA peut contribuer à atténuer les problèmes éthiques en garantissant que le contenu n’est pas créé en utilisant de vraies personnes.

« Ce changement vise à garantir qu’aucune personne, homme ou femme, ne soit explicitement sexualisée à l’avenir. »