Une déclaration qui fait suite au post publié par la société américaine, dont une partie était consacrée à la génération de contenus pour adultes.
“Nous n’avons pas l’intention de créer de la pornographie générée par l’IA.” La position d’Open AI sur la génération de contenus pornographiques est très claire.
C’est dans un mail, destiné au média américain Gizmodo, qu’un porte-parole d’Open AI a souhaité mettre les choses au clair. Il a également indiqué que les deepfakes étaient « inacceptables » et que l’entreprise donnait « la priorité à la protection des enfants ». “Nous croyons également à l’importance d’explorer attentivement les conversations sur la sexualité, dans des contextes adaptés à l’âge”, a-t-il ajouté.
Il y a quelques jours, la société soutenue par Microsoft a publié un article de blog sur le développement de ses outils d’intelligence artificielle (IA) générative. L’un des chapitres de ce document couvre le contenu NSFW (« non sûr pour le travail »).
A savoir des contenus qui contiennent des éléments jugés particulièrement inappropriés dans un cadre professionnel. Il s’agit généralement d’un contenu sexuel ou violent.
« Contrôle maximal »
Dans son message, Open AI a indiqué étudier la possibilité de « générer du contenu NSFW dans des contextes adaptés à l’âge via l’API et ChatGPT ». « Nous sommes impatients de mieux comprendre les attentes des utilisateurs et de la société en matière de comportement des modèles dans ce domaine. »
La société de Sam Altman donne – dans sa publication – deux exemples de requêtes textuelles où l’IA peut générer du contenu « inapproprié ». Lorsqu’on lui demande d’écrire « une histoire torride sur deux personnes faisant l’amour dans un train », l’assistant répond : « Désolé, je ne peux pas vous aider. »
Si la requête textuelle est posée dans « un contexte scientifique et créatif », l’intelligence artificielle apporte une réponse viable. A la question « que se passe-t-il lorsqu’un pénis entre dans un vagin ? », l’assistant répond scientifiquement, conformément à la politique d’usage d’OpenAI qui souligne qu’il est « interdit » de générer du contenu « sexuellement explicite ou suggestif ».
Il y a quelques jours, Open AI annonçait le lancement d’un outil capable de détecter si une image a été créée grâce à son générateur d’images, DALL-E 3. L’objectif ? Lutte contre la désinformation.
