OpenAI, la société à l'origine du célèbre chatbot ChatGPT, se retrouve au cœur d'un scandale retentissant. Alors qu'elle promettait une plateforme sécurisé Et respectueux de son propre chef Lignes directricessa boutique en ligne est pleine de versions personnalisées de ChatGPT qui violent toutes les règles.
Des chatbots aux activités illicites
Une enquête menée par Gizmodo a révélé l'ampleur du problème. Des chatbots proposant des services psychologue ou de coach de fitnessen violation directe des politiques d'OpenAI réservant ces domaines à professionnelsont été mis en évidence. Pire encore, les GPT conçus pour aider les étudiants tricher contourner les systèmes de Détection de l'écriture manuscrite par l'IAcomme ContournementGPTont été téléchargés plus de 50 000 fois.
Du contenu pour adultes et des jeux d'argent arrivent sur la plateforme
La recherche de contenu « NSFW » (Not Safe For Work) a également donné des résultats alarmants. Générateur d'art IA NSFWun GPT personnalisé utilisé sur 10 000 foisredirige vers un site Web dédié à la génération contenu pornographique par l'IA. Chatbots fournissant des conseils sur paris sportifs ont également été découvertes, une autre activité formellement interdite par OpenAI.
OpenAI dépassé par les événements
Gizmodo a partagé ses conclusions avec OpenAI, qui a réagi en supprimant certains des chatbots incriminés. Cependant, de nombreux autres restent accessibles, notamment ContournementGPTl'outil de triche destiné aux étudiants. Cette situation soulève de sérieuses questions sur la capacité d'OpenAI à contrôlez votre propre plateforme et à faire respecter ses règles.
Ce scandale porte un coup dur à la réputation d'OpenAI, qui se présente comme un acteur responsable dans le domaine de l'intelligence artificielle. Il met en évidence les défis auxquels l'entreprise est confrontée pour concilier innovation et éthiqueet soulève des inquiétudes quant à l’utilisation potentielle dangereux de sa technologie.
