Plusieurs rapports mettent en garde contre des problèmes de sécurité avec le GPT Store d’OpenAI et sur le fait qu’il héberge de nombreux chatbots fonctionnant sur du contenu protégé par le droit d’auteur. En particulier, ils signalent que le GPT Store, lancé en janvier, est inondé de GPT illégaux et dangereux, dont certains sont des chatbots de spam et d’usurpation d’identité. L’éditeur danois Praxis a récemment affirmé que le GPT Store d’OpenAI était truffé de chatbots importés illégalement de ses manuels. Ce qui viole ses droits d’auteur et présente un danger potentiel pour les utilisateurs. OpenAI a supprimé certains de ces chatbots, mais le problème persiste.
GPT Store : soucis de sécurité et prolifération de chatbots illégaux
Blichfeldt Andersen, directeur de la publication chez l’éditeur de manuels scolaires Praxis, explique : J’ai personnellement recherché les violations et les ai signalées. Ils continuent d’apparaître. Andersen soupçonne que les coupables sont principalement des jeunes qui téléchargent du matériel à partir de manuels scolaires pour créer des robots personnalisés qu’ils partagent avec leurs camarades de classe, et qu’il n’a découvert qu’une infime fraction des chatbots en infraction dans le GPT Store. “La pointe de l’iceberg”, a-t-il déclaré. Cela signifie que le problème est beaucoup plus complexe à résoudre qu’il n’y paraît.
OpenAI a lancé le GPT Store en tant que marché où les développeurs d’IA peuvent partager et monétiser leurs propres chatbots personnalisés basés sur la technologie GPT. Le GPT Store est destiné aux modèles d’IA personnalisés ce que l’App Store d’Apple ou le Play Store de Google sont aux applications mobiles iOS et Android. Cependant, être sous l’égide d’OpenAI ne signifie pas nécessairement que ces GPT offriront les mêmes niveaux de sécurité et de confidentialité des données que le ChatGPT original. Selon les analystes, ils ne permettent pas aux utilisateurs de choisir facilement des GPT sûrs.
Les chatbots proposés dans l’OpenAI GPT Store sont basés sur la même technologie que ChatGPT, mais sont créés par des développeurs tiers pour des tâches spécifiques. Pour personnaliser son GPT, un développeur peut télécharger des données supplémentaires qu’il peut exploiter pour compléter les connaissances intégrées à la technologie OpenAI. Le processus de visualisation de ces données supplémentaires est appelé RAG (génération augmentée par récupération). Selon Andersen, les fichiers RAG du chatbot GPT Store constituent une mine d’informations protégées par le droit d’auteur et téléchargées sans autorisation.
Selon plusieurs analyses, il est facile de trouver sur le GPT Store des chatbots dont les descriptions suggèrent qu’ils pourraient utiliser du contenu protégé d’une manière ou d’une autre. Les rapports indiquent qu’il héberge de nombreux GPT de spam et d’usurpation d’identité, certains se faisant passer pour des célébrités. Par exemple, Wired affirme avoir identifié un chatbot appelé « Westeros Writer » qui prétend écrire comme George RR Martin, le créateur de Game of Thrones. Un autre, Voice of Atwood, prétend imiter l’écrivain Margaret Atwood. Un autre encore, Write Like Stephen, vise à imiter Stephen King.
Le chatbot qui tente d’imiter Stephen King explique avoir accès à ses mémoires intitulées « On Writing ». Ainsi, il a pu reproduire sur demande des passages textuels du livre, en indiquant même la page d’où provenait le matériel. Il n’a pas été possible de contacter le développeur du chatbot, car celui-ci n’a pas fourni d’adresse e-mail, de numéro de téléphone, de profil social externe ou d’autres informations. L’utilisation non autorisée de matériel protégé par le droit d’auteur est autorisée dans certains contextes, mais dans d’autres, les titulaires de droits peuvent choisir d’intenter une action en justice.
La porte-parole d’OpenAI, Kayla Wood, a déclaré que la société répondait aux demandes de suppression des GPT créés à partir de contenu protégé par le droit d’auteur, mais elle a refusé de répondre aux questions sur la fréquence à laquelle OpenAI traite ces demandes. . Elle a ajouté que l’entreprise recherche de manière proactive les GPT problématiques. Wood a expliqué : Nous utilisons une combinaison de systèmes automatisés, d’évaluations humaines et de rapports d’utilisateurs pour rechercher et évaluer les GPT susceptibles de violer nos politiques, y compris l’utilisation de contenu tiers sans les autorisations nécessaires.
Le GPT Store pourrait aggraver les problèmes juridiques d’OpenAI
Alors qu’OpenAI fait déjà l’objet de nombreuses poursuites judiciaires pour violation de la loi, les GPT stockés sur des matériaux protégés par le droit d’auteur pourraient représenter un nouveau casse-tête juridique pour l’entreprise. Le laboratoire d’IA est confronté à un certain nombre de poursuites très médiatisées pour violation du droit d’auteur, dont une intentée par le New York Times et plusieurs intentées par plusieurs groupes d’auteurs, dont de grands noms comme George RR Martin. Selon les experts, les litiges concernant le matériel protégé téléchargé sur le GPT Store pourraient avoir des répercussions plus immédiates.
Les GPT modifient la relation entre OpenAI et ses utilisateurs d’une manière qui est importante pour la loi sur le droit d’auteur, explique James Grimmelmann, professeur de droit de l’Internet à l’Université Cornell. Lorsque les sites Web permettent aux utilisateurs de télécharger leur propre contenu (comme YouTube qui permet aux gens ordinaires de publier des vidéos personnelles), ils sont soumis au Digital Millennium Copyright Act (DMCA), une partie de la loi américaine sur le droit d’auteur. loi sur le droit d’auteur qui permet aux titulaires de droits d’auteur de déposer une plainte si leur propriété intellectuelle est diffusée sans leur autorisation.
Ainsi, si un YouTuber publie une vidéo avec de la musique en arrière-plan qu’il n’a pas autorisée, les labels de musique déposent parfois des plaintes et font supprimer le contenu. Étant donné que le GPT Store permet aux développeurs de télécharger leur travail, il est régi par ces règles. Conçu comme une loi anti-piratage, le DMCA revêt aujourd’hui une importance cruciale dans l’application des droits d’auteur car il offre aux titulaires de droits d’auteur un moyen relativement rapide d’exiger que leurs œuvres soient supprimées lorsque des personnes les mettent en ligne sans leur autorisation : les avis de retrait DMCA.
Les conditions d’OpenAI pour le GPT Store interdisent explicitement l’utilisation de contenu tiers sans les autorisations nécessaires, mais il n’existe actuellement aucun moyen simple pour les étrangers de vérifier si les droits d’auteur de leur matériel protégé par le droit d’auteur ont été téléchargés par les développeurs qui créent GPT. Cela signifie que les ayants droit concernés doivent partir à la chasse. Andersen dit qu’il utilise des mots-clés pour parcourir le GPT Store à la recherche de chatbots susceptibles d’utiliser le contenu des manuels de Praxis.
Il doit ensuite engager la conversation avec chaque chatbot qu’il trouve pour tenter de déterminer s’il a été formé sur les titres Praxis. Selon lui, c’est un travail fastidieux, mais qui produit des résultats. Il rapporte avoir réussi à inciter plusieurs chatbots à reproduire des passages spécifiques des manuels publiés par Praxis. « Il faut tromper le modèle pour qu’il se révèle », dit-il. Après avoir trouvé les premiers exemples de livres de Praxis sur le GPT Store, Andersen a envoyé des avis de retrait d’OpenAI DMCA. Mais l’entreprise n’a pas répondu jusqu’à ce qu’elle demande l’aide de l’Alliance danoise pour les droits (DRA).
La DRA représente les intérêts des travailleurs créatifs au Danemark. Elle a adopté une approche rigoureuse pour protéger les droits d’auteur de ses membres à l’ère de l’IA. L’année dernière, elle a temporairement mis hors ligne une collection de plus de 196 000 livres utilisés pour la formation à l’IA générative en déposant des avis de retrait DMCA. Andersen dit que Praxis prévoit d’engager des poursuites judiciaires contre OpenAI si les conditions du GPT Store ne s’améliorent pas. (D’autres éditeurs et organisations pourraient suivre.)
Il souhaiterait que l’entreprise et d’autres développeurs d’IA ajoutent des systèmes plus robustes qui recherchent du matériel protégé par le droit d’auteur dans le contenu RAG téléchargé, similaires au système Content ID mis en place pour empêcher le contenu protégé par le droit d’auteur d’apparaître sur YouTube. (Lorsqu’on a demandé à OpenAI s’il prévoyait d’introduire un système Content ID similaire, il n’a pas répondu directement, mais la porte-parole Kayla Wood a déclaré que la société surveillait de manière proactive les GPT.)
Et toi ?
Quelle est votre opinion sur le sujet ?
Que pensez-vous des nombreux problèmes auxquels est confronté le GPT Store d’OpenAI ?
Quel impact les GPT créés à partir de matériaux protégés par le droit d’auteur pourraient-ils avoir sur OpenAI ?
Voir aussi
OpenAI introduit des assistants d’IA personnalisés appelés GPT qui jouent différents rôles en fonction de vos besoins et envisagent de rémunérer les créateurs dont les GPT seront utilisés.
OpenAI lance GPT Store pour permettre aux utilisateurs de partager des chatbots personnalisés et potentiellement d’être payés en fonction de l’engagement des utilisateurs avec leurs GPT.
Les copines virtuelles animées par l’IA inondent déjà le nouveau GPT Store d’OpenAI : les copines virtuelles finiront-elles par devenir une chose courante pour les humains à l’avenir ?
