“ChatGPT erre” et même son éditeur OpenAI “ne peut pas l’arrêter” : l’association viennoise de lutte pour la protection de la vie privée Noyb a annoncé lundi le dépôt d’une plainte en Autriche contre le programme star d’intelligence artificielle (IA) génératrice.
Ce type d’outils « inventent régulièrement des réponses », souligne Noyb (pour « None of your business », signifiant en anglais « It is not your business ») dans un communiqué.
Par exemple, lorsqu’elle a interrogé ChatGPT sur la date de naissance de son fondateur Max Schrems, l’agent conversationnel a « systématiquement donné de fausses informations » au lieu d’admettre qu’il ne la savait pas.
« Si un système ne peut pas fournir des résultats corrects et transparents, il ne peut pas être utilisé pour générer des données sur les individus. La technologie doit être conforme à la loi, et non l’inverse», insiste l’avocat Maartje de Graaf, cité dans le communiqué.
C’est tout simplement « inacceptable », selon Noyb qui rappelle que le Règlement général européen sur la protection des données (RGPD) stipule l’obligation d’exactitude.
D’autant que la société OpenAI « a refusé la demande du plaignant de corriger ou d’effacer l’erreur, prétextant que c’était impossible », le désapprentissage de l’IA étant en fait un problème crucial.
Elle n’a pas non plus répondu à sa demande d’accès aux données le concernant et aux sources d’information, là encore en violation de la loi.
Dans sa plainte, l’association Noyb, devenue la bête noire des géants de la tech depuis sa création en 2018, demande à l’autorité autrichienne de protection des données d’ouvrir une enquête et d’infliger une amende à l’entreprise californienne.
Apparu en novembre 2022 et financé par Microsoft, ChatGPT a été pris d’assaut par les utilisateurs impressionnés par sa capacité à livrer des essais, des poèmes ou des traductions en quelques secondes.
Mais face aux risques, des procédures ont été lancées dans plusieurs pays. L’Italie a temporairement bloqué le programme en mars 2023, tandis que l’autorité de régulation française (Cnil) commençait à examiner une série de plaintes.
Un groupe de travail européen a également été créé pour promouvoir la coopération.
« Reste à savoir où cela nous mènera », commente Noyb, pour l’instant sceptique quant aux efforts des autorités pour réguler l’intelligence artificielle.
