((Traduction automatique par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto))
Un groupe d’employés et d’anciens employés d’entreprises d’intelligence artificielle (IA), dont OpenAI MSFT.O, soutenu par Microsoft, et Google DeepMind GOOGL.O, soutenu par Alphabet, ont partagé leurs inquiétudes mardi. inquiétudes quant aux risques posés par les technologies émergentes.
Une lettre ouverte écrite par un groupe de 11 employés actuels et anciens d’OpenAI et un employé actuel et un ancien de Google DeepMind a déclaré que les motivations financières des entreprises d’IA empêchaient une surveillance efficace.
“Nous ne pensons pas que des structures de gouvernance d’entreprise adaptées soient suffisantes pour changer cette situation”, ajoute la lettre.
La lettre met également en garde contre les risques d’une IA non réglementée, qui vont de la propagation de la désinformation à la perte de systèmes d’IA indépendants en passant par l’aggravation des inégalités existantes, qui pourraient conduire à « l’extinction de l’humanité ».
Les chercheurs ont trouvé des exemples de générateurs d’images d’entreprises telles qu’OpenAI et Microsoft produisant des photos contenant des informations erronées liées au vote, malgré les politiques interdisant ce type de contenu.
Les entreprises d’IA ont de « faibles obligations » de partager des informations avec les gouvernements sur les capacités et les limites de leurs systèmes, indique la lettre, ajoutant qu’on ne peut pas compter sur ces entreprises pour partager volontairement ces informations.
La lettre ouverte est la dernière à soulever des questions de sécurité sur les technologies d’IA générative, qui peuvent produire rapidement et à moindre coût des textes, des images et des sons de type humain.
Le groupe a exhorté les sociétés d’IA à faciliter la mise en place d’un processus permettant aux employés actuels et anciens de soulever des préoccupations en matière de risques et à ne pas appliquer les accords de confidentialité interdisant les critiques.
Par ailleurs, la société dirigée par Sam Altman a déclaré jeudi avoir perturbé cinq opérations d’influence secrètes visant à utiliser ses modèles d’intelligence artificielle pour des « activités trompeuses » sur Internet.
