Les questions éthiques autour de l’intelligence artificielle qu’ils développent ne sont pas le point fort d’OpenAI. D’anciens dirigeants de l’entreprise sont même partis créer leur propre entreprise afin de développer un chatbot plus vertueux. C’est le cas de Claude d’Anthropics.
Aujourd’hui, il s’agit d’un collectif d’employés anciens et actuels d’OpenAI, ainsi que GoogleGoogle DeepMind et Anthropic, ce qui soulève les problèmes de sécurité que pourrait engendrer l’IA. Ces spécialistes ont publié une lettre ouverte affirmant qu’ils se retrouvent réduits au silence lorsqu’ils évoquent des problèmes de sécurité dans leurs entreprises et notamment chez OpenAI. Ils ont pris soin d’écrire cette lettre pour que le public ait le droit de connaître la réalité des risques posés par l’IA.
L’un des signataires, Daniel Kokotajlo, qui est l’un des anciens chercheurs d’OpenAI, a également accordé une interview à New York Times sur le sujet. L’ex-employé accuse l’entreprise d’ignorer les risques posés par leintelligence artificielle généraleintelligence artificielle générale (AGI). Il explique que les décideurs de l’entreprise sont tellement fascinés par ses possibilités qu’ils se précipitent imprudemment pour être les premiers à la lancer.
“Nous ne sommes pas prêts”
Mais lorsqu’il était au pouvoir, il aurait pratiquement convaincu Sam AltmanSam Altmanle patron de l’entreprise, pour mettre en place garde-corpsgarde-corps maîtriser la technologie plutôt que de continuer à la rendre intelligente. Mais, au fil du temps, le décideur a fini par montrer son désintérêt sur le sujet en faveur du développement inconditionnel de l’IA.
Pour l’ancien employé d’OpenAI, la firme devrait parvenir à finaliser cette AGI d’ici 2027. Selon lui, elle nuira certainement à l’humanité, voire la détruira. Lors de l’entretien, il s’est alarmé en expliquant que le monde n’est pas du tout prêt à supporter les risques que pourraient engendrer ces IA. Et pour rendre cette préoccupation un peu plus concrète, le chercheur va encore plus loin en estimant que la probabilité que l’IA détruise l’humanité est d’environ 70 %. Inquiétant!
De son côté, en réaction à cette lettre et à cet entretien, OpenAI s’est voulu rassurant en se disant à l’écoute de ces inquiétudes et en expliquant que la gestion des risques répond à une approche scientifique dans laquelle la firme se dit confiante.
