L’IA prend de plus en plus de place dans notre société. Il n’a fallu que peu de temps pour que la technologie envahisse tous les domaines, suscitant des inquiétudes. Notamment celle de Geoffrey Hinton, lauréat du prix Turing 2018 et du prix Nobel de physique 2024 et pionnier en la matière.
- Geoffrey Hinton alerte sur un risque d’extinction de l’humanité par l’IA avec une probabilité qu’il estime entre 10 et 20 % dans les trente prochaines années
- Un pionnier de l’IA critique le manque de réglementation internationale stricte et appelle à imposer davantage de recherches sur la sécurité à des entreprises comme OpenAI
- Certains experts comme Yann LeCun estiment que l’IA pourrait au contraire sauver l’humanité de l’extinction, un avis qui diverge des craintes de Geoffrey Hinton.
Geoffrey Hinton n’est pas sa première prédiction inquiétante sur l’IA. Lors d’un entretien avec BBC Radio 4l’expert estime qu’il y a entre 10 et 20 % de probabilité que l’IA conduise à l’extinction de l’humanité dans les trente prochaines années. Auparavant, sa prévision était de 10 %.
Pourquoi l’IA menace-t-elle l’humanité d’extinction ?
En octobre 2023, Geoffrey Hinton a mis en garde contre X, expliquant qu’une IA mal réglementée présentait une chance sur dix de détruire l’humanité d’ici trois décennies. Selon l’un des promoteurs de l’IA, la régulation est un enjeu crucial puisqu’il s’agit d’une situation sans précédent dans l’histoire : jamais auparavant l’humanité n’a eu à contrôler une entité plus intelligente qu’elle-même.
Geoffrey Hinton explique que face à un enfant de trois ans, « nous avons le contrôle », mais face à une IA, “nous sommes l’enfant de trois enfants”. Le scientifique est particulièrement préoccupé de la course au profit des grandes entreprises (comme OpenAI) ce qui pourrait conduire à la création d’une IA incontrôlable. La solution : imposer davantage de recherches sur la sécurité à ces entreprises par le biais d’une réglementation gouvernementale stricte.
Actuellement, seule l’Europe a adopté une législation contraignante avec la loi sur l’IA. L’absence de réglementation internationale laisse les entreprises s’autoréguler selon ses propres critères éthiques. Il s’agit d’une situation sans précédent qui suscite une certaine émotion. Par exemple, Grok a peu de limites et peut générer des images trompeuses de véritables personnalités publiques. Ce qu’un Dall-E refuse de faire, par exemple.
L’IA, l’invention la plus dangereuse de l’histoire de l’humanité ?
La position de Geoffrey Hinton n’est pas nouvelle, loin de là. Yoshua Bengio, autre figure majeure de l’IA, estime que cette technologie est l’invention la plus dangereuse de l’histoire de l’humanité. Avant la bombe nucléaire ? Cela semble être le cas, selon des experts inquiets.
Une conférence mondiale sur l’IA se tiendra à Paris en février 2024. Cela pourrait constituer un tournant puisque de nombreux chefs d’État seront présents. Sur la voie d’une réglementation internationale unifiée pour répondre aux préoccupations exprimées par les pionniers de la technologie ?
Notez que d’autres experts sont plus optimistes. Yann LeCun, également considéré comme l’un des pionniers de la technologie et scientifique en chef de l’IA chez Meta, estime que la technologie pourrait nous sauver de l’extinction. Tout le contraire de ses collègues.
