«Nous ne saurons pas ce que pense une IA supérieure»

«Nous ne saurons pas ce que pense une IA supérieure»
Descriptive text here

Paris Match. En quoi l’IA est-elle au cœur de votre travail ?
L’ensemble du projet Juice est construit autour de l’IA, puisque l’idée est de construire du contenu sur mesure pour chaque utilisateur. Sans l’IA, il serait impossible de faire ce que nous faisons. Juice propose un programme audio pour chaque utilisateur réalisé avec un mélange de choses traditionnelles comme de la musique ou des podcasts, mais aussi et surtout des informations uniquement sur les sujets qui vous intéressent, qui prennent la coloration politique qui est la vôtre, votre niveau de langage, la complexité. et les détails que vous désirez. L’IA est donc vraiment présente à tous les niveaux du projet Juice.

Pourquoi Paris est-elle devenue une place forte de l’IA ?
Paris est une plateforme pour beaucoup de choses car il y a beaucoup de gens très compétents. Et en , nous avons toutes ces grandes écoles qui forment des gens qui ont le type de compétences nécessaires à l’Intelligence Artificielle. C’est-à-dire des esprits mathématiques nécessaires pour pouvoir faire de l’IA.

Le reste après cette annonce

Plusieurs études montrent qu’en 2024, le montant des investissements autour de l’IA représentera 150 milliards dans le monde, dont une centaine seulement pour les « Magnificent Seven » (Alphabet, Meta, Microsoft, Nvidia, Tesla, Apple et Amazon). Avec ses ressources plus faibles, l’Europe peut-elle jouer un rôle décisif ?
Nous devons y croire car sinon nous ne le ferions pas. On ne peut pas être défaitiste et penser : « De toute façon, ils sont trop grands, trop forts et trop riches ! » Et ne fais rien. Alors, on y va quand même, en espérant qu’il y ait une vraie prise de conscience de la part de tous : des bailleurs de fonds habituels, privés et publics, pour nous aider à grandir.

De plus, le terme « IA » est trop large pour être considéré comme un seul secteur. C’est comme parler d’« Internet » ou d’« informatique ». Il y a la partie centrale de l’IA, c’est à dire tout ce qui touche au modèle, le noyau au cœur de l’IA dans lequel les places sont extrêmement chères. Mais autour, pour les usages de l’IA et sa mise en œuvre pour des besoins ou des pratiques particulières, la masse n’est pas dite. Prenez Instagram : ce n’était pas une révolution technologique en soi, juste une bonne idée. Il ne peut être exclu que de bonnes idées de ce type puissent également naître en Europe à partir de briques développées ailleurs, notamment aux États-Unis.

Quelles sont les principales avancées technologiques qui ont permis l’essor récent de l’IA ?
Il s’agit avant tout de la mise à disposition de capacités de calcul. Avant d’être au départ un problème d’intelligence et de logiciel, c’était avant tout un problème de matériel. Réussir à mobiliser le nombre de machines nécessaire pour démontrer qu’on pouvait atteindre un certain niveau de complexité : celui qu’a obtenu GPT. Et puis continuez sur cette voie. Mais au départ, c’est la disponibilité de toutes ces machines qui a permis de faire ces calculs.

“Je n’aime pas le terme intelligence artificielle”

Comment définiriez-vous l’intelligence artificielle et la distinguer des autres formes d’automatisation ?
Je n’aime pas le terme intelligence artificielle. Tout d’abord, c’est quelque chose qui a été inventé il y a très longtemps, pour faire un secteur qui n’était pas vraiment intéressant. Pas très intelligent non plus.

Parler d’intelligence artificielle relève la barre des attentes, par exemple on a l’impression que ChatGPT est capable de tout faire alors qu’il ne fait que très bien certaines choses. ChatGPT est un excellent générateur de texte, de la même manière que nous avions auparavant des correcteurs orthographiques ou des algorithmes qui complétaient les phrases que nous avions commencées. En les appelant « intelligence artificielle », nous avons le fantasme de leur prêter bien plus de capacités qu’elles n’en ont réellement. Il faudrait arrêter de mystifier les gens avec ce terme, pour définir plus précisément ce que fait chaque technologie, quelles sont ses limites et ses capacités.

Alors, pour vous, l’IA n’est pas la plus grande révolution technologique qui ait jamais existé ?
L’IA est un canular. Il existe des implémentations de solutions basées sur l’apprentissage des données qui permettent de faire des prévisions, de trier des données ou de générer du contenu, pour n’en citer que quelques-unes. Nous ne devrions pas généraliser l’IA comme étant une grande chose magique.

Cependant, s’est récemment mouillé en prédisant une IA plus intelligente que l’humain en 2025 et plus intelligente que tous les humains en 2029. Quelle est votre opinion sur cette chronologie ?
Nous avons un exemple avec la voiture autonome. Vers 2015, lorsque les premières Tesla sont apparues, tout le monde était émerveillé par ce véhicule qui pouvait rouler presque tout seul sur une autoroute. Depuis que nous étions là-bas, il n’a fallu que quelques années avant qu’ils ne deviennent complètement indépendants. Alors que non. La voiture qui roule toute seule, 10 ans après, on n’en est toujours pas là ! Donc, il n’y a aucune raison en IA car aujourd’hui en IA le niveau est à 9, et même si nous avons fait des progrès incroyables, dix devraient être atteignables d’ici deux ou trois ans. Peut-être que nous n’y arriverons jamais.

Vous ne croyez pas du tout à l’AGI (Intelligence Générale Artificielle) ?
En tout cas, pas avec les technologies actuelles. Ce n’est pas parce que nous avons GPT 4 que GPT 10 sera une AGI. Peut-être que la méthode dite de « transformation », celle utilisée pour les GPT, n’est pas la bonne. Et qu’il va falloir en trouver un autre pour y parvenir. Ce n’est pas forcément en se concentrant sur un modèle qu’on pourra tout résoudre.

Des éléments humains injectés dans l’IA

Pensez-vous que la conscience et les émotions sont nécessaires à l’émergence d’une véritable intelligence artificielle ?
Cela dépend de ce que vous lui demandez de faire. Si vous avez besoin de poser des diagnostics médicaux, de prédire un accident ou de rédiger des textes juridiques, vous n’avez probablement pas besoin d’émotion. Après, dans un certain nombre d’applications, vous en avez sans doute grandement besoin. Là aussi, c’est vraiment une question d’usage.

Dans Juice, on peut injecter dans ce que l’IA génère naturellement, des éléments produits par les humains et qui sont la partie un peu sensible, humaine ou drôle, mais qui sont fabriqués à la main.

Les données massives ajoutées à la puissance de calcul exponentielle suffiront-elles à permettre l’émergence de l’AGI ?
Je ne sais pas. On ne dit pas que le bon sens est une question de quantité. Cependant, pour qu’il y ait une AGI, il faut parvenir à créer ce que nous avons naturellement : le bon sens. Et est-ce une accumulation d’informations si grande qu’elle nous permet d’atteindre ce niveau d’intelligence ? Je ne pense pas, mais c’est plus une opinion qu’une véritable analyse. Et personne ne le sait vraiment.

L’émergence d’une AGI représente-t-elle nécessairement un risque existentiel pour l’humanité ?
Il y a une différence entre l’AGI, au niveau de notre intelligence et ce qu’on appelle dans la littérature, une « super intelligence », bien plus évoluée que nous. Si nous réussissons, ce sera probablement un problème.

La loi européenne sur l’intelligence artificielle est-elle une bonne chose, sachant qu’elle n’oblige pas le reste du monde à la respecter ?
Les choses strictement européennes sont toujours un peu dangereuses. Maintenant, on peut espérer qu’après avoir lancé la chose, il faut bien que quelqu’un commence quelque part, que ça se propage. C’est ce que nous devrions espérer. Mais si c’était le seul endroit où de telles dispositions étaient prises, cela pourrait s’avérer préjudiciable.

Sam Altman ou Elon Musk estiment qu’il faudra une percée dans le domaine énergétique pour soutenir le développement de l’IA. C’est aussi ton avis ?
Probablement. Mais il existe une autre voie intéressante, que suivent Apple et probablement Google : au lieu d’avoir des fermes de serveurs géantes qui effectuent tous les calculs, externalisez l’intelligence vers les appareils dont disposent les gens. Si vous disposez d’un téléphone ou d’un ordinateur capable de faire un premier niveau de traitement plutôt que de tout envoyer dans le cloud, cela permet une meilleure répartition des ressources disponibles et probablement de la consommation énergétique.

L’IA « sera notre collègue »

Quels sont les défis autour de l’explicabilité et de la transparence des algorithmes d’IA ?
Énorme et probablement insoluble. Il va falloir apprendre à vivre avec cette part d’inconnu. Il est illusoire de penser qu’à un moment donné, une super intelligence sera capable d’expliquer à une forme d’intelligence très inférieure, c’est-à-dire à nous, ce qu’elle fait. Nous ne saurons pas ce que pense cette IA supérieure ni comment elle l’analyse. A notre échelle, il vaut mieux apprendre à vivre dans l’incertitude plutôt que de se leurrer.

L’IA consciente d’elle-même est-elle possible et comment pouvons-nous la vérifier ?
Je ne sais pas parce que ce sont d’excellents simulateurs. Comment savoir s’ils sont conscients ou s’ils font semblant ? Il faudra peut-être rejouer la scène de « 2001 : L’Odyssée de l’espace », le moment où la machine est débranchée, pour le savoir. A ce moment, elle ne pourra pas simuler la détresse de la mort.

L’IA rendra-t-elle obsolètes de nombreux emplois humains avant d’en créer davantage ?
Je pense que cela détruit plus d’emplois qu’il n’en crée, oui. Le discours « à toutes les époques de l’innovation technologique, on a commencé par supprimer des emplois avant d’en inventer de nouveaux dans d’autres domaines » n’est pas forcément reproductible. Et je ne vois pas comment cela peut être le cas.

Alors, pensez-vous que l’IA sera notre remplaçant plutôt que notre assistant ?
J’imagine une 3ème catégorie : ce sera notre collègue. C’est optimiste. Cela signifie qu’au moins un emploi sur deux sera préservé.

 
For Latest Updates Follow us on Google News
 

PREV au programme de la 33e journée, avec PSG – Toulouse et Montpellier – Monaco
NEXT Le Stade Toulousain vise la place de leader face au Stade Français