Au printemps 2023, le Congrès américain a entendu OpenAI, la société qui a développé ChatGPT, et l’Union européenne vient d’adopter son premier texte législatif au sujet de l’IA.
[Article issu de The Conversation, écrit par Frédéric Prost Maître de conférences en informatique, INSA Lyon – Université de Lyon ]
Dans les parlements et sur les réseaux sociaux, les progrès rapides de l’IA animent les débats. À l’avenir, quels impacts pouvons-nous espérer sur notre société ? Pour tenter de répondre à cette question de manière sereine, nous proposons de regarder ce qui s’est passé dans un secteur qui a déjà connu l’arrivée et la victoire de l’IA sur les capacités humaines : les échecs. La machine est en effet à un niveau supérieur à celui de l’humain depuis maintenant plus d’un quart de siècle.
Pourquoi les échecs comme indicateur ?
Depuis les débuts de l’informatique, les pannes sont utilisées comme indicateur des progrès logiciels et matériels. C’est un jeu intéressant à plusieurs niveaux pour étudier les impacts de l’IA sur la société :
- C’est une activité intellectuelle qui requiert différentes compétences : visualisation spatiale, mémoire, calcul mental, créativité, capacité d’adaptation, etc., compétences sur lesquelles l’IA rivalise avec l’esprit humain.
- Le jeu n’a pas changé depuis des siècles. Les règles sont bien établies et constituent une base stable pour étudier le développement des joueurs.
- Il est possible de mesurer objectivement la force des machines et de comparer ce niveau à celui des humains grâce au classement Elo.
- Le domaine d’étude est restreint : il est clair que les échecs ne représentent qu’un tout petit aspect de la vie, mais c’est précisément le problème. Cette étroitesse du sujet permet de mieux cibler les impacts de l’IA sur la vie quotidienne.
- Les IA ont surpassé les meilleurs joueurs humains depuis plus de 20 ans. Il est donc possible de voir quels ont été les impacts concrets sur le jeu d’échecs et sur la vie de sa communauté, qui peut être considérée comme un microcosme de la société. On peut également étudier ces impacts au regard de la progression de l’IA dans le temps.
Explorons ce qui s’est passé dans le monde des échecs depuis que Gary Kasparov, alors champion du monde en titre, a perdu une partie contre Deep Blue en 1996, puis le match revanche joué en 1997. Nous passerons en revue plusieurs thèmes récurrents dans la discussion sur les risques. liés à l’IA et voyons ce qui est arrivé à ces spéculations dans le domaine particulier des échecs.
Les performances de l’IA continueront-elles à augmenter encore plus rapidement ?
Il existe deux grandes écoles de programmation de logiciels d’échecs : pendant longtemps, seule la force brute a fonctionné. Il s’agissait essentiellement de calculer le plus rapidement possible pour avoir un arbre de mouvements plus profond, c’est-à-dire capable d’anticiper le jeu plus loin dans le futur.
Aujourd’hui, la force brute est en concurrence avec les techniques d’IA issues des réseaux de neurones. En 2018, DeepMind, filiale de Google, a produit AlphaZero, une IA d’apprentissage profond sur réseau neuronal artificiel, qui apprend par elle-même en jouant aux échecs contre elle-même. Parmi les logiciels les plus puissants aujourd’hui, il est remarquable que LC0, qui est une IA de réseau neuronal, et Stockfish, qui est essentiellement un logiciel de calcul de force brute, ont tous deux des résultats similaires. Dans le dernier classement de la Swedish Computer Chess Association (SSDF), ils ne sont séparés que par 4 points Elo : 3 582 pour LC0 contre 3 586 pour Stockfish. Ces deux manières complètement différentes d’implémenter un moteur d’échecs sont pratiquement impossibles à distinguer en termes de force.
En termes de points Elo, la progression des machines a été linéaire. Le graphique suivant donne chaque année le niveau des meilleurs logiciels selon le classement SSDF initié depuis le milieu des années 1980. Le meilleur logiciel actuel, LC0, est à 3586, ce qui étend le chiffre comme on pouvait s’y attendre.
Cette progression linéaire est en fait le reflet d’une progression assez lente des logiciels. En effet, les progrès en matière de puissance de calcul sont exponentiels. Il s’agit de la célèbre loi de Moore qui stipule que la puissance de calcul des ordinateurs double tous les dix-huit mois.
Cependant, Ken Thompson, un informaticien américain qui a travaillé dans les années 1980 sur Belle, alors le meilleur programme d’échecs, avait observé expérimentalement qu’une augmentation exponentielle de la puissance de calcul entraînait une augmentation linéaire de la puissance du logiciel, comme cela a été observé au cours des dernières décennies. En effet, ajouter un peu plus de profondeur de calcul implique de calculer beaucoup plus de nouvelles positions. On voit ainsi que l’arbre des mouvements possibles est de plus en plus large à chaque étape.
Les progrès de l’IA en tant que telle semblent donc faibles : même s’ils ne progressaient pas, on observerait quand même une montée en puissance des logiciels du simple fait de l’amélioration de la puissance de calcul des machines. On ne peut donc pas attribuer aux progrès de l’IA tout le mérite de l’amélioration constante des ordinateurs aux échecs.
Réception par la communauté des échecs
Avec l’arrivée de machines puissantes dans le monde des échecs, la communauté a forcément évolué. Ce point est moins scientifique mais est peut-être le plus important. Observons quelles ont été ces évolutions.
« Pourquoi les gens continueraient-ils à jouer aux échecs ? » Cette question s’est réellement posée juste après la défaite de Kasparov, alors que l’avenir des échecs amateurs et professionnels semblait sombre. Il s’avère que les humains préfèrent jouer contre d’autres humains et sont toujours intéressés par le spectacle de grands maîtres forts jouant les uns contre les autres, même si les machines peuvent détecter leurs erreurs en temps réel. Le prestige des meilleurs joueurs d’échecs n’a pas été diminué par la capacité des machines à les battre.
Le style de jeu a été impacté à plusieurs niveaux. Essentiellement, les joueurs ont réalisé qu’il existait beaucoup plus d’approches possibles du jeu qu’on ne le pensait auparavant. C’est l’académisme, les règles rigides, qui en ont pris un coup. Encore faut-il réussir à analyser les choix opérés par les machines. Les IA sont également très douées pour signaler les erreurs tactiques, c’est-à-dire les erreurs de calcul sur des séquences courtes. En ligne, il est possible d’analyser les jeux presque instantanément. C’est un peu comme avoir un professeur particulier à portée de main. Cela a sûrement contribué à l’augmentation du niveau général des joueurs humains et à la démocratisation du jeu ces dernières années. Pour l’instant, les IA ne peuvent pas fournir de bons conseils stratégiques, c’est-à-dire des considérations de jeu à plus long terme. Cela peut changer avec les modèles linguistiques, tels que ChatGPT.
Les IA ont également introduit la possibilité de tricher. Il y a eu de nombreux scandales à ce sujet, et il faut reconnaître qu’à ce jour il n’existe pas de « bonne solution » pour gérer ce problème qui fait écho aux interrogations des enseignants qui ne savent plus qui, du ChatGPT ou des élèves, rend leurs devoirs.
Conclusions provisoires
Ce rapide tour d’horizon semble indiquer qu’à l’heure actuelle, la plupart des craintes exprimées concernant l’IA ne sont pas justifiées expérimentalement. Le jeu d’échecs constitue un précédent historique intéressant pour étudier les impacts de ces nouvelles technologies lorsque leurs capacités commencent à dépasser celles des humains. Bien entendu, cet exemple est très limité, et il n’est pas possible de le généraliser à l’ensemble de la société sans précaution. En particulier, les modèles d’IA qui jouent aux échecs ne sont pas des IA génératives, comme ChatGPT, qui sont celles dont on parle le plus récemment. Néanmoins, les échecs constituent un exemple concret qui peut être utile pour relativiser les risques liés à l’IA et l’influence importante qu’elle promet d’avoir sur la société.
