(SénéPlus) – L’intelligence artificielle pourrait-elle être le reflet amplifié de nos préjugés ? C’est la question centrale que se pose Le Monde Diplomatique dans son édition de novembre 2024, à travers une enquête approfondie qui déconstruit le mythe de la neutralité technologique. « Quoi de plus neutre, dit-on, qu’un ordinateur ? Erreur : derrière leurs froids verdicts, algorithmes et automates renferment tous les préjugés des humains qui les conçoivent”, prévient d’emblée le mensuel.
L’exemple le plus frappant de ces biais concerne Pulse AI, développé en 2020 par l’Université Duke aux États-Unis. Le Monde Diplomatique révèle comment ce système, destiné à dépixéliser les images, « tendait à blanchir les personnes de couleur au point de générer un ‘Obama blanc’ ». Cet échec n’est pas anodin et trouve son origine dans un effet domino technologique : Pulse a utilisé StyleGAN, un autre système d’intelligence artificielle développé par Nvidia, qui « représente spontanément les hommes blancs grâce à son propre apprentissage ».
“Si l’algorithme Pulse ne contenait pas de préjugés intrinsèques, il intègre indirectement ceux de StyleGAN : lorsqu’il dépixe le vrai visage de Barack Obama, le programme fait de lui un homme blanc”, explique le journal, soulignant comment les préjugés se transmettent d’un système à l’autre. .
Le mensuel souligne que ces préjugés ne sont pas de simples erreurs de programmation. « Sans forcément s’en rendre compte, les ingénieurs transposent les préjugés discriminatoires inhérents aux conditions de production des données qui alimentent la machine », analyse Le Monde Diplomatique. Cette situation est d’autant plus préoccupante que « les machines ne sont-elles pas considérées comme objectives et dénuées d’idéologie ? »
Les implications concrètes de ces préjugés dépassent largement le cadre théorique. « Certains justiciables, victimes d’algorithmes de police prédictive intégrant des variables discriminatoires, apprendront à leurs dépens que ce n’est pas le cas », prévient le journal.
Une opacité inquiétante
Plus alarmant encore, Le Monde Diplomatique révèle que la compréhension même de ces systèmes échappe aux experts. « « Expliquer » le fonctionnement des modèles d’IA, c’est-à-dire traduire la réponse du système en une série d’étapes liées entre elles par ce qu’un humain peut raisonnablement interpréter comme des causes ou des raisons » est devenu secondaire. Cette explication «ne fait plus partie des conditions préalables à la mise en service d’un modèle, mais constitue plutôt la cerise sur le gâteau».
Le magazine va plus loin en révélant que « même les chercheurs les plus avancés ont du mal à comprendre ce qui se passe dans la boîte noire des algorithmes ». Cette situation pose une question démocratique fondamentale : « Comment le législateur peut-il établir des normes d’évaluation de systèmes dont personne ne sait comment ils fonctionnent, notamment dans les domaines sensibles de la santé ou de l’éducation ?
Le Monde Diplomatique s’interroge : « Est-ce aux entreprises privées de décider elles-mêmes des objectifs poursuivis par ces IA ? Ces « choix technico-politiques fondamentaux justifieraient cependant une délibération collective et un contrôle public plus étroit ».
Le journal rappelle que ces systèmes sont développés par « une poignée d’acteurs dont les capacités financières et l’expertise en politique industrielle correspondent à celles de certains pays du G20 ». Cette concentration du pouvoir technologique soulève des questions démocratiques fondamentales.
Vers une nécessaire redéfinition
Face à ces enjeux, Le Monde Diplomatique nous invite à remettre en question en profondeur notre approche de l’intelligence artificielle. Le magazine suggère même d’abandonner le terme « intelligence artificielle » au profit d’« automates informatiques », une expression « nettement moins flatteuse mais plus précise puisque ces machines atteignent leurs objectifs en calculant la meilleure façon de répéter les résultats passés ».
L’écrivain britannique James Bridle, cité par le mensuel, pose la question essentielle : “Peut-on imaginer des technologies de l’information et de la communication qui ne nous exploitent pas, ne nous trompent pas ou ne nous supplantent pas ?” La réponse, selon Le Monde Diplomatique, passe nécessairement par « une séparation entre l’État et le marché » et une acquisition démocratique de ces technologies qui façonnent notre avenir.
La revue conclut que l’agrégation de masses de données ne peut remplacer la réflexion démocratique et le dialogue critique. Un rappel crucial à l’heure où l’intelligence artificielle s’immisce toujours plus profondément dans notre quotidien.
