reflet fidèle de la société ou trompe l’œil ?

Un monde déformé

Une dernière métaphore pour comprendre l’IA, particulièrement pertinente, vient de Shannon Vallor, professeur de philosophie à l’Université d’Édimbourg. Dans son essai Miroir IAelle nous invite à considérer l’IA comme un miroir… mais similaire à celui des sculptures d’Anish Kapoor : qui nous donne un reflet de notre monde, certes, mais déformé.

Intelligence artificielle et transformation numérique des entreprises : la Belgique se porte bien

Cela met en lumière un point crucial à propos de ces IA : ce serait une erreur de croire qu’elles nous donnent une image fidèle, objective et parfaitement rationnelle de notre monde et des réponses que nous devons y apporter. Non, au contraire ; ils sont criblés de préjugés sous-jacents plus ou moins explicites ou cachés. Vallor n’est pas du tout « anti IA » mais il en veut un usage raisonné : des modèles d’IA dédiés à des thématiques précises, bien définis, dotés de garde-fous, testés, et justifiés d’un point de vue moral et environnemental.

Quant aux IA généralistes, qui ont réponse à tout sur tous les sujets, elle nous prévient en faisant appel au mythe de Narcisse : s’absorber dans le dialogue avec l’IA, n’est-ce pas notre rôle ? image déformée dont on tombe amoureux, au point de s’y perdre ?