vers la propagation d’outils biaisés et nuisibles ?

Désormais 47e président des États-Unis après sa victoire contre Kamala Harris, Donald Trump envisage d’apporter des réformes radicales pour le pays. Il a notamment promis lors de sa campagne présidentielle d’abolir les réglementations sur l’IA mises en place par Joe Biden, qui constituent selon lui un frein à l’innovation et imposent des idées radicales de gauche. Les observateurs craignent, en réponse, la diffusion d’outils d’IA biaisés (voire nuisibles) et très sujets aux erreurs.

Établi en octobre 2023, le décret de Biden sur la réglementation de l’IA s’appuie sur une loi sur la défense nationale datant de 1950, permettant au gouvernement de contrôler les activités du secteur privé pour garantir un approvisionnement fiable en biens et services. Il couvre presque tous les aspects des applications de la technologie, tels que l’établissement de garanties pour son utilisation dans les soins de santé et la découverte de médicaments.

Le décret a fait l’objet de ferventes critiques de la part des républicains en raison de deux dispositions principales concernant la sécurité et la fiabilité. La première exige que les sociétés de développement d’IA fournissent au gouvernement des rapports sur la manière dont leurs modèles sont formés et protégés. Cela incite les entreprises à faire preuve de transparence et à partager les résultats des tests de la « red team », qui simulent des cyberattaques pour évaluer les limites du modèle et identifier les failles potentielles du système. Le deuxième aspect du décret impose à l’Institut national des normes et technologies (NIST) du ministère du Commerce d’élaborer des lignes directrices encourageant les entreprises à développer des modèles moins vulnérables au piratage et à limiter les biais.

Dans les mois qui ont suivi l’adoption du décret, le gouvernement a exigé des rapports trimestriels pour les sociétés de développement d’IA, tandis que le NIST a publié des documents d’orientation concernant la gestion des risques, les outils sécurisés de développement d’IA, la prévention des biais dans les modèles, etc. certains des plus grands noms de l’industrie sur la négligence des entreprises en matière de sécurité.

Cependant, Trump et ses partisans estiment que ces dispositions sont inutiles et inappropriées et qu’elles constituent un obstacle à l’innovation technologique. Ils affirment en outre qu’il s’agit d’une politique de gauche radicale promouvant le « wokisme ». Désormais élu pour un second mandat, il suffirait à l’ancien homme d’affaires d’adopter un contre-décret pour annuler tous les efforts du précédent gouvernement.

« Nous abrogerons le dangereux décret de Joe Biden qui entrave l’innovation en matière d’IA et impose des idées radicales de gauche sur le développement de cette technologie. », a-t-il déclaré dans son programme de campagne électorale. ” Au lieu de cela, les Républicains soutiennent le développement de l’IA ancré dans la liberté d’expression et l’épanouissement humain. ».

Un décret abrogé en faveur de l’innovation ?

Les partisans de Trump estiment que le décret imposé par Biden est trop restrictif et constitue une ingérence excessive dans le secteur. Rendre obligatoire le partage des données exposerait les secrets commerciaux des développeurs et mettrait en danger la propriété intellectuelle. D’un autre côté, cela pourrait intimider les innovateurs potentiels. Ces exigences ne profiteraient qu’aux grandes entreprises, tandis que les start-up auraient du mal à se développer face à trop de contraintes réglementaires.

De nombreux conservateurs estiment que ces obstacles à l’innovation pourraient avoir des répercussions majeures sur la compétitivité technologique du pays face à la Chine, où le secteur connaît une croissance exponentielle. Ils pourraient également constituer un obstacle à la course aux armements numériques des États-Unis.

La promesse de campagne de Trump en matière d’IA est soutenue par de nombreux membres républicains du Congrès américain, ainsi que par de grands noms de l’industrie technologique, comme Elon Musk, PDG de Tesla et SpaceX (entre autres). La politique d’assouplissement des réglementations sur l’IA offrirait un avantage significatif à Musk, car ses entreprises seraient en mesure de rivaliser plus facilement avec ses concurrents.

Désormais proche du prochain président, le milliardaire a montré à plusieurs reprises qu’il n’hésitait pas à mettre des bâtons dans les roues de ses concurrents pour promouvoir ses propres outils d’IA. Par exemple, il a critiqué les grands modèles d’IA d’OpenAI, les qualifiant de « wokist ». Il a également intenté une action en justice contre la startup pour avoir prétendument dévié de son objectif initial d’entreprise à but non lucratif.

Une politique « anti-wokisme » ?

Les Républicains estiment également que les directives du NIST constituent une forme de censure gouvernementale, les qualifiant de normes de sécurité wokistes. Ils affirment qu’il s’agit d’un plan de l’administration Biden visant à contrôler le discours conservateur, ce qui, selon eux, constituerait un obstacle à la liberté d’expression.

Des rapports ont montré que certains grands modèles d’IA présentent des biais discriminatoires, par exemple dans le recrutement et les soins de santé. Cependant, de nombreux conservateurs réfutent catégoriquement l’idée selon laquelle l’IA pourrait causer des dommages sociaux. Ils s’inquiètent cependant d’un contrôle excessif qui pourrait nuire à l’efficacité des modèles. Selon Jacob Helberg, un acteur technologique proche de Trump, « il existe une corrélation inverse directe entre le degré de wokisme d’une IA et son utilité ».

De leur côté, les responsables du décret affirment qu’il est loin d’être restrictif par rapport à ceux actuellement en vigueur dans l’Union européenne et en Chine. Ils réfutent les allégations selon lesquelles cela pourrait nuire à l’innovation technologique et estiment au contraire que cela pourrait favoriser la croissance des start-up en les incitant à développer des modèles fiables, efficaces et moins énergivores. La plupart des industries du secteur seraient également favorables au décret.

Cependant, on ne sait pas encore clairement comment Trump envisage de remplacer ou de réformer le décret. Son programme électoral ne mentionne aucun détail, hormis une réglementation plus flexible. Néanmoins, les experts en cybersécurité affirment que l’annulation du décret de Biden porterait gravement atteinte à la fiabilité et à l’impartialité des modèles.