L’IA dans le secteur financier doit être manipulée avec prudence

Un problème avec l’intelligence artificielle est sa nature opaque lors de la résolution de problèmes. Il ne sera pas précis sur les indicateurs qui conduisent à une solution. De manière générale, Elin Hauge, stratège indépendante en IA et en affaires, estime que nous devrions d’abord examiner le problème que nous essayons de résoudre et ensuite seulement examiner la boîte à outils, qui comprend l’IA, parmi de nombreux autres outils. Parfois, résoudre un problème consiste simplement à « faire fonctionner correctement le flux de données entre deux systèmes différents ».

Elle a observé que la décision de nombreux dirigeants d’utiliser l’IA est « très largement » motivée par les cabinets de conseil. « Si McKinsey le dit, cela doit être vrai, non ? Hauge a noté que comprendre la dynamique des données nécessite de nombreuses compétences au sein d’un secteur, de ses données et de la chaîne de valeur. Néanmoins, ces informations sont utiles pour décider si des mathématiques basées sur une modélisation stochastique doivent être utilisées ou non.

L’IA dans le secteur financier

Tout en discutant de la pertinence d’utiliser l’IA pour prédire certains indicateurs de marché tels que les actions ou les taux d’intérêt, l’IA pourrait être utilisée de manière plus appropriée pour détecter les valeurs aberrantes, a suggéré Mme Hauge lors d’un entretien le 27 novembre 2024, à la suite de sa présentation à une Banque européenne d’investissement. conférence. “Elle ne vous dira pas pourquoi c’est bizarre, mais elle vous dira que ce point de données est bizarre.”

Elle a noté que les experts techniques des institutions financières « utilisent » de grands modèles de langage lors de la rédaction de codes de développement internes. “Cela n’a rien à voir avec une négociation.”

Les assureurs et les banques peuvent-ils apprendre quelque chose de l’IA ?

Elle a noté que parmi les assureurs, l’apprentissage automatique ou « la bonne vieille modélisation stochastique » est utilisé pour « la micro-tarification du niveau de risque individuel ». La détection des fraudes en matière de réclamations est un autre domaine qui bénéficie de l’IA. Mme Hauge a expliqué que l’apprentissage automatique peut identifier des « modèles de comportement dans des cas de fraude connus », également appelés « reconnaissance de modèles ». Dans le secteur financier, l’industrie des cartes de crédit aborde la question sous l’angle opposé, c’est-à-dire « une déviation par rapport à un modèle typique ». Une alarme se déclencherait si votre carte était utilisée aux Bahamas, par exemple.

Elle estime que « les anciennes statistiques classiques fonctionnent très bien lorsque vous disposez d’un ensemble de données prédéfinies » sur lequel effectuer une analyse de régression. D’un autre côté, Mme Hauge affirme que lorsque vous êtes confronté à « un ensemble de données plus important et que vous ne savez pas vraiment quelles données sont les plus importantes pour nous et lesquelles le sont moins dans la tarification, « l’apprentissage automatique est un moyen de fais ça.

Une affirmation surprenante pour votre correspondant, sachant qu’il existe des méthodes statistiques pour sélectionner les variables pertinentes. Mme Hauge a confirmé que l’approche ou « les mathématiques sous-jacentes sont les mêmes », mais que l’utilisation de l’IA est un moyen plus rapide d’atteindre son objectif. Cependant, il est possible de perdre des informations sur les indicateurs matériels en cours de route.

Identifier les indicateurs pertinents et leur impact. Tout n’est pas perdu

“Il existe un moyen de résoudre ce problème, qui consiste à utiliser des cartes thermiques dans des segments de votre réseau neuronal, et l’IA est l’un des sous-domaines technologiques actuellement développés et étudiés”, a déclaré Mme Hauger. Elle a précisé que les réseaux de neurones comportant « un grand nombre de couches sont appelés [systèmes] le « deep learning », qui est la méthode utilisée pour la plupart de ces modèles.

Elle a noté que les réglementations exigent la transparence des données et l’utilisation d’algorithmes pour les « applications à haut risque ». Par conséquent, les cartes thermiques tentent d’attribuer des poids aux nœuds du réseau neuronal, « une sorte de boîte noire ». Cependant, elle admet que ce n’est pas « assez mature… mais c’est un domaine qui progresse ».

L’homme reste nécessaire pour soutenir l’IA

Hauge a noté que « n’importe lequel de ces modèles » fournit des prédictions stochastiques. Elle a suggéré qu’un résultat avec un niveau de probabilité de 95 % pourrait signifier que « vous avez toujours besoin d’un humain au courant pour examiner l’affaire ».

Se fier entièrement aux résultats du modèle peut en réalité se retourner contre vous. Elin Hauge rapporte qu’il y a quatre ans, l’administration fiscale et douanière néerlandaise a accusé à tort 26 000 familles de fraude aux allocations familiales. Le gouvernement néerlandais a démissionné suite à ce scandale.

Les conséquences d’une erreur d’IA dans le choix d’une musique sur Spotify sont bien moindres que son utilisation dans le secteur financier ou suite à un examen médical.

Cet article a été initialement écrit traduit et édité pour le site Paperjam en français.