3 questions à Anne-Cécile Krieg, Directrice Adjointe du département en charge de la gestion des risques de modèles. La publication, en juillet dernier, du livre blanc « Opérationnaliser la gestion des risques des systèmes d’intelligence artificielle » montre, s’il en était encore besoin, à quel point le sujet de l’Intelligence Artificielle (IA) constitue un accélérateur de compétitivité et, en même - -, un accélérateur de risques pour les institutions financières.
Alors, comment aborder ce défi ? Le point avec Anne-Cécile WarChef adjoint du département en charge de la gestion des risques de modèles, qui est intervenu ce 26 novembre lors de la conférence de l’ACPR sur ces mêmes sujets.
Anne-Cécile, quels sont les bénéfices majeurs en termes de compétitivité que l’IA offre aux acteurs du secteur financier ?
Je crois que les bénéfices de l’IA dans notre univers ne font plus de doute ! Les processus tels que l’examen des documents et la classification des données sont considérablement accélérés par l’intelligence artificielle. C’est aussi une technologie que nous utilisons et qui a fait ses preuves, notamment en matière de filtrage de conformité. De grands projets phares ont également apporté des bénéfices à nos clients tout en renforçant notre gestion des risques. Je pense notamment à la refonte de l’encadrement des découverts autorisés pour les clients particuliers ou au projet MOSAIC (More Security With Artificial Intelligence) qui permet d’automatiser les processus de détection des fraudes sur les moyens de paiement, avec une analyse des flux , et le déclenchement d’alertes dès l’identification d’événements anormaux ou suspects.
Et en corollaire, quels sont les risques majeurs ?
L’intelligence artificielle induit deux grands types de risques, qui sont les deux faces d’une même médaille : le risque de se priver de l’IA par peur et le risque de ne pas suffisamment encadrer son usage.
Ce cadre doit notamment prendre en compte des problématiques techniques amplifiées par des approches plus sophistiquées (par exemple les biais codés) ou nouvelles dans le contexte de l’IA (comme la cybersécurité). Elle passe également par une analyse des risques multidisciplinaire (risques informatiques, de modèle, opérationnels).
Comment un groupe comme le nôtre s’organise-t-il pour intégrer l’IA avec un risque maîtrisé ?
Par rapport à d’autres secteurs, nous avons la chance de disposer déjà d’un cadre sur lequel nous pouvons capitaliser ; cela repose sur des attentes réglementaires, par exemple en termes de modélisation, de données ou de contrôle. Nous l’enrichissons pour répondre aux enjeux spécifiques induits par l’IA, notamment sur la base d’une démarche collective engagée avec nos pairs afin d’identifier les meilleures pratiques. Cette fructueuse collaboration a donné lieu à la rédaction d’un livre blanc sur le sujet, associant BNPP, La Banque Postale et Société Générale. Ce document passe en revue l’ensemble des risques identifiés et propose une sorte de « boîte à outils » pour chacun d’eux.
La formation interne est également un enjeu clé, nécessitant une multiplication des canaux afin d’impliquer toutes les couches hiérarchiques, l’offre de formations généralistes et expertes. Comme nous le savons, l’apprentissage et la connaissance fonctionnent comme des garde-fous.
Partage de bonnes pratiques, retours d’expérience, formation, telles sont certainement les dimensions empiriques qui assureront un déploiement raisonné des bénéfices indéniables de l’IA.
En savoir plus : le livre blanc dédié à l’IA gen (juillet 2024)
