À mesure que les systèmes d’IA générative et agentique se développent rapidement dans les services financiers, les institutions sont confrontées à un paysage de risques en expansion et mal compris. Cette recherche présente un cadre spécifique pour aider les organisations de services financiers à mieux identifier, classifier et mesurer les incidents liés à l’IA, apportant plus de transparence, de cohérence et de responsabilité à la gestion des risques associés à l’IA.

Pourquoi cette recherche est importante

Sans méthode cohérente pour identifier, mesurer et divulguer les incidents liés à l’IA, les institutions financières sont exposées à un risque accru de défaillances opérationnelles, de lacunes en matière de gouvernance et d’abus à des fins adverses. Les divulgations publiques actuelles et les répertoires d’incidents ne reflètent que partiellement ces événements, limitant ainsi la capacité des entreprises, des régulateurs et des investisseurs à évaluer avec précision le risque réel et les coûts associés.

Cette recherche propose une taxonomie des incidents, causes, impacts et métadonnées liés à l’IA, axée sur le secteur des services financiers américains mais adaptable à d’autres industries. Elle peut servir de base à de futures recherches sur ce sujet et renforcer la gouvernance, améliorer la modélisation des risques et appuyer une adoption plus responsable et résiliente des technologies avancées d’IA.

Principales conclusions

• Les incidents liés à l’IA sont largement absents des divulgations publiques : L’analyse des dépôts auprès de la SEC ne révèle aucune référence explicite aux incidents impliquant l’IA, malgré l’adoption croissante de l’IA et des preuves émergentes d’impacts significatifs.
• La transparence accuse un retard face à l’augmentation des risques liés à l’IA : Les mentions de risques liés à l’IA augmentent, mais les divulgations restent génériques, manquent de détails et ne rendent pas compte des incidents réels, surtout dans des secteurs confidentiels comme la finance.
• Une taxonomie des incidents liés à l’IA est essentielle : La recherche propose une taxonomie adaptée des incidents impliquant l’IA que les organisations peuvent adapter selon leurs besoins, couvrant cinq types d’incidents principaux –
  • Défaillances opérationnelles,
  • Erreurs de soutien à la décision,
  • Anomalies de négociation,
  • Fraude et mauvais usage et
  • Défaillances de conformité et de confidentialité

Qui devrait lire ceci

• Cadres supérieurs et membres du conseil d’administration du secteur des services financiers
• Responsables des risques, de la conformité et de l’audit
• Responsables des technologies, de l’IA et des données
• Régulateurs, décideurs et investisseurs