Quand je vois des statistiques indiquant que 97 % des entreprises explorent l’IA agentique, mais que seulement 12 % en assurent un contrôle centralisé, je m’inquiète vraiment. L’IA est tellement puissante. Avec la programmation assistée par l’IA, les solutions peuvent être développées de façon incroyablement rapide. Mais sans garde-fous intégrés, il est clair que de nombreuses entreprises se dirigent vers un désastre.

Le risque fondamental n’est pas l’échec des agents à évoluer ou à automatiser le travail efficacement. Les plus grands désastres surviendront plutôt lorsque les agents réussiront, mais iront dans la mauvaise direction sans que personne n’en soit responsable.

Ce n’est pas un problème nouveau. En 1979, IBM utilisait ce message dans une présentation interne : « Un ordinateur ne peut jamais être tenu responsable. Par conséquent, un ordinateur ne doit jamais prendre de décision de gestion. »

La solution n’est pas de tout ralentir. Dans le monde de l’IA, les ordinateurs prendront des décisions de gestion. Le défi est de s’assurer que ces décisions sont prises avec une pleine responsabilité. D’après ce qui a fonctionné chez les premiers utilisateurs, je propose un programme en quatre étapes pour se préparer à utiliser la technologie agentique de façon sécuritaire à grande vitesse.

Étape 1 : Évaluer les risques

La première étape consiste à comprendre la nature de la technologie agentique afin de pouvoir évaluer et catégoriser les risques. L’IA n’exécute pas simplement des règles comme la RPA ou les générations antérieures de technologies d’automatisation des processus d’affaires, où les concepteurs de règles étaient responsables. L’IA s’appuie sur d’immenses quantités de données et prend des décisions et fait des recommandations d’une manière qui n’est souvent pas transparente. Le concepteur de l’agent ne peut être tenu responsable, car il ne sait pas ce que fera l’agent. Il ne connaît que les informations sur lesquelles il se basera et le modèle qui sera utilisé.

La partie responsable doit donc être celle qui déploie la technologie agentique afin d’avoir un impact à l’intérieur des opérations d’affaires.

Étape 2 : Appliquer un modèle de risque

La deuxième étape consiste à utiliser le modèle de risque à trois niveaux suivant qui catégorise le type de risque afin qu’une responsabilité appropriée puisse être conçue :

• Niveau 1 : Conseiller seulement — l’agent recommande, l’humain décide
• Niveau 2 : Agir avec une intervention humaine — l’agent exécute, l’humain révise
• Niveau 3 : Entièrement autonome — l’agent agit, les humains révisent après coup

À l'intérieur de ces paliers, les risques doivent également être évalués en ce qui concerne l'exposition réglementaire, la sensibilité des données et la réversibilité de l'action.

Étape 3 : Créer un organigramme pour la reddition de comptes

La troisième étape consiste à créer un organigramme pour la responsabilisation agentique. Chaque agent autonome doit avoir un propriétaire humain, un champ d'application défini et une piste d'audit — tout comme un employé. À mesure que les agents se multiplient dans les TI, les finances, la chaîne d'approvisionnement et le service à la clientèle, l'absence de cette carte de reddition de comptes engendre un risque croissant. Le DSI et le chef de la direction technologique doivent concevoir ce cadre avant qu'une prolifération incontrôlée ne crée une dette de reddition de comptes.

Les tactiques pour assurer et gérer la reddition de comptes et implanter les contrôles doivent être intégrées dans le harnais de création des agents ainsi que dans le plan de contrôle permettant de les exploiter et les gouverner.

Un tel plan de contrôle devrait inclure des capacités pour :

• Gestion du cycle de vie
• Partage de contexte
• Authentification
• Observabilité
• Interrupteurs d'arrêt

La capacité de préciser exactement ce que les agents peuvent ou ne peuvent pas faire et d’être averti lorsque quelque chose ne va pas distingue les entreprises qui évoluent en toute sécurité de celles qui génèrent le chaos.

Idéalement, la productivité de l’IA en ce qui concerne le développement d’agents devrait aboutir à une empreinte d’automatisation beaucoup plus importante au sein de l’entreprise. De nouveaux rôles seront nécessaires pour gérer les opérations de cette empreinte, notamment : formateurs d’agents, vérificateurs de l’autonomie, architectes de flux de travail et spécialistes en éthique de l’IA intégrés. Le défi en matière de leadership n’est pas seulement de requalifier la main-d’œuvre pour ces tâches opérationnelles, mais aussi de définir ce que signifie « travailler aux côtés d’agents » à l’échelle organisationnelle.

Étape 4 : Éliminer de façon proactive les goulots d’étranglement au développement agentique

La quatrième étape consiste à reconnaître que peu d’entreprises sont prêtes à aller à grande vitesse en ce qui concerne le développement agentique en raison de goulots d’étranglement liés à l’accès aux infrastructures héritées et à la préparation des données à utiliser par les LLMS.

Plus de 38 % des projets d’IA agentique sont bloqués par des infrastructures héritées. Contrairement aux humains, les agents ne peuvent pas « contourner » des API brisées ou des données fragmentées — ils exposent et amplifient toute dette technique différée. Le service des technologies peut accélérer l’élimination des goulots d’étranglement en se concentrant sur l’amélioration :

• Flux de données et gestion des données.
• La capacité des systèmes d'identité/authentification à fonctionner avec des agents.
• Amélioration de la sécurité, du contrôle et de l’évolutivité de la couche API.

Éviter une catastrophe agentique

Laisser simplement le développement agentique se dérouler sans contrôle mènera à une catastrophe lorsque des agents non gouvernés gaspillent de l’argent ou prennent de mauvaises décisions qui entraînent des problèmes réglementaires ou bien d’autres types de désordres.

Mais la bonne culture en matière de tolérance au risque et de contrôles variera grandement selon la nature de l’entreprise. La direction doit clarifier les compromis afin que chacun comprenne la différence entre un agent qui est de façon responsable autonome et un agent qui l’est de façon irresponsable.

Les prédictions de catastrophe agentique sont faciles à trouver. Gartner avertit que plus de 40 % des initiatives d’IA agentique seront abandonnées d’ici 2027 en raison d’une gouvernance faible et d’un rendement non défini.

Ceux qui adoptent avec détermination l’imputabilité et tout ce qu’elle requiert seront ceux qui passeront à l’échelle.

Sources de données :

• Le mandat indiquait que ces données provenaient de ce rapport : https://www.outsystems.com/1/state-ai-development
• 97 % des entreprises explorent l’IA agentique, mais seulement 12 % utilisent une plateforme centralisée pour le contrôle — rapport OutSystems 2026 sur l’état du développement de l’IA (1 879 dirigeants TI sondés)
• 38 % des projets d’IA agentique sont en attente en raison des systèmes patrimoniaux comme principal obstacle — OutSystems 2026
• Gartner prévoit que 40 % des logiciels d’entreprise incluront des agents d’IA spécifiques à des tâches d’ici la fin de 2026