L’IA agentique s’impose comme une technologie déterminante pour les secteurs critiques. Elle introduit des systèmes capables de raisonner, d’apprendre et d’agir de manière autonome pour renforcer la prise de décision et la résilience. Pour les organismes gouvernementaux ainsi que pour l’industrie aérospatiale et de la défense, cette évolution représente à la fois une opportunité et une responsabilité.

Dans cet article issu d’une discussion informelle à laquelle j’ai participé au pavillon de HCLTech lors du Forum économique mondial 2026, je partage mon point de vue sur la façon dont les dirigeants peuvent sécuriser l’IA agentique avec un objectif, de la confiance et de la responsabilité, en s’appuyant sur les développements des normes mondiales, des règlements et des pratiques de sécurité, comme le cadre NIST de gestion des risques liés à l’IA et l’AI Act de l’UE.

Définir l’IA agentique et l’urgence d’agir

L’IA agentique est un système intelligent capable d’agir, d’apprendre des résultats et de collaborer avec d’autres systèmes ou agents dans la poursuite d’un objectif. Elle représente une évolution par rapport à l’IA prédictive ou assistée IA, vers une prise de décision autonome, où les systèmes ne se contentent plus de recommander des options mais les exécutent.

Dans le secteur public et dans l’aérospatiale et la défense, les implications sont profondes. Ces environnements reposent sur des décisions rapides, précises et sécuritaires. Qu’il s’agisse de coordonner la logistique, de gérer la maintenance ou de soutenir des missions complexes, l’IA agentique peut améliorer la performance et la résilience en accélérant la production d’informations, en réduisant la latence entre la détection et l’action, et en soutenant les opérations dans des environnements exigeants ou contestés.

Cependant, à mesure que l’autonomie progresse, l’exposition augmente aussi. Lorsqu’un système intelligent agit de façon indépendante, ses décisions ont un poids sur les résultats de mission, la confiance du public et les normes internationales. Sécuriser ces systèmes dès la conception est essentiel pour préserver la sécurité, la transparence et la légitimité. Cette exigence se retrouve dans les lignes directrices émergentes telles que le cadre de gestion des risques liés à l’IA du NIST, qui met l’accent sur une IA fiable et responsable dans tous les secteurs, ainsi que dans les travaux croissants sur la sécurité et la gouvernance de l’IA agentique dans des groupes comme OWASP.

Défis liés à la sécurité et à la gouvernance

Le premier défi est l’identité. Lorsque les systèmes autonomes exécutent des actions, ils deviennent en pratique des entités non humaines dotées de droits d’accès et d’identifiants. La gestion rigoureuse de ces identités est aussi critique que pour les utilisateurs humains, surtout que le nombre d’identités machines et d’agents dépasse maintenant largement le nombre de personnes dans bien des organisations. Les tendances du secteur démontrent déjà que les identités machines constituent un vecteur d’attaque en forte croissance, nécessitant une gestion du cycle de vie renforcée et des contrôles de moindre privilège.

Le deuxième défi est la gouvernance. Les systèmes agents peuvent apprendre, s’adapter et utiliser des outils externes. La surveillance doit être continue et non périodique. Chaque action doit être traçable, vérifiable et explicable. Cela s’aligne sur les pratiques de gestion des risques liés à l’IA qui exigent un suivi continu, une documentation et des lignes claires de responsabilité tout au long du cycle de vie de l’IA.

Le troisième défi est l’élargissement de la surface d’attaque. Dans la défense, les agents peuvent opérer dans des environnements opérationnels et infonuagiques, des dispositifs périphériques aux systèmes de commandement. Dans le secteur public, ils peuvent traiter des données citoyennes sensibles et des systèmes interagences. Les deux secteurs requièrent des modèles de gouvernance adaptative, axés sur l’anticipation plutôt que la réaction aux risques. Les recherches récentes sur la sécurité agentique mettent en évidence des menaces comme le détournement d’outils, l’injection de requêtes, l’exfiltration de données et les processus “hors de contrôle” quand les agents travaillent à grande échelle.

Repenser le modèle “Zero Trust” pour l’IA agentique

Le Zero Trust a toujours reposé sur la vérification. À l’ère de l’IA agentique, ce principe doit s’étendre des entités et utilisateurs statiques aux comportements dynamiques. Chaque interaction, décision et transaction effectuée par un agent doit être validée en temps réel en fonction des politiques, du contexte et de l’intention.

Cela exige un contrôle granulaire des accès de l’agent, une vérification contextuelle de ses actions et une surveillance continue de son comportement. Dans les secteurs public et de l’aérospatiale & défense, la confiance est dynamique par nature. Elle doit se gagner à chaque action, et non être présumée en fonction du statut ou de l’origine.

Les lignes directrices du NIST sur l’architecture Zero Trust décrivent un basculement d’une sécurité périmétrique vers une protection axée sur les utilisateurs, les actifs et les ressources. L’IA agentique va plus loin : il faut des modèles Zero Trust qui traitent les agents comme des acteurs actifs et adaptatifs dont les permissions, sessions et usages d’outils sont évalués en continu. Cela inclut la vérification de l’identité de l’agent, de ses actions, des lieux et motifs, et la capacité de bloquer, isoler ou restreindre un agent lorsque son comportement s’écarte des politiques.

Premières étapes concrètes pour sécuriser l’IA agentique

La première étape est la visibilité. Les organisations doivent comprendre où il y a de l’autonomie aujourd’hui et où elle est prévue. Cela signifie repérer les données, systèmes et fonctions touchés par les agents, de façon formelle ou informelle, et cartographier les processus décisionnels où les agents exercent déjà une influence ou prennent des décisions.

La deuxième étape consiste à instaurer la gouvernance tôt. Avant de généraliser l’IA agentique, il est crucial de définir qui fixe les objectifs des agents, qui approuve leurs actions et qui gère les exceptions. Cela passe par la clarification des rôles et responsabilités parmi les responsables de mission, les développeurs IA, les équipes sécurité et les fonctions de conformité, conformément aux attentes émergentes sur la gouvernance et la réglementation de l’IA.

La troisième étape est de commencer par des projets pilotes contrôlés qui apportent de la valeur tout en permettant d’expérimenter les cadres de supervision. Pensons à la maintenance prédictive ou au traitement documentaire : des cas d’utilisation à fort impact mais à risque opérationnel limité. Ces pilotes doivent non seulement démontrer la capacité technique, mais aussi tester les capacités de journalisation, de surveillance, de révision humaine et de mécanismes de sauvegarde.

Enfin, les organisations doivent investir dans la culture. Les équipes sécurité, exploitation et IA doivent collaborer. Sécuriser l’IA agentique relève autant de la coordination et de la responsabilité partagée que de la technologie. Les expériences tirées des premiers déploiements de l’IA dans les services publics et la défense démontrent déjà que la gouvernance interdisciplinaire, la communication transparente des risques et la formation sont essentielles pour concilier innovation et sécurité.

Mesurer la maturité et les progrès

La maturité de la sécurisation de l’IA agentique repose sur le contrôle et l’apprentissage. Les organisations devraient suivre la rapidité avec laquelle elles détectent et corrigent les dérives de comportement d’un agent, la rigueur de la journalisation et de la révision des actions, et l’efficacité à limiter l’impact lorsqu’un agent agit au-delà de ses politiques.

Cela suggère des indicateurs conjuguant opérations de sécurité et gouvernance IA : délai de détection d’activités anormales d’agent, proportion d’actions à risques élevés soumises à révision, fréquence des violations de politiques et délais de rétablissement lors des interventions.

Au-delà des métriques, la réussite se mesure à la résilience. Les systèmes doivent pouvoir expliquer, contenir et corriger leurs propres comportements sans compromettre les résultats de mission ou la confiance du public. Ce principe se retrouve dans la réglementation IA telle que l’AI Act de l’UE, qui impose des obligations de transparence, de supervision humaine, de gestion des risques et de suivi post-déploiement pour les systèmes à haut risque, y compris dans de nombreuses applications des secteurs publics et infrastructures critiques.

Considérations sectorielles spécifiques

Dans le secteur public, la responsabilité et la transparence sont cruciales. Les agents qui prennent ou influencent des décisions doivent être explicables et conformes aux normes réglementaires, surtout s’ils ont un impact sur l’accès aux services publics, aux prestations, à l’application de la loi ou aux droits fondamentaux. L’AI Act de l’UE classe de nombreux usages publics comme « à haut risque », impliquant des obligations renforcées de documentation, de supervision et de contrôle humain. L’infrastructure héritée et les structures de gouvernance variées entre agences ajoutent de la complexité, mais le potentiel de gains d’efficacité et de réactivité est important si ces systèmes sont déployés avec de solides garde-fous.

Dans l’aérospatiale et la défense, l’assurance et la certification sont primordiales. Les systèmes fonctionnent dans des environnements à haut risque où la fiabilité est incontournable. L’IA agentique peut renforcer l’état de préparation, la logistique et la réponse aux menaces, mais chaque action doit être prévisible et vérifiable au sein de cadres de sécurité, d’éthique et de droit établis. Les communautés de la défense dans le monde précisent déjà des principes d’IA responsable et élaborent des feuilles de route pour garantir que l’autonomie concorde avec les valeurs de mission et les normes internationales.

Dans les deux secteurs, l’autonomie doit être contrebalancée par la supervision. Contrôle et responsabilité doivent évoluer ensemble, pour garantir que, à mesure que les agents gagnent en capacité, les organisations gardent le pouvoir de surveiller, de guider et, au besoin, de reprendre la main sur leurs actions.

Intégrer la gouvernance à l’autonomie

À l’avenir, je vois trois transformations majeures. La première : la gouvernance fera partie de la conception. Des garde-fous seront intégrés dès l’origine dans les systèmes intelligents, pour que l’explicabilité, la journalisation, l’application de politiques et la reprise manuelle soient des caractéristiques intrinsèques de l’architecture des agents, et non des ajouts.

La deuxième transformation : l’essor d’écosystèmes d’agents connectés. Les agents collaboreront entre organisations et domaines, ce qui exigera des standards d’interopérabilité et des cadres de confiance partagés. Les initiatives réglementaires et les codes de pratique volontaires autour de l’IA orientent déjà vers un futur de coopération transfrontalière et intersectorielle autour de la confiance et de la sécurité.

La troisième transformation : la croissance accélérée des identités non humaines. Gérer et sécuriser ces acteurs numériques deviendra une compétence centrale pour chaque organisation, au même titre que la gestion des utilisateurs humains et de l’infrastructure traditionnelle.

Mon conseil : intégrez la sécurité et la confiance à l’architecture de l’autonomie. Ne les traitez pas en second plan. L’IA agentique doit être conçue pour bonifier le jugement humain, et non le remplacer. Ce principe guidera à la fois l’innovation et la responsabilité.

Sécuriser l’IA agentique, c’est bâtir des systèmes qui agissent avec intégrité, transparence et objectif. Pour le secteur public et l’industrie aérospatiale et de la défense, le défi est de taille ; mais l’opportunité l’est plus encore. En s’appuyant sur la confiance et la résilience, ces secteurs peuvent ouvrir la voie à une utilisation des systèmes intelligents au service de l’humain, dans le respect de l’assurance et de la responsabilité.