Gouverner la main-d'œuvre non humaine

À mesure que les entreprises passent de la gestion de logiciels à la gestion d’agents autonomes, le défi n’est plus de construire des systèmes intelligents, mais d’intégrer la gouvernance dans les opérations du système dès le départ
S'abonner
6 min 20 s de lecture
Mangesh Mulmule
Mangesh Mulmule
VP - Solutions Lead, Google Business Unit, HCLTech
6 min 20 s de lecture
microphone microphone Listen à article
30s Backward
0:00 0:00
30s Forward
Gérer la main-d'œuvre non humaine

L’IA d’entreprise entre dans une nouvelle phase. Au cours des dernières années, l’accent a été mis sur la démonstration de ce que l’ peut faire : générer du contenu, aider les employés, automatiser des tâches individuelles et accélérer la prise de décisions. Cette phase laisse place à quelque chose de plus conséquent. L’IA ne fait plus qu’appuyer le travail. De plus en plus, elle commence à l’exécuter.

Cela change le problème. Le défi n’est plus simplement de concevoir des systèmes intelligents. Il s’agit de gouverner des acteurs non humains capables de prendre des décisions, d’agir et d’interagir avec d’autres systèmes à grande vitesse et à grande échelle.

C’est ici que de nombreuses entreprises commencent à ressentir l’écart entre l’ambition en matière d’IA et le niveau de préparation. Le , révèle que 43 % des grandes initiatives en IA devraient échouer. Le problème vient rarement d’un manque de modèles ou de cas d’utilisation. Plus souvent, les organisations tentent de déployer l’autonomie sans la discipline opérationnelle nécessaire pour la gouverner.

Des outils logiciels aux acteurs autonomes

Pendant des années, les logiciels d’entreprise se comportaient comme des outils. Ils suivaient des instructions, exécutaient des flux de travaux prédéfinis et produisaient des résultats prévisibles. Même l’automatisation avancée demeurait fondamentalement déterministe. L’ commence à aller au-delà de ce modèle.

Un agent du service à la clientèle qui non seulement répond aux demandes, mais accorde des remboursements et met à jour des dossiers change la nature du système. Il en va de même pour un agent d’approvisionnement qui évalue les fournisseurs, compare les conditions et passe des commandes en fonction de l’évolution du marché. Dans ces environnements, l’IA n’aide pas seulement une personne à faire le travail plus rapidement. Elle commence à agir davantage comme un opérateur junior au sein de l’entreprise.

Cette distinction est importante. Les entreprises ne gèrent plus seulement des actifs logiciels. Elles commencent à gérer des systèmes dotés d’une certaine intentionnalité, d’adaptabilité et d’autonomie. Une fois ce stade franchi, l’ingénierie seule ne suffit plus. Ces systèmes nécessitent des limites, de la supervision, de la reddition de comptes et une gestion de la performance.

Le véritable enjeu n’est pas seulement l’autonomie, mais l’interaction

Le défi de la devient plus pressant lorsque les agents d’IA cessent d’opérer en vase clos.

La plupart des cadres de gestion des risques en entreprise ont été conçus pour des systèmes avec des propriétaires identifiés, des comportements prévisibles et des décisions facilement vérifiables. Les environnements agentiques sont différents. Un agent peut interpréter une demande, un autre aller chercher des données internes, un autre déclencher une action et un autre valider le résultat. Ce qui émerge ressemble moins à un seul flux de travail qu’à un écosystème d’agents interactifs.

Cela crée une valeur importante, mais introduit aussi un autre type de complexité. La chaîne de causalité devient plus difficile à retracer. Les défaillances ne résident pas nécessairement dans un seul modèle ou une seule application. Elles peuvent résulter de l’interaction de plusieurs systèmes, chacun fonctionnant comme prévu, mais produisant collectivement un résultat inattendu.

C’est à ce moment que la gouvernance commence à passer de la surveillance d’un modèle à la supervision d’un système. Les organisations doivent comprendre non seulement si un agent isolé est sûr ou efficace, mais comment l’intention, les décisions et les actions circulent dans l’environnement agentique plus large.

Pourquoi la surveillance traditionnelle n’est plus suffisante

Une réponse fréquente est de maintenir l’implication humaine. Cela demeure nécessaire, surtout dans les environnements à risque élevé, mais ce n’est plus suffisant comme principal mode de contrôle.

Les systèmes agentiques fonctionnent à des vitesses et des volumes que les humains ne peuvent superviser directement, transaction par transaction. Dans bien des cas, le contrôle évolue vers un modèle humain-sur-la-boucle ou humain-aux-commandes plutôt qu’humain-dans-la-boucle. Les humains fixent des balises, surveillent les tendances, examinent les exceptions et interviennent au besoin, mais ils n’inspectent plus chaque action individuelle en temps réel.

Cela a des conséquences évidentes. Si les humains ne peuvent pas gouverner chaque décision directement, la gouvernance doit être intégrée au système lui-même. Elle doit être continue plutôt que ponctuelle, intégrée plutôt qu’externe et fonctionnelle plutôt que seulement axée sur la conformité.

C’est aussi là où de nombreuses organisations se heurtent à une friction structurelle. Selon les recherches de HCLTech, 68 % des dirigeants TI estiment que les lignes d’affaires avancent en matière d’IA sans gouvernance, alors que 62 % des chefs d’entreprise se disent frustrés par le rythme de leur équipe TI. Ce constat est éloquent. Les organisations n’ont pas un problème d’innovation en IA, mais un problème de modèle opérationnel.

Gérer une main-d’œuvre non humaine

La meilleure façon d’aborder ce changement est peut-être organisationnelle plutôt que technique. Les entreprises doivent de plus en plus gérer les agents d’IA comme une main-d’œuvre non humaine et moins comme une collection de fonctions logicielles.

Cela ne veut pas dire les anthropomorphiser. Il s’agit de reconnaître que les systèmes autonomes ont besoin d’un processus analogue à l’accueil et formation, l’attribution d’autorisations, la supervision, l’évaluation de la performance et les mécanismes d’escalade. Ils ont besoin de rôles, de balises et d’objectifs clairement définis. Leurs actions doivent être suivies. Leurs échecs doivent être imputables. Leurs interactions doivent être régies.

Cela importe parce que les risques liés aux systèmes agentiques débordent rarement d’une seule fonction. Une erreur de tarification peut entraîner des choix d’approvisionnement en aval. Une recommandation inadéquate peut engendrer un risque de non-conformité. Une couche de récupération mal gouvernée peut causer une fuite de données. Dans les environnements agentiques, le risque se propage rapidement entre les systèmes.

C’est pourquoi la gouvernance ne peut plus être considérée comme une couche ajoutée après le déploiement. Elle doit être intégrée à la logique opérationnelle même du système.

La gouvernance doit devenir opérationnelle

C’est le changement central que les entreprises doivent maintenant effectuer. La gouvernance appliquée à l’IA agentique ne peut plus se limiter à des règles statiques, à des audits périodiques et à une révision a posteriori. Elle doit faire partie des opérations quotidiennes.

En pratique, cela signifie plusieurs choses. Les politiques doivent être traduites en contraintes que la machine peut faire respecter. Le suivi doit s’effectuer en temps réel. Les décisions doivent être traçables. La traçabilité de la donnée, les bornes d’accès et l’historique des actions doivent être visibles avant qu’un régulateur ou un auditeur ne le demande. Les systèmes doivent disposer de mécanismes pour mettre sur pause, rediriger ou désactiver le comportement d’un agent s’il dépasse certains seuils acceptables.

L’objectif n’est pas d’éliminer toute incertitude. Cela serait irréaliste dans tout environnement autonome. Il s’agit de rendre l’autonomie observable, gouvernable et interrompable.

C’est aussi pourquoi la gouvernance devient de plus en plus une question de plateforme autant qu’une question de politiques. Dans des écosystèmes comme , où les organisations créent des systèmes agentiques interagissant avec différents modèles, environnements de données et couches d’orchestration, l’enjeu n’est pas seulement de permettre l’autonomie, mais de la rendre observable, traçable et contrôlable en production. L’exigence stratégique demeure la même sur toutes les plateformes : la gouvernance doit s’exercer à l’exécution, et non seulement lors de la conception.

C’est aussi à ce moment que la discussion sur la gouvernance devient stratégique plutôt que purement défensive. Les entreprises capables d’opérationnaliser la confiance pourront déployer plus d’agents en toute confiance. Celles qui n’y arrivent pas resteront confinées à des projets pilotes locaux, des déploiements restreints ou une exposition croissante aux risques.

La collaboration est maintenant le vrai goulot d’étranglement

Une autre conclusion de la recherche de HCLTech renforce ce point. 40 % des répondants indiquent que la rupture de la collaboration est le principal obstacle à la réussite de l’IA.

Cela fait sens dans le contexte des systèmes agentiques. Aucun groupe ne contrôle la situation dans son ensemble. Les équipes technologiques peuvent concevoir et déployer le système. Les fonctions risques et juridiques définissent les contrôles. Les équipes d’affaires définissent les résultats acceptables. Les équipes de sécurité gèrent l’accès et l’exposition. Si ces groupes continuent à travailler en silo, la gouvernance sera toujours en retard sur le déploiement.

C’est pourquoi la prochaine phase de l’IA d’entreprise dépendra moins de meilleurs outils isolés et plus de modèles opérationnels mieux intégrés et transversaux. Les systèmes agentiques brouillent les frontières entre logiciel, processus, politique et imputabilité. Les entreprises ont besoin de modèles de gouvernance capables d’en faire autant.

Le rôle de HCLTech

C’est dans cette optique qu’il faut comprendre le rôle de HCLTech, en termes de modèle opérationnel plutôt que de produit. La valeur ajoutée ne réside pas simplement dans l’ajout d’une couche de contrôle IA. Elle consiste à aider les organisations à traiter la gouvernance agentique comme une capacité gérée.

Cela veut dire définir les mesures à suivre, les seuils pertinents, la responsabilité de l’intervention et la manière d’unir les indicateurs d’affaires et techniques. Cela signifie aussi créer des mécanismes qui rendent le comportement des agents visible et exploitable en temps réel, plutôt que de se fier à des vérifications rétroactives.

L’ consiste à analyser les flux de travaux existants et à intégrer des solutions agentiques avec humains dans la boucle afin d’augmenter et non remplacer les processus en place. Cette stratégie garantit que les agents d’IA rehaussent l’efficacité opérationnelle tout en maintenant une supervision humaine essentielle. Nous privilégions une approche opérationnelle de la gouvernance. Plutôt que de traiter la gouvernance comme de la documentation, elle est considérée comme une composante mesurable du système en direct, avec la capacité de suivre les déviations et d’intervenir au besoin. L’essentiel est plus important que les outils eux-mêmes : les organisations ont besoin de systèmes de gouvernance qui opèrent à la vitesse des agents qu’elles cherchent à contrôler.

Le nouveau test de la maturité en IA

Le vrai test de la maturité de l’IA en entreprise change. Il ne s’agit plus seulement de savoir si une organisation peut déployer un modèle impressionnant ou automatiser une tâche complexe, mais plutôt si elle peut faire fonctionner des systèmes autonomes avec assez de contrôle, de visibilité et de responsabilité pour s’y fier en contexte réel.

Voilà la nouvelle ligne de démarcation. Comme l’indique la recherche de HCLTech, le risque aujourd’hui ne réside pas uniquement dans le sous-investissement dans les outils d’IA, mais dans le sous-investissement dans les structures de gouvernance nécessaires à l’échelle. D’ailleurs, 83 % des personnes interrogées indiquent que les PDG sous-estiment le risque existentiel d’un sous-investissement en IA. En pratique, ce risque ne touche pas simplement à la capacité, mais à l’état de préparation opérationnel.

Les gagnants dans la prochaine phase ne seront pas simplement les organisations aux agents les plus avancés. Ce seront celles qui sauront gouverner une main-d’œuvre non humaine avant qu’elle ne devienne essentielle à l’entreprise.

Partager
Nuage et écosystème Google Cloud Article Gouverner la main-d'œuvre non humaine