L’IA responsable fonctionne mieux lorsqu’elle est intégrée dès la conception, et non ajoutée après coup

L’IA responsable peut devenir un obstacle lorsqu’elle est appliquée trop tard, tandis que les organisations qui intègrent la gouvernance dès la conception et les opérations dès le début sont mieux placées pour adopter l’IA à grande échelle en toute confiance
S'abonner
5 min de lecture
Nicholas Ismail
Nicholas Ismail
Global Head of Brand Journalism, HCLTech
5 min de lecture
microphone microphone Listen à article
30s Backward
0:00 0:00
30s Forward
L’IA responsable fonctionne mieux lorsqu’elle est conçue dès le départ et non ajoutée après coup

Le rapport de recherche sur l’IA en entreprise 2026 récemment publié par HCLTech, , soutient que l’IA est désormais largement répandue dans les entreprises, mais que l’impact n’a pas encore rattrapé l’adoption. L’une des raisons les plus évidentes est la gouvernance. Le rapport révèle que 76 % affirment que les préoccupations liées à une IA responsable ont déjà retardé les déploiements, tandis que 89 % estiment que les équipes opérationnelles ont besoin de garde-fous plus robustes autour des outils d’IA. Ces chiffres suggèrent que la question n’est plus de savoir si les organisations se soucient de l’IA responsable. La question est plutôt de savoir s’ils l’intègrent assez tôt dans l’IA en entreprise pour permettre un passage à l’échelle.

Dans une récente entrevue sur les résultats du rapport, Heather Domin, vice-présidente et responsable du Bureau de l’IA responsable et de la gouvernance chez HCLTech, a démontré que l’IA responsable fonctionne mieux lorsqu’elle est conçue dès le départ, plutôt qu’ajoutée par la suite. Ce point de vue met en lumière un changement du modèle opérationnel : la gouvernance est la plus efficace lorsqu’elle fait partie de l’architecture, des flux de travail et de la gestion du cycle de vie dès le premier jour, et non seulement comme point de contrôle final une fois que les modèles sont prêts à être mis en production.

Pourquoi la gouvernance arrive-t-elle toujours trop tard

La gouvernance intervient souvent trop tard parce que les initiatives en IA commencent en vase clos, la pression liée à la livraison privilégie la rapidité à la conception des contrôles, et la gouvernance est encore perçue comme un point de vérification manuel plutôt que comme une composante du système lui-même.

« Ils font cela essentiellement à la fin au lieu de le faire pendant la phase de conception », a expliqué Domin. C’est alors que la gouvernance passe d’un levier d’échelle à un facteur de reprise et de friction.

Domin a cité une étude de cas manufacturière dans le où les lacunes en matière de gouvernance avaient déjà ralenti le déploiement. La solution n’était pas simplement d’ajouter plus de révisions, mais d’introduire une approche axée sur les risques pour une gestion continue et d’intégrer la gouvernance dès le départ.

Elle a également souligné qu’une partie de tout cela peut être automatisée. « Tout n’a pas à être manuel, une partie peut effectivement se faire à l’exécution. »

C’est un point important pour le leadership. La gouvernance arrive souvent trop tard parce que les organisations tiennent encore pour acquis qu’elle doit être ajoutée après coup via les processus, alors qu’en réalité, certaines de ses composantes peuvent être intégrées directement aux systèmes et aux opérations.

« L’introduire tardivement peut ajouter de la friction », a mentionné Domin. À l’inverse, « une gouvernance en amont aide vraiment à lever ce frein » et « accélère les choses. » Donc, il est préférable de cadrer le débat non pas sur l’idée que la gouvernance ralentit l’IA, mais bien que c’est la gouvernance tardive qui le fait.

La sécurité et l’IA responsable font face au même enjeu d’échelle

La recherche met aussi en lumière la sécurité comme un des principaux obstacles techniques, et Domin estime que la sécurité et l’IA responsable ne devraient pas être considérées comme des volets distincts. « Elles sont très liées », dit-elle. « Un des éléments clés d’un système déployé de façon responsable, c’est qu’il intègre la sécurité dès le départ. »

C’est une façon utile de penser l’échelle en entreprise. En pratique, les manquements en sécurité et en IA responsable apparaissent souvent au même endroit : contrôles faibles, faible traçabilité, risque mal géré et confiance limitée dans les environnements opérationnels.

« Si on ne s’occupe pas de la sécurité, on ne peut pas prétendre déployer de façon responsable », a souligné Domin.

Elle précise également que la sécurité est devenue plus centrale à mesure que de nouvelles capacités de l’IA génèrent de nouvelles préoccupations, même si l’IA elle-même peut contribuer à renforcer les contrôles en identifiant les vulnérabilités et en appuyant la correction.

Elle a utilisé un exemple bancaire pour illustrer la convergence dans la pratique, décrivant une banque européenne où « cet aspect de sécurité et de responsabilité était une préoccupation clé. » Dans ce cas, une gouvernance et un contrôle technique renforcés ne se sont pas faits au détriment de la rapidité. Au contraire, l’organisation a vu « une amélioration de la rapidité de traitement des demandes », selon Domin. La leçon plus large est que sécurité et IA responsable ne sont pas des compromis. Lorsqu’elles sont conçues conjointement, elles favorisent à la fois la confiance et la performance.

La confiance devient réplicable lorsqu’elle est intégrée à la conception

Un modèle similaire se retrouve autour de l’explicabilité, de l’auditabilité et de la responsabilisation. Une fois intégrés à la conception, ces éléments cessent d’être des exercices manuels pour devenir des comportements du système.

« Cela permet d’automatiser beaucoup de choses possibles », note Domin, parce que les contrôles font déjà partie de la manière dont le système est construit et des modes de fonctionnement des processus.

Elle a mentionné un établissement financier où HCLTech a aidé à bâtir « un ensemble testé de requêtes, comme une bibliothèque de requêtes », et « plus de 150 requêtes originales conformes et sécuritaires » conçues pour se prémunir contre les enjeux d’équité, de transparence et de sécurité. « Cela a vraiment amélioré la fiabilité et la pertinence des résultats de l’IA », selon elle.

C’est un exemple pertinent, car il déplace la discussion sur la gouvernance du principe abstrait vers la reproductibilité. Lorsque les garde-fous sont conçus dans les requêtes, les flux de travail et les comportements en temps réel, instaurer la confiance devient alors plus facile et cohérent. On ne dépend plus d’un effort d’examen exceptionnel chaque fois qu’on utilise un modèle.

Les garde-fous sont un signal de maturité

Le constat du rapport selon lequel 89 % des équipes opérationnelles ont besoin de garde-fous plus robustes autour des outils d’IA suggère que de nombreuses organisations portent encore manuellement le fardeau du passage à l’échelle. Pour Domin, il s’agit moins d’une résistance à l’IA que d’un manque de maturité en gouvernance. « Il existe un écart », affirme-t-elle, ajoutant qu’il y a « un fardeau important sur les équipes opérationnelles pour déployer l’IA avec des contrôles cohérents. »

Elle a également précisé que cette situation ne devrait pas être permanente. « Cet écart de maturité est potentiellement temporaire », dit-elle, si les organisations prennent les bonnes mesures pour repenser les processus et permettre des contrôles plus efficaces au fil du temps. Ce qui fait des garde-fous une preuve de maturité. Ils n’indiquent pas qu’une organisation avance trop lentement. Ils montrent qu’elle se prépare à l’échelle de l’entreprise.

La gouvernance devient un catalyseur quand elle s’opérationnalise

De nombreuses organisations perçoivent encore la gouvernance comme un frein à l’innovation, mais c’est une mauvaise interprétation. Le véritable enjeu est la culture, la maturité et la conception opérationnelle.

La gouvernance semble faire obstacle lorsqu’elle est manuelle, fragmentée et incohérente. Elle devient un catalyseur quand elle s’opérationnalise.

Domin a cité l’exemple du travail de HCLTech auprès d’une . La banque avait de la difficulté avec « des flux de travail de gouvernance manuels » et de longs délais d’approbation. HCLTech a aidé à définir « les droits décisionnels, les forums de gouvernance et les points de contrôle du cycle de vie parmi les différentes parties prenantes, comme les équipes d’affaires, l’équipe de gestion des risques, les TI et les fonctions de données. » a aidé à définir « les droits décisionnels, les forums de gouvernance et les points de contrôle du cycle de vie parmi les différentes parties prenantes, comme les équipes d’affaires, l’équipe de gestion des risques, les TI et les fonctions de données. »

Le résultat : une approche plus structurée et évolutive qui a permis au client d’avoir une vue consolidée de « plus de 275 cas d’utilisation d’IA en entreprise » alignés à la fois sur les priorités d’affaires et les attentes réglementaires. La leçon générale est que la gouvernance permet le passage à l’échelle lorsqu’elle est intégrée au modèle opérationnel, et non ajoutée par-dessus.

Domin se montre optimiste pour la suite. Bien qu’elle juge « peu surprenant » que de nombreuses organisations aient encore du mal à atteindre la maturité, elle croit aussi que « beaucoup d’organisations prennent les bonnes mesures » et que les prochaines années devraient apporter « un bien meilleur niveau de maturité et une expérience différente. » Cet optimisme repose non seulement sur le fait d’observer de meilleurs programmes de mise en œuvre et de formation dans nombre d’organisations, mais aussi sur une réalité : de plus en plus de fonctionnalités sont désormais intégrées directement dans les outils et plateformes. C’est un signal encourageant d’un virage positif de l’industrie vers une IA responsable conçue dès le départ, plutôt qu’ajoutée après coup.

Partager
IA IA et GenIA Article L’IA responsable fonctionne mieux lorsqu’elle est intégrée dès la conception, et non ajoutée après coup