L’AI responsable fonctionne mieux lorsqu’elle est conçue dès le départ, et non rajoutée après coup.

L’AI responsable peut devenir un obstacle lorsqu’elle est appliquée trop tard, alors que les organisations qui intègrent la gouvernance dans la conception et les opérations dès le départ sont mieux placées pour développer l’AI en toute confiance.
S'abonner
5 min de lecture
Nicholas Ismail
Nicholas Ismail
Chef mondial du journalisme de marque, HCLTech
5 min de lecture
microphone microphone Listen à article
30s Backward
0:00 0:00
30s Forward
L’AI responsable fonctionne mieux lorsqu’elle est intégrée dès la conception, et non ajoutée par la suite.

Le rapport de recherche 2026 sur l’IA en entreprise récemment publié par HCLTech, , soutient que l’IA est désormais répandue dans l’entreprise, mais que son impact ne suit pas toujours le rythme de l’adoption. Une des raisons les plus claires est la gouvernance. Le rapport révèle que 76 % affirment que des préoccupations liées à l’AI responsable ont déjà retardé des déploiements, tandis que 89 % estiment que les équipes des opérations ont besoin de garde-fous plus solides autour des outils d’IA. Ces chiffres suggèrent que le problème n’est plus de savoir si les organisations se soucient de l’AI responsable, mais si elles l’intègrent assez tôt à l’IA d’entreprise pour permettre le passage à l’échelle.

Dans une récente entrevue au sujet des conclusions du rapport, Heather Domin, vice-présidente et responsable du bureau de l’AI responsable et de la gouvernance chez HCLTech, a soutenu que l’AI responsable fonctionne mieux lorsqu’elle est conçue en amont plutôt que superposée ultérieurement. Ce point de vue met en lumière un changement plus large du modèle d’exploitation : la gouvernance est plus efficace lorsqu’elle fait partie de l’architecture, des flux de travail et de la gestion du cycle de vie dès le premier jour, et non simplement à l’étape finale, une fois que les modèles sont prêts à être mis en production.

Pourquoi la gouvernance arrive-t-elle encore trop tard ?

La gouvernance arrive souvent trop tard parce que les initiatives en IA débutent dans des silos, la pression de livraison priorise la rapidité au détriment de la conception des contrôles et la gouvernance est encore traitée comme une étape manuelle plutôt que comme une partie intégrante du système.

« Ils font cela essentiellement à la fin, au lieu de le faire lors de la phase de conception », a déclaré Domin. C’est à ce moment que la gouvernance cesse de favoriser le passage à l’échelle pour plutôt générer du travail supplémentaire et des frictions.

Domin a cité une étude de cas dans le secteur manufacturier mentionnée dans le , où des lacunes en gouvernance avaient déjà ralenti le déploiement. La solution n’était pas simplement d’ajouter plus de revues, mais d’introduire une approche basée sur le risque pour la gestion continue et d’intégrer la gouvernance dès le début.

Elle a aussi souligné que certains aspects peuvent être automatisés. « Tout ne doit pas nécessairement être manuel, certaines choses peuvent réellement se produire à l’exécution. »

C’est un point important pour le leadership. La gouvernance arrive souvent tardivement parce que les organisations présument encore qu’elle doit être ajoutée après coup par le biais de processus, alors qu’en réalité, une partie peut être conçue directement dans les systèmes et les opérations.

« Lorsque vous l’introduisez tard, cela peut ajouter des frictions », a dit Domin. Par contre, « une gouvernance précoce permet vraiment d’éliminer ce blocage » et « accélère les choses ». Il est donc préférable de dire que la gouvernance ne ralentit pas l’IA : c’est l’arrivée tardive de la gouvernance qui le fait.

La sécurité et l’AI responsable font face au même défi d’évolution à l’échelle

La recherche met aussi en lumière la sécurité comme principale barrière technique, et selon Domin, la sécurité et l’AI responsable ne devraient pas être traitées comme des filières séparées. « Elles sont très liées », a-t-elle dit. « Un des éléments fondamentaux d’un système déployé de façon responsable est qu’il intègre la sécurité. »

C’est une perspective utile pour penser l’évolution à l’échelle dans l’entreprise. En pratique, les échecs de sécurité et ceux de l’AI responsable apparaissent souvent aux mêmes endroits : contrôles faibles, traçabilité insuffisante, gestion des risques inadéquate et confiance limitée dans les environnements en production.

« Si vous ne tenez pas compte de la sécurité, vous ne pouvez pas prétendre déployer de façon responsable », a indiqué Domin.

Elle a également noté que la sécurité est devenue centrale, puisque les capacités les plus récentes de l’IA amènent de nouvelles préoccupations, même si l’IA elle-même peut aider à renforcer les contrôles en identifiant les vulnérabilités et en soutenant la remédiation.

Elle a utilisé un exemple bancaire afin d’illustrer la convergence dans la pratique, décrivant une banque européenne où « cet aspect de sécurité et de responsabilité était une préoccupation centrale ». Dans ce cas, un renforcement de la gouvernance et des contrôles techniques ne s’est pas fait au détriment de la rapidité. Au contraire, l’organisation a constaté « une amélioration de la rapidité de traitement des demandes entrantes », selon Domin. Le point plus large : la sécurité et l’AI responsable ne sont pas des compromis. Conçues ensemble, elles favorisent à la fois la confiance et la performance.

La confiance devient reproductible si elle est intégrée dans la conception

Un schéma similaire se retrouve autour de l’explicabilité, l’auditabilité et la responsabilisation. Une fois ces critères intégrés dans la conception, ils cessent d’être des exercices manuels et deviennent des comportements systémiques.

« Cela permet beaucoup de l’automatisation possible », a indiqué Domin, car les contrôles sont déjà inclus dans la façon dont le système est construit et dont les flux de travail fonctionnent.

Elle a cité une institution financière où HCLTech a aidé à bâtir « une bibliothèque de messages-tests, comme une bibliothèque de prompts », et « plus de 150 prompts originaux, conformes et sûrs » conçus pour se protéger contre les enjeux d’équité, de transparence et de sécurité. Le résultat, dit-elle, « a réellement amélioré la fiabilité et la pertinence des résultats d’IA ».

C’est un exemple utile, car il fait passer la discussion sur la gouvernance du principe abstrait à la reproductibilité. Quand les garde-fous sont conçus dans les prompts, les workflows et les comportements en temps réel, la confiance devient plus facile à appliquer de façon constante. Cela ne dépend plus d’un effort de révision exceptionnel à chaque utilisation d’un modèle.

Les garde-fous sont un indicateur de maturité

Le constat du rapport à l’effet que 89 % des équipes des opérations ont besoin de garde-fous plus solides autour des outils d’IA suggère que plusieurs organisations assument encore le défi du passage à l’échelle de façon manuelle. Selon Domin, il s’agit moins de résistance à l’IA que d’un déficit de maturité dans la gouvernance. « Il y a un écart », souligne-t-elle, ajoutant qu’« il existe un fardeau important sur les équipes des opérations pour faire évoluer l’IA avec des contrôles constants. »

Elle a aussi précisé qu’il ne faut pas considérer cela comme une condition permanente. « Ce déficit de maturité est potentiellement temporaire », dit-elle, si les organisations prennent les bonnes mesures pour repenser les processus et renforcer les contrôles au fil du temps. Cela fait des garde-fous un indicateur important de maturité. Ils ne prouvent pas que l’organisation progresse trop lentement. Ils témoignent du fait qu’elle est prête pour l’entreprise.

La gouvernance devient un atout quand elle est opérationnelle

De nombreuses organisations perçoivent peut-être encore la gouvernance comme un frein à l’innovation, mais il s’agit d’une mauvaise perception. L’enjeu plus profond concerne la culture, la maturité et le design opérationnel.

La gouvernance paraît un frein lorsqu’elle est manuelle, fragmentée et incohérente. Elle devient un atout quand elle est opérationnelle.

Domin a cité comme exemple solide le travail de HCLTech avec une . Cette banque éprouvait des difficultés avec « des workflows de gouvernance manuels » et des cycles d’approbation prolongés. HCLTech a aidé à définir « les droits de décision, les instances de gouvernance et les points de contrôle du cycle de vie auprès des divers intervenants, tels que les équipes affaires, les équipes de risques ainsi que les fonctions TI et données. »  

Le résultat a été une approche plus structurée et évolutive, aidant le client à avoir une vue consolidée de « plus de 275 cas d’utilisation de l’IA en entreprise », alignés à la fois sur les priorités d’affaires et les attentes réglementaires. La leçon générale : la gouvernance permet l’évolution à l’échelle lorsqu’elle est intégrée au modèle d’exploitation, pas ajoutée par-dessus.

Domin s’est montrée optimiste pour l’avenir. Bien qu’elle affirme qu’il n’est « pas surprenant » que de nombreuses organisations aient encore des défis de maturité, elle est convaincue que « nombre d’entre elles prennent les bonnes mesures » et que les prochaines années devraient amener « un bien plus grand degré de maturité et une expérience différente ». Ce qui sous-tend cet optimisme, ce n’est pas seulement la mise en place de programmes de formation et d’implantation plus robustes dans de nombreuses organisations, mais aussi le fait que plus de capacités sont désormais intégrées directement aux outils et plateformes. Il s’agit là d’un signal encourageant d’un véritable changement de l’industrie vers une AI responsable intégrée dès la conception, plutôt qu’ajoutée a posteriori.

Partager
IA AI et GenAI Article L’AI responsable fonctionne mieux lorsqu’elle est conçue dès le départ, et non rajoutée après coup.