L’IA responsable fonctionne mieux lorsqu’elle est conçue dès le départ et non ajoutée par la suite

L’IA responsable peut devenir un obstacle lorsqu’elle est appliquée trop tard, tandis que les organisations qui intègrent la gouvernance dans la conception et les opérations dès le départ sont mieux placées pour déployer l’IA avec confiance
S'abonner
5 min de lecture
Nicholas Ismail
Nicholas Ismail
Global Head of Brand Journalism, HCLTech
5 min de lecture
microphone microphone Listen à article
30s Backward
0:00 0:00
30s Forward
L’IA responsable fonctionne mieux lorsqu’elle est conçue dès le départ, et non ajoutée par la suite

Le rapport de recherche sur l’IA en entreprise 2026 récemment publié par HCLTech, , soutient que l’IA est désormais répandue dans l’entreprise, mais que son impact accuse encore un retard par rapport à son adoption. L’une des raisons les plus évidentes est la gouvernance. Le rapport révèle que 76 % indiquent que les préoccupations liées à une IA Responsable ont déjà retardé les déploiements, tandis que 89 % affirment que les équipes des opérations ont besoin de garde-fous plus solides autour des outils d’IA. Ces chiffres indiquent que la question n’est plus de savoir si les organisations se soucient de l’IA Responsable. Il s’agit de savoir si elles l’intègrent assez tôt dans l’IA d’entreprise pour permettre la mise à l’échelle.

Dans une récente entrevue sur les conclusions du rapport, Heather Domin, vice-présidente et chef de l’Office de l’IA responsable et de la gouvernance chez HCLTech, a soutenu que l’IA Responsable fonctionne mieux lorsqu’elle est intégrée dès la conception, et non ajoutée après coup. Ce point de vue met en évidence une évolution plus large du modèle opérationnel : la gouvernance est plus efficace lorsqu’elle fait partie de l’architecture, des flux de travail et de la gestion du cycle de vie dès le départ, plutôt qu’un simple point de contrôle final une fois que les modèles sont prêts à être mis en production.

Pourquoi la gouvernance arrive-t-elle encore trop tard

La gouvernance arrive souvent trop tard parce que les initiatives d’IA commencent dans des silos, que la pression de livraison privilégie la rapidité à la conception des contrôles, et que la gouvernance est encore traitée comme un point de contrôle manuel plutôt qu’une composante du système lui-même.

« Elles font cela essentiellement à la fin, plutôt qu’à l’étape de conception », a déclaré Domin. C’est à ce moment que la gouvernance passe d’un facteur de mise à l’échelle à une source de retouches et de friction.

Domin a cité une étude de cas manufacturière dans où les lacunes en matière de gouvernance avaient déjà ralenti le déploiement. La solution n’a pas été simplement d’ajouter plus de vérifications, mais d’introduire une approche basée sur les risques pour la gestion continue et d’intégrer la gouvernance dès le début.

Elle a aussi souligné que certains aspects peuvent être automatisés. « Ce n’est pas tout qui doit forcément être manuel, certains éléments peuvent effectivement se produire à l’exécution. »

C’est un élément de leadership important. La gouvernance arrive souvent tardivement, car les organisations pensent encore qu’il faut l’ajouter au processus après coup, alors qu’en réalité, certaines parties peuvent être directement intégrées dans les systèmes et les opérations.

« Si vous l’introduisez tard, ça peut ajouter de la friction », a dit Domin. Par contraste, « une gouvernance précoce permet vraiment de supprimer ce blocage » et « accélère les choses ». Il vaut donc mieux dire que ce n’est pas la gouvernance qui ralentit l’IA, mais la gouvernance tardive.

La sécurité et l’IA Responsable font face au même défi de mise à l’échelle

La recherche identifie aussi la sécurité comme un obstacle technique majeur et, selon Domin, la sécurité et l’IA Responsable ne devraient pas être considérées comme des volets de travail distincts. « Elles sont très liées », dit-elle. « L’un des éléments clés d’un système déployé de façon responsable, c’est que la sécurité est intégrée dès le départ. »

C’est une perspective utile pour penser à la mise à l’échelle en entreprise. En pratique, les défaillances en matière de sécurité et d’IA Responsable se manifestent souvent aux mêmes endroits : contrôles faibles, mauvaise traçabilité, gestion des risques déficiente et confiance limitée dans les environnements en direct.

« Si vous ne réglez pas la sécurité, vous ne pouvez pas prétendre déployer de façon responsable », dit Domin.

Elle a ajouté que la sécurité est devenue plus centrale à mesure que de nouvelles capacités de l’IA soulèvent de nouveaux enjeux, même si l’IA elle-même peut aider à renforcer les contrôles en identifiant les vulnérabilités et en appuyant la correction.

Elle a donné un exemple bancaire pour illustrer comment cette convergence fonctionne dans la pratique, décrivant une banque européenne où « cette question de sécurité et de responsabilité était une préoccupation centrale ». Dans ce cas, un renforcement de la gouvernance et du contrôle technique ne s’est pas fait au détriment de la rapidité. Au contraire, l’organisation a constaté « une amélioration de la rapidité de traitement des demandes reçues », explique Domin. Le point plus large, c’est que sécurité et IA Responsable ne sont pas des compromis. Lorsqu’elles sont conçues ensemble, elles appuient tant la confiance que la performance.

La confiance devient reproductible lorsqu’elle est intégrée

Une tendance similaire se manifeste autour de l’explicabilité, l’auditabilité et la responsabilisation. Une fois ces éléments intégrés dès la conception, ils cessent d’être des exercices manuels et deviennent des comportements du système.

« Ça permet effectivement beaucoup d’automatisation », dit Domin, puisque les contrôles font déjà partie de la structure même du système et de l’exploitation des flux de travail.

Elle cite le cas d’une institution financière où HCLTech a aidé à construire « un ensemble testé d’incitatifs, comme une bibliothèque d’incitatifs », et « plus de 150 incitatifs originaux, conformes et sécuritaires » visant à se protéger contre les enjeux d’équité, de transparence et de sécurité. Le résultat, dit-elle, a été que « cela a réellement amélioré la fiabilité et la pertinence des résultats de l’IA ».

C’est un exemple pertinent, car il fait passer la discussion sur la gouvernance d’un principe abstrait à la reproductibilité. Quand les garde-fous sont intégrés dans les incitatifs, les flux de travail et les comportements à l’exécution, la confiance devient plus facile à appliquer de façon constante. Cela ne repose plus sur un effort d’examen exceptionnel chaque fois qu’un modèle est utilisé.

Les garde-fous témoignent de la maturité

Le constat du rapport selon lequel 89 % des équipes des opérations ont besoin de garde-fous plus solides autour des outils d’IA indique que de nombreuses organisations supportent encore manuellement le poids de la mise à l’échelle. Selon Domin, il s’agit davantage d’un manque de maturité en matière de gouvernance que d’une résistance à l’IA. « Il y a un écart », dit-elle, ajoutant qu’il existe « un fardeau important sur les équipes opérationnelles pour faire croître l’IA avec des contrôles cohérents ».

Elle a aussi souligné que cet état n’est pas nécessairement permanent. « Cet écart de maturité est potentiellement temporaire », dit-elle, si les organisations prennent les mesures appropriées pour repenser les processus et instaurer des contrôles plus efficaces avec le temps. Cela fait des garde-fous un signal de maturité important. Ils ne prouvent pas qu’une organisation avance trop lentement. Ils démontrent qu’elle devient prête à fonctionner à grande échelle.

La gouvernance devient un facilitateur quand elle est opérationnalisée

Beaucoup d’organisations voient encore la gouvernance comme un frein à l’innovation, mais il s’agit d’une mauvaise perception. Le vrai enjeu est la culture, la maturité et la conception opérationnelle.

La gouvernance est perçue comme un frein quand elle est manuelle, fragmentée et incohérente. Elle devient un facilitateur quand elle est opérationnelle.

Domin a cité le travail de HCLTech avec une  comme un bon exemple. La banque avait de la difficulté avec « des flux de travail de gouvernance manuels » et des cycles d’approbation prolongés. HCLTech a aidé à définir « les droits décisionnels, les forums de gouvernance et les points de contrôle du cycle de vie auprès des différentes parties prenantes, comme les équipes d’affaires, l’équipe des risques, l’informatique et les fonctions de données ».

Le résultat : une approche plus structurée et évolutive, permettant au client d’avoir une vue d’ensemble consolidée sur « plus de 275 cas d’usage de l’IA d’entreprise » alignés tant sur les priorités d’affaires que les attentes réglementaires. La leçon à retenir est que la gouvernance permet la mise à l’échelle quand elle est intégrée au modèle opérationnel, pas lorsqu’on la superpose.

Domin était optimiste quant à la suite. Même si elle dit qu’il n’est « pas surprenant » que de nombreuses organisations aient encore de la difficulté avec la maturité, elle croit également que « beaucoup d’organisations prennent les bonnes mesures » et que les prochaines années devraient apporter « un bien plus grand degré de maturité et une expérience différente ». Ce qui sous-tend cet optimisme, ce n’est pas seulement l’observation de programmes de formation et de mise en œuvre renforcés dans de nombreuses organisations, mais aussi le fait qu’un plus grand nombre de capacités sont maintenant intégrées directement dans les outils et les plateformes. Voilà un signal encourageant d’une réelle évolution de l’industrie, qui passe d’une IA Responsable ajoutée après coup à une IA Responsable intégrée dès la conception.

Partager
IA IA et GenIA Article L’IA responsable fonctionne mieux lorsqu’elle est conçue dès le départ et non ajoutée par la suite