Qu'une organisation soit grande ou petite, il est essentiel d'établir tôt des cadres solides de gouvernance et de responsabilité afin d’assurer l’adoption d’une IA responsable à long terme.

Dans un récent épisode du balado HCLTech Trends and Insights, Heather Domin, responsable de l’IA responsable chez HCLTech, a exploré ce sujet et partagé des perspectives sur les étapes nécessaires pour mettre en œuvre l’IA responsable à grande échelle.

1. Bâtir les fondements organisationnels

Une excellente première étape consiste à créer un organisme de gouvernance de l’IA dédié. Cela pourrait prendre la forme d’un comité d’IA chargé d’évaluer les risques et de prendre des décisions concernant le déploiement et la stratégie de l’IA. « Plusieurs organisations s’en occupent activement et c’est un excellent point de départ », a expliqué Domin. Pour les grandes organisations, la création d’un « Bureau de l’IA responsable » peut officialiser la gouvernance de l’IA, en fournissant des politiques claires et une orientation au fur et à mesure que les initiatives IA prennent de l’envergure.

Une structure claire est cruciale pour aider l’organisation à réfléchir de façon critique aux risques opérationnels associés à l’IA. Par exemple, à mesure que les systèmes d’IA deviennent plus complexes, les dirigeants doivent veiller à ce que les considérations techniques et éthiques appropriées soient prises en compte à chaque étape du développement de l’IA, de la pré-déploiement à la surveillance post-déploiement.

2. Intégrer les parties prenantes et encourager la collaboration

L’implémentation de l’IA responsable est un défi sociotechnique. Contrairement aux systèmes TI traditionnels, l’IA concerne un ensemble élargi de parties prenantes, dont les scientifiques des données, les dirigeants, les comités d’éthique et les utilisateurs finaux.

« Le cycle de vie de l’IA comporte de nombreux acteurs différents, ce qui rend l’implémentation de l’IA différente des autres projets TI », a dit Domin.

L’adoption de l’IA nécessite une collaboration en profondeur entre les services, avec la contribution d’équipes diversifiées à chaque étape. En mobilisant les parties prenantes tôt et régulièrement, les organisations peuvent non seulement répondre aux préoccupations techniques, mais aussi favoriser l’équité, la responsabilité et la transparence dans leurs systèmes d’IA.

« La diversité dans les équipes peut aider à éviter que des enjeux comme le biais ne soient négligés », a ajouté Domin.

La rapidité de déploiement de l’IA aujourd’hui pose également de nouveaux défis. Contrairement au rythme plus lent des systèmes TI traditionnels, où le cycle de développement se mesurait en mois ou en années, de nombreux systèmes d’IA, en particulier l’IA générative (GenAI) et les modèles fondamentaux, sont déployés beaucoup plus rapidement, parfois en quelques semaines seulement.

« Il ne s’agit pas seulement de mettre la technologie en marché rapidement, mais aussi de s’assurer que les parties prenantes soient engagées et formées à utiliser la technologie de façon efficace et responsable », a expliqué Domin.

3. Surveiller et gérer les risques de l’IA : Shadow AI et plus encore

Un aspect critique de l’IA responsable est de s’attaquer aux risques liés à la « shadow AI », lorsque des équipes ou des individus utilisent des outils d’IA sans supervision. Cela peut entraîner des risques de conformité, de sécurité et d’opérations. Pour gérer ces risques, les organisations devraient veiller à ce qu’il y ait une sensibilisation sur les outils d’IA utilisés, où et par qui.

« Il existe de nombreux outils permettant de détecter la shadow AI », a indiqué Domin. « Les organisations peuvent alors intervenir s’il y a un usage inapproprié des données ou des modèles. »

Cette surveillance active ressemble aux pratiques traditionnelles de cybersécurité. Comme pour tout système sensible, les organisations doivent savoir en tout temps ce qui se passe dans leur environnement IA, y compris « où se trouvent vos systèmes IA, quelles données ils consultent et quels modèles sont utilisés ».

Cette approche aide à garantir que les systèmes IA ne sont pas seulement déployés conformément aux lois, mais sont également gérés de façon responsable tout au long de leur cycle de vie.

4. Bâtir la confiance envers l’IA : transparence, réglementation et communication

La confiance est à la base de l’adoption de l’IA. « Les réglementations et normes, comme l’ISO 42001, donnent à tous confiance que des contrôles appropriés sont en place », a affirmé Domin.

Les cadres réglementaires aident à insuffler la confiance dans les systèmes d’IA en offrant des exigences claires et en alignant les pratiques sur les normes de l’industrie. Cependant, la réglementation seule n’est pas suffisante. Une communication claire et la transparence sont essentielles pour bâtir la confiance.

« Former et aider les gens à comprendre les protections mises en place est important », a confirmé Domin.

Lorsque les organisations communiquent clairement les mesures de protection intégrées dans leurs systèmes d’IA, les employés et les utilisateurs sont plus susceptibles d’adopter la technologie et d’y adhérer. Cette transparence aide à atténuer les préoccupations relatives aux enjeux éthiques de l’IA, tels que la vie privée des données et le biais.

Fait intéressant, 58 % des cadres dans un récent livre blanc d’HCLTech en partenariat avec MIT Technology Review Insights, Implémenter l’IA responsable à l’ère de la génération, ont exprimé leur confiance dans les pratiques de confidentialité et sécurité des données dans leurs organisations.

C’est encourageant, selon Domin, étant donné que « la gouvernance de l’IA a cinq à dix ans de retard par rapport à celle de la confidentialité et la sécurité des données aujourd’hui ». Cet écart représente une occasion pour les organisations de mettre en place des cadres solides d’IA responsable tout comme les normes de confidentialité et de sécurité ont évolué au cours des dernières décennies.

5. Approche globale de l’IA responsable chez HCLTech

HCLTech s’engage envers une approche holistique axée sur la valeur en matière d’IA responsable.

« Notre approche est ancrée dans nos valeurs fondamentales d’entreprise », a déclaré Domin. Ces valeurs et nos piliers de l’IA responsable — responsabilité, équité, sécurité, confidentialité et transparence — guident le développement et le déploiement internes de l’IA chez HCLTech de même que ses activités de consultation auprès des clients.

À l’interne, HCLTech a mis sur pied un vaste cadre de gestion des risques liés à l’IA servant de modèle pour la gouvernance de l’IA responsable.

« Nous utilisons ce cadre pour aider nos clients à relever leurs propres défis en matière d’IA », a poursuivi Domin.

Cette démarche permet à HCLTech d’accompagner des clients de divers secteurs dans la gestion des risques liés à l’IA, tout en veillant à ce que leurs déploiements d’IA soient éthiques et conformes aux meilleures pratiques.

L’adhésion récente de HCLTech à l’Institut pour une IA responsable renforce davantage son engagement envers les pratiques d’IA responsable. « Faire partie d’une communauté qui poursuit activement l’excellence en matière d’IA responsable est essentiel pour faire progresser nos pratiques et accompagner nos clients », conclut Domin.

Une approche stratégique et holistique de l’IA responsable

L’implémentation de l’IA responsable n’est pas seulement un défi technologique, c’est aussi un enjeu de leadership et de culture organisationnelle. Comme l’a expliqué Domin, les organisations doivent instaurer des cadres de gouvernance, mobiliser divers acteurs et prendre des mesures actives pour surveiller et gérer les risques liés à l’IA comme la shadow AI. Le rythme actuel de déploiement de l’IA, combiné à la complexité des systèmes IA, exige l’adoption d’une démarche globale et collaborative en matière d’IA responsable.

Par la transparence, l’engagement des parties prenantes et le respect de la réglementation, les organisations peuvent non seulement relever les défis de l’adoption de l’IA, mais aussi bâtir une confiance durable envers les systèmes d’IA.

En intégrant l’IA responsable au cœur de leurs activités, les organisations peuvent veiller à ce que les technologies d’IA soient déployées de manière éthique, durable et pour le bénéfice de tous.