À mesure que de plus en plus d’organisations expérimentent et déploient à grande échelle l’intelligence artificielle (IA) et les technologies d’IA générative (GenIA), il devient de plus en plus important de bien gouverner ces systèmes.

Pour approfondir ce sujet, Jatin Arora, vice-président associé, cybersécurité – gouvernance, gestion des risques, conformité et résilience chez HCLTech, a contribué à expliquer les implications et les défis auxquels les organisations font face dans cet environnement en évolution.

Favoriser l’innovation sécuritaire de l’IA : confidentialité, gouvernance et conformité

« Lorsqu’on parle de grands ensembles de données, bien sûr, la toute première considération qu’une organisation doit avoir concerne la confidentialité et la sécurité » a-t-il déclaré.

« Les lois sur la protection des données dictent la façon dont une organisation va fonctionner dans une zone géographique donnée, que ce soit le RGPD de l’UE, la California Consumer Privacy ou les Australian Privacy Principles. Les systèmes d’IA traitent souvent de très grandes quantités de données, dont certaines peuvent aussi être des données personnelles, donc il doit y avoir un mécanisme qui permet aux organisations de s’assurer que les données critiques et sensibles ne sont pas utilisées pour entraîner leurs moteurs, » a ajouté Arora.

Les organisations doivent s’assurer qu’elles n’utilisent pas de données de production, d’informations sensibles ou d’informations sécurisées pour entraîner leurs grands modèles d’apprentissage.

Au-delà de la confidentialité, la gouvernance de la sécurité des données est également cruciale. Les organisations doivent tenir compte de la qualité des données utilisées, du type d’actifs de données utilisées et de qui a accès aux actifs de données servant à entraîner ces modèles d’IA.

Des protocoles de gestion des données appropriés permettent d’assurer que les modèles sont entraînés de façon responsable.

La conformité réglementaire complique encore davantage les choses. « Si une organisation commence à se concentrer sur la GenIA, elle doit se conformer aux lignes directrices réglementaires ou à la législation de la région, » a déclaré Arora, citant des exemples tels que la loi européenne sur l’IA et l’AI Bill of Rights des États-Unis. Les normes réglementaires proposent également des pratiques exemplaires, même si réglementer des technologies qui évoluent rapidement représente un défi.

Un défi majeur est la rapidité de l’innovation en IA qui dépasse celle des organismes de réglementation. « L’IA est partout aujourd’hui — des petites entreprises en démarrage jusqu’aux grandes multinationales, tout le monde crée ces grands modèles d’apprentissage ou adopte ceux déjà disponibles sur le marché, » a indiqué Arora.

Comme la technologie évolue rapidement dans chaque secteur, les règlements doivent suivre le rythme.

Gestion des risques et considérations éthiques

Les considérations éthiques et de gestion des risques s’ajoutent aux casse-têtes réglementaires. Les défis passés, tels que les biais algorithmiques, doivent être évités, mais les organisations doivent également identifier et gérer de nouveaux risques émergents découlant des systèmes d’IA.

« Chaque fois qu’une nouvelle technologie arrive, ou lorsqu’il y a un changement dans la normale, il y a toujours un nouveau risque associé, » a souligné Arora.

Pour surmonter cet obstacle, les organisations doivent être proactives dans l’identification de ces risques. Elles doivent connaître les écosystèmes dans lesquels les modèles d’IA et de GenIA fonctionneront et gérer ces risques de façon appropriée.

« La gestion des risques n’est pas un nouveau domaine. Mais avec la croissance de la technologie, de nouveaux risques émergent. Les organisations doivent être suffisamment bien outillées pour repérer ces nouveaux risques liés à l’adoption de la GenIA, puis se doter d’un mécanisme pour surveiller et corriger ces risques de manière proactive, » a mentionné Arora.

Regard sur un avenir bien gouverné

Le renforcement et l’adaptation des protocoles internes de gouvernance sont essentiels pour les organisations qui adoptent l’IA. « Il faut commencer par l’élaboration de politiques et de procédures concernant la façon dont vous allez construire votre moteur d’IA ou adopter un modèle déjà existant, » a conseillé Arora.

Dans le même temps, les organisations devraient s’attarder à aligner leurs pratiques internes avec les réglementations régionales externes, ce qui contribue à favoriser une innovation sécuritaire.

« Il ne faut pas considérer la sécurité comme un obstacle. Au contraire, la sécurité doit être un catalyseur pour instaurer la confiance dans l’adoption de l’IA au sein d’une organisation, » a déclaré Arora. Aujourd’hui, chaque organisation possède un certain niveau de contrôle en cybersécurité. Cette approche fondée sur le risque devrait aussi étendre la surveillance des risques aux applications d’IA.

Le potentiel de l’IA à augmenter l’expérience humaine permettra aux employés d’être plus innovants dans leurs fonctions. Dans ce contexte, Arora a recommandé aux entreprises de concentrer leurs efforts sur la formation et la sensibilisation concernant la façon dont les gens doivent utiliser de telles applications, la façon d’adopter l’IA dans l’organisation, ainsi que les rôles et responsabilités de chacun.

De façon générale, les possibilités offertes par l’IA sont indissociablement liées aux enjeux de confidentialité, d’éthique, de réglementation, de risques et de gouvernance interne.

« Tout est interrelié, et c’est ce qui relève du champ d’application de la gouvernance, des risques et de la conformité, » a conclu Arora.