L’intelligence artificielle a continué de croître en termes d’utilisation, les entreprises commençant à définir soigneusement des politiques et des engagements afin d’établir une utilisation sûre, équitable, inclusive et responsable pour le développement et le déploiement de la technologie d’IA.

Cependant, les politiques que ces organisations mettent en place ont tendance à être larges, générales et s’appliquent chaque fois que des systèmes d’IA et des résultats générés par l’IA sont utilisés—qu’ils soient développés en interne ou en externe.

Selon Leo Lin, Directeur principal, Conseil numérique - Stratégie et transformation numériques chez HCLTech, à mesure que les capacités de l’IA évoluent, les politiques d’IA responsables des entreprises doivent suivre ce que la technologie peut ou devrait faire. Les politiques d’IA doivent également être liées aux valeurs de l’entreprise en matière de transparence. Pour réussir, il y a des défis à relever lors de la mise en œuvre de politiques d’IA responsables.

Défis lors de la mise en œuvre de politiques d’IA responsables

L’un des principaux défis lors de la mise en œuvre de politiques d’IA responsables est la clarté de la structure organisationnelle concernant la propriété des politiques ou la personne qui doit les rédiger. De plus, cela dépend aussi de l’entreprise, de sa principale gamme de produits et de la façon dont elle prévoit d’utiliser l’IA.

Un autre défi consiste à veiller à ce qu’il y ait une expertise appropriée pour interpréter les résultats, car une utilisation non informée ou incorrecte des résultats de l’IA pourrait causer des préjudices. De plus, à mesure que les rôles des personnes changent, elles auront besoin de formation pour remplir leurs rôles « in-the-loop » et « over-the-loop », ce qui pourrait exiger la mise en place de différentes structures organisationnelles pour gérer et exploiter la technologie de l’IA.

La gouvernance de l’IA préoccupe les organisations, car elle soulève diverses questions qui doivent être abordées. Les organisations doivent déterminer quelles recommandations ou décisions l’IA devrait être autorisée à prendre, ainsi que quelles décisions sont interdites. Les entreprises devront déterminer si elles doivent bloquer l’accès à GenAI pour certaines fonctions de l’entreprise et quel niveau de supervision humaine est requis dans chaque composant du système d’IA.

Adopter une approche fondée sur les risques pour la supervision de l’IA

Une approche fondée sur les risques pour la supervision de l’IA doit évaluer le risque de l’impact de la technologie de l’IA dans le contexte de cas d’utilisation et d’applications spécifiques. Elle doit tenir compte des avantages d’une application d’IA proposée ou du risque de ne pas poursuivre son développement ou son déploiement.

Lors de l'utilisation d’une approche fondée sur les risques pour la supervision de l’IA, les organisations doivent quantifier ou qualifier la gravité, la réversibilité et la probabilité des préjudices.

« Il faut reconnaître que le risque peut être subjectif », déclare Lin à propos des approches fondées sur les risques. « Il existe des différences dans l’appétit pour le risque et certains risques sont inconnus. Les décisions doivent être bien motivées, pas basées sur « l’intuition » ou prises sur un coup de tête. »

De plus, les organisations doivent décider et élaborer des niveaux appropriés de supervision humaine et d’autres mesures d’atténuation. Le fait de savoir que des lois applicables peuvent exiger des niveaux spécifiques de supervision et d’intervention humaines est essentiel pour une approche fondée sur les risques. Dans de tels cas, les équipes de projet doivent se conformer aux exigences légales.

« Tous les risques ne peuvent pas être atténués et il peut y avoir des risques résiduels », dit Lin. « Les organisations doivent décider si les risques sont acceptables. »

La vulnérabilité de l’IA aux biais

Lin mentionne également que nous devrions soumettre les outils d’intelligence d’affaires IA à la même vérification que celle que nous appliquons à nos médecins, avocats, consultants ou comptables. Nous voulons connaître leur expérience, leurs références et leur parcours. Les organisations devraient adopter le même état d’esprit lors de la mise en œuvre d’une IA responsable.

« Avant de pouvoir exploiter la puissance de l’IA, nous devons comprendre son fonctionnement afin de pouvoir faire confiance à ses résultats », a déclaré Lin. « Quelles sont les limites et les forces de cet outil spécifique? De quel bassin de données sources tire-t-il ses conclusions? Et si le système comporte un biais intégré non intentionnel. »

Bien qu’un processus de gouvernance solide soit une bonne pratique, il est aussi important que tous comprennent les limites de l’IA. Toute solution d’IA est limitée par sa conception et les données sources qu’elle reçoit.

Comment HCLTech aide ses clients à naviguer dans le paysage de l’IA

HCLTech se consacre à aider ses clients à naviguer dans le paysage en évolution de l’IA afin de s’assurer qu’ils sont sur la meilleure voie pour leur organisation. Il existe cinq principales façons dont HCLTech peut aider ses clients, dont :

• Encadrer et guider les clients dans l’élaboration des politiques et des procédures pour une utilisation éthique et responsable de l’IA, y compris une approche fondée sur les risques pour l’utilisation de l’IA.
• Conseiller sur la stratégie informatique et le choix des technologies d’IA telles que l’apprentissage automatique, la modélisation statistique et le traitement du langage naturel.
• Soutenir la gestion du changement organisationnel pour la mise en œuvre de nouvelles politiques, procédures et technologies, ainsi que la conception d’une organisation et d’une structure de gouvernance.
• Assister dans la gestion de projet et la mise en œuvre technique des technologies d’IA.
• Encadrer et guider les clients sur XD/EX/CX lors de l’implantation et l’intégration de l’IA dans leurs fonctions internes et externes: avantages sociaux, centre d’assistance, service à la clientèle, etc.

HCLTech propose également une série de solutions IA qui aident les organisations à identifier des opportunités en IA, élaborer des stratégies et créer des feuilles de route pour la mise en œuvre de solutions d’IA. L’approche consiste à regrouper les offres et capacités en IA et GenAI de HCLTech dans une plateforme de conseil et de prestation complète et entièrement intégrée, conçue pour répondre aux besoins propres à chaque secteur d’activité et maximiser la valeur.