IA a entraîné des progrès sans précédent dans divers secteurs. Cependant, parallèlement à ses avantages, son utilisation potentielle pour la tromperie est devenue une préoccupation majeure.

Récemment, vingt des plus grandes entreprises technologiques mondiales, dont Amazon, Google et Microsoft, ont accepté de s’attaquer à l’utilisation de ce qu’ils appellent l’IA trompeuse lors des élections. Elles ont signé un accord pour déployer des technologies afin de détecter et contrer les contenus trompeurs à destination des électeurs. Mais un expert du secteur affirme que le pacte volontaire « fera peu pour empêcher la publication de contenus nuisibles ».

Selon Leo Lin, directeur principal, Conseils numériques – Stratégie et transformation numériques chez HCLTech, à mesure que les capacités de l’IA évoluent, des politiques responsables en matière d’IA doivent suivre ce que la technologie peut ou devrait faire. Les politiques en matière d’IA devraient également s’aligner sur les valeurs d’entreprise en matière de transparence. Pour réussir, il faut surmonter certains défis lors de la mise en œuvre de politiques d’IA responsable.

L’IA trompeuse en action

L’IA trompeuse englobe un éventail de tactiques et de stratégies visant à tromper ou manipuler les utilisateurs et parties prenantes. Une forme courante de tromperie implique des algorithmes biaisés perpétuant des pratiques discriminatoires. Par exemple, l’outil de recrutement IA d’Amazon privilégiait les candidats masculins aux dépens des candidates féminines, mettant en évidence les biais intrinsèques intégrés à l’algorithme.

En outre, la technologie de deepfake alimentée par l’IA représente un défi considérable, permettant la création de contenus audio et vidéo d’apparence réaliste mais entièrement fabriqués. Gartner prévoit qu’en 2026, les attaques utilisant des deepfakes générés par IA sur les données biométriques faciales feront en sorte que 30 % des entreprises ne considéreront plus ces solutions de vérification d’identité et d’authentification fiables si utilisées seules.

En marketing et publicité, l’influence pernicieuse de la tromperie pilotée par l’IA est manifeste, les marketeurs utilisant des algorithmes IA pour personnaliser certains contenus et cibler des segments spécifiques, brouillant souvent la frontière entre recommandations personnalisées et persuasion manipulatrice. Les capacités de ciblage publicitaire de Facebook ont été examinées de près pour avoir permis à des annonceurs de micro-cibler des personnes vulnérables avec des informations trompeuses ou fausses.

Les défis réglementaires et l’IA éthique 

Réglementer l’IA trompeuse pose des défis majeurs pour les décideurs et organismes de réglementation. Le rythme rapide de l'innovation technologique dépasse souvent celui du développement de cadres réglementaires efficaces. Selon le rapport Tech Trends 2024 de HCLTech, les entreprises mettant en œuvre l’IA devront tenir compte de la dimension éthique de cette technologie émergente et être conscientes de l’évolution de la législation dans plusieurs régions du monde. Celles qui travaillent déjà sur des cadres d’IA éthique seront les plus aptes à s’adapter à l’évolution du contexte réglementaire.

Lorsqu’elles mettent en œuvre des politiques d’IA responsable, l’un des principaux défis est la clarté de la structure organisationnelle quant à la responsabilité de ces politiques. Cela dépend aussi de l’entreprise, de sa principale gamme de produits et de la manière dont elle compte utiliser l’IA. Un autre défi est de s’assurer que l’expertise nécessaire existe pour interpréter la sortie : une utilisation incorrecte ou mal informée de l’IA pourrait entraîner des préjudices. 

À mesure que les rôles évoluent, les personnes auront besoin de formation pour pouvoir exercer leurs rôles dans et au-delà de la boucle, ce qui pourrait nécessiter la mise en place de structures organisationnelles différentes afin de gérer et d’optimiser la technologie de l’IA. Toutefois, des initiatives telles que le Règlement général sur la protection des données (RGPD) de l’UE et le projet de loi Algorithmic Accountability Act aux États-Unis visent à s’attaquer aux effets éthiques et juridiques de la tromperie alimentée par l’IA.

La prolifération des pratiques trompeuses liées à l’IA soulève de profondes questions éthiques quant à la responsabilité, à la transparence et à l’impact sociétal. À mesure que les systèmes d’IA deviennent de plus en plus autonomes, la responsabilité de leurs actions devient moins claire. Les cadres éthiques doivent évoluer pour aborder les complexités de la tromperie alimentée par l’IA et ses répercussions sur les individus et la société.

Aborder l’IA trompeuse : Solutions et pratiques exemplaires

Atténuer les risques associés à l’IA trompeuse nécessite une approche multidimensionnelle englobant les aspects technologiques, réglementaires et éthiques. La transparence et la responsabilité doivent être prioritaires tout au long du cycle de vie de l’IA, de la collecte des données et du développement de l’algorithme à la mise en œuvre et à la surveillance. 

En outre, promouvoir une culture de gouvernance éthique de l’IA au sein des organisations est essentiel pour assurer une innovation responsable et digne de confiance en IA. HCLTech décrit son approche de l’IA responsable au moyen d’un cadre global couvrant plusieurs aspects :

Explicabilité des modèles : Mettre en place un cadre standardisé pour garantir la transparence dans les explications des modèles à chaque étape du processus IA.

Fiabilité des résultats : Définir les fonctionnalités essentielles requises pour la validation des résultats lors de la phase de conception, soutenue par des vérifications à plusieurs niveaux pour garantir la fiabilité de l’IA.

Fiabilité : Accorder une grande importance à la performance fiable des systèmes IA post-production, par des tests d’application IA adaptés et un solide cadre de qualité visant à livrer des produits fiables.

Vie privée et sécurité : Intégrer la protection de la vie privée et la sécurité des données tout au long des étapes de découverte, de sélection des attributs, de développement des modèles et d’entraînement, afin de protéger les données des individus.

Inclusion : Concevoir et tester des gabarits pour garantir la diversité et la compréhension des profils avant de construire les systèmes IA, favorisant ainsi l’inclusivité dans le développement de l’IA.

Équité : Développer, entraîner et tester des modèles pour atténuer les biais et l’injustice potentielle dans le produit final, promouvant ainsi l’équité.

Traçabilité : Mettre en place des processus clairs pour retracer le fonctionnement et l’origine des systèmes IA, en éclairant la logique derrière certains comportements ou dynamiques du système.

Responsabilisation : Codifier et mettre en œuvre des processus structurés pour s’assurer que toutes les opérations de l’IA respectent des principes établis et sont acceptées par toutes les parties prenantes, favorisant la responsabilisation à chaque étape de la mise en œuvre IA.

Gestion du changement : Intégrer l’IA dans les processus de gestion du changement pour faciliter l’adoption, le succès et l’évolution culturelle au sein des organisations mettant en œuvre l’IA.

Cette approche holistique souligne l’engagement de HCLTech à promouvoir des pratiques responsables en matière d’IA, assurant une innovation éthique et digne de confiance de l’IA dans divers domaines. À mesure que l’IA continue de s’immiscer dans tous les aspects de nos vies, il devient de plus en plus urgent de relever les défis éthiques posés par la tromperie liée à l’IA. 

En favorisant la collaboration entre les parties prenantes du milieu universitaire, de l’industrie et des gouvernements, les organisations peuvent tendre vers un avenir où l’IA sera mise à profit pour le bien commun tout en se protégeant contre ses usages abusifs potentiels.