Il est urgent d’établir des règles, des règlements et des lignes directrices éthiques concernant l’utilisation de l’intelligence artificielle générative (IAG).

Cet article explorera les défis, les risques et les inconvénients liés à l’adoption croissante de l’IAG—à court et à long terme.

Court terme

Préoccupations concernant les lignes directrices éthiques (ou leur absence) : L’utilisation généralisée des outils d’IA et des systèmes d’IA générative (IAG) a un impact sur le système éducatif, car elle restreint les possibilités d’apprentissage, réduit les interactions humaines et limite l’autonomie des apprenants en fournissant des solutions prédéterminées.

Ce qui doit être examiné ici, ce sont les aspects socio-émotionnels de l’apprentissage, l’impact sur l’intellect des jeunes apprenants et leur développement du QI ainsi que les possibilités d’aggraver les disparités existantes dans les ressources éducatives, ce qui peut accentuer les inégalités et introduire des biais.

La possibilité de manipulation, les inquiétudes liées au développement cognitif et au bien-être émotionnel sont de plus en plus présentes, alors que des systèmes d’IAG plus sophistiqués sont introduits dans le milieu de l’éducation.

C’est là où des lignes directrices éthiques et des règlementations sont requises aux niveaux décisionnels pour déterminer le contenu et l’entraînement des grands modèles de langage (LLM), lesquels peuvent éliminer les biais, la discrimination ainsi qu’un impact encore inconnu sur les étudiants.

« Une IA explicable décrit l’approche permettant d’expliquer comment les valeurs des caractéristiques sont liées à la prédiction du modèle. Cela aide l’utilisateur à comprendre pourquoi le modèle agit de manière particulière pour une prédiction spécifique », explique le Dr Naveen Kumar Malik, vice-président associé, HCL SW-CTO Office-Strategy, chez HCLTech.

Permis ou non permis : Des enjeux liés aux droits d’auteur à la protection et la sécurité des données, l’utilisation de contenu sans consentement dans les modèles d’IA soulève de nombreuses préoccupations immédiates.

Cela est accentué par l’IAG, avec des outils d’IA qui élargissent l’éventail des risques liés à de grandes quantités de textes, sons, codes et images récupérées sur Internet.

Les données d’entraînement pour les modèles d’IAG sont généralement disponibles sans l’autorisation du propriétaire. Cela crée des enjeux concernant la propriété intellectuelle.

« L’idée fondamentale d’une IA équitable est que le modèle ne doit pas faire de discrimination entre différents individus ou groupes issus de classes d’attributs protégés. Les attributs protégés (par exemple la race, le genre, l’âge, la religion) sont une caractéristique en entrée qui ne devrait jamais influencer la prise de décision des modèles. Dans le contexte de l’équité, la préoccupation principale reste le biais non souhaité qui avantage systématiquement les groupes privilégiés et désavantage systématiquement les groupes non privilégiés », ajoute le Dr Malik.

Contenu viral : Sans garde-fous, du contenu discriminatoire et inacceptable provient souvent de sources virales qui semblent réelles, précises et convaincantes, mais le créateur sait très bien qu’elles sont offensantes et/ou contraires à l’éthique.

Généré par des modèles d’IAG, le contenu biaisé peut effectivement provoquer des menaces à l’échelle nationale comme attiser des éléments antisociaux, le terrorisme, les discours haineux et la radicalisation. C’est ici qu’il faut un suivi efficace, des lignes directrices éthiques et une réglementation stricte, pour tracer clairement la ligne entre ce qui est acceptable ou non.

« Puisque ces modèles sont de plus en plus utilisés pour prendre des décisions importantes qui affectent la vie humaine, il est important de s’assurer que la prédiction n’est pas biaisée par un attribut protégé comme la race, le genre, l’âge ou l’état matrimonial », ajoute le Dr Malik.

Deepfakes et clonage vocal en temps réel : Vous souvenez-vous de Tom Cruise, Keanu Reeves et Tom Hanks s’indignant vigoureusement et apparaissant en direct pour prévenir les gens de ne pas croire aux vidéos devenues virales ? Oui, ce sont des deepfakes. Propulsées par l’IAG et avec des milliers d’altérations, ces vidéos laissent bien souvent les gens perplexes et incertains quant à leur authenticité.

Avec le clonage vocal en temps réel, ce qu’une personne dit réellement peut être manipulé pour convaincre les auditeurs et l’auditoire.

Heureusement, les annonceurs politiques devront désormais indiquer s’ils ont utilisé l’IA ou une manipulation numérique dans les publicités sur Facebook et Instagram. Meta a déclaré que cela va un cran plus loin dans la lutte contre les deepfakes. Les publicités à caractère politique, électoral ou social devront divulguer tout contenu d’image ou de vidéo modifié numériquement dès janvier 2024.

Cybersécurité : L’IAG est une arme à double tranchant et les cybercriminels le savent mieux que quiconque. Alors que l’IAG ouvre la porte à l’automatisation à plusieurs niveaux dans de nombreux secteurs, des criminels cherchant la moindre faille peuvent s’en servir à leur avantage — en découvrant les vulnérabilités plus rapidement et en lançant des maliciels évolutifs en temps réel.

Cependant, les RSSI gérant un tel environnement commencent à utiliser l’IAG à leur avantage, en mettant en place une infrastructure fondée sur une approche zéro confiance incluant la classification des données, le chiffrement, le stockage et la transmission.

En augmentant les capacités d’une équipe de cybersécurité dirigée par des humains, l’IAG apporte l’automatisation nécessaire qui libère l’effectif. L’automatisation en détection de menaces est une tendance émergente exploitée grâce à la puissance de l’IAG et qui transforme l’approche de la cybersécurité.

Puisque l’IAG apprend en continu — à partir des données d’entraînement liées à des incidents passés et à des flux de renseignements sur les menaces — et évolue, elle est désormais utilisée pour prévenir et détecter les anomalies, déclencher des alertes, prédire les menaces futures et identifier les vulnérabilités, réduisant ainsi le temps de réponse aux attaques ou tentatives et limitant les dommages potentiels à une organisation. Ceci est aussi utilisé pour la déclaration d’incidents et le partage d’information sur les menaces en temps réel via des données d’entraînement permettant des décisions rapides et exploitables.

« Les principaux objectifs de la sécurité des modèles d’IA chez HCLTech sont d’empêcher les attaquants de dégrader les modèles d’IA et leur fonctionnement, de protéger la confidentialité des données sensibles utilisées pour entraîner le modèle et d’empêcher toute interférence avec le fonctionnement normal des modèles d’IA », affirme le Dr Malik.

Préoccupations à long terme pour la main-d’œuvre

Selon un rapport de Goldman Sachs, bien que l’IAG pourrait augmenter le PIB mondial de 7 % et doubler la croissance de la productivité au cours de la prochaine décennie, une récente enquête de BCG (menée auprès de 2 000 dirigeants mondiaux selon l’indice d’accélération numérique de BCG), mentionne que 52 % découragent toujours l’adoption de l’IAG car ils ne la comprennent pas complètement et 37 % expérimentent encore l’IAG sans stratégie claire pour préparer leur main-d’œuvre.

Lors d’un récent sommet sur l’IA animé par le Premier ministre britannique Rishi Sunak, le milliardaire en technologies Elon Musk a toutefois déclaré : « Il est difficile de dire exactement quand cela arrivera, mais il viendra un moment où plus aucun emploi ne sera nécessaire. On pourra travailler si on le souhaite par satisfaction personnelle. Mais l’IA sera en mesure de tout faire. »

Peut-être y a-t-il beaucoup à adresser avant que les craintes de Musk (sur la menace existentielle pour l’humanité et la disparition du travail humain) se réalisent.

Parmi les points préoccupants soulevés par l’enquête BCG sur l’intelligence artificielle générative figurent la traçabilité limitée des sources, la prise de décisions factuellement erronées, la confidentialité compromise des données personnelles, un risque accru de violation de données et des résultats non reproductibles.

L’enquête a aussi relevé une feuille de route et des priorités d’investissement peu claires, aucune stratégie responsable concernant l’IAG, un manque de talents et de compétences ainsi qu’une responsabilité floue au sein des hauts dirigeants, en tant que défis à l’adoption à long terme de l’IAG.

Tant que ces enjeux à long terme n’auront pas été abordés à l’échelle mondiale par les gouvernements et organisations œuvrant dans les modèles et outils d’IA avancés, l’adoption de l’IAG devrait être surveillée et analysée localement afin que l’éthique, les règles et les règlements ne soient pas enfreints sous prétexte de divertissement ou au détriment de la vérité.

Selon la perspective de HCLTech, un système d’IA éthique devrait être :

Inclusif : Il doit être impartial/équitable et fonctionner aussi bien pour tous les milieux sociaux. Cela requiert une connaissance complète de chaque source de données utilisée pour entraîner les modèles d’IA, afin d’écarter tout biais dans l’ensemble de données, et des techniques d’atténuation pour retirer toute iniquité du modèle. Il faut également un audit minutieux du modèle entraîné pour filtrer tout attribut problématique acquis durant le processus.

Explicable : Cela signifie que la source des données d’entraînement, les résultats, le fonctionnement des algorithmes et leurs finalités peuvent être expliqués. Lorsque des systèmes d’IA aboutissent à des erreurs, il est possible de remonter toute la chaîne algorithmique et les processus de données afin d’en identifier la cause.

But positif : Un système d’IA porteur d’un but positif vise à réduire la fraude, éliminer le gaspillage, récompenser les gens, ralentir les changements climatiques, guérir des maladies, etc. Il est impératif de protéger l’IA contre une exploitation à des fins malveillantes.

Sécurité des données : La collecte, la gestion et l’utilisation responsables des données sont essentielles. Les données ne doivent être collectées qu’en cas de nécessité et non en continu, et la granularité des données devrait être la plus étroite possible.