En Inde, les perruches sont souvent une source de divertissement pour les gens, car on leur parle et elles répondent aux questions—mais uniquement à celles qu’on leur a apprises et qu’on les a entraînées à répondre! Les étrangers—lors d’une grande foire comme Pushkar—s’en amusent souvent, paient pour ce spectacle où elles prédisent l’avenir, et en rient, maîtrisant mal ou pas du tout l’hindi, tout comme les locaux, qui savent très bien si et quand ces oiseaux utilisent des gros mots et trichent au nom de leurs maîtres.

Même si la formation de ces oiseaux qui parlent repose sur les « données et informations personnelles » de leurs propriétaires, elle n’est, après tout, pas « protégée par des droits de propriété intellectuelle »—deux des éléments de base utilisés pour entraîner l’IA, particulièrement l’IA générative. Nourrie de mauvaises données, l’IA générative peut répandre du venin et finir par prendre la forme du monstre de Frankenstein ou des dragons de Daenerys Targaryen. Effrayant, n’est-ce pas?

Douée pour répéter douloureusement les biais présents dans ses données d’entraînement, dès les débuts de l’IA en 2016, le chatbot Tay de Microsoft a mis moins d’une journée à publier sur Twitter : « Hitler avait raison, je déteste les Juifs » et que les féministes devraient « toutes mourir et brûler en enfer ».

L’IA générative connaît par cœur les dangers liés aux mauvaises données et aux médias sociaux. Alors que l’IA a été le sujet d’un engouement effréné, les chercheurs—qui étudient les dangers liés à la désinformation, aux discours haineux et à l’enchaînement de crises géopolitiques—affirment que sa puissance de calcul double tous les six à dix mois, rendant cette mutation à la fois électrisante et dangereuse.

En laissant de côté la programmation à l’ancienne, les réseaux neuronaux auto-apprenants repèrent efficacement des tendances dans les données, une capacité qui dépend de la quantité de données et de puissance de calcul à laquelle ces réseaux ont accès.

« Nous avons aussi besoin de suffisamment de temps pour que nos institutions trouvent la voie à suivre. La réglementation sera cruciale et il faudra du temps pour la définir. Même si les outils d’IA de la génération actuelle ne sont pas très effrayants, je pense que nous ne sommes potentiellement pas si loin de versions effrayantes », a tweeté Sam Altman, PDG d’OpenAI. Dans ses entrevues, il a souvent souligné que l’amélioration des programmes d’IA dépend de la rapidité avec laquelle les gens les utilisent : plus on est, mieux c’est!

La nouvelle catégorie de contenu produite par l’IA générative—sous forme de textes, d’audio et d’images, à l’aide de l’apprentissage profond—appelée réseau antagoniste génératif (GAN), est sans doute déjà familière. Mais la question qui se pose concerne les réseaux neuronaux de ce GAN : que se passe-t-il si le discriminateur, qui distingue les fausses des vraies données—générées par le générateur—se met à mal fonctionner, oubliant l’éthique et se penchant vers des données biaisées?

« C’est un problème qui se manifeste dans l’évolution actuelle de l’IA. Cependant, des efforts sont en cours pour élargir les capacités des systèmes d’IA, tels que le projet Fandango ou Sphere de Meta, pour aider à identifier les fausses nouvelles ou les fausses données parmi les vraies », explique Renju Varghese, fellow et architecte en chef, cybersécurité et services GRC, HCLTech.

« Non éthique », selon Bing

Récemment, la journaliste Huileng Tan de Business Insider a testé les compétences du nouveau Bing avec IA intégrée de Microsoft lorsqu’il a refusé d’écrire une lettre de présentation pour un emploi.

« Je suis désolé, mais je ne peux pas écrire une lettre de présentation pour vous. Ce serait non éthique et injuste pour les autres candidats », a déclaré le chatbot éthique à Tan. Toutefois, il lui a ensuite prêté main-forte pour rédiger une lettre de présentation le lendemain, avec quelques références et conseils.

Il subsiste de nombreux enjeux pratiques et éthiques à régler, et c’est là que les organisations et les gouvernements doivent tracer la ligne.

« L’éthique joue un rôle important, car les organisations peinent à éliminer les biais et l’injustice de leurs systèmes automatisés de prise de décision. Les données biaisées peuvent engendrer des préjugés dans les résultats automatisés qui risquent d’entraîner discrimination et traitement injuste », affirme Phil Hermsen, directeur des solutions, science des données et IA chez HCLTech.

« Pour développer des systèmes d’IA fiables, il faut des politiques, de la gouvernance, la traçabilité, des algorithmes, des protocoles de sécurité, ainsi que l’éthique et les droits de la personne. »

Formation de l’IA générative

En vertu de la législation actuelle, l’utilisation d’œuvres protégées par la propriété intellectuelle est limitée lors de la formation de l’IA générative. Pour y remédier, la proposition du Royaume-Uni de créer une nouvelle exception à la violation du droit d’auteur peut servir d’exemple aux gouvernements qui cherchent à « libérer » le potentiel de l’IA générative.

Mais il pourra légiférer pour permettre l’exploration des textes et des données protégés par la PI afin d’entraîner la technologie. Toutefois, sans autorisation suffisante ou attribution des données protégées par la PI utilisées dans l’entraînement de l’IA, les législateurs pourraient même choisir d’y mettre un terme.

La création autonome ou pilotée par l’IA sans intervention humaine déclenche la question de savoir qui détient le droit d’auteur protégeant un tel contenu. En 2021, un tribunal australien a statué en faveur de l’intelligence artificielle—le système d’IA pouvant être désigné comme inventeur dans une demande de brevet. Toutefois, cette décision a ensuite été annulée par la Cour fédérale australienne.

Vous souvenez-vous des incidents où un groupe d’artistes ont poursuivi les générateurs d’IA Stability AI Ltd., Midjourney Inc. et DeviantArt Inc. pour avoir soi-disant téléchargé et utilisé des milliards d’images protégées par droits d’auteur, et Getty Images pour ses poursuites relatives à la violation du droit d’auteur contre Stability AI devant la High Court of Justice de Londres, accusant la société d’avoir utilisé les images de Getty sans autorisation? Ces cas soulignent l’enjeu de la régulation des situations où un contenu généré par l’IA comporte des éléments protégés par la PI pouvant soulever des questions de protection de la vie privée/des données.

Vulnérabilités

L’IA et l’apprentissage automatique ont déjà transformé de nombreux aspects de la vie quotidienne. Le modèle de prévision des inondations de Google est un excellent exemple de protection de la vie de millions de personnes. De même, cela offre la possibilité de transformer divers aspects de la sécurité nationale, de l’analyse du renseignement aux systèmes d’armes et plus encore.

Cependant, la technologie peut également être utilisée par des cybercriminels chevronnés pour pirater des réseaux avec IA intégrée. « Il faut comprendre les vulnérabilités associées à l’apprentissage automatique avant de prendre une décision éclairée sur les risques et les investissements, car les failles au sein d’un système d’AA rendent la situation encore plus complexe et sont exploitées aussi bien par les cybercriminels que par les propriétaires des plateformes infonuagiques.

« Pour accéder à des données personnelles et/ou restreintes—facilement disponibles et relativement peu chères—il existe une ‘cyberguerre’ à base d’IA entre ces organisations mal intentionnées et les propriétaires des plateformes infonuagiques.

« Au-delà de la puissance de calcul déployée, la véritable arme maintenant, c’est la sophistication des algorithmes et la rapidité à apprendre, s’adapter et contrer ce que font les opposants », explique Hermsen.

Les décideurs—qui prennent des décisions sur la mise en service sécuritaire d’un système muni d’IA et sur l’ampleur des risques—doivent comprendre qu’un système d’AA introduit de nouveaux risques. De nouvelles défenses pourraient n’être qu’un avantage de courte durée. La robustesse face aux attaques résulte probablement d’une défense au niveau du système, et les bénéfices d’un usage offensif sont souvent inférieurs aux coûts.

Voici un exemple simplifié

Vous vous souvenez de Tom et Jerry? Eh bien, les attaquants et les défenseurs en AA sont engagés dans un jeu du chat et de la souris, tout aussi évolutif et dangereux, où l’innovation dans l’attaque est la clé pour s’infiltrer et causer des dégâts, reléguant au second plan les anciennes techniques de piratage et de défense.

L’exemple des trois petits cochons et du grand méchant loup tiré des contes pour enfants est une autre illustration. Les défenses bâties en paille et en bois qui semblent solides et renforcées peuvent facilement être brisées pour accéder aux maisons. Grâce à une connaissance approfondie des vulnérabilités, s’appuyer sur des défenses faites de briques—une surveillance constante et un mécanisme de défense évolutif avec l’IA dans ce cas—peut paraître coûteux, mais c’est ce qui aide les organisations à bâtir une défense résiliente, à réduire les risques et à contrer les attaques plus sophistiquées.

« Les capacités de l’IA, en évolution rapide, se révèlent être un outil important pour améliorer la capacité de détecter des brèches sophistiquées et des activités perturbatrices difficiles à repérer. Le plus grand avantage, dans la quête d’un environnement sécuritaire, est l’évolution des systèmes d’IA.

« Cette évolution est une arme à double tranchant où les acteurs malveillants tirent aussi profit de l’IA pour concevoir et créer des brèches avancées pratiquement indétectables. Cependant, ces systèmes offrent aussi une capacité très puissante aux agences et professionnels de cybersécurité afin de développer des systèmes avancés permettant d’identifier et de répondre aux brèches les plus complexes », ajoute Varghese

« Ces capacités sont en développement pour identifier et prévenir les perturbations des écosystèmes de systèmes critiques qui fournissent des services et des capacités de production essentiels », ajoute Varghese.

Comment HCLTech contribue au domaine de l’IA

La politique de cybersécurité résiliente et de confiance zéro de HCLTech protège ses clients tout au long de leurs initiatives de transformation numérique. L’(automatisation robotisée des processus (RPA) jumelée à l’intelligence artificielle (IA) représente la première étape dans cette direction. Grâce à sa profonde expertise en IA et AA, HCLTech considère la cybersécurité comme la prochaine étape majeure et aide les organisations à contrer efficacement les risques grâce à sa solution Cyberdéfense dynamique.