Listen à article
Avec la disponibilité et l’utilisation généralisées des outils d’intelligence artificielle (IA), les responsables de la cybersécurité au sein des gouvernements et des organisations mènent un jeu du chat et de la souris sans fin avec les cybercriminels.
Bien qu’il soit indéniable que l’IA, en particulier l’IA générative (GenAI), a été une force positive dans tous les secteurs, d’importants dirigeants comme le Premier ministre britannique Rishi Sunak et le président américain Joe Biden se joignent désormais au concert des préoccupations.
Avant d’examiner la nécessité d’une réglementation de l’IA, examinons d’abord ce que le gouvernement britannique a récemment publié dans son rapport Risques de sécurité et de sûreté de l’intelligence artificielle générative à l’horizon 2025 :
Il indique que le développement de la GenAI pourrait apporter des avantages mondiaux significatifs tels que la productivité et l’innovation dans de nombreux secteurs, notamment la santé, la finance et les technologies de l’information, mais qu’il augmentera également les risques pour la sécurité en améliorant les capacités des acteurs malveillants et l’efficacité des attaques.
L’amélioration des capacités terroristes va de la propagande, de la radicalisation et du recrutement au financement, au développement d’armes, à la planification d’attaques et à l’assemblage de connaissances sur les attaques physiques par des acteurs violents non étatiques, y compris les armes chimiques, biologiques et radiologiques.
Parmi les activités cybercriminelles, les capacités de l’IA peuvent désormais contribuer à planifier et à mener des cyberattaques, à augmenter la fraude, l’usurpation d’identité, les attaques par rançongiciel, le vol de devises, la collecte de données, le clonage vocal, les deepfakes et à accroître la diffusion d’images d’abus sexuels sur enfants, ajoute-t-il.
À la suite de la publication du rapport du gouvernement britannique, Sunak a averti que « l’IA pourrait faciliter la fabrication d’armes chimiques et biologiques et que la société pourrait perdre tout contrôle sur l’IA, empêchant qu’elle soit désactivée dans le pire des scénarios. »
Le discours de jeudi de Sunak a exposé les capacités et les risques potentiels posés par l’IA, notamment les cyberattaques, la fraude et les abus sexuels sur enfants, ainsi que les risques que l’IA puisse être utilisée par des groupes terroristes « pour semer la peur et la perturbation à une échelle encore plus grande ».
Cependant, il a atténué le risque d’extinction humaine lié à l’IA, estimant qu’il devrait s’agir d’une « priorité mondiale » tout en étant globalement « optimiste » quant au potentiel de l’IA à transformer la vie des gens pour le mieux. Il a déclaré : « Ce n’est pas un risque pour lequel les gens doivent s’inquiéter à ce stade et je ne veux pas être alarmiste. »
Trois jours après la déclaration du Premier ministre britannique, le président Biden a déclaré lundi que les développeurs d’IA devront désormais partager les résultats de sécurité avec le gouvernement américain dans le cadre de une annonce de la Maison-Blanche publiée sous forme de décret, « les mesures les plus importantes jamais prises par un gouvernement pour faire progresser la sécurité de l’IA ».
Le décret inclut également des mesures telles que l’élaboration de normes, d’outils et de tests permettant de garantir que les systèmes d’IA soient sûrs, sécurisés et fiables ; la protection contre les risques d’utilisation de l’IA pour concevoir des substances biologiques dangereuses, la protection des Américains contre la fraude et la tromperie assistées par l’IA par l’établissement de normes, ainsi que la mise en place d’une cyberdéfense avancée pour élaborer des outils d’IA afin de détecter et corriger les failles dans les logiciels critiques.
Alors que le président américain fait partie des grands dirigeants, comme le président français Emmanuel Macron et le premier ministre canadien Justin Trudeau, qui ont décidé de ne pas participer à le sommet sur l’IA de deux jours à Bletchley Park que le premier ministre britannique Sunak organise, la vice-présidente américaine Kamala Harris, la première ministre italienne Giorgia Meloni, la présidente de la Commission européenne Ursula von der Leyen, le secrétaire général de l’ONU Antonio Guterres et les « parrains » de l’IA moderne Geoffrey Hinton et Yoshua Bengio seront présents.
Les raisons de cette peur croissante
Parmi de nombreux rapports semblables dans le passé, Sapio Research « Générative IA et cybersécurité : avenir prometteur ou champ de bataille commercial ? » qui interrogeait plus de 650 professionnels seniors des opérations de sécurité aux États-Unis, mentionnait récemment que 85 % du personnel de sécurité attribuaient la hausse des cyberattaques (75 % ayant constaté une augmentation au cours de la dernière année) à des acteurs malveillants utilisant la GenAI.
Le rapport ajoute que 70 % des professionnels de la sécurité indiquent que la GenAI a un impact positif sur la productivité et l’engagement des employés et 63 % saluent la capacité de la technologie à améliorer le moral des employés.
HCLTech dans l’arène de l’IA
Alors que la GenAI redéfinit le paysage technologique, HCLTech – avec des décennies d’expérience en apprentissage automatique et réseaux neuronaux – a ouvert de nouvelles opportunités, amélioré l’efficacité opérationnelle et livré des solutions de pointe pour aider les entreprises à automatiser les tâches, renforcer la cybersécurité et stimuler l’innovation, répondant ainsi aux exigences d’évolution de l’ère numérique.
HCLTech s’engage à garantir que ses solutions d’IA soient pratiques, éthiques et conformes aux réglementations en vigueur. Les solutions utilisent un cadre éthique tridimensionnel axé sur la gouvernance des données, la gouvernance des modèles et la gouvernance des processus. Cela garantit que les données formées restent impartiales, que le modèle respecte les exigences de transparence et d’explicabilité et qu’une intervention humaine soit prévue à des fins de supervision.
Comme HCLTech estime que les réglementations sur l’IA doivent être prioritaires par les gouvernements et les organisations pour garantir que la montée incontrôlée de l’IA soit maîtrisée, ce cadre est conçu pour garantir que les solutions d’IA soient développées de manière responsable, avec un accent sur la transparence, la responsabilité et l’équité.
Depuis plus d’un an déjà, Tendances et perspectives HCLTech (T&I) sensibilise et rend compte des évolutions mondiales de l’IA et des préoccupations qui y sont liées. T&I a mené une analyse approfondie de tout ce qui s’est produit au cours de la dernière année. Voici quelques-unes de leurs contributions connexes.
21 sept. 2022 : L’IA est un pilier solide pour la nouvelle ère de la cybersécurité
30 janv. : La peur inconnue derrière l’utilisation croissante de l’IA
1 févr. : Le calme avant la tempête de cyberattaques
1er mars : Une réglementation est nécessaire pour contrôler les outils d’IA générative
3 mars : 2023 : L’ère de l’intelligence augmentée
17 mars : Une nouvelle génération de modèles Transformer émerge
23 mars : Ton IA ne te fait-elle pas peur ? Tu devrais !
9 mai : Malgré les avertissements récents, un avenir IA réglementé devrait inspirer l’optimisme
23 mai : Ce que l’IA vous réserve pour les cinq prochaines années
13 juin : Les bénéfices de l’IA dans le secteur de la santé
14 juin : L’importance des réglementations sur l’IA
16 août : La cybersécurité « zéro confiance » : une nécessité pour les centres de données d’aujourd’hui
17 août : L’essor de la robotique alimentée par l’IA en Europe
8 sept. : L’IA générative transforme le secteur de la santé
L’automatisation par l’IA a déjà modifié la nature du travail quotidien dans les usines, hôpitaux, l’éducation, les services financiers et bien d’autres, sans toutefois éliminer totalement la contribution humaine. Le premier ministre britannique a évoqué des outils d’IA réalisant efficacement des tâches administratives traditionnellement effectuées par des humains. Sunak a insisté sur le fait qu’il serait trop simpliste de dire que l’IA « remplacera les emplois », invitant plutôt le public à considérer cette technologie comme un « copilote » sur le lieu de travail.
Le Dynamic 365 Copilot de HCLTech – un assistant propulsé par l’IA – aide les utilisateurs des services de vente, de marketing et de gestion des chaînes d’approvisionnement à être plus organisés et productifs. De plus, les laboratoires GenAI de HCLTech, qui soutiennent les équipes dans la création de solutions et de services pour divers rôles et domaines, lanceront également une académie des compétences GenAI pour former les gens aux meilleures pratiques en matière d’utilisation de la GenAI.
Vous souhaitez en savoir plus sur le potentiel de la GenAI et sur ce que HCLTech réalise dans ce domaine ? Voici Kalyan Kumar, directeur mondial de la technologie et responsable (écosystèmes) chez HCLTech, décrypte l’impact de la GenAI sur les services informatiques.
