IA générative, souvent appelée GenAI, est rapidement devenue un facteur de changement pour divers secteurs. Son impact est omniprésent, affectant chaque secteur d'industrie. Les capacités révolutionnaires de GenAI ont non seulement transformé le paysage pour les défenseurs du cyberespace, mais ont aussi considérablement amplifié la menace adverse.

Faits saillants sur GenAI en cybersécurité

Selon l’étude mondiale sur la cyber-résilience 2024–25 de HCLTech :

• 54 % des responsables de la sécurité identifient désormais les attaques générées par l’IA comme leur principale préoccupation en cybersécurité
• 81 % des responsables sécurité anticipent une cyberattaque contre leur organisation dans l’année à venir
• 56 % des organisations ont investi dans l’automatisation de la cybersécurité pour améliorer leurs défenses
• Au cours des 12 derniers mois, 57 % des responsables sécurité ont affronté la réalité d’une cyberattaque, les entreprises d’Amérique du Nord (64 %) et les secteurs des sciences de la vie et de la santé (62 %) faisant face aux attaques les plus intenses

Comment les adversaires exploitent GenAI lors de cyberattaques

Selon le rapport annuel Inside the Mind of a Hacker de Bugcrowd, en 2024, 71 % des hackers estimaient que les technologies d’IA augmenteraient la valeur du piratage. De plus, le rapport note que 77 % des hackers ont adopté des outils GenAI (une hausse de 13 % depuis 2023) afin de créer des outils destructeurs comme des rançongiciels, des malwares et des courriels d’hameçonnage sophistiqués pour accéder à des données sensibles.

La création rapide de contenus malveillants a réduit le temps nécessaire pour mener des cyberattaques de plusieurs mois à quelques jours, selon Srinivasan Sreekumar, vice-président et directeur mondial de la cybersécurité chez HCLTech. La facilité avec laquelle les adversaires peuvent créer et distribuer ces menaces pose un défi de taille pour les professionnels de la cybersécurité.

« Cela les place dans une situation très difficile, et ils ont du mal à suivre le rythme pour identifier de telles menaces, les contenir, les corriger et y répondre rapidement », explique Sreekumar.

À mesure que les cybercriminels exploitent GenAI, ils peuvent créer de nouveaux variants de menaces existantes à une vitesse inédite. Les algorithmes d’apprentissage automatique intégrés à GenAI permettent d’analyser des modèles sur de grands ensembles de données, rendant possible la création automatisée d’attaques sophistiquées et ciblées. Par exemple, les créateurs de rançongiciels peuvent générer plusieurs versions de leur malware, rendant leur détection et leur neutralisation beaucoup plus difficiles pour les solutions de sécurité traditionnelles. L’ampleur et la rapidité du déploiement de ces attaques posent un obstacle majeur pour les équipes de cybersécurité.

Pourquoi GenAI rend les attaques modernes plus difficiles à stopper

La sophistication des cyberattaques basées sur l’IA a augmenté drastiquement grâce à la vitesse et la facilité avec lesquelles GenAI permet la création de nouveaux variants d’attaque. Auparavant, le développement d’un seul rançongiciel pouvait prendre des mois, mais désormais, grâce à GenAI, les adversaires peuvent créer plusieurs variants en une journée. Par conséquent, les organisations sont confrontées à une hausse de la fréquence et de la complexité de ces attaques, en particulier par le biais courant des courriels d’hameçonnage.

« Les attaques par hameçonnage, en particulier, sont devenues plus complexes et difficiles à détecter, notamment en raison de l’utilisation de GenAI », ajoute Sreekumar.

Les cybercriminels peuvent s’appuyer sur des algorithmes d’apprentissage automatique pour analyser de grandes quantités de données, comme des profils sur les réseaux sociaux et des comportements en ligne, et créer des courriels d’hameçonnage hautement personnalisés. Ces messages sont conçus pour convaincre leurs destinataires de leur authenticité, augmentant ainsi la réussite des tentatives d’hameçonnage. Cette évolution des techniques d’attaque exige des défenses plus robustes et des mesures sophistiquées pour contrer l’escalade des menaces.

Quels nouveaux risques GenAI présente-t-elle pour la cybersécurité?

À mesure que les organisations adoptent GenAI, elles doivent faire face à de nouveaux risques amplifiés en cybersécurité. L’une des menaces majeures réside dans l’automatisation des attaques motorisées par l’IA. Les acteurs malveillants peuvent utiliser GenAI pour générer des courriels d’hameçonnage convaincants, des deepfakes ou des malwares polymorphes. Il n’est donc pas surprenant que, dans l’enquête mondiale de HCLTech auprès des responsables sécurité, les attaques générées par IA soient arrivées en tête de liste des nouvelles menaces, 54 % exprimant une inquiétude extrême. Les attaquants exploitent déjà l’IA pour affiner leurs techniques, augmentant le taux de réussite des campagnes de rançongiciel et d’ingénierie sociale.

GenAI accroît également les risques d’empoisonnement et de fuite de données. Les modèles d’IA peuvent être manipulés si des attaquants injectent de fausses données ou des biais dans les ensembles d’apprentissage, ce qui rend le système imprévisible. La menace interne augmente aussi : des employés partageant à leur insu des données sensibles avec des outils GenAI peuvent provoquer des fuites. Par exemple, Samsung a dû interdire l’usage interne de ChatGPT après que des employés lui aient transmis du code propriétaire, lequel aurait pu ensuite être réutilisé dans les résultats du modèle. Ce type d’incidents met en lumière la façon dont GenAI peut exposer des informations confidentielles si elle n’est pas correctement encadrée.

Comment GenAI renforce les équipes de défense en cybersécurité

Pour combattre la menace toujours croissante, les professionnels de la cybersécurité s’appuient de plus en plus sur des outils intégrant l’IA. Ces fonctionnalités permettent de détecter les menaces et d’accélérer les analyses et les interventions. Les algorithmes d’apprentissage automatique et l’analytique prédictive aident à identifier les modèles et comportements anormaux, améliorant la rapidité et la précision des détections.

Les organisations intègrent de plus en plus l’IA dans la cyberdéfense et GenAI à leur cybersécurité pour automatiser la détection des menaces, renforcer la réponse aux incidents, accroître la résilience numérique et optimiser les opérations de leur centre de sécurité (SOC). L’adoption s’accélère : selon l’étude sur la cyber-résilience 2024-2025 de HCLTech, 63 % des organisations prévoient d’augmenter leur budget pour les initiatives de cybersécurité, ciblant en particulier les outils propulsés par GenAI (57 %) et l’automatisation SOC en 2025.

Le même rapport HCLTech indique que les principales raisons d’investir dans l’IA et GenAI en cybersécurité incluent la conformité réglementaire (55 %), la prévention des fuites de données (54 %) et la réduction des coûts (37 %).

Ces technologies exploitent GenAI pour analyser de grandes quantités de données, identifier automatiquement les activités suspectes et générer des analyses exploitables pour les équipes d’intervention. Par exemple, les algorithmes d’IA peuvent détecter les modèles d’accès utilisateur anormaux, repérer les menaces internes potentielles et fournir des alertes en temps réel.

De plus, les organisations explorent des solutions innovantes, telles que Copilot pour la cybersécurité de Microsoft, pour renforcer leur posture cybersécurité. « Le copilote Copilot for Security allie la puissance de l’intelligence humaine et des algorithmes IA pour enquêter sur les menaces et fournir aux analystes des renseignements prêts à l’emploi », explique Sreekumar.

Cette collaboration entre experts humains et GenAI permet une intervention sur incident plus rapide et plus efficace, renforçant ainsi les capacités globales de sécurité des organisations.

« En fin de compte, l’IA est de plus en plus utilisée en cybersécurité pour détecter rapidement les menaces, y répondre, et renforcer les fonctionnalités déjà présentes dans les outils de sécurité actuels », ajoute Sreekumar.

Utilisation responsable de l’IA : conformité et gouvernance

À mesure que les organisations adoptent GenAI pour stimuler l’innovation et atteindre leurs objectifs d'affaires, la gouvernance sécurisée de l’IA et la conformité deviennent des facteurs essentiels.

« Quelle que soit la région du monde, il est indispensable de former le personnel à une utilisation responsable de GenAI, dans le respect des réglementations », indique Sreekumar. La transparence et l’explicabilité des algorithmes sont également cruciales, car la responsabilisation et la capacité à retracer les décisions sont nécessaires pour gérer les biais potentiels et garantir des pratiques éthiques.

La gouvernance et la confidentialité des données jouent un rôle de premier plan pour maintenir l’éthique et la légalité lors de la mise en œuvre de GenAI. Les organisations doivent instaurer des pratiques robustes de gestion des données, assurer l’anonymisation et le masquage appropriés de l’information sensible. Des mesures de protection fortes doivent aussi permettre de sécuriser les modèles d’IA et les jeux d’entraînement contre tout accès non autorisé ou sabotage.

« La gouvernance et la conformité doivent aussi être des facteurs clés pour surveiller les aspects techniques liés au contrôle des données et des applications. Les applications développées avec GenAI devraient subir des tests de sécurité rigoureux à chaque étape du développement », poursuit Sreekumar.

Face à la montée des menaces liées à l’IA, des organismes internationaux comme l’EU AI Act, le NIST et l’OCDE ont mis en place, et continuent de développer, des cadres pour encadrer l’utilisation de la GenAI en cybersécurité. Par exemple, l’article 15 de l’EU AI Act porte spécifiquement sur les exigences de cybersécurité pour les systèmes d’IA à haut risque.

Les décideurs travaillent sur des cadres visant à pallier les risques potentiels associés aux cyberattaques dopées à l’IA, et à établir des lignes directrices pour un usage responsable de l’IA. La collaboration entre le gouvernement et l’industrie est cruciale pour permettre le développement de normes et de bonnes pratiques capables de suivre l’évolution rapide de GenAI. En juin 2025, par exemple, le président Trump a signé le décret exécutif 14306 (EO), intitulé « Maintenir certaines mesures pour renforcer la cybersécurité nationale » pour, entre autres, réorienter les efforts d’IA en cybersécurité vers l’identification et la gestion des vulnérabilités plutôt que vers la censure.

Quels secteurs adoptent GenAI le plus rapidement?

Le taux d’adoption de GenAI varie énormément selon le secteur, chaque industrie ayant son niveau d’intensité de données, de réglementation et d’appétence au risque. Les premiers adoptants sont les services financiers, les fournisseurs technologiques et infonuagiques, et les sciences de la vie (pharmacie et santé).

Ces secteurs traitent d’énormes volumes de données et doivent répondre à des exigences de conformité qui stimulent l’intégration rapide de GenAI. Par exemple, plus de la moitié des professionnels des services financiers (52 %) utilisent maintenant des outils d’IA générative dans leur travail (contre 40 % l’année précédente). Dans la santé, 75 % des organisations de pointe expérimentent déjà GenAI ou étendent leurs cas d’usage, par exemple pour la découverte de médicaments et le diagnostic.

À l’inverse, les secteurs plus lents à adopter GenAI se trouvent dans l’industrie lourde et les infrastructures critiques. L’industrie manufacturière, l’énergie, les services publics et la vente au détail font preuve de plus de prudence, freinés par les risques touchant la technologie opérationnelle (OT) et le manque de compétences.

Dans ces secteurs, GenAI est considérée comme moins immédiatement pertinente pour les processus de base. Beaucoup en sont toujours au stade du projet pilote.

Comment les industries à la traîne peuvent combler leur retard :

• Lancer des projets pilotes à faible risque : Commencer par des projets GenAI contrôlés ciblant des cas d’usage clairs pour démontrer la valeur et le retour sur investissement
• Renforcer la gouvernance des données : Mettre en œuvre une hygiène stricte des données et des contrôles d’accès pour atténuer les risques à mesure que les systèmes IA traitent des données opérationnelles sensibles
• Requalifier et combler le déficit de talents : Les PDG mondiaux prévoient que 35 % de leurs employés devront être requalifiés à cause des progrès IA; il est donc crucial d’investir dans la formation à la cybersécurité et à l’IA, et d’envisager des partenariats pour acquérir l’expertise nécessaire. Cela garantit que les équipes pourront intégrer GenAI de façon sécuritaire dans les environnements OT et les flux de travail d’entreprise

Quelles sont les prochaines étapes pour GenAI en cybersécurité?

Dans les années à venir, le taux d’adoption de GenAI variera selon le secteur en fonction de leur ouverture au changement et des contraintes réglementaires. Selon Sreekumar, les secteurs de la finance, de l’infonuagique et des sciences de la vie devraient être les premiers adoptants, en raison de la valeur que GenAI peut offrir pour gérer de vastes ensembles de données et détecter des menaces complexes. À l’inverse, des industries plus traditionnelles comme la fabrication, les services publics et le pétrole et gaz pourraient adopter une approche plus prudente, notamment à cause des inquiétudes concernant les risques pour la sécurité et le besoin d’expertises spécialisées.

Il est cependant évident que GenAI s’intègrera en profondeur à tous les processus d’affaires, y compris dans l’industrie de la cybersécurité. La création et l’évolution des fonctionnalités offensives et défensives basées sur GenAI se poursuivront, soulevant de nouveaux défis et créant de nouvelles opportunités.

« Par conséquent, la demande de professionnels qualifiés capables de tirer parti de GenAI comme atout stratégique en cybersécurité augmentera de façon exponentielle », ajoute Sreekumar.

L’impact de GenAI sur le secteur de la cybersécurité et les services de cybersécurité sera profond et multiforme. De la création accélérée de menaces par les adversaires à l’évolution des moyens de défense, GenAI transforme la cybersécurité et exige un changement de paradigme dans la façon dont les organisations abordent la cyberdéfense.

À mesure que l’industrie de la cybersécurité s’adapte aux répercussions de GenAI, il est impératif pour les parties prenantes de s’adapter de manière proactive à cette nouvelle ère de cybermenaces et de défense. La collaboration entre fournisseurs technologiques, professionnels de la cybersécurité et décideurs est essentielle au développement de contre-mesures efficaces pour résister et limiter l’usage malveillant de GenAI. En exploitant le potentiel de GenAI tant à des fins offensives que défensives de façon responsable, les organisations pourront garder une longueur d’avance dans cet environnement de menaces en constante évolution.

FAQ sur l’impact de GenAI en cybersécurité

1. Comment GenAI est-elle utilisée lors de cyberattaques?

GenAI aide les attaquants à automatiser l’hameçonnage, à générer des deepfakes et à créer des malwares évolutifs à grande échelle.

2. GenAI peut-elle améliorer la détection des menaces?

Oui, GenAI peut renforcer la détection des menaces en analysant les modèles, en prédisant les attaques et en accélérant la réponse SOC.

3. Comment éviter les menaces de sécurité liées à l’IA?

Les utilisateurs et les organisations peuvent utiliser des cadres de gouvernance IA, surveiller les résultats produits par le modèle, restreindre les entrées de données et organiser des formations régulières.

4. Quels sont les risques de conformité liés à GenAI en sécurité?

GenAI peut entraîner des fuites de données et des violations réglementaires, ce qui peut mener à des amendes, à des atteintes à la réputation ainsi qu’à des biais contre les groupes sous-représentés. Les organisations doivent s’assurer qu’elles sont bien alignées aux lois sur l’IA comme l’EU AI Act.

5. Quels secteurs adoptent GenAI le plus rapidement?

Les services financiers, la technologie, l’infonuagique et les sciences de la vie sont en tête en raison de l’intensité des données, de l’exigence réglementaire et d’une plus grande volonté d’innover

6. GenAI améliore-t-elle la détection de l’hameçonnage?

Oui, GenAI permet d’identifier les signaux subtils d’hameçonnage et de s’adapter à l’évolution des tactiques, rendant la détection plus précise.