Listen à article
Les États-Unis continuent d’explorer de nouvelles façons de faire face aux menaces grandissantes dans le domaine numérique et entendent se concentrer sur les tendances que le président Biden qualifie de cruciales pour façonner une « décennie décisive pour le monde ». Parmi ces tendances se trouve la révolution suscité par l’IA générative, et le département américain de la Sécurité intérieure (DHS) a récemment dévoilé la toute première cellule de crise sur l’IA du département en réponse.
En plus de la cellule de crise sur l’IA, d’autres agences et organismes de réglementation commencent à se pencher sur l’IA et sur la façon de la réglementer de façon responsable afin d’assurer son utilisation sécuritaire, y compris la Maison-Blanche elle-même.
Lors d’une réunion récente avec les PDG d’entreprises de technologie, dont Google, Microsoft, OpenAI et Anthropic, la vice-présidente Kamala Harris a affirmé aux dirigeants qu’ils ont une obligation « morale » de veiller à la sécurité de leurs produits.
« L’IA est l’une des technologies les plus puissantes d’aujourd’hui, avec le potentiel d’améliorer la vie des gens et de relever certains des plus grands défis de la société », a déclaré la vice-présidente Harris. « En même temps, l’IA présente aussi le potentiel d’augmenter considérablement les menaces à la sûreté et à la sécurité, d’empiéter sur les droits civils et la vie privée, et de miner la confiance du public et la foi en la démocratie. »
L’un des premiers projets de loi sur la sécurité de l’IA a récemment été présenté au Congrès américain pour créer une cellule de crise distincte afin d’identifier les risques pour les libertés civiles et la vie privée. Le Commandement central américain (CENTCOM) a également récemment embauché un nouvel expert en IA afin de conseiller dans le cadre de la cyberguerre.
Les experts s’accordent à dire que l’IA générative peut ouvrir de nouvelles portes pour les organisations, mais qu’une réglementation et une surveillance adéquates seront nécessaires en cours de route afin de maintenir des normes éthiques et de sécurité.
Ces récents mouvements d’entités américaines indiquent un changement de cap face à l’IA, alors que les inquiétudes du public au sujet de cette technologie ne cessent d’augmenter.
La mission de la cellule de crise sur l’IA
Le secrétaire du DHS, Alejandro Mayorkas, a annoncé la formation de la cellule de crise sur l’IA lors d’un événement du Council on Foreign Relations. Le groupe se concentrera sur la lutte contre les répercussions négatives des technologies d’IA et analysera les conséquences indésirables des systèmes d’IA générative, tels que ChatGPT.
« La profonde évolution de la menace à la sécurité intérieure, qui évolue aujourd’hui à un rythme jamais vu, a amené notre département à s’adapter en conséquence, » a déclaré M. Mayorkas lors de l’événement.
Le DHS met en avant l’intégration de l’IA dans la gestion des chaînes d’approvisionnement et du commerce frontalier, la lutte contre l’entrée du fentanyl aux États-Unis et l’application de l’IA aux outils de criminalistique numérique pour contrer l’exploitation et les abus envers les enfants comme des éléments centraux de la mission de la cellule de crise.
La nouvelle cellule de crise sur l’IA aura plusieurs responsabilités et encouragera certaines applications de l’IA pour faire avancer les missions de sécurité intérieure. Celles-ci incluent :
- Intégrer l’IA dans les efforts américains visant à améliorer l’intégrité des chaînes d’approvisionnement et l’environnement commercial plus large, et déployer l’IA pour mieux examiner la cargaison, détecter l’importation de biens issus du travail forcé et gérer les risques.
- Utiliser l’IA pour contrer l’entrée du fentanyl aux États-Unis, détecter plus efficacement les expéditions de fentanyl, repérer et intercepter la circulation des produits chimiques précurseurs à travers le monde et perturber les réseaux criminels clés.
- Appliquer l’IA à des outils numériques de criminalistique afin d’identifier, localiser et secourir les victimes d’exploitation sexuelle et d’abus envers les enfants en ligne, ainsi qu’identifier et arrêter les auteurs de ces actes.
- Travailler avec des partenaires gouvernementaux, industriels et universitaires pour évaluer l’impact de l’IA sur la capacité des États-Unis à sécuriser les infrastructures essentielles.
De plus, dans les 60 jours suivant sa création, la cellule de crise sur l’IA remettra une feuille de route des étapes à franchir pour atteindre ses objectifs.
D’autres mesures américaines sur l’IA
Bien que le secrétaire Mayorkas ait affirmé que l’IA en est encore à ses « balbutiements », d’autres gestes récents des États-Unis indiquent leur volonté de garder une longueur d’avance sur cette technologie émergente.
Récemment, le CENTCOM a embauché l’ancien directeur du Cloud IA de Google, Dr Andrew Moore, pour agir à titre de tout premier conseiller sur l’IA, la robotique, l’informatique en nuage et l’analyse de données auprès du CENTCOM. Il conseillera les dirigeants du CENTCOM sur l’application de l’IA, de l’apprentissage automatique, de la robotique et de l’architecture réseau dans le cadre des missions du CENTCOM au Moyen-Orient, au Levant ainsi qu’en Asie centrale et du Sud.
Le CENTCOM accorde la priorité à la transformation numérique, selon sa chef de la direction technologique, Schuyler Moore, et souhaite ajouter les talents nécessaires afin de guider le commandement dans la lutte contre les menaces croissantes en IA.
Sur le plan législatif, le sénateur démocrate du Colorado, Michael Bennet, a présenté un projet de loi visant à créer une cellule de crise parlementaire sur l’IA afin de répondre aux préoccupations concernant l’IA, en accordant la priorité à la sécurité des jeunes. Cette cellule serait composée d’experts gouvernementaux provenant du département de la Défense, du National Institute of Standards and Technology et d’autres agences capables d’identifier les risques et de réduire les impacts potentiels sur les libertés civiles et la vie privée.
En outre, la cellule de crise chercherait à identifier les lacunes dans la réglementation actuelle de l’IA et proposerait rapidement de nouvelles politiques pour corriger ces lacunes. Dans une lettre adressée par le sénateur Bennet aux PDG d’OpenAI, Microsoft, Snap, Google et Meta, il a souligné les dangers potentiels de l’IA générative pour les jeunes utilisateurs.
« Rares sont les technologies récentes qui ont autant attiré l’attention du public que l’IA générative, » a écrit le sénateur. « Cette technologie témoigne de l’innovation américaine, et il faut accueillir favorablement ses bénéfices potentiels pour notre économie et notre société. »
Il a ajouté cependant que « son déploiement responsable exige des politiques et des cadres clairs pour promouvoir la sécurité, anticiper les risques et réduire les préjudices ».
Trop d’engouement pour l’IA générative?
L’IA générative a le potentiel de créer de nombreuses nouvelles occasions et a déjà eu un impact majeur sur l’avenir des affaires et de l’expérience numérique, mais une réglementation est encore nécessaire pour garder sous contrôle les outils d’IA générative et les systèmes dotés d’IA.
Les vulnérabilités dans l’IA et l’apprentissage automatique devraient être au premier plan pour les décideurs dans les organisations avant de déployer des systèmes basés sur l’IA.
Phil Hermsen, directeur des solutions, Science des données et IA chez HCLTech, a déclaré que « les vulnérabilités associées à l’apprentissage automatique doivent être comprises avant toute prise de décision éclairée sur les risques et les investissements, car les failles présentes dans un système d’apprentissage automatique compliquent la situation et sont exploitées par les cybercriminels et les propriétaires de plateformes infonuagiques ».
Grâce à sa cybersécurité dynamique, HCLTech aide à protéger ses clients grâce à l’IA et à l’automatisation robotisée des processus. Cette offre constitue un cadre de gouvernance et d’évaluation continue permettant d’adopter une posture de cybersécurité adaptative et évolutive et de tirer parti des meilleures technologies. L’expertise et l’expérience en IA et apprentissage automatique (IA-ML) chez HCLTech font de la cybersécurité l’une des prochaines grandes étapes dans le domaine de l’IA.
Alors que l’IA générative poursuit son ascension fulgurante dans la conscience publique, les règlements et les instances gouvernementales commencent à se préparer à l’avenir de l’IA et à son impact dans nos vies. Hermsen affirme que la mise en place de systèmes d’IA dignes de confiance, de politiques, de gouvernance, de traçabilité, d’algorithmes et de protocoles de sécurité sont nécessaires.
