Loi européenne sur l’IA : Rester conforme dans un monde axé sur l’IA

Introduction

L’intelligence artificielle (IA) a connu une croissance significative, transformant de nombreux secteurs et routines quotidiennes. Elle offre des avantages tels qu’une efficacité accrue, des expériences personnalisées et des avancées médicales, mais soulève également des préoccupations concernant la perte d’emplois, la protection de la vie privée et les préjugés. Réussir à harmoniser le potentiel de l’IA tout en relevant ses défis est essentiel pour un avenir responsable et inclusif, ce qui entraîne une plus grande attention portée à la sécurité de l’IA et à la nécessité de réglementer le secteur de l’IA. Première étape en ce sens : le Parlement européen a donné son feu vert à son projet de règlement, la Loi européenne sur l’IA. En restant informés de ces nouveautés, nous pouvons aider à respecter les obligations de conformité liées aux systèmes d’IA en :

• Fournissant des conseils et un accompagnement réglementaires
• Élaborant des politiques et des procédures conformes aux dispositions de la Loi européenne sur l’IA
• Conseillant sur la gouvernance des données et en intégrant des risques spécifiques à l’IA dans le cadre global de gestion des risques

Pourquoi une loi sur l’IA ?

Alors que l’IA peut être automatisée pour effectuer toutes les tâches qu’on lui confie, la supervision humaine permet de réduire les risques, d’améliorer la prise de décision et de préserver l’équilibre entre ses capacités et les considérations éthiques. Les problématiques pouvant être résolues par une intervention humaine incluent :

• Considérations éthiques : S’assurer que les actions pilotées par l’IA sont conformes aux valeurs sociétales, aux normes éthiques et aux réglementations juridiques
• Préjugés et équité : Détecter et corriger les préjugés afin d’assurer l’équité et d’éviter des résultats discriminatoires
• Situations imprévues : Traiter les scénarios que l’IA n’a pas rencontrés – cela inclut l’identification et la prévention de conséquences inopinées et d’effets secondaires issus d’interactions imprévues
• Interprétabilité : Interpréter et expliquer aux utilisateurs et parties prenantes les résultats générés par l’IA
• Responsabilité : Les humains restent responsables des actions des systèmes d’IA, ainsi la supervision permet d’attribuer la responsabilité en cas d’erreur ou de conséquences négatives
• Conformité légale et réglementaire : S’assurer du respect des cadres juridiques et réglementaires applicables

La Commission européenne a présenté la proposition d’un cadre de réglementation des systèmes d’IA en avril 2021. Ce règlement vise à assurer une utilisation de l’IA sûre, transparente, traçable, non discriminatoire et respectueuse de l’environnement.

Portée de la loi

La portée de la loi est vaste, couvrant les personnes et organisations qui proposent des produits ou services basés sur l’IA. Elle s’applique aux systèmes produisant des résultats tels que du contenu, des prédictions, des suggestions et des décisions ayant un impact dans divers contextes. De plus, la loi surveillera l’utilisation de l’IA dans les opérations du secteur public et les activités de maintien de l’ordre.

L’objectif de la Loi sur l’IA est de :

1. Favoriser l’investissement et l’innovation en matière d’IA
2. S’assurer que les produits et solutions sont sûrs et conformes au droit de l’UE
3. Faire respecter les droits fondamentaux et les exigences de sécurité et renforcer la gouvernance
4. Prévenir la fragmentation du marché par l’instauration d’un marché unique légal

La Loi européenne sur l’IA s’applique aux fournisseurs situés dans l’UE, aux pays hors UE vendant dans l’UE, ainsi qu’aux utilisateurs au sein de l’UE. Elle régit la création, la distribution et l’utilisation des systèmes d’IA, dans le but d’assurer des pratiques responsables et imputables pour le développement, le déploiement et l’utilisation de l’IA.

Bien que l’IA puisse être automatisée pour effectuer toutes ses tâches, la supervision humaine contribue à atténuer les risques, à améliorer la prise de décision et à préserver un équilibre entre les capacités de l’IA et les considérations éthiques.

Partager  

La loi exige qu’une approche basée sur le risque soit suivie lors du développement ou de l’utilisation d’un système d’IA. Cette approche classe les systèmes d’IA selon les risques qu’ils présentent :

Tout système relevant de la catégorie « risque inacceptable » sera interdit. Les raisons de ce classement comprennent :

• Les systèmes nuisibles ou manipulateurs
• Ceux qui exploitent des groupes vulnérables, y compris pour un handicap mental ou physique
• Les systèmes utilisés à des fins de notation sociale par les autorités publiques
• Les systèmes d’identification biométrique à distance « en temps réel » dans des lieux accessibles au public à des fins de maintien de l’ordre, sauf dans un nombre limité de cas

Les systèmes relevant de la catégorie « risque élevé » incluent ceux qui pourraient mettre la santé, la sécurité et les droits fondamentaux en danger, par exemple :

• Un système susceptible de déterminer l’accès à l’éducation
• Les infrastructures critiques où le système d’IA pourrait mettre en danger la vie et la santé des personnes
• Les services publics et privés essentiels
• Le maintien de l’ordre et la justice
• La migration et le contrôle aux frontières

Les systèmes à haut risque devront enregistrer leurs plans dans une base de données européenne et effectuer des évaluations de conformité démontrant qu’ils respectent toutes les exigences. Ces évaluations peuvent être autosignalées ou facilitées par les organismes de réglementation, selon le domaine fonctionnel et le cadre règlementaire existant qui régit le secteur. Ces systèmes exigent également un système de gestion des risques pour identifier, suivre et atténuer les risques. Ils doivent également mettre en place des contrôles de gouvernance des données ainsi que des documents techniques détaillés et une journalisation automatique des événements.

Les systèmes à « risque limité », tels que les robots conversationnels, interagissent avec les humains et servent à la reconnaissance des émotions, à la génération et à la manipulation d’images, d’audio et de vidéo. Ces systèmes ont des obligations de transparence similaires à celles du RGPD qui garantissent que les utilisateurs savent qu’ils interagissent avec une IA, que les données personnelles (PII) sont collectées, à quelles fins, etc.

Tous les autres systèmes sont classés comme systèmes à faible risque et n’ont aucune obligation légale à respecter.

De plus, pour superviser la mise en œuvre et l’application uniforme de cette loi, un Conseil européen de l’intelligence artificielle sera mis sur pied pour formuler des recommandations et fournir un accompagnement lorsque des questions nécessiteront une surveillance et un examen. Toute infraction à cette loi pourra entraîner de lourdes sanctions pour le propriétaire du système, selon la gravité du non-respect. L’amende peut s’élever jusqu’à 30 millions de dollars ou 6 % du chiffre d’affaires annuel mondial total.

Bien que ce cadre légal reste à approuver et adopter, il sera déterminant dans le développement et l’utilisation de l’intelligence artificielle. Cette loi vise à s’assurer que les systèmes d’IA puissent être utilisés à leur plein potentiel, tout en restant dans les limites légales et éthiques, et sans compromettre les droits humains fondamentaux et la sécurité.