De récentes mises en garde très médiatisées ont mis en lumière les dangers potentiels de l'intelligence artificielle (IA). Le président américain Joe Biden a rencontré les dirigeants de Google et de Microsoft pour en discuter, le « parrain » de l’IA chez Google a mis en garde contre celle-ci dans sa note de départ et des milliers de dignitaires ont signé une lettre ouverte en mars, expliquant que la course au développement des systèmes d’IA était hors de contrôle.

Dans un article du New York Times, le Dr Geoffrey Hinton était particulièrement préoccupé par les « acteurs malveillants » qui tenteraient d'utiliser l'IA à des « fins néfastes ».

Il a déclaré : « Vous pouvez imaginer, par exemple, que certains acteurs malveillants… aient décidé de donner aux robots la capacité de créer leurs propres sous-objectifs. Cela pourrait éventuellement créer des sous-objectifs comme “j’ai besoin d’obtenir plus de pouvoir”. Le type d’intelligence que nous développons est très différent de celle que nous possédons. Nous sommes des systèmes biologiques et ceux-ci sont des systèmes numériques. Avec les systèmes numériques, toutes ces copies peuvent apprendre séparément mais partager leurs connaissances instantanément. C’est donc comme si vous aviez 10 000 personnes et que, chaque fois qu’une personne apprenait quelque chose, tout le monde le savait automatiquement. Et c’est ainsi que ces chatbots peuvent en savoir beaucoup plus que n’importe quelle personne. »

« Comme le souligne à juste titre le Dr Hinton dans ses propos de départ, la vitesse à laquelle l’IA est utilisée s’accélère rapidement. Cependant, la manière ou la personne qui devrait réglementer et à quel niveau sont laissées aux gouvernements, qui ne sont pas connus pour leur expertise. L’IA biaisée existe déjà et durant les différentes versions de ChatGPT, il a fallu ‘éditer’ la matière source et réentraîner les modèles. Cela est dû à l’éthique personnelle des personnes concernées, » explique Phil Hermsen, directeur des solutions, Science des données et IA, chez HCLTech.

Il poursuit : « Mais cela devrait-il toujours être le cas? Quelles réglementations pourraient être mises en place pour garantir que l’IA reste intègre? Même si j’adopte une vision optimiste selon laquelle l’IA a surtout été utilisée pour le bien, même 1 % de son utilisation à des fins malveillantes pourrait entraîner des pertes financières, de la propagation de la peur ou même la guerre. Cela soulève la prochaine question : vous pouvez réglementer l’IA dans un pays, mais un autre pays adopte une opinion différente. Alors, les Nations Unies devraient-elles faire quelque chose? »

Comment les gouvernements du monde entier y font face

En ce qui concerne le gouvernement, alors que l’Inde n’envisage aucune loi pour freiner la croissance de l’IA, une récente invitation de la Maison Blanche adressée aux chefs de la direction de Google, Microsoft, OpenAI et Anthropic a souligné « l’attente du président Joe Biden selon laquelle des entreprises comme la vôtre doivent s’assurer que leurs produits sont sécuritaires avant de les rendre accessibles au public ».

Lors de la réunion — qui comprenait une « discussion franche et constructive » sur la nécessité pour les entreprises d’être plus transparentes avec les décideurs politiques à propos de leurs systèmes d’IA — Biden a dit aux PDG qu’ils doivent atténuer les risques actuels et potentiels que l’IA fait peser sur les individus, la société et la sécurité nationale. La Maison Blanche a ajouté que la réunion portait également sur l’importance d’évaluer la sûreté de tels produits et la nécessité de les protéger contre les attaques malveillantes.

La vice-présidente américaine Kamala Harris a, dans une déclaration ultérieure, affirmé que l’IA a le potentiel d’améliorer les vies, mais pourrait poser des problèmes de sécurité, de vie privée et de droits civils. Pour assurer la sécurité de leurs produits d’IA, elle a indiqué aux PDG qu’ils ont une « responsabilité légale » et que l’administration est ouverte à promouvoir de nouveaux règlements et à soutenir de nouvelles lois sur l’IA.

Après la réunion, en réponse à une question sur la réglementation, le directeur général d’OpenAI, Sam Altman, a déclaré aux journalistes : « Nous sommes étonnamment sur la même longueur d’onde quant à ce qui doit arriver. »

De plus, selon Reuters, l’administration Biden a annoncé un investissement de 140 millions $ de la National Science Foundation pour lancer sept nouveaux instituts de recherche sur l’IA et a publié des lignes directrices en matière de politique sur l’utilisation de l’IA par le gouvernement fédéral.

Auparavant, les États-Unis avaient également réintroduit la Loi sur la responsabilité algorithmique qui oblige les entreprises à réaliser des évaluations des systèmes automatisés à haut risque qui impliquent des renseignements personnels ou prennent des décisions ayant un impact sur la vie des consommateurs. Le projet de loi vise à prévenir les biais et discriminations algorithmiques. En effet, les principales préoccupations au sujet de l’IA en forte croissance portent sur les atteintes à la vie privée, les biais, et la crainte qu’elle ne contribue à la prolifération des arnaques et de la désinformation.

D’autres organismes du secteur public au Canada, en Italie, en Chine, dans l’UE et au Royaume-Uni envisagent également de réglementer l’IA, mais à différents stades de ce parcours.

En avril, l’Italie a mis ChatGPT hors ligne pour étudier le risque potentiel de violation des règles sur les renseignements personnels. Après avoir levé l’interdiction, le geste du gouvernement italien a inspiré d’autres régulateurs européens de la vie privée à lancer des enquêtes.

Outre l’établissement de règles sur le fonctionnement des algorithmes, la Chine a mis en place de nouveaux règlements pour limiter la création de « deepfakes », des médias générés ou modifiés par des logiciels d’IA. L’Administration chinoise du cyberespace a commencé à faire appliquer la réglementation afin de limiter l’un des domaines les plus explosifs et controversés de l’avancement de l’IA.

Le règlement sur l’intelligence artificielle (IA) proposé par l’UE vise à améliorer la réglementation du développement et de l’utilisation de l’IA. Dans un article, le Forum économique mondial (WEF) a déclaré que la loi sur l’IA vise à « renforcer la position de l’Europe comme centre mondial d’excellence en IA du laboratoire au marché, garantir que l’IA en Europe respecte nos valeurs et règles, et exploiter le potentiel de l’IA à des fins industrielles. »

« [L’IA] existe depuis des décennies mais a atteint de nouvelles capacités grâce à la puissance informatique, » a déclaré Thierry Breton, commissaire européen au marché intérieur, dans une déclaration.

La Competition and Markets Authority (CMA) du Royaume-Uni a récemment déclaré qu’elle commencerait à examiner l’incidence de l’IA sur les consommateurs, les entreprises et l’économie et à déterminer si de nouveaux contrôles étaient nécessaires sur des technologies telles que ChatGPT d’OpenAI.

« Il est essentiel que les avantages potentiels de cette technologie de transformation soient facilement accessibles aux entreprises et consommateurs britanniques tout en assurant une protection contre des enjeux tels que les fausses informations ou informations trompeuses, » a déclaré Sarah Cardell, PDG de la CMA, à Reuters. Elle a ajouté que l’IA a fait irruption dans la conscience du public et se développait à grande vitesse et qu’en raison de cela, l’organisme de réglementation de la concurrence commencerait par chercher à comprendre la façon dont les modèles fondamentaux utilisant de grandes quantités de données non étiquetées se développent.

« La loi européenne sur les marchés numériques qui est entrée pleinement en vigueur cette semaine ne couvre pas l’IA générative et la CMA y voit sans doute une occasion de mener le débat mondial sur ces enjeux – de même que la FTC américaine, qui s’intéresse déjà au sujet, » a déclaré Me Verity Egerton-Doyle du cabinet Linklaters à Reuters. « La révision permettrait à l’organisme britannique de la concurrence de participer au débat, » a-t-elle ajouté.

En définitive, la réglementation et la gouvernance interne doivent rattraper la montée en puissance rapide de l’IA. L’appétit à cet égard est considérable, et la réglementation et la gouvernance nécessaires finiront par suivre.

Cela nécessitera une importante collaboration entre les secteurs public et privé et la nécessité, pour les organisations, d’accorder la priorité à une culture de responsabilité dans le développement et le déploiement de la technologie. Dans un tel environnement, l’avenir d’une société propulsée par l’IA devrait être envisagé avec optimisme, car il favorisera l’utilisation responsable de l’IA.

Bien sûr, chaque nouvelle technologie apporte des effets positifs et négatifs, mais il appartient aux décideurs politiques, régulateurs, chefs d’entreprises et innovateurs de prendre des mesures décisives et de veiller à ce que l’IA devienne une force bénéfique.