Lors d'une table ronde au pavillon de HCLTech lors du Forum économique mondial à Davos, des leaders de l’industrie de HCLTech, Google Research et BNY ont partagé leurs points de vue sur les défis et les opportunités liés à la mise à l’échelle de l’IA de façon responsable.

Alan Flower, vice-président exécutif et chef du AI & Cloud Native Labs chez HCLTech, a commencé par expliquer que l’aspect fondamental de l’IA responsable est la « fiabilité ».

Il a dit : « Pour moi, c’est la chose la plus importante et pour nos clients en tant que consommateurs de l’IA afin d’améliorer leur entreprise ou leur service, ils ont besoin de cette confiance en tant que fournisseur de ce service ; ils doivent avoir confiance que la solution va améliorer mon entreprise, me garder hors de danger si je suis l’opérateur de cette solution et s’améliorer avec le temps. »

Yossi Matias, vice-président et chef de Google Research chez Google, a mis l’accent sur l’importance d’intégrer le développement responsable de l’IA tout au long du processus de recherche.

« Lorsqu’on parle de responsabilité, ou d’IA responsable, il y a évidemment plusieurs aspects. D’abord, il s’agit de comment concevoir de l’IA de la bonne manière », a-t-il dit, soulignant l’importance d’aborder les enjeux potentiels tels que les biais et la factualité dès le départ, plutôt qu’en dernier recours.

Les panélistes ont souligné de nombreux exemples montrant comment l’IA peut être déployée de façon responsable pour relever des défis mondiaux. Matias a poursuivi en expliquant comment des modèles propulsés par l’IA ont été utilisés pour classer la rétinopathie diabétique, l’une des principales causes de cécité, avec une précision comparable à celle des experts humains. Il a aussi mentionné le potentiel de l’IA pour la personnalisation de l’éducation et pour faire face à la crise climatique grâce à de meilleures prévisions des inondations et à la réduction des émissions de carbone.

Jayee Koffey, chef mondiale de l’exécution d’entreprise et chef des affaires institutionnelles chez BNY, a aussi souligné l’importance critique de la confiance dans le secteur des services financiers.

« Nous avons le privilège de la responsabilité, de prendre soin sous une forme ou une autre de plus de 50 000 milliards de dollars d’actifs pour nos clients à travers le monde », a-t-elle déclaré.

Pour favoriser cette confiance, BNY a développé une plateforme d’IA interne nommée Eliza, qui vise à rendre l’IA plus accessible et pertinente pour les employés non techniques.

« Cela permet à un grand nombre de nos employés, dont plusieurs ne sont pas ingénieurs, d’expérimenter et d’intégrer la puissance de l’IA dans leur travail quotidien, leur permettant d’utiliser l’IA pour leur propre engagement professionnel, leur productivité et leur potentiel. »

Défis opérationnels

Les intervenants ont aussi discuté des défis opérationnels entourant la mise à l’échelle de l’IA de façon responsable.

Flower a souligné la transition de « TI statique » à « TI organique », spécifiquement en raison du caractère dynamique des environnements d’IA.

« Il est crucial que les organisations TI s’adaptent à une nouvelle façon d’exploiter les solutions reposant sur des modèles en évolution constante, et veillent à ce qu’une chose simple comme une mise à niveau de modèle n’introduise pas d’erreurs qui se répercutent dans toute l’organisation », a-t-il dit.

Matias a reconnu le problème des hallucinations IA, ou la génération de contenu inexact ou contradictoire, tout en soulignant qu’il existe des applications où cela peut être utile, par exemple à des fins créatives ou de découverte scientifique. Il a aussi exprimé de l’optimisme face aux progrès réalisés dans les techniques visant à améliorer l’ancrage et la factualité, en mentionnant le FACTS leaderboard récemment publié par Google, qui sert de référence pour évaluer la précision factuelle des modèles linguistiques.

Réglementation favorisant l’IA responsable

Le rôle de la réglementation dans la promotion de l’IA responsable a fait l’objet de discussions. Koffee a insisté sur l’importance de « bonnes réglementations transparentes et adaptables » pour contrôler et promouvoir la responsabilité, tout en soulignant la nécessité d’un équilibre entre l’innovation et la réglementation.

Matias a ajouté : « L’IA est devenue si puissante qu’elle nécessite une réglementation, mais cette réglementation doit être soigneusement conçue afin qu’on ne rate pas d’occasions de résoudre des enjeux sociétaux… Nous devons équilibrer les risques et les avantages liés à l’IA, en reconnaissant que l’IA elle-même peut être la solution à certains risques. »

Flower a souligné la puissance des incitatifs commerciaux. « La carotte, les incitatifs commerciaux, auront un impact beaucoup plus important sur le comportement des entreprises que toute la législation du monde. »

Faire ce qui est juste

Les panélistes ont conclu la discussion en abordant la responsabilité et la volonté des entreprises d’assurer une utilisation responsable de l’IA au-delà de leur propre organisation.

Matias a insisté sur la nécessité d’efforts sociétaux larges et d’éducation à cet égard, alors que Flower a fait référence à une étude coécrite par HCLTech et MIT Technology Review Insights, Mettre en œuvre l’IA responsable à l’ère du génératif, qui a été lancée lors du Forum économique mondial.

Mettre en œuvre l’IA responsable à l’ère du génératif a révélé que les dirigeants d’entreprise reconnaissent de plus en plus l’avantage concurrentiel que procure l’adoption de l’IA responsable.

« Notre capacité à bien faire les choses va apporter une réelle valeur à notre organisation. Et je pense que c’est peut-être l’un des véritables incitatifs qui accélérera le rythme de l’innovation, l’opportunité d’obtenir un avantage commercial en faisant de l’IA de façon responsable », a déclaré Flower.