Comme l’a souligné un récent épisode du balado HCLTech Trends and Insights , le monde de l’entreprise va désormais au-delà de la preuve de concept pour adopter l’IA générative (GenAI) dans des cas d’utilisation réels. Govind Chandranani , chef de pratique, ingénierie et services de R-D chez HCLTech, observe que le marché affiche maintenant « d’énormes attentes… quant au rôle de la GenAI à la fois pour la transformation des activités et des services ». En effet, les dirigeants de tous les secteurs voient le potentiel de l’IA générative – mais ils font également face à de nouveaux défis.

Les risques varient selon le secteur. Dans les industries axées sur le consommateur, la confidentialité occupe une place centrale et les consommateurs craignent que la GenAI ne compromette la vie privée d’un individu. Dans le commerce de détail ou la finance, cela signifie que les consommateurs et les organismes de réglementation examineront de près la façon dont les données sont collectées et utilisées dans les modèles d’IA.

Chandranani souligne l’interconnexion entre ce risque et la réputation de la marque : « Ces nouveaux chatbots représentent l’entreprise », explique-t-il, ajoutant que « nous avons vu des exemples où quelqu’un a demandé un remboursement à une compagnie aérienne et l’entreprise a dû dire : “Nous n’offrirons pas ce que le chatbot a promis.” » Lorsque l’IA fait des promesses au nom d’une marque, les hallucinations deviennent plus que de simples problèmes techniques. Elles peuvent devenir des responsabilités juridiques.

Dans le secteur de la santé, les enjeux comprennent la sécurité des patients et le respect de la réglementation. Des experts préviennent que des résultats biaisés pourraient mener à des diagnostics ou des recommandations de traitement inexacts et à des erreurs de diagnostic. Étant donné la grande sensibilité des données de santé, les fournisseurs doivent s’assurer que les outils GenAI répondent à des normes strictes, telles que la HIPAA et la validation clinique.

De même, les organisations du secteur manufacturier ou de l’ingénierie doivent évaluer le coût du déploiement de puissants modèles d’IA par rapport aux besoins d’explicabilité et de sécurité. Chandranani remarque que, dans des secteurs comme la fabrication ou la santé, « le risque concerne le coût et la précision des modèles, pas seulement la précision des réponses, [mais si le modèle fait ce que vous attendez, selon la politique]. »

Ces risques sectoriels ne sont pas hypothétiques. Par exemple, une récente affaire devant la justice américaine a souligné le danger des hallucinations non contrôlées de l’IA : des avocats ayant utilisé ChatGPT ont fini par citer une jurisprudence fictive dans des mémoires, ce qui a entraîné des sanctions. Ce genre de cas montre comment une petite erreur d’IA peut contrevenir à la conformité ou à la confiance du public, surtout dans les secteurs réglementés. Les dirigeants doivent donc examiner la GenAI à la lumière des risques propres à leur domaine : de la confidentialité des données et de la PI dans les applications consommateur, au coût, à l’explicabilité et à la sécurité dans la santé et la fabrication.

Repenser l’AQ : une nouvelle mentalité en test

Contrairement aux logiciels classiques, les sorties de la GenAI ne sont pas entièrement prévisibles. Même une même invite peut produire chaque fois des réponses différentes, mais valides. Les équipes AQ doivent abandonner l’approche traditionnelle d’une « seule bonne réponse ».

Chandranani renforce ce changement : « Il faut créer des invites pour déjouer le système », dit-il. « Il faut plus de connaissances de base pour générer la bonne invite, qui corresponde à l’IA responsable, à la fonctionnalité du domaine et aux [attentes de] performance. » Il ajoute qu’une démarche entièrement manuelle sera insuffisante : « Les tests GenAI ne peuvent pas être totalement manuels. Sinon, cela induira le système en erreur. »

Plutôt que d’exiger une précision rigide, les testeurs devraient travailler dans un cadre basé sur la confiance : ajuster, évaluer et surveiller le comportement de l’IA tout comme ils le feraient pour un nouvel employé. En pratique, il s’agit de construire des batteries de tests itératives et des bibliothèques d’invites pour sonder les réponses du modèle, en utilisant des indicateurs dépassant la simple précision, tels que la cohérence factuelle, les scores de biais et la diversité des réponses.

Chandranani souligne que « la validation continue est super importante ». Sans elle, des données biaisées ou désuètes donneront des résultats erronés. D’ailleurs, des chercheurs notent que les mesures de précision traditionnelles « ne tiennent pas compte de la vulnérabilité des LLM aux facteurs qui induisent les hallucinations », et que de nouveaux critères d’évaluation, comme les taux d’hallucination et la robustesse aux changements d’invite, doivent être ajoutés. En adoptant consciemment une approche allant de « la sortie exacte » à « une fourchette de sortie acceptable », l’AQ peut ainsi assurer la fiabilité des systèmes GenAI, même s’ils apprennent ou évoluent dans le temps.

Les piliers d’une IA responsable et digne de confiance

La gestion des risques commence à la conception. Chandranani dit que les organisations devraient intégrer « une IA responsable et digne de confiance » dès le départ. Cela signifie respecter des piliers fondamentaux comme la transparence, la responsabilité et l’explicabilité.

Comme l’ AI Risk Management Framework du NIST le souligne, les systèmes d’IA dignes de confiance devraient être valides et fiables, sécuritaires, protégés et résilients, responsables et transparents, explicables et interprétables, axés sur la protection de la vie privée et équitables – avec une gestion des biais nuisibles. En pratique, cela se traduit par une documentation complète des sources de données et des procédés d’apprentissage, la tenue de journaux d’audit des décisions de l’IA et la fourniture d’explications compréhensibles aux humains pour les résultats, lorsque pertinent.

Chandranani insiste sur l’urgence concrète : « Supposons que vous demandiez à un chatbot “Vais-je obtenir un remboursement ?” et qu’il réponde oui selon sa mémoire récente. Cela signifie que votre [système] n’est pas assez responsable. » Dans un système complexe, il est important de démontrer comment le modèle parvient à ses résultats ou réponses.

Pour les cadres, cela signifie aussi établir des politiques de gouvernance, notamment des audits de biais et des examens d’éthique, afin qu’aucun système ne soit traité comme une boîte noire. Par exemple, la plateforme d’ingénierie IA de HCLTech, HCLTech AI Force , intègre désormais des outils de détection de la sécurité des données en entrée et en sortie pour signaler tout contenu potentiellement risqué ou sensible avant qu’il n’atteigne les utilisateurs finaux.

Comme l’explique Chandranani : « Nous avons créé un système qui peut générer des milliers d’invites très rapidement et fournir des matrices objectives, pour que chaque [ingénieur de validation ou] PME pense d’une façon similaire. Cela améliore l’objectivité, la précision et l’explicabilité [future]. » Ce système d’encadrement assisté par outil montre comment la responsabilité et l’explicabilité peuvent être mises en œuvre : les recommandations du modèle sont automatiquement vérifiées et tout problème signalé est traçable à des entrées précises.

Exigences réglementaires : conformité vs. avantage concurrentiel

Les gouvernements du monde entier rattrapent leur retard concernant l’IA. Par exemple, la loi européenne sur l’IA est « le tout premier cadre juridique sur l’IA » et introduit des règles strictes et basées sur les risques pour le déploiement. L’IA à haut risque (dans des domaines comme les dispositifs médicaux, le recrutement ou l’identification biométrique) nécessitera des évaluations de risques rigoureuses, une utilisation transparente des données, une supervision humaine et une précision éprouvée. Aux États-Unis, le NIST a publié un cadre de gestion des risques de l’IA (AI RMF) qui, bien que volontaire, recommande aux entreprises d’identifier, de gérer et de mesurer les risques liés à l’IA autour de ces mêmes facteurs de confiance.

Les échéances de conformité approchent, donc les dirigeants doivent s’y préparer de façon proactive. Chandranani remarque qu’il faut considérer deux aspects : « d’une part, vos politiques internes ; et d’autre part, la conformité légale, selon votre secteur ou emplacement. » Il ajoute qu’il ne suffit pas d’implémenter une seule fois : « Il faut une gouvernance continue. » 

Les entreprises découvrent que l’adoption précoce d’une gouvernance de l’IA peut constituer un avantage stratégique. Une étude de HCLTech révèle que, même si la plupart des organisations reconnaissent l’importance de l’IA responsable, seulement 15 % sont hautement prêtes à adopter les meilleures pratiques, peu d’entre elles étant vraiment en mesure de mettre l’échelle GenAI de façon responsable et de transformer la conformité en avantage concurrentiel.

Gouvernance interfonctionnelle et indicateurs de performance

La qualité GenAI n’est pas qu’un enjeu technologique, elle est organisationnelle. Les déploiements réussis exigent une collaboration interfonctionnelle entre les équipes d’affaires, juridiques, données et ingénierie.

« On entraîne le modèle, on l’ajuste, on le teste, on le surveille continuellement et on revient à la phase de mise à jour. Plusieurs rôles sont impliqués. C’est pourquoi une collaboration égale est essentielle », dit Chandranani.

Des indicateurs clairs et des mesures permettent d’unifier ces groupes. Les indicateurs classiques comme la disponibilité ou la latence doivent être complétés par des indicateurs propres à l’IA, tels que le taux d’hallucination, la cohérence des réponses et les scores d’explicabilité. « Cela devient la communication entre les rôles », poursuit Chandranani. « Si je crée 1 000 invites et que je les relie à des matrices mesurables, ces mêmes données peuvent être utilisées par les concepteurs, développeurs et testeurs. »

En s’entendant dès le départ sur ces nouveaux « KPI IA », les équipes pluridisciplinaires peuvent surveiller la santé du pipeline GenAI de bout en bout – de l’injection de données à la sortie du modèle, jusqu’à l’impact d’affaires.

Surveillance continue et validation structurée

Enfin, le déploiement de GenAI en production n’est pas un projet ponctuel, mais un processus continu. Une fois en service, les modèles doivent être surveillés en continu pour leur dérive, leur sécurité et leur performance.

La plateforme AI Force de HCLTech appuie cette démarche. « Nous avons conçu [ce système] pour permettre aux ingénieurs de validation, Ops LLM, développeurs et PME d’obtenir des données très objectives, [ce qui mène à] une précision accrue, une amélioration de l’objectivité et une meilleure explicabilité », indique Chandranani.

L’objectif est une démarche de validation structurée : avant qu’une mise à jour de modèle ne soit appliquée, elle doit franchir des seuils de qualité tels que des tests de précision, des audits d’équité et des contrôles de sécurité. Il faut voir cela comme une intégration/déploiement continu (CI/CD) pour l’IA, où chaque modification de code ou de données passe à travers une révision standardisée. Cette approche outillée permet non seulement d’accroître l’AQ à l’échelle, mais aussi d’apporter des preuves vérifiables de la diligence appliquée.

Sans compromis 

Réussir la promesse de la GenAI, c’est balancer agilité et rigueur. « Ce ne sont pas que des risques, ce sont des défis. Et en tant qu’entreprise TI, nous devons les relever pour assurer une bonne expérience client », affirme Chandranani. 

En identifiant les risques propres à l’industrie, en adoptant une nouvelle approche des tests, en respectant les piliers éthiques fondamentaux, en anticipant la réglementation et en investissant dans des processus transversaux et des outils de surveillance, les entreprises peuvent exploiter la GenAI de façon sécuritaire et efficace. 

Le résultat sera des produits innovants propulsés par l’IA qui raviront les clients, sans compromettre la confiance ou la conformité.