Accueil
Sécurisation des agents d’IA par conception

Aperçu

représente la prochaine étape de l’IA en entreprise, allant au-delà des simples agents conversationnels pour offrir des agents logiciels intelligents capables de percevoir, de raisonner, de planifier des objectifs à étapes multiples et d’exécuter des actions par le biais d’outils ou d’API externes. Les principales plateformes infonuagiques comme Google Agentspace, AWS Agents et Microsoft AgentFlow ont proposé des solutions sur mesure, tandis que des cadres auto-hébergés tels que LangChain, LangGraph et Semantic Kernel gagnent du terrain auprès des entreprises. Cependant, l’autonomie de ces agents introduit de nouveaux risques en élargissant la surface d’attaque. IDC prévoit que plus de 40 % des charges de travail en entreprise utiliseront des agents autonomes d’ici 2027 (contre moins de 5 % en 2024). Les entreprises doivent accorder la priorité à la sécurité et à la gouvernance pour naviguer dans cette évolution rapide.

Sécurisation des agents IA dès la conception

Défis

La montée des agents IA et des grands modèles de langage (LLM) a révélé une vague de risques en . Le Top 10 OWASP pour les LLM et l’IA agentique met en évidence des vulnérabilités telles que l’injection d’invites, l’autonomie excessive, la compromission de la chaîne d’approvisionnement et le vol de modèles, qui, dans le contexte de l’IA agentique, se traduisent par des risques commerciaux tangibles, y compris :

Fuites de données :

Un appel d’outil d’« exfiltration » non autorisé pourrait exposer des stratégies de négociation exclusives.

Boucles de raisonnement compromises :

Une dépendance compromise pourrait détourner le flux de travail d’un agent.

Opérations frauduleuses :

Des robots de service à la clientèle dotés de trop d'autorisations pourraient exécuter des actions non intentionnelles, comme traiter de faux remboursements.

Notre solution

HCLTech, conjointement avec et , comble ces lacunes. Les principales capacités comprennent :

Analyse du modèle et analyse SBOM
Modélisation de l’analyse de SBOM

Vérifie les poids, les licences et la provenance à l’étape de la chaîne d’approvisionnement.

Gestion de la posture de sécurité de l'IA
Gestion de la posture de sécurité de l’IA (AI-SPM)

Identifie et corrige les erreurs de configuration dans les magasins de données, les embeddings et les ACL des bases de données vectorielles.

Mise à l'épreuve de l’IA
Red teaming de l’IA

Simule des attaques évolutives qui reflètent le graphe d’utilisation d’outils de l’agent.

Pare-feu d’agent et LLM en temps d’exécution
Pare-feu d’agent et de LLM en temps réel :

Veille à ce que chaque demande, réponse et appel d’outil respecte les politiques de gouvernance tout en atténuant les risques tels que la perte de données ou le code malveillant.

Contrôles de sécurité des agents
Contrôles de sécurité des agents

Utilise des analyses basées sur la signature et le comportement pour contrecarrer l’usurpation, les attaques par empoisonnement ou l’enchaînement incontrôlé d’outils.

DFS Cybersécurité Brochure Sécurisation des agents IA par conception