AI transforme la façon dont les entreprises créent de la valeur. Pour les responsables de la cybersécurité, elle transforme également ce qui nécessite une protection.

Depuis des décennies, les programmes de sécurité se sont concentrés sur la protection des données de l'entreprise, y compris les dossiers clients, la propriété intellectuelle, le code source et les informations commerciales confidentielles. Ces priorités demeurent. L’AI introduit une nouvelle catégorie d’actifs qui mérite une attention similaire : les capacités intégrées aux systèmes d’AI de l’entreprise.

À mesure que les organisations déploient l’AI dans le développement logiciel, les opérations de sécurité, le service à la clientèle et les processus d’affaires, ces systèmes opérationnalisent de plus en plus le savoir institutionnel, l’expertise de domaine et la logique décisionnelle. Ils représentent un investissement important, un raffinement et, dans certains cas, un avantage concurrentiel.

Pour les responsables de la cybersécurité, cela soulève une nouvelle question : Comment protégez-vous ce que votre AI sait faire?

Les capacités d’AI deviennent des actifs stratégiques pour l’entreprise

La valeur de l’AI d’entreprise va bien au-delà des données utilisées pour l’entraîner ou l’informer.

Les systèmes d’AI modernes peuvent raisonner à travers des problèmes complexes, orchestrer des processus d’affaires, générer du code, analyser de larges volumes d’information et soutenir la prise de décisions opérationnelles. Les agents d’entreprise conçus à cet effet ajoutent une couche supplémentaire de valeur en combinant le savoir organisationnel avec le contexte d’affaires et la capacité d’agir.

Ces capacités peuvent devenir une source de valeur exclusive et de différenciation concurrentielle.

Alors que les entreprises continuent de développer des modèles exclusifs et des solutions Agentic AI, protéger ces capacités mérite la même rigueur que celle appliquée au code source, aux brevets et à d’autres actifs commerciaux critiques.

Les stratégies de cybersécurité devraient évoluer pour reconnaître les capacités d’AI comme faisant partie du patrimoine numérique plus large de l’organisation.

La fuite des capacités mérite une attention accrue

Les discussions d’entreprise autour de la sécurité de l’AI portent souvent sur l’injection de prompts, les contournements, les utilisations abusives du modèle et la fuite de données.

Un autre risque prend de l’importance.

Des acteurs sophistiqués peuvent interagir de façon systématique avec des modèles avancés afin d’extraire un raisonnement protégé, reproduire des comportements spécialisés ou améliorer un autre modèle. Des techniques telles que la distillation adversariale montrent comment des interactions répétées peuvent cibler des capacités de grande valeur sans compromettre la base de données sous-jacente ou l’infrastructure.

Anthropic a aussi signalé des tentatives d’extraction des capacités du modèle à grande échelle par distillation illicite, soulignant que le comportement du modèle lui-même peut devenir une cible de réplication systématique.

Cela crée une forme de fuite de capacité : l’extraction, la reproduction ou l’imitation progressive de ce qu’un modèle a appris à faire.

Pour les organisations qui développent des systèmes d’AI exclusifs, la perte de ces capacités pourrait avoir des conséquences comparables au vol d’autres actifs de propriété intellectuelle de valeur. L’avantage concurrentiel est de plus en plus déterminé non seulement par ce que sait une organisation, mais aussi par la façon dont ses systèmes d’AI appliquent ce savoir.

La gouvernance fait partie de l’architecture de sécurité

La réponse de l’industrie à l’AI avancée reflète ce paysage en évolution.

Les développeurs d’AI renforcent les contrôles liés à l’accès au modèle, à l’identité, à la surveillance et à la traçabilité, en cherchant à détecter l’extraction et l’utilisation abusive systématiques. Anthropic, par exemple, a décrit l’utilisation du fingerprinting comportemental et d’autres techniques de détection pour identifier les activités suspectes de distillation.

Les responsables de la sécurité en entreprise devraient commencer à se poser un ensemble élargi de questions :

• Quels modèles et agents d’AI devraient être considérés comme des actifs stratégiques pour l’entreprise ?
• Quels systèmes nécessitent un contrôle d’accès privilégié ?
• Comment les organisations devraient-elles surveiller les interactions avec les systèmes d’AI à fort impact ?
• Quels signaux pourraient indiquer des tentatives systématiques d’extraction ou de reproduction de capacités exclusives ?
• Comment les contrôles d’accès devraient-ils différer entre les modèles de raisonnement et les agents de flux de travail autonomes ?
• Quelles approches de fingerprinting comportemental ou de surveillance pourraient aider à protéger les capacités d’AI exclusives ?

Répondre à ces questions exige une collaboration entre les équipes de sécurité, d’ingénierie AI, de gestion des risques et de gouvernance.

Les contrôles doivent également aller au-delà du modèle lui-même. L’identité, la gestion des accès, la surveillance, la journalisation, la sécurité de l’infrastructure et la gouvernance contribuent toutes à protéger la façon dont les capacités d’AI sont accédées et utilisées.

La protection des capacités exige une surveillance continue

Les contrôles de sécurité traditionnels ciblent souvent des événements discrets : une connexion non autorisée, un fichier malveillant, un trafic réseau inhabituel ou une tentative d’exfiltration de données.

L’extraction de capacités peut se présenter autrement.

Une interaction individuelle avec un système d’AI peut sembler légitime. Le risque apparaît lorsque les tendances d’activité sont analysées sur la durée : prompts répétés conçus pour tester les limites du raisonnement, tentatives systématiques de reproduire un comportement spécialisé ou interactions à grand volume axées sur des capacités particulières.

Les équipes de sécurité devront bénéficier d’une visibilité accrue sur ces tendances, sans empêcher les utilisateurs légitimes de profiter de l’AI d’entreprise.

Cela signifie surveiller à la fois qui interagit avec des systèmes d’AI stratégiques et comment ces systèmes sont utilisés. Les limites de fréquence, l’analytique comportementale, les contrôles d’identité et la télémétrie au niveau du modèle peuvent tous permettre d’identifier des activités hors des tendances attendues.

L’objectif n’est pas de restreindre inutilement l’accès. Il s’agit de reconnaître le moment où une interaction légitime commence à ressembler à une extraction systématique de capacités.

Se préparer à la prochaine phase de l’AI d’entreprise

L’AI accomplit déjà un travail significatif dans le génie logiciel, la cybersécurité, les opérations clients, la conformité et d’autres fonctions d’affaires à forte intensité de connaissances.

À mesure que l’adoption s’étend, les organisations auront besoin de stratégies de sécurité qui protègent l’intelligence intégrée à ces systèmes, en plus des données d’entreprise qu’ils traitent.

Les données, les applications, les identités et l’infrastructure demeurent des actifs fondamentaux. Les capacités d’AI méritent désormais d’être considérées à leurs côtés.

Les organisations qui reconnaissent ce changement rapidement seront mieux placées pour protéger leurs investissements dans l’AI exclusive tout en offrant à leurs employés, leurs clients et leurs partenaires la confiance nécessaire pour utiliser ces systèmes à grande échelle.

La prochaine génération de défense cybernétique protégera à la fois ce que savent les organisations et ce que leur AI sait faire.