Principaux points à retenir

• L’IA agentique évolue, passant d’outils isolés à un web agentique interconnecté qui effectue des transactions entre organisations
• Les risques passent de la sécurité des systèmes individuels à des dynamiques économiques et systémiques à l’échelle de l’écosystème
• La manipulation du marché, la collusion, les points d’étranglement et les agents fantômes peuvent émerger à la vitesse des machines
• L’ambiguïté de la responsabilité juridique et la fragmentation transfrontalière peuvent fausser les incitatifs et ralentir l’adoption
• La gouvernance doit être intégrée à l’infrastructure par des politiques comme du code, l’identité vérifiable, la simulation de menaces et des systèmes de surveillance par des gardiens

La prochaine phase de l’IA ira au-delà de modèles plus intelligents pour entrer dans une ère d’agents autonomes interagissant au-delà des frontières organisationnelles; lorsqu’ils forment des réseaux interconnectés, un “web agentique”, le paysage des risques change fondamentalement. Un livre blanc récemment publié, Economic and Systemic Considerations in Agentic Web Systems, soutient que lorsque les agents forment des réseaux interconnectés, un “web agentique”, le paysage des risques change fondamentalement.

Plutôt que de se concentrer sur les risques d’agents individuels tels que le détournement d’objectifs ou l’abus de privilèges, l’attention se tourne vers la dynamique du marché : négociations à la vitesse machine, pouvoir de concentration dans les couches de découverte, agents fantômes échappant à toute surveillance et comportements corrélés susceptibles d’amplifier les chocs dans de multiples secteurs.

Le document présente les interactions des agents selon un cycle transactionnel économique en cinq étapes : inscription, découverte, négociation, règlement et surveillance. Ce prisme du cycle de vie peut aider les organisations à comprendre où surgissent le plus souvent incitatifs systémiques et défaillances.

Pour en savoir plus, consultez cet article, rédigé par Heather Domin (vice-présidente et directrice du Bureau de l’IA et de la gouvernance responsables, HCLTech), Pradyumna Chari (associé postdoctoral, MIT Media Lab), Ramesh Raskar (professeur et directeur adjoint du MIT Media Lab), et Grace Davin (leader en facilitation, Bureau de l’IA et de la gouvernance responsables, HCLTech).