Les robots apprennent dans des mondes inventés depuis bien plus longtemps que l’enthousiasme actuel pour la simulation ne le laisse présager. En 1989, le projet ALVINN à Carnegie Mellon de Dean Pomerleau a été entraîné sur des images routières simulées avant d’être testé avec succès sur le véhicule autonome de l’université. Les graphismes étaient rudimentaires, mais la leçon demeure : un monde synthétique n’a pas besoin d’être une copie parfaite de la réalité, tant qu’il contient la structure, la variation et le retour d’information que la tâche exige. 

C’est, en substance, le principe d’une usine à ressources (asset factory). Un modèle 3D classique nous montre l’apparence d’un objet. La conception assistée par ordinateur (CAO) va plus loin en spécifiant les dimensions d’ingénierie et la façon dont un objet est assemblé. Une ressource prête pour la simulation doit aussi indiquer à un robot le poids de l’objet, la façon dont il bouge, où il y a collision, la réaction de ses surfaces et ce que ses capteurs percevront. 

Si cette ressource est destinée à l’apprentissage par renforcement, elle doit aller plus loin encore en définissant ce que le robot peut observer et faire, ce qui compte comme progrès et quels états représentent le succès ou l’échec. 

Le défi consiste à créer ces ressources efficacement et à grande échelle. Notre Asset Factory Blueprint rassemble les principes derrière un pipeline agentique, traçable et reproductible pour créer des ressources prêtes pour la simulation et l’apprentissage. 

Des descriptions aux ressources exploitables par les machines 

Les entrées d’une usine à ressources peuvent prendre plusieurs formes. Il peut s’agir de sources structurées comme des fichiers de CAO ou de modélisation des informations du bâtiment (BIM), de nomenclatures, de catalogues d’inventaire ou de descriptions de robots. Il peut aussi s’agir de photographies, de scans partiels, de manuels de maintenance, de notes d’opérateur ou même d’une simple description du type « un chariot en acier inoxydable à roulettes avec deux portes verrouillables ». 

Quelle que soit l’entrée, l’usine conserve les preuves et détermine ce qui est connu, ce qui manque et ce qui demeure incertain. Les notions de provenance et de traçabilité sont fondamentales, car de petites erreurs peuvent entraîner d’importantes conséquences. Une échelle incorrecte peut changer la géométrie de la prise, tandis qu’un axe inversé peut introduire des erreurs de simulation subtiles qui compromettent l’apprentissage par renforcement. 

Le Blueprint maintient un manifeste continu des sources et suit les unités, axes, droits d’utilisation des sources et sommes de contrôle tout au long du processus. 

La ressource passe ensuite à travers les étapes requises, allant de la reconstruction ou du conditionnement à la vérification du maillage, la segmentation sémantique, l’inférence des matériaux et propriétés physiques, le texturage, la physique et l’articulation jusqu’à la vérification SimReady. 

Ce qui en résulte n’est pas simplement une représentation de l’objet, mais un ensemble de géométries vérifiées, de pièces nommées, de matériaux, de corps de collision, de propriétés de masse, d’articulations, d’affordances, de variantes permises, de provenance et d’incertitude. La tâche détermine lesquels de ces éléments sont requis et ce que signifie, en pratique, une préparation à la simulation. 

Prenons l’exemple d’un bac de manutention avec couvercle à charnière. Qu’est-ce qu’un robot doit en savoir ? 

Cela dépend de la tâche. Un robot qui ouvre le bac a besoin de l’échelle correcte, de l’axe des charnières et de ses limites, de l’inertie du couvercle, de la géométrie de collision, du coefficient de friction et de l’emplacement de la poignée. Un robot qui trie ce bac peut s’intéresser davantage à l’apparence et à la réponse des capteurs. Un robot qui l’empile priorisera peut-être plutôt le centre de masse et la déformation. 

La fidélité dépend de la tâche. L’apparence et le comportement doivent aussi s’accorder : une surface qui ressemble à du caoutchouc mais se comporte comme de l’acier poli enseigne de mauvaises attentes de contact. 

C’est pourquoi le Blueprint peut s’appuyer sur des entrées de nomenclature, des noms de matériaux CAO, des spécifications, des images et des notes d’opérateur pour proposer des propriétés physiques assorties d’unités, de plages de valeurs, d’éléments probants et de niveaux de confiance. 

VoMP de NVIDIA, par exemple, prédit des propriétés mécaniques fines comme la densité, le module de Young et le coefficient de Poisson à travers des objets 3D. 

Plutôt que de se fier à une seule inférence, on peut accumuler les preuves et affiner les valeurs jusqu’à atteindre un niveau de certitude acceptable. Le résultat est une ressource reconstruisible et exploitable par machine. 

De l’objet à l’objectif 

Une ressource physique complète, même fidèle, n’est pas pour autant un environnement d’apprentissage par renforcement. Elle doit aussi être reliée à un robot, des capteurs, une scène et un contrat de tâche. 

L’extension apprentissage par renforcement du Blueprint fournit ce contrat en définissant ce qui peut être observé, quelles actions sont possibles, comment la récompense est calculée, quand les épisodes se terminent, comment la scène se réinitialise, quelles variations sont autorisées et quels tests vérifient le bon lancement de l’environnement. 

Cela crée un environnement d’entraînement axé sur les objectifs. 

Dans une tâche de prélèvement et de dépose, les états physiques n’ont pas tous la même valeur. Fermer la pince, réussir un soulèvement stable et atteindre la destination doivent guider la politique vers une récompense plus élevée. Collision, glissement, colis écrasé ou exploitation d’une faille du simulateur devraient au contraire l’en éloigner ou interrompre le processus. 

Dans ce sens opérationnel, l’environnement « comprend » la tâche en associant des conditions spatiales et physiques à des signaux d’apprentissage. 

La scène devient ainsi partie intégrante du système d’apprentissage lui-même. La géométrie détermine ce qui est atteignable et la physique détermine les conséquences de l’action. Les capteurs déterminent ce qui peut être observé et le signal de récompense détermine quels comportements sont renforcés. 

Un monde mal conçu peut enseigner la mauvaise leçon avec une redoutable efficacité de calcul. À l’inverse, des environnements de simulation accélérés par GPU peuvent parfois réduire le temps d’entraînement par apprentissage par renforcement de deux à trois ordres de grandeur par rapport à un entraînement classique reposant sur un simulateur basé sur le processeur (CPU).  

Puisque l’usine contrôle la variation, elle peut aussi soutenir des parcours d’apprentissage adaptatifs. L’entraînement pourrait commencer par des éclairages stables et des espaces dégagés, avant d’introduire de nouveaux points de vue, charges, frictions, usures, positions, bruits capteurs et distracteurs. Cela permet d’augmenter la complexité en fonction de l’objectif d’apprentissage. 

Ni un jumeau numérique, ni un simulateur 

Il est important de distinguer les usines à ressources de deux concepts voisins : les jumeaux numériques et les simulateurs. 

Un jumeau numérique représente généralement un actif, une installation ou un procédé particulier. Une usine à ressources peut utiliser des entrées de jumeaux numériques ou produire des ressources destinées à s’y retrouver, mais son objectif principal est différent : elle crée les ressources et variantes dont un robot a besoin pour apprendre. 

Cette distinction change la cible. Une réplique exacte d’un seul bac bleu, par exemple, peut être moins utile à l’entraînement que 10 000 bacs plausibles présentant différentes dimensions, usures, propriétés de surface, charges et emplacements. L’objectif est de créer une variété d’expériences aidant le robot à se préparer à la diversité du réel plutôt que de reproduire toujours un même exemplaire. 

Une usine à ressources n’est pas non plus un simulateur. Le simulateur exécute la physique, génère les capteurs et fait avancer le temps. L’usine construit et valide les objets, scènes et contrats de tâche que le simulateur exécute. 

En termes logiciels, le simulateur est l’environnement d’exécution (runtime), tandis que l’usine fournit le compilateur, le système de construction et le banc de test. 

Plus de réalisme n’est pas nécessairement mieux non plus. La préhension dépendra souvent plus de la géométrie de contact, du coefficient de friction et de la masse que d’un logo parfaitement restitué, alors que l’inspection visuelle pourrait avoir des priorités inverses. La fidélité doit être dictée par la tâche et le signal d’entraînement, pas par l’apparence d’un rendu. 

L’usine est centrale 

Historiquement, le contenu de simulation nécessitait souvent des transferts entre ingénieurs CAO, graphistes 3D, spécialistes des matériaux, ingénieurs de la physique, roboticiens et équipes d’apprentissage par renforcement. Cette approche peut fonctionner pour des démonstrations unitaires, mais devient difficile à étendre à des milliers d’environnements d’entraînement. 

« Un modèle 3D montre l’objet. La CAO le spécifie. Une usine à ressources lui donne des conséquences et un objectif. »

Le modèle d’« usine » vise à introduire la répétabilité, l’acheminement, le débit et le contrôle qualité. 

Une couche d’orchestration agentique peut convertir une requête en un plan de dépendances complet définissant les étapes, les fournisseurs, les types d’entrées et de sorties, les vérifications, les relances et les conditions d’arrêt. Différents types de sources peuvent suivre différentes routes dans le pipeline, tandis que l’absence d’unités, de droits ou d’éléments critiques pour la tâche crée un état bloqué, au lieu d’être remplacée par des hypothèses infondées. 

Rien de cela ne retire la part humaine du jugement. Mais elle est repositionnée là où elle a le plus de valeur. 

Des vérifications déterministes peuvent valider les schémas, sommes de contrôle, unités, exhaustivité des ensembles, chargement OpenUSD et configuration physique. Un examen vision-langage peut déceler des défauts perceptifs échappant aux validateurs formels. Des réparations ciblées peuvent corriger certaines classes d’erreurs, tandis que les problèmes non résolus, la validation physique et les décisions de publication peuvent être remontés à une personne. 

C’est aussi ainsi que les capacités publiques et exclusives peuvent fonctionner ensemble. OpenUSD et les techniques publiques de reconstruction, de géométrie, de simulation et de validation forment une base interopérable. Nous les combinons à notre rendu propriétaire des matériaux, l’inférence des propriétés physiques, la coordination agentique et la conception d’environnements. 

Une architecture modulaire permet également d’intégrer de nouvelles technologies au pipeline à mesure de leur évolution. 

La simulation comme source d’expérience à part entière 

La simulation a souvent été considérée comme un substitut à la réalité. Dans Physical AI, elle peut aussi servir de source d’entraînement à part entière. 

Le monde réel reste l’arbitre ultime, mais il s’agit d’un environnement d’entraînement unique difficile. Il peut être lent, coûteux, compliqué à réinitialiser et, parfois, dangereux. Les défaillances rares restent rares, l’état interne peut rester caché et l’étiquetage peut s’avérer onéreux. 

La simulation change ces contraintes. Elle permet de reproduire à la demande des cas limites, d’exposer les états internes cachés, de générer des étiquettes précises et d’exécuter des variantes en parallèle. On peut ainsi créer des ensembles de données qui seraient peu pratiques, dangereuses ou impossibles à collecter physiquement. 

L’approche s’étend d’environnements d’ingénierie hautement détaillés à des milieux opérationnels beaucoup plus vastes. Les données de CAO et BIM, par exemple, peuvent servir à créer des environnements d’entraînement pour des robots évoluant dans des mines, usines ou autres infrastructures. 

Le secteur de la santé illustre aussi ce point. Le jeu de données 1000 Lungs comprend 1 000 épisodes virtuels de bronchoscopie synthétique, conçus pour la recherche sur la navigation dans des voies respiratoires humaines synthétiques. Chaque cas inclut une anatomie générée, la géométrie des voies, un itinéraire de caméra type procédure, des flux d’état restitués et des données de trajectoire. 

Lorsque l’obtention de données réelles à l’échelle requise est onéreuse ou difficile, la simulation peut apporter une expérience d’entraînement additionnelle. 

Rien de tout cela n’élimine le défi sim-to-real. Une physique incorrecte produit simplement une expérience incorrecte à grande échelle. 

C’est pourquoi l’incertitude, la provenance, les résultats de validation et l’adéquation à la tâche doivent accompagner chaque ressource, tandis que les observations réelles continuent de calibrer l’usine et de boucler la boucle. 

Le Blueprint fournit un cadre de référence pour ce processus, tandis que les implémentations, dont nos outils propriétaires, peuvent renforcer la précision physique requise selon les cas d’usage. 

Industrialiser la création de mondes 

Une usine à ressources n’est pas simplement un générateur de contenu sur lequel on a ajouté une couche de physique. C’est un système de conversion des descriptions d’objets physiques en expériences machine englobant la géométrie, les matériaux, le comportement, la perception, les tâches et les objectifs. 

À mesure que les modèles robotiques progressent, le goulot d’étranglement se déplace de plus en plus vers les environnements où ils apprennent. 

Les politiques d’entraînement ont besoin d’expériences qui soient à la fois diverses et contrôlées, synthétiques mais fondées sur la preuve, et conçues autour de la tâche plutôt que du spectaculaire. Les usines à ressources rendent ce processus plus reproductible et évolutif. 

Les robots n’ont pas besoin d’un monde simplement convaincant à l’œil. Ils ont besoin d’un monde qui réagit correctement, varie intelligemment et sait ce que signifie la réussite.