La conversation autour des centres de données AI évolue rapidement. Selon Divyabhanu (Bhanu) Singh, vice-président principal – Secteurs technologiques chez HCLTech, les questions que posent les clients aujourd’hui sont nettement différentes de celles qu’ils posaient il y a un an.

Les discussions précédentes portaient sur la capacité des organisations à construire une infrastructure AI et à obtenir suffisamment de GPU. Maintenant, la question est passée de « pouvons-nous la construire? » à « pouvons-nous l’exploiter selon une structure de coûts qui génère un rendement? » Il s’agit à la fois d’un problème économique et d’ingénierie.

« Ce problème de centre de données AI n’est plus un problème technologique; c’est un problème d’allocation du capital », a indiqué Singh. 

La réglementation est aussi devenue un élément plus important de l’équation d’infrastructure. Aux États-Unis, les exigences en matière de gouvernance de l’AI continuent d’évoluer aux niveaux fédéral et étatique, tandis que le EU AI Act est devenu généralement applicable en août. Pour Singh, cela renforce un changement plus large : l’endroit où l’AI fonctionne, où les données résident et qui contrôle l’infrastructure deviennent de plus en plus des décisions d’affaires stratégiques.

De la capacité GPU à l’économie d’entreprise

Le passage à un retour sur investissement (ROI) change la manière dont les décisions relatives à l’infrastructure sont prises.

Les centres de données AI exigent des investissements majeurs et la discussion dépasse désormais le cadre de l’équipe technique. Les responsables de l’infrastructure doivent comprendre comment la capacité se traduit en résultats d’affaires, combien de temps la nouvelle infrastructure demeurera pertinente et où les différentes charges de travail peuvent s’exécuter le plus efficacement.

En même temps, les goulets d’étranglement deviennent plus complexes.

« Les GPU étaient une contrainte l’an dernier. Aujourd’hui, le terrain, l’électricité, le refroidissement, l’infrastructure électrique, le réseau et la main-d’œuvre — tous ces éléments se sont entrecroisés et constituent aujourd’hui un ensemble de contraintes multi-niveaux », a-t-il déclaré. 

La disponibilité de l’énergie, la capacité du réseau, le terrain, les chaînes d’approvisionnement, la main-d’œuvre et la réglementation déterminent où et à quelle vitesse l’infrastructure AI peut être construite, alors que l’économie de reconversion influence la possibilité de réutiliser les installations existantes. Ces contraintes sont fortement interdépendantes, et résoudre l’une d’elles peut vite en révéler une autre.

Cela fait de la stratégie des centres de données AI un exercice de coordination des dépendances plutôt qu’une résolution d’une seule rareté de ressources.

Concevoir pour l’inférence

Un deuxième changement est le passage d’environnements axés sur l’entraînement à une demande accentuée en inférence.

Bhanu mentionne que ce changement force les organisations à repenser la façon dont leurs centres de données sont conçus. L’entraînement et l’inférence imposent des exigences différentes à l’infrastructure, et des architectures conçues pour une phase de l’adoption de AI peuvent ne pas convenir à la prochaine.

La question est de savoir comment concevoir en fonction d’une cible mouvante alors que la technologie, les charges de travail et les habitudes de consommation continuent d’évoluer. 

L’énergie, le terrain, le refroidissement, l’infrastructure électrique et la main-d’œuvre influencent tous la rapidité de mise en ligne de cette capacité. Singh souligne également que la disponibilité de l’infrastructure ne peut être considérée séparément de l’environnement physique qui l’entoure, y compris l’accès à l’électricité, à l’eau et aux collectivités prêtes à accueillir le développement de centres de données. 

Un avenir hybride

Pour Singh, les entreprises auront besoin du nuage public, d’une infrastructure AI privée et d’environnements souverains, car différentes charges de travail créent des exigences différentes.

Il compare la discussion actuelle à la transition infonuagique antérieure, alors que les entreprises devaient décider ce qui devait demeurer dans leurs propres centres de données et ce qui devait migrer vers le nuage public.

L’AI suivra un parcours similaire.

« Ce sera une politique du bon cheval pour la bonne course que toutes les entreprises finiront par adopter », a-t-il dit. 

Le nuage public peut être attrayant lorsque la rapidité, l’innovation et l’accès à des capacités complexes sont les plus importants. Une infrastructure AI privée devient essentielle lorsque les entreprises détiennent des données sensibles, des exigences réglementaires ou des charges de travail devant rester proches des personnes et des systèmes qui les utilisent.

Les environnements souverains ajoutent une autre dimension lorsque le contrôle juridictionnel et la résidence des données influencent l’endroit où les charges de travail peuvent s’exécuter.

« La réponse n’est pas nuage ou privé ou souverain. C’est les trois. Le nuage pour la flexibilité. Le privé pour l’économie opérationnelle. Le souverain lorsqu’un contrôle juridictionnel est crucial », affirme Singh.

Cela rend l’avenir intrinsèquement hybride. Le défi pour les entreprises est de gérer ces environnements de façon cohérente, avec des approches communes en matière de gouvernance, de contrôle des coûts et de portabilité des charges de travail.

« Ce qui est difficile n’est pas de choisir un seul. C’est d’en exploiter trois comme un seul », ajoute-t-il. 

Du coût par jeton aux résultats par watt

L’économie de l’AI exige également de nouvelles mesures de succès.

Singh prétend que les organisations doivent aller au-delà de la consommation brute d’infrastructure et se concentrer sur la valeur d’affaires créée par l’énergie et la puissance de calcul utilisées.

« La devise ou l’indicateur de succès n’est plus aussi pur. On parle maintenant de jeton par watt, ou de watt par jeton, et, en fait, on est passé aux résultats par watt », a-t-il déclaré. 

Cela revoit l’efficacité de l’infrastructure en fonction des réalisations des charges de travail.

L’orchestration devient alors de plus en plus importante. Les entreprises doivent pouvoir déterminer à l’exécution quel environnement convient le mieux à la charge de travail, selon le coût, la latence, la sensibilité des données et les exigences réglementaires, tout en maintenant une gouvernance cohérente et un contrôle des coûts à l’échelle de leur parc.

Pour les chefs de l’infrastructure, le défi n’est plus simplement de construire la capacité. Il s’agit de créer des architectures flexibles capables de s’adapter à mesure que les charges de travail, les priorités d’affaires, les modèles de déploiement et les technologies évoluent.

L’ère de l’inférence rend cette adaptabilité essentielle. Les centres de données AI constituent une cible mouvante, et prévoir le changement dès le départ donnera aux entreprises plus de liberté pour réagir au fur et à mesure que la demande et l’économie évoluent.