Refroidir, purifier et alimenter les systèmes d’IA de façon durable

Les entreprises adoptent rapidement l’IA pour rester compétitives, ce qui stimule des innovations transformatrices en matière de durabilité. À mesure que les entreprises déploient de nouvelles infrastructures informatiques et plateformes d’IA – tels que les centres de données en périphérie (EDC), les centres de données (DC) et les fournisseurs de services infonuagiques (CSP) – les enjeux de durabilité deviennent essentiels.

Les optimisations au niveau du système, combinées à des plateformes de nouvelle génération, augmentent la capacité de calcul, améliorent l’efficacité énergétique et de refroidissement et réduisent les coûts d’exploitation à long terme. L’évolution rapide du matériel et des logiciels d’IA présente aux entreprises des défis uniques et des compromis à faire.

Solution

Les CSP stimulent l’innovation rapide et le projet Open Compute (OCP) favorise la collaboration en source ouverte pour faire progresser la durabilité parallèlement à la croissance de l’IA. Grâce à une ingénierie transparente et à un leadership en développement durable, l’OCP propose aujourd’hui un marché de solutions et des plans directeurs communautaires clairs pour les progrès futurs. Ces améliorations techniques profitent à la fois à l’efficacité opérationnelle et aux résultats d’affaires.

Ce blogue met en lumière les principales avancées en matière de durabilité présentées lors du Sommet mondial OCP 2024. Bien que de nombreuses présentations incluaient des vidéos et des diapositives, ce résumé ne fait référence qu’aux liens vers les diapositives.

DC :

Les CSP collaborent aux réalisations les plus innovantes de nouveaux DC, en intégrant du béton vert et de l’énergie renouvelable avec des avancées en efficacité énergétique, en refroidissement et en infrastructures informatiques composables.

Le rapport de l’OCP de 2018 sur la distribution d’alimentation en courant continu 400 V au niveau du centre de données met en évidence un changement initié par les fournisseurs de télécommunications pour pallier les inefficacités dans la distribution à la fois du 48 V CC et du CA ainsi que les coûts d’exploitation. Ces améliorations de conception ont permis d’augmenter le rendement énergétique typique de 77 % à 90 % en réduisant le nombre d’étapes de conversion d’énergie intermédiaires. Les serveurs alimentés par des sources HVDC bénéficient d’une consommation d’énergie réduite, d’une diminution de la génération de chaleur et d’une fiabilité accrue en alimentation – ce qui mène à des économies et une diminution de l’énergie consommée.

Alimentation et baies :

La spécification OCP de 2022 a établi une architecture de baies normalisée, qui est désormais un pilier des améliorations en efficacité énergétique. Le marché associé est dynamique et en pleine croissance, proposant aux entreprises une voie durable vers l’avenir. Si votre entreprise achète du nouveau matériel ne correspondant pas à cette norme de baie, il est essentiel de comprendre pourquoi et quels compromis en durabilité sont en jeu. Cette baie est cruciale pour plusieurs améliorations à l’usine physique, visant à réduire les coûts énergétiques associés aux conversions AC/DC et aux inefficacités d’utilisation.

Notez que les baies traditionnelles qui acheminent le courant alternatif vers des serveurs dotés d’alimentations redondantes AC/DC fonctionnent souvent de manière inefficace, le taux d’utilisation de ces alimentations dépassant rarement 50 %. À l’inverse, l’adoption d’architectures d’alimentation N+1 au niveau de la baie peut considérablement améliorer l’efficacité tout en minimisant idéalement les conversions électriques.

L’OCP annonce aussi l’avenir : il convient de noter que les barres de distribution 48 V, introduites initialement par Google en 2017, ont posé les bases d’une architecture de baies efficace et que leur évolution vers +/-400 V CC est un effort à venir au niveau des baies. Cela présente des avantages similaires en efficacité et en fiabilité et peut tirer parti de l’écosystème de composants des véhicules électriques. C’est crucial pour l’apprentissage automatique, car les prochaines générations de baies n’auront plus l’espace requis pour les composants d’alimentation et de batteries.

Refroidissement :

L’OCP fournit des rapports de projets en refroidissement et des composants de refroidissement certifiés, offrant un aperçu des dernières innovations. Le refroidissement liquide surpasse le refroidissement à air en gérant des températures plus élevées et en absorbant et transférant la chaleur plus efficacement. Les nouveaux dissipateurs thermiques peuvent intégrer le refroidissement liquide, et dans certains cas, des cartes mères complètes sont immergées dans un liquide pour une gestion thermique optimale.

Le refroidissement liquide peut également prolonger la durée de vie des DC existants en leur permettant de soutenir de la technologie générant plus de chaleur/puissance. Au fur et à mesure que les préoccupations concernant l’efficacité, les coûts et le bruit augmentent, le rôle du refroidissement à air dans les centres de données s’amenuise au profit de solutions de refroidissement plus efficaces.

Durabilité :

Le projet sur le développement durable de l’OCP en fait le résumé ici. Il comprend la modélisation du carbone, des indicateurs d’efficacité des centres de données, des volets sur le cycle de vie et plus encore. Pour un résumé global de la situation actuelle, voir Dcf-Sustainability.

L’OCP fournit le formulaire de divulgation du carbone intrinsèque à l’intention des exploitants de DC. Voir « Implémenter des stratégies efficaces de réduction de carbone » pour une introduction et un aperçu de la complexité liée à la gestion de chaînes d’approvisionnement diverses.

L’analyse des risques de durabilité liée à la croissance de l’informatique en périphérie démontre une prévoyance exceptionnelle et l’utilisation de jumeaux numériques dans le projet HEATWISE pour modéliser et valider l’ensemble de l’écosystème énergétique – du bâtiment jusqu’au quartier – représente l’avant-garde sur la façon d’intégrer les installations de l’extrémité réseau à l’infrastructure d’une ville. Voir https://sovereignedge.eu/ pour une pile logicielle infonuagique ouverte nouvelle génération en Europe.

Des panels OCP ont abordé les jumeaux numériques pour la conception et les opérations ainsi que le financement du DOE pour l’efficacité énergétique et la durabilité de prochaine génération pour les DC.

La conformité réglementaire avec les nouvelles normes de construction et d’exploitation des DC est critique en matière de planification et les contributeurs OCP y participent avec les groupes de travail iMasons Climate Accord. Il y a une occasion de collaborer avec ces chefs de file sur la durabilité des équipements, matériaux et de l’alimentation.

Serveurs, réseautique et systèmes :

Le rythme d’innovation des serveurs s’accélère, la collaboration en source ouverte propulsant les avancées à travers les CSP avant qu’elles ne soient déployées au sein des centres de données télécoms et d’entreprise ainsi que les EDC.

Les améliorations en performance, sécurité, réseautique, approvisionnement et systèmes composables constituent des axes d’innovation menés par OCP.

À mesure que le traitement IA croît en complexité et en ampleur, l’ingénierie logicielle/matérielle des systèmes combinés se généralise, avec des configurations spécialisées pour des charges de travail spécifiques.

Pour 2024, l’OCP a tenu des axes spécifiques sur cette optimisation – voir l’Initiative stratégique des systèmes ouverts pour l’IA.

Conclusion

Les innovations de multiples fournisseurs conviennent à l’évaluation et à l’adoption par la clientèle. L’OCP encourage les échanges ouverts et les contributions majeures dans divers domaines techniques. Les entreprises œuvrant avec des firmes d’ingénierie de pointe et des experts doivent s’appuyer sur les perspectives OCP afin d’évaluer les besoins informatiques actuels et futurs.

Les éléments importants à considérer dans la planification actuelle et future pour les dépenses en immobilisations et en exploitation sont le suivi continu. Assurez-vous qu’un audit d’alimentation est réalisé et qu’il tient compte des règlements et lignes directrices touchant l’efficacité énergétique et la durabilité en vigueur ou à venir.

Tissez des partenariats avec des experts en ingénierie pour serveurs modernes, dispositifs de stockage, équipement réseau, systèmes de refroidissement, d’alimentation, de vérification de baies et de systèmes pour partenaires en entreprise, sur site ou hyperéchelle.

Assurez-vous que les perspectives de l’ensemble des parties prenantes sont prises en compte lors de l’acquisition de nouveaux appareils d’IA, que ce soit en environnement EDC, DC ou CSP.

Références