Refroidir, nettoyer et alimenter les systèmes d’IA de façon durable

Les entreprises adoptent rapidement l’IA pour rester concurrentielles, ce qui stimule des innovations transformatrices en matière de durabilité. À mesure que les entreprises déploient de nouvelles plateformes informatiques et d’IA — comme les centres de données en périphérie (EDC), les centres de données (DC) et les fournisseurs de services infonuagiques (CSP) — les considérations de durabilité deviennent essentielles.

Les optimisations au niveau du système, combinées aux plateformes de nouvelle génération, améliorent la puissance de calcul, optimisent l’efficacité énergétique et de refroidissement, et réduisent les coûts d’exploitation à long terme. L’évolution rapide du matériel et des logiciels d’IA pose aux entreprises des défis uniques et des compromis à faire.

Solution

Les CSP impulsent une innovation rapide et le Open Compute Project (OCP) favorise la collaboration open source pour faire avancer la durabilité parallèlement à la croissance de l’IA. Grâce à une ingénierie transparente et un leadership en matière de durabilité, l’OCP offre aujourd’hui un marché de solutions et des feuilles de route communautaires claires pour les avancées futures. Ces améliorations techniques profitent à la fois à l’efficacité opérationnelle et aux résultats commerciaux.

Ce blogue met en avant les progrès clés en matière de durabilité présentés lors du Sommet mondial OCP 2024. Bien que de nombreuses présentations aient inclus de la vidéo et des diapositives, ce résumé ne fait référence qu’aux liens vers les diapositives.

DC :

Les CSP collaborent sur les constructions de nouveaux DC les plus innovantes, intégrant du béton écologique et de l’énergie renouvelable avec des avancées en efficacité énergétique, en refroidissement et dans les infrastructures informatiques composables.

Le rapport de l’OCP de 2018 sur la distribution d’énergie en courant continu de 400 V au niveau centre de données souligne un changement initié par les fournisseurs de télécommunications pour répondre aux inefficacités des distributions en 48VDC et en courant alternatif ainsi qu’au coût des opérations. Ces améliorations de la conception ont permis d’augmenter l’efficacité énergétique typique de 77 % à 90 % en réduisant les étapes intermédiaires de conversion d’énergie. Les serveurs utilisant des alimentations HVDC bénéficient d’une consommation d’énergie réduite, d’une diminution de la chaleur générée et d’une fiabilité accrue de l’alimentation — ce qui se traduit par des économies de coûts et une baisse de la consommation d’énergie.

Alimentation et racks :

L’OCP 2022 a défini une architecture de rack standardisée qui est désormais la pierre angulaire des améliorations de l’efficacité énergétique. Le marché associé est dynamique et en croissance, offrant aux entreprises une voie durable vers l’avenir. Si votre entreprise achète du nouveau matériel qui ne s’adapte pas à cette norme de rack, il est essentiel de comprendre pourquoi et quels compromis de durabilité sont impliqués. Ce rack est essentiel pour de multiples améliorations physiques afin de réduire les coûts indirects d’énergie associés aux conversions CA/CC et aux inefficacités d’utilisation.

Notez que les racks traditionnels alimentant les serveurs en courant alternatif grâce à des alimentations CA/CC doublement redondantes fonctionnent souvent de façon inefficace, les alimentations dépassant rarement 50 % d’utilisation. À la place, l’adoption d’architectures d’alimentation N+1 au niveau du rack peut améliorer grandement l’efficacité tout en minimisant idéalement les conversions d’énergie.

L’OCP communique également sur l’avenir : notez que les barres d’alimentation de 48 V, initialement introduites par Google en 2017, ont établi la base d’une architecture de rack efficace, et la mise à niveau vers +/-400Vdc fait partie des efforts de prochain niveau sur les racks. Cela procure des avantages comparables en termes d’efficacité et de fiabilité et peut exploiter l’écosystème de composants utilisés pour les VÉ. Il est nécessaire d’y penser pour l’IA, car les racks de nouvelle génération n’auront pas d’espace pour intégrer les composants d’alimentation et les batteries.

Refroidissement :

L’OCP propose des rapports de projets de refroidissement et des composants certifiés, offrant des informations sur les dernières avancées. Le refroidissement liquide surpasse le refroidissement à air en gérant des températures plus élevées et en absorbant et transférant la chaleur plus efficacement. Les dissipateurs thermiques récents peuvent intégrer le refroidissement liquide et, dans certains cas, des cartes mères entières sont immergées dans un liquide pour une gestion thermique optimale.

Le refroidissement liquide peut aussi prolonger la durée de vie des DC existants en leur permettant de supporter des technologies générant plus de chaleur/d’énergie. À mesure que grandissent les préoccupations d’efficacité, de coûts et de bruit, le rôle du refroidissement à air dans les centres de données diminue au profit de solutions de refroidissement plus efficaces.

Durabilité :

Le projet de durabilité OCP est résumé ici. Il comprend la modélisation du carbone, des indicateurs d’efficacité des centres de données, des volets de travail « cycle de vie » et plus encore. Pour un sommaire global de la situation actuelle, voir Dcf-Sustainability.

L’OCP fournit le formulaire de divulgation du carbone intrinsèque pour les exploitants de DC. Voir « Mettre en œuvre des stratégies efficaces de réduction du carbone » pour une introduction et un aperçu des complexités liées au travail avec différentes chaînes d’approvisionnement.

L’analyse des risques de durabilité de la croissance de l’informatique en périphérie démontre une prévoyance exceptionnelle, et l’utilisation de jumeaux numériques dans le projet HEATWISE pour modéliser et valider l’ensemble de l’écosystème énergétique, des bâtiments aux quartiers, représente une réflexion de pointe sur la façon dont les installations en périphérie peuvent être intégrées à l’infrastructure d’une ville. Voir https://sovereignedge.eu/ pour une pile infonuagique de périphérie ouverte et de prochaine génération en Europe.

Les panels OCP ont abordé les jumeaux numériques pour la conception et les opérations ainsi que le financement du DOE pour l’efficacité énergétique de la prochaine génération de DC et la durabilité.

La conformité réglementaire concernant les nouvelles normes et les normes émergentes pour la construction et l’exploitation des DC est cruciale pour la planification, et les contributeurs de l’OCP participent aux groupes de travail iMasons Climate Accord. Il existe une occasion de collaborer avec ces leaders sur des sujets de durabilité relatifs aux équipements, aux matériaux et à l’énergie.

Serveurs, réseaux et systèmes :

Le rythme d’innovation des serveurs s’accélère, la collaboration open source alimentant les avancées chez les CSP avant de se propager aux sites Telco, DC et EDC des entreprises.

Les améliorations en performance, sécurité, réseautage, approvisionnement et systèmes composables sont des axes d’innovation menés par l’OCP.

À mesure que le traitement de l’IA grandit en complexité et en échelle, l’ingénierie des systèmes combinant logiciels et matériel devient plus courante, avec des configurations de niche adaptées à des charges de travail spécifiques.

Pour 2024, l’OCP a lancé des axes consacrés précisément à cette optimisation — voir l’initiative stratégique Open Systems for AI.

Conclusion

Les innovations de multiples fournisseurs conviennent à l’évaluation et à l’adoption par les clients. L’OCP favorise des discussions ouvertes et des contributions profondes dans divers domaines techniques. Les entreprises qui collaborent avec des firmes d’ingénierie de pointe et des experts de domaine devraient mettre à profit les connaissances de l’OCP pour évaluer les besoins informatiques actuels et futurs.

Les aspects importants à prendre en compte dans la planification existante et future de vos investissements en infrastructure (capex et opex) sont la surveillance continue. Assurez-vous qu’un audit énergétique est effectué et prenne en considération l’efficacité énergétique, les règlements et les lignes directrices en matière de développement durable en vigueur ou à venir.

Trouvez des partenariats avec des experts en ingénierie dans les serveurs modernes, les dispositifs de stockage, le matériel réseau, les systèmes de refroidissement, les systèmes d’alimentation, ainsi que pour les vérifications de rack et de systèmes pour les partenaires commerciaux sur site et hyperscale.

Assurez-vous que les perspectives et les opinions de tous les intervenants de l’entreprise sont prises en compte lors de l’acquisition de nouveaux équipements d’IA, que ce soit dans les environnements EDC, DC ou CSP.

Références