Powering the AI revolution: Inside the grid, thermal, and interconnect challenges limiting data center growth

Ledakan AI menghadapi batas fisik kapasitas jaringan listrik dan disipasi panas. Pusat data AI kini menghadapi tantangan mulai dari daya komputasi yang melampaui kemampuan transfer data interkoneksi GPU, fluktuasi beban yang membebani sistem koreksi faktor daya (PFC) jaringan, hingga kepadatan daya rak yang membebani sistem pendingin tradisional. Rak GPU modern melebihi konsumsi daya 50-100 kW per kabinet, membuat pendingin udara dan cair konvensional tidak memadai. Untuk mengatasi hambatan termal, operator beralih ke pelat dingin direct-to-chip yang dipasang langsung pada prosesor, pendingin imersi dua fase yang memanfaatkan panas laten penguapan cairan untuk menyerap lonjakan panas dari rak GPU dengan kepadatan tinggi dan mengurangi energi pendingin hingga 40%, serta sistem pendingin cair loop tertutup seperti yang diterapkan Microsoft. Sementara itu, interkoneksi tembaga listrik telah mencapai batas fisiknya, memaksa peralihan ke interkoneksi optik dan silikon fotonik yang jauh lebih mahal namun mentransmisikan data lebih cepat dan andal. Krisis koneksi jaringan listrik menjadi tantangan utama, dengan transformator tegangan tinggi mengalami waktu tunggu yang melonjak dari 6-12 bulan menjadi dua hingga empat tahun. Fluktuasi beban GPU menciptakan harmonisa kompleks yang memanaskan transformator, dan cluster AI yang berkembang ke level gigawatt mendorong switchgear step-down tegangan hingga batas toleransi. Perusahaan beralih ke transformator solid-state yang menggunakan elektronik frekuensi tinggi dan semikonduktor untuk menurunkan tegangan, dengan efisiensi 97-99% dibandingkan 95-97% transformator konvensional. Beberapa pemilik pusat data membangun pembangkit listrik dan sistem gardu induk sendiri, seperti xAI yang menambahkan 59 turbin gas alam portabel berkapasitas total lebih dari 400 MW untuk pusat data Colossus di Memphis. Di Northern Virginia, pusat data baru menghadapi waktu tunggu hingga 14 tahun untuk koneksi jaringan. Meskipun menghadapi berbagai hambatan ini, pusat data AI terus tumbuh pesat dengan 66 GW kapasitas baru sedang dibangun di Amerika Utara saja.