NVIDIA Mendorong Penerapan Pendinginan Cair Lebih dari 20% pada tahun 2025

 

Tingkat penetrasi solusi pendingin cair akan meningkat secara signifikan, melonjak dari sekitar 10% pada tahun 2024 menjadi lebih dari 20% pada tahun 2025. Menurut survei TrendForce terbaru, platform Blackwell NVIDIA diperkirakan akan dikirimkan pada kuartal keempat, yang akan meningkatkan adopsi solusi pendingin cair. Meningkatnya kesadaran global akan ESG, ditambah dengan CSP yang mempercepat penerapan server AI, memfasilitasi peralihan dari pendingin udara ke pendingin cair.

 

 

Di pasar server AI global, NVIDIA tetap menjadi pemasok dominan tahun ini. Di segmen server GPU AI, NVIDIA memimpin dengan pangsa pasar mendekati 90%, sementara AMD tertinggal sekitar 8%. TrendForce mencatat bahwa meskipun pengiriman NVIDIA ke Blackwell saat ini masih dalam jumlah kecil karena pengujian rantai pasokan yang sedang berlangsung, konsumsi energi platform baru yang tinggi – khususnya solusi yang dipasang di rak GB200 – menuntut peningkatan efisiensi pendinginan, yang kemungkinan akan meningkatkan penggunaan pendingin cair. Namun, rasio pendinginan cairan yang rendah pada ekosistem server yang ada menghadirkan tantangan, karena ODM perlu menavigasi kurva pembelajaran untuk mengatasi masalah kebocoran dan efisiensi pendinginan secara efektif. TrendForce mengantisipasi bahwa pada tahun 2025, lebih dari 80% GPU pada platform Blackwell akan menjadi GPU kelas atas, sehingga mendorong perusahaan pemasok listrik dan pendingin untuk bersaing di pasar pendingin cair AI, sehingga menghasilkan dinamika industri baru.

 

 

Saya Google Secara Agresif Memperluas Solusi Pendinginan Cair

 

Dalam beberapa tahun terakhir, perusahaan cloud besar Amerika seperti Google, AWS, dan Microsoft dengan cepat membangun server AI yang terutama didukung oleh GPU NVIDIA dan ASIC berpemilik. TrendForce melaporkan bahwa kabinet NVIDIA GB200 NVL72 memiliki daya desain termal (TDP) sekitar 140 kW, sehingga memerlukan solusi pendinginan cair, terutama cairan ke udara (L2A). Arsitektur lain, seperti server HGX dan MGX Blackwell, terutama menggunakan pendingin udara karena kepadatannya lebih rendah.

 

Bagi perusahaan cloud yang mengembangkan AI ASIC mereka, TPU Google telah mengadopsi solusi pendinginan udara dan cairan, menjadikannya pemimpin dalam pendinginan cair di antara perusahaan-perusahaan AS. BOYD dan Cooler Master adalah pemasok utama pelat dingin. Alibaba di Tiongkok adalah yang paling agresif dalam memperluas pusat data berpendingin cairan, sementara perusahaan cloud lainnya terus memilih pendingin udara untuk AI ASIC mereka.

 

TrendForce mengindikasikan bahwa perusahaan cloud akan menentukan pemasok komponen utama untuk solusi pendingin cair kabinet GB200. Pemasok utama pelat dingin meliputi Qihong dan Cooler Master, sementara manifold berasal dari Cooler Master dan Shuanghong, dan unit distribusi pendingin (CDU) dipasok oleh Vertiv dan Delta. Pengadaan komponen penting anti bocor, seperti quick diskoneksi (QD), masih didominasi oleh pabrikan asing seperti CPC, Parker Hannifin, Danfoss, dan Staubli.

 

▲ Pemasok Komponen Utama Server AI untuk Solusi Pendinginan Cair

 

 

II Bagaimana Mengatasi Chip AI yang Terlalu Panas? Jelajahi 3 Metode Pendinginan Server

 

Sebelum mempelajari lebih dalam tentang kompetisi pendinginan, penting untuk memahami metode pendinginan utama, yang dapat dikategorikan menjadi tiga jenis: pendinginan udara, pendinginan cair, dan pendinginan perendaman.

 

1. Pendingin Udara: Masih Sangat Diminati

Pendinginan udara adalah metode pendinginan yang paling banyak digunakan di pusat data dan ruang server perusahaan, seperti menyediakan udara sejuk ke server melalui kipas, unit pendingin, dan pipa panas. Untuk mencapai kinerja pendinginan yang optimal, diperlukan teknologi pendingin udara canggih seperti ruang uap (3D VC) yang dikombinasikan dengan pipa panas dan banyak kipas. Namun, meskipun peningkatan aliran udara dan kecepatan meningkatkan konveksi panas, kebisingan dan getaran yang berlebihan dapat berdampak negatif pada lingkungan server. Menurut Wu Junying, Deputy General Manager, pendingin udara masih memiliki permintaan pasar yang signifikan karena chip H100 dapat didinginkan secara memadai menggunakan udara. Namun, dengan pengiriman chip seri GB, laju adopsi pendingin cair akan semakin cepat.

 

2. Pendingin Cair: Pasar Utama yang Dikejar oleh Semua Vendor

Pendinginan cair, juga dikenal sebagai pendinginan cair langsung (DLC), dapat dibagi lagi menjadi cair-ke-udara dan cair-ke-cair.

Cairan ke Udara: Metode ini menggunakan pipa pendingin air untuk mengalirkan panas dari serpihan, dan air panas dialirkan ke kipas di bagian belakang kabinet untuk menyebarkan panas. Pendinginan cair-ke-udara merupakan respons terhadap keterbatasan fisik pendinginan udara di pusat data yang ada, karena memerlukan sedikit modifikasi pada infrastruktur ruang server-hanya menambahkan pintu belakang kipas dapat meningkatkan pendinginan. Saat ini, sekitar 60-70% pusat data masih menggunakan metode pendinginan ini. Namun, meskipun solusi cair-ke-udara merupakan solusi yang tepat, hal ini belum optimal; dinding kipas tambahan dapat meningkatkan tingkat kebisingan hingga 90-100 desibel (setara dengan tingkat kebisingan di jalan yang sibuk sekitar 80 desibel), sehingga menyulitkan staf untuk bekerja di ruangan dalam waktu lama.

 

Cair-ke-Cair: Metode ini melibatkan penutupan pipa tertutup yang diisi dengan cairan pendingin di sekitar komponen penghasil panas server. Panas ditransfer melalui lembaran tembaga termal ke cairan pendingin, memungkinkan siklus pertukaran cairan panas dan dingin. Tidak seperti cairan ke udara, metode ini tidak memerlukan dinding kipas di belakang lemari server, sehingga secara signifikan meningkatkan pemanfaatan ruang dan mengurangi tingkat kebisingan. GB200 NB072 kelas atas NVIDIA menggunakan pendingin cair-ke-cair.

 

3. Pendinginan Perendaman: Cawan Suci Pendinginan Masa Depan?

Pendinginan perendaman melibatkan merendam seluruh server dalam cairan non-konduktif, mirip dengan mandi air panas, yang secara efektif mendinginkan tidak hanya chip tetapi juga CPU, memori, dan komponen elektronik lainnya di dalam server. Namun, permasalahan seperti permasalahan lingkungan terkait dengan cairan perendaman, efek jangka panjang pada komponen elektronik, dan pemeliharaan berkelanjutan menghadirkan tantangan yang signifikan. Pusat data yang mempertimbangkan solusi imersi juga harus mengevaluasi integritas struktural lantai bangunan dan infrastruktur yang mendasari sistem kelistrikan dan air. Penerapan pendinginan imersi memerlukan desain ulang fasilitas yang ekstensif, sehingga menimbulkan biaya yang besar.