Liquid Cooling - Teknologi Pendinginan Generasi Berikutnya untuk Pusat Data dan Cluster Server

 

I Tinjauan Industri Pendingin Cair

 

1. Sejarah Perkembangan Pendinginan Cair

Dalam sejarah server berpendingin cairan, IBM pada tahun 1967 menjadi orang pertama yang mengembangkan komputer System360 dengan sistem pendingin air dingin.

 

Meskipun industri pendingin cair Tiongkok berkembang relatif lambat, teknologinya telah maju pesat. Pada tahun 2011, Sugon memelopori industri pendingin cair di Tiongkok. Selama lima tahun berikutnya, perusahaan Tiongkok seperti Huawei, Inspur, dan Sugon mulai memasuki pasar dan meningkatkan produksi. Sejak tahun 2019, teknologi pendingin cair telah mengalami kemajuan signifikan di seluruh produsen besar.

 

▲ Sejarah Perkembangan Industri Pendingin Cair Dalam dan Luar Negeri

 

2. Rantai Industri Server Berpendingin Cairan

Ekosistem industri pendingin cair mencakup sektor hulu, tengah, dan hilir, termasuk pemasok komponen hulu, penyedia server berpendingin cairan tengah, dan pengguna daya komputasi hilir.

Hulu: Terutama pemasok komponen produk dan peralatan pendingin cair, seperti konektor cepat, CDU, katup solenoid, tangki pendingin cairan imersi, manifold, dan cairan pendingin.

 

Tengah sungai:Terutama produsen server dan chip berpendingin cairan, serta fasilitas, modul, dan kabinet terintegrasi pendingin cair.

 

Hilir:Termasuk tiga operator telekomunikasi besar, perusahaan internet seperti Baidu, Alibaba, Tencent, dan JD, serta klien di industri informasi untuk aplikasi telekomunikasi, internet, pemerintahan, keuangan, transportasi, dan energi.

 

▲ Sisir Rantai Industri Server Pendingin Cair

 

 

II Konsep Dasar Pendinginan Cair

 

1. Klasifikasi Teknologi Pendingin Cair

Pendinginan cair menggunakan cairan sebagai pendingin, mengedarkannya untuk mentransfer panas dari komponen internal peralatan TI di pusat data ke luar, sehingga memastikan pengoperasian yang aman.

 

Keuntungan Pendinginan Cair:Ia menawarkan efisiensi dan kepadatan panas yang sangat tinggi, menghilangkan panas secara efisien, dan tidak terpengaruh oleh ketinggian, geografi, atau suhu.

 

Saat ini, ada tiga jenis utama teknologi pendingin cair: pendingin cair pelat dingin, pendingin semprot, dan pendingin cair perendaman.

 

▲ Klasifikasi Teknologi Pendinginan Cair

 

2. Perbandingan Tiga Teknologi Pendinginan Cair – Pendinginan Cairan Pelat Dingin

Pendinginan cairan pelat dingin menggunakan rongga tertutup yang terbuat dari logam konduktif termal (seperti tembaga atau aluminium) untuk mentransfer panas secara tidak langsung dari komponen penghasil panas ke cairan pendingin yang bersirkulasi dalam loop tertutup. Sistem ini biasanya terdiri dari menara pendingin, CDU, saluran pipa pendingin cair primer dan sekunder, cairan pendingin, dan lemari berpendingin cairan. Lemari berpendingin cairan berisi komponen seperti pelat dingin, pipa internal, konektor cairan, dan manifold.

 

Pendinginan cairan pelat dingin, sebagai metode pendinginan cairan non-kontak, memiliki penelitian lebih dari 10 tahun dan merupakan teknologi paling matang di antara tiga solusi pendingin cair utama. Ini adalah aplikasi efektif untuk menerapkan peralatan berdaya tinggi, meningkatkan efisiensi energi, mengurangi biaya operasional pendinginan, dan menurunkan total biaya kepemilikan (TCO). Namun, karena tidak mencapai 100% pendinginan cair, maka akan kurang efisien bila konsumsi daya kabinet rendah atau proporsi pendinginan cair minimal. Selain itu, desain pelat dingin harus mempertimbangkan tata letak komponen yang ada, membuat desain dan implementasi struktur menjadi lebih kompleks, dan standardisasi lebih sulit untuk dipromosikan.

 

▲ Diagram Prinsip Sistem Pendingin Cairan Pelat Dingin

 

3. Perbandingan Tiga Teknologi Pendinginan Cairan – Pendinginan Cairan Perendaman

Pendinginan cairan perendaman melibatkan perendaman seluruh komponen penghasil panas dalam cairan pendingin, memungkinkan kontak langsung antara komponen dan cairan pendingin untuk pertukaran panas. Komponen luar ruangan sistem meliputi menara pendingin, pipa primer, dan pendingin primer, sedangkan komponen dalam ruangan mencakup CDU, ruang imersi, peralatan IT, pipa sekunder, dan pendingin sekunder. Karena peralatan IT terendam seluruhnya dalam cairan pendingin sekunder, cairan non-konduktif seperti minyak mineral, minyak silikon, atau cairan berfluorinasi harus digunakan.

 

Berdasarkan ada tidaknya perubahan fasa selama pertukaran panas, pendinginan cairan perendaman dapat dibagi menjadi dua jenis:

 

1) Pendinginan perendaman satu fase:Pendingin sekunder hanya mengalami perubahan suhu selama perpindahan panas, tanpa perubahan fasa, dan panas dipindahkan seluruhnya melalui panas sensibel.

2) Pendinginan perendaman dua fase:Pendingin sekunder mengalami perubahan fasa selama perpindahan panas, menggunakan panas laten untuk mentransfer panas.

 

Dibandingkan dengan pendingin udara tradisional dan pendingin cairan pelat dingin, pendingin cairan perendaman menawarkan keunggulan seperti penghematan energi (PUE <1,13), kekompakan, keandalan yang tinggi, dan kebisingan yang rendah. Namun, hal ini juga menghadapi tantangan seperti keterbatasan pemilihan komponen, pembatasan pemeliharaan, dan persyaratan lingkungan ruangan tertentu.

 

▲ Pendinginan Perendaman Dua Fase

 

4. Perbandingan Tiga Teknologi Pendinginan Cair – Pendinginan Semprot

Pendinginan semprot adalah metode kontak langsung di mana cairan pendingin disemprotkan secara tepat ke komponen tingkat chip melalui gravitasi atau tekanan sistem, mendinginkan komponen penghasil panas atau elemen konduktif termal yang terhubung dengannya. Sistem ini biasanya terdiri dari menara pendingin, CDU, saluran pipa pendingin cair primer dan sekunder, cairan pendingin, dan lemari berpendingin semprot. Lemari berpendingin semprotan biasanya berisi sistem perpipaan, sistem distribusi cairan, modul semprotan, dan sistem pengembalian.

 

Pendinginan semprot juga mencapai pendinginan cair 100%, dan strukturnya lebih inovatif daripada pendinginan perendaman. Namun, kinerja hemat energinya lebih rendah dibandingkan pendingin cair perendaman, dan mempunyai keterbatasan serupa dengan pendinginan perendaman.

 

▲ Semprotan Pendinginan

 

5. Perbandingan Tiga Teknologi Pendingin Cair

 

▲ Perbandingan Metode Pendinginan Cairan Pusat Data

 

 

III Pendorong Perkembangan Industri Pendingin Cair

 

1. Lonjakan Volume Data Mendorong Peningkatan Kekuatan Komputasi yang Berkelanjutan

Volume data global dan daya komputasi berkembang pesat. Menurut data IDC, lingkup data global mencapai 103,66ZB pada tahun 2022, sementara volume data Tiongkok akan tumbuh dari 23,88ZB pada tahun 2022 menjadi 76,6ZB pada tahun 2027, dengan CAGR sebesar 26,3%, yang berpotensi menempati peringkat sebagai tingkat pertumbuhan tercepat di dunia. IDC memperkirakan bahwa dalam tiga tahun ke depan, data global yang baru dihasilkan akan melebihi total data yang dihasilkan selama 30 tahun terakhir, sehingga menyebabkan pertumbuhan eksponensial dalam daya komputasi yang diperlukan untuk penyimpanan, transmisi, dan pemrosesan data.

 

Peningkatan daya komputasi yang cerdas sedang menjadi tren, dengan komputasi cerdas yang mendorong sebagian besar pertumbuhan tersebut. Permintaan untuk memproses data kompleks dalam jumlah besar mendorong kebutuhan akan sumber daya komputasi yang lebih kuat dan efisien untuk mendukung pengembangan aplikasi kecerdasan buatan. Hasilnya, infrastruktur komputasi dibangun lebih cepat, menjadi “fondasi” untuk mendukung perkembangan ekonomi digital. Permintaan akan kemampuan data dan daya komputasi saling memperkuat. IDC memperkirakan bahwa kekuatan komputasi cerdas Tiongkok akan terus tumbuh pesat, mencapai 1.117,4 EFLOPS pada tahun 2027, dengan CAGR sebesar 33,9% dari tahun 2022 hingga 2027.

 

▲ Skala dan Perkiraan Volume Data Global

 

2. Lompatan ke Depan AIGC Mendorong Lonjakan Permintaan Daya Komputasi

Dengan evolusi model dan algoritme yang berkelanjutan, skala dan kompleksitas parameter telah meningkat secara signifikan, sehingga memerlukan kebutuhan daya komputasi yang lebih tinggi. Munculnya model generatif besar, yang diwakili oleh ChatGPT dan GPT-4, telah mendorong perkembangan pesat di bidang AIGC, yang selanjutnya mendorong lonjakan permintaan daya komputasi.

 

Sisi Pelatihan: Model GPT-3 berisi sekitar 174,6 miliar parameter, dan melatihnya sekali memerlukan sekitar 3.640 PF-hari (berjalan selama 3.640 hari pada 10 petaflops per detik). Jumlah parameter di GPT-4 dapat meningkat menjadi 1,8 triliun, dengan permintaan pelatihan meningkat hingga 68 kali lipat dari GPT-3, yang memerlukan 90-100 hari pelatihan pada 25,{{16} } A100 GPU.

Sisi Inferensi: Untuk GPT-3, menurut perkiraan Tianyi Think Tank, kebutuhan komputasi untuk menghasilkan 500 token (sekitar 350 kata) mencapai 1,75 PFLOPS.

 

▲ Evolusi Parameter Model Besar (2018-2023)

3. Pasar Pusat Data Terus Berkembang

Sebagai bagian penting dari infrastruktur baru, dalam beberapa tahun terakhir, seiring dengan pesatnya perkembangan rantai industri kecerdasan buatan dan aplikasi data, pembangunan pusat data di Tiongkok semakin cepat, dan jumlah rak pusat data terus meningkat. Berdasarkan rak standar sebesar 2,5kW, jumlah rak pusat data yang digunakan di Tiongkok mencapai 5,2 juta pada tahun 2021. Di antaranya, jumlah rak skala besar tumbuh lebih cepat, mencapai 4,2 juta, atau mencakup 80%. Pada akhir tahun 2022, jumlah total rak pusat data di Tiongkok mendekati 6 juta, menjadikannya salah satu yang teratas secara global. Diperkirakan pada tahun 2023, jumlah rak pusat data di Tiongkok akan mencapai 7,76 juta, dengan ukuran pasar pusat data mencapai 247 miliar RMB.

 

▲ Tren Prediksi Jumlah Total Rak Pusat Data di Tiongkok(2017-2023) (Unit. 10,000 Rak)

 

4. Masalah Konsumsi Energi dan Pembuangan Panas di Pusat Data Menjadi Lebih Menonjol

Dengan bertambahnya jumlah pusat data, konsumsi listriknya juga melonjak. Menurut statistik yang relevan, pada tahun 2021, pusat data Tiongkok mengonsumsi 216,6 miliar kWh, dan diperkirakan akan melebihi 380 miliar kWh pada tahun 2030. Pada saat yang sama, skala pusat data yang berkembang pesat memperburuk tantangan pembuangan panas:

 

Tingkat keseluruhan:Pusat data tradisional memerlukan biaya energi yang sangat besar, dengan sebagian besar konsumsi energi disebabkan oleh pendinginan. Pusat data sudah lama menggunakan energi secara intensif, dengan konsumsi listrik pusat data nasional mencapai sekitar 2%-3% dari total konsumsi listrik. Pada tahun 2030, konsumsi listrik pusat data diperkirakan akan melebihi 380 miliar kWh, dengan emisi karbon melebihi 200 juta ton. Pada saat yang sama, pusat data tradisional memerlukan biaya pendinginan yang signifikan. Menurut "Laporan Survei Pusat Data Global Uptime Institute 2022", rata-rata Efektivitas Penggunaan Daya (PUE) tahunan dari sampel pusat data global pada tahun 2022 adalah 1,55, dan sejak tahun 2014, rata-rata PUE tahunan tetap berada di antara 1.{{12} }.65, menunjukkan bahwa konsumsi energi terkait pendinginan mencapai 35%-39%.

 

Tingkat mikro:Peningkatan kepadatan komputasi menghadapi tantangan pendinginan. Peningkatan kinerja komputasi meningkatkan konsumsi daya server dan kepadatan termal, dan pendingin udara tradisional tidak lagi dapat memenuhi kebutuhan pembuangan panas perangkat elektronik dengan kepadatan termal tinggi. Seiring memudarnya Hukum Moore, masyarakat terus meningkatkan rasio efisiensi energi chip dan sistem melalui teknologi seperti komputasi heterogen, namun hal ini juga menyebabkan peningkatan pesat dalam konsumsi daya masing-masing chip. Saat ini, chip prosesor mainstream memiliki konsumsi daya sekitar 200W, dengan beberapa CPU yang baru dirilis melebihi 350W, dan chip akselerasi heterogen seperti GPGPU bahkan telah melampaui 700W. Dalam konteks ini, pendinginan udara tradisional tidak lagi cukup untuk memenuhi kebutuhan pendinginan, dan pusat data serta server memerlukan teknologi pendinginan yang lebih efisien untuk mengatasi masalah pembuangan panas pada perangkat berdaya tinggi, kepadatan termal tinggi, dan kepadatan komputasi tinggi. chip dan sistem.

 

Tingkat mikro:Suhu tinggi berdampak negatif pada komponen elektronik. Di lingkungan bersuhu tinggi, material mesin, insulasi kawat, dan segel kedap air lebih rentan terhadap penuaan, sehingga menimbulkan bahaya keselamatan. Lebih dari separuh kegagalan komponen elektronik disebabkan oleh suhu tinggi. Ketika suhu komponen semikonduktor naik 10 derajat, arus bocor balik menjadi dua kali lipat, meningkatkan risiko kebakaran dan meningkatkan kemungkinan terjadinya insiden keselamatan, yang berpotensi menyebabkan kelumpuhan pusat data.

 

5. Peningkatan Pesat dalam Kepadatan Daya Rak Tunggal Membutuhkan Revolusi Pendinginan di Pusat Data

Dibatasi oleh area pembangunan pusat data dan peraturan lingkungan hidup, meningkatkan kepadatan daya satu rak telah menjadi solusi utama untuk menyelaraskan permintaan daya komputasi yang terus meningkat dengan terbatasnya kapasitas pusat data. Menurut data yang dirilis oleh Colocation America, pada tahun 2020, rata-rata daya rak tunggal global pada pusat data mencapai 16,5kW, meningkat 175% dibandingkan tahun 2008. Menurut CCID Consulting, dengan peningkatan pesat dalam daya komputasi pusat data, tingginya biaya rak listrik tunggal akan tersebar luas. Diperkirakan pada tahun 2025, rata-rata daya listrik satu rak global pada pusat data akan mencapai 25kW.

 

Teknologi pendingin cair, dengan efek pendinginannya yang sangat efisien, dapat meningkatkan efisiensi dan stabilitas server secara signifikan, sekaligus memungkinkan lebih banyak server untuk diatur dalam ruang pusat data tertentu, sehingga meningkatkan efisiensi operasional pusat data.

 

▲ Korespondensi Antara Kepadatan Rak dan Metode Pendinginan

 

 

IV Pandangan dan Aplikasi Pasar Pendingin Cair

 

1. Pasar Server Pendingin Cair Tiongkok Diperkirakan Mencapai $8,9 Miliar pada tahun 2027

Ketika pengembangan pusat data yang ramah lingkungan menjadi sebuah tren, dan persaingan di bidang kecerdasan buatan semakin ketat, yang menyebabkan lonjakan permintaan akan daya komputasi berkinerja tinggi, pasar server pendingin cair di Tiongkok telah mengalami pertumbuhan yang luar biasa dalam beberapa tahun terakhir.

 

Menurut data IDC, skala pasar server pendingin cair Tiongkok mencapai $1,01 miliar pada tahun 2022, pertumbuhan tahun-ke-tahun sebesar 189,9%. Pada tahun 2023, pasar diperkirakan akan mempertahankan pertumbuhan pesat, dengan ukuran pasar diproyeksikan mencapai $1,51 miliar. Pada tahun 2027, ukuran pasar server pendingin cair Tiongkok diperkirakan akan mencapai $8,9 miliar.

 

▲ Ukuran Pasar dan Prakiraan Server Pendingin Cair di Tiongkok (Satuan: 100 Juta USD)

 

2. Struktur Aplikasi Industri Pusat Data Pendingin Cair di Tiongkok

Dikombinasikan dengan pendingin udara, pusat data pendingin cair memberdayakan pengembangan berbagai industri. Di masa depan, pasar pendingin pusat data akan melihat pola pengembangan kolaboratif "pendinginan udara + pendinginan cair". Teknologi pendingin udara tidak akan sepenuhnya digantikan oleh pendingin cair tetapi akan dipilih sesuai dengan kebutuhan pelanggan yang berbeda, dengan solusi pendinginan yang berbeda untuk pusat data.

 

Pada tahun 2019, pusat data pendingin cair terutama digunakan dalam aplikasi yang diwakili oleh superkomputer. Seiring dengan pertumbuhan volume bisnis industri internet, keuangan, dan telekomunikasi yang pesat, permintaan pendingin cair pada pusat data di industri tersebut akan terus meningkat. Diperkirakan pada tahun 2025, pusat data pendingin cair akan mencakup 24,0% industri internet, 25,0% industri keuangan, dan 23,0% industri telekomunikasi. Sementara itu, industri seperti energi, bioteknologi, layanan kesehatan, dan pemerintahan akan mengalami percepatan dalam integrasi pusat data pendingin cair ke dalam ekosistem baru pusat data tujuan umum, dengan sedikit penurunan skala secara keseluruhan. Diperkirakan pada tahun 2025, pusat data pendingin cair akan mencakup 10,5% industri energi, 8,5% industri bioteknologi, 6,5% industri perawatan kesehatan, dan bisnis lain seperti pemerintah akan turun menjadi 2,5%.

 

▲ Struktur Aplikasi Industri dan Prakiraan untuk Pusat Data Pendingin Cair di Tiongkok (2019-2025)

 

3. Lanskap Kompetitif Pasar Server Pendingin Cair Tiongkok: Sugon Memimpin, Diikuti oleh Huawei, Alibaba, dan Lainnya

Pabrikan dalam negeri, yang dipimpin oleh Sugon, telah mengumpulkan banyak pengalaman komersial, dan berdasarkan pendapatan produk, pangsa pasar, umpan balik pelanggan, dan indikator lainnya, Sugon adalah pemimpin pasar utama, diikuti oleh Huawei, Alibaba, dan Lenovo. IBM China diposisikan sebagai penantang potensial.

 

Industri server pendingin cair di Tiongkok memiliki hambatan teknis yang tinggi, dan perusahaan penggerak pertama (first mover) mempunyai keuntungan. Saat ini, produsen besar dalam negeri masih dalam tahap percobaan atau penerapan awal teknologi pendingin cair, dan lanskap persaingan belum jelas. Selain itu, karena masalah keamanan data, terdapat hambatan geografis tertentu terhadap pasokan infrastruktur pusat data di Tiongkok, sehingga menyulitkan produsen asing untuk memasuki pasar Tiongkok.

 

▲ Matriks Daya Saing Vendor Pusat Data Pendingin Cair di Tiongkok (2020)

 

4.Operator TelekomunikasiMengusulkanVisi Tiga Tahun untuk Pendinginan Cairan di Pusat Data

Sebagai pemimpin industri di sektor pusat data, tiga operator telekomunikasi besar ini berada di garis depan dalam eksplorasi dan penerapan teknologi pendingin cair. Pada bulan Juni 2023, tiga operator besar bersama-sama merilis "Buku Putih Teknologi Pendinginan Cair untuk Operator Telekomunikasi (2023)" dan menguraikan visi dan peta jalan tiga tahun untuk aplikasi pendingin cair.

 

Tujuan keseluruhan dari visi tiga tahun ini adalah untuk menyatukan kekuatan-kekuatan industri, mengatasi tantangan, membangun ekosistem, dan memperluas aplikasi dengan menyatukan sektor hulu dan hilir dalam industri, akademisi, dan penelitian. Fokusnya adalah menyerang teknologi inti utama dengan orisinalitas dan kepemimpinan, dan sepenuhnya membangun ekosistem pendingin cair tingkat tinggi. Tujuannya adalah untuk membangun ekosistem terbuka, mendorong pemisahan kabinet dan server pendingin cair, dan memimpin pembentukan standar terpadu yang mengurangi PUE (Power Usage Effectiveness) sekaligus mencapai TCO (Total Cost of Ownership) terendah. Memanfaatkan keunggulan skala, mereka bertujuan untuk memperluas aplikasi secara signifikan.

 

Dalam hal jadwal implementasi, tiga operator besar telah menyusun rencana rinci untuk 2023-2025.

 

• 2023:Melakukan verifikasi teknis, menguji secara menyeluruh kinerja pendinginan cair, mengurangi PUE, dan menyiapkan kemampuan teknis perencanaan, konstruksi, dan pemeliharaan;
• 2024: Melakukan pengujian skala besar, mendorong pemisahan kabinet dan server pendingin cair, mendorong persaingan, mendewasakan ekosistem industri, dan mengurangi total biaya siklus hidup;
• Pada tahun 2025:Mencapai penerapan skala besar, dengan teknologi pendingin cair yang digunakan di lebih dari 50% proyek, dan bersama-sama mendorong pembentukan ekosistem pendingin cair yang terpadu, terstandarisasi, hemat biaya, dan diterapkan secara luas. Industri telekomunikasi bertujuan untuk menjadi pemimpin dalam teknologi pendingin cair, pemimpin dalam rantai industri, dan pemimpin dalam mempromosikan aplikasi.

 

▲ Visi Tiga Tahun untuk Pendinginan Cairan oleh Operator Telekomunikasi

 

 

V Kesimpulan

 

Potensi Besar Perkembangan Industri Liquid Cooling, Beserta Tantangan dan Peluangnya

Saat ini, industri pendingin cair Tiongkok masih dalam tahap awal, dan tingkat penetrasi aplikasi pendingin cair masih relatif rendah. Namun, sebagai teknologi pendingin generasi berikutnya untuk pusat data dan cluster server, potensi pasar dan prospek masa depan dari pendingin cair telah menarik banyak perhatian, dengan penetrasi aplikasi diperkirakan akan meningkat pesat.

 

Meskipun demikian, industri pendingin cair di Tiongkok masih menghadapi beberapa tantangan pembangunan:

 

1. Ekosistem Industri yang Belum Matang

Meskipun teknologi pendingin cair telah berkembang selama lebih dari satu dekade baik di dalam negeri maupun internasional, ekosistemnya masih belum lengkap. Produknya sangat bervariasi, dan standarisasinya masih kurang. Saat ini, tidak ada standar antarmuka terpadu untuk server dan kabinet di industri. Kabinet dan server saling terkait erat, dan format produk dari produsen yang berbeda, seperti server, cairan pendingin, saluran pipa pendingin, dan sistem catu daya, berbeda-beda, sehingga membuat antarmuka produk tidak kompatibel satu sama lain. Hal ini membatasi persaingan dan menghambat pengembangan industri berkualitas tinggi.

 

2. Arsitektur Sistem Pendingin Cair yang Berkembang

Arsitektur sistem pendingin cair di industri berbeda-beda, dengan variasi antara pendinginan terdistribusi dan terpusat serta pengaturan catu daya. Server beberapa produsen telah berevolusi menjadi server bersuhu tinggi, yang memungkinkan pengurangan unit pendingin air, yang semakin menyederhanakan arsitektur sumber pendinginan dan mendorong pengurangan biaya dan efisiensi.

 

3. Tingginya Biaya Sistem Pendingin Cair

Dibandingkan dengan produk pendingin udara tradisional, pendingin cair masih menghadirkan tantangan dalam hal investasi awal dan total biaya siklus hidup yang tinggi. Masalah ini dapat mempengaruhi adopsi dan promosi produk pendingin cair dalam skala besar pada tahap awal.