Melonjaknya Permintaan Memicu Revolusi Daya Komputasi, Pendinginan Cair Akan Sangat Mendorong Pertumbuhan Industri!

 

Sejak 2023, model chatbot AI OpenAI, ChatGPT, telah menerima banyak pujian. Chatbot ini menggunakan sejumlah besar data pelatihan untuk mensimulasikan perilaku bahasa manusia, menghasilkan teks melalui analisis semantik, yang memungkinkannya berinteraksi dengan pengguna secara alami dan realistis, yang seringkali tidak dapat dibedakan dari interaksi manusia.

 

Di banyak bidang, seperti penciptaan puisi dan penulisan naskah, bahkan melampaui kemampuan manusia. Namun, pengembangan kecerdasan buatan membutuhkan daya komputasi yang sangat kuat, yang menyebabkan peningkatan konsumsi daya server, kepadatan daya yang lebih tinggi per unit di pusat data, dan meningkatnya konsumsi energi. Teknologi pendingin udara tradisional tidak dapat lagi memenuhi kebutuhan pendinginan, menjadikan pendinginan cair sebagai kebutuhan yang tidak diragukan lagi akan mendorong pertumbuhan industri!

 

▲ Model chatbot AI OpenAI, ChatGPT

 

 

Ⅰ Kesuksesan Luar Biasa ChatGPT: Kekuatan Komputasi Seperti Apa yang Dibutuhkan?

 

Data, algoritma, dan daya komputasi adalah tiga elemen inti kecerdasan buatan, dengan daya komputasi disebut sebagai "mesin" atau "motor" AI. Baik data maupun algoritma bergantung pada daya komputasi. Menurut perkiraan OpenAI, sejak 2012, daya komputasi yang dibutuhkan untuk melatih model AI terbaik di dunia telah berlipat ganda kira-kira setiap 3-4 bulan, dengan peningkatan daya komputasi tahunan yang dibutuhkan untuk model pelatihan terbaik mencapai sepuluh kali lipat. Selama fase pelatihan, ChatGPT menghabiskan total sekitar 3640 PF-hari (yang berarti berjalan pada efisiensi 1 PetaFLOP/s selama 3640 hari). Hal ini menyoroti bahwa daya komputasi yang kuat adalah kunci untuk mendukung penerapan lebih lanjut dan mempopulerkan konten yang dihasilkan AI (AIGC) di masa mendatang.

 

Ambil ChatGPT sebagai contoh: ChatGPT didukung oleh model GPT-3.5, yang telah melalui tiga iterasi (GPT-1, GPT-2, GPT-3), dengan jumlah parameter meningkat dari 117 juta menjadi 175 miliar, dan jumlah data pra-pelatihan meningkat dari 5 GB menjadi 45 TB (setara dengan 160 kali lipat seluruh versi bahasa Inggris Wikipedia). Jumlah data dan komputasi yang sangat besar ini membutuhkan daya komputasi yang lebih tinggi untuk mendukung operasinya. Menurut data dari Similarweb, pada Januari 2023, ChatGPT memiliki sekitar 13 juta pengguna aktif harian, yang masing-masing mengajukan pertanyaan dengan rata-rata sekitar 1.000 kata.

 

Ini menghasilkan total sekitar 13 miliar kata (17,33 miliar token). Dengan asumsi tugas didistribusikan secara merata selama 24 jam, jumlah GPU A100 yang dibutuhkan adalah 17,33 miliar * 2 * 300 miliar / (20% * 24 jam * 3600 detik)=601.75 PetaFLOP/S. Mengingat adanya puncak lalu lintas, dengan asumsi lalu lintas puncak lima kali lipat dari rata-rata harian, total 602 server DGX A100 akan dibutuhkan untuk memenuhi permintaan lalu lintas saat ini, yang membuat persyaratan daya komputasi menjadi sangat ketat.

 

Hal ini menggambarkan bahwa untuk melatih model AI yang lebih baik dan benar-benar menerapkan model AI di berbagai industri, diperlukan daya komputasi yang lebih efisien dan sumber daya komputasi yang lebih melimpah. Daya komputasi telah menjadi faktor penting yang membatasi industrialisasi AI, dan hal ini pasti akan memicu revolusi daya komputasi baru! Dengan peningkatan pesat dalam permintaan daya komputasi AI, daya CPU/GPU terkait pun semakin cepat, sehingga memerlukan solusi pendinginan yang lebih kuat dan lebih efektif untuk menjaga peralatan tetap berjalan lancar.

 

 

Ⅱ Aplikasi Daya Komputasi yang Luas

 

Di era ekonomi digital, daya komputasi tidak hanya menjadi faktor produktivitas utama, tetapi juga akan menjadi faktor yang diterapkan secara universal. Seiring dengan kemajuan pembangunan infrastruktur daya komputasi, model dan bentuk bisnis baru aplikasi daya komputasi bermunculan dengan cepat, yang mengintegrasikan daya komputasi secara mendalam ke dalam lebih banyak industri, seperti manufaktur, transportasi, pendidikan, kedirgantaraan, keuangan, dan media. Pada saat yang sama, penjadwalan, manajemen, dan perdagangan daya komputasi menjadi titik fokus eksplorasi industri. Daya komputasi berevolusi dari "sumber daya" menjadi "faktor", menjadi bagian penting dari produksi dan kehidupan masyarakat.

 

Perkembangan berbagai industri telah memicu ledakan permintaan daya komputasi. Untuk memaksimalkan kinerja prosesor, diperlukan efisiensi pendinginan yang lebih tinggi, dan teknologi pendingin udara tradisional tidak dapat lagi memenuhi permintaan daya komputasi yang melonjak. Server pendingin cair, dengan keunggulannya, akan mendapatkan pangsa pasar yang signifikan dan sangat mendorong perkembangan industri!

 

 

Ⅲ Peningkatan Signifikan dalam Permintaan Pendinginan Cair

 

Pada tahun 2022, prosesor server generasi keempat Intel mengalami konsumsi daya CPU tunggal melampaui 350 watt, dan konsumsi daya chip GPU tunggal NVIDIA melampaui 700 watt. Kepadatan daya komputasi kluster AI umumnya mencapai 50 kW per kabinet, dan teknologi pendingin udara tradisional tidak dapat lagi mengatasinya! Efisiensi pendinginan yang lebih tinggi diperlukan untuk memaksimalkan kinerja prosesor.

 

Sementara itu, dari perspektif kebijakan, dimulainya proyek "Data Timur, Komputasi Barat" Tiongkok dan tujuan karbon ganda telah membuat industri lebih memperhatikan konservasi energi, pengurangan emisi, dan pengembangan berkualitas tinggi. Persyaratan teknis yang lebih ketat telah ditetapkan untuk Efektivitas Penggunaan Daya (PUE) pusat data, dengan PUE rata-rata pusat data besar dan super besar yang baru dibangun di seluruh negeri akan dikurangi menjadi di bawah 1,3, dan selanjutnya dikurangi menjadi di bawah 1,25 di simpul hub nasional.

 

Pendinginan cair memenuhi kebutuhan efektivitas biaya dan arahan kebijakan pasar dalam banyak aspek, termasuk efisiensi ekonomi dan kinerja pendinginan, sehingga menjadikannya sangat berharga dan bermanfaat secara ekonomi. Menurut CCID Consulting, pasar IDC berpendingin cair di Tiongkok diperkirakan akan melampaui 120 miliar yuan pada tahun 2025, dengan tingkat pertumbuhan lebih dari 30% dan tingkat penetrasi saat ini sekitar 20%. Permintaan untuk pendinginan cair meningkat secara signifikan, dan prospek pasarnya menjanjikan.

 

 

Ⅳ Rantai Industri Server Pendingin Cair

 

1. Panorama Industri Pendinginan Cair

Industri server pendingin cair mencakup lebih dari sekadar server pendingin cair; seluruh rantai industrinya panjang, dengan subbidang yang luas dan banyak pelaku yang berpartisipasi, menjadikannya industri padat modal.Teknologi pendingin cair saat ini berada dalam tahap pengembangan yang pesat, dan jika pemain terkait memiliki keunggulan dalam pembiayaan atau akuisisi pelanggan, mereka dapat membangun hambatan tertentu untuk masuk.

 

Perusahaan di berbagai subbidang secara bertahap merambah bidang terkait berdasarkan keunggulan inti mereka, membangun ekosistem mereka sendiri. Menurut pembagian dari infrastruktur ke aplikasi, industri pusat data berpendingin cairan dapat dibagi menjadi tiga subbidang utama: infrastruktur pendingin cairan, industri midstream, dan aplikasi industri.

 

Sektor Infrastruktur Pendinginan Cair menyediakan peralatan dan fasilitas penting untuk membangun pusat data berpendingin cair. Sektor ini dibagi menjadi beberapa subbidang seperti kabinet pendingin cair, cairan pendingin, sistem pendingin, sistem daya, sistem jaringan, dan sistem manajemen infrastruktur pusat data. Subbidang ini terutama menyediakan peralatan, sistem perangkat lunak, dan refrigeran untuk pengoperasian server. Selain itu, sektor infrastruktur mencakup kontraktor konstruksi, operator jaringan, dan pemasok daya. Kontraktor konstruksi bertanggung jawab atas pembangunan dan pemasangan peralatan dan fasilitas yang disebutkan di atas, operator jaringan menyediakan akses jaringan dasar, dan pemasok daya menyediakan listrik yang dibutuhkan untuk pengoperasian peralatan. Area ini menyediakan lingkungan periferal yang relatif mendasar untuk pusat data.

 

Industri midstream mencakup produsen server, penyedia hosting pusat data, dan beberapa pendatang baru. Produsen server meneliti, merancang, dan memproduksi server yang cocok untuk lingkungan pendingin cair atau langsung memproduksi server pelat dingin berpendingin cair. Penyedia hosting pusat data membangun dan mengoperasikan pusat data, memanfaatkan keunggulan mereka sendiri untuk mengintegrasikan sumber daya dari sektor infrastruktur dan menawarkan layanan hosting server kepada pengguna aplikasi. Seiring berkembangnya pusat data dengan cepat, perusahaan baru memasuki bidang pusat data berpendingin cair.

 

Pengguna aplikasi pusat data pada dasarnya terbagi menjadi tiga subbidang: komputasi awan dan daya komputasi awan, internet dan blockchain, serta pengguna lainnya. Mereka adalah pengguna utama pusat data. Penyedia komputasi awan dan daya komputasi awan menghasilkan pendapatan dengan menawarkan alokasi dan penjadwalan daya komputasi yang fleksibel kepada pelanggan melalui virtualisasi. Beberapa perusahaan internet dan blockchain besar sering kali membangun pusat data secara langsung dengan bekerja sama dengan operator pusat data, sementara pengguna lainnya umumnya secara langsung menjadi tuan rumah atau menyewa server atau sumber daya daya komputasi dari operator pusat data.

 

2. Tinjauan Umum Industri Pendinginan Cair

Dibandingkan dengan pendinginan udara, teknologi pendinginan cair menawarkan keuntungan berupa stabilitas tinggi dan efisiensi pendinginan tinggi. Dari perspektif aplikasi yang komprehensif, pendinginan cair secara bertahap memperlihatkan keuntungan ekonominya ketika kepadatan daya melebihi 15 kW per kabinet. MenurutAplikasi UPSjurnal, suhu inti CPU pada server berpendingin cairan bisa 20-30 derajat lebih rendah daripada suhu maksimum pada sistem berpendingin udara, sehingga meningkatkan keandalan secara signifikan.

 

Buku putih Intel,Praktik Inovasi Pusat Data Hijau-Referensi Desain Sistem Pendingin Cair Pelat Dingin, menunjukkan bahwa pusat data berpendingin udara biasanya dapat mengelola pendinginan untuk kabinet dengan tingkat daya hingga 12 kW. Untuk kabinet yang melebihi 15 kW, pusat data berpendingin udara yang ada telah mencapai batas maksimal kemampuan pendinginan konveksi udaranya. Teknologi pendinginan cair, yang menyediakan kemampuan pendinginan yang lebih kuat, dapat mendukung kepadatan daya yang lebih tinggi.

 

Dibandingkan dengan solusi pendinginan udara, tren menuju pendinginan cair yang didorong oleh AIGC dan inisiatif "Eastern Data, Western Computing" pasti akan mengarah pada peningkatan volume dan harga pasar kontrol suhu pusat data. Industri server berpendingin cairan mengikuti tiga rute teknologi: pelat dingin, pencelupan, dan pendinginan semprot.Pendinginan Cairan Pelat Dingin melibatkan metode pendinginan di mana cairan pendingin tidak secara langsung bersentuhan dengan komponen pembangkit panas server.

 

▲ Pendinginan Pelat Dingin

 

▲ Sistem Pendingin Cairan Semprot

 

▲ Pendinginan Perendaman Cairan Fase Tunggal

 

▲ Pendinginan Dua Fase

 

Sebaliknya, komponen pembangkit panas utama dipasang pada pelat dingin, dengan cairan pendingin bersirkulasi di dalam sistem pendingin cair internal pelat dingin untuk menghilangkan panas. Untuk meningkatkan kemampuan pertukaran panas, area pertukaran panas harus dimaksimalkan, yang mengharuskan pelat dingin dipasang sedekat mungkin dengan permukaan komponen pembangkit panas server. Komponen pembangkit panas yang bentuknya tidak beraturan sulit didinginkan menggunakan metode ini. Hanya chip yang bentuknya relatif teratur yang cocok untuk pendinginan pelat dingin.

 

Hal ini menimbulkan masalah yang signifikan untuk solusi pendinginan cairan pelat dingin: sekitar 30% panas server, yang dihasilkan oleh komponen lain seperti penyimpanan, memori, dan catu daya, masih memerlukan pendinginan udara tradisional. Hal ini mengakibatkan perlunya dua sistem pendingin untuk digunakan secara bersamaan dalam solusi pendinginan cairan pelat dingin, yang meningkatkan biaya dan PUE sistem yang sebenarnya. Solusi pelat dingin saat ini relatif matang, dengan fondasi komersial yang solid, dan telah melihat banyak aplikasi komersial.

 

▲ Solusi pendinginan cairan pelat dingin

 

Pendinginan Cairan Imersi mengacu pada perendaman lengkap peralatan server dalam cairan pendingin, di mana pendinginan dicapai melalui kontak langsung antara cairan pendingin dan komponen pembangkit panas. Dalam metode ini, komponen pembangkit panas server terendam sepenuhnya dalam cairan pendingin, memungkinkan kontak yang cukup dengan cairan pendingin, yang terus-menerus membawa pergi panas yang dihasilkan, sehingga mendinginkan server. Pendinginan imersi menawarkan efisiensi pendinginan yang lebih tinggi, dengan potensi untuk meningkatkan kepadatan daya per kabinet lebih dari tiga kali lipat. Diperkirakan akan menguasai lebih dari 40% pasar pada tahun 2025, dengan server berpendingin cairan imersi penuh kemungkinan akan menjadi tren teknologi masa depan.

 

▲ Pendinginan Cairan Imersi

 

Sistem Pendingin Cair Semprotan adalah teknologi pendingin cair kontak langsung yang dirancang untuk menyemprotkan cairan pendingin secara tepat ke komponen pembangkit panas server. Cairan pendingin diaplikasikan langsung ke perangkat pembangkit panas atau material konduktif termal padat yang terhubung dengannya, baik dengan gravitasi maupun tekanan sistem. Proses ini memungkinkan terjadinya pertukaran panas untuk mendinginkan server. Selama pertukaran panas, level cairan pendingin di dalam server dijaga di bawah komponen pembangkit panas atau material konduktif termal padat yang terhubung dengannya. Sistem ini menggunakan unit pertukaran panas eksternal untuk mendinginkan dan mendaur ulang cairan pendingin.

 

 

3. Lanskap Pasar Pendingin Cair

Sebagai teknologi canggih, pendinginan cair mencakup berbagai disiplin ilmu dan bidang, dengan hambatan teknis yang tinggi.

Saat ini, adopsi teknologi pendingin cair di kalangan produsen infrastruktur pusat data domestik dan internasional masih relatif rendah, dengan sedikit perusahaan yang menguasai teknologi ini.

 

Akan tetapi, beberapa perusahaan baik di dalam negeri maupun internasional telah mulai menawarkan solusi pendinginan cair yang disesuaikan bagi klien mereka, dan beberapa perusahaan teknologi secara bertahap membangun dan menerapkan pusat data berpendingin cair mereka sendiri. Meskipun demikian, tingkat adopsi teknologi pendinginan cair di antara produsen infrastruktur pusat data masih rendah, dan pasar belum melihat munculnya pemimpin yang dominan, sehingga lanskap persaingan masih belum pasti.

 

Di pasar Cina, beberapa perusahaan, melalui akumulasi teknologi dan pengalaman bertahun-tahun, telah menunjukkan keunggulan teknis dan pasar yang signifikan, dan diharapkan bahwa di masa mendatang, perusahaan terkemuka akan mendominasi pasar, membentuk lanskap kompetitif di mana pemain utama memegang pangsa pasar yang signifikan.

 

4. Pendinginan Cair Tingkat Chip

Mengurangi jarak antara peralatan pendingin cair dan sumber panas inti seperti chip merupakan tren penting. Di masa mendatang, pendinginan diharapkan akan berevolusi dari tingkat ruangan, tingkat kabinet, dan tingkat server ke tingkat chip, sehingga mencapai pendinginan chip yang lebih baik melalui kontak langsung antara komponen pendingin dan permukaan chip. Pendingin cair menghilangkan panas dengan memindahkan sejumlah besar panas melalui gesekan antara aliran cairan dan permukaan internal radiator. Dibandingkan dengan sistem pendingin udara konvensional, pendinginan cair dapat meningkatkan efisiensi pendinginan secara signifikan. Saat ini, teknologi pendinginan cair terutama dibagi menjadi jenis tidak langsung dan langsung.

 

Menurut informasi terbaruPelacakan Pasar Server Pendingin Cair Semitahunan Tiongkok (Paruh Kedua Tahun 2022)Laporan yang diterbitkan oleh International Data Corporation (IDC), pasar server pendingin cair Tiongkok mencapai $1,01 miliar pada tahun 2022, yang menunjukkan pertumbuhan tahun-ke-tahun sebesar 189,9%. IDC memperkirakan bahwa dari tahun 2022 hingga 2027, tingkat pertumbuhan tahunan gabungan pasar server pendingin cair Tiongkok akan mencapai 56,6%, dengan ukuran pasar yang diharapkan mencapai $9,5 miliar pada tahun 2027, yang menunjukkan masa depan yang cerah bagi industri pendingin cair!

 

 

▲ Prakiraan pasar server berpendingin cairan di Tiongkok dari tahun 2023 hingga 2027