Server AI Berpendingin Cairan Menghadapi Kemacetan

 

 

 

Dengan meningkatnya pengiriman chip Blackwell, keinginan pelanggan untuk menggunakan pendingin cair juga akan meningkat.

Orang dalam industri melaporkan bahwa pasokan perangkat pemutus cepat universal (UQD) untuk solusi pendingin cair semakin terbatas, yang mungkin menjadi hambatan besar bagi pertumbuhan pendingin cair server AI.

 

Produsen server ODM mengindikasikan bahwa chip Blackwell AI Nvidia, termasuk B100 dan B200, akan mulai dikirimkan tahun ini, sedangkan solusi GB200 tidak akan memasuki produksi massal hingga akhir tahun 2024 atau 2025. Sebagian besar pelanggan B100 dan B200 masih menggunakan desain pendingin udara , namun produsen ODM melaporkan peningkatan yang berkelanjutan dalam penetrasi pendingin cair, mengantisipasi bahwa kesediaan pelanggan untuk mengadopsi pendingin cair juga akan meningkat seiring dengan peningkatan pengiriman chip Blackwell.

 

▲ Server AI Berpendingin Cairan

 

 

I Memperluas kapasitas untuk memenuhi meningkatnya permintaan pendingin cair

 

Perusahaan terkait memperluas produksinya untuk menyambut era baru pendingin cair. Produsen modul termal Amlogic berencana meningkatkan kapasitas produksi bulanan pelat pendingin air dari 30,000 menjadi 300,000 unit.

 

Auras telah mendirikan pabrik baru di Thailand untuk mengatasi kekhawatiran dan permintaan geopolitik pelanggan. Pabrik ini diharapkan mulai berproduksi massal pada kuartal ketiga. Selain memperluas kapasitas produksi lokal untuk pelat pendingin, Auras juga berencana memproduksi unit distribusi pendingin (CDU) dan manifold distribusi cairan pendingin (CDM) secara lokal, dengan rencana kapasitas bulanan sekitar 2,000-3,{{2 }} set.

 

Produsen modul termal AVC menyatakan dalam laporan pendapatannya baru-baru ini bahwa kapasitas produksi bulanan modul pelat pendinginnya di Tiongkok dan Vietnam adalah sekitar 115,000 unit, yang berarti produksi bulanan sekitar 420,000 unit saat dihitung dengan pelat pendingin.

 

AVC berencana untuk meningkatkan kapasitasnya sebesar 50% pada akhir tahun ini. AVC juga berencana meningkatkan kapasitas produksi bulanannya untuk CDU menjadi 1,000 unit dan CDM menjadi 30,000 set. AVC menegaskan, kapasitas yang direncanakan ini dapat disesuaikan secara fleksibel berdasarkan permintaan pesanan pelanggan.

 

Perusahaan Teknologi Thermo, Goli Thermal Processing, memperluas kapasitasnya di pabrik Zhongli di Taiwan karena meningkatnya permintaan pelanggan akan pendingin cair. Pada akhir kuartal ketiga, kapasitas bulanan CDM diperkirakan meningkat dari 1,000 unit menjadi 2,000 unit, dan pada akhir tahun menjadi 4,{{5} } unit, dengan produksi CDU tahunan juga diperkirakan mencapai 2,000 unit pada akhir tahun.

 

Produsen-produsen ini memiliki ekspektasi yang tinggi terhadap permintaan pendingin cair, terutama karena efisiensi komputasi dan standar PUE pusat data di Tiongkok dan UE, namun faktor yang paling signifikan adalah Nvidia mencabut pembatasan yang diberlakukan sendiri pada spesifikasi termal untuk produsen chip.

 

 

II Pertumbuhan pesat pendingin cair menyebabkan kekurangan UQD

 

Ketika industri sangat menantikan datangnya era pendingin cair, UQD telah menjadi penghambat pertumbuhan terbesar. Produsen modul termal telah menunjukkan bahwa pasokan UQD akhir-akhir ini menjadi terbatas. Meskipun pangsa pasar pendingin cair saat ini hanya satu digit, namun jika meningkat menjadi dua digit di masa mendatang, UQD mungkin akan sulit diperoleh.

 

Pemasok UQD terutama berasal dari Eropa dan Amerika Serikat, seperti perusahaan besar Amerika Parker Hannifin dan CPC, Staubli International dari Swiss, Danfoss dari Denmark, dan Cejn dari Swedia. Raksasa komponen konektor Taiwan, Lotes, juga secara aktif memasuki pasar dan telah memulai pengiriman sampel.

 

Pimpinan Anbo Technology, Liang Zhijian, menyatakan bahwa karena pendinginan cair terutama bertujuan untuk menghindari kebocoran, dan UQD adalah komponen yang paling rentan bocor, pasokan UQD adalah yang paling terbatas di antara komponen pendingin cair. Ini bukan hanya masalah teknis; produsen terkait juga memiliki perlindungan paten, dan Anbo Technology sedang meneliti cara untuk menerobos hambatan paten ini.

 

Orang dalam industri telah mencatat bahwa meskipun produsen UQD memiliki perlindungan paten, mereka juga harus melalui beberapa validasi, termasuk sertifikasi OCP dan validasi klien, yang memakan waktu dan tenaga kerja. Selain itu, pabrikan Eropa dan Amerika yang ada tidak berniat memperluas kapasitas, yang akan menjadi hambatan besar bagi pesatnya perkembangan pendingin cair.

 

Supermicro adalah salah satu produsen pendingin cair dengan pertumbuhan tercepat. Pendiri dan CEO Liang Jianhou menunjukkan bahwa pendingin cair hanya menyumbang 1% dari pasar server selama 30 tahun terakhir, namun ia memperkirakan bahwa pada tahun 2025, tingkat penetrasi akan melonjak hingga 30%.

 

 

III Pendinginan cair sebagai solusi potensial; Booming AI memberi tekanan pada jaringan listrik

 

Pesatnya perkembangan kecerdasan buatan generatif telah mendorong perluasan pusat data yang belum pernah terjadi sebelumnya, sehingga meningkatkan kekhawatiran akan dampaknya terhadap jaringan listrik. Fasilitas yang boros energi ini dapat menyebabkan pemadaman listrik dan peningkatan biaya energi. Menurut perkiraan dari Electric Power Research Institute, pada tahun 2030, pusat data akan mengkonsumsi 9% listrik di Amerika Serikat, dua kali lipat dari angka saat ini. Konsumsi listrik di pusat data besar setara dengan konsumsi ratusan ribu rumah tangga.

 

Meningkatnya kebutuhan daya dari kecerdasan buatan sangatlah memprihatinkan. Model AI awal mengonsumsi energi sepuluh kali lipat dibandingkan penelusuran Google, sementara chip yang lebih baru memerlukan daya yang lebih besar lagi. Para ahli memperingatkan bahwa perkembangan kecerdasan buatan di masa depan mungkin dibatasi oleh kemampuan kita untuk menghasilkan energi yang cukup.

 

Beberapa negara menghadapi tantangan berat. Misalnya, pada tahun 2026, Irlandia mungkin memiliki 30% listriknya yang didedikasikan untuk pusat data. Di AS, konsumsi listrik pusat data terkonsentrasi di 15 negara bagian, dengan Texas dan Virginia menjadi negara bagian tertinggi. California berada dalam situasi kritis, dengan pusat data baru diperkirakan akan menghasilkan kebutuhan listrik yang melebihi kebutuhan pembangkit listrik tenaga nuklir.

 

 

Pusat Data IV: Konsumsi Energi yang Besar dan Meningkatnya Pendinginan Cairan

 

Tuntutan komputasi atas kecerdasan buatan meningkatkan suhu server dan emisi karbon, sehingga mengakibatkan peningkatan signifikan dalam permintaan sistem pendingin. Sistem pendingin menyumbang 40% dari total konsumsi daya pusat data, menjadikannya sumber konsumsi daya terbesar kedua setelah server itu sendiri. Pasar pendingin server global diproyeksikan tumbuh dari $20 miliar pada tahun 2024 menjadi $90 miliar pada tahun 2027. Pasar sistem pendingin cair di pusat data diperkirakan akan meningkat dari 1% menjadi 22%, dengan nilai pasar diproyeksikan tumbuh dari $317 juta menjadi $7,8 miliar dalam tiga tahun ke depan.

 

Solusi pendingin cair, yang menggunakan air atau cairan pendingin untuk mendinginkan server, kini semakin populer. Teknologi baru mencakup pendinginan perendaman (merendam seluruh rak server dalam cairan non-konduktif) dan pendinginan cairan langsung (mensirkulasikan air di sekitar server). Meskipun saat ini lebih mahal dibandingkan sistem pendingin udara, pendingin cair dapat mengurangi konsumsi daya pusat data sebesar 10% atau lebih.

 

Firma riset Global Market Insights memperkirakan bahwa pasar pendingin cair global untuk pusat data akan tumbuh dari $2,1 miliar pada tahun 2022 menjadi $12,2 miliar pada tahun 2032. Sebuah survei yang dilakukan oleh Uptime Institute menemukan bahwa 16% manajer pusat data percaya bahwa pendingin cair akan menjadi pendingin utama metode ini dalam waktu 1-3 tahun, sementara 41% berpendapat hal ini akan memakan waktu 4-6 tahun. Oleh karena itu, metode pendinginan hibrida kemungkinan besar akan muncul dalam jangka pendek.

 

Upsite Technologies, pemimpin dalam pengelolaan sistem pendingin udara untuk pusat data, mencatat bahwa meskipun teknologi terus berkembang, pencapaian 100% pusat data berpendingin cairan tidak mungkin tercapai dalam jangka pendek, karena peralatan pendingin cair masih memerlukan pendingin udara untuk pembuangan panas. . Meskipun pendinginan cair lebih efisien, penerapannya dalam skala besar merupakan tantangan tersendiri dan memerlukan investasi awal yang besar. Pendinginan udara lebih murah namun juga kurang efisien. Oleh karena itu, fasilitas pendingin hibrid menjadi semakin populer untuk memaksimalkan manfaat pendingin cair dan udara.

 

 

V Krisis Energi Pusat Data Menyerukan Tindakan Segera

 

Karena dampak lingkungannya, pusat data semakin mendapat pengawasan. Pemerintah di seluruh dunia menerapkan peraturan untuk mengendalikan konsumsi energi dan jejak karbon. Pedoman “Pusat Data Hijau” Tiongkok dan inisiatif serupa di Jerman, Singapura, dan Jepang merupakan contoh tren ini. Pakar industri seperti Schneider Electric menekankan perlunya metrik lingkungan yang komprehensif untuk menilai keberlanjutan pusat data, termasuk faktor-faktor di luar penggunaan energi, seperti sumber daya air dan timbulan limbah.

 

Pemerintah AS menekan perusahaan-perusahaan teknologi besar untuk berinvestasi dalam energi ramah lingkungan dan mengakui dampak signifikan dari meningkatnya kebutuhan energi dari kecerdasan buatan terhadap lingkungan.

 

 

VI Menemukan Sumber Listrik yang Cocok: Tantangan Pusat Data dan Energi

 

Pusat data memerlukan bauran energi yang terdiversifikasi untuk menyeimbangkan keandalan dan keberlanjutan sekaligus memenuhi permintaan yang terus meningkat. Sumber energi terbarukan seperti tenaga surya dan angin merupakan sumber energi yang menarik karena jejak karbonnya yang rendah. Namun, ketergantungannya pada kondisi cuaca dapat menyebabkan keluaran tidak stabil, sehingga tidak cocok sebagai satu-satunya sumber listrik untuk pusat data. Membangun fasilitas yang berlebihan untuk mengkompensasi ketidakkonsistenan ini mungkin diperlukan namun mahal.

 

Tenaga nuklir telah muncul sebagai solusi potensial. Pembangkit listrik tenaga nuklir tradisional menyediakan daya beban dasar yang andal, menghasilkan listrik stabil yang penting untuk pengoperasian pusat data. Selain itu, pasar tenaga nuklir global diperkirakan akan mencapai pertumbuhan yang stabil selama dekade berikutnya.

 

Inovasi di sektor nuklir menawarkan kemungkinan yang lebih menjanjikan. Reaktor modular kecil (SMR) sedang dikembangkan sebagai alternatif yang lebih kecil, lebih aman, dan lebih terukur dibandingkan pembangkit listrik tenaga nuklir tradisional. Meski masih dalam tahap penelitian dan pengembangan, SMR berpotensi untuk diterapkan langsung di pusat data, sehingga menyediakan energi ramah lingkungan khusus.

 

▲ Pasar pendingin cair global (US$b)

 

 

Namun, penerapan SMR secara luas menghadapi kendala yang signifikan. Tantangan regulasi dan manufaktur dapat menunda penerapan komersialnya selama beberapa tahun. Pemerintah AS secara aktif menjajaki solusi, termasuk kemitraan dengan raksasa teknologi untuk mengurangi biaya dan menyederhanakan proses.

 

Cara lain untuk mengurangi kebutuhan energi pusat data adalah dengan mengoptimalkan beban kerja kecerdasan buatan. Dengan mengalihkan beberapa tugas AI dari cloud ke perangkat lokal dengan model AI yang lebih kecil dan tidak memerlukan banyak sumber daya, konsumsi energi secara keseluruhan dapat dikurangi.

 

Pengembangan pusat data di masa depan memerlukan pendekatan multifaset. Mengadopsi bauran energi yang terdiversifikasi, termasuk sumber energi yang dapat diandalkan seperti tenaga nuklir, sekaligus secara aktif mencari solusi terbarukan dan inovatif seperti SMR, sangatlah penting. Selain itu, mengoptimalkan beban kerja AI pada perangkat lokal dapat lebih meningkatkan keberlanjutan pusat data.