Manajemen termal chip AI
Saat ini, raksasa teknologi lain seperti Microsoft, Google, dan Meta juga memperluas pusat datanya untuk melatih dan menjalankan model kecerdasan buatan mereka. Menurut laporan, Microsoft dan OpenAI berencana membangun proyek pusat data yang akan mencakup superkomputer dengan jutaan chip server khusus, dan proyek saat ini dapat menelan biaya $115 miliar, termasuk superkomputer kecerdasan buatan bernama Stargate, yang diperkirakan akan diluncurkan pada tahun 2028. CEO Meta Mark Zuckerberg juga menyatakan pada bulan Januari tahun ini bahwa infrastruktur komputasi perusahaan akan mencakup 30.000 kartu grafis H100 pada akhir tahun 2024. Ia juga menambahkan, 'Jika GPU lain disertakan, terdapat sekitar 600.000 komputasi setara H100.'.
AIGC didasarkan pada model besar dan data besar. Model besar mengacu pada model yang dapat beradaptasi dengan tugas hilir setelah pelatihan pada data berskala besar dan luas. Setelah munculnya model besar, (1) parameter model ditingkatkan besarnya; (2) Permintaan yang terdiversifikasi mempercepat peningkatan diversifikasi daya komputasi: Daya komputasi dapat dibagi menjadi daya komputasi dasar, daya komputasi cerdas, dan daya superkomputer sesuai dengan pencocokan permintaan. Pada tahun 2021, total daya komputasi perangkat komputasi global mencapai 615 EFlops, dengan tingkat pertumbuhan sebesar 44%. Pada tahun 2030, diperkirakan akan meningkat menjadi 56ZFlops, dengan CAGR sebesar 65%. Kekuatan komputasi cerdas akan meningkat dari 232EFlops menjadi 52,5ZFlops, dengan CAGR melebihi 80%; Setelah munculnya model besar, hal ini membawa tren baru dalam pertumbuhan daya komputasi, dengan rata-rata waktu penggandaan daya komputasi sebesar 9,9 bulan.
Di balik peningkatan daya komputasi, chip harus memiliki efisiensi komputasi yang lebih tinggi dan menyelesaikan lebih banyak perhitungan dalam waktu yang lebih singkat, yang tentunya akan menyebabkan peningkatan konsumsi energi chip. Karakteristik pusat data dengan kepadatan tinggi dan konsumsi daya yang tinggi di pusat superkomputer membuat masalah pembuangan panas semakin menonjol. Pusat data modern, terutama pusat superkomputer, biasanya berisi sejumlah besar perangkat berdaya tinggi yang menghasilkan panas dalam jumlah besar selama pengoperasian. Jika panas tidak dapat dihilangkan secara tepat waktu dan efektif, hal ini tidak hanya akan memengaruhi kinerja perangkat, namun juga dapat menyebabkan kegagalan perangkat keras. Menurut laporan IDC, sekitar 40% konsumsi energi di pusat data digunakan untuk sistem pendingin, yang menunjukkan bahwa solusi pendinginan yang efektif sangat penting untuk pengoperasian pusat data.
Sistem pendingin udara tradisional tidak lagi mampu memenuhi kebutuhan pendinginan superkomputer saat ini, sehingga teknologi pendingin cair secara bertahap menjadi pilihan utama di industri. Penerapan teknologi pendingin cair memungkinkan pusat data menampung lebih banyak perangkat komputasi di ruang yang sama, sekaligus mengurangi konsumsi energi sistem pendingin. Penerapan teknologi pendingin cair tidak hanya meningkatkan efisiensi komputasi, namun juga secara signifikan mengurangi konsumsi energi dan biaya pengoperasian. Teknologi pendingin cair dapat menangani lebih banyak tugas komputasi dengan konsumsi energi yang sama melalui konduksi panas yang lebih efisien.
Dengan meningkatnya permintaan akan pelatihan AI dan komputasi berkinerja tinggi, teknologi pendingin cair akan memainkan peran yang lebih penting dalam pusat superkomputer di masa depan. Teknologi pendingin cair diharapkan akan menjadi konfigurasi standar di pusat superkomputer dan pusat data besar di tahun-tahun mendatang untuk memenuhi permintaan komputasi yang terus meningkat dan tantangan pembuangan panas.
