Meta Investasikan 350.000 Unit GPU H100 dengan Nilai Lebih dari USD 10 Milyar

Mark Zuckerberg sebagai CEO dari perusahaan teknologi Meta telah mengungkapkan bahwa pihaknya tengah mengembangkan infrastruktur AI untuk Meta, di mana infrastruktur ini akan menggunakan GPU Tensor NVIDIA H100 dalam jumlah yang sangat banyak.

Lewat unggahannya di Instagram, Zuckerberg menjelaskan bahwa saat ini pihak perusahaan tengah melakukan pelatihan model AI generasi berikutnya Llama 3, dan membangun infrastruktur besar-besaran untuk mendukung peta jalan mereka. Disebutkan bahwa pihaknya melakukan investasi terhadap 350.000 unit GPU NVIDIA H100 tersebut hingga akhir tahun 2024, di mana nilai investasi ini mencapai lebih dari USD 10 milyar.

Artinya, perusahaan akan meningkatkan infrastruktur AI-nya dengan 350.000 GPU H100 di atas GPU yang sudah ada, yang setara dengan 250.000 H100 dalam hal daya komputasi, dengan total 600.000 GPU yang setara dengan H100.

Tentunya, Meta tidak hanya menyertakan GPU NVIDIA H100 ini saja untuk pelatihan model AI mililknya sendiri dan ada GPU lain yang terpasang, walau disebutkan sebagian besar akan terdiri dari keluarga NVIDIA Hopper. Pelatihan model AI Llama 3 yang jauh lebih baik daripada Llama 2 ini disebut juga akan mencakup soal kemampuan penalaran, pengkodean, dan pemecahan matematika yang lebih baik. Model-model ini sendiri nantinya akan menjadi open source.

(sumber)