Intel Gaudi 3 Diumumkan di Event Computex 2024: 1835 TFLOPS!

Pada ajang Computex 2024, Intel kembali mengumumkan chip/akselerator AI terbaru mereka yaitu Intel Gaudi 3. Chip ini diharapkan menjadi game-changer dalam dunia kecerdasan buatan (AI) dan pembelajaran mesin (machine learning). Intel Gaudi 3 digadang-gadang akan membawa peningkatan komputasi AI yang lebih tinggi, dan bahkan bsa melampaui produk kompetitor yang populer saat ini.

Spesifikasi Intel Gaudi 3

Chip ini ditenagai oleh 64 inti tensor generasi kelima, Gaudi 3 siap memberikan performa luar biasa dalam menjalankan komputasi AI yang kompleks. Dilengkapi dengan 8 Matrix Math Engine, prosesor ini mampu melakukan operasi matematis dengan efisiensi tinggi.

Untuk memorinya, chip ini dibekali dengan 128GB HBM2e, memori berkecepatan tinggi yang memberikan bandwidth mencapai 3.7 TB/s, menjamin transfer data yang cepat dan efisien. Selain dengan Add-in-Card PCIe HL338, chip ini memiliki kompatibilitas dan kecepatan interkoneksi yang optimal.

Baca Juga: Intel Resmi Umumkan Core Ultra “Lunar Lake” di Computex 2024: 120 TOPS! • Jagat Review

Untuk kinerja komputasinya, chip ini menawarkan 1835 TFLOPS dalam perhitungan FP8, menjadikan Gaudi 3 salah satu prosesor tercepat di pasaran. Selain itu Intel Gaudi 3 juga memiliki 96MB SRAM yang memiliki bandwidth 12.8 TB/s, performa caching menjadi sangat cepat dan responsif.

Keunggulan Intel Gaudi 3

Gaudi 3 diklaim 15% lebih cepat untuk 64X Llama 2-70B dibandingkan dengan NVIDIA 100H. Ini menunjukkan peningkatan signifikan dalam kecepatan pemrosesan model AI besar.

Chip ini juga diklaim menawarkan efisiensi biaya yang lebih baik, yaitu dengan throughput inferensi 2.3 kali lebih tinggi per-dollar dibandingkan NVIDIA 100H. Jadi perusahaan yang ingin mengembangkan infrastruktur AI dengan lebih ekonomis, sepertinya bisa mengoptimalkan investasi mereka lewat produk ini

Dari segi kecepatan pelatihan model AI, Intel Gaudi 3 mampu melatih kluster 8192 dengan kecepatan 40 kali lebih cepat dibandingkan NVIDIA 100H. Ini berarti waktu pelatihan model yang jauh lebih singkat, memungkinkan para ilmuwan data dan insinyur AI untuk mempercepat pengembangan dan implementasi solusi AI mereka.

Dari segi konektivitas, chip ini juga sudah dilengkapi dengan 24 port Ethernet RoCE 200 GbE standar industri, memastikan konektivitas yang cepat dan handal untuk kebutuhan data center yang besar dan terdistribusi.

Ketersediaan

Gaudi 3 akan tersedia pada paruh kedua tahun 2024 melalui Intel Dev Cloud. Nampaknya Intel juga akan memberikan akses awal kepada para pengembang dan perusahaan untuk menguji dan mengintegrasikan prosesor baru ini ke dalam sistem mereka, sebelum rilis komersial yang lebih luas.

Dalam waktu dekat, kita dapat berharap melihat berbagai aplikasi baru yang didukung oleh kekuatan prosesor Intel Gaudi 3.