Microsoft Kenalkan Chip AI Maia 200, 30 Persen Lebih Efisien dari Sebelumnya!
Microsoft mengumumkan chip akselerator AI terbaru mereka Maia 200. Generasi anyarnya ini diklaim menawarkan performa per dollar 30% lebih tinggi dibandingkan dengan Maia 100 dan kini sudah dipasang ke sejumlah data center Azure di AS.
Maia 200 sendiri dibuat dengan teknologi proses 3nm TSMC, memiliki 140 miliar transistor. Chip ini diklaim menawarkan performa komputasi untuk FP4 hingga 10 petaFLOPS, yang mana 3x lipat lebih tinggi dari Amazon Trainium generasi ke-3.
Tak hanya itu, Maia 200 juga membawa memori on-board HBM3e berkapasitas 216GB. Memori tersebut memiliki bandwidth hingga 7 TB/s, sementara dibekali pula cache SRAM on-chip sebesar 272MB. Chip ini sendiri punya TDP hingga 750W.
Segi jaringan membawa desain khusus dengan lapisan transport dan integrasi NIC (Network Interface Card). Maia 200 dengan nama kode “Braga” ini diklaim mampu mencapai bandwidth Bi-directional (dua arah) yang sangat besar hingga 2,8 TB/s.
Baca Juga: Meta Bakal Uji Coba Langganan Premium di Instagram, Facebook dan WhatsApp! • Jagat Gadget
Selain perbandingan dengan Amazon Trainium, performa Maia 200 juga diklaim melewati Google TPU generasi ke-7 dalam pengujian FP8 dengan lebih dari 5 petaFLOPS. Sayangnya, Microsoft tidak menyajikan data perbandingan performa dengan Maia 100.
Microsoft mengatakan bahwa Maia 200 mampu menjalankan model AI terbesar sekalipun saat ini dengan mudah. Chip AI ini juga masih memiliki headroom yang cukup untuk antisipasi model yang lebih besar di masa mendatang.
More Articles
