Qualcomm AI Hub Mudahkan Developer Hadirkan On-Device AI di Aplikasi

Pada acara Microsoft Build 2024, Qualcomm Technologies, Inc. mengumumkan perluasan Qualcomm AI Hub, yang kini mendukung berbagai platform Snapdragon X Series. Platform ini dirancang untuk membantu para developer mempercepat proses dari pembuatan hingga pemasaran aplikasi mereka, serta memanfaatkan AI generatif pada perangkat PC Windows on Arm.

Para developer sekarang bisa menggunakan model AI mereka sendiri, dan mengoptimalkannya agar bisa berjalan langsung di perangkat (On-Device). Keunggulan menjalankan model AI secara On-Device,  termasuk kecepatan respon yang lebih baik, peningkatan privasi, keandalan yang lebih tinggi, dan pengalaman pengguna yang lebih personal.

Qualcomm AI Hub Dukung 100 Model AI

Lewat platform Qualcomm AI Hub, Qualcomm menyediakan sumber daya, tools, dan service untuk performa AI yang unggul secara On-Device. Platform ini memiliki lebih dari 100 model AI yang sudah dioptimalkan dan tersedia di layanan seperti Hugging Face dan GitHub.

Selain itu, Qualcomm AI Hub memungkinkan developer untuk “Bring Your Own Model” (BYOM), di mana mereka bisa mengunggah, mengoptimalkan, dan meng-compile model mereka untuk platform Snapdragon dan Qualcomm.

AI Hub ini juga mendukung semua kerangka kerja utama seperti PyTorch, TensorFlow, dan ONNX. Jadi developer bisa menguji dan memvalidasi model pada perangkat yang di-hosting di cloud hanya dalam hitungan menit.

Baca Juga: 20+ Laptop Copilot+ PC Akan Segera Hadir, Apa Saja? • Jagat Review

Beberapa Produsen perangkat ternama seperti Acer, ASUS, Dell, HP, Lenovo, Samsung, dan OEM akan segera meluncurkan PC yang didukung oleh platform Snapdragon X Elite dan X Plus. Jadi para Developer bisa mulai menggunakan Qualcomm AI Hub untuk menghadirkan dukungan aplikasi-aplikasi buatan mereka di beberapa perangkat baru tersebut.

Platform Snapdragon X Series mendukung berbagai tools pengembangan AI dengan integrasi mendalam pada ONNX Runtime dan Hugging Face Optimum. Selain itu juga mendukung Llama.cpp, memungkinkan pengembang menjalankan ribuan model pada platform Snapdragon X Series dan membangun aplikasi Windows yang sudah berbasis AI.

Bagi para developer yang ingin mempelajari tentang On-Device AI dan cara menerapkannya pada aplikasi mereka, bisa melalui kursus online yang ditawarkan oleh DeepLearning.AI yang bekerja sama dengan Qualcomm Technologies.