Komdigi Blokir Sementara Grok AI Setelah Marak Konten Deepfake

Pemerintah lewat Kementerian Komunikasi dan Digital (Komdigi) akhirnya memblokir sementara Grok AI di Indonesia. Keputusan ini diambil setelah maraknya konten Deepfake alias rekayasa visual dengan wajah orang lain di platform X menggunakan Grok.

Per hari Sabtu (10/1/2026) kemarin, Komdigi resmi memblokir akses ke aplikasi mandiri Grok serta website Grok.com dan X.AI. Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan bahwa keputusan ini diambil demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan lewat AI.

Aturannya sendiri sangat jelas dengan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE). Dalam pasal 9, aturan tersebut mewajibkan setiap PSE untuk memastikan platformnya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang.

Kini, Komdigi tengah menunggu respon dari Platform X untuk segera memberikan klarifikasi terkait dampak negatif penggunaan Grok. Dari pantauan kami, meski aplikasi dan website sudah tidak bisa diakses, Grok AI masih bisa dibuka lewat tab khusus di platform X dan juga lewat kolom komentar – eksklusif untuk pengguna premium saja.

Isu Global Penyalahgunaan Grok AI

Penyalahgunaan Grok untuk membuat konten pornografi dan kekerasan bukan cuma terjadi di Indonesia. Kasus ini juga marak terjadi di level global, dengan negara-negara seperti India, Prancis, dan Malaysia turut menuntut X untuk bertindak sesegera mungkin jika tidak ingin terkena sanksi hukum.

Sebagai informasi, penyalahgunaan fitur edit foto Grok AI menjadi perhatian karena pengguna bisa dengan mudahnya membuat konten deepfake hanya lewat kolom komentar di platform X. Hanya dengan mention @Grok dengan prompt spesifik, gambar deepfake tak senonoh bisa langsung tersebar ke publik.

Kita tahu manfaat dari generatif AI, tapi juga tidak menutup mata soal bahaya semacam ini. Oleh karena itu, sangat diperlukan pengawasan yang sangat ketat dan untuk kasus Grok memang sudah lama jadi polemik karena batasannya yang cukup longgar dibandingkan platform lainnya. Bagaimana menurut kalian?