Pemerintah Blokir Grok AI

Kemkomdigi telah mengambil tindakan tegas dengan menghentikan sementara akses ke aplikasi kecerdasan buatan (AI) Grok.

Keputusan ini bertujuan untuk melindungi masyarakat, khususnya perempuan dan anak, dari ancaman konten pornografi palsu yang dihasilkan oleh teknologi ini.

Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menekankan bahwa pemerintah tidak akan mentolerir praktik deepfake seksual yang tidak mendapatkan persetujuan.

Ia menyatakan bahwa penyebaran konten tersebut merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga di ruang digital.

"Pemerintah memandang praktik ini sebagai ancaman nyata terhadap keamanan warga negara. Kami berkomitmen memastikan ruang digital tetap aman dan bermartabat," ungkap Meutya dalam siaran persnya pada Sabtu (10/1/2026).

Selain tindakan pemutusan akses, Kemkomdigi juga telah mengirimkan panggilan resmi kepada Platform X (dulu dikenal sebagai Twitter), yang berfungsi sebagai penyedia layanan yang mengintegrasikan Grok.

Pemerintah meminta klarifikasi segera mengenai dampak negatif dan kerentanan yang ditimbulkan oleh penggunaan aplikasi tersebut di Indonesia.

Langkah ini diambil untuk memastikan bahwa pengembang bertanggung jawab atas sistem yang mereka kelola agar tidak disalahgunakan untuk kegiatan ilegal yang merugikan masyarakat.

Dengan demikian, upaya ini diharapkan dapat menciptakan lingkungan digital yang lebih aman bagi semua pengguna.

Dasar Hukum

Tindakan untuk memutuskan akses ini didasarkan pada landasan hukum yang solid, yaitu Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 mengenai Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.

Menurut Pasal 9 dari peraturan tersebut, setiap PSE memiliki tanggung jawab hukum untuk memastikan bahwa sistem elektronik yang mereka kelola tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang oleh undang-undang.

Hingga berita ini diterbitkan, pemerintah masih aktif memantau perkembangan teknologi kecerdasan buatan (AI) dan meningkatkan pengawasan terhadap platform digital.

Tujuannya adalah untuk mencegah penyebaran konten yang berpotensi merugikan di Indonesia. Dengan langkah-langkah ini, diharapkan dapat menciptakan lingkungan digital yang lebih aman dan bertanggung jawab bagi masyarakat.

Komdigi Ancam Berikan Denda

Sebelumnya, Kementerian Komunikasi dan Digital (Komdigi) telah mengambil langkah untuk menyelidiki dugaan penyalahgunaan fitur kecerdasan buatan (AI) Grok AI yang terdapat pada platform X.

Teknologi ini diduga telah digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi atau deepfake tanpa mendapatkan persetujuan dari korban.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa berdasarkan penelusuran awal, Grok AI belum memiliki sistem pengamanan yang memadai.

Ia menyatakan bahwa tidak adanya pengaturan yang jelas untuk mencegah konten pornografi berbasis foto warga Indonesia berpotensi melanggar privasi dan hak atas citra diri.

"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi," ujar Alexander dalam keterangannya, Rabu (7/1/2026).

Komdigi menegaskan bahwa manipulasi digital terhadap foto pribadi bukan hanya pelanggaran kesusilaan, tetapi juga merupakan bentuk perampasan identitas visual yang dapat berdampak negatif pada psikologis dan reputasi korban.

Sebagai langkah tegas, Komdigi sedang berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE), termasuk platform X, untuk meningkatkan moderasi konten dan mempercepat penanganan laporan pelanggaran.

Alexander juga memperingatkan bahwa kepatuhan terhadap hukum Indonesia merupakan kewajiban mutlak bagi seluruh PSE yang beroperasi di Tanah Air.

"Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Komdigi dapat menjatuhkan sanksi administratif (denda) hingga pemutusan akses (blokir) layanan Grok AI dan platform X," tegas Alexander.

Langkah-langkah ini diambil untuk melindungi hak-hak individu dan menjaga integritas ruang digital di Indonesia. Komdigi berharap semua pihak dapat berkolaborasi untuk menciptakan lingkungan digital yang aman dan bertanggung jawab.