Grok AI Disebut Bisa Bikin Konten Pornografi, DPR Dukung Komdigi Ancam Blokir X

Anggota Komisi I DPR RI Syamsu Rizal menyatakan dukungannya terhadap langkah Kementerian Komunikasi dan Digital (Kementerian Komunikasi dan Digital) yang membuka opsi pemblokiran Grok AI dan platform media sosial X.

Syamsu menilai teknologi Grok AI berpotensi disalahgunakan untuk memanipulasi foto seseorang menjadi konten pornografi. Ia menyebut hingga kini belum terlihat sistem moderasi yang cukup kuat untuk mencegah praktik tersebut.

“Selama ini kita melihat Grok AI di platform X dimanfaatkan oleh pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya,” ujar Syamsu, Kamis (8/1).

Menurut Syamsu, penyalahgunaan kecerdasan buatan tanpa pengawasan ketat dapat berdampak luas, mulai dari pelanggaran privasi hingga gangguan terhadap tatanan sosial.

Oleh karena itu, ia menilai langkah tegas pemerintah diperlukan apabila platform terkait tidak mampu mengendalikan sistemnya.

“Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, maka Komdigi harus bersikap tegas dengan memblokirnya,” tegasnya.

Sebelumnya, Direktorat Jenderal Pengawasan Ruang Digital Komdigi telah menyatakan bahwa Grok AI dan X berpotensi dikenai sanksi administratif hingga pemutusan akses apabila tidak patuh terhadap regulasi di Indonesia.

Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar menegaskan bahwa setiap Penyelenggara Sistem Elektronik (PSE), termasuk platform berbasis AI, wajib mematuhi peraturan perundang-undangan nasional.

Menurut Alexander, penyedia layanan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi serta manipulasi citra pribadi tanpa hak dapat dikenai sanksi administratif dan/atau pidana sesuai hukum yang berlaku.