Komdigi Putus Akses Grok Sementara, Lindungi Masyarakat dari Deepfake Pornografi AI

Kementerian Komunikasi dan Digital (Komdigi) resmi memutus akses sementara aplikasi Grok. Langkah ini diambil untuk melindungi masyarakat dari penyebaran konten pornografi palsu berbasis AI atau deepfake, sekaligus memastikan ruang digital yang aman dan b

Pemerintah Indonesia, melalui Kementerian Komunikasi dan Digital (Komdigi), secara resmi melakukan pemutusan akses sementara terhadap aplikasi Grok. Langkah ini diambil untuk melindungi perempuan, anak, serta seluruh lapisan masyarakat dari potensi risiko penyebaran konten pornografi palsu. Konten tersebut dihasilkan menggunakan teknologi akal imitasi (Artificial Intelligence/AI) yang dikenal sebagai deepfake.

Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan kebijakan ini merupakan wujud tanggung jawab negara. Kebijakan tersebut bertujuan menjaga ruang digital Indonesia agar tetap aman, beretika, dan menghormati hak asasi manusia setiap warga negara. Pernyataan resmi ini disampaikan Meutya di Jakarta pada Sabtu (10/1).

Pemutusan akses Grok ini bersifat preventif dan korektif, memastikan setiap platform digital beroperasi sesuai regulasi. Komdigi juga telah meminta Platform X sebagai pihak terkait untuk segera memberikan klarifikasi. Klarifikasi ini penting untuk menjelaskan dampak negatif Grok dan langkah mitigasi yang akan diambil.

Ancaman Deepfake Pornografi dan Perlindungan Warga Digital

Komdigi memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia dan martabat warga negara. Penggunaan teknologi AI untuk menciptakan serta menyebarkan konten pornografi palsu tanpa persetujuan merupakan bentuk kekerasan berbasis digital. Dampak negatifnya dapat merugikan korban secara psikologis, sosial, hingga hukum.

Menteri Meutya Hafid menegaskan bahwa negara memiliki kewajiban untuk memastikan keamanan warga di ruang digital. Oleh karena itu, pemutusan akses Grok menjadi langkah krusial dalam upaya melindungi masyarakat. Kebijakan ini menekankan pentingnya etika dalam pemanfaatan teknologi AI.

Langkah preventif ini diharapkan dapat meminimalisir penyalahgunaan teknologi canggih seperti AI. Komdigi berkomitmen untuk terus mengawasi platform digital yang beroperasi di Indonesia. Pengawasan ini bertujuan agar tidak ada lagi celah untuk produksi atau penyebarluasan konten terlarang.

Dasar Hukum dan Tindakan Lanjutan Komdigi

Tindakan pemutusan akses sementara terhadap Grok memiliki dasar hukum yang kuat. Komdigi menjalankan kewenangannya sesuai Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020. Regulasi ini mengatur tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.

Khususnya Pasal 9 dalam peraturan tersebut, mewajibkan setiap PSE memastikan sistem elektronik yang dikelolanya. PSE harus memastikan sistem tersebut tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik yang dilarang. Hal ini termasuk konten pornografi palsu yang dihasilkan Grok.

Selain pemutusan akses, Komdigi juga telah meminta Platform X untuk segera hadir memberikan klarifikasi. Klarifikasi ini akan membahas dampak negatif penggunaan Grok serta langkah-langkah mitigasi yang akan dilakukan. Tujuannya adalah mencegah terulangnya penyalahgunaan teknologi AI tersebut di masa mendatang.

Kecaman Internasional dan Respons Platform X

Aplikasi Grok telah mengundang kritik keras dari berbagai kalangan di seluruh dunia. Kritik ini muncul karena Grok memungkinkan pengguna untuk membuat gambar yang berbau pornografi. Dalam sebuah pernyataan, Grok menyatakan bahwa hanya pelanggan berbayar di X yang dapat membuat dan mengedit gambar di platform tersebut.

Namun demikian, tidak sedikit yang menuding aplikasi tersebut memungkinkan siapapun untuk membuat gambar tanpa harus membayar biaya berlangganan. Sejumlah negara seperti Inggris, Uni Eropa, dan India secara terbuka mengecam Platform X dan Grok. Mereka menyoroti izin penggunaan kemampuan AI yang berpotensi disalahgunakan.

Uni Eropa bahkan secara spesifik meminta xAI untuk menyimpan semua dokumentasi terkait chatbot tersebut sebagai bukti. India juga dikabarkan telah memerintahkan Platform X untuk segera melakukan perubahan. Perubahan ini penting untuk menghentikan penyalahgunaan fitur pembuatan gambar atau berisiko kehilangan perlindungan safe harbor di negara tersebut. Lembaga pengawas komunikasi Inggris juga telah menghubungi xAI terkait masalah serius ini.

Sumber: AntaraNews