Heboh AI Grok Milik Elon Musk Munculkan Konten Seksual Anak di X

Proses pengeditan ini tidak memerlukan persetujuan dari pihak pengunggah foto atau image aslinya.

Elon Musk kembali terlibat dalam kontroversi. Kali ini, perusahaan kecerdasan buatan (AI) miliknya, xAI, menjadi sorotan setelah chatbot AI Grok terlibat dalam produksi gambar yang dapat dianggap sebagai seksualisasi anak.

Insiden ini terjadi ketika Grok merespons permintaan pengguna, dan langsung memicu kecaman luas di platform media sosial X. Beberapa unggahan menunjukkan gambar anak-anak di bawah umur yang mengenakan pakaian minim, yang dihasilkan menggunakan fitur pengeditan gambar Grok, terlihat beredar di lini masa X selama masa liburan.

Dalam salah satu balasan otomatis kepada pengguna di X, Grok menyatakan bahwa mereka "sedang segera memperbaiki" masalah tersebut, seperti yang dilaporkan oleh CNBC pada Sabtu (3/1).

Selain itu, chatbot yang dibanggakan oleh Elon Musk ini menegaskan bahwa materi pelecehan seksual anak adalah ilegal dan dilarang keras. Dalam balasan kepada pengguna, Grok juga mengingatkan bahwa perusahaan dapat menghadapi sanksi pidana atau perdata jika dengan sengaja memfasilitasi atau gagal mencegah konten semacam ini.

Meskipun demikian, pernyataan tersebut bukanlah pernyataan resmi dari perusahaan, melainkan respons yang dibuat oleh chatbot itu sendiri.

Beberapa waktu kemudian, staf teknis xAI, Parsa Tajik, mengakui adanya masalah tersebut.

"Hai, terima kasih sudah melaporkannya. Tim sedang mempertimbangkan untuk memperketat pengamanan kami lebih lanjut," tulisnya di X.

Selain mendapatkan kritik dari pengguna X dan Grok, pejabat di India dan Prancis juga menyoroti insiden ini dan dilaporkan akan melakukan penyelidikan. Di sisi lain, Federal Trade Commission (FTC) menolak untuk memberikan komentar terkait kasus ini.

Banyak pihak percaya bahwa masalah ini berkaitan dengan fitur "Edit Gambar" di X, yang memungkinkan siapa saja untuk mengubah foto yang diunggah oleh pengguna lain melalui perintah teks.

Menariknya, proses pengeditan ini tidak memerlukan persetujuan dari pihak pengunggah foto atau image aslinya.

Ini bukan kali pertama Grok menghadapi kritik. Pada Mei 2025, chatbot ini pernah membuat komentar tidak diminta mengenai isu "genosida kulit putih" di Afrika Selatan. Dua bulan kemudian, Grok kembali membuat masalah dengan memposting komentar anti-Semit dan memuji Adolf Hitler.

Meskipun sering menuai kontroversi, perusahaan AI milik Elon Musk ini berhasil menjalin kemitraan strategis, termasuk dengan Departemen Pertahanan AS untuk mengintegrasikan Grok ke dalam platform AI agents mereka bulan lalu.

Chatbot Grok yang dimiliki oleh Elon Musk Sebarkan Informasi Tidak Akurat

Grok dilaporkan telah menyebarkan informasi yang tidak akurat mengenai insiden tragis di Pantai Bondi, Sydney, Australia. Peristiwa penembakan massal tersebut menewaskan setidaknya belasan orang saat mereka merayakan Hanukkah.

Tragedi ini menimbulkan kekhawatiran di kalangan masyarakat, terutama karena Grok memberikan informasi yang tidak relevan, salah konteks, serta mencampuradukkan fakta-fakta terkait insiden tersebut. Menurut laporan Gizmodo pada Senin (15/12), salah satu pelaku penembakan berhasil dilumpuhkan oleh seorang warga sipil bernama Ahmed al Ahmed (43), yang aksinya terekam dan telah dibagikan secara luas di media sosial.

Keberanian Ahmed mendapat banyak pujian, namun di sisi lain, tragedi ini juga dimanfaatkan oleh sebagian orang untuk menyebarkan sentimen Islamofobia. Di tengah situasi yang genting, Grok justru memperburuk keadaan.

Ketika seorang pengguna menanyakan tentang latar belakang video yang memperlihatkan Ahmed melumpuhkan pelaku, Grok mengklaim bahwa video tersebut adalah rekaman lama. Ia menjelaskan bahwa video itu menunjukkan seorang pria yang sedang memanjat pohon palem di tempat parkir, mungkin untuk memangkasnya, yang mengakibatkan cabang pohon jatuh dan merusak mobil yang terparkir, tanpa ada hubungan dengan insiden penembakan di Sydney. Chatbot ini bahkan meragukan keaslian video tersebut.

Kesalahan lain terjadi ketika Grok mengidentifikasi foto Ahmed al Ahmed yang terluka sebagai gambar sandera Israel yang diculik oleh Hamas pada 7 Oktober 2025. Saat menanggapi pertanyaan dari pengguna lain, Grok kembali mempertanyakan keaslian konflik tersebut, setelah sebelumnya menampilkan paragraf yang sama sekali tidak relevan mengenai dugaan serangan militer Israel di Gaza.

Tidak hanya itu, Grok juga menggambarkan sebuah video yang jelas ditandai dalam tweet sebagai rekaman baku tembak antara pelaku dan polisi Sydney, sebagai rekaman dampak Topan Tropis Alfred yang melanda Australia pada awal tahun 2025. Meskipun pengguna tersebut mempertegas tanggapannya dan meminta Grok untuk mengevaluasi ulang, chatbot tersebut akhirnya menyadari kesalahannya.