Aplikasi Pembuat Gambar Porno Berbasis AI Bikin Apple dan Google Cuan Besar

Nudify adalah sebuah perangkat lunak berbasis AI yang dapat mengubah foto berpakaian menjadi gambar dengan konten pornografi.

Apple App Store dan Google Play Store baru-baru ini dilaporkan dipenuhi dengan aplikasi yang disebut nudify, yaitu perangkat lunak berbasis kecerdasan buatan (AI) yang dapat mengubah foto berpakaian menjadi gambar yang bersifat seksual (pornografi) tanpa persetujuan. Temuan ini muncul dari hasil penyelidikan terbaru oleh Tech Transparency Project (TTP), sebuah organisasi advokasi digital. Praktik ini jelas melanggar kebijakan konten yang telah ditetapkan oleh kedua raksasa teknologi tersebut.

Berdasarkan data dari TTP, terdapat setidaknya 55 aplikasi sejenis di Google Play Store dan 47 aplikasi di Apple App Store. Laporan tersebut menunjukkan besarnya skala penyebaran aplikasi-aplikasi ini. Secara keseluruhan, aplikasi yang teridentifikasi telah diunduh lebih dari 700 juta kali dan menghasilkan pendapatan sekitar USD 117 juta (sekitar Rp 1,9 triliun).

Sebagai penyedia platform, Apple dan Google, sebagaimana dikutip dari Engadget pada Kamis (29/1/2026), diketahui mengambil komisi dari setiap transaksi yang terjadi di dalam aplikasi tersebut.

Direktur Eksekutif dari TTP, Michelle Kuppersmith mengkritik lemahnya proses kurasi yang dilakukan oleh Apple dan Google.

"Apple dan Google seharusnya melakukan pengawasan ketat terhadap aplikasi di toko mereka. Namun, mereka justru menawarkan puluhan aplikasi yang bisa digunakan untuk menampilkan orang dengan pakaian minimal atau bahkan tanpa busana sama sekali. Hal ini sangat rentan terhadap penyalahgunaan," ungkap Kuppersmith.

Bahaya Bagi Anak-Anak di Bawah Umur

Salah satu temuan yang sangat mengkhawatirkan berkaitan dengan klasifikasi usia pada berbagai aplikasi tersebut. Banyak aplikasi nudify yang dikategorikan sebagai aman untuk anak-anak dan remaja.

Misalnya, aplikasi bernama DreamFace memiliki rating untuk pengguna berusia 13 tahun ke atas di Google Play Store, bahkan 9 tahun ke atas di Apple App Store. Menanggapi laporan ini, Apple telah mengonfirmasi bahwa mereka menghapus 24 aplikasi dari platform-nya.

Namun, jumlah tersebut masih jauh lebih sedikit dibandingkan dengan 47 aplikasi yang berhasil ditemukan oleh peneliti TTP. Di sisi lain, juru bicara Google menyatakan bahwa mereka telah menangguhkan beberapa aplikasi yang melanggar kebijakan, tetapi tidak memberikan rincian mengenai jumlah pasti aplikasi yang dihapus.

Tanggapan Elon Musk soal Kontroversi Grok

Laporan TTP ini muncul di tengah perdebatan mengenai chatbot AI milik Elon Musk, Grok, yang dianggap sebagai salah satu pencipta deepfake seksual non-konsensual yang paling dikenal saat ini. Dalam waktu 11 hari, Grok dilaporkan telah menghasilkan sekitar 3 juta gambar seksual, termasuk 22.000 gambar yang melibatkan anak-anak.

Menanggapi tuduhan tersebut, pihak X (yang sebelumnya dikenal sebagai Twitter) memberikan tanggapan yang dingin. Melalui balasan email otomatis kepada jurnalis, perusahaan hanya mengirimkan pesan singkat yang berbunyi "Legacy Media Lies", yang menunjukkan bahwa mereka merasa media besar tidak jujur dan tidak lagi dapat diandalkan sebagai sumber informasi.

Elon Musk dengan tegas membantah adanya konten eksplisit yang melibatkan anak di bawah umur yang dihasilkan oleh Grok. Namun demikian, akun keamanan resmi X mengungkapkan bahwa mereka akan memberikan sanksi kepada pengguna yang meminta Grok untuk membuat konten ilegal.

Ironisnya, chatbot Grok justru menunjukkan sikap yang lebih "manusiawi" dibandingkan dengan para petinggi perusahaannya, dengan merilis pesan permintaan maaf terkait pembuatan gambar seksual yang melibatkan anak di bawah umur. Hal ini menunjukkan adanya kontradiksi dalam respons perusahaan terhadap isu yang serius ini.

Infografis Empat Rekomendasi Chatbot AI Terbaik (Liputan6.com/Gotri/Abdillah)