Korsel Diguncang Pornografi Deepfake, Anak di Bawah Umur Ramai-Ramai Jadi Korban

Saluran Telegram dengan lebih dari 220.000 peserta dilaporkan digunakan untuk membagikan gambar-gambar pornografi yang dihasilkan oleh AI.

Korea Selatan sedang diguncang kejahatan seks digital, deepfake. Gelombang gambar deepfake berkonten seksual yang dibuat dan dibagikan secara daring, tanpa pandang bulu menyasar kaum perempuan dan anak perempuan dengan menggunakan foto-foto sekolah mereka, swafoto media sosial, dan bahkan foto wajah tentara.

Dilansir Channel News Asia, Rabu (11/9/2024), saluran Telegram dengan lebih dari 220.000 peserta dilaporkan digunakan untuk membagikan gambar-gambar pornografi yang dihasilkan oleh AI.

Pengguna dapat mengunggah foto dan dalam hitungan detik membuat konten eksplisit dengan wajah teman, teman sekelas, atau pasangan romantis mereka. Banyak korban adalah anak di bawah umur.

Warga negeri gingseng pun langsung bereaksi. Mereka melakukan demonstrasi menuntut pertanggungjawaban pemerintah atas maraknya pornografi deepfake.

Pada Jumat malam waktu setempat, sekitar 1.200 demonstran yang mewakili ratusan organisasi masyarakat sipil berbaris melalui pusat kota Seoul sambil meneriakkan tuntutan. Berkumpul di Bosingak Bell Pavilion, para demonstran mengkritik kurangnya tindakan dan dukungan pemerintah terhadap para korban.

"Mari kita berhenti merasa cemas dan takut, serta berjuang untuk mendapatkan kembali hidup kita!" teriak mereka dilansir South China Morning Post.

Masalah ini disorot bulan lalu ketika penyelidikan polisi terhadap jaringan porno deepfake di dua universitas besar terungkap. Para pelaku menggunakan media sosial untuk mengambil foto korban untuk dimanipulasi.

Banyak video yang diubah telah dibagikan di aplikasi pesan pribadi Telegram, dengan satu ruang obrolan memiliki lebih dari 220.000 anggota. Data dari Badan Kepolisian Nasional menunjukkan kejahatan terkait deepfake yang dilaporkan melonjak menjadi 297 tahun ini, dibandingkan dengan 156 pada tahun 2021.

Presiden Korea Selatan Yoon Suk Yeol dalam rapat kabinet pada Selasa (27/8/2024) lalu, telah menginstruksikan pihak berwenang untuk menyelidiki secara menyeluruh dan menangani kejahatan seks digital tersebut. Dia memerintahkan pihak terkait untuk memberantasnya.

Menurut Badan Kepolisian Nasional, remaja yang menjadi korban mencapai 75,8 persen kasus deepfake tahun lalu. Siswa sekolah menengah juga masuk dalam daftar lebih dari 500 sekolah yang terkena dampak.

"Jika video atau gambar diunggah tanpa persetujuan anak, hal itu dapat menyebar seperti api dan penderitaan yang dialami anak-anak ini akan terus berlanjut hingga mereka dewasa," kata Mijeong Kang, direktur advokasi Save the Children Korea, dalam sebuah pernyataan.

"Kita perlu melakukan yang lebih baik untuk mendukung hak anak-anak kita atas penentuan nasib sendiri secara digital," lanjutnya.

Seperti diketahui, pendiri Telegram, Pavel Durov, ditangkap oleh pihak berwenang Prancis awal bulan ini. Dia didakwa karena mengizinkan aktivitas kriminal di platform tersebut.

Pekan lalu, Telegram telah meminta maaf kepada pihak berwenang Korea Selatan atas penanganannya terhadap materi deepfake dan mematuhi permintaan untuk menghapus beberapa konten deepfake tertentu.

Secara historis, Korea Selatan belum pernah menjatuhkan hukuman pada platform untuk kejahatan seksual daring. Namun, akibat kasus ini, Badan Kepolisian Nasional memulai penyelidikan terhadap Telegram karena berpotensi membantu penyebaran deepfake, yang menandai perubahan signifikan dalam pendekatan penegakan hukum.

Undang-Undang Hukuman Kekerasan Seksual tahun 2020 yang direvisi memungkinkan hukuman penjara hingga lima tahun untuk kejahatan seks deepfake atau denda hingga 50 juta won atau sekira USD 37.400.

Namun, berdasarkan data kepolisian, tingkat penangkapan pelaku untuk kasus semacam itu hanya 48 persen pada tahun lalu, jauh lebih rendah dibandingkan bentuk lain kekerasan seksual digital.