Deepfake Naik 550 Persen, Wamenkomdigi Minta Medsos Punya Fitur Cek Konten AI

Wakil Menteri Komunikasi dan Digital (Wamenkomdig) Nezar Patria meminta platform digital global menghadirkan fitur pengecekan untuk membantu masyarakat mengenali konten yang dibuat oleh kecerdasan artifisial (artificial intelligence/AI), khususnya guna menangkal hoaks dan deepfake.

“Kita berharap platform media sosial global bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” kata Nezar dalam Talkshow Bentara Nusantara bertajuk Urun Daya Tangkal Hoax dan Deepfake AI di kantor RRI, Jakarta, Selasa (9/9).

Menurut Nezar, fenomena deepfake kian mengkhawatirkan. Data Sensity AI mencatat peningkatan hingga 550 persen dalam lima tahun terakhir.

“Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif,” tegasnya.

Ia menilai platform digital memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik.

“Kalau kita meragukan isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka miliki. Misalnya di Meta atau Google, fitur seperti ini bisa dijadikan layanan standar,” jelas Nezar.

Pemerintah, kata Nezar, berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat penyebaran hoaks.

Indonesia sudah memiliki sejumlah perangkat hukum, mulai dari UU ITE, UU Perlindungan Data Pribadi (PDP), hingga PP TUNAS.

“Saat ini, pemerintah juga tengah menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab,” ujarnya.

Selain regulasi, Kementerian Komdigi menggandeng ekosistem luas, termasuk Masyarakat Anti Fitnah Indonesia (Mafindo) dan media massa, untuk memperkuat program cek fakta.

“Ruang digital ini milik kita bersama, maka perlu kerja sama erat untuk menjaga publik dari hoaks dan konten negatif,” tegas Nezar.

Ketua Mafindo, Septiaji Eko Nugroho, menambahkan fenomena deepfake mulai muncul di Indonesia pada 2023 dan kini berkembang pesat.

“Untuk isu politik ada, tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks berbentuk video pada 2025 dengan tema penipuan digital, mayoritas itu deepfake,” ujarnya.

Septiaji menegaskan Mafindo akan terus bekerja sama dengan pemerintah, media, dan komunitas literasi digital untuk melakukan pengecekan fakta terhadap konten hoaks, termasuk deepfake, yang beredar di internet.