OpenAI 4o Bisa Hasilkan Dokumen Palsu yang Sulit Dibedakan
Model AI terbaru OpenAI memicu kekhawatiran karena mampu menghasilkan gambar struk dan dokumen palsu yang sangat realistis.
Model AI terbaru dari OpenAI, GPT-4o, memicu kekhawatiran setelah terbukti mampu menghasilkan gambar struk dan dokumen palsu yang sangat realistis.
Temuan ini mencuat setelah seorang analis teknologi, Deedy Das dari Menlo Ventures, membagikan gambar struk makan malam buatan AI yang tampak autentik lengkap dengan detail menu, harga, dan tip.
Dalam unggahan di media sosial, Das menyebut bahwa banyak sistem verifikasi di dunia nyata masih mengandalkan gambar sebagai bukti, dan kemampuan AI membuat gambar palsu membuat pendekatan tersebut tak lagi bisa diandalkan.
Mengutip Futurism, Rabu (9/4), Ia juga menunjukkan bahwa GPT-4o dapat menciptakan dokumen lain seperti resep obat, termasuk untuk obat-obatan yang masuk dalam kategori pengawasan ketat.
"Anda bisa menggunakan GPT-4o untuk membuat struk palsu," tulis Das dalam cuitannya.
"Banyak alur verifikasi di dunia nyata yang masih mengandalkan gambar sebagai bukti. Era itu sudah berakhir," tambah dia.
Kemampuan ini menandai lompatan besar dalam teknologi AI generatif, terutama dalam kemampuannya menyusun teks dalam gambar dengan akurasi tinggi—sesuatu yang dulu menjadi kelemahan model AI.
Kini, bukan hanya struk makan yang bisa dipalsukan, tetapi juga dokumen sensitif seperti akta kelahiran, surat izin, atau cek bank.
Ancaman ini diperparah oleh lemahnya sistem pengaman saat ini. Beberapa platform memang menyematkan watermark digital dan metadata pada gambar buatan AI, namun para pakar menyebut fitur tersebut mudah dihapus atau dimodifikasi.
Sementara itu, survei terdahulu pada 2015 mengungkap bahwa 85% responden mengaku pernah memalsukan laporan pengeluaran dengan gambar bukti palsu.
Dengan kemajuan AI yang mampu menyamarkan kebohongan dalam bentuk visual, para pakar menilai sistem validasi dokumen harus segera diperbarui agar mampu membedakan mana konten asli dan mana hasil kreasi mesin. Jika tidak, ancaman penipuan digital diprediksi akan meningkat tajam dalam waktu dekat.
:strip_icc():format(webp)/kly-media-production/medias/8260530/original/063482400_1781600132-1000673352.jpg)
:strip_icc():format(webp)/kly-media-production/medias/8260359/original/038934600_1781588341-1.jpg)
:strip_icc():format(webp)/kly-media-production/medias/4832726/original/019521800_1715768412-Hellblade_2.jpg)
:strip_icc():format(webp)/kly-media-production/medias/8260360/original/003456500_1781588342-2.jpg)
:strip_icc():format(webp)/kly-media-production/medias/8260445/original/026718600_1781594018-761994.jpg)
:strip_icc():format(webp)/kly-media-production/medias/8260200/original/096210100_1781581491-Gempa_Palu.jpg)
