Peneliti Wanti-Wanti AI Bisa Timbulkan Ekonomi Palsu hingga Manipulasi Sosial Skala Industri

Keputusan yang dikerjakan karena kecerdasan buatan akan berbahaya terhadap kualitas dari sebuah kebijakan.

Peneliti dari Universitas Cambridge memwanti-wanti masyarakat dampak buruk secara luas atas pemanfaatan kecerdasan buatan atau artificial intelligence (AI). Dalam makalah yang diterbitkan pada 30 Desember 2024 disebutkan bahwa AI pada platform percakapan bahkan bisa menjadi penentu dan pengaruh seseorang dalam mengambil sebuah keputusan.

Dilansir dari AF, penelitian ini menyamoaikan bahwa pasar yang berpotensi akan membuat dunia menjadi bising, dalam waktu dekat, akan memengaruhi segala hal mulai dari pembelian tiket film hingga pemungutan suara untuk kandidat politik.

"Jika tidak diatasi, hal itu dapat memungkinkan manipulasi sosial dalam skala industri," demikian pendapat pasangan dari Pusat Leverhulme untuk Masa Depan Kecerdasan Cambridge dalam makalah yang diterbitkan di Harvard Data Science Review.

Ini mengkarakterisasi bagaimana sektor yang baru muncul ini dijuluki “ekonomi kesengajaan” akan memetakan perhatian dan gaya komunikasi pengguna, dan menghubungkannya dengan pola perilaku dan pilihan yang mereka buat.

“Alat-alat AI sudah dikembangkan untuk memperoleh, menyimpulkan, mengumpulkan, mencatat, memahami, memperkirakan, dan pada akhirnya memanipulasi dan mengkomersialkan rencana dan tujuan manusia,” kata salah satu penulis, Yaqub Chaudhary.

Dampak AI terhadap Aspirasi Manusia

AI baru tersebut akan mengandalkan apa yang disebut model bahasa besar atau LLM untuk menargetkan irama, politik, kosakata, usia, jenis kelamin, riwayat daring, dan bahkan preferensi pengguna untuk sanjungan dan menjilat, menurut penelitian tersebut.

Itu akan dihubungkan dengan teknologi AI baru lainnya yang berupaya mencapai tujuan tertentu, seperti menjual tiket menonton film di bioskop, atau mengarahkan percakapan ke platform, pengiklan, bisnis, dan bahkan organisasi politik tertentu.

"Jika tidak diatur, ekonomi yang berorientasi pada tujuan akan memperlakukan motivasi Anda sebagai mata uang baru," demikian peringatan rekan penulis Jonnie Penn, seraya menambahkan bahwa ini akan menjadi perburuan emas bagi mereka yang menargetkan, mengarahkan, dan menjual tujuan manusia.

“Kita harus mulai mempertimbangkan dampak yang mungkin terjadi dari pasar semacam itu terhadap aspirasi manusia, termasuk pemilihan umum yang bebas dan adil, kebebasan pers, dan persaingan pasar yang adil, sebelum kita menjadi korban dari konsekuensi yang tidak diinginkan.”

Dr Penn mencatat bahwa kesadaran publik terhadap isu ini adalah “kunci untuk memastikan kita tidak menempuh jalan yang salah”.