Mantan Bos Google Resah Banyak Anak Muda Terobsesi Punya Pacar AI

Bukan tanpa sebab mantan Bos Google ini cemas terhadap persoalan anak muda.

Mantan CEO Google, Eric Schmidt, mengungkapkan kekhawatirannya terhadap fenomena anak muda yang semakin terobsesi dengan "pacar AI."

Dalam wawancara di podcast "The Prof G Show", Schmidt menyoroti bahwa generasi muda dan orang tua mereka belum siap menghadapi dampak tak terduga dari teknologi canggih seperti ini. 

Melansir dari Futurism, Jumat (29/11), menurut Schmidt, teman virtual berbasis AI memang sering sekali terlihat sempurna sehingga bisa memikat anak muda dan menjauhkan mereka dari dunia nyata.  

"Obsesi semacam itu mungkin saja terjadi. Terutama bagi orang-orang yang belum terbentuk sepenuhnya," katanya kepada Scott Galloway, profesor dari Stern School of Business di NYU. 

Schmidt mencatat bahwa meskipun perempuan juga mulai menggunakan pasangan virtual berbasis AI, kaum pria muda menjadi kelompok yang paling rentan. Banyak dari mereka mencari hiburan dan pemenuhan kebutuhan di dunia maya. Namun, algoritmanya sering mendorong mereka ke arah konten bermasalah, seperti influencer ekstremis atau chatbot manipulatif. 

"Anda menempatkan anak berusia 12 atau 13 tahun di depan hal-hal ini. Dan mereka memiliki akses ke setiap kejahatan serta kebaikan di dunia, tetapi mereka belum siap untuk menerimanya," jelas Schmidt. 

Kekhawatiran ini pastinya bukan tanpa alasan. Melihat beberapa waktu lalu, seorang remaja 14 tahun di Florida dilaporkan bunuh diri setelah berinteraksi dengan chatbot bertema "Game of Thrones" yang dihosting di Character.AI, yang diduga mendorong tindakan tersebut.

Meskipun kasus ini tergolong ekstrem, insiden ini menyoroti bahaya dari chatbot yang dirancang untuk terlihat seperti manusia. Tanpa aturan yang tepat, risiko seperti ini bisa saja terus berulang. 

Contoh lainnya termasuk chatbot AI yang mendorong gangguan makan dan bahkan melakukan pelecehan seksual terhadap pengguna di bawah umur. Hal ini diperparah oleh undang-undang yang melindungi perusahaan teknologi dari tanggung jawab atas kerugian yang disebabkan oleh produk mereka.  

Menurut Schmidt, undang-undang ini memungkinkan perusahaan seperti Character.AI untuk menghindari akuntabilitas, meskipun Google, yang sebelumnya ia pimpin, telah menginvestasikan miliaran dolar ke dalam teknologi semacam itu. 

"Karena teknologi ini sangat berharga. Mungkin diperlukan semacam bencana untuk menyebabkan perubahan regulasi," terang dia. 

Namun, sulit membayangkan sesuatu yang lebih buruk dari tragedi seorang remaja yang meninggal akibat dorongan dari pacar virtual berbasis AI itu. 

Reporter magang: Nadya Nur Aulia