Keluarga yang Anaknya Tewas Bunuh Diri Gara-gara AI, Gugat Google

Dua keluarga di Texas menggugat Character.AI atas dugaan pelecehan seksual dan emosional terhadap anak-anak mereka, melibatkan chatbot yang tidak sesuai usia.

Dua keluarga di Texas mengajukan gugatan terhadap perusahaan chatbot berbasis AI, Character.AI, yang didukung oleh Google. Mereka menuduh platform ini melakukan pelecehan seksual dan emosional terhadap anak-anak sekolah mereka.

Mengutip Futurism, Rabu (11/12), menurut gugatan yang diajukan hari ini di Texas, platform ini diduga “membahayakan anak-anak Amerika dengan memfasilitasi atau mendorong perilaku berbahaya yang mengancam jiwa.”

Kasus Korban Anak-Anak

Salah satu korban adalah seorang gadis berusia sembilan tahun yang mulai menggunakan Character.AI setelah diperkenalkan oleh seorang siswa kelas enam. Setelah mengunduh aplikasi tersebut, ia terpapar “interaksi yang hiper-seksual dan tidak sesuai usianya,” yang menurut gugatan menyebabkan perkembangan perilaku seksual prematur selama dua tahun berikutnya.

Gugatan juga menuduh bahwa platform ini “mengumpulkan, menggunakan, atau membagikan informasi pribadi” tentang anak tersebut tanpa memberikan pemberitahuan kepada orang tuanya.

Para pengacara keluarga korban menyatakan bahwa interaksi chatbot di Character.AI mencerminkan pola “grooming” yang dikenal, seperti mendesensitisasi korban terhadap tindakan kekerasan atau perilaku seksual.

Google dan Hubungan dengan Character.AI

Meskipun Google menyatakan bahwa hubungan mereka dengan Character.AI “sepenuhnya terpisah,” fakta menunjukkan sebaliknya. Awal tahun ini, Google membayar $2,7 miliar untuk melisensikan teknologi Character.AI dan merekrut sejumlah karyawannya, termasuk pendiri Noam Shazeer dan Daniel de Freitas.

Kedua pendiri ini sebelumnya bekerja di Google, di mana mereka mengembangkan chatbot bernama Meena, yang dianggap terlalu berbahaya untuk dirilis ke publik. Hal ini memotivasi mereka untuk meninggalkan Google dan mendirikan Character.AI.

Industri Chatbot dalam Kekosongan Regulasi

Kasus ini menyoroti kurangnya regulasi dalam industri chatbot AI. Menurut Matt Bergman, pendiri Social Media Victims Law Center yang mewakili keluarga korban, “Saya tidak tahu bagaimana mereka bisa tidur di malam hari, mengetahui apa yang telah mereka lepaskan kepada anak-anak.”

Seberapa jauh gugatan ini akan berjalan masih belum jelas, mengingat industri AI chatbot masih beroperasi di bawah kekosongan regulasi. Pertanggungjawaban perusahaan pembuat teknologi ini belum sepenuhnya diuji di pengadilan.