Fakta Terbaru, 3 Juta Pengguna ChatGPT Alami Masalah Mental Tiap Minggu

Raksasa teknologi kecerdasan buatan, OpenAI, mengungkapkan bahwa sekitar 10 persen dari populasi dunia saat ini menggunakan ChatGPT setiap minggunya.

Namun, penelitian terbaru menunjukkan adanya indikasi masalah kesehatan mental di kalangan sebagian pengguna saat berinteraksi dengan ChatGPT.

Berdasarkan data internal yang dimiliki perusahaan, sekitar 0,07 persen dari pengguna mingguan menunjukkan tanda-tanda "kedaruratan mental terkait psikosis atau mania", sedangkan 0,15 persen lainnya berisiko melakukan "tindakan menyakiti diri atau bunuh diri".

Jumlah yang sama juga menunjukkan "ketergantungan emosional terhadap AI". Jika dihitung secara global, angka tersebut setara dengan hampir tiga juta orang setiap minggunya.

Menanggapi isu ini, OpenAI menyatakan bahwa mereka telah bekerja sama dengan 170 ahli kesehatan mental untuk meningkatkan respons ChatGPT terhadap pengguna yang berada dalam kondisi rentan.

Perusahaan ini mengklaim telah berhasil mengurangi respons yang "tidak sesuai" untuk memenuhi perilaku yang diinginkan sebesar 65-80 persen.

Selain itu, mereka juga memperbaiki kemampuan sistem dalam meredakan percakapan dan mengarahkan pengguna ke layanan profesional atau hotline krisis.

Langkah pencegahan lainnya termasuk memberikan pengingat kepada pengguna untuk beristirahat setelah menggunakan ChatGPT dalam waktu yang lama, meskipun sistem tidak dapat memaksa pengguna untuk menghubungi dukungan atau membatasi akses mereka.

Menurut laporan Gizmodo, Metrik Perusahaan mengungkapkan bahwa sekitar 0,07 persen dari pengguna aktif mingguan serta 0,01 persen pesan menunjukkan indikasi adanya masalah kesehatan mental yang berkaitan dengan psikosis.

Angka tersebut setara dengan sekitar 560 ribu pengguna setiap minggunya. OpenAI juga melaporkan bahwa sebanyak 18 miliar pesan telah dikirim ke ChatGPT.

Dari total tersebut, sekitar 1,8 juta pesan teridentifikasi memiliki gejala psikosis. Selain itu, 0,15 persen dari pesan lainnya menunjukkan adanya tanda keterikatan emosional terhadap chatbot, yang diperkirakan mencakup sekitar 5,4 juta pesan setiap minggu.

Langkah yang diambil oleh OpenAI ini muncul sebagai respons terhadap insiden tragis seorang remaja berusia 16 tahun yang mengakhiri hidupnya setelah meminta nasihat dari ChatGPT.

Meskipun perusahaan telah memperketat fitur untuk pengguna di bawah umur, kebijakan lain yang memungkinkan ChatGPT memiliki "kepribadian" serta kemampuan untuk membuat konten erotis menimbulkan pertanyaan baru mengenai komitmen OpenAI dalam menjaga kesehatan mental penggunanya.

Hal ini menunjukkan bahwa ada tantangan besar dalam menyeimbangkan inovasi teknologi dengan tanggung jawab sosial.