Merdeka.com - Kasus ini adalah kali pertama terjadi. Seorang hakim membuat keputusan pengadilan menggunakan jawaban dari ChatGPT. Dilaporkan Vice, Rabu (8/2), kejadian ini diketahui terjadi di Kolombia. Seorang hakim di negara itu menggunakan ChatGPT untuk membuat keputusan pengadilan.

Kasusnya terkait dengan tanggung jawab asuransi untuk menanggung biaya perawatan medis bagi anak pengidap autism.

Dialah Juan Manuel Padilla Garcia. Hakim asal Kota Cartagena yang memutuskan keputusan pengadilan menggunakan AI atau kecerdasan buatan. Garcia mengakui menggunakan alat AI untuk mengajukan pertanyaan hukum tentang kasus tersebut dan menyertakan tanggapannya dalam keputusannya.

"Argumen untuk keputusan ini akan ditentukan sejalan dengan penggunaan kecerdasan buatan atau AI. Oleh karena itu, kami memasukkan beberapa pertanyaan hukum yang diajukan dalam proses ini," kata dia.

"Tujuan memasukkan teks yang diproduksi AI ini sama sekali tidak menggantikan keputusan hakim. Apa yang sebenarnya kami cari adalah mengoptimalkan waktu yang dihabiskan untuk menyusun penilaian setelah menguatkan informasi yang diberikan oleh AI," tambah dia.

Diakuinya, fungsi dari penggunaan ChatGPT yang digunakan bukanlah satu-satunya parameter yang diputuskan dalam persidangan. ChatGPT, menurut dia, digunakan hanya sebagai ‘partner diskusi’. Jadi Garcia menyebutkan bahwa ia pun mengeluarkan argumen hukumnya sendiri sebagai dasar keputusan.

Hukum Kolombia memang tidak melarang penggunaan AI dalam keputusan pengadilan, tetapi sistem seperti ChatGPT dikenal memberikan jawaban yang bias, diskriminatif, atau ala kadarnya. Ini karena model bahasa pada ChatGPT belum memiliki “pemahaman” teks yang sebenarnya.

Penerapan AI pada ChatGPT hanya mensintesis kalimat berdasarkan probabilitas dari jutaan contoh yang digunakan untuk melatih sistem.

Pembuat ChatGPT, OpenAI, pun telah menerapkan filter untuk menghilangkan beberapa respons yang lebih bermasalah. Tetapi para pengembang memperingatkan bahwa alat tersebut masih memiliki keterbatasan yang signifikan dan tidak boleh digunakan untuk pengambilan keputusan konsekuensial. Penggunaan sistem ini AI di pengadilan telah banyak dikritik oleh ahli etika kecerdasan buatan.