JAKARTA, mulamula.id – Seorang pengacara di California, Amir Mostafavi, menerima denda besar setelah nekat mengandalkan ChatGPT dalam menyusun dokumen banding. Bukannya membantu, kecerdasan buatan justru menjerumuskannya ke masalah serius.
21 dari 23 Kutipan Palsu
Mostafavi memasukkan 23 kutipan kasus hukum dalam berkas bandingnya pada Juli 2023. Namun, pengadilan menemukan 21 di antaranya palsu. Fakta itu membuat panel hakim menjatuhkan denda hingga 10.000 dolar AS atau sekitar Rp166 juta.
Kasus ini sebenarnya sudah bermula sejak pengajuan banding pada pertengahan 2023. Tetapi proses pemeriksaan dan penjatuhan sanksi baru diputuskan dua tahun kemudian, sehingga publik baru mengetahuinya sekarang.
Sanksi ini disebut sebagai salah satu denda terberat yang pernah dijatuhkan pengadilan negara bagian California kepada pengacara.
AI Jadi Bumerang
Dalam sidang, Mostafavi mengaku menggunakan ChatGPT untuk memperhalus tulisan. Ia tak menyangka aplikasi itu justru “mengarang” kutipan kasus. “Saya akan menanggung akibatnya. Semoga ini jadi pelajaran agar orang lain tidak jatuh ke lubang yang sama,” ujarnya di ruang sidang, sebagaimana dicatat hakim menurut laporan Associated Press.
Baca juga: Legal Analytics, Cara Baru Dunia Hukum Membaca Data dan Membuat Keputusan
Mostafavi menilai melarang pengacara memakai AI sudah tidak relevan. Namun, ia menegaskan pentingnya sikap hati-hati. Menurutnya, teknologi memang bisa menunjang riset hukum, tapi belum cukup andal untuk dijadikan rujukan tanpa verifikasi.
Peringatan untuk Dunia Hukum
Fenomena ini bukan kali pertama. Analisis akademisi hukum Jenny Wondracek mencatat lebih dari 600 kasus di dunia, termasuk 52 kasus di California, di mana pengacara tak sadar mengutip “otoritas hukum” yang ternyata fiksi buatan AI.
Baca juga: AI Bisa Gantikan Dokter, tapi Menyerah pada Perawat dan Tukang Ledeng
Damien Charlotin, dosen di sebuah sekolah bisnis di Paris, bahkan menyebut semakin rumit argumen hukum, semakin tinggi peluang AI berhalusinasi. “Model akan berusaha menyenangkan Anda dengan jawaban, walau tidak nyata,” katanya.
Kasus Mostafavi memberi sinyal kuat bahwa integrasi AI di bidang hukum belum bebas risiko. Pengadilan dan masyarakat perlu menyiapkan aturan etis yang jelas. Sejumlah pakar mendorong adanya pembimbingan sejak bangku kuliah hukum agar generasi baru pengacara tak mengulangi kesalahan serupa. ***
Dapatkan informasi menarik lainnya dengan bergabung di WhatsApp Channel Mulamula.id dengan klik tautan ini.