SUDUTPANDANG.ID – Penggunaan kecerdasan buatan (AI) dalam praktik hukum kembali menuai sorotan setelah seorang pengacara di California, Amerika Serikat, Amir Mostafavi, dijatuhi denda sebesar 10.000 dollar AS atau sekitar Rp166 juta.
Hukuman itu dijatuhkan karena pengacara tersebut memasukkan puluhan kutipan palsu dari ChatGPT ke dalam berkas banding yang diajukan ke pengadilan.
Dalam dokumen tersebut, tercatat 23 kutipan kasus hukum, namun 21 di antaranya terbukti fiktif. Kesalahan itu terjadi lantaran Mostafavi tidak memeriksa ulang hasil teks dari chatbot sebelum menyerahkannya ke pengadilan pada Juli 2023, hanya beberapa bulan setelah ChatGPT diluncurkan.
Mostafavi mengaku, niat awalnya sekadar menggunakan AI untuk memperbaiki susunan kalimat. Ia tak menduga bahwa sistem dapat menghasilkan “halusinasi hukum” yang berakibat fatal. Tiga hakim yang memeriksa perkara pun menilai tindakannya sembrono dan menjatuhkan sanksi tegas.
“Pengacara memang tidak bisa sepenuhnya berhenti memakai AI, tetapi harus lebih berhati-hati. Hingga teknologi ini lebih akurat, risiko kesalahan pasti masih ada,” ujar Mostafavi usai putusan, dikutip Associated Press, Minggu (28/9/2025).
Kasus ini menjadi preseden penting karena disebut sebagai denda tertinggi yang pernah dijatuhkan kepada advokat di California terkait penggunaan AI.
Damien Charlotin, akademisi yang meneliti penggunaan AI dalam dunia hukum, menilai kasus Mostafavi sebagai sinyal bahaya global. Ia menemukan tren serupa di Australia, Kanada, Inggris, dan berbagai negara lain.
“Semakin kompleks argumen hukum, semakin besar kemungkinan AI berhalusinasi. Model cenderung memberi jawaban yang terdengar meyakinkan, tetapi tidak nyata,” jelas Charlotin.
Hal senada diungkapkan peneliti hukum teknologi, Jenny Wondracek. Dari penelitiannya, ada 52 kasus serupa di California dan lebih dari 600 kasus di berbagai belahan dunia.
Ia menilai fenomena ini akan meningkat, mengingat laju inovasi AI jauh lebih cepat dibanding kemampuan adaptasi para pengacara.
Wondracek menyarankan agar lembaga hukum mengambil langkah antisipatif, mulai dari pelatihan penggunaan AI yang etis, pembatasan sementara, hingga memasukkan literasi AI ke dalam kurikulum mahasiswa hukum.
Dengan begitu, generasi pengacara berikutnya dapat memanfaatkan teknologi tanpa terjebak dalam jebakan “halu” mesin.
Kasus Mostafavi menjadi alarm keras bahwa kehadiran AI dalam dunia hukum bukan hanya sekadar inovasi, tetapi juga risiko nyata yang bisa mengubah wajah praktik peradilan.(01)
