LAYANAN publik berubah cepat. Banyak hal yang dulu harus diurus di kantor kini bisa selesai lewat ponsel. Di beberapa negara, seperti Estonia, hampir semua urusan warga, dari pajak hingga administrasi keluarga, sudah terintegrasi secara digital.
Namun di balik kemudahan itu, muncul pertanyaan baru yang tidak sederhana.
Ketika sistem mulai menggunakan kecerdasan buatan atau AI untuk memproses layanan, siapa yang bertanggung jawab jika terjadi kesalahan?
Layanan Berubah Cepat
Pertanyaan ini terasa makin relevan di Indonesia setelah muncul dugaan manipulasi laporan warga menggunakan AI oleh oknum petugas di Jakarta Timur. Teknologi yang seharusnya mempermudah justru membuka ruang baru untuk penyimpangan.
Baca juga: Data Kamu Dikirim ke Luar Negeri, Siapa Menjaga Keamanannya?
Dalam hukum administrasi, pelayanan publik bukan sekadar layanan. Ini adalah hak warga negara. Undang-Undang Nomor 25 Tahun 2009 tentang Pelayanan Publik menegaskan bahwa negara wajib memberikan layanan yang adil, transparan, dan akuntabel.
Masalahnya, ketika AI mulai masuk ke dalam sistem, cara kerja pelayanan ikut berubah. Keputusan tidak lagi sepenuhnya diambil manusia. Sebagian diproses oleh sistem yang bekerja dengan logika algoritma.
Transparansi Dipertanyakan
AI memang menawarkan efisiensi. AI mampu mengolah data dalam jumlah besar, mempercepat proses, dan meminimalkan kesalahan administratif. Namun ada satu persoalan yang sulit dihindari, keputusan AI tidak selalu bisa dijelaskan secara terbuka.
Fenomena ini sering disebut sebagai black box. Sistem menghasilkan keputusan, tetapi proses di dalamnya tidak sepenuhnya transparan. Ketika seseorang ditolak dalam layanan publik, tidak selalu jelas alasan yang mendasarinya.
Padahal, dalam prinsip hukum administrasi, setiap keputusan pemerintah harus bisa dijelaskan dan diuji.
Hak Warga Terancam
Undang-Undang Nomor 30 Tahun 2014 tentang Administrasi Pemerintahan menegaskan bahwa setiap tindakan dan keputusan harus berlandaskan asas legalitas, transparansi, dan akuntabilitas. Artinya, tidak boleh ada keputusan yang “gelap”.
Baca juga: AI Terlalu “Baik”? Studi Ungkap Risiko Chatbot yang Selalu Membenarkan Pengguna
Jika warga dirugikan, mereka harus tahu alasan dan memiliki ruang untuk menggugat.
Masalahnya, bagaimana menggugat keputusan yang bahkan logikanya tidak dipahami?
Di sinilah dilema muncul.
Siapa Bertanggung Jawab
AI bukan subjek hukum. AI tidak bisa dimintai pertanggungjawaban. Dalam sistem hukum Indonesia, yang bertanggung jawab tetap manusia atau badan hukum yang menggunakan teknologi tersebut.
Artinya, ketika terjadi kesalahan, tanggung jawab tidak bisa dialihkan ke sistem.
Namun dalam praktik, batas ini tidak selalu jelas. Ketika keputusan dihasilkan oleh algoritma, sering muncul kecenderungan untuk menyalahkan sistem. Ini berbahaya. Karena jika dibiarkan, akuntabilitas bisa hilang secara perlahan.
Regulasi Masih Tertinggal
Di sisi lain, regulasi kita belum sepenuhnya siap.
Indonesia memang sudah memiliki Strategi Nasional Kecerdasan Artifisial 2020–2045 sebagai arah kebijakan. Namun dalam praktik hukum administrasi, pengaturan mengenai keputusan berbasis AI masih terbatas.
Sebagian besar aturan masih berangkat dari asumsi lama, bahwa keputusan dibuat manusia, lalu dituangkan dalam bentuk tertulis atau elektronik.
Baca juga: AI Mulai Dikunci, Pemerintah Pastikan Mesin Tak Bisa Jalan Sendiri
Padahal, saat ini keputusan bisa diproses secara semi-otomatis, bahkan mendekati otonom.
Kesenjangan ini membuat hukum terlihat tertatih mengejar teknologi.
Risiko Semakin Nyata
Tanpa pengaturan yang jelas, ada dua risiko yang nyata. Pertama, penyalahgunaan teknologi untuk kepentingan tertentu, seperti manipulasi data atau laporan. Kedua, hilangnya kepercayaan publik karena keputusan tidak lagi transparan.
Dalam konteks pelayanan publik, ini bukan masalah kecil.
Karena yang dipertaruhkan bukan sekadar sistem, tetapi hak warga.
Menjaga Keseimbangan
Di titik ini, keseimbangan menjadi kunci. AI tetap bisa digunakan untuk meningkatkan efisiensi layanan. Namun prinsip keadilan administratif tidak boleh ditinggalkan.
Setiap keputusan, siapa pun yang memprosesnya, harus tetap bisa dijelaskan, diuji, dan dipertanggungjawabkan.
Baca juga: Sidang Belum Dimulai, Vonis Sudah Dijatuhkan
Tanpa itu, teknologi yang seharusnya membantu justru berpotensi menciptakan ketidakadilan baru.
Pada akhirnya, perkembangan AI tidak bisa dihentikan. Yang bisa dilakukan adalah memastikan bahwa AI berjalan dalam koridor hukum.
Karena dalam pelayanan publik, yang paling penting bukan seberapa canggih sistemnya.
Melainkan apakah hak warga tetap terlindungi. ***
Dapatkan informasi menarik lainnya dengan bergabung di WhatsApp Channel Mulamula.id dengan klik tautan ini.