Belum Ada Regulasi, Penggunaan AI Berpotensi Ancam Hak Asasi Manusia

Penelitian tersebut juga menyoroti risiko bias algoritma dalam pengambilan keputusan berbasis AI, terutama dalam layanan publik. Tanpa standar hukum yang tegas, sistem otomatis berpotensi memperkuat diskriminasi dan ketimpangan akses, khususnya bagi kelompok rentan.

“Selain itu, penggunaan AI dalam pengawasan digital dapat mendorong terjadinya surveillance creep, yakni perluasan pengawasan negara terhadap warga secara bertahap tanpa kontrol hukum yang transparan dan akuntabel,” katanya.

Dari perspektif tanggung jawab negara, Pangeran menilai ketiadaan Undang-Undang AI dapat menempatkan negara dalam posisi lalai memenuhi kewajiban konstitusionalnya untuk melindungi, menghormati, dan memenuhi hak asasi manusia. Negara tidak hanya berkewajiban mendorong inovasi teknologi, tetapi juga memastikan bahwa setiap pemanfaatan teknologi berjalan sejalan dengan prinsip negara hukum dan perlindungan hak warga negara.

Pangeran menambahkan, pembentukan Undang-Undang Kecerdasan Buatan sebagai regulasi khusus atau lex specialis merupakan kebutuhan mendesak bagi Indonesia. Regulasi tersebut harus dibangun dengan menjadikan hak asasi manusia dan prinsip good governance sebagai landasan utama, guna menjamin transparansi, akuntabilitas, partisipasi publik, serta kepastian hukum dalam pemanfaatan kecerdasan buatan.

“Tanpa Undang-Undang AI yang komprehensif, negara berisiko membiarkan teknologi berkembang lebih cepat dari hukum, sementara warga negara berada dalam posisi rentan tanpa perlindungan yang memadai,” ucapnya.