Belum Ada Regulasi, Penggunaan AI Berpotensi Ancam Hak Asasi Manusia

JAKARTA - Pemanfaatan kecerdasan buatan atau artificial intelligence (AI) di Indonesia terus berkembang pesat, mulai dari pelayanan publik, hingga pengelolaan informasi di ruang digital. Namun, di tengah percepatan tersebut, Indonesia menghadapi persoalan mendasar, yakni belum adanya Undang-Undang (UU) khusus yang secara komprehensif mengatur kecerdasan buatan.

Hal tersebut disampaikan mahasiswa Magister Hukum Fakultas Hukum Universitas Indonesia (UI) Pangeran M Negara. Dalam tesisnya berjudul “Urgensitas Pembentukan Undang-Undang Kecerdasan Buatan dalam Menghadapi Ancaman Keamanan Nasional melalui Perspektif HAM dan Good Governance” ini Pangeran menegaskan, kerangka hukum Indonesia saat ini belum memadai untuk melindungi hak asasi manusia di tengah penggunaan AI yang semakin luas dan kompleks.

Pengaturan kecerdasan buatan di Indonesia saat ini masih bertumpu pada regulasi umum seperti Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP), serta peraturan turunannya. Instrumen tersebut tidak dirancang untuk merespons karakteristik AI yang otonom, adaptif, dan berbasis pengambilan keputusan otomatis

Baca juga: Memacu Modernisasi Data dan Adopsi AI di Indonesia

“UU ITE dan UU PDP memang mengatur sistem elektronik dan perlindungan data pribadi, tetapi belum mengatur kecerdasan buatan sebagai sistem algoritmik yang mampu mengambil keputusan secara mandiri dan berdampak langsung pada hak warga negara,” ujarnya, Kamis (8/1/2026).


Dalam praktiknya, teknologi berbasis AI telah digunakan dalam berbagai sektor strategis, termasuk pengawasan publik, pengenalan wajah, pemrosesan data pribadi, serta layanan administrasi pemerintahan. Namun, penggunaan tersebut belum disertai dengan kewajiban transparansi algoritma, mekanisme audit, pengawasan manusia, serta pertanggungjawaban hukum yang jelas apabila terjadi pelanggaran.

Menurut Pangeran, meskipun UU ITE mengatur sistem dan agen elektronik, serta UU PDP memberikan perlindungan atas data pribadi, keduanya belum mengatur secara spesifik tata kelola AI, seperti kewajiban transparansi algoritma, pengawasan manusia, mekanisme audit, maupun pertanggungjawaban negara atas dampak sistem berbasis AI.

Baca juga: Wamen Komdigi Sebut Indonesia Tengah Kembangkan Produk AI Dalam Negeri

Akibatnya, penggunaan AI berpotensi menimbulkan pelanggaran terhadap hak-hak dasar warga negara, termasuk hak atas privasi, rasa aman, dan kepastian hukum, sebagaimana dijamin dalam Pasal 28G ayat (1) UUD 1945.

Selain itu, prinsip perlindungan HAM juga ditegaskan dalam Undang-Undang Nomor 39 Tahun 1999 tentang Hak Asasi Manusia, yang mewajibkan negara untuk melindungi dan menghormati hak-hak fundamental setiap warga negara.

“Tanpa regulasi khusus, masyarakat tidak memiliki mekanisme hukum yang jelas untuk meminta pertanggungjawaban atau pemulihan hak apabila dirugikan oleh sistem kecerdasan buatan,” jelasnya.

Penelitian tersebut juga menyoroti risiko bias algoritma dalam pengambilan keputusan berbasis AI, terutama dalam layanan publik. Tanpa standar hukum yang tegas, sistem otomatis berpotensi memperkuat diskriminasi dan ketimpangan akses, khususnya bagi kelompok rentan.

“Selain itu, penggunaan AI dalam pengawasan digital dapat mendorong terjadinya surveillance creep, yakni perluasan pengawasan negara terhadap warga secara bertahap tanpa kontrol hukum yang transparan dan akuntabel,” katanya.

Dari perspektif tanggung jawab negara, Pangeran menilai ketiadaan Undang-Undang AI dapat menempatkan negara dalam posisi lalai memenuhi kewajiban konstitusionalnya untuk melindungi, menghormati, dan memenuhi hak asasi manusia. Negara tidak hanya berkewajiban mendorong inovasi teknologi, tetapi juga memastikan bahwa setiap pemanfaatan teknologi berjalan sejalan dengan prinsip negara hukum dan perlindungan hak warga negara.

Pangeran menambahkan, pembentukan Undang-Undang Kecerdasan Buatan sebagai regulasi khusus atau lex specialis merupakan kebutuhan mendesak bagi Indonesia. Regulasi tersebut harus dibangun dengan menjadikan hak asasi manusia dan prinsip good governance sebagai landasan utama, guna menjamin transparansi, akuntabilitas, partisipasi publik, serta kepastian hukum dalam pemanfaatan kecerdasan buatan.

“Tanpa Undang-Undang AI yang komprehensif, negara berisiko membiarkan teknologi berkembang lebih cepat dari hukum, sementara warga negara berada dalam posisi rentan tanpa perlindungan yang memadai,” ucapnya.