Kementerian Komdigi Putus Akses Sementara Grok untuk Tangkal Konten Pornografi AI
Sabtu, 10 Januari 2026 - 18:37 WIB
loading...
Kementerian Komunikasi dan Digital (Komdigi) menghentikan sementara akses layanan kecerdasan buatan atau AI Grok. Hal itu untuk mencegah penyebaran konten pornografi palsu dari kecerdasan buatan. Foto: Ist
A
A
A
JAKARTA - Kementerian Komunikasi dan Digital (Komdigi) menghentikan sementara akses layanan kecerdasan buatan atau Artificial Intelligence (AI) Grok . Hal itu untuk mencegah penyebaran konten pornografi palsu dari kecerdasan buatan.
"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melalui Kementerian Komdigi melakukan pemutusan akses sementara aplikasi Grok," ujar Menkomdigi Meutya Hafid, Sabtu (10/1/2026).
Baca juga: Bareskrim: Manipulasi Foto Asusila lewat Grok AI Dapat Dipidana
Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
"Kementerian Komdigi juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," katanya.
Langkah penghentian sementara akses Grok didasari Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
"Khususnya Pasal 9 yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang," ungkapnya.
Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar menuturkan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (7/1/2026).
"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melalui Kementerian Komdigi melakukan pemutusan akses sementara aplikasi Grok," ujar Menkomdigi Meutya Hafid, Sabtu (10/1/2026).
Baca juga: Bareskrim: Manipulasi Foto Asusila lewat Grok AI Dapat Dipidana
Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
"Kementerian Komdigi juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," katanya.
Langkah penghentian sementara akses Grok didasari Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
"Khususnya Pasal 9 yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang," ungkapnya.
Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar menuturkan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (7/1/2026).
(jon)
Lihat Juga :
