Pemerintah Siapkan Peta Jalan AI Menuju Kedaulatan Teknologi

Menurut dia, penggunaan AI tanpa kemampuan kritis dapat menghilangkan esensi belajar, terutama ketika siswa menyerahkan seluruh proses berpikir kepada mesin. Di samping potensi positif, perkembangan AI juga menghadirkan risiko besar, terutama terkait keamanan data, disinformasi, dan manipulasi visual.

Nezar mengingatkan bahwa model AI hanya bekerja jika diberi data, sehingga pengguna harus berhati-hati mengunggah foto pribadi atau dokumen sensitif. Risiko itu nyata dari data yang dilatih dalam model dapat muncul di tempat lain, termasuk wajah mirip pengguna pada foto hasil generatif buatan orang lain.

Risiko terbesar datang dari maraknya deepfake, konten palsu yang dibuat AI dengan kualitas semakin realistis. Dia menyoroti potensi kerusakan sosial ketika deepfake digunakan untuk pornografi, ujaran memecah-belah, atau manipulasi politik.

Mengatasi ancaman ini, pemerintah juga memperkuat kolaborasi dengan platform digital, kepolisian, kejaksaan, serta lembaga terkait lainnya. Komdigi mendorong platform menyediakan alat deteksi konten buatan AI dan mengadopsi standar content authentication berbasis metadata.

Langkah ini penting untuk memastikan publik dapat membedakan konten autentik dari konten manipulatif. “Kita harus menciptakan AI yang berdaulat, menguasai teknologinya, bukan hanya menjadi penonton. Ini bukan hanya untuk hari ini, tapi memastikan Indonesia punya posisi dalam percaturan teknologi global,” ujar Nezar.