Distopia Kecerdasan Buatan: Ancaman AI yang Paling Berbahaya bagi Kemanusiaan

Perkembangan AI kiwari menunjukkan grafik yang eksponensial. Popularitas AI generatif boleh dikatakan tak terduga dan potensial memicu gelombang perubahan selanjutnya. Diawali dengan ChatGPT, berturut-turut kemudian muncul platform AI generatif seperti Midjourney, Luma AI, Musicfy, dan lain-lain yang mengusung aneka layanan yang memudahkan (sekaligus mengancam) pekerjaan manusia. Namun, sebenarnya apa ancaman terbesar AI bagi kehidupan manusia?



Selain ancaman kehilangan pekerjaan yang akan dialami sebagian besar manusia, AI menyimpan bahaya yang jauh lebih besar. Bahaya yang dimaksud adalah ancaman langsung terhadap manusia dan nilai-nilai kemanusiaan. Kemampuan AI yang diramal sanggup mengungguli manusia, pada titik tertentu memantik pertanyaan besar tentang eksistensi manusia. Benarkah superioritas manusia terancam? Benarkah “kekhalifahan” manusia sedang menghadapi penantang terbesarnya, "makhluk" buatannya sendiri? Ihwal berikut bisa jadi bahan renungan bersama:

1. AI Memproduksi Berita Palsu

Kemampuan AI generatif dalam menghasilkan data baru semakin mengagumkan. Tidak hanya menulis narasi berupa teks, AI kini --secara luar biasa cepat-- bisa memproduksi data kreatif berupa foto, audio, bahkan video yang kemudian memicu tren deepfakes, yaitu video hyper-realistic yang merupakan hasil manipulasi secara digital untuk menggambarkan seseorang tertentu (biasanya pesohor) dengan ucapan dan atau tindakan palsu.

Deepfakes menggunakan dua jaringan saraf buatan, yaitu "generator" dan "discriminator" yang dilatih dengan dataset yang sama untuk meniru ekspresi wajah, gerakan, suara, dan intonasi seseorang. Mereka dapat menukar wajah menggunakan teknologi pemetaan wajah dan kecerdasan buatan. Deepfakes sulit dideteksi dan menyebar cepat di media sosial. Deepfakes berpotensi menyebarkan kebohongan yang dapat menimbulkan polarisasi dan perpecahan dalam masyarakat. Sangat berbahaya!

2. AI Sebagai Mesin Perang

AI sebagai mesin perang dan pembunuh adalah salah satu ancaman paling serius bagi keamanan global. Dengan kecerdasan dan kemampuan adaptasi yang tinggi, AI dapat digunakan untuk mengembangkan senjata otomatis yang mematikan dan sulit dikendalikan.

Potensi ini menciptakan risiko eskalasi konflik dan hilangnya kendali manusia atas keputusan penggunaan kekuatan. Ketika keputusan tentang nyawa manusia bergantung pada algoritma, nilai kemanusiaan terancam. Perlu adanya peraturan dan kontrol ketat terhadap penggunaan AI dalam konteks militer untuk mencegah dampak yang merugikan serta memastikan perlindungan hak asasi manusia.

3. AI Sebagai Pengendali Manusia