Deepfake dan Tantangan Jurnalisme Masa Depan
loading...
Ardiyansah, Digital Media Enthusiast Senior Business Analyst, BINUS Digital
A
A
A
Ardiyansah
Digital Media Enthusiast Senior Business Analyst, BINUS Digital
DEEPFAKE merupakan lakuran dari istilah "deep learning" dan "fake". "Deep learning" mengacu pada teknologi berbasis komputasi neural yang berusaha meniru jaringan saraf manusia seperti AI (Artificial Intelligence). Sementara "fake" bisa langsung ditebak artinya berkaitan dengan sesuatu yang palsu atau gadungan.
Meskipun mencakup juga foto, istilah ini kemudian cenderung dipakai untuk menyebut video hyper-realistic hasil manipulasi digital yang menampilkan sosok tertentu (biasanya pesohor) sedang mengatakan atau melakukan sesuatu yang tidak pernah terjadi. Dengan kata lain, deepfake adalah video palsu.
Lalu, kenapa sekarang video palsu menjadi masalah? Bukankah teknologi ini lumrah dipakai dalam film-film arus utama? Tak terhitung film, iklan, dan media hiburan lain menggunakan teknologi ini untuk berbagai macam tujuan. David Beckham, mantan bintang tim sepak bola Inggris, pernah digambarkan mahir berbicara dalam 9 bahasa untuk sebuah kampanye anti malaria. "Video palsu" tersebut diproduksi menggunakan teknologi AI. Sampai di sini, kita belum melihat ada sesuatu yang perlu dikhawatirkan.
Menurut sumber dari MIT (Massachusetts Institute of Technology), istilah "deepfake" pertama kali diperkenalkan pada tahun 2017 oleh seorang pengguna Reddit dengan nama samaran yang sama. Pengguna ini membuat dan membagikan serangkaian hasil manipulasi video yang menampilkan aktivitas pornografi dari beberapa selebritas dunia. Hal tersebut menarik perhatian dan memicu diskusi tentang potensi teknologi "tukar wajah" pada video palsu yang sangat realistis berbasis AI. Belakangan, tidak hanya wajah, namun gestur dan suara juga menjadi objek manipulasi dengan kemiripan yang mengagumkan. Hebatnya, manipulasi video ini dapat dilakukan secara "live" atau dalam siaran langsung.
Menurut Mika Westerlund dalam jurnalnya, "The Emergence of Deepfake Technology: A Review", setidaknya ada empat pihak utama yang memproduksi deepfake, yaitu: 1) Komunitas pehobi deepfake; 2) Pemain politik; 3) Pelaku kejahatan; dan 4) Pihak-pihak yang memang berhak (legitimate), seperti televisi, perusahaan film, dan lain sebagainya. Namun, kemudahan teknologi dan kecepatan penyebaran informasi yang tak terbendung membuat produksi deepfake menjadi semakin tak terduga dan bisa muncul dari mana saja.
Proses demokratisasi teknologi yang menjadi ciri masyarakat internet, tak urung terjadi juga pada AI yang mulai merangsek ke hampir semua sektor industri. Video palsu, yang tadinya hanya mungkin diproduksi oleh perusahaan besar dengan budget yang juga besar, kini bisa diproduksi menggunakan ponsel—yang dimiliki oleh hampir semua orang—dengan biaya nyaris nihil.
Aplikasi Reface misalnya, mampu menukar wajah aktor/aktris dalam adegan di film-film kondang dengan wajah kita atau wajah lain cukup dengan memasukkan foto sebagai umpan sehingga seolah-olah kitalah yang membintangi film-film tersebut. Aplikasi ini sangat populer dan menghibur. Reface telah diunduh satu juta kali dari Google Play Store saja.
Sementara produksi deepfake menjadi semakin mudah dan terjangkau, tidak demikian dengan teknologi untuk menanggulanginya. Model seperti CNN (Convolutional Neural Network) yang dapat digunakan untuk mendeteksi peta wajah, kedipan mata, kepadatan pixel, disparitas warna, dan beberapa elemen visual lainnya, sepertinya kalah cepat dan masih terbata-bata menghadapi perkembangan teknologi produksi video sintesis berbasi AI.
Kebanyakan deepfake yang tersebar di berbagai platform media sosial saat ini adalah foto/video artistik dan humor yang relatif tidak berbahaya dan bisa dikategorikan sebagai hiburan. Namun, seiring demokratisasi AI yang membuat akses terhadap teknologi ini menjadi semakin mudah dan murah, produksi deepfake menjadi semakin liar dan tak terkendali.
Hoaks politik menjadi semakin mudah dibuat dan disebar sehingga rawan menimbulkan benturan sosial dan potensial mengancam keamanan dan ketenteraman masyarakat. Pun fitnah (terutama kepada para pesohor) menjadi semakin produktif dan sulit dibedakan dari kenyataan. Belum lama ini, tokoh-tokoh politik dunia seperti Barack Obama, Donald Trump, dan Boris Johnson menjadi korban deepfake baik dalam format foto maupun video. Belum termasuk selebritas hiburan yang hampir selalu menjadi objek kebencian dan hujatan.
Berkaitan dengan potensi bahaya ini, Kementerian Komunikasi dan Informatika (Kominfo) pernah merilis Siaran Pers No. 38/HM/KOMINFO/02/2022 yang pada intinya memaklumatkan bahaya jurnalisme instan dan informasi palsu. Menurut Dirjen IKP (Informasi dan Komunikasi Publik) Usman Kansong, setiap individu kini bisa memproduksi berita, sehingga yang diberitakan tersebut bisa saja merupakan kebohongan atau bentuk disinformasi, misinformasi, atau malinformasi yang lazim kita sebut sebagai hoaks. Karenanya, pers (media arus utama) memiliki peran penting dalam melakukan klarifikasi dan kontra narasi terhadap berita-berita bohong tersebut. Pers semestinya tidak menjadi pengekor tetapi menjadi pelopor wacana publik yang terjadi di masyarakat.
Kontra narasi berkaitan dengan upaya melawan penyebaran informasi palsu—apa pun formatnya—untuk mengantisipasi ancaman yang mungkin terjadi akibat distribusi berita-berita yang menyesatkan, fitnah, termasuk menyaring paham-paham radikal dan ideologi berbahaya lainnya. Lalu, selain pers dan lembaga-lembaga jurnalistik, siapa lagi yang bertanggung jawab mengantisipasi hoaks dan deepfake?
Mika Waterlund mengusulkan 4 cara untuk mengantisipasi bahaya deepfake, meliputi: 1) undang-undang dan peraturan; 2) kebijakan korporat dan tindakan sukarela; 3) pendidikan dan pelatihan; dan 4) teknologi anti-deepfake.
Tentu saja, negara harus hadir dalam upaya pencegahan bahaya deepfake dan berita palsu. Pemerintah memiliki kewenangan dalam menerbitkan undang-undang yang mengatur bagaimana deepfake diproduksi dan atau disebarkan. Peraturan yang dimaksud juga harus memuat sanksi tegas kepada yang melanggar.
Di level korporat, lembaga pers, jurnalistik dan perusahaan media sosial seperti Facebook, IG, TikTok, dan lain-lain, harus berperan aktif membatasi distribusi deepfake supaya tidak dijadikan alat untuk menyebarkan berita palsu yang berbahaya. Tidak hanya itu, para pengguna platform tersebut juga mesti didorong untuk secara sukarela membantu proses penanggulangan bahaya akibat deepfake, misalnya dengan menyediakan mekanisme pelaporan yang mudah dan cepat ditanggapi.
Pendidikan dan pelatihan juga sangat krusial dalam rangka memerangi deepfake. Bahaya deepfake (dan secara umum konten-konten hoaks) lebih terasa dampaknya bagi mereka yang kekurangan wawasan dan informasi, termasuk mereka yang kurang mengikuti perkembangan teknologi digital, terutama produksi video. Upaya peningkatan literasi digital dan pendidikan secara umum penting dilakukan untuk membuka keran kesadaran sehingga masyarakat tidak mudah terprovokasi oleh video-video yang beredar yang belum tentu sahih.
Terakhir, dan yang masih terus diupayakan adalah bagaimana mendorong kontra narasi yang melibatkan teknologi anti-deepfake yang mencakup deteksi deepfake, otentikasi konten, dan pencegahan deepfake.
Bagaimanapun, deepfake adalah produk teknologi yang kemanfaatannya ditentukan oleh kebijaksanaan manusia. Baik atau buruk, kerja sama pemerintah, pers, lembaga jurnalistik, lembaga pendidikan, perusahaan teknologi, dan masyarakat secara umum sangat diperlukan untuk membangun ekosistem informasi yang imun dari bahaya deepfake.
Digital Media Enthusiast Senior Business Analyst, BINUS Digital
DEEPFAKE merupakan lakuran dari istilah "deep learning" dan "fake". "Deep learning" mengacu pada teknologi berbasis komputasi neural yang berusaha meniru jaringan saraf manusia seperti AI (Artificial Intelligence). Sementara "fake" bisa langsung ditebak artinya berkaitan dengan sesuatu yang palsu atau gadungan.
Meskipun mencakup juga foto, istilah ini kemudian cenderung dipakai untuk menyebut video hyper-realistic hasil manipulasi digital yang menampilkan sosok tertentu (biasanya pesohor) sedang mengatakan atau melakukan sesuatu yang tidak pernah terjadi. Dengan kata lain, deepfake adalah video palsu.
Lalu, kenapa sekarang video palsu menjadi masalah? Bukankah teknologi ini lumrah dipakai dalam film-film arus utama? Tak terhitung film, iklan, dan media hiburan lain menggunakan teknologi ini untuk berbagai macam tujuan. David Beckham, mantan bintang tim sepak bola Inggris, pernah digambarkan mahir berbicara dalam 9 bahasa untuk sebuah kampanye anti malaria. "Video palsu" tersebut diproduksi menggunakan teknologi AI. Sampai di sini, kita belum melihat ada sesuatu yang perlu dikhawatirkan.
Menurut sumber dari MIT (Massachusetts Institute of Technology), istilah "deepfake" pertama kali diperkenalkan pada tahun 2017 oleh seorang pengguna Reddit dengan nama samaran yang sama. Pengguna ini membuat dan membagikan serangkaian hasil manipulasi video yang menampilkan aktivitas pornografi dari beberapa selebritas dunia. Hal tersebut menarik perhatian dan memicu diskusi tentang potensi teknologi "tukar wajah" pada video palsu yang sangat realistis berbasis AI. Belakangan, tidak hanya wajah, namun gestur dan suara juga menjadi objek manipulasi dengan kemiripan yang mengagumkan. Hebatnya, manipulasi video ini dapat dilakukan secara "live" atau dalam siaran langsung.
Demokratisasi AI
Menurut Mika Westerlund dalam jurnalnya, "The Emergence of Deepfake Technology: A Review", setidaknya ada empat pihak utama yang memproduksi deepfake, yaitu: 1) Komunitas pehobi deepfake; 2) Pemain politik; 3) Pelaku kejahatan; dan 4) Pihak-pihak yang memang berhak (legitimate), seperti televisi, perusahaan film, dan lain sebagainya. Namun, kemudahan teknologi dan kecepatan penyebaran informasi yang tak terbendung membuat produksi deepfake menjadi semakin tak terduga dan bisa muncul dari mana saja.
Proses demokratisasi teknologi yang menjadi ciri masyarakat internet, tak urung terjadi juga pada AI yang mulai merangsek ke hampir semua sektor industri. Video palsu, yang tadinya hanya mungkin diproduksi oleh perusahaan besar dengan budget yang juga besar, kini bisa diproduksi menggunakan ponsel—yang dimiliki oleh hampir semua orang—dengan biaya nyaris nihil.
Aplikasi Reface misalnya, mampu menukar wajah aktor/aktris dalam adegan di film-film kondang dengan wajah kita atau wajah lain cukup dengan memasukkan foto sebagai umpan sehingga seolah-olah kitalah yang membintangi film-film tersebut. Aplikasi ini sangat populer dan menghibur. Reface telah diunduh satu juta kali dari Google Play Store saja.
Sementara produksi deepfake menjadi semakin mudah dan terjangkau, tidak demikian dengan teknologi untuk menanggulanginya. Model seperti CNN (Convolutional Neural Network) yang dapat digunakan untuk mendeteksi peta wajah, kedipan mata, kepadatan pixel, disparitas warna, dan beberapa elemen visual lainnya, sepertinya kalah cepat dan masih terbata-bata menghadapi perkembangan teknologi produksi video sintesis berbasi AI.
Deepfake sebagai ancaman jurnalisme
Kebanyakan deepfake yang tersebar di berbagai platform media sosial saat ini adalah foto/video artistik dan humor yang relatif tidak berbahaya dan bisa dikategorikan sebagai hiburan. Namun, seiring demokratisasi AI yang membuat akses terhadap teknologi ini menjadi semakin mudah dan murah, produksi deepfake menjadi semakin liar dan tak terkendali.
Hoaks politik menjadi semakin mudah dibuat dan disebar sehingga rawan menimbulkan benturan sosial dan potensial mengancam keamanan dan ketenteraman masyarakat. Pun fitnah (terutama kepada para pesohor) menjadi semakin produktif dan sulit dibedakan dari kenyataan. Belum lama ini, tokoh-tokoh politik dunia seperti Barack Obama, Donald Trump, dan Boris Johnson menjadi korban deepfake baik dalam format foto maupun video. Belum termasuk selebritas hiburan yang hampir selalu menjadi objek kebencian dan hujatan.
Berkaitan dengan potensi bahaya ini, Kementerian Komunikasi dan Informatika (Kominfo) pernah merilis Siaran Pers No. 38/HM/KOMINFO/02/2022 yang pada intinya memaklumatkan bahaya jurnalisme instan dan informasi palsu. Menurut Dirjen IKP (Informasi dan Komunikasi Publik) Usman Kansong, setiap individu kini bisa memproduksi berita, sehingga yang diberitakan tersebut bisa saja merupakan kebohongan atau bentuk disinformasi, misinformasi, atau malinformasi yang lazim kita sebut sebagai hoaks. Karenanya, pers (media arus utama) memiliki peran penting dalam melakukan klarifikasi dan kontra narasi terhadap berita-berita bohong tersebut. Pers semestinya tidak menjadi pengekor tetapi menjadi pelopor wacana publik yang terjadi di masyarakat.
Kontra narasi berkaitan dengan upaya melawan penyebaran informasi palsu—apa pun formatnya—untuk mengantisipasi ancaman yang mungkin terjadi akibat distribusi berita-berita yang menyesatkan, fitnah, termasuk menyaring paham-paham radikal dan ideologi berbahaya lainnya. Lalu, selain pers dan lembaga-lembaga jurnalistik, siapa lagi yang bertanggung jawab mengantisipasi hoaks dan deepfake?
Mika Waterlund mengusulkan 4 cara untuk mengantisipasi bahaya deepfake, meliputi: 1) undang-undang dan peraturan; 2) kebijakan korporat dan tindakan sukarela; 3) pendidikan dan pelatihan; dan 4) teknologi anti-deepfake.
Tentu saja, negara harus hadir dalam upaya pencegahan bahaya deepfake dan berita palsu. Pemerintah memiliki kewenangan dalam menerbitkan undang-undang yang mengatur bagaimana deepfake diproduksi dan atau disebarkan. Peraturan yang dimaksud juga harus memuat sanksi tegas kepada yang melanggar.
Di level korporat, lembaga pers, jurnalistik dan perusahaan media sosial seperti Facebook, IG, TikTok, dan lain-lain, harus berperan aktif membatasi distribusi deepfake supaya tidak dijadikan alat untuk menyebarkan berita palsu yang berbahaya. Tidak hanya itu, para pengguna platform tersebut juga mesti didorong untuk secara sukarela membantu proses penanggulangan bahaya akibat deepfake, misalnya dengan menyediakan mekanisme pelaporan yang mudah dan cepat ditanggapi.
Pendidikan dan pelatihan juga sangat krusial dalam rangka memerangi deepfake. Bahaya deepfake (dan secara umum konten-konten hoaks) lebih terasa dampaknya bagi mereka yang kekurangan wawasan dan informasi, termasuk mereka yang kurang mengikuti perkembangan teknologi digital, terutama produksi video. Upaya peningkatan literasi digital dan pendidikan secara umum penting dilakukan untuk membuka keran kesadaran sehingga masyarakat tidak mudah terprovokasi oleh video-video yang beredar yang belum tentu sahih.
Terakhir, dan yang masih terus diupayakan adalah bagaimana mendorong kontra narasi yang melibatkan teknologi anti-deepfake yang mencakup deteksi deepfake, otentikasi konten, dan pencegahan deepfake.
Bagaimanapun, deepfake adalah produk teknologi yang kemanfaatannya ditentukan oleh kebijaksanaan manusia. Baik atau buruk, kerja sama pemerintah, pers, lembaga jurnalistik, lembaga pendidikan, perusahaan teknologi, dan masyarakat secara umum sangat diperlukan untuk membangun ekosistem informasi yang imun dari bahaya deepfake.
(zik)
Explore More