Wamenkominfo Minta Masyarakat Waspadai Penyalahgunaan Deepfake

Sedang Trending 2 minggu yang lalu

Liputan6.com, Jakarta - Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar Patria mengatakan bahwa teknologi artificial intelligence (AI) dan deepfake bisa disalahgunakan.

Selain itu, menurut Nezar, beberapa golongan masyarakat menjadi nan paling rentan menjadi korban penyalahgunaan teknologi seperti deepfake.

Wamenkominfo juga menegaskan telah mengantisipasi kesempatan penyebaran disinformasi nan menggunakan teknologi AI dan deep fake, terutama menjelang Pemilihan Umum Serentak Tahun 2024.

Hal itu dia sampaikan dalam Seminar Nasional Disinformasi dan Kelompok Rentan di Era Manipulasi Media Digital di Wisma Magister Manajemen UGM, Yogyakarta, Kamis (16/11/2023).

Teknologi deepfake sendiri bisa memanipulasi video, gambar, dan bunyi secara digital sesuai dengan pesan nan tidak pernah terjadi di bumi nyata.

"Melalui algoritma dan otomasi nan dapat menghasilkan bias maupun otomasi nan berkarakter preskriptif serta penyalahgunaan algoritma nan berpotensi menimbulkan disinformasi," kata Nezar.

Peningkatan Penggunaan Deepfake

Seperti dikutip dari siaran pers, Nezar menyebut terdapat peningkatan penggunaan deepfake sebesar 550 persen dari tahun 2019 secara global. Selama tahun 2023, info Home Security Heroes menunjukkan terdapat 95.820 video deepfake nan tersebar secara global.

"Hal nan sangat mengkhawatirkan lantaran bisa disalahgunakan dan dimanipulasi untuk penipuan, pornografi, dan tujuan jahat lain, nan berujung pada penyebaran disinformasi," kata Wakil Menteri Kominfo.

Menurut Nezar, dari hasil survei UNESCO dan IPSOS 2023, lebih dari 80 persen masyarakat nan bakal menghadapi pemilu, percaya disinformasi telah berakibat pada politik di negara masing-masing.

Selain itu, survei juga menunjukkan bahwa responden cemas bakal akibat dari disinformasi tersebut.

Wamenkominfo pun mengingatkan bahwa disinformasi punya akibat nan luas, mulai dari potensi polarisasi politik, penurunan kepercayaan terhadap kewartawanan hingga proses kerakyatan itu sendiri.

Video nan direkayasa bisa berakibat besar pada sebuah pemilu. Bila pun akhirnya terbukti bahwa video ini hasil manipulasi, banyak orang sudah terlanjur percaya lantaran sudah beredar secara viral. Teknologi baru juga memungkinkan manipulasi "deepfake"...

Harus Perhatikan Kelompok Rentan

Wamenkominfo pun menilai golongan rentan mempunyai akibat lebih tinggi terdampak dan menjadi korban penyalahgunaan teknologi.

Menurutnya, ada tiga akibat dan viktimisasi nan mungkin terjadi. pertama, profiling nan didasarkan pada algoritma AI condong bias dan dapat disalahgunakan untuk menargetkan golongan rentan.

Kedua, dalam beberapa kasus politik dan sosial nan terjadi di platform digital, persebaran disinformasi kerap ditujukan dengan sengaja menargetkan dan merugikan golongan rentan.

Ketiga, wanita menjadi sasaran dalam muatan pornografi nan sengaja diciptakan melalui teknologi deepfake.

Ia pun mengatakan, perhatian kudu diberikan pada kelompok-kelompok seperti perempuan, masyarakat nan tinggal di area rural, golongan disabilitas, lansia, dan kaum muda. Menurutnya, Kominfo juga memberikan perhatian penuh pada golongan ini.

"Pendekatan nan inklusif bisa menghadirkan teknologi digital nan dapat diakses dan diadopsi semua orang, dan mendukung penggunaan internet serta jasa digital nan berarti dan aman," dia menandaskan.

Waspadai Hoaks nan Pakai Deepfake dan AI

Kementerian Komunikasi dan Informatika (Kominfo) sebelumnya juga pernah mengingatkan masyarakat terhadap penyalahgunaan teknologi deepfake dan AI, jelang Pemilu 2024.

Hal ini setelah sempat beredar sebuah video memperlihatkan Presiden Joko Widodo namalain Jokowi, berpidato dalam bahasa Mandarin, di mana telah dinyatakan ini adalah hasil editan.

"Kami mau mengingatkan sudah mulai digunakannya AI dalam menciptakan hoaks," kata Direktur Jenderal Aplikasi Informatika Kominfo, Semuel Abrijani Pangerapan.

Dalam konvensi pers di Jakarta, Jumat (27/10/2023), Semuel meminta masyarakat untuk mulai berhati-hati dengan penggunaan AI nan canggih, dan dapat disalahgunakan untuk membikin hoaks.

"Kuncinya adalah carilah info dari sumber-sumber terpercaya," kata Semuel, di mana di sini dicontohkan dari portal buletin resmi. "Karena tidak mungkin berita-berita besar tidak diliput media."

Cari Sumber Informasi nan Bisa Dipercaya

Dirjen Kominfo itu pun mengakui, video viral tersebut sekilas memang sangat mirip dengan video aslinya. "Dengan kemajuan teknologi, para pemain-pemain pun pasti sudah mulai menggunakan teknologi semacam ini," katanya.

Lebih lanjut, dia menambahkan dalam video (Jokowi) tersebut, kata-kata nan diucapkan memang punya isi nan sama dengan dalam video aslinya, di mana Kominfo sudah mengonfirmasi dengan translator untuk ini.

"Cuma itu kan disinformasi, lantaran kejadiannya diberitakan seolah-olah di China pada saat pertemuan Pak Jokowi kemarin," kata Semuel.

"Kalau dari narasi nan diucapkan, setelah kita kroscek dengan penerjemah, sama dengan narasi bahasa Inggris-nya. Ini ada tujuannya disinformasi," pungkasnya.

Semuel kembali mengingatkan masyarakat bakal banyak hoaks alias disinformasi nan kemungkinan memanfaatkan deepfake AI. "Untuk itu sangat krusial untuk tabayyun, tabayyun, tabayyun, atau check and recheck. Carilah info dari sumber-sumber nan dapat dipercaya."

* Fakta alias Hoaks? Untuk mengetahui kebenaran info nan beredar, silakan WA ke nomor Cek Fakta Liputan6.com 0811 9787 670 hanya dengan ketik kata kunci nan diinginkan.

Sumber Teknologi LP6
Teknologi LP6