Memahami Deepfake: Teknologi di Balik Fenomena Ini

TEKNOLOGI memang mumpuni, tapi dampaknya kadang bikin rugi.

Agaknya kalimat di atas selaras dengan fenomena deepfake, mulai dari selebritis, bisnis, tokoh publik, hingga presiden tak luput jadi korban.

 

Seorang artis diduga menjadi korban video deepfake, video berdurasi singkat 61 detik itu menampilkan adegan tidak senonoh yang pelakunya memiliki wajah mirip tokoh publik sekaligus artis, NS. Kepolisian telah menyelidiki dan menyatakan video itu hasil rekayasa.

Founder and CEO Group Vida Niki Luhur menyebut tren ancaman deepfake setiap tahunnya mengalami peningkatan yang serius. Kurun waktu 2017 hingga 2019 korban penipuan akibat kejahatan dunia maya ini meningkat hampir 900 persen dan menelan kerugian global sebanyak USD 250 juta hingga 2020 lalu.

Mark Zukerberg adalah pendiri Facebook (sekarang Meta). Deepfake dari Mark Zuckerberg ini juga berupa video dengan wajah dan suara yang mirip, menyajikan video seolah Mark membual tentang kebijakan Facebook. Konon presiden jadi korban, setelah sebelumnya di 2023 dikabarkan dan kini muncul kembali terkait video presiden 2015 dilakukan editing menggunakan AI dan seolah-olah presiden mengucapkannya dengan bahasa Mandarin. Oleh karenanya mari pahami deepfakes dan teknologi yang menyertainya!

Teknologi Deepfake

Teknologi deepfake ialah sebuah inovasi yang memungkinkan pembuatan gambar atau video dengan dimanipulasi menggunakan algoritma machine learning dan kecerdasan buatan (AI). Dalam konteks ini, deepfake dapat dibagi menjadi tiga kategori utama: video deepfake, audio deepfake, dan foto deepfake. Video deepfake menggabungkan elemen-elemen visual dari sumber dan target, menciptakan gambar yang tampak nyata namun sebenarnya telah dimanipulasi.

 

Contoh aplikasi video deepfake meliputi penggantian wajah aktor dalam film ilegal, membuat video orang terkenal berbicara kata-kata yang tidak pernah diucapkan, atau menampilkan tokoh-tokoh terkenal dalam situasi yang tidak pernah terjadi. Video deepfake dapat dibuat dengan menggunakan model deep learning, seperti LSTM (Long Short-Term Memory) atau model berbasis transformator, untuk menciptakan lip sync yang sangat akurat. Teknologi ini memungkinkan pembuatan rekaman video yang tampak autentik, sehingga sulit dibedakan antara yang asli dan yang palsu.

 

Sementara itu, audio deepfake memungkinkan pembuatan rekaman suara yang tampak autentik. Dengan meretas suara seseorang, deepfake dapat membuat percakapan palsu atau pernyataan palsu dengan tingkat realisme yang tinggi. Contoh aplikasi audio deepfake meliputi membuat suara orang menyanyi, menempelkan suara kita ke badan orang lain, atau membuat video orang terkenal berbicara kata-kata yang tidak pernah diucapkan. Audio deepfake dapat dibuat dengan menggunakan teknologi deep learning untuk menciptakan hasil yang meyakinkan.

 

Ada juga foto deepfake yang menggabungkan elemen-elemen visual dari sumber dan target, menciptakan gambar yang tampak nyata namun sebenarnya telah dimanipulasi. Contoh aplikasi foto deepfake meliputi pemalsuan wajah, ekspresi, dan konteks visual. Foto deepfake dapat dibuat dengan menggunakan teknologi deep learning untuk menciptakan hasil yang meyakinkan.

 

Cara Kerja Deepfake

Deepfake melibatkan penggunaan kecerdasan buatan (AI) untuk memanipulasi video dan audio. Proses ini dilakukan dengan mengumpulkan berbagai klip video dari seseorang atau target sebanyak-banyaknya, kemudian menggunakan algoritma deep learning untuk menggabungkan dan mensintesis data visual dan audio. Hasilnya adalah video palsu yang sangat meyakinkan, di mana wajah seseorang diganti dengan wajah orang lain. Dalam beberapa kasus, teknologi ini juga dapat digunakan untuk mengubah tampilan wajah dan menciptakan konten baru yang terlihat asli dan menyakinkan.

 

Dampak dan Risiko Deepfake

Teknologi deepfake menawarkan kemajuan dalam bidang kreativitas dan multimedia, namun juga menimbulkan kekhawatiran serius karena dapat disalahgunakan untuk menyebarkan hoaks dan penipuan. Dampak potensialnya meliputi penyebaran informasi palsu, kerugian finansial, dan bahaya reputasi. Oleh karena itu, sangat penting untuk memahami cara kerja deepfake dan menggunakan teknologi deteksi khusus untuk mendeteksi manipulasi.

 

Kecerdasan Buatan (AI)

Sebuah teknologi yang memungkinkan sistem untuk belajar dan meningkatkan kemampuan mereka melalui pengolahan data dan penggunaan algoritma. Pembelajaran mesin (machine learning) adalah subdisiplin kecerdasan buatan yang memungkinkan sistem untuk belajar dari data dan meningkatkan kemampuan mereka dalam menganalisis dan membuat prediksi berdasarkan pola yang ditemukan dalam data.

 

Jaringan Permusuhan Generatif

Jaringan permusuhan generatif atau generative adversarial networks (GAN) adalah sebuah model kecerdasan buatan yang digunakan dalam pembelajaran mesin. GAN terdiri atas dua komponen: generator dan discriminator. Generator berfungsi menciptakan data baru berdasarkan pola yang ditemukan dalam data yang telah disimpan, sedangkan discriminator berfungsi membedakan antara data yang dibuat oleh generator dengan data yang asli. Dalam proses ini, generator dan discriminator berinteraksi dan saling meningkatkan kemampuan mereka untuk menciptakan data yang lebih akurat dan membedakan antara data yang dibuat dengan yang asli. Dengan demikian, GAN dapat digunakan untuk menciptakan data baru yang mirip dengan data yang telah disimpan, seperti gambar, teks, audio, atau video.

 

Urgensi memahami perkembangan teknologi sebagaimana di atas, membuat seseorang mau tidak mau berubah, mengikuti, memakai hingga terlena ke arah yang negatif, maka setiap individu perlu mendeteksi manipulasi teknologi deepfake dengan beragam alternatif mulai dari detektor gerak mata dan kedipan, ketidakkonsistenan warna dan bayangan, ketidaksinkronan audio dan video, pemantauan gerak wajah dan tubuh, gunakan teknologi deteksi, algoritma deteksi yang mampu memonitor gerak mata dan kedipan pada video, regulasi seperti Komisi Perdagangan Federal Amerika Serikat (FTC), mengusulkan undang-undang baru untuk mengatasi ancaman meningkatnya manipulasi deepfake.

 

Terakhir, mengutip kata-kata seorang ilmuwan yakni Albert Einstein “Sangat jelas bahwa teknologi kita telah melampaui kemanusiaan kita dan semangat manusia harus menang atas teknologi.”

Wallahu a‘lamu bisshawab

 

Singgih Aji Purnomo, Dosen Sekolah Tinggi Agama Islam Al-Amanah Al-Gontory, Jurnalis ‎NU Online Banten