Google Khawatir Deepfake Ganggu Demokrasi



TL;DR
  • Google dan perusahaan lain atasi deepfake jahat.
  • Deepfake ancam demokrasi dan kepercayaan publik.
  • Deepfake sudah bikin masalah di banyak negara.
Google Khawatir Deepfake Ganggu Demokrasi - credit: readwrite - pibitek.biz - Amazon

credit: readwrite


336-280

pibitek.biz - Deepfake adalah konten palsu yang dibuat dengan bantuan AI. Konten ini bisa berupa video, audio, atau gambar yang meniru orang atau situasi yang sebenarnya tidak ada. Deepfake bisa digunakan untuk tujuan jahat, misalnya menyebarkan informasi salah atau mempengaruhi pemilih dalam tahun pemilu penting di seluruh dunia.

Google, sebagai salah satu raksasa teknologi, sangat khawatir dengan ancaman deepfake terhadap demokrasi. Presiden Google untuk urusan global, Kent Walker, mengatakan bahwa kita harus waspada terhadap perkembangan AI yang cepat dan pengaruhnya terhadap pemilih melalui deepfake. Dia mencontohkan konten yang ditargetkan secara mikro untuk mempengaruhi komunitas kecil tapi penting di antara pemilih.

Google tidak sendirian dalam menghadapi masalah ini. Google bekerja sama dengan lebih dari 15 perusahaan lain, termasuk Meta, X, Amazon, dan TikTok untuk membuat skema yang bisa mengidentifikasi dan memberi label pada konten palsu yang dicurigai memiliki niat jahat. Skema ini disebut Munich Accord dan bertujuan untuk melindungi konten online yang asli dengan menggunakan AI dan algoritma untuk membuat tanda air untuk video dan audio yang sah, sekaligus mendeteksi yang palsu.

Mantan Presiden Estonia, Kersti Kaljulaid, adalah salah satu dari beberapa tokoh diplomatik yang mendukung proyek kolaboratif ini. Dia menekankan pentingnya proyek ini untuk menghindari situasi distopia di mana tidak ada kepercayaan atau otoritas dalam media. Dia mengatakan bahwa risiko nyatanya adalah pada akhir tahun, tidak ada yang akan percaya apa yang mereka lihat, karena semuanya bisa bohong.

Deepfake memang bukan hal baru, tapi sudah banyak menimbulkan masalah di masa lalu. Konten berbasis AI ini pernah viral karena alasan yang salah, dan berdampak pada pikiran serta proses demokrasi. Wali Kota London, Sadiq Khan, marah karena ada file audio deepfake yang bisa menyebabkan kerusuhan.

Di Amerika, para pengembang AI sempat mempertimbangkan untuk melarang gambar Joe Biden dan Donald Trump menjelang pemilu presiden tahun lalu. Di Indonesia, pemilih pernah disuguhi kampanye deepfake berupa pesan video dari mantan diktator dan penguasa yang ditakuti, Suharto, untuk mendukung calon dari partai Golkar. Deepfake tidak akan hilang begitu saja, tapi akan semakin canggih dan banyak.