pibitek.biz -Pada tahun lalu, sebuah gambar realistis Paus Fransiskus mengenakan mantel tebal viral di media sosial, dan Paus sendiri sepertinya menyadarinya, melaporkan Reuters. Dalam pesan untuk Hari Komunikasi Sosial Sedunia ke-58, Fransiskus menulis, "Kita hanya perlu memikirkan masalah lama disinformasi dalam bentuk berita palsu, yang saat ini dapat menggunakan 'deepfakes,' yaitu penciptaan dan penyebaran gambar yang tampak sepenuhnya masuk akal tetapi palsu". Paus juga memperingatkan tentang pesan audio yang "menggunakan suara seseorang untuk mengatakan hal-hal yang tidak pernah diucapkan orang tersebut", katanya.
2 – CNET Turun Ratingnya di Wikipedia karena AI 2 – CNET Turun Ratingnya di Wikipedia karena AI
3 – FTC Hukum Perusahaan AI yang Alatnya Dipakai Untuk Penipuan 3 – FTC Hukum Perusahaan AI yang Alatnya Dipakai Untuk Penipuan
"Teknologi simulasi di balik program-program ini dapat bermanfaat dalam bidang tertentu, tetapi menjadi tidak baik ketika merusak hubungan kita dengan orang lain dan dengan realitas". Pada Maret 2023, pengguna Twitter dengan nama "skyferrori" menggunakan layanan sintesis gambar Midjourney v5 untuk membuat foto palsumembuat foto palsu Paus Fransiskus yang meyakinkan, memakai mantel tebal putih panjang, dan mempostingnya di layanan tersebut. Foto tersebut cepat menjadi viral dan saat ini mencapai lebih dari 197.000 suka dan 28,1 juta tayangan.
Banyak orang mengira itu adalah foto asli, dan pada saat itu menjadi salah satu gambar yangsatu gambar yang dihasilkan AI yang berhasil memperdaya audiens online besar. "Saya sedang membahas ini dengan seorang teman, dan jujur, saya tidak menganggap itu palsu", tulis seorang komentator bernama "thrillgore" di forum Ars Technica saat itu. "Saya pikir itu asli meskipun sebelumnya saya sudah membaca bahwa Paus Fransiskus adalah orang yang hemat dan tidak memamerkan kekayaan Vatikan.
Lucu kemarin, sekarang benar-benar menakutkan". Sejak peluncuran Stable Diffusion pada tahun 2022, kita sering membahas deepfake dan kekhawatiran tentang mereka merusak kepercayaan sosial, menurunkan kualitas informasi online dengan menyuntikkan noise, memicu pelecehan online, dan mungkin mengganggu catatan sejarah. Ini adalah masalah yang belum terpecahkan, dengan teknologi watermarking sering dianggap tidak dapat diandalkan dan proyek tagging metadata belum mendapat dukungan luas.
Pada dasarnya, kemampuan kita untuk mempercayai apa yang kita lihat online akan bergantung pada seberapa besar kita mempercayai pembuat pesan. Paus memperingatkan, "Pengembangan sistem AI, yang saya persembahkan dalam Pesan saya untuk Hari Perdamaian Sedunia, secara radikal memengaruhi dunia informasi dan komunikasi dan melalui itu, fondasi-fondasi tertentu dari kehidupan masyarakat". "Perubahan ini memengaruhi semua orang, bukan hanya para profesional di bidang itu.
