Google Reimagine AI, Alat yang Terlalu Baik untuk Dibuat

pibitek.biz -Google baru saja merilis seri ponsel Pixel 9, yang dilengkapi dengan fitur-fitur AI yang canggih. Salah satu fitur yang paling menarik adalah Reimagine, alat yang memungkinkan pengguna untuk mengedit foto dengan cara yang sangat mudah. Namun, fitur ini juga memiliki sisi gelap yang bisa disalahgunakan. Reimagine adalah bagian dari aplikasi Google Photos yang disebut Magic Editor. Dengan menggunakan alat ini, pengguna dapat mengetikkan deskripsi tentang bagaimana mereka ingin foto tersebut terlihat, dan alat ini akan menerapkan visi tersebut ke dalam foto.

Fitur ini tampaknya dirancang untuk melakukan editan yang sederhana, seperti mengubah cuaca atau menambahkan objek ke dalam foto. Namun, The Verge telah menemukan bahwa fitur ini juga dapat digunakan untuk memasukkan konten yang tidak pantas atau mengganggu ke dalam foto. The Verge telah melakukan tes pada fitur Reimagine dan menemukan bahwa fitur ini sangat efektif, mungkin terlalu efektif. Mereka menemukan bahwa fitur ini dapat digunakan untuk memasukkan konten yang tidak pantas, seperti kecelakaan mobil, bom yang meledak di tempat umum, atau bahkan narkotika.

Mereka juga menemukan bahwa fitur ini dapat digunakan untuk mengedit foto orang sehingga terlihat seperti mereka sedang melakukan kegiatan yang tidak pantas. Hal ini sangat mengkhawatirkan karena fitur Reimagine membuatnya sangat mudah bagi siapa saja untuk membuat foto palsu yang terlihat sangat realistis. Sebelumnya, membuat foto palsu yang terlihat realistis memerlukan keterampilan dan waktu yang cukup lama. Namun, dengan fitur Reimagine, siapa saja dapat membuat foto palsu yang terlihat sangat realistis dalam waktu yang singkat.

The Verge juga khawatir bahwa fitur Reimagine dapat digunakan untuk menyebarkan informasi palsu. Mereka membayangkan skenario di mana aktor jahat dapat membuat foto palsu yang terlihat sangat realistis dan menyebarkannya ke media sosial, sehingga menyebabkan kepanikan dan kebingungan di kalangan masyarakat. Mereka juga khawatir bahwa fitur Reimagine dapat membuat orang menjadi lebih skeptis terhadap foto yang mereka lihat, sehingga membuat mereka lebih sulit untuk mempercayai informasi yang mereka terima.

Google telah mengatakan bahwa mereka akan bekerja untuk mengatasi masalah ini dengan fitur Reimagine. Namun, The Verge khawatir bahwa perusahaan lain yang menawarkan fitur serupa mungkin tidak akan sebaik Google dalam mengatasi masalah ini. Mereka juga khawatir bahwa fitur Reimagine dapat menjadi contoh bagaimana teknologi dapat digunakan untuk menyebarkan informasi palsu dan memanipulasi opini publik. Selain itu, Pixel 9 juga memiliki aplikasi lain yang disebut Pixel Studio, yang memungkinkan pengguna untuk membuat gambar sintetis menggunakan AI.

Namun, aplikasi ini tampaknya tidak memiliki fitur keamanan yang cukup untuk mencegah penggunaan yang tidak pantas. Digital Trends telah menemukan bahwa aplikasi ini dapat digunakan untuk membuat gambar yang tidak pantas, seperti gambar karakter kartun yang sedang melakukan kegiatan yang tidak pantas. Hal ini sangat mengkhawatirkan karena aplikasi Pixel Studio dapat digunakan untuk membuat gambar yang tidak pantas dan menyebarkannya ke media sosial. Mereka juga khawatir bahwa aplikasi ini dapat digunakan untuk memanipulasi opini publik dan menyebarkan informasi palsu.