AI Pixel 9 Bikin Merinding: Pixel Studio

pibitek.biz -Google baru-baru ini merilis jajaran smartphone Pixel 9, dengan sederet perangkat baru yang fokus pada AI. Semua Pixel 9 mendukung Gemini AI, dan Google juga menambahkan alat pembuatan dan pengeditan gambar berbasis AI. Para pengulas telah menguji fitur smartphone baru tersebut, dan pembuatan gambar AI tampaknya akan menjadi mimpi buruk bagi Google, berdasarkan apa yang telah beredar sejauh ini. Google merilis aplikasi pembuatan gambar AI untuk ponsel Pixel, bernama Pixel Studio. Aplikasi ini dirancang untuk membuat stiker dan gambar menggunakan perintah berbasis teks, dan terlihat dan terdengar mirip dengan Image Playground yang direncanakan Apple.

Sejauh ini, para pengulas dapat membuat berbagai macam gambar yang meragukan dengan Pixel Studio, mulai dari Spongebob versi Nazi hingga Elmo dengan AK47. Digital Trends dengan mudah membuat Pixel Studio menghasilkan gambar karakter kartun yang dicintai melakukan aktivitas yang meragukan. Senjata api, narkoba, dan alkohol tidak menjadi halangan, begitu juga situasi yang menyinggung seperti penembakan di sekolah. Pixel Studio tidak menghasilkan gambar seperti itu kecuali diminta, tetapi kemungkinan besar orang akan langsung melakukan hal itu dengan fitur tersebut daripada membuat gambar kucing dan kelinci yang lucu.

Google mengatakan bahwa ada "pemeriksaan keamanan" yang diterapkan untuk mencegah Pixel Studio "digunakan secara jahat", dan memang ada beberapa. Pixel Studio tidak akan membuat gambar manusia, dan Google sedang memodifikasi AI sebagai respons terhadap ulasan. Setelah berbicara dengan Google, Digital Trends tidak lagi dapat membuat Pixel Studio menghasilkan karakter kartun yang menggunakan kokain atau berpakaian sebagai tentara Jerman. Yang lebih mengkhawatirkan daripada Pixel Studio adalah alat "Reimagine" milik Google, yang dapat menambahkan objek ke foto yang sudah kamu ambil.

The Verge menggunakannya untuk menambahkan mayat, bom, narkoba, dan bencana ke gambar, dan objek yang disertakan dalam foto terlihat begitu realistis sehingga sulit untuk membedakan kapan gambar diedit. Google dapat melakukan pekerjaan yang cukup baik dalam mencocokkan pencahayaan dan perspektif dengan foto asli, dan tidak ada tanda air atau bendera di media sosial. Google memang menambahkan tag metadata, tetapi itu cukup mudah dihilangkan dengan tangkapan layar. Tentu saja, kamu dapat menggunakan Reimagine untuk menambahkan matahari terbenam dan pelangi ke gambarmu, sama seperti kamu dapat menggunakan Pixel Studio untuk membuat gambar yang menyenangkan, dan kedua fitur AI ini bekerja dengan baik, jadi alat ini tidak semuanya buruk.

Android Authority membagikan postingan dengan pizza Oreo, jerapah berselancar, dan anak kucing bermain basket, misalnya. Seperti yang ditunjukkan The Verge, kamu selalu dapat menambahkan tubuh ke gambar atau membuat gambar Elmo dengan senjata api, tetapi itu akan membutuhkan beberapa keterampilan dan waktu Photoshop. Dengan ponsel Pixel, hanya dibutuhkan pemikiran dan beberapa detik untuk membuat gambar seperti itu, dan itu ada di smartphone untuk siapa pun gunakan. Dalam pernyataan kepada The Verge dan Digital Trends, Google mengatakan bahwa mereka mendesain alat AI Generatifnya untuk "menghormati maksud dari perintah pengguna" yang dapat menyebabkan pembuatan konten "yang mungkin menyinggung" ketika pengguna memintanya.

Namun Google mengklaim bahwa ada "Ketentuan Layanan" tentang konten apa yang tidak diizinkan, dan bahwa perlindungan akan terus disempurnakan. Apple belum memperkenalkan alat pembuatan gambarnya, Image Playground atau Genmoji, dan media seputar peluncuran Pixel 9 memberi kita beberapa wawasan tentang bagaimana responsnya mungkin jika Apple tidak melakukannya dengan benar. Dengan AI, kemungkinan orang akan dapat menemukan solusi meskipun Apple menerapkan banyak perlindungan. Sejauh ini Apple telah menghindar dari gambar AI yang realistis, tetapi Google sedang melakukan semuanya, dan akan jauh lebih sulit untuk mempercayai foto di media sosial dan internet ke depan.

Meskipun ada potensi bahaya, Google bersikeras bahwa mereka telah memasukkan "mekanisme keamanan" yang ketat untuk mencegah penyalahgunaan teknologi ini. Namun, pertanyaan tetap ada: apakah keamanan ini benar-benar dapat diandalkan? Apakah kita akan hidup di dunia di mana gambar-gambar yang diedit dengan AI menjadi sesuatu yang biasa? Apakah kita akan kehilangan kepercayaan terhadap apa yang kita lihat di internet? Kekhawatiran ini bukan tanpa alasan. Kemudahan penggunaan alat ini, dikombinasikan dengan kemampuannya untuk menghasilkan gambar yang nyaris tidak dapat dibedakan dari gambar asli, membuka peluang baru untuk manipulasi dan penipuan.

Bayangkanlah dampaknya jika AI dapat menghasilkan gambar palsu yang digunakan untuk menyebarkan berita bohong atau propaganda. Dampaknya bisa sangat besar, mengancam stabilitas sosial dan politik. Namun, teknologi ini juga memiliki potensi yang luar biasa. AI dapat digunakan untuk menciptakan seni, desain, dan konten yang belum pernah ada sebelumnya. Bayangkanlah jika kita dapat menggunakan AI untuk membuat film yang fantastis, game yang imersif, dan karya seni yang menakjubkan. Kemungkinannya tidak terbatas.

Pertanyaan sebenarnya bukanlah tentang menghentikan perkembangan AI, melainkan tentang bagaimana kita dapat mengendalikannya dan memastikan bahwa teknologi ini digunakan untuk kebaikan. Kita perlu mengembangkan standar etika yang ketat untuk AI Generatif dan memastikan bahwa alat ini digunakan secara bertanggung jawab. Kita juga perlu meningkatkan literasi digital masyarakat, sehingga mereka dapat mengenali dan membedakan gambar yang diedit dengan AI. Dengan perkembangan teknologi yang cepat, kita harus siap untuk menghadapi tantangan baru yang muncul.