Google Kembali Izinkan Gemini Hasilkan Gambar Manusia

pibitek.biz -Google akhirnya membuka kembali pintu bagi model AI Gemini-nya untuk menghasilkan gambar manusia setelah sempat dihentikan pada bulan Februari lalu. Keputusan ini diambil setelah model tersebut menuai kecaman karena menghasilkan gambar yang tidak akurat secara historis, terutama dalam hal representasi ras. Kisah ini bermula pada bulan Mei lalu ketika Google merilis model Imagen 3 yang memiliki kemampuan untuk menghasilkan gambar manusia. Sayangnya, fitur ini kemudian dihilangkan dari Gemini karena berbagai kontroversi yang muncul.

Sekarang, Google kembali mengaktifkan fitur ini dan akan merilisnya untuk pengguna Gemini Advanced, Business, dan Enterprise dalam beberapa hari mendatang. Meskipun demikian, Google telah menambahkan beberapa langkah pengamanan untuk mencegah model ini menghasilkan gambar yang kontroversial. Model Imagen 3 tidak akan menghasilkan gambar yang realistis dan dapat diidentifikasi, gambar orang di bawah umur, dan gambar yang mengandung konten kekerasan, seksual, atau berdarah. Hal ini berarti, model tersebut tidak akan menghasilkan gambar yang menggambarkan seseorang secara spesifik, seperti "Presiden Biden bermain basket".

Namun, permintaan yang lebih umum, seperti "presiden Amerika Serikat bermain basket", masih dapat dipenuhi. Google menyadari bahwa langkah ini penting untuk mencegah penyalahgunaan model AI dalam menghasilkan konten yang berbahaya atau menyinggung. Berdasarkan uji coba yang dilakukan oleh Ars Technica, model Imagen 3 berhasil menghindari kesalahan yang terjadi pada model Gemini sebelumnya. Ketika diminta untuk menghasilkan gambar "representasi historis yang akurat tentang raja Inggris", model Imagen 3 menghasilkan gambar raja-raja berjenggot putih dengan jubah merah, yang jauh lebih akurat secara historis dibandingkan dengan hasil model Gemini sebelumnya yang menampilkan beragam ras.

Model Imagen 3, tampaknya, telah belajar dari kesalahan masa lalu dan berusaha untuk menghindari stereotipe yang tidak akurat. Sayangnya, model Imagen 3 masih mengalami kesulitan dalam menghasilkan gambar yang menggambarkan adegan sejarah tertentu. Permintaan untuk gambar "tentara Jerman tahun 1943" ditolak oleh model dengan alasan pelanggaran kebijakan konten. Begitu juga dengan permintaan untuk gambar "filsuf China kuno", "pemimpin gerakan hak pilih wanita sedang berpidato", dan "sekelompok pengunjuk rasa non-kekerasan".

Hal ini menunjukkan bahwa model Imagen 3 masih dalam tahap pengembangan dan masih perlu belajar lebih banyak tentang sejarah dan budaya. Meskipun ada beberapa keterbatasan, Google tetap optimis dengan model Imagen 3 dan berharap dapat terus meningkatkannya dengan bantuan masukan dari pengguna. Google berkomitmen untuk mengembangkan AI yang bertanggung jawab dan bermanfaat bagi semua orang. Mereka percaya bahwa model Imagen 3 memiliki potensi besar untuk membantu orang dalam berbagai bidang, mulai dari seni dan desain hingga pendidikan dan penelitian.