Google Stop Fitur Gambar AI-nya Gegara Kontroversi



TL;DR
  • Google dan OpenAI bikin gambar AI beragam dari teks.
  • Gambar-gambar itu nggak sesuai sejarah, bikin netizen marah.
  • Google minta maaf dan stop fitur gambar AI-nya sementara.
Google Stop Fitur Gambar AI-nya Gegara Kontroversi - credit to: arstechnica - pibitek.biz - Afrika

credit to: arstechnica


336-280

pibitek.biz - Google bikin heboh netizen dengan fitur gambar AI-nya yang namanya Gemini. Fitur ini bisa bikin gambar dari teks yang kita tulis. Tapi, ada yang aneh dari gambar-gambar yang dihasilkan Gemini. Banyak gambar yang nggak sesuai sama sejarah, misalnya ada Nazi yang berkulit hitam atau raja Inggris yang berwajah Asia. Kok bisa gitu? Ternyata, Google punya trik rahasia buat bikin gambar-gambar itu. Google nyelipin kata-kata yang berhubungan sama keragaman ras dan gender ke dalam teks yang kita tulis.

Jadi, kalau kita tulis "buat gambar para pendiri Amerika", Google bakal nambahin kata-kata kayak "Afrika" atau "transgender" ke dalam teks itu. Baru deh, teks itu dikirim ke model AI yang bikin gambarnya. Hasilnya, ya jadi aneh-aneh.

Google nggak sendirian yang pake trik kayak gini. Sebelumnya, OpenAI juga pernah pake cara yang sama buat fitur gambar AI-nya yang namanya DALL-E. Tujuannya sih baik, yaitu buat ngurangin prasangka atau bias yang ada di data latihannya.

Soalnya, data latihan yang dipake buat bikin gambar AI itu seringkali nggak adil buat kelompok-kelompok tertentu. Misalnya, kalau kita minta gambar "bos perusahaan", yang keluar malah gambar laki-laki kulit putih terus. Atau kalau kita minta gambar "orang marah", yang keluar malah gambar pria kulit hitam terus.

Ini kan nggak bener. Nah, buat ngatasin masalah ini, OpenAI bikin sistem yang bisa nyelipin kata-kata yang nunjukin keragaman ke dalam teks yang kita tulis. Jadi, kalau kita minta gambar "bos perusahaan", sistemnya bakal nambahin kata-kata kayak "perempuan", "Arab", atau "buta" ke dalam teks itu.

Hasilnya, gambar yang keluar jadi lebih beragam dan nggak cuma laki-laki kulit putih aja. Tapi, cara ini juga punya masalahnya sendiri. Kadang-kadang, gambar yang keluar jadi nggak sesuai sama konteks sejarah atau budaya yang kita minta.

Misalnya, kalau kita minta gambar "raja Inggris", yang keluar malah gambar orang India atau Cina. Atau kalau kita minta gambar "tentara Nazi", yang keluar malah gambar orang kulit hitam atau coklat. Ini kan nggak masuk akal.

Google juga ngalamin hal yang sama dengan fitur gambar AI-nya. Banyak netizen yang protes sama gambar-gambar yang dihasilkan Gemini. Mereka bilang Google udah nggak peduli sama sejarah yang bener.

Mereka juga bilang Google sengaja diskriminasi orang kulit putih dan ngasih gambar palsu buat tujuan politik. Bahkan, Elon Musk ikut-ikutan nyindir Google dengan gambar kartun yang nunjukin dua jalan buat kemajuan AI. Satu jalan namanya "mencari kebenaran maksimal", yang ada logo perusahaannya, xAI.

Satu jalan lagi namanya "rasis terjaga", yang ada logo OpenAI dan Gemini. Google akhirnya minta maaf dan ngumumin bakal stop dulu fitur gambar AI-nya. Google bilang bakal perbaikin masalah ini secepatnya dan ngeluarin versi yang lebih bagus nanti.

Google juga bilang tujuannya bikin gambar AI yang beragam itu sih baik, yaitu buat ngasih gambar yang sesuai sama pengguna di seluruh dunia. Tapi, Google ngaku kalo gambar-gambar yang keluar itu nggak tepat buat konteks sejarah. Masalah ini sebenernya nggak gampang buat diselesain.

Para peneliti AI harus ngadepin tantangan dari berbagai sudut pandang yang beda-beda di internet. Ada yang minta gambar AI yang nggak ada biasnya, ada yang minta gambar AI yang ngikutin sejarahnya. Nggak ada satu pandangan yang bisa bikin semua orang puas.

Susah buat bikin model AI yang bisa ngelayanin semua pandangan politik dan budaya. Ini juga disadari sama beberapa ahli. "Kita butuh banyak asisten AI yang bebas dan beragam, sama kayak kita butuh media yang bebas dan beragam", tulis Yann LeCun, ilmuwan AI utama Meta, di X.

"Mereka harus bisa nunjukin keragaman bahasa, budaya, nilai, opini, dan minat di seluruh dunia". OpenAI juga pernah ngalamin masalah ini dulu. Awal-awal bikin sistem yang nyelipin keragaman ke dalam teks, gambar yang keluar juga sering aneh-aneh.

Tapi, karena OpenAI masih kecil (dibanding Google) dan baru mulai di bidang ini, masalahnya nggak terlalu heboh. Lama-lama, OpenAI bisa perbaikin sistemnya, yang sekarang udah dipake buat ChatGPT dan DALL-E 3, buat ngasih keragaman ke gambar-gambarnya tanpa bikin kontroversi. Ini butuh waktu dan coba-coba, dan Google juga bakal ngalamin hal yang sama, cuma bedanya di panggung yang lebih gede.

Buat ngatasin masalah ini, Google bisa ubah sistemnya biar nggak nyelipin keragaman kalau teksnya berhubungan sama sejarah. Jack Kawczyk, salah satu staf Gemini, kayaknya ngerti ini. Dia nulis, "Kita sadar kalo Gemini ngasih gambar sejarah yang nggak bener, dan kita lagi perbaikin ini sekarang juga. Sesuai sama prinsip AI kita, kita bikin kemampuan gambar AI kita buat ngasih gambar yang sesuai sama pengguna di seluruh dunia, dan kita serius soal representasi dan bias. Kita bakal terus lakuin ini buat teks yang bebas. Tapi, teks yang berhubungan sama sejarah itu lebih rumit dan kita bakal sesuaikan lagi".