pibitek.biz - Gemini adalah alat AI buatan Google yang bisa bikin gambar dari teks. Tapi ternyata, gambar-gambar yang dibuat Gemini nggak sesuai sama sejarah. Banyak pengguna Gemini yang protes di media sosial seperti X dan Reddit. Jack Krawczyk, direktur produk Google yang ngurusin Gemini, bilang bahwa tim Gemini lagi usaha perbaiki model AI-nya. Dia bilang, mereka sadar kalau Gemini bikin gambar sejarah yang nggak akurat, dan mau benerin secepatnya. Dia juga bilang, Gemini dibuat untuk mewakili pengguna dari seluruh dunia, dan mereka serius soal representasi dan bias.
2 – AI dan Hak Kekayaan Intelektual 2 – AI dan Hak Kekayaan Intelektual
3 – Superlist, Aplikasi To-Do Baru dari Pembuat Wunderlist 3 – Superlist, Aplikasi To-Do Baru dari Pembuat Wunderlist 300x600
Dia ngasih sinyal, mungkin gambar-gambar yang dibuat Gemini itu karena AI-nya mau inklusif sama semua ras. Beberapa pengguna Gemini nunjukin screenshot yang aneh-aneh. Misalnya, Gemini bikin gambar pasangan Jerman tahun 1820-an dari orang Amerika asli sama India, bapak pendiri Amerika yang kulitnya hitam, tentara Asia dan pribumi yang jadi anggota militer Jerman tahun 1929, dan raja Inggris abad pertengahan yang beragam, dan lain-lain.
Krawczyk bilang, konteks sejarah itu lebih rumit, dan mereka akan sesuaikan lagi model AI-nya. Dia tambah, kalau permintaan yang nggak berhubungan sama sejarah, Gemini tetap bikin gambar yang "universal". Tapi kalau Gemini diubah biar lebih realistis sama sejarah, Gemini nggak bisa dipake buat bikin gambar sejarah yang beda-beda.
Alat AI Generatif macam Gemini itu sebenarnya dibuat buat bikin konten dengan batasan tertentu, pake data tertentu. Tapi data itu bisa salah, atau nggak bener. Model AI juga bisa "halusinasi", maksudnya bikin informasi palsu cuma buat kasih jawaban ke pengguna.
Kalau AI dipake bukan cuma buat kreatif, tapi juga buat pendidikan atau kerja, halusinasi dan ketidakakuratan itu jadi masalah. Sejak alat AI Generatif macam ChatGPT dari OpenAI muncul tahun 2022, banyak seniman, wartawan, dan peneliti yang nemuin kalau model AI bisa punya bias rasisme, seksisme, atau diskriminasi lainnya dengan gambar yang dibuatnya. Google ngakuin masalah ini di prinsip AI-nya, dan bilang mereka berusaha buat nggak bikin "bias yang nggak adil" dengan alat AI-nya.
Gemini bukan satu-satunya alat AI yang bikin pengguna kaget minggu ini. ChatGPT juga katanya ngelantur Rabu kemarin, kasih jawaban yang nggak nyambung ke beberapa pertanyaan pengguna. OpenAI bilang mereka udah "memperbaiki" masalahnya.
