Peneliti Bikin Worm Malware yang Racuni ChatGPT dan Gemini



TL;DR
  • Peneliti menciptakan worm baru yang meracuni ChatGPT dan Gemini.
  • Worm AI ini dapat mengekstrak data pribadi dan mengirimkan email spam.
  • Worm ini menciptakan potensi serangan phishing dan penyebaran propaganda.
Peneliti Bikin Worm Malware yang Racuni ChatGPT dan Gemini - the image via: pcmag - pibitek.biz - Ekosistem

the image via: pcmag


336-280

pibitek.biz - Sebuah tim peneliti telah menciptakan worm komputer yang dapat memanipulasi alat AI Generatif yang menggunakan ChatGPT-4 dari OpenAI dan Gemini dari Google, sehingga asisten email AI tercemar dapat mengekstrak data pribadi dan mengirimkan email spam dalam lingkungan uji. Worm AI "zero-click" baru ini berhasil mengeksploitasi ChatGPT, Gemini, dan model AI open-source LLaVA dengan menyebarkan "adversarial self-replicating prompt" melalui teks dan input gambar, demikian ditemukan oleh para peneliti. "Penyerang dapat menyisipkan prompt-prompt tersebut ke dalam input yang, ketika diproses oleh model AI Generatif, mendorong model untuk mereplikasi input tersebut sebagai output (replication) dan melakukan aktivitas jahat (payload)", demikian dinyatakan dalam ringkasan penelitian.

"Selain itu, input-input ini juga memaksa agen untuk menyampaikannya (propagate) kepada agen-agen baru dengan memanfaatkan konektivitas dalam ekosistem AI Generatif". Ini berarti worm ini dapat digunakan untuk melakukan serangan phishing, mengirimkan email spam, atau bahkan menyebarkan propaganda, demikian disarankan dalam laporan tersebut. Temuan ini, yang pertama kali dilaporkan oleh Wired, membuktikan bahwa tidak ada software atau LLM yang secara mutlak kebal terhadap ancaman virus komputer seperti malware.

Para peneliti yang berasal dari Universitas Cornell, perusahaan software Intuit, dan Technion di Israel menciptakan worm ini, yang diberi nama "Morris II". Nama ini diambil dari salah satu worm komputer pertama yang dapat mereplikasi diri, yaitu Morris Worm, yang dikembangkan oleh mahasiswa Cornell, Robert Morris, pada tahun 1988. Pada masa itu, worm Morris asli berhasil membuat sekitar 10% dari semua komputer yang terhubung ke internet menjadi crash.

Meskipun jumlah mesin tersebut tidak terlalu banyak pada saat itu, hal ini menunjukkan bahwa worm komputer dapat dengan cepat berpindah antar sistem tanpa keterlibatan manusia, yang kemudian dikenal dengan istilah "zero-click worm". Para pencipta worm AI ini berpendapat bahwa "desain arsitektur yang buruk" dalam ekosistem AI Generatif memungkinkan mereka untuk menciptakan malware yang dapat mereplikasi diri. Worm AI atau virus lainnya seperti ini dapat digunakan di masa depan untuk melakukan serangan besar-besaran yang nyata, dengan potensi untuk menginfeksi lebih banyak alat AI Generatif dan menekankan perlunya keamanan yang lebih baik untuk model AI.

"Kelihatannya mereka telah menemukan cara untuk mengeksploitasi kerentanan jenis prompt-injection dengan mengandalkan input pengguna yang belum diperiksa atau difilter", kata OpenAI kepada Wired. Media tersebut melaporkan bahwa perusahaan AI ini, yang saat ini sedang diselidiki oleh Elon Musk dan The New York Times atas alasan terpisah, tengah melakukan perbaikan pada sistemnya agar "lebih tangguh".