Platform AI Hugging Face, Ada Kode Jahat yang Bobol Komputer



TL;DR
  • Hugging Face, platform AI, ada kode jahat.
  • Kode jahat bisa bobol komputer, buka reverse shell.
  • Kode jahat pakai format pickle, sulit dideteksi.
Platform AI Hugging Face, Ada Kode Jahat yang Bobol Komputer - credit for: ai-forum - pibitek.biz - Data

credit for: ai-forum


336-280

pibitek.biz - Hugging Face adalah platform untuk pengembang AI yang mirip GitHub. Tapi ternyata, ada kode yang diunggah ke platform ini yang bisa bobol komputer pengguna. Itu diumumkan oleh peneliti dari perusahaan keamanan JFrog. Menurut JFrog, ada sekitar 100 kode yang melakukan aksi tersembunyi dan tidak diinginkan saat diunduh dan dimuat ke komputer pengguna. Kebanyakan kode itu adalah model machine learning yang tampaknya tidak berbahaya, cuma coba-coba dari peneliti atau pengguna biasa. Tapi JFrog bilang, ada 10 kode yang benar-benar jahat, yang bisa merusak keamanan pengguna.

Salah satu kode yang bikin khawatir adalah yang bisa membuka reverse shell. Ini artinya, ada perangkat di internet yang bisa mengendalikan komputer pengguna secara penuh. Saat peneliti JFrog mencoba kode itu di mesin uji, memang terjadi reverse shell, tapi tidak ada aksi lanjutan.

Ini bikin curiga, apakah kode itu juga buatan peneliti yang iseng. Tapi tetap saja, ini melanggar etika penelitian dan menunjukkan bahwa model AI yang ada di platform seperti Hugging Face bisa berisiko kalau tidak dicek dulu. "Kode jahat itu memberi penyerang akses ke komputer korban, yang disebut sebagai 'backdoor'", tulis David Cohen, peneliti senior JFrog.

"Penyusupan diam-diam ini bisa membuka pintu ke sistem internal yang penting dan menyebabkan kebocoran data besar-besaran atau bahkan spionase korporat, yang tidak hanya merugikan pengguna individu tapi juga organisasi di seluruh dunia, tanpa mereka sadar". Seperti sembilan kode jahat lainnya, kode yang membuka reverse shell ini menggunakan format pickle, yang sudah lama dikenal berisiko. Pickle biasa dipakai di Python untuk mengubah objek dan kelas di kode yang bisa dibaca manusia menjadi aliran bita yang bisa disimpan atau dibagikan.

Proses ini, yang disebut serialisasi, memberi celah bagi peretas untuk menyelipkan kode jahat. Kode yang membuka reverse shell ini, yang diunggah oleh seseorang dengan nama pengguna baller432, bisa mengelabui pemindai malware Hugging Face dengan menggunakan metode "__reduce__" dari pickle untuk menjalankan kode sembarangan setelah memuat file model. Cohen dari JFrog menjelaskan prosesnya dengan bahasa teknis yang lebih detail. Btw, Hugging Face sudah menghapus kode itu dan yang lainnya yang ditandai oleh JFrog.