pibitek.biz - Pemerintah AS baru saja membentuk konsorsium AI aman. Ini adalah konsorsium pertama yang fokus pada keamanan AI. Konsorsium ini terdiri dari lebih dari 200 perusahaan dan organisasi. Ada perusahaan teknologi besar seperti Google, Microsoft dan Amazon. Ada juga perusahaan LLM terkemuka seperti OpenAI, Cohere dan Anthropic. Selain itu, ada juga lab riset, tim akademik, pemerintah daerah dan lembaga swadaya masyarakat.
2 – Peneliti Bikin Worm Malware yang Racuni ChatGPT dan Gemini 2 – Peneliti Bikin Worm Malware yang Racuni ChatGPT dan Gemini
3 – AI Microsoft Bantu Azure Kejar Ketinggalan dari Amazon 3 – AI Microsoft Bantu Azure Kejar Ketinggalan dari Amazon 300x600
Konsorsium ini akan bekerja di bawah US AI Safety Institute (USAISI). USAISI adalah lembaga baru yang berada di National Institute of Standards and Technology (NIST). USAISI dipimpin oleh seorang pejabat Gedung Putih.
USAISI dan konsorsium ini dibentuk berdasarkan perintah eksekutif Presiden Biden. Perintah eksekutif ini dikeluarkan pada Oktober 2023. Tujuan dari konsorsium ini adalah untuk mengembangkan standar dan metode pengukuran untuk keamanan AI.
Konsorsium ini juga akan melakukan tes dan evaluasi terhadap produk, data dan model AI. Selain itu, konsorsium ini akan membuat pedoman untuk red-teaming, evaluasi kemampuan, manajemen risiko, keamanan dan watermarking konten sintetis. Untuk bergabung dengan konsorsium ini, organisasi harus membayar biaya tahunan sebesar 1000 dollar AS.
Mereka juga harus menandatangani perjanjian kerjasama penelitian dan pengembangan dengan NIST. Anggota konsorsium akan berkontribusi pada salah satu dari lima pedoman berikut:
1. Pedoman untuk Red-Teaming AI
2. Pedoman untuk Evaluasi Kemampuan AI
3. Pedoman untuk Manajemen Risiko AI
4. Pedoman untuk Keamanan dan Keandalan AI
5. Pedoman untuk Watermarking Konten Sintetis AI
Meskipun konsorsium ini terlihat ambisius, masih ada banyak tantangan yang dihadapi. Salah satunya adalah masalah pendanaan. USAISI sendiri tidak mendapat anggaran khusus dari pemerintah. NIST juga dikenal sebagai lembaga yang kurang dibiayai. Beberapa senator telah meminta dana sebesar 10 juta dollar AS untuk mendirikan USAISI.
Namun, belum jelas apakah permintaan itu akan dikabulkan. Selain itu, ada juga masalah transparansi. Beberapa anggota komite sains DPR telah mengkritik NIST karena tidak mengumumkan proses kompetitif untuk hibah penelitian terkait USAISI.
Mereka juga mempertanyakan kriteria dan proses seleksi anggota konsorsium. Rumman Chowdhury, seorang ahli AI yang pernah bekerja di Accenture dan Twitter, mengatakan bahwa pendanaan adalah masalah besar untuk USAISI. Dia mengatakan bahwa perintah eksekutif Presiden Biden adalah mandat yang tidak didanai.
