pibitek.biz - Organisasi kini semakin tertarik untuk memanfaatkan kekuatan AI Generatifkekuatan AI Generatif, tetapi keamanan menjadi tantangan yang berkembang. IBM berusaha mengatasi risiko AI Generatif dengan memperkenalkan kerangka keamanan baru yang bertujuan membantu pelanggan mengatasi risiko baru yang muncul dari AI Generatif. Kerangka keamanan tersebut, yang disebut IBM Framework for Securing AI Generatif, berfokus pada melindungi alur kerja AI Generatif dari pengumpulan data hingga implementasi produksi.
2 – Fitur Baru ChatGPT: Memori Jangka Panjang 2 – Fitur Baru ChatGPT: Memori Jangka Panjang
3 – AI Microsoft Bantu Azure Kejar Ketinggalan dari Amazon 3 – AI Microsoft Bantu Azure Kejar Ketinggalan dari Amazon 300x600
Kerangka ini memberikan panduan tentang ancaman keamanan yang paling mungkin dihadapi organisasi saat bekerja dengan AI Generatifdengan AI Generatif, serta rekomendasi tentang pendekatan pertahanan teratas yang harus diimplementasikan. IBM, dengan portofolio watsonX-nya yang mencakup model dan kemampuan pengelolaan, telah mengembangkan kemampuan AI Generatif-nya selama setahun terakhir. Ryan Dougherty, Program Director untuk Teknologi Keamanan yang Berkembang di IBM Security, menjelaskan, "Kami mengambil keahlian kami dan merinci serangan yang paling mungkin beserta pendekatan pertahanan terpenting yang menurut kami penting bagi organisasi untuk difokuskan dan diimplementasikan guna mengamankan inisiatif AI Generatif mereka".
Tiga pilar utama pendekatan IBM adalah melindungi datamelindungi data, model, dan penggunaannya. Di bawah ketiga pilar tersebut, ada kebutuhan mendesak untuk memastikan infrastruktur yang aman dan tata kelola AI yang baik sepanjang proses. Sridhar Muppidi, IBM Fellow dan CTO di IBM Security, menjelaskan bahwa praktik keamanan data inti seperti kontrol akses dan keamanan infrastruktur tetap kritis dalam AI Generatif, seperti halnya dalam segala bentuk penggunaan IT lainnya.
Namun, risiko lain bersifat unik untuk AI Generatif, seperti pencemaran data di mana data palsu ditambahkan ke satu set data yang dapat menghasilkan hasil yang tidak akurat. Bias dan keberagaman data adalah risiko lain yang perlu diatasi dalam data AI Generatif. Muppidi juga mengidentifikasi penyuntikan perintah, di mana pengguna mencoba memodifikasi keluaran model secara berbahaya melalui perintah, sebagai area risiko yang muncul dan memerlukan pengendalian baru.
IBM Framework for Securing AI Generatif bukanlah satu alat tunggal, tetapi sekelompok pedoman dan saran untuk alat dan praktik keamanan AI Generatif. Munculnya AI Generatif dan risikonya telah membawa debut serangkaian kategori keamanan baru, termasuk Deteksi dan Respons Machine Learning (MLDR), Manajemen Postur Keamanan AI (AISPM), dan Operasi Keamanan Machine Learning (MLSecOps). MLDR berkaitan dengan pemindaian model dan identifikasi risiko potensial, sementara AISPM mirip dalam konsep dengan Manajemen Postur Keamanan Cloud (CSPM), yang berkaitan dengan konfigurasi dan praktik terbaik untuk memiliki implementasi yang aman.
