CISA Siapkan Rencana AI yang Aman dan Terpercaya

pibitek.biz -CISA atau Cybersecurity and Infrastructure Agency adalah lembaga pemerintah ASlembaga pemerintah AS yang bertugas menjaga keamanan dan ketahanan infrastruktur negara. CISA baru saja merilis rencana strategis untuk tahun 2023-2025, yang salah satunya adalah membuat roadmap untuk pengembangan dan penggunaan AI yang aman dan terpercaya. Rencana ini dibuat sesuai dengan perintah eksekutif Gedung Putih nomor 14110.

Penggunaan AI semakin luas dan cepat di berbagai sektor, mulai dari bisnisdari bisnis, kesehatan, hingga pertahanan. Namun, AI juga membawa risiko baru yang bisa mengancam keamanan siber dan infrastruktur kritis. CISA ingin memastikan bahwa AI yang digunakan oleh pemerintah dan swasta adalah AI yang bertanggung jawab, etis, dan aman.

Untuk itu, CISA menetapkan empat tujuan utama dalam roadmap AIroadmap AI-nya, yaitu:

a. Pertahanan siber:

CISA akan mendorong penggunaan AI yang bermanfaat dan melindungi sistem-sistem negara dari ancaman AI. CISA juga akan membangun pertahanan AI yang kuat untuk menghadapi serangan siber yang semakin canggih.

b. Pengurangan risiko dan ketahanan:

CISA akan mempromosikan adopsi AI yang sadar risiko dan "aman sejak desain".Artinya, keamanan sudah diperhatikan sejak tahap awal pengembangan produk AI, sehingga bisa mengurangi celah keamanan yang bisa dimanfaatkan oleh penyerang.

c. Kolaborasi operasional:

CISA akan mengembangkan kerangka kerja yang meningkatkan koordinasi dan keterpaduan antara berbagai pemangku kepentingan, seperti lembaga pemerintah, sektor swasta, mitra internasional, dan masyarakat. CISA juga akan berbagi informasi dan respons terkait ancaman AI yang ditargetkan pada warga dan infrastruktur kritis AS.

d. Unifikasi lembaga: CISA akan menyatukan dan mengintegrasikan sistem-sistem AI di dalam lembaganya sendiri, sehingga bisa menggunakan AI secara lebih konsisten dan efektif. CISA juga akan merekrut dan mengembangkan SDM yang mampu mengoptimalkan penggunaan AI.

Selain itu, CISA juga mengidentifikasi lima upaya utama untuk mewujudkan roadmap AI-nya, yaitu:

1. Penggunaan AI yang bertanggung jawab:

CISA akan menerapkan tools software yang berbasis AI untuk meningkatkan pertahanan siber dan mendukung infrastruktur kritis. Semua alat dan sistem akan melalui proses seleksi yang ketat, di mana CISA akan memastikan bahwa sistem-sistem AI yang digunakan adalah bertanggung jawab, aman, etis, dan aman. CISA juga akan menerapkan proses tata kelola yang sesuai dengan proses pengadaan federal, hukum dan kebijakan yang berlaku, privasi, dan hak-hak sipil dan kebebasan, serta mengadopsi pendekatan untuk penilaian berkelanjutan terhadap model-model AI sambil meninjau praktik keamanan TI untuk mengintegrasikan teknologi secara aman.

2. Menjamin sistem AI:

Untuk membangun pengembangan dan implementasi software AI yang lebih aman dan tangguh, CISA akan memimpin inisiatif aman sejak desain, mengembangkan praktik dan pedoman keamanan terbaik untuk berbagai pemangku kepentingan (misalnya, lembaga pemerintah sipil federal, perusahaan swasta, pemerintah negara bagian, lokal, suku, dan teritorial) dan mendorong penerapan praktik manajemen kerentanan yang kuat, menentukan proses pengumuman kerentanan dan memberikan pedoman untuk pengujian keamanan dan latihan tim merah untuk sistem AI.

3. Melindungi infrastruktur kritis dari penggunaan AI yang jahat:

CISA akan bermitra dengan lembaga pemerintah dan mitra industri seperti Joint Cyber Defense Collaborative untuk mengembangkan, menguji, dan mengevaluasi tools AI dan berkolaborasi dalam menghadapi ancaman AI yang berkembang. CISA akan menerbitkan materi untuk meningkatkan kesadaran akan risiko yang muncul dan juga akan mengevaluasi metode manajemen risiko untuk menentukan kerangka analitis yang sesuai untuk penilaian dan perlakuan risiko AI.

4. Berkolaborasi dengan mitra antarlembaga, internasional, dan publik:

Untuk meningkatkan kesadaran, berbagi informasi ancaman, dan meningkatkan kemampuan respons insiden dan penyelidikan, CISA berencana untuk menumbuhkan pendekatan kolaboratif seperti kelompok kerja AI, menghadiri atau berpartisipasi dalam pertemuan antarlembaga, dan berkoordinasi erat dengan entitas Departemen Keamanan Dalam Negeri. CISA akan bekerja lintas lembaga untuk memastikan kebijakan dan strateginya sejalan dengan pendekatan seluruh pemerintah dan akan melibatkan mitra internasional untuk mendorong penerapan praktik terbaik internasional untuk AI yang aman.

5. Memperluas keahlian AI di kalangan tenaga kerja:

Kewaspadaan, pengawasan, dan intuisi manusia selalu dibutuhkan untuk mendeteksi ancaman siber berbasis AI dan non-AI dan untuk memastikan sistem AI bebas dari kesalahan, bias, dan manipulasi. Intuisi dan kewaspadaan manusia hanya bisa diperkuat dengan inisiatif kesadaran keamanan yang kuat.

Inilah sebabnya CISA berencana untuk terus mendidik tenaga kerja tentang sistem dan teknik software AI, merekrut karyawan dengan keahlian AI, dan melakukan program pelatihan kesadaran keamanan yang harus mencakup latihan situasional untuk memastikan karyawan memahami aspek hukum, etis, dan kebijakan dari sistem AI, di atas aspek teknis.

Melalui inisiatif-inisiatif yang diuraikan dalam roadmap AI CISA, lembaga ini berharap dapat membangun postur keamanan siber yang lebih kuat untuk negara, melindungi infrastruktur kritis dari penggunaan AI yang jahat, dan memprioritaskan keamanan sebagai persyaratan bisnis utama dalam alat dan sistem berbasis AI.