AI: Keamanan dan Tantangan bagi Dewan Direksi

pibitek.biz -AI sedang mengubah dunia dengan kecepatan yang luar biasa. AI memberikan solusi inovatif dalam berbagai bidang, mulai dari kesehatan dan pendidikan hingga manufaktur dan keuangan. Kecepatan perkembangan AI yang luar biasa ini juga membawa tantangan baru bagi dunia bisnis, khususnya bagi dewan direksi perusahaan. Mereka dihadapkan pada kenyataan bahwa AI bukan lagi sekadar teknologi masa depan, tetapi kekuatan yang memengaruhi setiap aspek bisnis. Mengelola risiko AI yang tersembunyi menjadi tugas penting bagi dewan direksi, karena potensi manfaatnya yang besar diiringi oleh risiko yang tidak boleh dianggap remeh.

Lembaga seperti NIST (National Institute of Standards and Technology), agen pemerintah Amerika Serikat yang memiliki peran penting dalam memandu perusahaan dalam mengelola risiko AI, telah merumuskan sebuah kerangka kerja. NIST membaginya menjadi tiga tingkatan: risiko yang bisa langsung ditimbulkan oleh AI, seperti bias algoritma atau kesalahan dalam pengambilan keputusan; risiko yang muncul karena penggunaan AI yang tidak tepat, seperti penggunaan AI untuk tujuan yang merugikan atau melanggar etika; dan risiko yang dipicu oleh perubahan sosial akibat AI, seperti pengangguran massal atau ketidaksetaraan yang semakin meningkat. Ketiga tingkatan ini saling terkait dan perlu mendapat perhatian serius dari dewan direksi untuk menghindari konsekuensi yang tidak diinginkan.

Dewan direksi perlu memiliki pemahaman yang komprehensif tentang AI, bukan hanya teknologi itu sendiri, tetapi juga dampaknya terhadap bisnis, peraturan, dan masyarakat secara keseluruhan. Mereka harus menyelidiki setiap penggunaan AI di perusahaan, menilai manfaat dan risikonya secara detail. Bahkan AI yang sudah lama digunakan perlu dievaluasi kembali secara berkala, mengingat peraturan dan kesadaran masyarakat yang terus berkembang. Perubahan ini dapat memunculkan tantangan baru yang tidak terduga, yang harus diantisipasi dan diatasi oleh dewan direksi.

Di Amerika Serikat, meskipun belum ada aturan AI secara komprehensif, pemerintah telah mengeluarkan banyak panduan, laporan, dan kerangka kerja untuk membantu perusahaan mengelola risiko AI. Penting bagi dewan direksi untuk memahami dan menerapkannya secara efektif. Contohnya, NIST mengeluarkan panduan tentang AI Risk Management Framework, yang memberikan pedoman untuk mengelola AI secara bertanggung jawab. Panduan ini mencakup berbagai aspek, mulai dari identifikasi dan penilaian risiko hingga implementasi kontrol dan pemantauan.

Selain panduan, pemerintah juga mengingatkan bahwa peraturan yang ada tetap berlaku untuk AI. FTC (Federal Trade Commission), misalnya, menegaskan bahwa AI harus sesuai dengan hukum yang berlaku untuk melindungi konsumen dari penipuan. FTC juga telah menindak beberapa perusahaan yang dianggap menggunakan AI untuk melakukan praktik bisnis yang tidak adil atau menipu. Perusahaan juga perlu memahami peraturan AI di tingkat negara bagian, seperti di Utah dan Colorado, yang sudah mengeluarkan aturan terkait penggunaan AI untuk interaksi pelanggan dan pengambilan keputusan.

Peraturan ini menuntut perusahaan untuk transparan dan akuntabel dalam penggunaan AI, termasuk memberikan informasi yang jelas kepada pelanggan tentang cara AI digunakan. Di Eropa, pendekatan regulasi AI lebih ketat. EU AI Act yang berlaku mulai 2026 mengelompokkan AI berdasarkan risiko yang ditimbulkannya, mulai dari yang tidak dapat diterima hingga minimal. Semakin tinggi risikonya, semakin ketat peraturan yang harus dipenuhi. Contohnya, AI yang digunakan dalam sistem senjata otonom dianggap sebagai risiko yang tidak dapat diterima dan diharamkan.

AI yang digunakan dalam sistem pemeringkatan kredit atau perekrutan karyawan dianggap sebagai risiko tinggi dan harus memenuhi persyaratan yang ketat. Dewan direksi perusahaan yang memasarkan atau menggunakan AI di Eropa perlu memahami peraturan ini secara detail agar tidak melanggar hukum dan menghadapi sanksi yang berat. Di Inggris, meskipun belum ada aturan mirip EU AI Act, pemerintah baru telah menyatakan niat untuk membuat peraturan AI. Lembaga pengawas privasi, ICO (Information Commissioner's Office), juga telah mengambil tindakan terhadap perusahaan AI yang tidak melakukan penilaian risiko sebelum merilis produk mereka.

ICO menuntut perusahaan untuk menunjukkan bahwa mereka telah melakukan penilaian risiko yang komprehensif dan mengambil langkah-langkah yang tepat untuk melindungi privasi pengguna. Perusahaan yang tidak memenuhi persyaratan ini dapat menghadapi denda yang besar dan kerusakan reputasi. Perusahaan perlu memahami risiko AI secara menyeluruh dan mengintegrasikannya ke dalam strategi bisnis mereka. Dewan direksi berperan penting dalam memastikan bahwa perusahaan menggunakan AI secara etis, bertanggung jawab, dan aman.

Mereka harus memimpin upaya untuk mengidentifikasi, menilai, dan mengelola risiko AI, serta memastikan bahwa perusahaan memiliki kebijakan dan praktik yang kuat untuk mengendalikan penggunaan AI. Data menunjukkan peningkatan penggunaan AI di perusahaan-perusahaan terkemuka. Jumlah perusahaan di S&P 500 yang menyebutkan AI di laporan tahunan mereka meningkat signifikan dalam beberapa tahun terakhir. Banyak perusahaan juga telah memasukkan risiko AI sebagai bagian dari faktor risiko utama mereka. Ini menunjukkan bahwa AI telah menjadi fokus utama dunia bisnis dan dewan direksi perlu bersiap menghadapi tantangan ini.

Ketidakmampuan untuk mengelola risiko AI dapat menyebabkan kerugian finansial, kerusakan reputasi, dan bahkan tuntutan hukum. Dewan direksi harus melakukan langkah-langkah penting untuk memastikan keamanan AI. Mereka perlu memahami dan mengelola risiko AI, mengawasi penggunaan AI di perusahaan, memastikan kepatuhan terhadap peraturan, dan melibatkan diri dalam pengembangan strategi AI. Dengan proaktif dan berhati-hati dalam mengelola AI, dewan direksi dapat membantu perusahaan meraih manfaat AI tanpa harus menghadapi risiko yang tidak terduga.