Ahli AI dan Regulator: Batasan Komputasi untuk Keamanan AI



TL;DR
  • Ahli AI usulkan regulasi hardware untuk keamanan AI.
  • Hardware komputasi bisa dibatasi dan diawasi secara fisik.
  • Regulasi hardware mirip dengan regulasi nuklir.
Ahli AI dan Regulator: Batasan Komputasi untuk Keamanan AI - image from: focusms - pibitek.biz - Akurasi

image from: focusms


336-280

pibitek.biz - Sebuah kelompok ahli AI termasuk OpenAI telah mengusulkan agar regulator lebih memfokuskan perhatian pada hardware, bukan software, untuk memastikan keamanan AI. Mereka berpendapat bahwa fokus utama seharusnya tertuju pada komputasi, seperti chip yang ditemukan di pusat data, untuk memastikan keamanan AI. Hal ini diumumkan dalam sebuah makalah yang ditulis oleh beberapa ahli AI, termasuk pemenang penghargaan Turing, Yoshua Bengio, dan para ahli dari University of Cambridge, Oxford Internet Institute, dan Harvard Kennedy School.

Para penulis makalah tersebut menyatakan bahwa komputer dan pusat data adalah sasaran yang lebih layak untuk diteliti karena ini adalah aset yang dapat dimiliki secara fisik, sedangkan data dan algoritma dapat diduplikasi dan disebarluaskan. Dengan memfokuskan perhatian pada hardware, hal ini efektif untuk memberi masyarakat waktu untuk mempersiapkan diri menghadapi ketersediaan sistem AI canggih secara luas. Ide-ide yang diusulkan dalam makalah tersebut termasuk pengenalan batas komputasi, seperti pembatasan jumlah chip yang dapat terhubung ke setiap chip AI, serta "tombol start" metaforis untuk pelatihan AI yang memungkinkan pembuat model menolak akses sistem AI berisiko potensial terhadap data, mirip dengan veto digital.

Selain itu, ada usulan untuk membuat register chip AI dengan produsen, penjual, dan pihak yang menjual kembali wajib melaporkan semua transfer. Para penulis juga berpendapat bahwa ini akan memberikan informasi yang akurat tentang jumlah komputasi yang dimiliki oleh negara dan perusahaan pada setiap saat. Para penulis juga mencontohkan langkah-langkah keamanan pada senjata nuklir untuk inspirasi, seperti harus memperoleh persetujuan dari beberapa pihak untuk membuka kunci komputasi untuk sistem AI berpotensi berisiko.

Mereka berpendapat bahwa "hardware komputasi terlihat, dapat diukur, dan sifat fisiknya berarti pembatasan dapat diberlakukan dengan cara yang mungkin segera menjadi hampir tidak mungkin dengan elemen-elemen virtual AI lebih". Para penulis juga menyoroti upaya pemerintah, termasuk Perintah Eksekutif AS tentang AI dan Regulasi AI Generatif China, tetapi mereka berpendapat bahwa perlu dilakukan lebih banyak lagi. Mereka menganggap bahwa seperti "regulasi internasional pasokan nuklir yang berfokus pada input vital yang harus melalui proses panjang, sulit, dan mahal", fokus pada komputasi akan memungkinkan regulasi AI untuk melakukannya juga.