Undang-Undang AI Uni Eropa Dapat Dukungan Baru



TL;DR
  • Undang-undang AI Uni Eropa akan segera disahkan pada bulan April.
  • Aturan-aturan tersebut membagi AI ke dalam empat kategori risiko.
  • Regulasi ini menekankan pentingnya keamanan dan pengawasan manusia terhadap sistem AI.
Undang-Undang AI Uni Eropa Dapat Dukungan Baru - image origin: computerworld - pibitek.biz - ChatGPT

image origin: computerworld


336-280

pibitek.biz - Undang-undang AI Uni Eropa (UE) yang akan menetapkan batasan untuk penggunaan dan pengembangan teknologi AI tampaknya akan segera disahkan. Dua kelompok penting anggota parlemen UE menyetujui kesepakatan sementara tentang aturan-aturan tersebut. Aturan-aturan itu akan diputuskan secara resmi oleh parlemen UE pada bulan April.

Aturan-aturan itu mengharuskan organisasi dan pengembang untuk menilai kemampuan AI mereka dan mengelompokkannya ke dalam empat kategori risiko: minimal, terbatas, tinggi, dan tidak dapat diterima. Undang-undang ini adalah undang-undang pemerintah pertama yang komprehensif untuk mengawasi bagaimana AI akan dikembangkan dan digunakan. Undang-undang ini mendapat dukungan dan kewaspadaan dari para ahli teknologi.

"Prioritas parlemen adalah memastikan bahwa sistem AI yang digunakan di UE aman, transparan, dapat dilacak, tidak diskriminatif, dan ramah lingkungan", kata UE dalam menjelaskan undang-undang ini secara online. "Sistem AI harus diawasi oleh manusia, bukan oleh otomatisasi, untuk mencegah hasil yang berbahaya". Inti dari regulasi ini sederhana, kata Nader Henein dari Gartner, seorang pakar privasi informasi.

"Regulasi ini mengharuskan organisasi dan pengembang untuk menilai kemampuan AI mereka dan menempatkannya dalam salah satu dari empat tingkatan yang ditentukan oleh undang-undang ini", katanya. "Tergantung pada tingkatannya, ada tanggung jawab yang berbeda yang ditanggung oleh pengembang atau penerap". Beberapa kelompok advokasi dan bahkan analisis oleh pemerintah AS telah menolak Undang-Undang AI ini.

Digital Europe, sebuah kelompok advokasi yang mewakili industri digital di seluruh benua, mengeluarkan pernyataan bersama pada November sebelum minggu-minggu terakhir negosiasi Undang-Undang AI. Mereka memperingatkan bahwa regulasi berlebihan bisa menghambat inovasi dan menyebabkan startup meninggalkan wilayah ini. Kelompok ini mendesak pembuat undang-undang untuk tidak "mengatur" pemain AI baru di UE "sampai mati" sebelum mereka mendapat kesempatan.

Henein berpendapat bahwa mandat undang-undang ini "tidak menghalangi inovasi sama sekali. Inovasi dengan sifatnya menemukan cara untuk bekerja dalam batas-batas regulasi dan mengubahnya menjadi keuntungan", katanya. Penerapan aturan-aturan ini "harusnya mudah" selama pengembang dan penjual memberikan klien informasi yang mereka butuhkan untuk melakukan penilaian atau patuh, kata Henein.

Namun, seorang ahli teknologi mengatakan bahwa beberapa kritik tentang sifat mengatur Undang-Undang AI dan bahasa yang samar-samar adalah valid. Dan relevansinya mungkin tidak bertahan lama karena seringkali sulit bagi regulasi untuk bergerak secepat teknologi. "Ada beberapa bagian dari regulasi yang masuk akal, seperti melarang 'kepolisian prediktif' di mana polisi diarahkan untuk mengejar seseorang hanya karena sistem AI memberi tahu mereka", kata Jason Soroko, wakil presiden senior produk di Sectigo, sebuah perusahaan manajemen siklus sertifikat.

"Tapi, ada juga bagian dari regulasi yang mungkin sulit untuk ditafsirkan, dan mungkin tidak bertahan lama, seperti regulasi khusus untuk sistem AI yang lebih canggih". Selain itu, perusahaan bisa menghadapi tantangan kepatuhan dalam proses penemuan saat mereka membuat katalog penggunaan AI yang ada. Dan pengelompokan penggunaan AI itu ke dalam struktur tingkatan Undang-Undang AI, kata Henein.

"Banyak organisasi yang mengira mereka baru dalam AI padahal sebenarnya tidak. Hampir tidak ada produk yang penting yang mereka miliki saat ini yang tidak memiliki kemampuan AI", kata Henein. "Alat deteksi malware dan filter spam telah mengandalkan machine learning selama lebih dari satu dekade sekarang.

Mereka termasuk dalam kategori risiko rendah sistem AI dan tidak memerlukan penelitian lebih lanjut". Jika UE memilih untuk menyetujui undang-undang ini pada bulan April, seperti yang kemungkinan besar terjadi, negara-negara lain mungkin mengikuti. Beberapa negara, seperti AS, Inggris, dan Australia, sudah membentuk kelompok yang dipimpin pemerintah untuk mengawasi pengembangan AI.

Regulasi yang lebih formal bisa menyusul. Namun, aturan-aturan baru itu kemungkinan hanya akan berlaku untuk kasus-kasus paling ekstrem di mana AI menimbulkan bahaya besar bagi kemanusiaan atau lainnya. Kasus-kasus di mana AI digunakan secara bertanggung jawab dan bahkan memberikan manfaat, seperti produktivitas pekerja, kemungkinan akan melihat pengawasan yang sedikit.

Ini benar dalam kasus chatbot AI Generatif yang digunakan saat ini berdasarkan LLM seperti ChatGPT dari OpenAI. "Yang kita lihat di kedua sisi Atlantik adalah kebutuhan untuk membatasi penggunaan tertentu secara langsung. Ini termasuk dalam kategori terlarang di bawah Undang-Undang AI dan menimbulkan bahaya serius", kata Henein.