Aturan Keren AI di China: Keamanan Data dan Risiko

pibitek.biz -China, negara yang dikenal dengan perkembangan teknologinya yang super cepat, sekarang punya aturan baru buat AI. Aturan ini dibuat sama komite keamanan siber China, yang namanya "National Technical Committee 260", Mereka punya tujuan besar, yaitu membangun aturan buat AI di China yang keren, aman, dan bertanggung jawab. Aturan ini punya nama resmi "AI Safety Governance Framework" atau kalau disederhanakan jadi "Framework" aja. Framework ini lahir dari keinginan China buat jadi pemimpin dunia di bidang AI pada tahun 2030.

China punya visi yang besar, yaitu ingin menciptakan AI yang bermanfaat bagi semua orang, bukan malah bahaya buat manusia. Framework ini menekankan pentingnya AI yang bisa diandalkan, adil, dan transparan, tidak terkecuali di bidang-bidang sensitif. Dalam Framework, China mengakui kalau AI adalah hal baru yang membuka banyak kesempatan keren dan punya potensi yang besar. Tapi, China juga sadar kalau AI punya risiko dan tantangan tersendiri. Makanya, Framework dirancang buat mengelola risiko dan memastikan keamanan, etika, dan dampak sosial dari AI.

China gak mau asal-asalan dalam mengembangkan AI, mereka ingin membangun AI yang bermanfaat bagi semua orang, dengan pendekatan yang berpusat pada manusia. Framework ini berisi tentang prinsip-prinsip yang harus dipatuhi saat mengembangkan AI, seperti keamanan, transparansi, dan akuntabilitas. China juga menitikberatkan pada pengembangan AI yang inklusif dan adil, menghindari hasil yang bias atau diskriminatif. Dalam Framework, China menetapkan aturan yang ketat untuk mengendalikan risiko AI, baik dari segi teknologi maupun manajemen.

Framework juga menyebutkan bahwa aturan ini harus terus diperbarui dan disempurnakan sesuai dengan perkembangan teknologi AI. China gak mau ketinggalan zaman, mereka ingin terus mengikuti perkembangan AI dan memastikan aturan yang diterapkan tetap relevan. China sadar kalau AI memiliki potensi besar untuk meningkatkan kehidupan manusia. Tapi, China juga gak mau mengalami kerugian karena AI yang tak terkendali. Makanya, China bertekad untuk membangun sistem AI yang aman dan bertanggung jawab. Dalam rangka meminimalisir risiko, China menetapkan klasifikasi risiko AI yang dibedakan menjadi dua kategori utama: risiko bawaan yang berasal dari teknologi AI itu sendiri, dan risiko yang muncul dari penerapan AI.

Kategori risiko yang dijelaskan dalam Framework dibedakan menjadi beberapa jenis yang terkait dengan teknologi AI, keandalan AI, keamanan AI, dan kebijakan AI. Berbeda dengan aturan EU AI Act yang membagi AI menjadi empat tingkat risiko dan menentukan peraturan spesifik berdasarkan tingkat risiko, Framework hanya mengategorikan risiko AI. Framework tidak menetapkan tingkat risiko atau dampak negatif yang bisa ditimbulkan oleh AI. Meskipun demikian, Framework menyinggung model EU AI Act sebagai salah satu usulan aturan di masa depan.

China mengungkap bahwa aturan tersebut hanya berlaku untuk AI yang memiliki kemampuan komputasi dan alasan yang mencapai batas tertentu atau diterapkan pada industri dan sektor tertentu. Aturan tersebut akan menentukan bahwa hanya AI yang memenuhi persyaratan tersebut yang bisa dipasarkan di China. China juga menyebutkan bahwa teknologi AI yang berasal dari luar negeri akan diatur dengan ketat. Teknologi AI tersebut akan diperketat sehingga tidak akan mudah masuk ke pasar China. Aturan ini akan membatasi akses AI luar negeri dan mengutamakan teknologi AI lokal China.

Dalam Framework, China menekankan pentingnya langkah teknologi untuk mengatasi risiko AI. China menyarankan para pengembang, penyedia layanan, dan pengguna AI untuk menjalankan langkah teknologi untuk mengurangi risiko. Langkah-langkah tersebut berfokus pada pengembangan praktik yang baik, peningkatan kualitas data, dan evaluasi yang lebih ketat untuk memastikan bahwa AI berfungsi dengan baik dan aman. China menyebutkan langkah teknologi yang bisa dilakukan untuk mengurangi risiko AI yang sudah dikategorikan.

Langkah-langkah tersebut bertujuan untuk memberikan solusi yang tepat untuk setiap jenis risiko. Framework juga menyebutkan pentingnya data pelatihan dalam mengembangkan AI. China menekankan bahwa data sensitif yang berkaitan dengan senjata nuklir, biologis, dan kimia tidak boleh digunakan untuk melatih AI. China juga menekankan pentingnya mematuhi aturan privasi dan perlindungan data saat menggunakan data pribadi dan "data penting". Data penting adalah data yang dapat mempengaruhi keamanan nasional atau kepentingan publik.

Kategori data penting diatur oleh regulator sektor terkait. Karena hukum perlindungan data China berdasarkan persetujuan, maka pengembang harus mengumumkan informasi detail tentang pemrosesan data, seperti jenis data, tujuan pemrosesan, dan pihak ketiga yang terlibat. Selain itu, China juga menetapkan aturan yang ketat untuk transfer data antar negara. Hal ini berarti bahwa data industri dan produksi yang dikategorikan sebagai "data penting" tidak boleh dikeluarkan dari China tanpa persetujuan pemerintah.

Untuk menggunakan data tersebut untuk melatih algoritma, pengembang harus memindahkan server mereka ke dalam wilayah China. Framework juga menyebutkan pentingnya mengelola AI dengan baik melalui langkah-langkah yang bersifat adaptif. China mengakui bahwa teknologi AI terus berkembang, sehingga aturan yang dibuat juga harus diperbarui sesuai dengan perkembangan tersebut. Framework menekankan bahwa pengelolaan AI yang komprehensif memerlukan kerjasama dari berbagai pihak, seperti lembaga penelitian dan pengembangan teknologi, penyedia layanan, pengguna, otoritas pemerintah, asosiasi industri, dan organisasi sosial.

China juga menekankan pentingnya menjalin kerjasama antar negara dalam mengelola AI. China mengakui bahwa tantangan global seperti keamanan siber, etika penggunaan AI, dan keamanan AI harus ditangani bersama oleh berbagai negara. Framework juga menetapkan aturan keamanan khusus untuk pengembangan dan penerapan AI yang berlaku untuk pengembang, penyedia layanan, dan jenis pengguna. Setiap pihak yang terlibat dalam rantai nilai AI diharapkan mematuhi aturan yang telah ditetapkan, termasuk mengembangkan mekanisme untuk melakukan pemeriksaan kepatuhan, audit, dan tinjauan secara teratur.

Framework juga menetapkan aturan khusus berdasarkan peran masing-masing pihak. Contohnya, pengembang AI diharapkan untuk menetapkan standar keamanan yang ketat dalam mengembangkan AI. Pengembang harus melakukan pengujian dan evaluasi yang ketat untuk memastikan bahwa AI yang dibuat aman dan tidak berbahaya. Penyedia layanan AI diharapkan untuk melakukan pemeriksaan dan monitoring terhadap layanan AI yang diberikan. Mereka harus memastikan bahwa layanan AI yang diberikan aman, terpercaya, dan tidak berbahaya.

Pengguna AI juga diharapkan untuk mematuhi aturan keamanan yang telah ditetapkan. Mereka harus menggunakan AI dengan bijak dan bertanggung jawab, serta menghindari penggunaan AI yang dapat membahayakan diri sendiri atau orang lain. Framework juga menekankan pentingnya melakukan pemeriksaan dan screening terhadap data pelatihan dan keluaran AI. Hal ini dilakukan untuk mencegah informasi yang tidak sesuai dengan ideologi China atau informasi yang dapat menimbulkan manipulasi opini publik atau mobilisasi sosial negatif dari diproses dalam sistem AI.

Dengan kata lain, perusahaan diharapkan untuk mematuhi aturan monitoring konten di China. Framework merupakan bagian dari target China untuk menjadi pemimpin dunia di bidang AI pada tahun 2030. Framework menunjukkan keseimbangan antara keinginan untuk inovasi dengan kebutuhan untuk mengatur pengembangan dan penggunaan AI yang aman dan etis. China menginginkan AI yang bermanfaat bagi manusia dan tidak menimbulkan kerugian bagi manusia. Framework juga menunjukkan komitmen China untuk bekerjasama dengan negara lain dalam mengelola AI.

China menyakini bahwa tantangan global yang dihadapi oleh AI harus ditangani bersama oleh berbagai negara. China ingin membangun masa depan AI yang aman, etis, dan bermanfaat bagi semua orang.