AI Revolusi Dunia Kedokteran: Ada Masalah di Regulasi

pibitek.biz -AI siap merombak dunia kedokteran. Bayangkan, AI bisa membantu dokter dalam mendiagnosis penyakit, menemukan obat baru, dan bahkan membantu operasi dengan lebih presisi. Tapi, sebelum semua itu terjadi, ada masalah besar yang harus dipecahkan: regulasi. Sistem regulasi yang berlaku saat ini terlalu ketinggalan zaman dan tidak sesuai dengan perkembangan pesat AI. Regulasi yang terlambat bisa jadi hambatan besar bagi AI untuk berkembang dan membantu banyak orang. Sistem regulasi saat ini terlalu fokus pada hardware dan kurang memperhatikan software AI.

Contohnya, sistem regulasi di Amerika Serikat, di mana FDA (Food and Drug Administration) sudah menyetujui ribuan alat medis berbasis AI. Tapi, mayoritas tools ini hanya diuji pada data historis, bukan pada situasi nyata di lapangan. Tools ini belum terbukti secara klinis dapat meningkatkan hasil pengobatan pada pasien. Bahkan, banyak alat AI yang disetujui oleh FDA belum diuji dalam uji coba acak terkontrol, yang merupakan standar emas untuk memvalidasi terapi. Di Inggris dan Eropa, situasinya sedikit lebih fleksibel, tapi masih ada kekurangan.

Pemerintah di sana menyerahkan otorisasi alat medis kepada badan-badan swasta yang disebut “badan yang diberitahukan”. Badan-badan ini memeriksa apakah produk AI memenuhi standar keselamatan dan performanya setara dengan produk sebelumnya, tapi tidak diperintahkan untuk meneliti performanya pada kelompok pasien tertentu atau jenis penyakit tertentu. Ini membuat AI berpotensi menimbulkan bias dan tidak dapat diandalkan untuk semua orang. Scarlet, sebuah startup yang berfokus pada regulasi AI untuk alat medis, sedang berupaya untuk memperbarui sistem regulasi.

Scarlet membuat platform teknologi yang membantu vendor AI dengan cepat mengajukan permohonan izin pemasaran. Platform ini memungkinkan vendor AI untuk mendapatkan persetujuan dalam hitungan hari, bukan lagi berbulan-bulan seperti yang terjadi sebelumnya. Scarlet juga sedang mempertimbangkan untuk memperluas layanannya ke Amerika Serikat. Di Amerika Serikat, FDA menggunakan organisasi swasta terakreditasi untuk melakukan ulasan awal aplikasi 510(k). Namun, organisasi swasta ini tidak memiliki suara akhir dalam otorisasi, berbeda dengan di Eropa.

Scarlet bahkan berencana untuk memperluas layanannya ke bidang lain, seperti sertifikasi software AI di area berisiko tinggi lainnya, misalnya, dalam mengontrol pasokan listrik atau air, atau menilai ujian masuk universitas. OpenAI baru-baru ini merilis o1, sebuah model AI yang mampu menangani tugas matematika dan penalaran yang rumit. Model ini dilatih untuk menjelajahi berbagai jalur logis untuk menjawab pertanyaan sebelum memilih jalur yang paling tepat. O1 dapat menyelesaikan teka-teki matematika, logika, dan permainan kata-kata yang tidak terpecahkan oleh model AI sebelumnya.

Namun, o1 membutuhkan waktu yang lebih lama untuk menjawab dan membutuhkan daya komputasi yang lebih besar. OpenAI juga mengumumkan perubahan pada struktur perusahaan mereka. CEO Sam Altman mengumumkan rencana untuk mengubah struktur perusahaan mereka yang rumit dan tidak biasa, kemungkinan pada tahun depan. Mereka berencana untuk melepaskan kendali dewan non-profit mereka atas kegiatan perusahaan. Perubahan ini dilakukan untuk menarik investor dan meningkatkan modal. Intel berhasil mendapatkan kontrak pembuatan chip AI dari Amazon Web Services (AWS).

Intel akan memproduksi chip AI baru menggunakan proses pembuatan chip 18A mereka. Intel berharap proses pembuatan chip 18A ini dapat membantu mereka bersaing dengan TSMC, perusahaan yang mendominasi bisnis manufaktur chip kelas atas. Dewan Intel juga setuju untuk memisahkan bisnis foundry mereka sebagai anak perusahaan yang terpisah dari divisi desain chip Intel. Hal ini akan memungkinkan bisnis foundry untuk menarik investasi eksternal dan memberikan jaminan kepada pelanggan foundry Intel bahwa inovasi desain mereka tidak akan bocor ke penawaran chip Intel sendiri.

Microsoft merilis AI agents dan fitur AI baru di Copilot. AI agents memungkinkan pengguna untuk mengotomatiskan tugas di aplikasi Copilot 365 mereka dan software dari vendor lain. Microsoft juga merilis Pages, sebuah jenis file baru yang memungkinkan pengguna dan AI agents untuk berbagi dokumen dan berkolaborasi. Microsoft juga merilis fitur AI Generatif baru untuk Excel, PowerPoint, dan Outlook. Dengan peluncuran ini, Microsoft berusaha untuk menjadi pemimpin dalam pengembangan AI agents. Groq, sebuah startup pembuat chip AI, memenangkan kontrak besar untuk melengkapi pusat data besar yang dibangun di Arab Saudi oleh Aramco.

Pusat data ini merupakan bagian dari upaya pemerintah Arab Saudi untuk mendiversifikasi ekonominya dan menjadikan kerajaan tersebut sebagai pusat inovasi teknologi tinggi. Groq telah membangun reputasi untuk chip-chip yang dapat menjalankan model AI dengan kecepatan lebih cepat daripada unit pemrosesan grafis (GPU) biasa, seperti yang dijual oleh Nvidia. Google DeepMind telah mengembangkan AlphaProteo, sebuah model AI yang dapat merancang protein yang akan mengikat molekul target apa pun. AlphaProteo kemungkinan akan berdampak langsung pada desain obat, memungkinkan para peneliti untuk lebih mudah membuat terapi protein baru dan kemungkinan mempelajari lebih lanjut mengapa molekul kecil tertentu memiliki berbagai efek.

Sebuah studi yang dilakukan oleh peneliti dari MIT dan University of California di Irvine menunjukkan bahwa chatbot AI berbasis LLM dapat digunakan untuk menanamkan ingatan palsu. Dalam studi ini, para subjek menonton rekaman kamera keamanan tentang perampokan dan kemudian berbincang dengan chatbot AI yang mengajukan pertanyaan kepada mereka tentang apa yang baru saja mereka lihat. Namun, chatbot AI telah diarahkan oleh para peneliti untuk mengajukan pertanyaan yang mengarahkan para “saksi” untuk meyakinkan mereka bahwa mereka telah melihat hal-hal yang sebenarnya tidak terjadi dalam video tersebut.

Kemampuan chatbot AI berbasis generatif untuk membentuk setiap pertanyaan berdasarkan jawaban sebelumnya dari para subjek uji memberikannya kekuatan khusus. Setiap hari kita mempelajari betapa persuasifnya chatbot AI dan bagaimana mereka dapat digunakan untuk membentuk persepsi publik, baik untuk kebaikan maupun untuk kejahatan. Sistem regulasi AI saat ini sangat tidak memadai. Kita perlu memperbarui sistem regulasi dengan cepat agar dapat beradaptasi dengan perkembangan AI yang sangat cepat. Tanpa regulasi yang tepat, AI berpotensi menjadi senjata yang sangat berbahaya, tidak hanya dalam dunia kesehatan, tetapi juga dalam berbagai aspek kehidupan manusia lainnya.

Sistem regulasi AI saat ini masih tertinggal jauh dari kebutuhan. Seolah-olah kita sedang melaju dengan kereta api yang melaju kencang tanpa rem. Kita tidak bisa membiarkan perkembangan AI tanpa aturan yang jelas. AI dapat digunakan untuk hal-hal yang bermanfaat, namun potensi negatifnya juga sangat besar. Saat ini, AI memiliki banyak potensi yang belum sepenuhnya terungkap. Ada banyak sekali kesempatan untuk memanfaatkan AI untuk meningkatkan kehidupan manusia. AI bisa membantu kita memecahkan masalah yang rumit, seperti penyakit menular dan perubahan iklim.

Namun, kita perlu bersikap hati-hati dan bijaksana dalam menggunakan AI. Kita tidak bisa mengabaikan potensi negatif AI. AI bisa saja digunakan untuk memanipulasi orang, menyebarkan informasi yang salah, dan bahkan mengendalikan orang. AI bisa menjadi ancaman bagi demokrasi dan kebebasan manusia. AI bisa menjadi alat yang sangat bermanfaat, tetapi jika tidak diatur dengan benar, bisa menjadi ancaman bagi keberadaan kita. AI bisa menjadi penyelamat manusia, tapi bisa juga menjadi pengakhirnya. Kita harus belajar dari kesalahan masa lalu.

Kita tidak bisa lagi mengabaikan masalah regulasi AI. Kita perlu membangun sistem regulasi yang tangguh, adil, dan transparan. Kita perlu memastikan bahwa AI digunakan untuk kebaikan, bukan untuk kejahatan. Kita perlu membangun masa depan yang lebih baik, bukan masa depan yang lebih buruk.