AI Kesehatan Bikin Pusing Pemerintah AS di Washington



TL;DR
  • AI di bidang kesehatan banyak manfaat tapi berisiko
  • Pemerintah bingung ngatur AI yang bisa berubah-ubah
  • AI perlu transparan dan diawasin manusia
AI Kesehatan Bikin Pusing Pemerintah AS di Washington - credit: popsci - pibitek.biz - OpenAI

credit: popsci


336-280

pibitek.biz - AI adalah teknologi yang bisa belajar sendiri dari data dan membuat keputusan. AI sudah banyak dipakai di bidang kesehatan. Misalnya, untuk jadwalin pasien, atur staf di UGD, atau tulis catatan dokter. AI juga bisa bantu dokter baca hasil MRI atau X-ray. Bob Wachter, ketua departemen kedokteran di Universitas California-San Francisco, bilang dia kadang minta saran AI buat kasus yang rumit. AI yang dia pakai namanya GPT-4, buatan perusahaan OpenAI.

Tapi, pemerintah di Washington masih bingung gimana ngatur AI di bidang kesehatan. Mereka takut salah langkah dan bikin aturan yang kelewat ketat. Michael Yang, bos di perusahaan modal ventura OMERS Ventures, bilang pemerintah udah ketinggalan jaman.

Padahal, banyak investor yang udah masuk ke sektor AI di bidang kesehatan. Rock Health, perusahaan modal ventura lain, bilang investor udah gelontorkan hampir $28 miliar ke perusahaan-perusahaan AI di bidang kesehatan. Salah satu masalah yang dihadapi pemerintah adalah AI itu bisa berubah-ubah.

Beda sama obat, yang komposisinya tetap sama. AI bisa belajar dari data baru dan menyesuaikan diri. Makanya, pemerintah harus bikin aturan yang jelas dan menjaga transparansi dan privasi.

Kongres juga mulai tertarik. Komite Keuangan Senat mengadakan sidang pada 8 Februari tentang AI di bidang kesehatan. Bersamaan dengan pembuatan aturan, juga ada peningkatan lobi.

CNBC ngitung ada kenaikan 185% jumlah organisasi yang ngelaporin aktivitas lobi AI di tahun 2023. Kelompok dagang TechNet juga ngeluarin $25 juta buat bikin iklan di TV dan ngasih tau orang manfaat AI. Bob Kocher, mitra di perusahaan modal ventura Venrock yang dulu kerja di pemerintahan Obama, bilang susah banget ngatur AI yang masih baru.

Dia udah ngobrol sama senator tentang hal ini. Dia ngasih tau tantangan yang bakal dihadapi sistem kesehatan buat nerima produk AI. Dokter bisa ragu-ragu pakai teknologi yang nggak mereka pahami buat buat keputusan klinis.

Analisis data dari Biro Sensus oleh konsultan Capital Economics menunjukin 6,1% bisnis di bidang kesehatan berencana pakai AI dalam enam bulan ke depan. Angka ini lumayan di tengah-tengah dari 14 sektor yang disurvei. Seperti produk medis lain, AI juga bisa berisiko buat pasien, kadang dengan cara yang baru.

Contohnya: AI bisa bohong. Wachter cerita ada koleganya yang nyoba suruh AI buatan OpenAI yang namanya GPT-3 nulis surat izin buat asuransi. Surat itu buat resep yang aneh: pengencer darah buat insomnia.

Tapi, AI nulis surat yang bagus banget. AI ngutip "literatur terbaru" yang bikin kolega Wachter bingung. Dia sempet mikir apakah dia ketinggalan riset baru.

Ternyata, AI ngarang-ngarang aja. Ada juga risiko AI memperbesar bias yang udah ada di sistem kesehatan. Selama ini, orang kulit berwarna dapet perawatan lebih sedikit dari orang kulit putih.

Penelitian nunjukin, misalnya, pasien kulit hitam yang patah tulang lebih jarang dapet obat pereda nyeri dari pasien kulit putih. Bias ini bisa makin kuat kalau AI dilatih dari data yang begitu dan beraksi sesuai itu. Penelitian tentang AI yang dipakai perusahaan asuransi besar udah ngonfirmasi hal ini.

Tapi, masalahnya lebih luas. Wachter bilang UCSF nyoba produk AI buat tebak pasien yang nggak dateng ke janji. Pasien yang diprediksi nggak dateng bisa dijadwalin bareng pasien lain.

Tesnya nunjukin orang kulit berwarna lebih gampang nggak dateng. Entah bener atau nggak, Wachter bilang tindakan etisnya adalah nanya kenapa begitu, dan apa yang bisa dilakuin. Meski banyak yang heboh, risiko-risiko ini bakal tetep jadi perhatian.

Ahli AI dan pejabat FDA menekankan perlunya algoritma yang transparan, dan diawasin terus sama manusia, baik regulator maupun peneliti luar. AI bisa berubah dan belajar dari data baru. Dan ilmuwan bakal bikin produk baru.

Pembuat kebijakan harus investasi di sistem baru buat lacak AI seiring waktu, kata Katherine Baicker, wakil rektor Universitas Chicago yang jadi saksi di sidang komite. "Terobosan terbesar adalah sesuatu yang belum kita pikirkan", katanya dalam wawancara. KFF Health News adalah redaksi nasional yang bikin jurnalisme mendalam tentang isu kesehatan. Ini salah satu program utama di KFF, sumber independen buat riset, polling, dan jurnalisme tentang kebijakan kesehatan.