Manusia Mengatur AI Melalui Teori Permainan

pibitek.biz -Dalam banyak kasus, AI dilatih dengan menggunakan materi yang dibuat atau dikurasi oleh manusia. Akibatnya, hal ini dapat menjadi tantangan besar untuk mencegah AI mengulangi bias-bias yang ada pada manusia dan masyarakat mereka. Dan, konsekuensinya sangat besar, karena kita menggunakan AI untuk membuat keputusan medis dan keuangan. Namun, beberapa peneliti di Universitas Washington di St.

Louis telah menemukan bahwa ada celah lain dalam tantangan ini: orang-orang yang melakukan pelatihan mungkin mengubah perilaku mereka ketika mereka tahu bahwa perilaku mereka dapat mempengaruhi pilihan AI di masa depan. Dan, dalam beberapa kasus, mereka membawa perilaku yang berubah ke dalam situasi yang tidak melibatkan pelatihan AI. Penelitian ini melibatkan mendapatkan sukarelawan untuk berpartisipasi dalam permainan teori yang sederhana.

Pengujian memberikan dua partisipan sejumlah uang, yaitu $10. Salah satu dari dua partisipan kemudian diminta untuk menawarkan sebagian dari uang tersebut kepada yang lain, yang dapat memilih untuk menerima atau menolak tawaran. Jika tawaran ditolak, tidak ada yang mendapatkan uang.

Dari perspektif ekonomi yang rasional, orang harus menerima apa pun yang ditawarkan, karena mereka akan mendapatkan lebih banyak uang daripada jika mereka tidak menerima tawaran. Namun, dalam kenyataan, orang cenderung menolak tawaran yang terlalu jauh dari pembagian 50/50, karena mereka memiliki perasaan bahwa pembagian yang tidak seimbang adalah tidak adil. Penolakan mereka memungkinkan mereka untuk menghukum orang yang membuat tawaran yang tidak adil.

Meskipun ada beberapa perbedaan budaya dalam hal di mana pembagian menjadi tidak adil, efek ini telah diulang beberapa kali, termasuk dalam penelitian ini. Sekarang, peneliti ingin tahu apakah orang akan mengubah perilaku mereka jika mereka tahu bahwa mereka sedang melatih AI. Mereka membandingkan perilaku partisipan yang diberitahu bahwa mereka sedang melatih AI dengan perilaku partisipan yang hanya berpartisipasi dalam permainan teori standar. Penelitian ini menunjukkan bahwa orang lebih cenderung menolak tawaran yang tidak adil jika mereka tahu bahwa mereka sedang melatih AI.

Mereka juga lebih cenderung menolak tawaran yang dianggap adil, seperti pembagian 60/40. Peneliti menduga bahwa hal ini karena orang lebih cenderung menolak tawaran yang berbatasan dengan "adil", seperti pembagian 60/40. Hal ini terjadi meskipun menolak tawaran apa pun dapat mengakibatkan biaya ekonomi bagi partisipan. Dan orang-orang terus mengulangi perilaku ini bahkan ketika mereka diberitahu bahwa mereka tidak akan pernah berinteraksi dengan AI setelah pelatihan selesai, yang berarti mereka tidak akan mendapatkan manfaat dari perubahan perilaku AI.

Jadi, tampaknya orang akan membuat pengorbanan keuangan untuk melatih AI agar lebih adil. Yang menarik, dalam dua dari tiga eksperimen yang diikuti dengan pengujian lanjutan, partisipan terus menolak tawaran dengan tingkat yang lebih tinggi dua hari setelah partisipasi mereka dalam pelatihan AI, bahkan ketika mereka diberitahu bahwa perilaku mereka tidak lagi digunakan untuk melatih AI. Jadi, tampaknya berpartisipasi dalam pelatihan AI menyebabkan mereka melatih diri sendiri untuk berperilaku secara berbeda. Ini tidak akan mempengaruhi semua jenis pelatihan AI, dan banyak pekerjaan yang dilakukan untuk menghasilkan materi yang digunakan dalam pelatihan AI tidak dilakukan dengan kesadaran bahwa itu mungkin digunakan untuk melatih AI.

Namun, ada banyak kasus di mana manusia secara langsung terlibat dalam pelatihan, sehingga merupakan hal yang baik untuk menyadari bahwa ini adalah salah satu jalur yang dapat memungkinkan bias-bias muncul. Penelitian ini menunjukkan bahwa orang dapat mempengaruhi perilaku AI dengan cara yang tidak diharapkan. Oleh karena itu, penting bagi kita untuk menyadari potensi bias-bias yang ada dalam pelatihan AI dan berusaha untuk menghilangkannya.

Dengan demikian, kita dapat membuat AI yang lebih adil dan lebih berguna bagi masyarakat. Penelitian ini juga menunjukkan bahwa orang dapat berubah perilaku ketika mereka tahu bahwa mereka sedang melatih AI. Hal ini dapat membantu kita untuk memahami bagaimana orang berperilaku dalam situasi yang berbeda dan bagaimana kita dapat menggunakan pengetahuan ini untuk membuat AI yang lebih baik. Dalam kesimpulan, penelitian ini menunjukkan bahwa orang dapat mempengaruhi perilaku AI dengan cara yang tidak diharapkan.