Cucu Oppenheimer Minta Aksi Global AI dan Ancaman Lain



TL;DR
  • Tokoh dunia minta aksi atasi ancaman global.
  • Ancaman meliputi AI, iklim, pandemi, dan nuklir.
  • Surat terbuka dari The Elders dan Future of Life Institute.
Cucu Oppenheimer Minta Aksi Global AI dan Ancaman Lain - photo origin: techspot - pibitek.biz - Manusia

photo origin: techspot


336-280

pibitek.biz - Sebuah surat terbuka yang ditandatangani oleh lebih dari 100 tokoh dunia dari berbagai bidang telah dipublikasikan pada Kamis lalu. Surat ini mendesak para pemimpin dunia untuk menangani ancaman-ancaman yang mengancam keberadaan manusia, termasuk AI, perubahan iklim, pandemi, dan perang nuklir. Surat ini berasal dari The Elders, sebuah organisasi non-pemerintah yang didirikan oleh mantan Presiden Afrika Selatan Nelson Mandela, dan Future of Life Institute, sebuah lembaga nirlaba yang bertujuan untuk mengarahkan teknologi transformatif untuk menguntungkan kehidupan dan menghindari risiko skala besar.

Di antara para penandatangan surat ini adalah pendiri Virgin Group yang juga miliarder Richard Branson, mantan Sekretaris Jenderal PBB Ban Ki-moon, dan Charles Oppenheimer (cucu dari J. Robert Oppenheimer). Selain itu, ada juga beberapa mantan presiden dan perdana menteri, aktivis, CEO, pendiri, dan profesor.

"Dunia kita dalam bahaya besar", begitu bunyi awal surat ini. "Kita menghadapi sejumlah ancaman yang membahayakan seluruh umat manusia. Para pemimpin kita tidak menanggapi dengan kebijaksanaan dan urgensi yang dibutuhkan".

Perubahan iklim, pandemi, dan perang yang berpotensi menggunakan senjata nuklir adalah contoh ancaman saat ini. Surat ini menyatakan bahwa ancaman yang lebih buruk bisa terjadi, terutama karena kita masih belum tahu seberapa besar ancaman yang ditimbulkan oleh AI yang tidak terkendali. "Kepemimpinan jangka panjang berarti menunjukkan tekad untuk menyelesaikan masalah sulit bukan hanya mengelolanya, kebijaksanaan untuk membuat keputusan berdasarkan bukti ilmiah dan akal sehat, dan kerendahan hati untuk mendengarkan semua yang terdampak".

Surat ini meminta pemerintah untuk sepakat tentang beberapa hal, seperti bagaimana membiayai transisi dari bahan bakar fosil ke energi bersih, melanjutkan pembicaraan pengendalian senjata untuk mengurangi risiko perang nuklir, dan membuat perjanjian pandemi yang adil. Mengenai AI, saran yang diberikan adalah membangun tata kelola yang dibutuhkan untuk menjadikan teknologi ini sebagai kekuatan kebaikan, bukan risiko yang tak terkendali. Kosmolog MIT Max Tegmark, yang mendirikan Future of Life Institute bersama dengan pendiri Skype Jaan Tallinn, mengatakan kepada CNBC bahwa The Elders dan lembaganya tidak melihat AI sebagai "jahat", tetapi khawatir AI bisa digunakan sebagai alat destruktif jika berkembang pesat di tangan orang-orang yang salah.

Future of Life Institute juga mempublikasikan surat terbuka tahun lalu yang meminta jeda enam bulan untuk pengembangan AI tingkat lanjut. Surat itu ditandatangani oleh 1.100 orang, termasuk pendiri Apple Steve Wozniak, Elon Musk, dan pendiri Pinterest Evan Sharp. Surat itu tidak berdampak seperti yang diharapkan; bukan hanya perusahaan AI yang gagal melambatkan pengembangan, banyak yang justru mempercepat upaya mereka untuk mengembangkan AI tingkat lanjut.

Perbandingan antara AI dan perang nuklir bukanlah hal baru. Para ahli dan CEO telah memperingatkan tentang risiko kepunahan yang ditimbulkan oleh teknologi ini pada Mei tahun lalu. Bahkan OpenAI, pencipta ChatGPT, mengatakan bahwa AI yang lebih pintar dari manusia bisa menyebabkan kepunahan ras manusia.