Air Canada Dihukum karena Chatbot yang Halusinasi



TL;DR
  • Air Canada kalah gugatan karena chatbot salah info.
  • Chatbot bilang bisa dapat diskon tiket jenazah, ternyata nggak bisa.
  • Air Canada harus bayar 812,02 dollar AS ke pelanggan yang kecewa.
Air Canada Dihukum karena Chatbot yang Halusinasi - credit to: aibusiness - pibitek.biz - Investasi

credit to: aibusiness


336-280

pibitek.biz - Sebuah tribunal klaim kecil di Kanada telah memerintahkan Air Canada untuk mengembalikan biaya tiket seorang pelancong sebagai hasil dari halusinasi chatbot-nya. Pada bulan November lalu, Jake Moffatt membeli tiket dari Vancouver ke Toronto setelah kematian neneknya. Ia melakukan penelitian tentang kebijakan jenazah di situs web Air Canada dan diinformasikan oleh chatbot-nya bahwa ia dapat mengajukan permohonan untuk mendapatkan tiket keberangkatan jenazah dengan diskon dalam waktu 90 hari.

Setelah pulang, Moffatt mengajukan permohonan untuk mendapatkan diskon tersebut, namun diberitahu bahwa ia tidak dapat meminta secara retroaktif untuk tiket dengan diskon. Sebagai gantinya, Air Canada menawarkan kupon senilai 200 dollar AS untuk penerbangan berikutnya. Moffatt mengajukan kasus kepada Civil Resolution Tribunal untuk mendapatkan pengembalian uangnya.

Pertahanan maskapai penerbangan tersebut adalah dengan mengatakan "mereka tidak dapat bertanggung jawab atas informasi yang diberikan oleh chatbot", sesuai dengan putusan tribunal yang dikeluarkan pada tanggal 14 Februari. Selain itu, Air Canada mengklaim bahwa chatbot tersebut memberikan tautan ke halaman pengembalian dana di situs web yang dengan benar menjelaskan kebijakan tiket jenazah. Tetapi ini berarti bahwa Air Canada "menganggap chatbot sebagai entitas hukum terpisah yang bertanggung jawab atas tindakan sendiri", tulis anggota Tribunal Christopher C.

Rivers dalam putusannya. "Ini adalah pengajuan yang luar biasa", lanjut Rivers. "Meskipun chatbot memiliki komponen interaktif, itu masih hanya bagian dari situs web Air Canada.

Seharusnya menjadi jelas bagi Air Canada bahwa mereka bertanggung jawab atas semua informasi di situs web mereka. Tidak ada bedanya apakah informasinya berasal dari halaman statis atau chatbot". Selain itu, "tidak ada alasan mengapa Mr. Moffatt harus tahu bahwa satu bagian dari halaman web Air Canada akurat, dan yang lain tidak". Air Canada dihukum membayar Moffatt sebesar $812,02, termasuk pengembalian uang, bunga, dan biaya tribunal. Chatbot Air Canada mulai beroperasi musim panas lalu.

Ia menangani pertanyaan tentang penundaan penerbangan, pembatalan, atau tugas-tugas sederhana lainnya. Dalam wawancara dengan surat kabar The Globe and Mail Kanada tahun lalu, Mel Crocker, CIO Air Canada, mengatakan investasi maskapai dalam chatbot AI jauh lebih tinggi daripada membayar pekerja manusia untuk menangani pertanyaan-pertanyaan sederhana. Tetapi ia berharap biaya tersebut akan turun seiring berjalannya waktu.