pibitek.biz - Bicara santai dengan chatbot AI mungkin terdengar tidak berbahaya bagi sebagian orang. Namun, tahukah kamu bahwa percakapan romantis berbasis teks dengan aplikasi semacam itu bisa membawa risiko unik? Peneliti yang terlibat dalam proyek "Privacy Not Included" dari Mozilla membagikan temuan mereka pada Hari Valentine bahwa aplikasi yang menawarkan pacar AI (atau "pasangan hidup" AI lainnya) hampir selalu mengumpulkan dan menjual data pribadi pengguna. Terbukti, seperti pepatah yang mengatakan: Jika kamu tidak membayar untuknya, maka kamu adalah produknya.
2 – AI dan Hak Kekayaan Intelektual 2 – AI dan Hak Kekayaan Intelektual
3 – Anthropic Perbarui Model AI Generatif Claude 3 3 – Anthropic Perbarui Model AI Generatif Claude 3 300x600
Peneliti Mozilla meneliti kebijakan privasi, syarat dan ketentuan, serta materi pemasaran dari 11 aplikasi chatbot AI romantis. Dari Chai—yang terkenal karena mendorong seorang pengguna untuk masuk ke area Istana Windsor dan mengakhiri hidupnya sendiri tahun lalu—hingga Anima, yang tampaknya menawarkan pacar AI dan pacar lengkap dengan seni yang dihasilkan oleh AI. Tim peneliti menemukan bahwa perusahaan di balik chatbot menolak untuk bertanggung jawab atas apa pun yang dikatakan atau dipromosikan oleh chatbot.
Hal ini terjadi bahkan untuk aplikasi yang mengklaim diri sebagai penyedia "self-help" (Talkie Soulful AI), "wellbeing" (EVA AI), atau "mental health" (Romantic AI). Mengapa ini penting? Chatbot romantis dirancang untuk berbincang-bincang, bertanya kepada kamu tentang perasaan kamu pada hari tertentu hingga keinginan rahasia terdalam kamu. Percakapan ini akan mendorong pengguna untuk mengumumkan hal-hal yang sangat rahasia, baik dalam konteks romantis maupun karena aplikasi tersebut secara eksplisit mengklaim membantu kamu menjaga kesejahteraan mental.
Dan sementara pacar virtual kamu mungkin tampak empatik terhadap masalah kamu atau terbuka terhadap fantasi seksual teraneh kamu, sebenarnya ia hanya sebuah LLM dengan lapisan cat yang lucu, dan dia—atau, lebih tepatnya, perusahaan yang membuatnya—siap untuk menjual data kamu ke pihak ketiga dalam 90% kasus. Meskipun Mozilla tidak menemukan bukti dari hal di atas, praktik privasi buruk dari aplikasi-aplikasi ini membuat mereka berbahaya. Sebagian besar (73%) aplikasi mengabaikan cara mereka mengelola kerentanan keamanan, dan hampir sama banyaknya (64%) tidak memiliki informasi publik tentang enkripsi dan penggunaannya.
Lebih dari separuh (54%) aplikasi tidak memungkinkan pengguna untuk menghapus data mereka, dan hampir separuh (45%) memperbolehkan pengguna menggunakan kata sandi yang lemah, termasuk hanya angka "1". Akhirnya, semua 11 chatbot memperoleh label peringatan "Privacy Not Included" dari Mozilla, yang digunakan untuk memberi tahu calon pengguna hardware dan software tentang risiko kerahasiaan. Setelah produk menerima label ini, pengunjung situs dapat memberi peringkat pendapat mereka tentang produk tersebut antara "tidak mencurigakan" dan "sangat mencurigakan".
