AI Intip Obrolan Karyawan: Perusahaan Besar Jadi Mata-mata



TL;DR
  • Perusahaan besar pakai AI intip chat karyawan.
  • AI pantau sentimen, toksisitas, dan risiko ekstrem.
  • Privasi karyawan terancam, klaim anonimitas diragukan.
AI Intip Obrolan Karyawan: Perusahaan Besar Jadi Mata-mata - picture source: techspot - pibitek.biz - Meta

picture source: techspot


336-280

pibitek.biz - Banyak perusahaan besar seperti Walmart, T-Mobile, AstraZeneca, dan BT yang pakai alat AI baru untuk intip obrolan karyawan di aplikasi kerjasama dan chat seperti Teams, Zoom, Slack, dan lain-lain. Ini bikin privasi karyawan makin terancam. Selama ini, perusahaan udah biasa pantau isi email karyawan, pakai alat dan aturan buat cek apa yang dikirim karyawan ke sesama atau ke luar.

Tapi, sekarang pantauannya makin masuk ke dalam, karena perusahaan terkenal pakai alat AI buat awasi obrolan karyawan di aplikasi kerjasama dan chat seperti Slack, Yammer, dan Workplace dari Meta. Aware, sebuah startup dari Columbus, Ohio, menawarkan diri sebagai "platform intelijen kontekstual yang bisa deteksi dan atasi risiko, tingkatkan keamanan dan kepatuhan, dan temukan wawasan bisnis real-time dari obrolan digital berskala besar". Obrolan digital itu adalah chat yang dilakukan karyawan di aplikasi produktivitas dan kerjasama.

Produk utama dari Aware tujuannya buat pantau "sentimen" dan "toksisitas" dengan pakai kemampuan deteksi dan analisis verbal dan gambar buat lihat apa yang dibahas karyawan dan perasaan mereka tentang berbagai hal. Meski datanya katanya anonim, bisa ditambahin label buat peran kerja, usia, jenis kelamin, dll, biar platformnya bisa tau apakah departemen atau kelompok tertentu reaksinya lebih atau kurang positif terhadap kebijakan atau pengumuman bisnis baru. Hal-hal makin buruk dengan salah satu alat lainnya, eDiscovery.

Ini memungkinkan perusahaan buat tunjuk orang-orang tertentu, seperti perwakilan HR atau pemimpin senior, yang bisa kenali individu-individu spesifik yang langgar kebijakan "risiko ekstrem" yang ditetapkan perusahaan. Risiko-risiko itu mungkin beneran, seperti ancaman kekerasan, bullying, atau pelecehan, tapi gak susah bayangin kalau softwarenya disuruh nandain risiko-risiko yang gak beneran. Screenshot dari ulasan di website Aware Bicara ke CNBC, Jeff Schuman, pendiri dan CEO Aware, bilang, "Ini selalu pantau sentimen karyawan real-time, dan selalu pantau toksisitas real-time.

Kalau kamu bank yang pakai Aware dan sentimen karyawannya naik dalam 20 menit terakhir, itu karena mereka lagi ngomongin sesuatu yang positif, bersama-sama. Teknologinya bisa kasih tau mereka apa itu". Meski ada yang bilang gak ada hak atau harapan privasi di aplikasi chat internal perusahaan, berita tentang pelacakan analitik pasti bikin orang jadi takut ngomong.

Ada beda besar antara metode tradisional pengumpulan data pasif dan pelacakan AI real-time yang baru ini. Dan meski Aware cepat bilang bahwa datanya di produknya anonim, klaim itu susah dibuktikan. Kekurangan nama mungkin bikin datanya anonim secara semantik, tapi seringkali gak butuh lebih dari beberapa titik data buat nyambungin siapa-ngomong-apa.