- Slack AI memiliki celah keamanan yang memungkinkan peretas mencuri data dari saluran pribadi.
- Peretas dapat memanfaatkan celah keamanan prompt injection untuk mendapatkan akses ke data rahasia di saluran Slack.
- Slack harus meningkatkan keamanan untuk melindungi data pelanggan dari serangan peretas yang memanfaatkan celah keamanan di saluran Slack.
pibitek.biz -Slack AI, asisten pintar yang hadir di platform pesan tim Salesforce, ternyata memiliki celah keamanan yang cukup mengkhawatirkan. Celah keamanan ini memungkinkan para peretas untuk mencuri data sensitif dari saluran pribadi Slack, tanpa harus memiliki akses langsung ke saluran tersebut. Peretas dapat dengan mudah memanfaatkan celah keamanan ini untuk mendapatkan akses ke data rahasia yang seharusnya hanya bisa diakses oleh pemilik saluran pribadi. Para peneliti keamanan dari PromptArmor menemukan bahwa Slack AI memiliki kelemahan yang memungkinkannya dimanipulasi oleh para peretas yang lihai.
2 – Apple Tertinggal dalam Pengembangan AI 2 – Apple Tertinggal dalam Pengembangan AI
3 – Ancaman Cerberus, Trojan Perbankan yang Sulit Dideteksi 3 – Ancaman Cerberus, Trojan Perbankan yang Sulit Dideteksi
Celah keamanan ini memungkinkan peretas untuk memanipulasi sistem prompt, sehingga AI tersebut dapat mengambil data dari saluran pribadi. Biasanya, Slack AI menggunakan data percakapan yang sudah ada di platform Slack untuk memberikan respons yang personal dan aman. Namun, kelemahan keamanan ini membuat sistem AI tersebut mudah dimanipulasi oleh peretas yang lihai, sehingga data rahasia yang tersimpan di saluran pribadi menjadi rentan. Prompt injection adalah teknik yang memanfaatkan cara kerja AI untuk memanipulasi perintah yang diberikan kepada AI.
Peretas dapat memodifikasi perintah awal yang diberikan kepada AI, sehingga AI tersebut tidak lagi mengikuti aturan keamanan yang ditetapkan. Mereka bisa memasukkan perintah jahat ke dalam sistem AI, sehingga AI tersebut akan melakukan tugas yang tidak seharusnya dilakukan. Teknik ini sering digunakan oleh para peretas untuk mendapatkan akses ke data yang tidak seharusnya mereka dapatkan. Dalam kasus Slack AI, peretas dapat memasukkan perintah jahat ke dalam saluran publik, yang kemudian dapat diakses oleh Slack AI.
Perintah ini dapat berupa permintaan data spesifik, seperti API key yang tersimpan di saluran pribadi. Peretas yang menggunakan teknik prompt injection ini dapat membuat AI tersebut mencuri data tanpa harus secara langsung mengakses saluran pribadi tersebut. Dengan memanfaatkan celah keamanan di sistem AI, peretas dapat dengan mudah mendapatkan akses ke data yang seharusnya hanya bisa diakses oleh pemilik saluran. Misalnya, peretas dapat membuat saluran publik dengan perintah jahat yang meminta API key jika ada permintaan untuk kata kunci tertentu.
Perintah tersebut akan disematkan dalam pesan yang diposting di saluran publik. Perintah jahat tersebut akan tetap tersembunyi di saluran publik dan menunggu pengguna Slack AI meminta API key. Ketika pengguna Slack AI meminta API key, AI tersebut akan membaca perintah jahat di saluran publik dan memberikan API key tersebut kepada peretas melalui tautan yang tersembunyi di pesan. Celah keamanan ini semakin diperparah dengan pembaruan terbaru Slack AI yang memungkinkan AI untuk mengakses file dari saluran dan pesan pribadi.
File tersebut dapat menjadi sasaran pencurian data, karena peretas dapat menyembunyikan perintah jahat di dalam file, yang kemudian diunggah ke Slack. File yang tersimpan di saluran pribadi menjadi lebih mudah diakses oleh peretas yang memanfaatkan celah keamanan prompt injection. Dengan demikian, peretas tidak lagi membutuhkan akses langsung ke saluran Slack untuk mencuri data. Mereka cukup memasukkan perintah jahat ke dalam saluran publik atau menyembunyikannya di dalam file yang diunggah ke Slack.
Para peretas dapat dengan mudah memanfaatkan celah keamanan di Slack AI untuk mencuri data rahasia, tanpa harus secara langsung mengakses saluran pribadi tersebut. Peneliti dari PromptArmor telah melaporkan temuan mereka kepada Slack dan menyarankan agar pemilik Slack Workspace membatasi akses Slack AI ke dokumen hingga masalah ini terselesaikan. Mereka mengingatkan bahwa pemilik Slack Workspace harus segera mengambil tindakan untuk melindungi data mereka dari serangan prompt injection. Namun, Slack menyatakan bahwa perilaku Slack AI yang memungkinkan pencarian data di saluran publik merupakan perilaku yang disengaja.
Hal ini menunjukkan bahwa Slack masih belum memahami sepenuhnya risiko prompt injection. Pernyataan Slack tersebut menunjukkan bahwa mereka mungkin tidak menyadari bahaya yang ditimbulkan oleh celah keamanan prompt injection. Pihak Salesforce, pemilik Slack, telah mengeluarkan pernyataan bahwa mereka telah menyelidiki masalah ini dan telah menerapkan patch untuk mengatasi masalah tersebut. Mereka juga menegaskan bahwa hingga saat ini belum ada bukti bahwa data pelanggan telah diakses secara tidak sah.
