Cloudflare Bikin Firewall untuk AI, Lawan AI Jahat dengan AI



TL;DR
  • Cloudflare buat firewall AI untuk lindungi model AI.
  • Firewall AI bisa deteksi dan blokir serangan atau manipulasi.
  • Cloudflare juga pakai AI untuk lawan AI jahat lainnya.
Cloudflare Bikin Firewall untuk AI, Lawan AI Jahat dengan AI - the photo via: pcmag - pibitek.biz - ChatGPT

the photo via: pcmag


336-280

pibitek.biz - Cloudflare, perusahaan teknologi yang terkenal, sedang mengembangkan firewall khusus untuk model AI Generatif. Tujuannya adalah untuk melindungi model AI tersebut dari serangan siber atau ancaman jahat lainnya. Cloudflare juga membuat alat AI sendiri untuk melawan AI jahat. Firewall AI dari Cloudflare dirancang untuk bisa mendeteksi upaya penyerangan sebelum terjadi.

Firewall ini termasuk jenis Web Application Firewall, yang artinya bisa memblokir lalu lintas yang dicurigai sebagai serangan. Firewall ini tidak hanya mengikuti standar firewall biasa, tapi juga bisa menganalisis permintaan yang dikirim oleh pengguna AI Generatif untuk mencari tahu apakah ada niat jahat di baliknya.

"Beberapa kerentanan yang mempengaruhi aplikasi web dan API tradisional juga berlaku untuk dunia LLM (Large Language Model), seperti injeksi atau pencurian data", kata Daniele Molteni, Manajer Produk Grup Cloudflare. "Tapi, ada juga ancaman baru yang muncul karena cara kerja LLM". Teknologi baru memang membuka peluang untuk serangan siber baru, tapi perlu dicatat bahwa firewall AI dari Cloudflare berarti situs dan alat AI yang pakai firewall ini akan menyaring data masukan pengguna melalui Cloudflare dulu sebelum sampai ke AI Generatifnya.

Firewall AI ini juga bisa menghentikan sementara permintaan AI Generatif dan memeriksanya untuk mencari ancaman potensial. Data yang dikirim ke model AI publik seperti ChatGPT atau Claude bisa "diakses oleh siapa saja", kata Molteni, jadi firewall AI dari Cloudflare akan membersihkan permintaan dari informasi sensitif, seperti data pribadi yang bisa membahayakan privasi orang. Tapi, firewall AI dari Cloudflare juga bisa menyensor data masukan pengguna dengan cara lain.

Firewall ini dibuat untuk mencegah model AI dari "manipulasi" dengan data masukan yang bisa membuat model AI menghasilkan respons palsu atau berbahaya. Klien juga bisa "memblokir permintaan yang masuk ke kategori yang tidak pantas" jika mereka khawatir permintaan tersebut bisa membuat AI menggunakan "bahasa yang toksik, ofensif, atau bermasalah", menurut postingan Cloudflare. Meski perusahaan ini menyebut contoh-contoh ini sebagai serangan "injeksi permintaan", belum jelas seberapa jauh permintaan asli pengguna bisa disensor akibatnya.

Cloudflare juga mengumumkan penawaran "Defensive AI" untuk bisnis minggu ini, yang menggunakan model AI untuk menganalisis situs web untuk mencari ancaman yang didorong oleh AI. "Melawan AI dengan AI sekarang sudah jadi hal yang wajib", kata Matthew Prince, CEO dan Pendiri Cloudflare. Pengembangan firewall AI dan metode pencegahan lainnya sebenarnya tidak terlalu mengherankan mengingat penelitian terbaru menemukan asisten AI bisa digunakan untuk menyebarkan worm, jenis malware yang bisa menyebar sendiri.