pibitek.biz - FTC atau Federal Trade Commission AS khawatir penipuan dengan AI makin marak. Mereka mau perluas aturan penipuan dengan menyamar. Sekarang, aturannya nggak cuma buat bisnis dan pemerintah. Tapi juga buat individu. FTC bilang penipuan dengan menyamar itu jahat banget. Apalagi sekarang ada teknologi AI yang bisa bikin video palsu atau deepfake. Teknologi ini bisa bikin penipuan makin gampang dan parah. Aturan baru ini sebenernya udah direncanakan sejak 2021. Tapi baru diusulkan minggu ini.
2 – Serangan MFA Makin Marak, Microsoft Beri Tips Keamanan 2 – Serangan MFA Makin Marak, Microsoft Beri Tips Keamanan
3 – Risiko Gunakan Aplikasi Kencan dengan AI 3 – Risiko Gunakan Aplikasi Kencan dengan AI 300x600
Kalau aturan ini jadi, bakal ilegal buat bikin deepfake orang lain buat nipu. Misalnya, pura-pura jadi orang kaya buat minta duit. Korban penipuan juga bisa lapor ke FTC buat minta ganti rugi. "Penipu pakai alat AI buat nyamar jadi orang lain dengan akurat dan skala besar. Mereka pakai suara palsu dan penipuan lain yang pakai AI. Makanya, kita harus lindungi orang AS dari penipuan ini", kata Lina M. Khan, ketua FTC.
"Perluasan aturan ini bakal bantu kita buat ngelawan penipuan yang pakai AI. Kita mau perkuat alat kita buat tangani penipuan yang nyamar jadi orang lain", tambah Khan.
FTC juga mau larang perusahaan AI yang kasih alat yang sering dipakai buat penipuan. Mereka minta pendapat publik soal hal ini. "FTC juga mau tahu, apakah aturan baru ini harus larang perusahaan, misalnya platform AI yang bikin gambar, video, atau teks, buat jual barang atau jasa yang mereka tahu atau harusnya tahu dipakai buat nipu orang dengan menyamar", tulis FTC.
Aturan baru ini bisa bikin FTC punya alasan buat hukum perusahaan AI yang nggak hati-hati kasih alat mereka. Contohnya, bulan lalu ada panggilan telepon palsu yang pakai suara Presiden Biden. Panggilan ini pakai teknologi dari perusahaan AI Eleven Labs.
Eleven Labs bisa tau siapa yang bikin panggilan palsu itu dan blokir akunnya. Tapi aturan baru FTC bisa bikin perusahaan AI lebih waspada buat blokir pengguna yang pakai alat mereka buat kejahatan, kayak penipuan dengan menyamar. Tapi nggak jelas juga gimana perusahaan AI bisa cegah hal ini.
Aturan baru ini bisa bikin perusahaan AI minta data pribadi lebih banyak dari pengguna buat verifikasi identitas. Di dunia kripto, misalnya, pengguna bursa kripto harus kasih identitas pemerintah dan data lain buat lulus verifikasi KYC atau Know-Your-Customer. Tapi verifikasi KYC dan identitas pemerintah juga bisa dipalsukan pakai alat AI, kayak yang dilaporkan 404 Media bulan ini.
Gerakan FTC terbaru ini buat lawan penipuan yang pakai AI menunjukkan tren yang makin kuat di lembaga ini. Mereka mau pertanggungjawaban lebih besar dari perusahaan dan platform teknologi soal produk dan layanan mereka. Bulan Desember lalu, FTC perbarui aturan perlindungan privasi anak online buat bebani situs web dan media sosial lebih banyak.
