FTC Menindak Keras Klaim dan Skema AI yang Menyesatkan

pibitek.biz -Badan Perlindungan Konsumen Amerika Serikat, Komisi Perdagangan Federal (FTC), baru-baru ini mengumumkan tindakan tegas terhadap apa yang disebut regulator sebagai "klaim dan skema AI yang menyesatkan". Tindakan tersebut ditujukan pada tiga usaha peluang bisnis dan dua perusahaan, termasuk perusahaan layanan hukum DoNotPay. FTC menyatakan bahwa kelima kasus penegakan hukum yang mereka ajukan menunjukkan bagaimana perusahaan dan usaha tersebut "telah memanfaatkan hype di sekitar" AI "dan menggunakannya untuk memikat konsumen ke dalam skema yang tidak benar".

Ketua FTC, Lina Khan, dalam sebuah pernyataan, menegaskan bahwa penggunaan alat AI untuk menipu, menyesatkan, atau menipu orang merupakan tindakan ilegal. FTC, melalui tindakan penegakan hukum ini, menegaskan bahwa tidak ada pengecualian AI dari hukum yang berlaku. Dengan menindak praktik yang tidak adil atau menyesatkan di pasar ini, FTC memastikan bahwa bisnis dan inovator yang jujur dapat memperoleh kesempatan yang adil, dan konsumen dilindungi. Salah satu kasus yang paling menonjol adalah gugatan FTC terhadap DoNotPay, perusahaan yang mengiklankan layanan AI-nya sebagai "pengacara robot pertama di dunia".

FTC menyatakan bahwa DoNotPay gagal memenuhi klaimnya. Meskipun DoNotPay mengklaim bahwa layanan mereka memungkinkan pelanggan untuk menuntut seseorang atas penyerangan tanpa pengacara dan menghasilkan dokumen hukum yang valid dalam waktu singkat, perusahaan tidak menguji apakah "keluaran chatbot AI mereka setara dengan tingkat pengacara manusia". FTC juga menyatakan bahwa layanan DoNotPay yang diklaim dapat memeriksa situs web bisnis kecil untuk pelanggaran federal dan negara, hanya dengan menggunakan alamat email pelanggan, tidak efektif dalam mendeteksi pelanggaran yang berpotensi mahal tersebut.

DoNotPay, yang tidak mengakui kesalahan, setuju untuk menyelesaikan tuduhan FTC dengan membayar $193.000 dan memberi konsumen yang berlangganan layanan mereka dari tahun 2021 hingga 2023 pemberitahuan yang memperingatkan mereka tentang keterbatasan fitur layanan yang terkait hukum. Dalam salah satu dari empat kasus lain yang diumumkan, FTC mengajukan gugatan terhadap skema peluang bisnis yang beroperasi dengan nama Ascend Ecom, Ascend CapVentures, dan ACV Nexus, yang dioperasikan oleh dua pria bernama William Basta dan Kenneth Leung. Dalam gugatan yang diajukan di pengadilan federal Los Angeles, FTC menuduh bahwa skema Ascend telah "menipu konsumen setidaknya $25 juta" dengan membuat "klaim pendapatan yang menyesatkan untuk membujuk konsumen agar mengeluarkan puluhan ribu dolar masing-masing untuk berinvestasi dalam apa yang Tergugat klaim sebagai peluang bisnis yang pasti di bidang e-niaga, atau toko online".

FTC menyatakan bahwa sejak sekitar tahun 2023, "penawaran penjualan Tergugat yang menyesatkan telah menyatakan bahwa model bisnis mereka didukung oleh AI ("AI")". Tergugat mengklaim bahwa konsumen akan dengan cepat menghasilkan ribuan dolar dalam pendapatan pasif, yang akan dihasilkan dari penjualan di toko online pada platform e-niaga seperti Amazon.com dan Walmart.com. Setelah konsumen berinvestasi dalam skema tersebut, "keuntungan yang dijanjikan tidak pernah terwujud, dan konsumen dibiarkan dengan rekening bank yang terkuras dan tagihan kartu kredit yang besar", kata gugatan tersebut.

Akibat gugatan tersebut, seorang hakim telah mengeluarkan perintah yang secara sementara menghentikan skema tersebut dan menempatkannya di bawah kendali seorang penerima. Dalam gugatan kedua, yang diajukan secara tertutup di pengadilan federal New Jersey pada bulan Juni, FTC menargetkan skema peluang yang beroperasi dengan nama Passive Scaling dan FBA Machine, yang diduga merugikan pelanggan sekitar $16 juta atau lebih berdasarkan klaim menyesatkan tentang pendapatan yang dijamin melalui toko online yang diklaim menggunakan software bertenaga AI. Dalam gugatan ketiga, yang diajukan di pengadilan federal Pennsylvania, FTC menuduh Ecommerce Empire Builders "secara salah mengklaim untuk membantu konsumen membangun 'Kerajaan E-niaga bertenaga AI' dengan berpartisipasi dalam program pelatihan mereka yang harganya hampir $2.000 atau dengan membeli toko online 'done for you' seharga puluhan ribu dolar", kata agensi tersebut.

Seperti halnya Ascend, seorang hakim telah menempatkan skema tersebut di bawah kendali seorang penerima, menurut FTC. Skema tersebut, yang mengklaim bahwa konsumen dapat menghasilkan jutaan dolar, menurut FTC, gagal mewujudkan keuntungan tersebut. Selain gugatan tersebut, FTC juga mengajukan keluhan peraturan terhadap perusahaan Rytr, yang menawarkan asisten penulisan AI untuk dijual, yang di antaranya menghasilkan testimoni dan ulasan pelanggan. FTC menyatakan bahwa layanan tersebut "menghasilkan ulasan terperinci yang berisi detail spesifik, yang seringkali material, yang tidak terkait dengan input pengguna, dan ulasan ini hampir pasti akan salah bagi pengguna yang menyalin dan menerbitkannya secara online".

FTC menyatakan bahwa dalam banyak kasus, ulasan yang dihasilkan AI pelanggan berisi informasi yang akan menyesatkan calon konsumen yang menggunakan ulasan tersebut untuk membuat keputusan pembelian. Rytr telah setuju untuk menyelesaikan kasus tersebut melalui perintah persetujuan, yang akan melarang perusahaan tersebut menawarkan atau menjual layanan yang menghasilkan ulasan konsumen atau testimoni. Tindakan FTC terhadap perusahaan-perusahaan ini merupakan bukti meningkatnya perhatian terhadap potensi penyalahgunaan AI dalam bisnis dan pemasaran.

Regulator dan pengacara konsumen khawatir bahwa perusahaan mungkin menggunakan teknologi AI untuk membuat klaim yang menyesatkan, yang pada akhirnya merugikan konsumen. Tindakan FTC ini juga merupakan contoh dari upaya berkelanjutan untuk mengatur dan mengawasi AI. Seiring dengan kemajuan teknologi AI, penting bagi regulator untuk mengikuti perkembangan dan memastikan bahwa teknologi ini digunakan secara bertanggung jawab dan etis. FTC telah menunjukkan komitmennya untuk melindungi konsumen dari praktik bisnis yang tidak adil dan menyesatkan yang melibatkan AI.

Tindakan FTC ini merupakan langkah penting dalam mengendalikan penyalahgunaan AI dalam bisnis dan pemasaran. Meskipun teknologi AI memiliki potensi besar untuk kebaikan, sangat penting untuk memastikan bahwa teknologi tersebut digunakan secara etis dan bertanggung jawab. Peraturan FTC ini tidak hanya penting untuk melindungi konsumen tetapi juga untuk mendorong inovasi yang bertanggung jawab di bidang AI. Dengan menindak praktik yang tidak adil dan menyesatkan, FTC menciptakan lingkungan yang lebih adil bagi bisnis yang jujur dan mendorong pengembangan teknologi AI yang bermanfaat bagi semua.

Meskipun tindakan FTC merupakan langkah positif, penting untuk diingat bahwa ini hanyalah awal dari proses yang lebih luas. Masih banyak pertanyaan yang belum terjawab tentang cara mengatur AI secara efektif dan memastikan bahwa teknologi ini digunakan secara etis. Penting bagi para pembuat kebijakan, regulator, dan industri untuk bekerja sama untuk membangun kerangka kerja yang komprehensif untuk mengatur AI yang akan melindungi konsumen dan mendorong inovasi yang bertanggung jawab. Kegagalan untuk melakukannya dapat menyebabkan peningkatan penyalahgunaan AI dan berdampak negatif pada ekonomi dan masyarakat.

Tindakan FTC ini merupakan sinyal kuat bagi perusahaan yang menggunakan AI untuk meningkatkan bisnis mereka. Sangat penting bagi perusahaan untuk memastikan bahwa mereka mematuhi peraturan dan menggunakan AI secara etis dan bertanggung jawab. Kegagalan untuk melakukannya dapat mengakibatkan konsekuensi hukum dan reputasi yang signifikan. Tindakan FTC ini juga merupakan peringatan bagi konsumen untuk berhati-hati saat berinteraksi dengan perusahaan yang mengklaim menggunakan AI. Penting bagi konsumen untuk melakukan penelitian dan berhati-hati saat mengevaluasi klaim perusahaan tentang kemampuan AI mereka.

Konsumen juga harus menyadari bahwa teknologi AI tidak sempurna dan dapat menghasilkan kesalahan atau hasil yang menyesatkan. Sangat penting bagi konsumen untuk tidak mengandalkan AI sebagai pengganti penilaian manusia dan untuk melakukan due diligence sebelum membuat keputusan apa pun berdasarkan informasi yang dihasilkan oleh AI. Meskipun upaya FTC untuk menindak praktik AI yang menyesatkan adalah langkah yang sangat dibutuhkan, upaya tersebut mungkin tidak cukup untuk mengatasi tantangan kompleks yang diajukan oleh teknologi yang berkembang pesat ini.

AI berkembang dengan sangat cepat, dan para pembuat kebijakan berjuang untuk mengimbangi kemajuan ini dan mengembangkan peraturan yang efektif. Penting bagi para pembuat kebijakan, regulator, dan industri untuk terus bekerja sama dan beradaptasi dengan perkembangan teknologi AI untuk memastikan bahwa teknologi ini digunakan untuk kebaikan masyarakat dan bukan untuk mengeksploitasi konsumen atau menghancurkan industri yang jujur. Tindakan FTC ini adalah bukti pentingnya pengawasan dan regulasi yang berkelanjutan dalam industri AI.