Rekomendasi Video Dewasa di Instagram, Masalah Keamanan Anak

pibitek.biz -Instagram diketahui lebih mudah merekomendasikan video-video dewasa dan eksplisit kepada pengguna muda daripada yang diakui platformnya. Temuan ini didasarkan pada dua eksperimen yang dilakukan oleh Wall Street Journal dan profesor ilmu komputer Northeastern University, Laura Edelson. Dalam uji coba yang berlangsung selama tujuh bulan, akun-akun minor yang baru dibuat menggulirkan feed video Reels Instagram, melewati konten "normal" dan menghabiskan lebih banyak waktu pada konten "racy" dewasa.

Setelah hanya 20 menit menggulir, akun-akun tersebut dibanjiri promosi "konten seks dewasa" dan tawaran foto telanjang. Instagram mengklaim bahwa akun minor secara otomatis ditetapkan pada batasan kontrol konten yang paling ketat. Namun, eksperimen menunjukkan bahwa sistem rekomendasi universal situs ini membatasi efektivitas tindakan keamanan anak.

Dokumen internal dari 2022 menunjukkan bahwa Meta mengetahui bahwa algoritmanya merekomendasikan "konten porno, kekerasan, dan ujaran kebencian lebih banyak kepada pengguna muda daripada kepada orang dewasa", lapor Wall Street Journal. Meta mengklaim bahwa uji coba tersebut tidak mencerminkan cara remaja menggunakan Instagram. Sebagai bagian dari upaya jangka panjang mereka untuk mengatasi masalah remaja, perusahaan ini telah mengurangi volume konten sensitif yang dapat dilihat remaja di Instagram, dan telah mengurangi angka-angka tersebut secara signifikan dalam beberapa bulan terakhir.

Uji coba serupa dilakukan pada platform video seperti TikTok dan Snapchat, tetapi tidak menghasilkan rekomendasi yang sama. Penemuan baru-baru ini mengikuti laporan November yang menemukan bahwa algoritma Instagram Reels merekomendasikan konten seksual eksplisit kepada pengguna dewasa yang hanya mengikuti akun anak. Penyelidikan Februari, juga oleh Wall Street Journal, mengumumkan bahwa staf Meta telah memperingatkan perusahaan tentang keberadaan orang tua dan pemegang akun dewasa yang eksploitatif di Instagram, yang menemukan cara untuk memperoleh keuntungan dari gambar anak-anak online.

Laporan tersebut mencatat naiknya "Momfluencers" yang terlibat dalam percakapan seksual dengan pengikut dan menjual langganan untuk melihat konten sugestif dari anak-anak mereka, seperti menari atau memodelkan bikini. Advokat dan badan pengatur telah mengarahkan perhatian mereka pada peran media sosial dalam eksploitasi anak online. Meta sendiri telah digugat beberapa kali karena perannya dalam eksploitasi anak, termasuk tuntutan hukum Desember yang menuduh perusahaan menciptakan "pasar bagi pemangsa".

Setelah pembentukan pasukan tugas keamanan anaknya pada 2023, Meta merilis serangkaian alat keamanan baru, termasuk kontrol anti-pelecehan dan pengaturan kontrol konten yang "paling ketat" yang saat ini tersedia. Sementara itu, kompetitor Meta X baru-baru ini mengubah kebijakan konten dewasanya, memungkinkan pengguna untuk memposting "nuditas atau perilaku seksual dewasa yang diproduksi dan didistribusikan, asalkan diberi label dengan benar dan tidak ditampilkan secara menonjol". Platform ini menyatakan bahwa pemegang akun di bawah usia 18 tahun akan diblokir dari melihat konten tersebut, asalkan diberi label dengan peringatan konten.