Network
KILAS KLATEN – YouTube sedang memperbarui kebijakan pelecehan dan perundungan daringnya untuk menindak konten yang "realistis mensimulasikan" anak-anak yang telah meninggal atau korban kejadian mematikan atau kekerasan yang menggambarkan kematian mereka.
Platform yang dimiliki oleh Google, YouTube, mengatakan bahwa mereka akan mulai menghapus konten semacam itu mulai tanggal 16 Januari.
Perubahan kebijakan YouTube ini terjadi ketika beberapa pembuat konten kejahatan nyata menggunakan kecerdasan buatan (AI) untuk merekonstruksi wajah anak-anak yang telah meninggal atau hilang.
Baca Juga: Cara Gunakan Fitur Pause Komentar Youtube Dan Apa Kegunaannya?
Dalam situasi yang mengganggu ini, orang-orang menggunakan AI untuk memberikan "suara" anak-anak korban kasus-kasus terkenal untuk menggambarkan kematian mereka.
Dalam beberapa bulan terakhir, pembuat konten telah menggunakan AI untuk menceritakan banyak kasus terkenal, termasuk penculikan dan kematian James Bulger, seorang balita Inggris berusia dua tahun, seperti yang dilaporkan oleh The Washington Post.
Ada juga narasi AI serupa tentang Madeleine McCann, seorang anak perempuan Inggris berusia tiga tahun yang menghilang dari sebuah resor, dan Gabriel Fernández, seorang anak laki-laki berusia delapan tahun yang disiksa dan dibunuh oleh ibunya dan pacarnya di California.
YouTube akan menghapus konten yang melanggar kebijakan baru ini, dan pengguna yang menerima peringatan tidak dapat mengunggah video, siaran langsung, atau cerita selama satu minggu.
Baca Juga: YouTube Luncurkan Fitur Baru yang Hasilkan Uang untuk Kreator, Apa Itu?
Setelah tiga peringatan, saluran pengguna akan dihapus secara permanen dari YouTube.
Perubahan baru ini datang hampir dua bulan setelah YouTube memperkenalkan kebijakan baru seputar pengungkapan tanggung jawab untuk konten AI, bersama dengan alat baru untuk meminta penghapusan deepfake.
Salah satu perubahan tersebut mengharuskan pengguna mengungkapkan ketika mereka membuat konten yang diubah atau sintetis yang terlihat realistis.
Perusahaan memperingatkan bahwa pengguna yang gagal mengungkapkan penggunaan AI mereka dengan benar akan tunduk pada "penghapusan konten, penangguhan dari Program Mitra YouTube, atau hukuman lainnya."
Baca Juga: Google Classroom Kini Mungkinkan Guru Menambahkan Pertanyaan Interaktif Ke Video YouTube
Selain itu, YouTube mencatat pada waktu itu bahwa beberapa konten AI mungkin akan dihapus jika digunakan untuk menunjukkan "kekerasan realistis," bahkan jika diberi label.
Pada bulan September 2023, TikTok meluncurkan alat untuk memungkinkan pencipta memberi label pada konten AI yang dihasilkan setelah aplikasi sosial itu memperbarui panduannya untuk menuntut para pencipta mengungkapkan kapan mereka memposting media sintetis atau dimanipulasi yang menunjukkan adegan realistis.
Kebijakan TikTok memungkinkan mereka untuk menurunkan gambar AI realistis yang tidak diungkapkan.***
