YouTube Menindak Konten AI yang Diproduksi Secara Massal

YouTube sedang meluncurkan dua perubahan signifikan yang akan berdampak langsung pada pembuat konten dan membantu melindungi mereka dari penyalahgunaan kecerdasan buatan. Ini termasuk aturan monetisasi yang lebih ketat dan peluncuran penuh alat yang dirancang untuk menemukan video yang menampilkan deepfake.

Perusahaan berencana untuk memberikan pedoman yang lebih jelas tentang apa yang dianggap sebagai konten "tidak otentik" yang akan dilarang untuk menghasilkan pendapatan, dengan fokus utama pada materi yang diproduksi secara massal dan repetitif yang menjadi lebih mudah dibuat dengan kemajuan teknologi AI. Pembaruan ini akan memungkinkan platform untuk lebih efektif melawan apa yang disebut "AI sludge"—video yang sering menampilkan narasi suara yang dihasilkan AI yang membacakan skrip di atas tayangan gambar acak. Klip semacam itu, yang mencakup topik berita populer atau menyajikan diri mereka sebagai seri yang sepenuhnya dihasilkan oleh AI, kadang-kadang mengumpulkan jutaan tampilan.

Secara bersamaan, YouTube telah mulai meluncurkan alat "Face and Voice Match". Fitur ini dirancang untuk membantu pembuat menemukan video di platform yang menggunakan kembaran digital mereka—kesamaan atau suara yang dihasilkan AI yang dibuat tanpa izin mereka. Proses pendaftaran memerlukan verifikasi identitas, di mana seorang pembuat harus mengirimkan ID foto dan merekam video selfie pendek. Setelah tinjauan yang dapat memakan waktu hingga lima hari, sistem akan mulai memindai platform untuk menemukan kesamaan.

Ketika video yang mencurigakan terdeteksi, pembuat dapat meninjaunya secara detail dan memutuskan langkah selanjutnya: mengabaikannya, mengarsipkan temuan untuk catatan mereka, atau mengajukan permintaan penghapusan berdasarkan pelanggaran privasi. Penting untuk dicatat bahwa sistem juga dapat menandai video reguler yang menampilkan pembuat, bukan hanya yang palsu, sehingga setiap kasus memerlukan tinjauan manual. Versi percobaan dari layanan ini telah diuji sejak awal tahun, dan peluncurannya merupakan respons langsung terhadap peningkatan penipuan yang menggunakan deepfake dari blogger dan selebriti populer untuk mengiklankan produk atau menyebarkan informasi yang salah.

Bersama-sama, langkah-langkah ini menunjukkan YouTube beradaptasi dengan realitas digital baru di mana AI generatif menuntut aturan yang lebih jelas dan alat perlindungan baru. Namun, ini bukan hanya tentang pembatasan yang lebih ketat; YouTube juga sedang mengevaluasi kembali hubungannya dengan pembuat, seperti yang terlihat dalam inisiatif terbaru lainnya. Misalnya, platform baru-baru ini mulai menguji program "kesempatan kedua", yang akan memungkinkan beberapa pembuat dengan saluran yang dihentikan untuk mengajukan banding dan berpotensi kembali ke platform setelah tinjauan pelanggaran mereka.