YouTube Kembangkan Deteksi Deepfake Wajah Dan Suara Buatan AI

JAKARTA - Perkembangan kecerdasan buatan (AI) semakin canggih belakangan ini, secara bersamaan juga menghadirkan kecemasan di kalangan pengguna internet. Termasuk konten kreator atau selebritas yang wajah serta suara mereka kerap digunakan untuk membuat deepfake, atau konten digital palsu yang dibuat menggunakan AI dan teknologi deep learning.

Menyadari adanya ancaman tersebut, YouTube sebagai salah satu platform tempat kreator membagikan videonya, berinisiatif untuk mengembangkan sejumlah alat baru yang bisa mendeteksi sebuah video deepfake yang mungkin ada di platform mereka.

"Ini berarti membekali mereka (konten kreator) dengan alat yang dibutuhkan untuk memanfaatkan potensi kreatif AI sambil tetap mempertahankan kendali atas bagaimana rupa mereka, termasuk wajah dan suara mereka, ditampilkan," terang YouTube dalam pengumuman di blog resminya, Kamis (5/9).

Pertama, YouTube sedang mengembangkan teknologi identifikasi nyanyian sintetis baru dalam Content ID. Teknologi ini memungkinkan pengguna untuk secara otomatis mendeteksi dan mengelola konten yang dihasilkan AI di YouTube yang memakai atau menirukan suara nyanyian mereka.

YouTube mengatakan bahwa teknologi ini sedang dalam tahap penyempurnaan bersama mitra mereka, dan rencananya program percontohan akan dimulai pada awal tahun depan.

Kedua, YouTube juga tengah aktif mengembangkan teknologi baru yang akan memungkinkan kreator, aktor, musisi hingga atlet, untuk mendeteksi dan mengelola konten buatan AI yang menampilkan wajah mereka di YouTube.

Bersama dengan pembaruan privasi terkini di platformnya, kemampuan ini diharapkan bisa menciptakan serangkaian alat yang tangguh untuk mengelola bagaimana AI digunakan untuk menggambarkan orang-orang di YouTube.

Platform video milik Meta itu mengungkapkan bahwa kedua kemampuan baru ini dibangun berdasarkan rekam jejak mereka dalam mengembangkan pendekatan berbasis teknologi untuk mengatasi masalah hak dalam skala besar.

Di mana sejak 2007, Content ID telah hadir memberikan kontrol terperinci kepada pemegang hak di seluruh katalog mereka di YouTube, dengan miliaran klaim yang diproses setiap tahun. Sementara secara bersamaan menghasilkan miliaran pendapatan baru bagi artis dan kreator melalui penggunaan kembali karya mereka.

"Kami berkomitmen untuk menghadirkan tingkat perlindungan dan pemberdayaan yang sama ke era AI," jamin YouTube.

Langkah ini diambil karena menurut YouTube, AI harus meningkatkan kreativitas manusia, bukan menggantikannya. Sebabnya mereka berkomitmen untuk bekerja sama dengan para mitranya guna memastikan kemajuan di masa mendatang memperkuat suara mereka, dan akan terus mengembangkan pembatas untuk mengatasi masalah.