JAWA TENGAH — Oversight Board menilai aturan Meta soal konten deepfake AI "secara konsisten dan fundamental tidak memadai" setelah memutus dua kasus video sintetis yang menargetkan politikus Skotlandia dan relawan kesehatan menstruasi. Kedua kasus menunjukkan pelabelan AI yang tidak konsisten memperparah dampak bagi korban. Meta punya waktu 60 hari untuk merespons rekomendasi tersebut.
Oversight Board kembali mendesak Meta membenahi penanganan banjir konten hasil kecerdasan buatan di platformnya. Dewan pengawas independen itu mempublikasikan dua keputusan terbaru yang menyoroti kelemahan aturan perusahaan terhadap penyebaran deepfake AI.
Kedua kasus melibatkan unggahan video buatan AI yang menampilkan orang nyata. Dalam pernyataannya, Oversight Board menyebut aturan Meta "secara konsisten dan fundamental tidak memadai untuk mengatasi lonjakan cepat konten hasil AI di platformnya."
Kasus pertama menampilkan video sintetis seorang politikus Skotlandia yang seolah-olah mengucapkan kalimat rasis soal pengungsi. Video itu digambarkan dewan sebagai portret "realistis" namun palsu.
Politikus yang suaranya direplikasi menyebut efek video tersebut "cukup traumatis." Meta beralasan tidak menghapus video saat dilaporkan karena belum ditandai organisasi "mitra tepercaya" dan dinilai tidak mengganggu proses pemungutan suara.
Video itu juga tidak diberi label AI karena pengunggahnya tidak memilih untuk mengungkapkan bahwa konten dibuat dengan AI. Oversight Board menilai video seharusnya dihapus karena melanggar aturan ujaran kebencian Meta, sekaligus diberi label AI secara mencolok.
Kasus kedua juga menampilkan video AI dari orang nyata. Konten itu bersumber dari wawancara televisi seorang relawan yang mempromosikan edukasi kesehatan menstruasi. Setelah wawancara awal, sejumlah akun di berbagai platform memanipulasi rekaman tersebut untuk mencemooh korban hingga viral.
Menurut dewan, Meta otomatis menutup laporan dan banding atas unggahan yang tidak pernah dilabeli AI itu. Meta baru menghapus video tersebut karena melanggar aturan perundungan setelah Oversight Board turun tangan.
Oversight Board menilai kedua kasus menyoroti bagaimana konten AI dipakai menargetkan orang di platform Meta. Ketidakkonsistenan pelabelan disebut menimbulkan kerugian tambahan bagi korban.
"Dari politikus hingga warga biasa, deepfake buatan AI makin sering dipakai untuk melecehkan dan membungkam perempuan dari wacana publik," kata Co-Chair Oversight Board Pamela San Martin dalam pernyataannya. "Kasus-kasus ini menunjukkan pola yang lebih luas dan mengkhawatirkan, di mana perempuan yang terlibat publik pada isu tertentu secara tidak proporsional mengalami pelecehan dan misinformasi."
Kritik ini bukan yang pertama. Oversight Board, yang bertugas memberi rekomendasi kebijakan ke Meta, berulang kali menyoroti pendekatan perusahaan terhadap konten AI dan mendesak aturan baru.
Pertanyaan besarnya, apakah Meta benar-benar peduli pada pandangan dewan soal isu ini. Sejauh ini perusahaan hanya sedikit mengubah label AI-nya, yang umumnya berupa banner kecil bertuliskan "AI Info." Meta juga belum menyetujui banyak rekomendasi dewan soal pelabelan AI pada kasus-kasus lain.
Meta belum merespons permintaan komentar atas pernyataan terbaru dewan tersebut. Perusahaan punya waktu 60 hari untuk merespons rekomendasi terbaru, termasuk permintaan agar konten yang diduga AI diprioritaskan untuk ditinjau ketika dilaporkan.
Bagi pengguna di Indonesia, aturan pelabelan AI Meta ini berdampak langsung pada konten yang muncul di Facebook, Instagram, dan Threads. Ketika label AI tidak konsisten, pengguna sulit membedakan mana video asli dan mana hasil manipulasi.