Peneliti Mengungkapkan Metode Sederhana Namun Efektif Untuk Menangkap Deepfake

Metode deepfake-spotting baru telah dirinci oleh para peneliti yang mudah dan efektif untuk diterapkan, tetapi mungkin juga memperburuk masalah.

Dengan potensi destruktif dari deepfake yang meningkat setiap tahun, terutama seiring dengan semakin matangnya ilmu di balik teknik ini, tim ilmuwan telah menemukan metode yang andal untuk mengidentifikasi wajah yang dihasilkan secara artifisial dengan menganalisis bentuk pupil. Deepfake dibuat menggunakan generative adversarial network (GAN), dan selama bertahun-tahun teknologi menjadi sangat canggih sehingga semakin sulit untuk membedakan wajah manusia asli dari wajah yang dibuat menggunakan model pembelajaran mesin. Meskipun ada beberapa aplikasi komersial dari teknologi ini, ada sisi jahat yang jauh lebih mengerikan, dengan dampak serius.

Potensi penipuan dan pencurian identitas sangat tinggi, tetapi merancang alat peraturan dan kerangka hak cipta yang diperlukan telah menjadi mimpi buruk di sekitar teknologi yang menggunakan AI untuk membuat konten. Tahun lalu, Microsoft meluncurkan alat yang disebut Microsoft Video Authenticator yang dirancang untuk mendeteksi konten deepfake dalam video. Beberapa bulan yang lalu, Facebook juga merinci sistem canggih berbasis AI yang tidak hanya dapat mendeteksi deepfake tetapi juga mampu melacak kembali perangkat lunak penghasil deepfake yang digunakan untuk membuat media yang dimanipulasi. Namun, teknologi untuk mendeteksi deepfake tidak selalu tersedia untuk umum, dan tidak dapat diterapkan secara universal di semua platform tempat pengguna mengonsumsi konten media.

Terkait: Bagaimana Teknologi Deepfake Sebenarnya Bekerja

Di sinilah penelitian kolaboratif terbaru oleh para ilmuwan dari University of Albany, University at Buffalo, dan Keya Medical menawarkan secercah harapan. Sebuah makalah penelitian berjudul “Mata Memberitahu Semua: Bentuk Pupil Tidak Teratur Mengungkap Wajah yang Dihasilkan GAN” menjelaskan metode untuk mendeteksi wajah palsu dengan mempelajari bentuk pupil — pusat hitam di mata manusia. Premis kuncinya adalah bahwa pupil manusia berbentuk bulat, tetapi pada wajah yang dibuat secara artifisial, geometri pupil tidak seragam dan biasanya terdistorsi. Para ilmuwan mencatat bahwa bentuk pupil yang tidak beraturan adalah hal biasa bahkan dalam deepfake berkualitas tinggi dan mudah terlihat bahkan dengan mata telanjang. Ketidakteraturan dalam bentuk pupil ini disebut artefak dan disebabkan oleh kurangnya ‘kendala fisiologis’ dalam model yang digunakan untuk membuat deepfake.

Sebuah Solusi Menunggu Untuk Dipersenjatai

Penelitian Deteksi Deepfake Berbasis Murid

Para ilmuwan juga menciptakan sistem otomatis yang memasukkan gambar seribu wajah asli dan wajah buatan GAN masing-masing untuk mempelajari bagaimana penanda yang dijelaskan di atas dapat digunakan sebagai metode identifikasi deepfake yang andal. Tim merancang metrik yang disebut skor Boundary Intersection-Over-Union (BIoU) berdasarkan formula untuk menetapkan skor sesuai dengan bentuk pupil dalam gambar. Wajah manusia nyata dengan bentuk pupil elips yang seragam mencapai skor BIoU yang tinggi ketika melewati model analisis, sementara artefak pada pupil pada gambar yang dihasilkan secara artifisial menghasilkan skor BIoU yang rendah. Penelitian menyebutkan bahwa metode ini sangat efektif dan sederhana pada saat yang bersamaan.

Tapi ada dua masalah di sini. Salah satu kendala kecil adalah bahwa beberapa penyakit dan infeksi dapat mengubah bentuk pupil, yang dapat mengakibatkan kegagalan metode. Namun, itu adalah kasus yang jarang terjadi dan tidak membatalkan sains di baliknya. Masalah yang lebih mendesak adalah bahwa pihak jahat sekarang dapat belajar dari temuan penelitian ini — yang sekarang berada di domain publik — dan karenanya menyempurnakan sistem GAN mereka. Hasilnya adalah deepfake mereka sekarang akan lebih meyakinkan dengan pupil berbentuk merata untuk menipu pemirsa. Di dunia di mana perusahaan sudah dapat membuat versi sintetis dari wajah orang yang nyata dan menggunakannya dalam iklan tanpa persetujuan, prospek penyalahgunaan oleh aktor jahat hanya dibatasi oleh imajinasi manusia.

Berikutnya: Ilmuwan Mengambil Langkah Besar Menuju Energi Tanpa Batas Melalui Fusi Nuklir

Sumber: arXiv

Kebocoran Karakter Genshin Impact Shenhe Shenli

Kebocoran Karakter Genshin Impact: Ketika Shenli (Shenhe) Dapat Dimainkan

Tentang Penulis Nadeem Sarwar (170 Artikel Diterbitkan)

Nadeem telah menulis tentang teknologi konsumen selama lebih dari tiga tahun sekarang, setelah bekerja dengan nama-nama seperti NDTV dan Pocketnow di masa lalu. Selain meliput berita terbaru, ia juga memiliki pengalaman menguji ponsel dan laptop terbaru. Ketika dia tidak menulis, Anda dapat menemukan dia gagal di Doom kekal.

More From Nadeem Sarwar