Deepfake tespit algoritmaları ne kadar başarılı?

deepfake tespit

Facebook liderliğinde oluşturulan deepfake tespit algoritması, değiştirilen videoların yaklaşık üçte ikisini fark edebiliyor.

Deepfake videolar yapay zeka kullanarak bir kişinin yüzünü başka bir yüze montajlama işlemi olarak biliniyor. Bu teknolojiyle kişilerin söz veya hareketlerinde çarpıtmalar yapılabiliyor. Uzmanları endişelendiren durumsa deepfake videoları yanlış siyasi bilgilendirme, nefret söylemi, taciz  gibi olaylar için tehlikeli hale gelebilecek olması ihtimalinden kaynaklanıyor. Bu tür videoları oluşturmanın oldukça kolay olması da mevcut endişeleri arttırıyor.

Geçtiğimiz Eylül ayında, videolarda ortaya çıkan deepfake tehlikesi hakkında spekülasyonlar arttıkça, Facebook bu tür videoların tespiti için çalışmaya başladı. Şirket aynı zaman yanlış bilgiler yaymak için kullanılan deepfake videoları da yasakladı.

Facebook’un deepfake tespit mücadelesi, Microsoft, Amazon ve çevrimiçi veri bilimcileri topluluğu LLC kuruluşu Kaggle işbirliğinde gerçekleşti. Facebook tarafından ücretli aktörlerin oynatılarak oluşturulan yaklaşık 100.000 deepfake klip ile kullanıcıların algılama algoritmaları tespit edilmeye çalışıldı. Proje 2.000’den fazla katılımcıyla denendi. Facebook’un oluşturduğu video koleksiyonunda yüzde 82 oranında sahte videoları tespit edebilen algoritma, daha önce görülmemiş videolarda ise yüzde 65 oranında başarı gösterebildi.

Kedi-fare oyunu

Kaliforniya Berkeley Üniversitesi’nde dijital adli tıp profesörü Hany Farid bu durumu, “İnsan moderatörlere yardım etmek için yeterli bir oran olsa da ihtiyacımız olan doğruluk seviyesine yakın değil.” olarak nitelendirdi.

Facebook teknoloji baş sorumlusu Mike Schroepfer, büyük bir sorun yaratmadan önce deepfake videoların yol açabileceği tehlikelere karşı hazırlıklı olmaları gerektiğini söylüyor.

Deepfake videoların tespitinde en yüksek puan alan algoritma, Belarus’ta bulunan Mapbox’ta makine öğrenimi mühendisi Selim Seferbekov tarafından yazıldı. Bu algoritmayla 500.000 dolar kazanan Seferbekov ise, deepfake videoların için henüz endişe etmediğini söylüyor. Seferbekov, “Şu anda kötü niyetli kullanımların miktarı oldukça düşük. Ancak gelişimi makine öğrenimleri gelecekte bunu değiştirebilir.” diyerek gelecek için uyarıyor. Yazılımcı ürettiği kodu herkesin geliştirebilmesi için açık kaynak olarak sunacak.

Yapay zeka algoritmalarıyla deepfake içerikleri yakalamanın adeta bir kedi-fare oyunu olduğunu söyleyebiliriz. Dedektör algoritmalar, yapay yüzlerin tespiti için eğitilebilir ancak sahte içerikler üretmek için üretilen deepfake bu tespitlerden kaçınabilme potansiyeline sahip. Bu sebeple Facebook geliştirdiği yapay zeka kodunu açık kaynak olarak paylaşma konusunda kaygılıydı. Ancak daha fazla insanı bu konuda çalışmaya çekmek için risk almaya karar verildi.

Profesör Hany Farid’e göre gerçekten işe yarar bir deepfake dedektörü düşünülenden de zor olabilir. Yeni tekniklerin hızla ortaya çıktığı bu alanda, kötü niyetli deepfake üreticilerinin dedektörlerin önüne geçmek için çalışıyor olabileceği düşünülüyor. Buna ek olarak Facebook’un bazı içerik politikalarını değiştirmesi gerektiğini söyleyerek, “Tersi bir durumda böyle bir projenin değeri şüpheli olur.” diyor.

Merve Şimşek
Merve Şimşek, 1996 yılı Muğla doğumludur. Yıldız Teknik Üniversitesi’ndeki mimarlık eğitimini 2019 yılında tamamladı. Eğitimi sırasında mimari ofislerde gerçekleştirdiği staj çalışmalarına ek olarak Natura ve YAPI dergilerinin editör ekibinde yer aldı. Halen Natura Dergi’nin editörlüğünü yürütüyor. Mimari, sanat, edebiyata ek olarak teknoloji ve bilim konularına ilgi duyuyor. İngilizce ve İspanyolca biliyor.