Facebook'un geliştirdiği yapay zekâ sistemi yüz tanıma sistemlerini kandırıyor - Teknoblog
Facebook’un geliştirdiği yapay zekâ sistemi yüz tanıma sistemlerini kandırıyor
Facebook yüz tanıma faaliyetleriyle ilgili birkaç milyar dolarlık tazminat davalarıyla uğraşmasına rağmen, şirketin yapay zekâ araştırma birimi şirketin suçlandığı tekniğin kötü yanlarını gidermek için yeni teknolojiler geliştirmekten geri kalmıyor.
VentureBeat‘in haberine göre, kısaca FAIR olarak anılan Facebook Yapay Zekâ Araştırma, videolarda ve hatta canlı yayınlarda çalışabilecek bir kimlik gizleme sistemi geliştirdi. Sistem yapay öğrenmeden yararlanarak videodaki süjenin önemli yüz hatlarını gerçek zamanda değiştiriyor. Böylelikle yüz tanıma sisteminin süjeyi düzgün bir şekilde tanımlamasının önüne geçiyor.
Kimlik gizleme teknolojisi geçmişte de vardı ve İsrailli yapay zekâ ve gizlilik şirketi D-ID gibi şirketler bu alanda faaliyet gösteriyordu. Ancak onlar daha çok sabit fotoğraflar için hizmet sunuyordu. Aynı zamanda kullanıcıların doğrudan yüzlerine uygulayabildikleri yüz tanıma sistemlerini yanıltma teknolojileri bulunuyor. Bunlar belirli karakteristik özellikleri tanımlayacak şekilde eğitilmiş bilgisayar görüş yazılımlarının zayıf yanlarını kullanıyor. Örneğin, üzerinde yanıltıcı desen taşıyan bir çift güneş gözlüğü, yüz tanıma sisteminin sizi Milla Jovovich olarak tanımasına neden olabiliyor.
Ancak o tür yüz tanıma teknolojilerini yanıltma teknikleri genellikle güvenlik kamerasından veya benzer bir kaynaktan elde edilen bir fotoğrafı veya sabit görüntüyü değiştirmeye dayanıyor. Ya da yanıltıcı sistemlerin kullanıldığı örneklerde, öncelikle sistem yanıltılmaya çalışılıyor.
Facebook’un araştırma ekibi de muhtemelen aynı işi gerçek zamanlı ve video görüntüsünde yapıyor. Hem önceden çekilmişlere hem de canlı görüntülere uygulanabiliyor. FAIR söylediğine göre bu, sektörde bir ilk olma özelliğini taşıyor. Üstelik karmaşık yüz tanıma sistemlerine karşı koyabilecek kadar da iyi şekilde çalışıyor.
Bu bağlantıdan izleyebileceğiniz YouTube videosu, FAIR sisteminin nasıl çalıştığını güzel bir şekilde gösteriyor.
Şirketin konuyla ilgili olarak hazırladığı makalede, yüze tanımanın gizlilik tarafında kayıplara neden olduğu, yüz değiştirme teknolojisinin kullanılarak yanıltıcı videoların hazırlanabileceği belirtiliyor. “Yüz tanıma teknolojisindeki gelişmeler ve kötüye kullanım ile ilgili son dünya olayları, tanımlamanın başarıyla çözülmesine yönelik yöntemlerin anlaşılması gereğini ortaya koymaktadır. Katkımız, canlı video da dahil olmak üzere video için uygun olanıdır ve literatür yöntemlerini aşan kaliteyi sunar.”
VentureBeat, Facebook’un bu teknolojiyi ticari ürünlerinde kullanmaya niyetli olmadığını söylüyor. Ancak araştırma gelecekte bireylerin gizliliğini korumaya yönelik araçların geliştirilmesini etkileyebilir. Araştırmanın da belirttiği gibi, bir kişinin ifadesini sahte videolarda kullanmanın önüne geçecek yanıltıcı videolar da bu yöntemle üretilebilir.
Yapay zeka endüstrisi şu sıralar sahte videolarla ve onları oluşturmaya yarayan karmaşık araçlarla mücadele ediyor. Bu sadece bir yöntem ve hem kanun yapıcılar hem de teknoloji şirketleri sahte video algılama yazılımları benzeri diğer araçlarla onlara karşı mücadele etmeye çalışıyor. Aynı zamanda düzenleyici yapılar kullanılarak sahte videoların, görüntülerin ve seslerin yayılmasının nasıl kontrol altına alınacağı belirleniyor.
FAIR’ın araştırmasının etki ettiği bir diğer alan olan yüz tanıma da, doğru dürüst bir düzenlemenin olmadığı bir alan. Kanun koyucular, akademisyenler ve aktivistler de bunun kanun kuruluşları, devletler ve kuruluşlar tarafından dikkatsizce ve planlanmadan uygulanmaya devam etmesi durumunda insan haklarının ihlâl edilebileceğine dair endişelerini dile getiriyor.