Deepfakes’in Vahşi Batı’sında, Neden Güvenliğimizi Kendimiz Sağlamalıyız? – Zemana Blog
Tıpkı Vahşi Batı’da olduğu gibi, bizi derin tehlikelerden koruyan kimse yok. Saldırının, ne zaman, nereden ve nasıl geleceği de belli değil. Küreselleşme bize diyor ki, “Gerçek ile algı bağını, ancak zekanla ve bilincinle koruyabilirsin. Sana yardımcı olabilecek, bulabildiğin teknolojik silahlarla, kendini korumalısın.”
Bülent Kızanlık	on Mayıs 15, 2020
Vahşi Kapitalizm gibi, Vahşi Batı’yı da çok uzak coğrafyalar bile tanır. O tekinsiz toprakları, bazılarımız tarih kitaplarından, ama çoğunluğumuz Hollywood yapımı Western filmlerinden biliriz. Kasabanın bir şerifi olsa da herkes kendi güvenliğini sağlamak zorundadır. Çünkü tehlikenin nereden geleceği belli değildir. Atlarınıza göz koyan azılı soyguncular da ansızın çalabilir kapınızı, topraklarına konmaya kalktığınız vahşi Kızılderililer de. Zevk için adam öldüren psikopat ve sapıklar da kol gezer, ıssız bucaksız dağlarda, tepelerde. Ne evler güvendedir ne de yollar. Kimin kime gücü yeterse, o istediğine sahip olur. O yüzden, herkesin belinden tabanca, elinden tüfek eksik olmaz. Kadınlar ve çocuklar bile silah kullanmayı öğrenir. Herkes bilir, Vahşi Batı tehlikelidir ve herkesin tetikte olması gerekir.
Teknolojinin beşiği kabul edilen ABD’nin kuruluş öyküsü, böylesine tehlike ve korku dolu. Atlantik kıyılarından Amerika’nin içlerine ve batıya doğru göç, çağın medeniyetiyle birlikte, güce dayalı tehditleri de bakir topraklara taşır. ABD’nin batı kıyısında yer alan Kaliforniya eyaletindeki Silikon Vadisi, bu tehlikeli medeniyet yolculuğunun adeta varış noktası gibi görünse de büyük iştah hiç son bulmaz. Küreselleşme, teknoloji silahını kullanarak, vahşi kapitalizmi başka kıtalara yaymaktan hiç vazgeçmez. Vahşi Batı’da ve Vahşi Kapitalizm’de, yöntem aynıdır. Silahın gücüyle ele geçiren, kendi çıkarına kullanır. Yani medeniyet önce silahı geliştirir, sonra da en vahşi amaçlarına alet eder. Ama bunu açıkça yapmaz. Hep derinden ve aldatarak amacına ulaşmaya çalışır. Yakın geçmişte, “derin örgütlenmeler” diye tanımlanan oluşumlar, örneğin İtalya’da ortaya çıkarıldığı iddia edilen Gladio organizasyonu ile kimlik kazanan güç odakları da, bu vahşi serüvenin bir tür küresel uzantısı gibidir.
Teknoloji silah üretir, ama güvenliğini kendin koruyacaksın…
İnsanlık için büyük bir tehdit olan derinlikler, geliştirilen yapay zeka (AI) temelli teknoloji silahı ile şimdi dijitalleşme evrimini tamamlıyor. Yerkürenin tüm kaynaklarına ve varlıklarına sahip olup, bunları küresel çıkarları için kullanma döngüsü, böylece yeni bir aşamaya ulaştı. Derin ses ve görüntülerle üretilen sentetik medya, vahşi derinlikleri yeni bir boyuta taşıdı. Toplumları bölüp, parçalayıp yönetebilme gücü, böylece hız ve ölçek kazanmış oldu. Tıpkı Vahşi Batı’da olduğu gibi, bizi derin tehlikelerden koruyan kimse yok. Saldırının, ne zaman, nereden ve nasıl geleceği de belli değil. Küreselleşme bize diyor ki, “Gerçek ile algı bağını, ancak zekanla ve bilincinle koruyabilirsin. Sana yardımcı olabilecek, bulabildiğin teknolojik silahlarla, kendini korumalısın.”
Küreselleşmenin güncel mesajlarının toplumlara aktarıldığı en önemli platformlardan biri olan Dünya Ekonomik Formu (WEF), Şubat ayındaki Davos Zirvesi’nde, deepfakes’i gündemine aldı. Son yazılarımızdan birinde de kısaca aktardığımız gibi, Davos Zirvesi MIT Tecnology Review’un “dünyanın en iyi deepfake geliştiricisi” olarak tanımladığı, Güney Kaliforniya Üniversitesi’nde Bilgisayar Bilimi Profesörü Hao Li’yi ağırladı. Hao Li, kurucusu ve CEO’su olduğu Pinscreen ekibi ile geliştirdiği Derin Ayna üzerinde, katılımcılara gerçek zamanlı yüz takası deneyimleterek şovunu yaptı. Ama asıl önemli olan verilen mesajlardı. Ana mesaj netti: “Derin tehlikeye karşı güvenliğinden kendin sorumlusun.”
Testing our @PinscreenInc #deepfaked installation at @wef #wef20, showcasing a realtime #deepfake technology to create awareness of the potential dangers of AI-synthesized media. pic.twitter.com/z057BYcayx
— Hao Li (@HaoLi81) January 19, 2020
Chapfakes uygulamalar, deepfakes çağının habercisi
Dijital medya, artık hayatımızın vazgeçilmez parçası ve medeniyete dair insanoğlunun kurtulması olanaksız bir bağımlılığı haline geldi. Dünyada her yıl 1,2 trilyondan fazla dijital görüntü/video çekiliyor. Her yıl sayısı %10 artan bu görüntülerin %85’ini, 2,7 milyardan fazla insan akıllı cep telefonlarıyla kaydediyor. Bu dijital kayıtlar, giderek artan biçimde kaydedildiği orijinal haliyle kalmıyor, dijital ses, fotoğraf ve videolar üzerinde gerçekleştirilen işlemler de hızla artıyor. AI temelli yapay sinir ağları üzerinden, derin öğrenmeye dayalı algoritmalarla geliştirilen, görüntü ve ses işleme teknolojileri, görsel ve işitsel manipülasyon olanaklarını, uzmanların beklentilerinin de ötesine taşıdı. Derin sentetik medyanın gelişim ve yayılma hızı, gerçeğe duyulan görsel ve işitsel güvenin giderek zayıflamasına yol açtı. Yüksek işlemci ve ekran kartı kapasitesi gerektiren Üretken Rakip Ağlar (GAN) ve makine öğrenmesine dayalı diğer deepfake teknolojileri, henüz kamusal alanı işgal edecek sayıda üretim kapasitesine ulaşmadı. Ama cheapfakes olarak adlandırılan mobil akıllı cihazlardaki eğlenceli yüz takası uygulamaları ya da hızlandırıp yavaşlatma gibi daha basit yöntemler, dezenformasyon ve çevrimiçi dolandırıcılık gibi niyetlerle, yeterince öfke ve endişeye yol açacak düzeyde kullanılır hale gelmiş durumda. Orjinalinden ayırt edilebilirliği giderek olanaksızlaşmaya başlayan deepvoice ve deepfake üretimi de artacak. Böylece, işletmeler ve toplum genelinde, algılama ve karar süreçlerini sekteye uğratacak bir “gerçekten kopuş”, kaçınılmaz hale gelecek.
Deepfakes’i kaynağında gerçek zamanlı tespit, hiç mümkün olmayacak mı?
Truepic, çevrimiçi kullanıcılara Zemana Deepware Scanner gibi, sınırsız bir sorgulama deneyimi sunmuyor. Ancak yine de kendisini gazeteciler, STÖ’ler, kamu kuruluşları ve şirketler için hizmet veren fotoğraf ve video doğrulama platformu olarak tanımlıyor. Truepic Başkan Yardımcısı Mounir Ibrahim, Davos Zirvesi’nden yaklaşık bir ay sonra, WEF web sitesinde yer alan makalesinde, yukarıdaki tespitlere yer veriyor ve deepfake sentetik medyayı, gerçek zamanlı olarak kaynağında belirleyip durdurmanın hiçbir zaman mümkün olmayacağını vurguluyor. Çünkü bunun birden çok nedeni var…
Öncelikle bir dijital görüntü içeriği, internette dolaşırken, meta verileri olarak adlandırılan ve onu tanımlayan temel bilgilerin neredeyse tümü kaybolur, yok edilir veya değiştirilir. Görüntünün bir algılama sistemi ile sorgulandığında, kaybolan meta verilerini yeniden oluşturmak ise olanaksız. Bu nedenle, görüntünün orijinal tarihi, saati ve konumu gibi detaylar, muhtemelen bilinemeyecek. Ayrıca, neredeyse tüm dijital görüntüler internette paylaşıldıktan hemen sonra sıkıştırılır ve yeniden boyutlandırılır. Bu işlem, bazen içerik tüketicisini aldatmaya yönelik olabilir. Görüntülerin yüklendikçe ve aktarıldıklarında yeniden sıkıştırılması ve boyutlandırılması, piksel düzeyinde manipülasyonları tespit etmeyi, çok zor hale getirecek. Otomatik ya da makine öğrenimine dayalı bir tespit modeli tescil edilerek kullanılmaya başlansa da, siber korsanlar, tespit edilemez kalmak için, hızlı bir şekilde başka yöntemler geliştirecek.
Salgının kaynağı, sosyal medya…
Sahte sentetik medya tespitini daha da zorlaştıran faktör; sahte veya gerçek olsun, her tür içeriği saniyeler içinde çevrimiçi dünyaya yayan sosyal medya. Aldatma niyetinde olanlar, anında sosyal medya platformlarına sahte içerik enjekte edebiliyor. O nedenle, başarılı bir sorgulama modeliyle bile, sahte içeriğin yayılmasını durdurmak için çok geç olabilir. Bilinç eksikliği veya fanatizm, dezenformasyonun viral yayılımını hızlandıracak ve objektif karar almayı zorlaştıracak.
Truepic Başkan Yardımcısı, Dünya Ekonomik Formu web sitesinde, sahte sentetik dijital içeriklerin, çevrimiçi dünyaya doğru yola çıkmadan önce tespit edilip durdurulmasının hiçbir zaman mümkün olmayacağını, gerekçeleriyle savunuyor. Önerdiği çözüm ise, çaresizce dijital içeriklerin sahteliğini tespitle uğraşmak yerine, onların provenansı (kaynağı, kökeni, menşei) üzerinden gerçekliğini kanıtlamak. Bu görüşler, şirketin geliştirmeye çalıştığı yeni teknolojinin ön pazarlama faaliyeti mi? Yoksa sahte sentetik ses ve görüntüler, sayılan tüm engellere rağmen, hızla kaynağında tespit edilip, yayılmadan durdurulabilir mi? Bunu zaman gösterecek.
Deepfakes tespit modeli geliştirilmesi konusunda, çevrimiçi dünyada beklentiye yol açan Facebook önderliğindeki Deepfake Detection Challenge (DFDC) sonuçlandı. Pandemi’nin de etkisiyle olsa gerek, ilan edilen tarihlere göre gecikilmiş olsa da, sonuçlar henüz düzenleyiciler tarafından onaylanarak resmiyet kazanmadı. Sırada, Google’ın deepvoice için başlatacağı yarışmanın olduğu biliniyor. Çevrimiçi dünyayı yönetenler, yayılmasına neden oldukları deepfakes kabusuna, samimi ya da değil, bir teknolojik çözüm arıyor görünüyorlar. Ama belli ki bu gerçekleşse de hayli zaman alacak.
Derin medeniyet, teknoloji silahıyla, şimdi de zihinleri ele geçiriyor. Çağlar geçse de vahşi saldırılara karşı kendimizi korumak, yine bize düşüyor…
Tag: deepfake, Deepfake Detection Challenge, deepfakes, deepvoice, deepware, derin öğrenme, DFDC, Facebook, Google, makine öğrenmesi, vahşi batı
Previous: Previous post: Dezenformasyon ve Misenformasyonla Yayılan İnfodemi, Pandemi’den de Ölümcül…
Next: Next post: Anti-Deepfakes Protokolü’nüz Hazır mı?