Google DeepMind’dan Dr. Alhussein Fawzi’yi Ağırladık
İTÜ Yapay Zeka Merkezi ve Bilgi Ekonomisi Derneği ile birlikte düzenlenen, Bilim ve Teknoloji Zirvesi Konuşmaları Serisi kapsamında, Dr. Alhussein Fawzi “Fooling Deep Networks” başlıklı konuşmasıyla İTÜ Süleyman Demirel Kültür Merkezi’ndeydi.
Bu yıl 6.sı gerçekleşen İTÜ Bilim ve Teknoloji Zirvesi Konuşmaları Serisi kapsamında “Fooling Deep Networks” başlığıyla Google DeepMind’dan Alhussein Fawzi İTÜ’de SDKM Senato Salonunda Yapay Zeka ve Derin Öğrenme alanında çalışan akademisyenleri, araştırmacıları ve öğrencileri buluşturdu. Açılışını Prof. Dr. Davut Kavranoğlu’nun yaptığı toplantıda; Dr. Alhussein Fawzi makine öğrenmesinin güvenliği üzerine yaptığı bilimsel çalışmalarını anlattığı sunumunu daha güçlü ve sağlam derin öğrenme ile bu bilgisayar öğrenmesinin yaşadığımız ortamlarda uygulanabilmesi üzerine yaptı.
Derin öğrenme ile görüntü işlemenin önemi
Birçok alanda son zamanlarda başarılı sonuçları görülen makine öğrenmesi, görüntüleri sınıflandırma, adlandırma, ses tanıma, karmaşık oyunlarda başarılı olma gibi özellikler taşımakta. Bu başarının ardında bilgisayarlara sağlanan zıt göstergelerle toplanan verilerde hatayı en aza indirme ile hesaplamaların daha doğru yapılması yer alıyor. Makine öğrenmesinde bir resimde neyin olduğunu anlamada karmaşık veri setlerinde 2011 yılında yüzde 25 hata oranı aldıklarını belirten Fawzi, bu oranın 2015 yılına gelindiğinde yüzde 5 seviyelerinin altında olduğunu belirtti. Tüm bu çalışmaların temelinde de derin öğrenmenin yer aldığını belirten Fawzi derin öğrenme tanımlaması hakkında şu sözleri söyledi: “Derin öğrenme ağları temelde, görüntü, veya ses ve benzeri girdi verilerini temsil etmeyi öğrenme ve ardından bu temsilin belli görevleri yerine getirmesi amacıyla kullanılırlar. Örneğin görsel veriyi alır, ardışık doğrusal olmayan işlemler silsilesiyle sahip olduğunuz temel görüntüden yola çıkarak gittikçe daha soyut bir temsile doğru ilerlerler. İlk katmanda elde edeceğiniz veri temel olarak görüntünüzün düşük seviyede basit bir temsilidir ve daha derine gittikçe ana görüntünün konturları ve birleşme noktaları gibi özelliklerinden giderek daha soyut bir veri temsiline doğru ilerlenir. Bu konuşmada Dr. Fawzi, derin öğrenme ağlarının bu soyut temsili sonrası görüntü sınıflandırma gibi görevlerde kullanılmaları sırasında girdi görüntüsü üzerinde yapılacak gözümüzle farkedemediğimiz seviyede küçük değişiklikler sonucunda bile görevlerinde yani çıktılarında yanılabileceklerini anlattı. Bu da gerçek hayatta yapay zekanın uygulamalarında sorunlara yol açabilir. Örneğin, bir yüz tanıma sisteminde girdi yüz görüntülerinin bu şekilde değiştirilmesi sistemin hiç kimseyi doğru tanıyamaması anlamına gelecektir.” Dr. Fawzi konuşmasında, bu gibi saldırılara karşı, yani veride farkedilmeyecek farklılıkların özellikle sistemi yanıltmak için yaratıldığı saldırılara karşı, daha dayanıklı derin sinir öğrenme ağlarının matematiksel olarak nasıl tasarlanabileceği ve eğitilebileceğini anlattı.
Dr. Alhussein Fawzi hakkında
Bilim Araştırmacısı Alhussein Fawzi, Londra’daki Google DeepMind’de, makine öğrenim sistemlerini daha sağlam hale getirmek için çalışmalar yürütmektedir. Yüksek lisans ve doktorasını İsviçre Federal Teknoloji Enstitü’sünde (EPFL) tamamlamış ve bir yıl UCLA Bilgisayar Bilimi Bölümünde doktora sonrası burslu olarak çalışmıştır. Fawzi, iki kez IBM Doktora bursu almıştır. Ayrıntılı bilgiye web sitesinden ulaşabilirsiniz: http://www.alhusseinfawzi.info/
İTÜ Bilim ve Teknoloji Zirvesi Konuşmaları Serisi kapsamında “Fooling Deep Networks” seminerinin videosunu izlemek için tıklayınız.