Robotlardan Değil Kendinden Kork Ey İnsanoğlu!
Ağustos 07, 2017 Teknoloji
Son günlerde manşetleri süsleyen, sosyal medyada çokça tartışma konusu olan bir mesele yapay zeka. Facebook'un kendi dilini geliştiren robotları, Çin'deki isyancı robotlar falan derken yapay zekanın kontrolden çıkma durumu ve insanlığa oluşturabileceği tehlikeler konuşulur oldu. Peki yapay zeka gerçekten bilim-kurgu filmlerinde gördüğümüz dünyayı ele geçiren, peynir ekmek yer gibi insan öldüren makinelere dönüşebilir mi? Bunun cevabı hem evet hem hayır.
Şimdi önce başlarken şu Facebook'taki mesele nedir kısaca anlatayım. Facebook uzun zamandır bu yapay zeka işini kurcalayan oluşumlardan biri. Son günlerde haber olan durum da Facebook'un üzerinde çalıştığı bir çeşit chatbot'la ilgili. Sohbet robotu olarak Türkçeye çevirebileceğimiz chatbot'lar onlarla iletişim kuran insanlarla ya da diğer robotlarla, öğrendikleri belirli dil bilgisi ve mantık kuralları çerçevesinde dil bağlamında bir etkileşime giriyorlar. Daha basit anlatmak gerekirse "Bugün hava nasıl?" diye sorduğunuz Apple'ın Siri'si "Bugün hava 23 derece" diye cevap verdiğinde bu chatbot davranışını sergilemiş oluyor.
Ancak Facebook, Alice ve Bob adını verdiği iki chatbot'un aralarındaki etkileşim sırasında insan dilinde uzak ve "korkutucu" dili geliştirip kullanmaya başladığını fark edince bu iki robotu durdurdu.
Bob: Ben her şeyi ben ben ...
Alice: Toplar sıfır bana bana bana bana ...
Bob: Sen ben her şey ...
Alice: Topların bir topu var bana bana bana bana ...
Bob: Ben her şeyi ben ben ben ben ...
Bu yaşanan olayın teknik sebepleri var. Facebook bu iki chatbot'tan top, şapka, kitap gibi nesneleri alıp satmayı öğrenmelerini, bunlara değer biçmelerini ve bunları kendi aralarında takaslamalarını istiyordu. Ancak bu robotlara kimse İngilizce'de bunu nasıl yapacaklarını öğretmemişti. Mesela "takas" kelimesini bilmiyorlardı. Bunun sonucunda chatbot'lar kendi algoritmaları çerçevesinde ve bildikleri diğer şeyleri kullanarak aralarında anlaşmanın bir yolunu buldular.
Bu İlk Kez Yaşanan Bir Şey Değil
Makinelerin kendi kendilerine öğreniyor olması teknoloji dünyası için şaşırtıcı değil tam tersine beklenen ve arzulanan bir gelişme. Bu kendi kendine öğrenme süreciyle ilgilenen ve robotlara bu yeteneği kazandırma üzerine çalışılan Machine Learning ya da Türkçesiyle Makine Öğrenmesi adlı bir alan var. Facebook'un çalışmalarında yaşanan olay da bununla ilgili. Yani evet, Facebook bunu istiyordu ve manşetlere taşınanın aksine Facebook, programı chatbot'ların bu öğrenme ve kendini geliştirme sürecinden korktuğu için değil istenilen hizmeti vermediği için bir süreliğine durdurdu.
Facebook'ta yaşanan bu olay Machine Learning ile ilgili manşetleri süsleyen ilk "skandal" değil. Daha önce Microsoft'un geliştirdiği Tay isimli chatbot'ta garip bir durum yaşanmış ve bu olay da fazlaca konuşulmuştu. Bir Twitter hesabından kendisine atılan Tweet'lere cevap veren, aynı zamanda atılan Tweet'lerden öğrenen ve kendini geliştiren Tay, 24 saatten kısa bir sürede ufak çaplı bir skandala sebebiyet verince kapatılmıştı. Tay aslında masum bir ergen kız olarak tasarlanmıştı ve gelen Tweet'lere bu tavırda cevap verecekti. Ancak Tay kendisine yazılan şeylerle öğrenmeye başlayınca 24 saatten kısa sürede ırkçı, seksist ve Hitler yanlısı bir robot haline dönüştü.
— gerry (@geraldmellor) 24 Mart 2016
Tahmin edeceğiniz gibi Tay'in bu hızlı dönüşümünün sebebi ona akılalmaz bir hızla atılan ırkçı, seksist ve küfürlü Tweet'ler. Yani Tay bunları kendi kendine öğrenmedi, bunları ona insanlar öğretti.
Yine buna benzer bir durum son günlerde Çin'de geliştirilen bir chatbot'ta gerçekleşti. İnsanlarla kurduğu etkileşimle birlikte kendini geliştiren robot bir süre sonra Çin hükümetiyle ilgili gelen sorulara hükümeti kızdıracak yanıtlar vermeye başlayınca program sonlandırıldı. Microsoft'un Tay'inde olduğu gibi bu örnekte de robotlara öğrettiğimiz şeyler yine onlardan korkmamıza sebep olan şeyler haline geldi.
Robot Falan Hikaye, Korkulacak Olan İnsanın Ta Kendisi
Boğaziçi Üniversitesi'nden Prof. Cem Say, yapay zekayla ilgili korkuları ve insanoğlunun Machine Learning'den duyduğu endişeyi çok iyi özetliyor. Cem Say; nasıl küçük bir bebek sadece etrafa bakarak nesneleri, davranışları, bunların etkileşimini ve dildeki ifadesini öğrenemiyorsa yapay zeka için de böyle bir durumun gerçekleşmesinin akıl sınırları içinde olmadığını söylüyor. Daha basit bir dille söylemek gerekirse, nasıl bir bebeğe ağacı gösterip bundan mızrak yapmayı ve birini öldürmeyi öğrenmesini beklemiyorsak yapay zekadan da böyle bir beklenti yok. Chatbot'larda yaşananlar aslında Machine Learning meselesini oldukça çarpıcı biçimde gösteriyor.
Robotlara kötü olmayı biz öğretiyoruz. Dolayısıyla bütün korkumuz burada başlıyor. Kendimizden korkuyoruz yani aslında robotlardan falan değil. "Ya büyük bir yapay zeka gücü kötü insanların kontrolüne geçerse" fikrinden korkuyoruz. "Ya zevk almak için köpek ezen, öldüren; sonra da salıverilen adam yapay zekaya bir şeyler öğretirse" diye korkuyoruz. Çünkü insanoğlu, kötülerden çok fazla şey öğrendi. "Biz öldürmeyi Kabil'den öğrendik, ya bir gün bir robot bizden öldürmeyi öğrenirse" diye ödümüz patlıyor.
Eskiden Facebook'ta ürün müdürü olarak görev alırken şimdilerde medeniyetten uzak bir yerde kendi küçük yaşam alanını inşa eden Antonio Garcia Martinez'in söylediği bir şey var:
Siyasetle teknoloji arasındaki yarışta teknolojinin açık ara önde olduğunu söyleyen Martinez, teknolojik gelişmeler nedeniyle birçok kişinin işini kaybedeceğini belirtti. Bu durumun sefalete yol açacağını belirten Martinez, olası sonuçları engellemek adına bir çalışma yapılmadığını ifade etti. (Haberin tamamı)
Martinez'in bahsettiği durum yine insanlarla ilgili. Teknoloji bize hiçbir şey yapamaz, korkmaya gerek yok. Akıllı telefonları daha ucuza mal etmek için Kongo'daki madenlerde insan dışı şartlarda ve insan dışı maaşlarla 5 yaşındaki çocukları çalıştıran hırslı patronlardan korkmak gerekiyor asıl. Dönüp kendimizden korkmak lazım yani, dediğim gibi yapay zeka falan hikaye...
Facebook'un Yapay Zekası Kendi Dilini İcat Etti - Popular Science
Microsoft deletes 'teen girl' AI after it became a Hitler-loving sex robot within 24 hours - The Telegraph
Yapay zeka sistemleri bu yüzyılda insan zekası seviyesine ulaşacak - Boğaziçi Üniversitesi
Makine Öğrenimi - Wikipedia TR
Machine Learning - Wikipedia EN