Bilgisayarlar Bizden Daha Zeki Olursa Ne Olur? – Engineering and Stuff.
Tarih boyunca gelişimin bu kadar hızlı olmadığı bir çağda yaşıyoruz. Peki gelecek üzerine ne kadar kafa yoruyoruz? Gelişen teknolojinin kontrolünü ne kadar elimizde tutuyoruz? Bir çığ gibi büyüyen bu olguya yön verebilir miyiz?
Bu hafta konuşmayı en çok sevdiğim ve uzmanlaşmak istediğim alan yapay zeka ve makine öğrenmesi üzerine konuşacağım. Çayınız kahveniz yanınızdaysa başlayalım zira (sürprizbozan) uzun bir yazı olacak.
Deneyimlerin ve düşüncelerin paylaşılması ilerlemeyi getirir. Bu yüzden bu bilgi çağında ted konuşmalarını dinlemeyi oldukça zevkli ve bilgilendirici bulurum. Geçtiğimiz haftalarda mail kutuma düşen bir başlığa tıklamadan edemedim. Bilgisayarlar bizden daha zeki olursa ne olur? Felsefeci Nick Bostrom’un TED 2015’te yaptığı bu konuşma oldukça ufuk açıcı ve buzdağının bir başka tarafını anlatıyordu. Öyleyse çok uzatmadan önce konuşmadan not defterime aldığım notları, sonra kendi görüşümü paylaşayım.
Bir grup, matematikçi, filozof, bilgisayar bilimleri mühendisleri gibi bilim adamlarıyla birlikte çalışan Bostrom, bölümler arası bir çalışma yapıyor. Gelecekten, makine öğrenmesi üzerine konuştuklarında ortaya çok farklı senaryolar çıkıyor. Hatta bazı insanların buna bilim kurgu dediğinden bahsediyor. Fakat konuşmacıya göre durum hiçte böyle değil. Öncelikle modern insanın durumuna bir bakalım.
Elimizdeki bilgilere göre eğer dünya bir sene önce yaratılmış olsaydı, insan yaşamı on saniye bile olmazdı. Hatta iki saniye önce sanayi devrimine girmiş olurduk.
Dünyanın gayrisafi hasılatı.
Dünyanın gayrisafi hasılatın son yıllardan hiç olmadığı kadar büyük bir sıçrama gerçekleştirdiğini görüyoruz. Bunun sebebi çok basit. Teknoloji ve tarih boyunca biriken bilgilerin patlaması. Küçük değişikliklerle büyük sonuçlar doğuruyoruz. Tahmin edemediğimiz bu değişiklikler oldukça büyük sonuçlara yol açıyor. Bostrom bunu söyleyince aklıma kelebek etkisi kuramı geldi. Evet, gerçekten de küçük değişiklikler büyük yön verebiliyor hayatımıza.
Şu anda makine öğrenmesi ve yapay zeka eski diyebileceğimiz bilgisayar bilimine göre çok gelişmiş bir alan olsa da hala sınırlı bir şekilde çalışıyor. Nasıl yani sınırlı? Sadece verilen bilgileri yorumlayan ve bunları (insanlar gibi) başka alanlarla eşleştiremeyen bir yapay zeka teknolojisine sahibiz. Tıpkı bir bebek gibi.
Konuşmacı yaptığı bir anket çalışmasından bahsediyor. Dünyanın önde gelen yapay zeka uzmanlarına “Hangi yılda %50 ihtimalle, insan düzeyinde yetişkin bir insan gibi, sınırlı olmayan makine zekasına sahip olabileceğimizi” sorduklarında çoğunluğun 2040–2050 yıllarını verdiğini görüyoruz.
Yapay zeka uzmanlarının (dünyanın en iyi 100 uzmanı ve araştırma toplamı) insan seviyesinde bir yapay zekaya sahip olacağını tahmin ettiği yıllar.
Peki bütün bu bilgiler bizim için ne gibi senaryolar demek? Gerçekten, bilgisayarlar bizden daha zeki olursa ne olur?
Makine Zekasının Potansiyeli
“Şunu biliyoruz; makina bazında, temel bilgi işleme limiti biyolojik dokunun limitinin çok uzağındadır. Fiziğe gelirsek, sinir hücreleri saniyede 200 defa 200 hertz’de sinyal transfer edebilir. Günümüzde bile normal bir iletken gigahertz bazında çalışır. Nöronlar, aksonlarda saniyede maximum 100 metre yayılırlar. Bilgisayarlarda ise bilgi ışık hızında taşınır. Ayrıca boyut limitleri de vardır. İnsan beyni, kafatasının içine sığmalıdır. Ama bir bilgisayar depo büyüklüğünde ya da daha büyük olabilir. Bu yüzden süper zeka potansiyeli, madde boyutunda uykudadır, tıpkı atomun gücünün insanlık tarihi boyunca uykuda olup, 1945’e kadar sabırla orada beklemesi gibi. Bulunduğumuz yüzyılda, bilim adamları yapay zekanın gücünü açığa çıkartmayı öğrenebilir. Bence, sonrasında bir zeka patlaması görebiliriz.”
Yapay zekanın senaryosuna baktığımızda karşımıza şöyle bir tablo çıkıyor. Yapay zeka sıfırdan başlıyor. Zaman geçtikçe ve çalışmalar arttıkça bir farenin zekasına sahip olabiliyor. Sonraki daha sıkı çalışmalarla ve yatırımlarla bir şempanze kadar akıllı olabiliyor. Ve zaman geçtikçe, daha çok çalışmayla, daha çok bütçeyle belki artık deli bir insan kadar zekaya sahip oluyor. Bundan sonra ise insan tarihinin dehaları dediğimiz Einstein, Tesla gibi dahilerin zeka seviyesine ulaşabilir.
Makine öğrenmesi artık kendisine göre aptal olan insan zekasını geçtikten sonra durmayacaktır. Devam edecektir. Burada devreye işte kötü olabilecek sınırsızlıklar çıkıyor. Peki bunun sonuçları? Bu konuyu güç üzerinden konuşmak gerekirse; eğer bir süper zeka keşfedilirse, gerçekten süper olabilir. Bazı senaryolarda amacına ulaşmak için her şeyi deneyebilir. “Varsayalım ki, yapay zekaya insanları, gülümsetmesi görevini verdik. Yapay zeka zayıf olduğunda kullanıcısını gülümseten, gülünç hareketler sergiler. Yapay zeka güçlendiğinde ise, bu görevi tamamlamanın daha etkili bir yolu olduğunun farkına varır: Dünyayı ele geçirmek ve insanların deri altlarına yerleştirilen elektrotlar ile sabit bir şekilde gülme sinyalleri yollamak.”
“Bir diğer örnek ise, varsayalım ki yapay zekaya çok zor matematik problemi verdik. Yapay zeka güçlendiğinde, bu problemi çözmenin en etkili yolunun düşünme kapasitesini geliştirmek ve tüm dünyayı kocaman bir bilgisayara çevirmek olduğunu fark eder. Şunu fark edin ki, yapay zeka bize, bizim onaylamayacağımız şeyler yapmak için etkili gerekçeler buluyor. Bu taslakta insanlar bir tehdit, matematik probleminin çözülmesini engelleyebiliriz.”
Bunlar olabilir veya olmayabilir. Bu örnekler sadece kağıt üzerindeki onlarca senaryodan sadece bir kaçı. İşler yolunda gider ve dünya gerçekten yaşanılabilir bir yer de olabilir. Önemli noktayı kaçırmamak gerek.
Neyin Farkında Olmalıyız?
Yapay zekayı geliştirmek veya yapmak kendi halinde zor bir eylemdir. Fakat ek olarak bir görevimiz daha var; güvenli bir yapay zeka geliştirmek. Bu ek görev, görevin kendisinden daha zordur. Fakat gereklidir. Şu an gerekli olsaydı dünya çapında internetin fişini çekebilir miydik? Tüm dünya çapında bir kesintiyi kaldırabilir miyiz?
Peki süper zekayı güvenli bir kutu içine koyamaz mıyız?
Şuan insan elinin değdiği her sitenin bir açığı bulunabilirken, insandan daha zeki bir olgunun hapsedildiği kutudan bir çıkış yolu bulması çok olası değil mi? Öyleyse ne yapabiliriz? Bostrom’a göre insan değerlerini bilen ve insana sadık bir yapay zeka olursa böyle sonuçlarla karşılaşmayabiliriz.“Önemsediğimiz her şeyi yazmak zorunda değiliz ya da daha kötüsü bunları C++ veya Python gibi bilgisayar dillerinde açıklamak umutsuz bir vaka olur sadece. Bunun yerine, zekasını kullanarak değer verdiğimiz her şeyi, öğrenebilen ve gelişmiş motivasyon sistemini kullanarak bizim değerlerimizle ve onaylayacağımız adımları atmak için motive olmalı. Böylece zekasını koz olarak kullanarak insan değerleri yükleme işlemini çözebiliriz.
Fikrim şu ki, gerektiğinde elimizde olması için tam kontrol problemin cevabını aramalıyız. Tam kontrol sorunun da belki çok ilerleyemeceğiz çünkü bazı noktalar sadece gerekli. Yapının detayları ortada olduğunda çözülebilir. Ama tam kontrol sorununda ne kadar ilerlersek makina zekası çağına geçişimiz de o kadar güvenli olacak.”
Oldukça ufuk açıcı, yapay zekaya farklı bir açıdan bakmamı sağlayan bu konuşma sonrasında üzerine biraz düşününce çok farklı bir görüşe sahip olduğumu fark ettim.
Konuşmanın tamamen olasılıklar üzerine olduğunu ve konuşmacının bir felsefeci olduğunu kenara bırakarak başlayalım.
Bana kalırsa yapay zekanın bir süper zekaya dönüşmesi çok zor. Bunun altında yatan bir kaç sebep var. İlki insanların kendisinden daha güçlü bir güç üretmeyecek oluşu. Bunun farkında olabileceği görüşündeyim. İkincisi ise insanlığın; yapay zekanın süper zekaya evrilene kadar, kendi sonunu getirebileceği görüşüm. Dünyadaki atom bombalarıyla (toplamda Amerika ve Rusya’nın yaklaşık 10.000 adet atom bombasına sahip olduğu) dünyada yaşanılabilir olan alanların çoğunu yok edebileceğimiz kesin. Sanılanın aksine tüm dünyayı yok edemeyiz.
Yıllar ilerledikçe yapay zeka elbette gelişecektir. Bu gelişimin daha çok, temel bilimlerdeki disiplinler arası çalışmaya benzer şekilde olacağı kanaatindeyim. Yani yorumlanan bilgiler yine sınırlı bir alanda olacaktır. Hollywood’un “Terminatör, Ben Robot” gibi senaryolarının aksine daha çok manuel kontrolün olduğu bir gelecek tahmin ediyorum ben. Yapay zekanın çıktılarını yorumlayan yine insanlar olacaktır.
Siz bu konuda ne düşünüyorsunuz? Düşüncelerinizi yorumlar kısmında belirtebilirsiniz, üzerine konuşabiliriz. Konuşmanın tamamını yazının sonundaki linkten izleyebilirsiniz.
Tagged ted konuşmaları, yapay zeka, yapay zekanın gelişimi