Yapay zekadaki büyük gizem
En modern algoritmaların nasıl çalıştığını ve ne yaptığını aslında hiç kimse bilmiyor. Peki bu ileride büyük bir sorun olabilir mi?
26 EYLÜL, 20170
Geçen yıl New Jersey, Monmouth County’nin ıssız yollarında kendi kendine giden tuhaf bir arabanın lansmanı yapılmıştı. Bilgisayar çipi üreticisi Nvidia’daki araştırmacılar tarafından geliştirilen bu deneysel araç aslında diğer şoförsüz arabalardan pek de farklı görünmüyordu. Ancak Google, Tesla veya General Motors’un tanıtımını yaptıklarına da hiç benzemiyordu ve resmen yapay zekanın yükselen gücünü gösteriyordu. Bu araba bir mühendis veya yazılımcının verdiği talimatlara uymuyordu. Aksine, bu araba kendisine araç sürmeyi bir insanı araba kullanırken izleyerek öğreten bir algoritmaya sahipti. Bir arabayı bu şekilde sürüş yapabilir hale getirmek müthiş bir ustalık gerektirir. Ancak arabanın kendi kararlarını nasıl verdiğinin tam anlamıyla net olmaması yüzünden bu durum bir parça huzursuzluk verici. Bu aracın sensörlerinden gelen bilgiler doğrudan bu verileri işleyen ve sonra direksiyon, frenler ve diğer sistemlerin nasıl çalışması gerektiğine dair komutları gönderen devasa bir yapay sinir ağına gidiyor. Sonuçta ortaya bir insan sürücüden bekleyebileceğiniz türden tepkiler çıkmış gibi görünüyor. Ancak bu araç ya bir gün ağaca çarpmak ya da yeşil ışıkta beklemek gibi umulmadık bir şeyler yaparsa ne olacak? Gelinen şu noktada bunun neden olduğunu anlamak çok zor olabilir. Bu sistem o kadar karmaşık ki tasarlayan mühendisler bile bugün onun herhangi bir tepkisinin nedenini açıklamakta güçlük çekebiliyor. Sorularınıza hep şu cevabı alıyorsunuz: Yapay zekanın her zaman neyi neden yaptığını açıklayabilecek bir sistemi tasarlamak mümkün değil. Bu araçla ilgili gizem aslında yapay zekanın içindeki belli belirsiz görünen bir soruna işaret ediyor. Derinlemesine öğrenme olarak bilinen bu aracın altında yatan yapay zeka teknolojisi, geçtiğimiz yıllarda problemlerin çözümünde son derece etkili olduğunu ispatlamıştı ve görüntü eşleştirme, ses tanımayla yabancı dil tercümesi gibi alanlarda yaygın bir şekilde kullanılmıştı. Şimdi aynı tekniklerin ölümcül hastalıkların teşhisine, milyon dolarlık ticaret anlaşmalarına ve endüstrilerin tamamının dönüştürülmesine sayısız faydası olacağına dair bir umut var. Ancak biz derinlemesine öğrenme gibi teknikleri kendi yaratıcıları için daha anlaşılabilir ve kullanıcıları için de daha hesap verebilir hale getirmenin yollarını bulmadıkça bu gerçekleşmeyecek ya da asla gerçekleşmemeli. Aksi halde arızaların ne zaman olabileceğini öngörmek çok zor olacak ve bu arızalar kaçınılmaz bir şekilde gerçekleşecek. İşte Nvidia’nın arabasının halen deneysel olmasının bir nedeni de bu.
KARA KUTU YÖNTEMİ
Bugün kimlerin şartlı tahliyeyle salıverileceği, kimlere kredi tahsis edilebileceği ve kimlerin işe alınabileceğine karar verilmesinde matematiksel modellerden faydalanılıyor. Artık bankalar, ordu, işverenler de dikkatlerini otomatik karar alabilen karmaşık öğrenen makineler yaklaşımına kaydırıyor. Bu yaklaşımlardan en yaygın olanı derinlemesine öğrenme ise bilgisayarların programlanmasında kökten farklı bir yolu temsil ediyor. Öğrenen makine uygulamaları üzerinde çalışan bir MIT profesörü olan Tommi Jaakkola, “Öğrenen makinelerle ilgili belirgin bir sorun var ve ileride bu çok daha aşikar olacak. Sonuçta yatırımla ilgili, tıbbi ya da askeri bir karar alırken sadece bir ‘kara kutu’ yöntemine bel bağlamak istemezsiniz” diyor. Bir yapay zeka sistemini nasıl sonuçlar çıkardığına dair sorgulayabilir olmanın temel bir hukuki hak olup olmadığıyla ilgili daha şimdiden bir tartışma var. Avrupa Birliği 2018 yaz aylarından başlayarak şirketlerden kullanıcılara otomatik sistemlerin aldıkları kararların açıklamasını yapmalarını zorunlu kılabilir. Reklamlarda faydalanılan veya şarkı tavsiyeleri yapan derinlemesine öğrenme kullanan uygulamalar ve web siteleri gibi oldukça basit ve yüzeysel sistemlerin bile bunu gerçekleştirmesi imkansız olabilir. Bu servisleri çalıştıran bilgisayarlar kendi kendilerini programlar ve bu işi bizim anlayamayacığımız yollardan yaparlar. Bu uygulamaları yaratan mühendislerin kendileri bile onların davranışlarını tam olarak açıklayamaz. İşte bu durum soruların ortaya çıkmasına neden oluyor. Elbette biz insanlar da kendi düşünce süreçlerimizi her zaman açıklayamayabiliriz. Ancak biz daima insanlara güvenmenin ve onları ölçmenin sezgisel yollarını bulabiliriz. Peki bir insanın yaptığından farklı bir şekilde düşünen ve kararlar veren makineler için de bu mümkün olacak mı? Biz daha önce hiçbir zaman kendi yaratıcılarının anlamadığı çalışan makineler yapmadık. Öngörülemez ve esrarengiz akıllı makinelerle iletişim kurmayı ve onlarla iyi geçinmeyi umabilir miyiz? Bu sorular bizi Google’dan Apple’a kadar pek çok şirketin yapay zeka algoritmaları üzerine yaptıkları deneysel araştırmalar hakkında bir yolculuğa çıkardı. 2015 yılında New York’taki Mount Sinai Hastanesi’nde bir araştırma grubu, bu hastanenin devasa büyüklükteki hasta kayıt veritabanına derinlemesine öğrenmeyi uygulamaya kalkışmıştı. Bu veri setinin içinde hastalarla ilgili test sonuçlarından, doktor vizitelerinden ve diğerlerinden toplanmış yüzlerce değişken vardı. Bu araştırmacıların Deep Patient (Derin Hasta) adını koydukları bu program yaklaşık 700 bin bireyden toplanmış veriler kullanılarak eğitilmişti ve yeni kayıtlar üstünde denendiğinde hastalıkların teşhisinde inanılmaz derecede başarılıydı. Deep Patient herhangi bir uzman doktor desteğine gerek duymaksızın insanların içinde karaciğer kanserinin de olduğu geniş bir rahatsızlıklar yelpazesine dahil olup olmadıklarını anlamak için hastane verilerinde saklı örüntüler olduğunu keşfetmişti. Mount Sinai’deki bu ekibi yöneten Joel Dudley, “Bir hastanın kayıtlarından hastalıkları teşhis etmekte çok iyi olan pek çok yöntem vardır” diyorve ekliyor: “Ancak bu çok daha iyi bir yöntem.”
MODELLER NASIL ÇALIŞIYOR?
Deep Patient aynı zamanda biraz muammalı. Bu program, şizofreni gibi psikiyatrik rahatsızlıkların başlangıcını mükemmel şekilde öngörebiliyor. Şizofreni doktorlar için sezilmesi son derece zor bir hastalık olduğu için Dudley programın bunu nasıl gerçekleştirdiğini merak etmişti ve halen bunun cevabını bulmuş değil. Bu yeni araçlar bir işi nasıl yaptıklarına dair hiçbir ipucu vermiyor. Eğer Deep Patient gibi programlar doktorlara gerçekten yardımcı olacaksa, işin ideali onların doktorlara mesela bir hastanın reçetesindeki ilacın değiştirilmesi gibi kendi öngörülerinin arkasında yatan mantığı da sunmaları ve kendi önerilerinin doğru olduğu yönünde güvence vermeleri olacaktır. Dudley üzülerek “Biz modeller yaratabiliriz, ancak onların işe yarayıp yaramayacağını bilemeyiz” diyor. Yapay zeka her zaman böyle değildi. Başlangıcında yapay zekanın ne kadar anlaşılabilir veya ne kadar açıklanabilir olması gerektiğiyle ilgili iki farklı düşünce ekolü vardı. Bu alanda akla yatkın pek çok fikir, kurallara ve mantığa uygun sonuçlar çıkaran ve iç işleyişi onun yazılımını incelemek isteyen herkese şeffaf olan makineler yapmak yönündeydi. Diğerleri ise makinelerin biyolojiden esinlenmeleri ve gözlemle, deneyimlemeyle öğrenmeleri durumunda zekalarının daha kolay gelişebileceğini düşünüyordu. Bu ise bilgisayar programcılığını tepe taklak etmek anlamına geliyordu. Bir sorunu çözmek için bir programcının komutlar yazması yerine, bu program örnek verilere ve istenilen çıktılara bakarak kendi algoritmasını kendisi yaratıyor. Günümüzdeki en güçlü yapay zeka sistemlerine doğru evrimleşen öğrenen makine teknikleri ikinci yolu izlemişti: Özünde kendi kendini programlayan makineler. Başlangıçta bu yaklaşımın pratikte sınırlı bir kullanımı vardı ve 1960’lar ile 1970’lerde büyük ölçüde belirli bir alana hapsolmuştu. Sonrasında pek çok endüstrinin bilgisayarlaşması ve ortaya büyük veri setlerinin çıkmasıyla ona duyulan ilgi yeniden arttı. Bu durum çok daha güçlü öğrenen makine tekniklerinin geliştirilmesine ilham kaynağı oldu. Bilhassa yapay sinir (neural) ağları olarak bilinenin yeni sürümlerine. 1990’lar itibarıyla sinir ağları artık elle yazılmış harfleri otomatikman dijitalleştirebilir hale geldi. Ancak otomatik algılamada dramatik boyutta ilerleme kaydeden çok büyük ya da derin sinir ağlarının ortaya çıkması için bir yığın hassas ayar ve düzeltme yapıldıktan sonra içinde bulunduğumuz 10 yılın başına kadar beklenmesi gerekmişti. Günümüzdeki yapay zeka patlamasının tek sorumlusu derinlemesine öğrenmedir. Bilgisayarlar tıpkı bir insanın söylenen kelimeleri anlama yeteneğine benzer olağanüstü güçler kazandı. Derinlemesine öğrenme aslında bilgisayar vizyonunu dönüştürdü ve makine tercümesini dramatik boyutta artırdı. Ondan artık tıpta, finansmanda, imalatta ve daha nice alanda her türlü kilit kararların alınmasında rehber olarak faydalanılıyor.
BİLİNMEZ OLMAK ZORUNDA DEĞİL
Elle programlanan bir sisteme kıyasla herhangi bir öğrenen makine teknolojisinin iç işleyişi doğası gereği bilgisayar bilimcileri için bile çok kapalı bir sistemdir. Ancak bu gelecekte tüm yapay zeka tekniklerinin aynı şekilde bilinmez olacağı anlamına gelmez. Fakat doğası gereği derinlemesine öğrenme kesinlikle kapkara bir kutudur. Derin bir sinir ağının nasıl çalıştığını görmek için tutup da içine bakamazsınız. Bu ağlarda mantık aslında karmaşık bir şekilde iç içe geçmiş düzinelerce ve hatta yüzlerce katmanda yerleştirilmiş binlerce taklit sinir hücresinin davranışlarının içinde saklıdır. İlk katmandaki sinirler, bir görüntünün piksel yoğunluğu gibi bir girdiyi alır ve sonra yeni bir sinyalin çıktısını üretmeden önce bir hesaplama yapar. Karmaşık bir ağda bir sonraki katmandaki sinirler bu çıktıyla beslenir ve genel bir çıktı üretilinceye kadar bu süreç sonraki katmanlarda tekrarlanır. Ayrıca ağın istenilen çıktıyı üretmeyi öğrenmesini sağlayacak şekilde tek tek sinirlerin hesaplamalar yapmasına olanak sağlayan ve geri yayılım denilen bir süreç daha vardır. Derin bir ağdaki çok sayıda katman onun nesneleri farklı soyutlama seviyelerinde tanıyabilmesini sağlar. Mesela sadece köpekleri tanımak için tasarlanmış bir sistemde alt katmanlar ana hatlar veya renk gibi basit şeyleri fark eder; daha üst katmanlar ise kürk veya gözler gibi biraz daha karmaşık özellikleri ayırt eder. En üstteki katman onu bir köpek olarak tanımlar. Aşağı yukarı aynı yaklaşım bir makineye kendi kendine öğretmesini sağlayan diğer girdilere de uygulanabilir: Bir konuşmada kelimeleri oluşturan seslere, bir metinde cümleleri oluşturan harflere ve kelimelere veya araba kullanmak için gerekli direksiyon hareketlerine…