Makinedeki Hortlak >> Ex Machina ve robotlar insana aşık olur mu? - Kozan Demircan
Kozan Demircan | 28/11/2015 | Bilim-Teknoloji | Yorum yapılmamış
Kasım ayı için hazırladığım yapay zeka yazıları çerçevesinde Ex Machina filmini tekrar izledim ve sizler için inceledim: Özgür irade var mı, insan bilinci nedir ve insan gibi düşünen robot yaratabilir miyiz?
Süper kahramanların bol olduğu Marvel Sinema Evreni gibi eğlencelik Hollywood filmlerinin yaygınlaştığı günümüzde, kimseye acımadan sağlam yapay zeka eleştirisi yapan ve insan-robot-yapay zeka ilişkisini irdeleyen bir sinema eseri bulmak zor.
Ancak her ne kadar istisnalar kaideyi bozmasa da Alex Garland’ın Ex Machina filmi bunu başarıyor. Dar mekanlarda geçen, stilize kostümler kullanan bir psikolojik gerilim bu; ama seri katiller yerine zalim insanlardan kurtulmaya çalışan bir robot kadının (androitin) maceralarını anlatıyor.
Ex Machnina, gerçekten de izleyiciyi insanın doğası, vicdan, ahlak ve özgür irade nedir gibi sorulara yönelten akılcı bir bilim kurgu filmi. Örneğin şunu sorabiliriz: İnsana benzeyen ve insan gibi düşünen robotlar kusurlu insanların arasında ahlak timsali bilgeler gibi mi davranır? Yoksa Hitler’e mi dönüşür?
Filmi izlerken kendimize şu soruları da sorabiliriz: Androitler en az insanlar kadar, belki de insanlardan daha acımasız olabilirler mi? Süper zeka ortaya çıkarsa iyi yürekli mi olacak? Yoksa kusurlu insanların eseri olduğu için insan türünü yok etmeyi mi çalışacak?
İlgili yazı: Bilimkurgu sinemasında en kötü niyetli 20 yapay zeka
Biraz spoiler verelim
Ex Machina gösterime gireli aylar oldu ve yapay zekanın sağlam bir eleştirisini yapan bu filmden yola çıkarak robotlar üzerinden insan doğasını incelemek isterseniz filmin senaryosunu ele veren birkaç açıklamayı da göze alabilirsiniz.
Nitekim felsefede ta Descartes zamanından beri karşımıza çıkan Makinedeki Hortlak kavramını ele alan Ex Machina’daki kışkırtıcı soruları yanıtlamak için bu konulara aşina olmamız gerekiyor.
Özellikle de “İnsan gibi seven, insan gibi düşünen ve insan gibi öldüren bir robot pratikte insan sayılır mı?” ve “Böyle bir robotun insan ruhu taşıdığını söyleyebilir miyiz? sorularının cevabını merak ediyorsanız.
Oscar Isaac’in canlandırdığı inzivaya çekilmiş dolar milyarderi Nathan (kendisi Bill Gates, Steven Spielberg ve Steve Jobs’un karışımı olan sapık bir dahi, aşırı zenginlikten bıkan ve hayatın anlamını kaybederek robotlarla seks fantezilerine dalan bir deli) Ava adlı bir kadın robot yaratıyor.
Norveçli genç aktris ve dansçı Alicia Vikander’in canlandırdığı androit Ava süper zeki ve çekici bir kadın.
Norveç dağlarındaki Juvet Landscape Hotel odalarında geçen filmde Nathan, Ava üzerinde çeşitli zeka ve bilinç testleri yapıyor.
Ancak en iyi testin Turing testi olacağına karar vererek (Turing testi robotların bilinç sahibi olup olmadığını, yani kendi varlıklarının farkında olup olmadıklarını ölçer) şirketinde çalışan bir adamı teste katılmak için malikanesine çağırıyor.
Kurnaz Nathan, Ava’nın dış görünüşünü ve karakterini Domhnall Gleeson’ın canlandırdığı bilgisayar programcısı Caleb’in fantezilerine göre tasarlıyor (Caleb’in porno sitelerinde hangi klipleri izlediğini internetten gözetleyerek).
Deli iş adamının amacı basit: Caleb gibi sıradan ve saf bir bilgisayar yazılımcısı Ava’nın robot olduğunu anlayamazsa androit kadın Turing testini geçmiş sayılacak. Böylece insan gibi düşünen güçlü yapay zeka olduğu kanıtlanacak.
Tanrılar ve Turing testi
Nathan haklı aslında: 1998 tarihli Baldur’s Gate PC epik fantezi rol yapma oyununun yan karakterlerinden Tamoko’nun söylediği gibi, “Bir tanrı gibi kibirliysen ve tanrı gibi öldürebiliyorsan tanrı olmadığını kim söyleyebilir?”
Özellikle süper zekayı, yani insanlardan daha güçlü ve zeki bir bilgisayarı “insanın kendi tanrısını yaratması” olarak görürsek bu çok ilginç bir soru değil mi? Turing testinin yanıt vermeye çalıştığı soru da bu.
Filmde böyle birçok detay var, ama işin özü dönüp dolaşıp balerin gibi narin yapılı olan Ava ile Caleb’in birbirine aşık olmasına dayanıyor. Ava aşık olmanın yanı sıra mizah duygusunu da sahip ve resim yapıyor. Bunlar bilinç sahibi insanları programlanmış makinelerden ayıran en büyük özellikler.
Mizah ve aşkın gücü
Gelecekbilimci Michio Kaku’nun Zihnin Geleceği kitabında dediği gibi mizah duygusu çok önemli. Çünkü biz sadece rasyonel mantığa aykırı olan, ama aynı zamanda kendi çarpık mantığına sahip olan esprilere gülüyoruz. Bunu fark etmek insan beyni için çok eğlenceli bir şey, mutlu oluyor.
Mizah dediğimiz şey tam da bu; yani hayat dediğimiz simülasyonu ifade etmek, hayatımızı eleştirmek ve incelemek için kullandığımız dolaylı bir dil. Simülasyonun simülasyonu ve bu nedenle de insanın gelişmiş bilinç düzeyinin göstergesi. Felsefe hocalarımız İstanbul Üniversitesi’nde bunu şöyle açıklardı:
Türümüzün adı olan Homo sapiens sapiens, düşündüğü üzerine düşünen insan demek. Ne düşündüğünün yanı sıra neden ve nasıl öyle düşündüğünü inceleyen insan demek: Sanat ve edebiyat bunun bir yolu. Mizah duygusu da teknolojik açıdan ilkel atalarımızdan bu yana en dolaysız ve en doğal diğer yolu.
Dar mekanları sevmem
Karanlıkta veya kapalı yerde kalma korkum yok, ama dar mekanlardan sıkılırım ve psikolojik gerilimler de dar mekanlarda geçer. Oysa Ex Machina filmini çok sevdim. Çünkü insanı gerçekten geriyor, fakat psikolojik bir gerilimden ziyade entelektüel bir gerilim filmi bu.
İnsanı düşünmeye ve kendisi hakkında, insanın doğası ve inançları hakkında zor sorular sormaya yönlendiriyor. Ancak filmin en ürkütücü yanı ne biliyor musunuz? Galiba gerçekten bu soruların bir kısmını cevaplıyor. İnsanın kabullenmeye pek hazır olmadığı cevapları sağlıyor.
Nedir bu cevaplar?
En iyi bilimkurgu filmleri hep en eski soruları soran yönetmenlerin elinden çıkar. Bu yüzden Marvel’ın Demir Adam filmlerine bile uyduruk deyip geçemezsiniz. Demir Adam sadece robotları ve dış iskeletleri ele almıyor, Yüzbaşı Amerika’yla birlikte insan olmanın doğasını ele alıyor.
Öyleyse Ex Machina’nın özünde ne var diyecek olursanız makinelerin insana aşık olması bağlamında, insanlık tarihinin en zor sorularından biri olan yapay zekayı ve robot bilincini ele aldığını söyleyebilirim. Bu konuyu İnsanlar Robotlara Aşık Olabilir mi? yazımda ele almıştım.
Şimdi de bunu tersinden sormak istiyorum, çünkü yapay zekayı analiz edeceksek biraz da insana yapay zeka gözüyle bakmak lazım.
Robotlar insana aşık olabilir mi?
Turing testi işte burada devreye giriyor. Çünkü bu sorulara cevap vermeden önce yapmamız gereken bir şey var. Bu sorulara cevap verebilecek olan bir robot, insan gibi düşünen bir robot yapmak.
Turing testinde iki kapalı kabin var. Bir kabine insan, diğer kabine de bilgisayar koyuyorlar ve insan hakim, yüzünü görmediği iki katılımcıya uzaktan sorular yöneltiyor. Verilen anonim cevaplara göre makineyi insandan ayırt edemezse bilgisayar (yapay zeka) Turing testini geçmiş oluyor.
Sosyal Turing testi
Ex Machina filminde ele alınan androitler bu açıdan çok ilginç. Çünkü insana benzeyen, aslında dış görünüş itibariyle insandan ayırt edilemeyecek kadar insana benzeyen robotlar söz konusu. Bu robotlara Turing testi yapmak da çok kolay. Çünkü yüzünü görüyor ve sesini duyuyorsunuz.
Ex Machina filminde Nathan, androit Ava’yı Caleb’le tanıştırarak bunu yapıyor ve Turing testinin zayıf yanını gidermeye çalışıyor: Yüzünü görmediğin biriyle konuşmak yerine birebir etkileşim kurmayı amaçlıyor ve “İşin zor yanı, sana onun bir robot olduğunu göstermek” diyor. “Bakalım robot olduğunu gördüğün halde bilinçli bir varlık olduğunu düşünecek misin?”
Turing testi eskidi
Alan Turing 1950’de bu testi tasarladığı zaman insana benzeyen robot üretmek hayaldi. Günümüzde bu mümkün. Ancak asıl marifet robot olduğunu bildiğimiz bir makinenin insan gibi düşünebildiğini kabullenmekte. Bu yüzden robotlar insanlara aşık olabilir mi diye sordum.
Ex Machina filmi bunun cevabını veriyor. Evet, olabilir fakat bunun gerçekten mümkün olup olmayacağını öğrenmek için filmin adının kökenini incelememiz gerekiyor. Ex Machina ne demek?
Önce biraz tarih
Makinedeki Hortlak terimini ilk olarak İngiliz filozof Gilbert Ryle, René Descartes’ın zihin-beden ikiciliğini eleştirmek için kullandı. Ryle, 1949’da yayınlanan Zihin Konsepti adlı kitabında Descartes gibi filozofların kullandığı düalist sistemlerin saçma olduğunu göstermek istedi.
Ryle, zihinsel etkinliklerin fiziksel etkinliklere paralel gerçekleştiğini söylemenin anlamsız olduğunu düşünüyordu. Ona göre Tanrının hikmeti deyip işin içinden çıkamazdık. Zihnin bedeni ve bedenin de zihni nasıl etkilediğini açıklamamız gerekiyordu.
Bazı dinler insanı Tanrının yeryüzündeki yansıması ve temsilcisi olarak görür. İnsan bedeninin fani olduğu da ortadadır. Bu dinlere göre beden insan ruhunu geçici olarak saklayan bir ortamdır, modern tanımıyla organik bir makinedir. Bu yüzden cesurca sorabiliriz:
Makinedeki tanrı nedir?
Günümüzde sinirbilim (nöroloji), nörobiyoloji ve psikoloji var. Dolayısıyla insan bilincinin beyindeki bilişsel süreçlerden nasıl ortaya çıktığı konusunda daha çok bilgi sahibiyiz (Ryle yaşasa sevinirdi).
Nitekim bazıları ruh dediğimiz şey insan bilincidir, o da beyindeki nörobiyolojik aktivitelerle ortaya çıkar diyor. Bu görüştekilere göre Turing testini geçen bütün makinelerin ruhu var diyebiliriz. İnsan gibi düşünen yapay zekanın insan zekasından farklı olduğunu düşünmek anlamsızdır da diyebiliriz.
Tabii yapay bedeni ve süper zeka durumunda insan üstü güçleri hesaba katmazsak. Kısacası ister dindar olun ister ateist makinedeki hortlak ve makinedeki tanrı sorularını cevaplamanız gerekiyor.
Ryle’ın Makinedeki Hortlak teriminin esin kaynağı Eski Yunan trajedisinden gelen Makinedeki Tanrı terimidir (Deus Ex Machina).
Grekler dramada bunu beklenmedik, yapay veya imkânsız bir karakter olarak kullanıyordu. Bir karakterin senaryo akışı içinde beklenmedik bir yerde aniden ortaya çıkmasına deus ex machina deniyordu.
Yani tiyatrodan ortaya çıktı
Bu terim anlatıcının bir anda uyanıp her şeyin rüya olduğunu anlaması veya aniden ortaya çıkan bir meleğin sorunları çözmesi için kullanılan Latince bir kalıptır (İngilizce out of the blue, “nereden çıktı şimdi bu” deyişi).
Birebir çevirisi “makineden tanrı” olan deus ex machina, antik Yunan tiyatrosunda bir tanrıyı canlandıran karakterin vinç (makine) yardımıyla sahneye yukarıdan indirilmesi anlamında kullanılıyordu.
Karman çorman Lost dizisini Deus Ex Machina kurtardı.
Lost dizisi sendromu
Antik Yunan döneminde yazılan tiyatro eserlerinde yazarların çok sık başvurduğu bir yöntemdi. Hikayenin gidişi öyle karmaşık ve içinden çıkılamaz bir hal alırdı ki artık yazarın üretebileceği ilginç bir çözüm kalmazdı.
Sıklıkla başvurulan bir yöntem olarak Zeus gibi mitolojik tanrılar bir anda ortaya çıkarak olaya müdahale eder ve ölmesi gerekeni öldürür, kurtarılması gerekeni de kurtarırlardı. Bunu Hollywood filmleri ve dizilerinde de görebilirsiniz. Lost ve Battlestar Galactica dizilerinin son bölümü buna en iyi örnektir.
Deus Ex Machina teriminin tarihsel kökeni, bize insana benzeyen robot yaratmanın neden insanın kendi tanrısını yaratması olarak görülebileceğini gösteriyor ve beklenmedik bir şekilde sona eren Ex Machina filmi için bunun büyük önemi var.
Ruhlara inanır mısınız?
Dinsel inançlarınız gereği ruhlara inanıyor olabilirsiniz. Ruhlara inananlar için durum basittir: Makine makinedir. Bir robot Turing testini geçse bile ruhu yoktur, çünkü insan değildir. Ruha inanmıyorsanız insan makinedir, robot da makinedir, öyleyse insan gibi düşünen robot da insandır diyebilirsiniz.
Ancak yukarıda Ava’nın metalik bir bedene sahip olduğunu söyledim. Bu yüzden ruhlara inanmıyor olsanız bile Ava’nın sırf insan gibi düşündüğü için insan olduğunu söylemezsiniz. Doğrudan kablo bağlantısıyla kendine Matrix filmi gibi bir anda yeni bilgiler yükleyen bir makine tam olarak insan sayılamaz.
Turing testi insanı test ediyor
Ex Machina filminin dehası da bu noktayı seyirciye anlatmasında yatıyor ve bu yüzden iyi bir bilimkurgu filmi. Açıkçası bir robotun insan olması için insana benzemesi, insan gibi düşünebilmesi yeterli değil. Önemli olan bir insanın da kendisinin (robotun) insan olduğunu düşünmesini sağlaması.
İnsanlık dediğimiz şey bilişsel ve duygusal bir kabul. Dolayısıyla Tamoko’nun sorusunu şöyle de sorabilir ve bu kez yanıtlayabiliriz: “Bir insan gibi sevebiliyor ve insan gibi gülebiliyorsan insan olmadığını kim söyleyebilir?” Kimse!
Bunun anlamı basit: Alan Turing’i yanlış anladık. Turing testi robotu test etmiyor, insanı test ediyor!
Öyleyse bilinç nedir?
Son araştırmalar insan beyninin bilinç dışı kararlar aldığını, bizim de beynimizin aldığı kararları birkaç saniye fark ederek bunlara gerekçeler uydurduğumuzu gösteriyor.
Ayrıca insan bilinci dediğimiz şeyin, beyin kabuğundaki elektriksel aktivitenin bu etkinliği oluşturan nöronlara ayna görüntü gibi geri yansımasıyla ortaya çıktığı anlaşıldı. İnsan beyni elektriksel geri besleme sayesinde kendi kendisinin farkına varıyor.
Yine de otomat değiliz. Bazen yaptığımız şeylerin, aldığımız kararların üstüne düşünüp fikir değiştirebiliyoruz. İnsanlar kendi beyninin kölesi değil, bilinçli kararlarla bilinç dışı olarak aldıkları kararları etkileyebiliyorlar.
Özgür irade bir yanılsama
Bu yüzden özgür irade hem bir yanılsama (illüzyon) hem de özgür irade var. Ex Machina filmi de robot bilinci nedir derken, aslında insan bilinci nedir diye soruyor. Çünkü insan bilincini bilmeden insan gibi düşünen yapay zeka yaratamayız.
İşin ilginci hâlâ insan beyninin tam olarak nasıl bir şey olduğunu anlamış değiliz. Özgür iradenin kısmen bir yanılsama olduğunu öğrendik. Ray Kurzweil’ın desen tanıma teorisi sayesinde insan bilincinin nörobiyolojik süreçlerle nasıl ortaya çıktığına dair bir fikir edindik.
Özellikle de bilinci ağ tabanlı çatı kavram olarak tanımlayabileceğimizi öğrendik (buna Michio Kaku’nun Zihnin Geleceği kitabı incelemesinde geri döneceğim). Ancak bunlar insan bilincinin ne olduğunu anlamak için yeterli değil.
Ex Machina’nın ana fikri
Bu film cesurca soruyor: “Bilinç nörobiyolojik bir süreç midir, yoksa aynı zamanda bir sosyal ortak kabul müdür (konsensüs). Mesele bilinçli olmak mıdır, yoksa başkalarının bilinç sahibi olduğunuzu kabul etmesi midir?
Descartes “Düşünüyorum, öyleyse varım” demişti ama Ex Machina haklıysa bunu yapmak yeterli değil. Bugün Dünya’da hemen bütün insanlar yok olsa ve geriye bir tek siz kalsanız; yani bilinçli olup olmadığınızı söyleyecek sizden başka bir kişi bile olmasa “Düşünüyorum, öyleyse varım” diyebilir misiniz?
Modern mitoloji: Zardos
Ex Machina aslında buna itiraz etmiyor ve dahice bir şey yapıyor: Androit Ava bilinçli bir varlık olduğunun farkındaysa ve “Düşünüyorum öyleyse varım diyorsa” insanlar onaylamasa da bu yeterlidir.
Neden? Çünkü homo sapiens sapiens düşündüğü üzerine düşünen insan. Ava da düşündüğü üzerine düşünen bir androit. Tek bir insan bile kendi üzerinde düşünebildiği için iki kişi sayılır.
Düşündüğü üzerine düşünen insan demek, kendi kendisiyle diyalog halinde olan insan demek. Kendi kendine konuşana deli derler ama bu bir bilinç göstergesidir. Kısacası insan bilinci hem nörobiyilojik bir süreç hem de sosyal bir kabul.
Ex Machina’nın bu kadar iyi bir film olmasının sebebi, iki bilim adamının filme danışmanlık yapmış olması. Bunlardan biri Imperial College London’dan bilişsel robotbilim profesörü Murray Shanahan. Diğeri de yazar ve genetikçi Adam Rutherford. Yönetmen Garland iyi ki bu iki araştırmacıyı işe almış. Kendisine şapka çıkarıyorum.
Toshiba’nın geliştirdiği androit kadının Eva olmasına daha çok var.
Johnny Depp’in Transcendence filmi bile zihin felsefesi, teknolojik tekillik, ahlak, internetin gözetlenmesi, gizlilik, feminizm, kadına ayrımcılık, seksüel politikalar gibi konuları böyle gerçekçi ve aynı zamanda ince bir şekilde ele geçirmemişti.
Yazıyı Popular Science Türkiye Aralık sayısı için hazırladığım Yapay Zeka dosyasından bir alıntı yaparak bitirmek istiyorum.
Robot bilimci Sebastian Tnrun diyor ki “Kimse bu şekilde ifade etmiyor ama bence yapay zeka neredeyse insani bilimler kapsamına giriyor. Bu aslında insan zekasını ve insan bilinci tanıma çabası.” Ghost in the Shell animesini bir de bu gözle izleyin. 😀
Gelecek bölüm: Michio Kaku ile Zihnin Geleceği
Terminator Gerçek Olur mu? >> Felsefe Profesörü Nick Bostrom yapay zekanın tehlikelerini anlattı
Robotlar Fabrikada İşçilerin Yerini Alıyor, İşsizlik Artıyor >> Robotlar dünyayı ele geçirir mi? – 2
Bill Gates ve Elon Musk Yapay Zekadan Neden Korkuyor? >> Düşünen robotlar dünyayı ele geçirir mi? – 1