Alessio Malizia ve Silvio Carta tarafından yazıldı.
Ahmet Mısırlı / Shutterstock
Kısa film Slaughterbots, mikro uçağın sürülerinin binlerce insanı politik inançları için öldürdüğü yakın bir geleceği gösteriyor. Kasım ayında yayımlandı 2017 akademisyenler ve aktivistler tarafından, gelişmiş yapay zekanın (AI) tehlikelerini uyardıkları için, bugüne kadar 3m'in görüşlerini çeken hızlı bir şekilde viral hale geldi. Bu kıvılcım yardımcı oldu kamu tartışma Özerk silahların geleceği hakkında ve Birleşmiş Milletlerde toplanan diplomatlara baskı uyguladı Geleneksel Silahlar Sözleşmesi.
Fakat bu tür spekülatif bilim kurgu hikaye anlatımı sadece dikkat çekmek için yararlı değildir. İleri teknolojiyi tasarlayan ve inşa eden insanlar, çalışmalarının sonuçlarını göz önünde bulundurmak ve iyi şekilde kullanılmasını sağlamak için hikayeler kullanabilir. Ve biz bu tür bir “bilim kurgu prototipleme” veya “tasarım kurgusu” nun, insanın önyargılarının toplumun önyargılarını ve haksızlıklarını daha da içine çekerek yeni teknolojiye girmelerini önlemeye yardımcı olabileceğini düşünüyoruz.
Bir önyargı, bazı kategorilerin (sonuçların, insanların veya fikirlerin) diğerleri arasında keyfi bir şekilde tercih edilmesine yol açabilir. Örneğin, bazı insanlar, bilinçli olup olmadıklarına bakılmaksızın kadınları yönetici işleri için işe alma konusunda önyargılı olabilirler. ya da değil.
Bu tür önyargıları kaydeden veri üzerine inşa edilmiş teknoloji sona erebilir sorunu çoğaltma. Örneğin, belirli bir iş için en iyi CV'leri seçmek üzere tasarlanmış işe alım yazılımı, erkeklere yönelik bilinçdışı bir önyargıyı yansıtan özelliklerin aranması için programlanabilir. Bu durumda, algoritma erkeklerin CV'leri lehine sonuçlanacaktır. Ve bu teorik değil - bu aslında Amazon'a oldu.
Olası olumsuz etkileri göz önünde bulundurmadan algoritmalar tasarlamak karşılaştırıldı Doktorlara “verilen tedavinin yararları hakkında yazmak ve ne kadar ciddi olursa olsun yan etkileri tamamen görmezden gelmek”.
Bazı teknoloji firmaları ve araştırmacılar bu sorunu çözmeye çalışıyor. Örneğin, Google bir etik ilkeler kümesi AI'nın gelişimine rehberlik etmek. Ve İngiltere akademisyenleri bir girişim başlattı Eşit değil teknoloji tasarımında ve kullanımında daha fazla adalet ve adaleti teşvik etmeyi amaçlamaktadır.
Sorun şu ki, halka açık olarak, şirketler sadece yakın gelecekteki teknolojilerin potansiyel sonuçlarına dair olumlu bir vizyon sunma eğilimindedir. Örneğin, şoförsüz araçlar genellikle tüm nakliye sorunlarımızı maliyetten güvenliğe çözerek, artan ihmali göz ardı ederek tasvir edilir. siber saldırı tehlikeleri ya da insanları cesaretlendirdikleri gerçeği yürümek veya daha az bisiklete binmek.
Dijital teknolojilerin nasıl çalıştığını anlamadaki zorluk, özellikle de belirsiz algoritmalar tarafından yoğun olarak kullanılanlar, insanların sorunları karmaşık ve kapsamlı bir şekilde görmelerini zorlaştırıyor. Bu durum, güven verici bir pozitif anlatı ile önyargıların çevremizdeki teknolojilere bir dereceye kadar gömüldüğü belirsiz şüphe arasında bir gerilim yaratır. Burası tasarım kurgusu aracılığıyla hikaye anlatımının ortaya çıkabileceği yer.
Hikayeler, olasılıklar ve karmaşık durumlar hakkında düşünmenin doğal bir yöntemidir ve onları hayatımız boyunca duyduk. Bilim kurgu, Slaughter'lerin yaptığı gibi yakın gelecekteki teknolojilerin toplum üzerindeki etkilerini tahmin etmemize yardımcı olabilir. Bu, mülteciler ve göçmenler gibi bazı grupların olabileceği gibi sosyal adalet sorunlarını da içerebilir. dışında dijital yenilikler.
(Olası) geleceği ortaya çıkarmak
Kurgu hikayeleri tasarla tasarımcıların, mühendislerin ve fütüristlerin (diğerleri arasında) teknolojinin insani bakış açısıyla etkisini düşünmesi ve olası gelecekteki ihtiyaçlarla ilişkilendirmesi için yeni bir yol sağlar. Mantık ve hayal gücünün bir karışımıyla, tasarım kurgusu, teknolojinin nasıl benimsenebileceği ve kullanılabileceği ile ilgili konuşmaları başlatabilir. gelecekteki sonuçlar.
Örneğin, kısa hikaye “Suç-kaynak“AI kimin bir cinayet işleyeceğini tahmin etmek için kitle kaynaklı bilgileri ve suç veritabanını kullanırsa ne olabileceğini araştırıyor. Araştırmacılar, veri tabanının, azınlık etnik gruplardaki, sosyal nedenlerden ötürü, istatistiksel olarak yeniden ortaya çıkma olasılığının daha fazla olduğu, “suç-kaynak” modelinin daha muhtemel olduğu insanlarla dolu olduğu sonucuna vardı. yanlış şüpheli azınlıklar beyazlardan daha.
Tasarım kurgusu üretmek için yetenekli bir yazar olmak ya da kaygan bir film yapmak zorunda değilsiniz. Kartları ve storyboard'ları içeren beyin fırtınası faaliyetleri kullanılmış tasarım kurgusu geliştirmek ve hikaye anlatımı sürecini geliştirmeye yardımcı olmak. Bu tür araçları kullanan atölyeleri daha fazla mühendis, girişimci ve politika belirleyicinin bu değerlendirme yöntemini kullanmasını sağlayacaktır. Sonuçta ortaya çıkan çalışmayı kamuya açık yapmak, teknolojilerdeki potansiyel önyargıları toplumu etkilemeden ortaya çıkarmaya yardımcı olacaktır.
Tasarımcıları bu şekilde daha fazla hikaye yaratmaya ve paylaşmaya teşvik etmek, yeni teknolojiyi destekleyen anlatının sadece olumlu bir tablo sunmamasını, ne de son derece olumsuz ya da distopik bir anlatım sunmamasını sağlayacaktır. Bunun yerine, insanlar çevremizdekilerin her iki yönünü de takdir edeceklerdir.
Alessio Malizia, Kullanıcı Deneyimi Tasarımı Profesörü, University of Hertfordshire ve Silvio Carta, Sanat ve Tasarım Bölüm Başkanı ve Tasarım Araştırma Grubu Başkanı, University of Hertfordshire
Buradasınız: Anasayfa > Yaşayan > Bilim ve Teknoloji > Bilim Kurgu Bizi Kötü Teknolojiden Nasıl Koruyabilir?