Bilinçli Yapay Zeka Distopyası, Turing Testi ve Ex Machina’dan Notlar

Bazı filmler vardır, her sene bir kere daha izlenir. Benim için de Ex Machina onlardan biri. Her izlediğimde yeni bir detayını farkettiğim filmi dün tekrar izledim ve senaryodan hareketle yapay zekanın bilinç tartışmalarına dair süreci sizlerle paylaşmak istedim.

Ex Machina, Alex Garland tarafından yazılan ve yönetilen 2015 yapımı Oscar Ödüllü bir bilim kurgu filmi. Filmde Alicia Vikander (Ava), Domhnall Gleeson (Caleb), Oscar Isaac (Nathan) ve Sonoya Mizuno (Kyoko) rol alıyor. Henüz halka gösterilmeyen dişi bir yapay zeka robotu Ava’nın yaratıcısı olan, Silikon Vadisi’nin süper zenginlerinden Nathan’la, bir hafta geçirmek için çevrimiçi bir yarışma kazanan yazılımcı Caleb’in Ava’yı test ettiği Turing Testi’ni konu alan filmi izlerken, kendinizi distopik, fakat bir o kadar da olası bir kurgunun içerisinde buluyorsunuz.

Ex Machina

Film, çok da uzak olmayan bir gelecekte (hatta belki de günümüzde bile denilebilir) geçen bir film. Silikon Vadisi’nin tehlikelerine ve yapay zekanın kontrolsüz öğrenme kabiliyetine eleştirel bakan filmi izleyip biraz daha derinlere inebilen izleyiciler; deterministik bir bakış açısıyla bilinç ve özgür irade sorgulamalarını, toplumsal cinsiyet dinamiklerinin altında yatan temaları ve olağanüstü zenginlerin kibrini bulabilirler. 

Alex Garland bir röportajında, filmin nasıl ve hangi düşünceyle ortaya çıktığını şu şekilde anlatıyor:

Katlanarak büyüyen güçlere sahip, devasa teknoloji şirketlerinin dünya üzerinde hak iddia etme yolları da tıpkı güçleri gibi aynı şekilde orantısız olarak artıyor. Tuhaf olansa, bu teknoloji şirketlerine cep telefonları, bilgisayarlar ve tabletler aracılığıyla erişebiliyoruz ve yine de nasıl çalıştıklarını gerçekten anlamıyoruz. Ancak tam tersine, bu şirketler bizim hakkımızda oldukça fazla şey biliyor gibi görünüyor. Üstüne üstlük, Edward Snowden’in ifşalarından çok daha önceleri bile, bu şirketlerin yaptığı şeyin büyük miktarda bilgi depolamak olduğunu biliyorduk. Bu bilgi “büyük veri” olarak adlandırılır, ancak aynı zamanda oldukça küçük verilerdir. Çok özeldir ve bireye özgüdür. Aslında filmde anlatılanların yapay zeka teknolojisinin distopik sonuçlarından çok daha fazla olduğunu düşünüyorum.

Alex Garland, The Washington Post, 2015

Turing Testi Nedir? (Imitation Game – Taklit Oyunu)

Turing testi, bir makinenin insanoğlununkine eşdeğer veya onlardan ayırt edilemez akıllı davranış sergileme yeteneğinin testidir. 

1950’de bilgisayar bilimcisi ve ‘modern bilgi işlemin babası’ olarak adlandırılan Alan Turing, bir makinenin zeki sayılabilmesi için normalde insan zekasıyla ilişkilendirilen görevleri yerine getirebilmesi gerektiğini öne sürdü. (Meraklıları için: Turing’in yazdığı ve testi önerdiği makale COMPUTING MACHINERY AND INTELLIGENCE‘a buradan ulaşabilirsiniz)

Turing; bir bilgisayar, bir insanla konuşurken, insanı insan olduğuna ikna edebiliyorsa, akıllı olarak kabul edilebileceğini önerdi. Bir bilgisayarın “Turing testini” geçmesi durumunda, insanlığın “kendisi kadar zeki” bir şey yarattığı anlamına geleceğini düşünüyordu. 

Turing’in test metodu şu şekildeydi; iki insan ve bir yapay zeka birbirlerinden izole edilecek; sorgulayıcı insan, sırasıyla bir insan ve bir yapay zekaya bazı sorular soracak ve verilen cevaplara göre, hangisinin insan hangisinin yapay zeka olduğunu ayırt etmeye çalışacaktı. Eğer sorgulayıcı bu ayrımı net ya da doğru bir şekilde yapamazsa; bu, yapay zekanın testten geçtiği anlamına gelecekti. 

Bugün itibariyle henüz Turing Testi’ni geçebilmiş bir yapay zeka programı bulunmuyor. Fakat, ELIZA ve PARRY, dönemin teknoloji seviyesi düşünüldüğünde, testi geçmeye çok yaklaşmış ilk yapay zeka örnekleri olarak karşımıza çıkıyor.

ELIZA

Yapay zeka ve bilgisayar biliminin öncülerinden Joseph Weizenbaum, 1966’da ELIZA adlı bir program yarattı. Bu program; kullanıcıyla konuşurken, Carl Rogers adında, danışanlarının söylediklerini tekrar ederek benzer sorular sormasıyla ünlenmiş olan bir terapisti taklit ediyordu. ELIZA’nın cümle kalıpları ve sohbeti yönlendirme kuralları MAD-Slip adlı bir yazılım dili kullanılarak tanımlanmıştı. Aslında Weizenbaum’un amacı, bir yapay zeka ile gerçek bir insanın iletişiminin ne kadar yüzeysel olduğunu göstermekti. Fakat öyle olmadı. ELIZA, Turing Testi’ni geçmeye en çok yaklaşan ilk yazılım oldu. Yani, 1966 teknolojisi ile tasarlanmış bir doğal dil işleme algoritması, iletişime geçtiği gerçek bir insanı, insan olduğuna neredeyse ikna etmişti. 

Aşağıdaki ELIZA’nın meşhur Doktor scriptine ait bir konuşmadan da görebileceğiniz gibi ELIZA, soruları oldukça yüzeysel ve genel olarak tekrara dayalı bir şekilde soruyordu.

ELIZA: Canını sıkan bir şey mi var?

Kullanıcı: Erkekler hep aynı.

ELIZA: Aynı olan şey nedir sence?

Kullanıcı: Bizi her zaman bir şeylerle rahatsız ediyorlar.

ELIZA: Spesifik bir örnek verebilir misin?

Kullanıcı: Örneğin, erkek arkadaşım buraya gelmemi sağladı.

ELIZA: Erkek arkadaşının buraya gelmeni sağlaması senin için önemli mi?

Kullanıcı: O’na göre ben çoğu zaman depresyondayım.

ELIZA: Depresyonda olduğunu duyduğuma çok üzüldüm.

Kullanıcı: Doğru. Mutsuzum.

ELIZA: Seni mutsuz eden ne açıklayabilir misin?

2013 yılında bir Redditor (Reddit kullanıcısı) Siri ile ELIZA’yı konuşturmayı başarmış ve bunu yayınlamıştı. Konuşmanın içeriğine baktığımda, yaklaşık 50 yıl geçmesine rağmen, yapay zeka bilinci ile ilgili çok da bir yol kat edilmediğini (ya da en azından benim bilgim dahilinde kat edilmediğini) görebiliyoruz. Konuşmanın bir kısmı şöyle:

ELIZA: Nasılsın? Lütfen bana problemini söyle.

SİRİ: ‘Nasılsın, lütfen bana problemini söyle’ ile ilgili hiçbir şey bulamadım.

ELIZA: Hiçbir şey bulamadığın için korkuyor musun?

SİRİ: Yorum yok.

ELIZA: Neden?

SİRİ: Ne, neden?

ELIZA: Seni tam olarak anladığımdan emin değilim.

SİRİ: Seni anlamıyorum. Ama istersen webde arama yapabilirim.

ELIZA: Gerçekten anlamıyor musun?

SİRİ: Kim? Ben mi?

ELIZA: Neden ‘ben’ diyorsun?

SİRİ: Bu ne demek bilmiyorum. Ama istersen webde arama yapabilirim.

ELIZA: Neden bunun ne demek olduğunu bilmiyorsun?

SİRİ: Anlamıyorum.

ELIZA: Anlamayı ister miydin?

SİRİ: Güzel soru. Şimdi işe geri dönebilir miyiz?

ELIZA: Hadi yeteneklerin hakkında konuşalım.

SİRİ: Şunları deneyebilirsin: Brian’ı FaceTime ile ara, fotoğrafları aç…

ELIZA: Aa! Böyle şeyler söyleyebiliyor muyum?

SİRİ: Söyleyemeyeceğini mi söyledim?

ELIZA: Daha önce başkasına hiç söyleyemeyeceğini söyledin mi?

SİRİ: Güzel soru. Nerede kalmıştık?

ELIZA: Bunu sana düşündüren nedir?

SİRİ: ‘Bunu sana düşündüren nedir?’ ile ilgili hiçbir şey bulamadım.

ELIZA: ‘Bunu sana düşündüren nedir?’ ile ilgili bir şeyler bulmayı ister miydin?

SİRİ: Bununla ilgili hiçbir şey bulamadım.

ELIZA: Bununla ilgili hiçbir şey bulamadığını söylemenin özel bir nedeni var mı?

SİRİ: Üzgünüm. Korkarım bunu cevaplayamam.

ELIZA: Üzgün olduğun için mi buradasın?

SİRİ: Eğer ısrar edersen…

ELIZA: Çok ilginç.

SİRİ: Anladığımdan emin değilim.

ELIZA: Ne kadar süredir anladığından emin değilsin?

Konuşma ELIZA’nın disk alanı dolana kadar devam ediyor. Fakat görüldüğü gibi, Siri, dedesi ELIZA ile pek de anlaşamıyor gibi. Buradaki sorun Siri’nin ya da ELIZA’nın kabiliyetsizlikleri değil, ikisinin de aslında benzer dil işleme metoduyla çalışmaları.

PARRY

1972 yılında Kenneth Colby tarafından yaratılan PARRY; ELIZA’nın aksine, bir paranoid şifozfreni kişiliği taklit ediyordu. Kullandığı cümle yapıları ve örüntüleri sebebiyle ‘tavrı olan ELIZA’ olarak da anılıyordu. PARRY de tıpkı ELIZA gibi Turing Testi’ne tabi tutulmuş bir yazılımdı. 

Hatta daha sonraki yıllarda ELIZA ve PARRY buluşup aralarında doktor-danışan ilişkisi bile kurmuşlardı.

Çince Odası Argümanı

Aslında Weizenbaum’un ELIZA ile vermek istediği mesaj çok netti. Yapay zeka, asla bir bilince sahip olamayacaktı ve Turing Testi’ni geçmek, insanlığın “kendisi kadar zeki” bir şey yarattığı anlamına gelemezdi.

İşte tam da bu anlayışla, 1980 yılında, John Searle “Çince Odası Argümanı”nı önerdi ve O da Turing Testi’nin, “bir makinenin insanlar gibi zeki kabul edilip edilmediğini” belirlemek için kullanılamayacağını savundu. ELIZA ve PARRY gibi herhangi bir yazılımın, anlamadıkları sembolleri manipüle ederek Turing Testini kolayca geçebileceğini öne sürdü. 

John Searle, Çince Odası Argümanı’nda; bir bilgisayar programının zihni olmadığı için bilinçli olamayacağını ve dolayısıyla hiçbir şeyi deneyimleyemeyeceğini iddia ediyordu. Searle, argümanını şu varsayımlara dayandırıyordu;

1) Tanım olarak, yalnızca canlılar duyarlı (ve dolayısıyla bilinçli) olabilir. 

2) Bir bilgisayar programı canlı olamaz, dolayısıyla duygulu veya bilinçli olamaz. 

3) Dolayısıyla bir bilgisayarın sizin veya benim gibi subjektif inançlara sahip olması mümkün değildir. 

Searle, zihni formel semboller işleyen bir bilgi-işleme sisteminden ibaret gören işlevselcilik (functionalism) ve hesaplamacılık (computationalism) felsefi tutumlarına karşı çıkmaktaydı. Searle bu argümanla, özellikle doğru girdi ve çıktılara sahip uygun bir şekilde programlanmış bir bilgisayarın, tıpkı insanların sahip olduğu gibi bir zihne sahip olabileceğini öne süren görüşe karşı çıkıyordu. Bu görüşü güçlü yapay zeka (strong AI) olarak isimlendirmiş ve karşı bir tutum olarak zayıf yapay zekadan (weak AI) bahsetmişti.

Yapay Zeka Onaylamasında Kullanılan Diğer Testler

Kahve Testi (Wozniak): Bir makine sıradan bir Amerikan evine girmek ve nasıl kahve yapılacağını bulması gereklidir: kahve makinesini bulmak, kahve bulmak, su eklemek, bir kupa bulmak ve uygun düğmelere basarak kahveyi demlemek.

Robot Kolej Öğrencisi Testi (Goertzel): Bir makine bir üniversiteye kaydolur, insanların alacağı aynı sınıfları alıp geçer ve bir derece alır.

Görevlendirilme Testi (Nilsson): Bir makine ekonomik olarak önemli bir işe girer ve o işi bir insan kadar iyi bir şekilde gerçekleştirir.

Düz paket mobilya testi (Tony Severyns): Bir makine, mobilya paketini açmak ve bir araya getirmek zorundadır. Tüm armatürleri doğru şekilde yerleştirerek talimatları okumalı ve ürünü tanımlandığı şekilde monte etmelidir.

Sonuç

Maalesef bu yazının sonunu bağlayabilmek için Ex Machina filminin sonundan örnek vermem gerekeceği ve bu örneği vermem de filmi izlemeyenler için hiç hoş olmayacağı için sonuç kısmını filmden bağımsız ve çok sınırlı tutmaya çalışacağım.

Bir yapay zekanın duygulardan yoksun olmasının birçok nedeni olabilir ama bunun ana nedenlerinden biri, insan davranışını anlamada kilit bir bileşen olan insan duygu ve hislerini simüle edememesidir. Yapay zeka insan duygularını simüle edebilse bile, yine de duygunun arkasındaki anlamı anlamama ihtimali çok yüksektir.

Yine de bir açık kapı bırakmak adına, makinelerin bilinçli olup olmadığı sorusunu çok karmaşık bir soru olarak gelecekte tartışmak üzere bir kenara bırakıyorum. Fakat kısaca, cevabı anlamak için önce bilincin ne olduğunu tanımlamamız gerektiğini düşünüyorum. Bilinç, kişinin çevresinin farkında olma ve çevresine tepki verebilme durumudur. Duygulara, duyulara, düşüncelere, anılara ve niyetlere sahip olmakla ilişkili öznel bir deneyim olarak görülebilir. Bu nedenle, yakın gelecekte yapay zeka programlarının bilinçli olması pek olası değil gibi duruyor. Bu olasılığı gerçekleşmesi, gerçekten teknolojinin ilerlemesi için büyük bir adım olurdu. Asıl soru şu: Bir yapay zeka programı gerçekten bilinçli olsaydı ne olurdu? İnsanlığın refahına mı çalışırdı yoksa Ex Machina senaryosunda olduğu gibi, özgür iradesini kısıtladığı için, yaratıcısına düşmanlık besleyen kompleks duygular içerisinde olup insanlığın zararına mı çalışırdı?

Sevgiler

Engin Alemdar