Birkaç yıl önce izlediğim “The Good Place” adlı Netflix dizisinin bir bölümünde Tramvay problemi mizahi bir dille işleniyordu. Dizi bir sitcom ve merak edenler Netflix’e bakabilir. “Trolley Problem” adlı bölümü bulmanız zor olmayacaktır: 2. Sezon, 5. Bölüm. Peki nedir bu Tramvay Problemi? 1960’larda ortaya atılan bir etik ikilemde kontrolden çıkmış bir tramvay son sürat raylarda ilerlemektedir. Tramvayın önünde çalışmakta olan 5 işçi bulunur ve tramvayda bir de kol vardır. Eğer kola asılınırsa araç sağdaki makasa kayacak, oradaki 1 kişi ölecektir. Aksi takdirde öndeki o 5 kişi ölecektir. Peki burada kola asılmak mı daha etik bir davranıştır – genelin yararına/faydacı yaklaşım-, yoksa hiçbir şey yapmamak mı? -deontoloji, yani hiçbir şey yapmamak, cinayet işlemekten farklı değerlendirilir.
Bugün geldiğimiz noktada şoförsüz giden araçları değerlendirdiğimizde ortaya ilginç bir tablo çıkıyor. Acaba benzer bir durumda bu araca komut veren yapay zeka olsaydı, yapay zeka bu kararı tek başına alabilir miydi? Yoksa buna uygun bir algoritma mı oluşturulmalıydı? Peki ya bu algoritmayı kim oluşturacaktı? Aracın sahibi mi? Devlet mi? Yoksa aracı üreten firma mı? Ya da sigorta şirketi mi? İşte bu noktada yapay süper zeka tasarımcıları, kararı yapay zekaya bırakıyorlar. Bunu nereden mi biliyorum? Gaspard Koenig, “Bireyin Sonu” (La Fin de l’Individu, 2019) adlı kitabında, hem bu soruları soruyor, hem de yapay zeka üzerine çalışmalar yürüten firmaları ziyaret edip onlarla olan sohbetlerini anlatıyordu.
Biz ise 90’lı yıllarda çocuk olmuş bireyler olarak pek öyle felsefeyle falan haşır neşir olamadık. Bizim için felsefe, üniversite sınavında kutucukların bazılarının doldurulmasına yarayan soruların sorulduğu öylesine bir dersti ve pek öyle derin düşüncelere giremedik biz. Şu an 17 yaşındaki kızım Fransa’da lise son sınıfta ve hayatında ilk kez felsefe dersleri görüyor. Ona bazı kitaplar aldım felsefeye başlangıç için ama okuduğunu sanmıyorum. Felsefe dersini zor ve sıkıcı bulmuş. Her jenerasyonun kendine has sıkıntıları oluyor demek ki… Keşke böyle olmasa…
Dedim ya biz 90’larda Mustafa Sandal’ın araba sahibi karakterinin ruhu olmamasını konuşuyorduk. Peki neydi bu ruh? Yapay zeka tasarımcılarına göre makineye komut veren yapay zeka olduğuna göre bu bir ruh. Onlar olaya dualist yaklaşıyorlar. Yani ruh ve beden ayrımı var onlarda. Peki o zaman beden nerede? Herhalde şu Çinlilerin yaptıkları beyaz insansı robotlara da beden diyeceğiz o zaman… Peki bütün bunlar insanlığın sonunu getirebilir mi? Yani yapay zeka aracına insan öldürüp öldürmeyi serbest kıldığımız andan itibaren “insanlık için tehlike çanları çalıyor” mu demeliyiz?
Koenig ile referans verdiği yazarlar ise olaya monist bir pencereden yaklaşıyor. Özellikle Spinoza’ya atıfta bulunan Koenig, yapay zekanın ya da yapay süper zekanın insana özgü ve Spinoza’nın “kendi varlığında devam etmek” (conatus) dediği çabadan mahrum olduğunun ve böylece asla bir insan gibi proje oluşturup hayata tutunma yetisini elde edemeyeceğini belirtmiş. Böylece yapay zekanın insanlığı yok etme gibi bir projesi olamaz. Dünyaca ünlü bir nörobilimci olan Antonio Damasio ise yine Spinoza’dan hareketle bedenden ayrı bir ruh yoktur diyor ve bunu da bilimsel çalışmalarla kanıtlıyor. Zaten Damasio’ya göre bizim ruh dediğimiz şeyin çıkış noktası bedendir ve insan evrilerek karmaşık zihinsel tepkilerini açıklama yolunda ilerlemiş, buna da “ruh” demiştir. Ayrıca Damasio “Spinoza’yı Ararken” (Spinoza avait raison, 2005) adlı eserinde duygulanımlarımızın kaynağı olan objelerle olan etkileşimlerimizi kontrol altında tuttuğumuz müddetçe daha uyumlu bir hayat sürebildiğimizi söyler. İnsanlar gerçekten de kendilerine neyin iyi geldiğini bilen ve ona göre seçimler yapan varlıklardır der zaten Spinoza da…
Bu yüzden de Spinoza’da genelgeçer, dışarıdan belirleniş bir mutlak “iyi” ya da “kötü” kavramı yoktur. İnsana iyi gelen, onun hazzını artıran, kederini azaltan, yani ona yaşama sevinci verip kendi varlığında devam etmesini sağlayan şey zaten iyidir. Bu bedenimiz için de iyi olacağı için dışarıdan belirlenmiş bir yargıya ihtiyacımız yoktur. O yüzden bu araç sorusu da biraz havada kalıyor; çünkü yapay zekanın veya yapay süper zekanın bir olayı “iyi” veya “kötü” değerlendirme şansı zaten konu dışı. Ne diyorduk? Maalesef ruhu yok, çünkü bedeni yok. Ayrıca insansı robotlar şu an sadece farbrikalarda çalıştığı ve önemli kararlar almadığı için korkulacak pek bir şey yok gibi geliyor bana… Ama bir yandan da yapay zekanın bu hızla ilerlemesi de tabii ki ürkütücü.
