Sevgili okurlar, size felsefenin en meşhur düşünce deneylerinden birini hatırlatayım. Tramvay Problemi. Bir tren raylarda hızla ilerliyor. Önünüzde iki yol var. Birinde beş kişi, diğerinde bir kişi. Eğer hiçbir şey yapmazsanız beş kişi ölecek. Ama makası değiştirirseniz bu kez bir kişiyi göz göre göre ölüme göndereceksiniz. Şimdi soruyorum. Siz olsaydınız hangi yolu seçerdiniz?
Bu soru, yıllardır felsefe derslerinde tartışıldı. Kimileri “Beş kişiyi kurtar, çoğunluğun yararı önemlidir” dedi. Kimileri ise “Aktif olarak birini öldürmek, pasif kalmaktan daha ağırdır” diyerek müdahale etmeyi reddetti. İşte bu basit görünen senaryo, insan vicdanını en zorladığı noktadan yakalar. Kimi yaşatacağız, kimi ölüme göndereceğiz?
Şimdi düşünün, bu ikilem sadece kitaplarda kalmıyor. Çünkü bugün hayatımıza giren otonom araçlar bu soruyla gerçek anlamda yüzleşmek zorunda. Direksiyonda artık insan yok, kararları yazılım veriyor. Ve bir kaza anında algoritma, tramvay problemindeki gibi ölümcül kararlar almak zorunda kalacak.
Hayal edin. Otonom aracınızla işe gidiyorsunuz. Siz arka koltukta kahvenizi yudumlarken aracınız kusursuz bir şekilde ilerliyor. Bir anda yolun ortasına bir grup çocuk fırlıyor. Aracın durması imkânsız. Eğer direksiyonu sağa kırarsa araç yoldan çıkacak ve içindeki yolcular (siz) ağır yaralanacak, belki de ölecek. Düz gitse karşısındaki çocuklar hayattan kopacak. Şimdi soralım. Algoritma kimi korumalı? İçindekileri mi, yoldakileri mi? İşte tramvay probleminin günümüzdeki gerçek hali budur.
Bu mesele yalnızca bireysel değil, toplumsal ve kültürel bir boyuta da sahip. MIT’nin yaptığı Moral Machine adlı küresel deneyde, milyonlarca insana bu tür ikilemler soruldu. Sonuçlar çarpıcıydı. Batı ülkelerinde çoğu insan “daha çok kişiyi kurtar” eğilimindeydi. Asya ülkelerindeyse “yaşlıya saygı” daha fazla öne çıktı. Bazı toplumlarda gençlerin hayatına öncelik verilirken, bazılarında sosyal düzenin korunması tercih edildi. Yani etik tercihler evrensel değil, kültürel olarak farklılaşıyor. O halde soruyorum.Bir otonom aracın beynine hangi ahlâk anlayışı yazılacak? Amerikalının mı, Çinlinin mi, veya kimin?
Bu noktada Almanya ilginç bir adım attı. Etik komisyon, otonom araçların karar verirken yaş, cinsiyet, sosyal statü gibi kriterleri kullanmasını yasakladı. Yani algoritma “çocuk yaşlıdan değerlidir” ya da “doktor işsizden değerlidir” diyemeyecek. Ancak fizik yasaları acımasızdır. Araç bir yöne gitmek zorunda kalır. Ve o an, istemesek de, bir seçim yapılır.
Amerika’da yapılan anketlerde insanlar, otonom araçların kendi yolcularını değil, daha fazla insanı kurtarması gerektiğini söyledi. Yani teoride fedakârlık yapan araç fikrine sıcak bakılıyor. Ama aynı insanlara “Kendi aracınız sizi feda edecek şekilde programlansa satın alır mısınız?” diye sorulduğunda işler değişti. Çoğu kişi böyle bir aracı almak istemedi. İşin özünde insan doğası, “başkasının hayatı kurtulsun ama benimkinden vazgeçmesin” diyor.
Bu ikilem sadece felsefi değil, aynı zamanda hukuki. Diyelim ki bir otonom araç sizi feda etti, yayaları kurtardı. Peki sorumluluk kimde olacak? Aracı üreten şirket mi, yazılımı yazan mühendis mi, yoksa aracı satın alan siz mi? Şu anda hukuk sistemleri bu soruya hazır değil. Henüz kimse “bir algoritma ölüm kararını verdiğinde” kimin hesap vereceğini bilmiyor.
Bir başka kritik nokta ise güven meselesi. Biz arabamıza otururken ona hayatımızı teslim ediyoruz. İnsan şoför hata yapabilir, dikkati dağılabilir, ama ona “niyet” atfederiz. Peki soğuk bir algoritmaya güvenebilir miyiz? Bir makinenin verdiği karar “insanca” gelir mi? Yoksa bir gün aracın bizi feda etme ihtimalini bilerek binmek, bizi huzursuz mu eder?
Öte yandan otonom araçların avantajlarını görmezden gelmek de mümkün değil. Dünya Sağlık Örgütü’ne göre her yıl 1,3 milyondan fazla insan trafik kazalarında ölüyor ve bunların %90’ı insan hatasından kaynaklanıyor.Dikkatsizlik, yorgunluk, alkol… Otonom araçlar bu hataları yapmıyor. Yani evet, bazı etik ikilemler olacak ama genel tabloda çok daha fazla hayat kurtarılacak.
Sevgili okurlar, görüyorsunuz. Tramvay problemi artık sınıflarda tartışılan soyut bir düşünce deneyi değil; şehirlerimizin yollarında karşımıza çıkacak somut bir gerçek. Filozofların tartıştığı “kimi kurtaracağız?” sorusu, artık mühendislerin yazılım koduna dönüştü. Ve o kodlar, bir gün kimin yaşayacağına, kimin öleceğine karar verebilir.
Son söz olarak şunu söyleyelim otonom araçların geleceği sadece mühendislerin değil, toplumun da vereceği kararlara bağlı. Eğer biz değerlerimizi netleştirmezsek, yarın bir gün kimin hayatına kıymet biçileceğine algoritmalar karar verecek.
Ve işte asıl soru burada. Yarın arka koltukta kahvenizi yudumlarken, kaderinize kim karar verecek? Siz mi, yoksa bir algoritma mı?