Sürücüsüz araçların piyasaya sürülmesiyle birlikte, geliştiriciler olası bir kaza durumunda nasıl karar verileceği konusunda eskiden beri süregelen ahlaki ikilemi yeniden ele almak zorunda kaldılar.
Nature: International Journal of Science tarafından yapılan deney iki milyondan fazla katılımcıyı; bir otonom araçtaki yolcular ve yayalar arasında tercih yapmak zorunda bırakan ahlaki ikilemle karşı karşıya bırakmıştı. "Ahlaki Makine" adı verilen deneyin sonuçları bir makale olarak açıklandı.
Örneğin, katılımcılara aşağıda gösterilen resim ile sunulmuş ve ikisi de ölümle sonuçlanması muhtemel durumun, frenlerin çalışmaması halinde hangisi ile sonuçlanmasını tercih edecekleri sorulmuş: üç kırmızı ışıkta karşıya geçen yaşlı yayanın mı yoksa genç ailenin arabada ölmesi mi...
Araştırmacılar, bu tarz sorular yoluyla yaklaşık 40 milyon yanıtın kaydedilmesi ile dokuz farklı sonuç üzerinde kesinleşti:
- Evcil hayvanlara karşı insanlar korunuyor
- Yoldan çıkmak yerine yolda kalmak tercih ediliyor
- Yayalara karşı yolcular korunuyor
- Sayıca daha çok hayat kurtarılmaya çalışılıyor
- Kadınlara karşı erkekler korunuyor
- Yaşlılara karşı gençler korunuyor
- Dikkatsiz yayalara karşı kurallara uyanlar korunuyor
- Kiloluya karşı fit vücutlular korunuyor
- Orta direğe karşı yüksek statülü insanlar korunuyor
Hangi ülke ya da demografiden geldiğinden bağımsız olarak, en yüksek oranlı tercihler; evcil hayvanlardan ziyade insan hayatını kurtarmak, daha çok hayat kurtarmak ve yaşlılardan çok genç yaşamları kurtarmak şeklinde özetlenebilir.
Sonuçlar açık görünse de, bunları bir otonom sürüş yazılımı haline getirme işi o kadar basit değil. İnsan yerine bir hayvanı feda etmek, göreceli olarak basit olabilir. Fakat iki insanın yaşamının değerini yaş, cinsiyet ve sosyal statü gibi niteliklere göre karşılaştırmaya gelince, çizgi çok daha bulanık hale gelebilir.
Ahlaki Makine deneyi, 2016 yılından bu yana, dünyanın dört bir yanındaki insanların katılım gösterdiği bu anketin sonuçlarını bizlere sundu. Ancak yine de bu yapılması gerekenin açık olduğu anlamına gelmiyor.
Makale, Alman Etik Komisyonu'nun 2017 yılında koyduğu kurallara da atıfta bulunmakta; ancak kurallar Ahlaki Makine deneyinin bulguları ile çelişmektedir.
Örneğin, Alman Etik Komisyonu'nun insanlara karşı hayvan yaşamına dair kuralları açıktır: Her koşulda insanlara öncelik verir. Ancak kurallar, çok kişinin mi yoksa az kişinin mi feda edileceğine geldiği zaman daha belirsiz hale geliyor. Ayrıca bu kuralların yaş, cinsiyet veya sosyal statü gibi herhangi bir kişisel özelliğin ayrımını açıkça yasakladığını da eklemek gerekir.
Bu bulguların ortaya çıkmasıyla birlikte, sürücüsüz araçlardan sorumlu olan etikçiler, geliştiriciler ve üreticilerin hangi durumlarda kimin tercih edileceği konusunda daha iyi bir bakış açısına sahip olacağını ümit edebiliriz. Ancak bu ahlaki ikilem çözülmekten hala çok uzakta.