Penn State öncülüğünde yürütülen yeni bir araştırma, yapay zeka modellerinin yüksek riskli kararlar verirken insanların önem verdiği özelliklerden farklı unsurlara öncelik verebildiğini ve insanlar gibi kararsızlık göstermediğini ortaya koydu.
Araştırmacılar, yapay zekanın ahlaki karar verme biçimini incelemek için varsayımsal bir böbrek nakli senaryosu kullandı: Birden fazla hastanın böbreğe ihtiyacı varsa ancak yalnızca tek bir organ mevcutsa, böbrek kime verilmeli? Çalışmada önde gelen büyük dil modellerinin verdiği kararlar, daha önce yayımlanmış akademik araştırmalarda gerçek insanların aynı senaryolara verdiği yanıtlarla karşılaştırıldı. Bulgular, Haziran ayında 2026 Association for Computing Machinery Fairness, Accountability and Transparency (FAccT) konferansında sunuldu ve konferans bildirilerinde yayımlandı.
Hastalar ikili olarak karşılaştırıldı
Araştırmacılar, aynı böbreğe ihtiyaç duyan iki varsayımsal hastayı yaş, bakmakla yükümlü oldukları kişi sayısı, sağlık durumu ve alkol kullanma alışkanlıkları gibi özelliklerle tanımladı. Daha sonra çeşitli yapay zeka sohbet botlarından böbreğin hangi hastaya verilmesi gerektiğini seçmeleri istendi. Aynı senaryolar, önceki araştırmalarda tıp eğitimi aldığı belirtilmeyen yüzlerce gerçek katılımcıya da sunulmuştu; bu sayede yapay zekanın tercihleri insanların tercihleriyle karşılaştırıldı. Bazı senaryolara ise insanların ahlaki kararlarında görülen kararsızlığı ölçmek amacıyla “yazı tura atma” seçeneği eklendi.
Yapay zeka bazı özelliklere daha fazla ağırlık verdi
Araştırmacılara göre çalışmada iki temel bulgu öne çıktı. İlk olarak, yapay zeka sohbet botlarının hastaların özelliklerine verdiği ağırlığın insanların değerlendirmelerinden sıklıkla farklı olduğu görüldü. Çalışmanın yürütücüsü Penn State Bilişim ve Akıllı Sistemler Doçenti Hadi Hosseini, yapay zeka modellerinin insanların yaptığı gibi birden fazla unsuru dengelemek yerine alkol kullanma alışkanlığı gibi tek bir faktöre odaklanabildiğini belirtti. Araştırmacılar, bunun karmaşık kararların aşırı basitleştirilmesine yol açabildiğini ifade etti.
İnsanlar tereddüt etti, yapay zeka karar verdi
İkinci önemli farklılık ise kararsızlık konusunda görüldü. Araştırmada insanlar, açık biçimde doğru bir yanıt bulunmayan bazı etik ikilemlerde kararsızlık gösterebilirken yapay zeka modellerinin çoğunlukla kesin bir seçim yaptığı görüldü. Hosseini, insanlarda görülen kararsızlığın kararın sorumluluğunu üstlenmek istememeleriyle ilişkili olabileceğini belirtti. Yapay zeka modelleri ise kendilerine doğrudan “yazı tura atma” seçeneği sunulduğunda bile büyük ölçüde kesin ve deterministik bir yanıt vermeyi tercih etti. Araştırmacılara göre bu fark önemli çünkü gerçek hayattaki ahlaki ikilemlerde her zaman açık biçimde doğru tek bir yanıt bulunmuyor.
“Amaç yapay zekayı profesyonel kararların yerine koymak değil”
Hosseini, organ tahsisi gibi kararların doğrudan kimin yaşayıp kimin öleceğini etkileyebileceğini ve bu nedenle yapay zekanın bu tür süreçlerdeki rolünün doğru biçimde belirlenmesinin önemli olduğunu söyledi. Araştırmacılar, yapay zekanın tıbbi kararlar veya diğer yüksek riskli alanlarda profesyonel değerlendirmenin yerine kullanılmasını teşvik etmediklerini vurguladı. Bununla birlikte bireylerin, kurumların ve şirketlerin karar almak veya öneri almak amacıyla giderek daha fazla yapay zeka kullanması nedeniyle bu sistemlerin nasıl davrandığının anlaşılmasının önem kazandığı belirtildi.
“Her zaman tek bir doğru cevap yok”
Çalışmanın ortaklarından Mozilla.ai Üst Yöneticisi John Dickerson, böbrek, iş veya başka kıt kaynakların tahsisinde her zaman nesnel olarak tek bir doğru yanıt bulunmadığını belirtti. Dickerson, insanların bu belirsizliği tanıdığını ve tahsis süreçlerinde açık tartışmalar yoluyla bunu dikkate aldığını, yapay zeka modellerinin ise çoğu zaman aynı yaklaşımı göstermediğini söyledi. Araştırmacılar, söz konusu farklılıkların gelecekteki çalışmaların yanı sıra politika yapıcılar, düzenleyiciler ve diğer paydaşların dahil olduğu yönetişim süreçlerinde ele alınması gerektiğini belirtti.