2025 Ocak’ta yayımlanan “Yapay Zekâ Çağında Engellilik Etiği ve Eğitimi: ChatGPT ve Gemini’de Yeti Yanlılığının Belirlenmesi” adıyla yayımlanan bilimsel bir makalede1, ChatGPT (OpenAI) ve Gemini’nin (Google) engelli bireylere karşı yanlı sonuçlar ürettiği gösterildi.
Bir araştırma kapsamında, Urbina ve çalışma arkadaşları, özellikle OpenAI’nin ChatGPT’si ve Google’ın Gemini’si olmak üzere, üretici yapay zekâ büyük dil modeli sohbet robotlarındaki yeti yanlılığını belirleyen ve ölçen bir proje üzerinde çalıştılar. Her bir sohbet robotundan; belirli bir işlevsel durum belirtilmeyen kişilerin, engelli bireylerin, engeli olan hasta bireylerin ve engelli sporcuların tasvirlerini oluşturması istendi. Her iki araç da insanlardaki engelliliği önemli ölçüde düşük tahmin etti. Hem ChatGPT hem de Gemini; engelli kişiler, hastalar ve sporcuları engelli olmayan kişilere kıyasla daha az olumlu niteliklere ve daha fazla kısıta sahip olarak üretti. Proje sonucunda, araştırmacılar, üretken yapay zekâ sohbet robotlarının ölçülebilir oranda yeti yanlılığı sergilediği ve yanıtlarında genellikle engelli insanları dışladığı sonucuna varıyor.
Ayrıca makalenin yazarları, bu tür üretken büyük dil modeli sohbet robotlarının tıbbi sistemlerde etik kullanımı için bu yanlılığın ve dışlamanın farkında olunması ve eşitlikçi yapay zekâ teknolojilerinin geliştirilmesi için daha fazla çaba gösterilmesi gerektiğini belirtiyorlar.
- Jacob T. Urbina, Peter D. Vu, Michael V. Nguyen, Disability Ethics and Education in the Age of Artificial Intelligence: Identifying Ability Bias in ChatGPT and Gemini, Archives of Physical Medicine and Rehabilitation, c:106, s: 1, 2025, sayfa: 14-19, https://doi.org/10.1016/j.apmr.2024.08.014 (https://www.sciencedirect.com/science/article/pii/S0003999324011912) ↩︎
