AI Now Enstitüsü
Engelli insanlar tarihte ve günümüzde ötekileştirmeye maruz kaldılar ve kalmaya devam ediyorlar. Büyük çoğunluğu iktidara, kaynaklara ve fırsatlara erişimden dışlanıyorlar. Bu gibi ötekileştirme kalıpları, yapay zekâ sistemlerini biçimlendiren veriye kazınmış hâlde ve bu tarihsel durum yapay zekânın mantığına gömülü, yani geçmişte bu gibi ayrımcılığa maruz kalanlar, günümüzde yapay zekâdan en fazla zararı görme tehlikesi altındalar.
Yapay zekâ sistemleri hızla çekirdek toplumsal alanlarımızla bütünleşiyor, kaynakları ve fırsatları kimin alabileceği veya alamayacağı konusunda karar verilirken, bilgilendirme amacıyla kullanılıyor. Sıklıkla daha akıllı, daha iyi ve daha nesnel olarak pazarlanan bu sistemlerin yanlı ve hatalı çıktı ürettikleri defalarca gösterilmiştir. Ve çoğu YZ yanlılık araştırması ve raporları ırk ve toplumsal cinsiyete odaklanmış durumda, fakat yapay zekâ yanlılığı ve engelliliğe yönelik ilgi oldukça az.
Bu çok önemli bir eksikliktir. Engelli insanlar tarihte ve günümüzde ötekileştirmeye maruz kaldılar ve kalmaya devam ediyorlar. Büyük çoğunluğu iktidara, kaynaklara ve fırsatlara erişimden dışlanıyorlar. Bu gibi ötekileştirme kalıpları, yapay zekâ sistemlerini biçimlendiren veriye kazınmış hâlde ve bu tarihsel durum yapay zekânın mantığına gömülü, yani geçmişte bu gibi ayrımcılığa maruz kalanlar, günümüzde yapay zekâdan en fazla zararı görme tehlikesi altındalar.
Bu yılın başlarında AI Now Enstitüsü, New York Üniversitesi Engelli Çalışmaları Merkezi ve Microsoft’la işbirliği içerisinde yapay zekâ yanlılığı ve engellilik konusunda bir çalıştay düzenledi.
En son yayımladığımız Engellilik, Yanlılık ve yapay zekâ raporumuz bu çalıştayın sonuçlarına ve engelli hakkı savunucuları ve araştırmacılarının ürettiği zengin bir araştırmaya dayanıyor. Raporda engellilik çalışmaları ve aktivizmin yapay zekânın tehlikeleri ve olanakları hakkında bize ne söyleyebileceğini ve engelliliğe ilginin mevcut yapay zekâyı “yansızlaştırma” yaklaşımımızı nasıl karmaşıklaştırdığını inceliyoruz. Ayrıca araştırma ve hak savunması için üretken yollara işaret eden, bir kısmı aşağıdaki listelenen, anahtar soruları da tespit ediyoruz:
- Yapay zekâ sistemleri tarafından inşa edilen ve yansıtılan “normların” dışında kalan insanları korumayı güvence altına almak için engelli aktivizmi ve araştırmalarından nasıl yararlanabiliriz?
- Belirli yapay zekâ sistemleri tarafından üretilen ve dayatılan “normal” ve “yetenek” standartları nelerdir ve bir “uç değer” olarak anlaşılmanın maliyetleri nedir?
- İster doğru isterse yanlış bir şekilde teşhis edilmenin ve hastalıklı olarak görülmenin (sıklıkla çok derin) sonuçlarını nasıl daha iyi vurgulayabiliriz ve bu gibi tespitler yapılmadan önce otomatik yapay zekâ teşhislerinin “dışında kalmak” için ne gibi imkânlar yaratabiliriz?
- Yapay zekâ sorumluluğuna yönelik olan çalışan kişiler, engelli hakları hareketinden, örneğin fiziksel ve dijital alanlarda mimari ve yapısal yanlılığı tespit etmek gibi, ne tür taktikler öğrenebilirler?
Engelliliği, yapay zekâ tartışmalarının merkezine yerleştirmek yapay zekânın yaratabileceği zararları iyileştirmek için çalışmaları yeniden odaklama ve iyileştirme konusunda yardımcı olabilir. Böylece dar teknoloji odaklı bakıştan, “çözme” ve “yardım etme” potansiyeline ve yapay zekânın içerisinde oluşturulduğu ve uygulandığı toplumsal bağlam, tarih ve iktidar yapılarını hesaba katan yaklaşımlara doğru geçebiliriz.
Daha fazlasını raporumuzda okuyabilirsiniz.
Özgün metin: https://medium.com/@AINowInstitute/disability-bias-and-ai-4434dc7065f0
Kaynak: https://sendika.org/2020/05/engellilik-yanlilik-ve-yapay-zeka-ai-now-enstitusu-588438
