Yapay Zekâ sistemleri yaşamlarımızı, iktidara ve kaynaklara erişimimizi biçimlendirmede büyüyen bir rol oynuyor. Bu sistemlerin nasıl oluşturulduğu ve toplumun farklı bireyleri tarafından nasıl deneyimlendiğine ilişkin daha net bir görüş kazanmamız oldukça önemli. Teknoloji işçileri arasında yetki suistimali ve eşitsizliğe karşı eyleme geçme yönünde büyüyen bir hareket var
Google’ın taciz ve ayrımcılık tarihini protesto için geçenlerde yapılan iş bırakma eylemi, teknoloji ve emek örgütlenmesi için simgesel önemde bir uğraktı[1]. Dünya çapındaki 50 şehirde 20 bin Google işçisinin kolektif eylemi, şirketi cinsel taciz davalarındaki zorunlu uzlaşmayı sonlandırmaya sevk etti. Bu olağanüstü bir başarı olsa da işçilerin taleplerinin çoğunluğu henüz karşılanmadı.
Basının iş bırakma eylemine yönelik ilgisi kadınların cinsel tacize uğramasına odaklanmıştı. Ancak sorunlar bunun çok ötesinde. Google işçileri, işyerindeki cinsel taciz ve istismarın salt toplumsal cinsiyet ve cinsellikle ilgili olmadığını, yerleşik yetki suiistimaline[2] işaret eden ırk ayrımcılığının diğer biçimleriyle de bağlantılı olduğunu öne sürüyorlar. Bu işçiler, eşitsizliği sürdürmeye hizmet eden yapısal uygulamaları hedef alırken, tarih boyunca mevcut toplumsal adalet hareketlerinin taleplerini yineliyorlar: yetki suiistimaliyle yüzleşme ve ayrımcılığa uğrayan veya istismar edilen (sözleşmeli işçi, kıdemsiz çalışan veya ötekileştirmeyle karşılaşan herhangi bir kimse olsun) birçok insanı bu uygulamaları sonlandırma talebi çerçevesinde birleştirme.
İş bırakma, çok daha uzun bir teknoloji örgütlenmesi ve direnişi mirasına dayanıyor: içerisinde, diğer şeylerin yanında, Yapay Zekânın Reagan dönemi Yıldız Savaşları sisteminde kullanımına karşıt olarak örgütlenen bir bilgisayar bilimcileri birliği olan Toplumsal Sorumluluk için Bilgisayar Profesyonelleri’nin çalışmasının yankıları da var. Örgütleyenlerin talepleri ayrıca, 1980’lerde “Akademideki Eşitliğin Engelleri: MIT Bilgisayar Bilimleri’nde Kadınlar”[3] raporunda ayrımcılık deneyimlerini ayrıntılı bir şekilde belgeleyen MIT Bilgisayar Bilimleri ve Yapay Zekâ laboratuvarlarındaki kadın lisansüstü öğrencileri kolektifini de hatırlatıyor.
Geçtiğimiz yıl boyunca, AI Now Enstitüsü olarak Yapay Zekâ’da (YZ) toplumsal cinsiyet, ırk ve iktidar konusuna odaklanmış çok yıllık araştırma programı kapsamında bu politik ve tarihsel kesişimleri inceliyorduk. Araştırma bulgularının ilk aşaması olarak kısa bir rapor ve akademik bir yayın yayımlayacağız. Yakın zamandaki olayların ışığında, yükselen harekete ve çevresindeki tartışmalara bir katkı bağlamında çalışmamızın bir kısmına ilişkin bir ön görünüm sunmak istedik.
Ayrımcı uygulamalar yapay zekâ sistemlerine yansıyabilir ve güçlenebilir
Google ve diğerleri tarafından hızlı bir şekilde geliştirilen ve hassas toplumsal ve politik alanlarda kullanıma sokulan yapay zekâ sistemleri, tam da Google işçilerinin protesto ettiği eşitsizlik ve ayrımcılık sorunlarını yansıtabilir, güçlendirebilir ve gizleyebilir. Geçtiğimiz yıl boyunca, araştırmacılar ve gazeteciler yapay zekâ sistemlerinin, ırk, sınıf, toplumsal cinsiyet, cinsellik temelindekileri de içeren yanlılıklar sergilediği çok sayıda örneğe ışık tuttu.
Yakınlarda gündeme gelen, Amazon’un otomatik işe alım aracına ilişkin haberlerde bu sorunların oldukça etkileyici bir örneğini de gördük. “İyi” ve “kötü” adaylar arasında ayrım yapabilmeyi “öğrenmek” için, şirketin önceki işe alım kararlarını belgeleyen muazzam bir veri külliyatıyla eğitilmişti. Sonuç, belki de bekleneceği üzere, kadınlara karşı ayrımcılık uygulayan bir işe alım aracıydı, hatta içerisinde “kadın” veya “kadınlar” geçen özgeçmişlerin derecesini düşürüyordu. Amazon mühendisleri sorunu düzeltmeye çalıştılar, algoritmayı yanlı tercihlerini hafifleterek ayarlamaya çabaladılar, ancak nihayetinde düzeltilemez sonucuna vararak projeyi ıskartaya çıkarmak zorunda kaldılar.[4]
Çoğu kişinin gözlemlediği gibi, bu durum, bu sorunların iç içe geçmiş doğalarını sergiliyor: tasnif sistemi Amazon’da eskiden beri süregelen ayrımcı işe alım kalıplarını yansıtıyor, bu kalıplar daha sonra otomatik sistemler tarafından güçlendiriliyor. Wendy Chun’un AI Now’daki ziyaretçi profesörlüğü sırasında gözlemlediği gibi bu araçlar istemeden bir tanı hizmeti sağlıyorlar: Teknoloji sektöründeki mevcut aday havuzunun ve çalışanların ne kadar da asimetrik ve orantısız bir hâle geldiğini gösteriyorlar.
Bu örnek, ayrıca, (kimilerine yetki sağlarken, başkalarını uzak tutan) dışlayıcı bir kültürün, bu kültür içerisinde geliştirilen teknolojiler tarafından nasıl da özellikle görünür bir şekilde yansıtıldığını da gösteriyor. Bu, YZ araçları artan bir şekilde istihdam, çocuk bakımı ve sağlık sistemleri gibi toplumsal alanlara katıldıkça, uzun erimli karmaşık sonuçlar doğurabilecek bir sorundur.
Yapay zekâ alanında çeşitlilik hakkında yeterli bilgiye sahip değiliz ama bildiğimiz kadarı bile bize sıkıntı veriyor.
Google iş bırakma eylemi teknoloji kültürü çapında bir bütün olarak bir soruna işaret ediyor: bu alan, kadınlar, trans ve non-binary[5] insanlar ve beyaz olmayanlar için özellikle düşmanca olabiliyor.
Özellikle yapay zekâ alanı bağlamında sağlam bir araştırma ve veriden mahrumuz. YZ’de toplumsal cinsiyet çeşitliliği görünümüne ilişkin tek güncel araştırma Wired dergisi ve Element AI tarafından gerçekleştirilen sınırlı bir anketten geliyor. Bu araştırma, en büyük üç makine öğrenme konferansındaki yayınların yazarlarının sadece %12’sinin kadın olduğunu ortaya koyuyor (bu sonuç alanın tüm bilgisayar bilimlerinden veya tüm teknoloji sanayisinden daha az toplumsal cinsiyet çeşitliliğine sahip olduğu anlamına geliyor). Alandaki ırk çeşitliliğinin veya toplumsal cinsiyetle birlikte kesişimlerinin durumunu betimleyen bir veriye sahip değiliz.
Özellikle eğer, Amazon örneğinin de önerdiği gibi, dışlayıcı teknoloji kültürleri ve ayrımcı ürünler arasında bir bağlantı varsa, bu göstergeler ciddi bir kaygı için gerekçe teşkil ediyorlar. Bu alandaki araştırma literatürüne yönelik incelememiz, YZ alanı ve bununla birlikte teknik YZ araştırmasına yönelik fonlama ivme kazanırken, YZ sanayi içerisindeki kültür ve iktidar yapıları sorunlarının yeterince irdelenmediğini gösteriyor.
Araştırma için yeni doğrultular
Yapay zekâ ve yanlılık üzerine sınırlı sayıdaki mevcut araştırma, toplumsal cinsiyetin ırk, sınıf, cinsiyet ve yeti gibi diğer kimlik biçimleriyle ilişkisini veya ayrımcılık biçimlerinin mevcut iktidar yapılarıyla kesiştiği veya bu yapılara hizmet ettiği biçimleri incelemeyi ihmal ediyor. Ayrıca büyük bir çoğunlukla toplumsal cinsiyete ikili bir değişken olarak davranıyor, böylece trans ve non-binary bireylerin deneyimlerini dışlıyorlar.
Teknoloji işçileri tarafından ortaya konan talepleri ele almak, genellikle, “ardışık hat sorunu” olarak da çerçevelenen “bu sorunlar teknoloji firmalarının yararlanabileceği yetenek havuzunun artan bir şekilde çeşitlendirilmesiyle çözülecektir” fikrinin ötesine geçmeyi gerektiriyor. Ancak Sara Ahmed’in 2012 tarihli Kapsanmak üzerine: Kurumsal Yaşamda Irkçılık ve Çeşitlilik[6] kitabında yazdığı gibi, çeşitlilik kampanyalarının kendisi cinsiyet ayrımcılığı ve ırk ayrımcılığıyla yüzleşmekten kaçınmanın araçları olarak hizmet görüyor. Sıklıkla çok derin ve çok çok zor yapısal sorunları ele alma ihtiyacından dikkati başka bir yöne çeken iyimser bir kurumsal iyileşme söylemi olarak sunulan bir piyasa değerleri var.
Kuşkusuz, iş bırakma eylemindeki bir konuşmacının söylediği gibi, toksik bir ortamın içerisinden eşitlik çıkmaz. Bu sorunları anlamlı bir şekilde ele almak, cinsiyet ayrımcılığından ırk ayrımcılığına, eşit ücret ayrımcılığına, uzlaşma ve temsile kadar geniş bir yapısal sorun yumağıyla, iktidara erişimle ilişkili temel sorunları anlayan şekillerde mücadeleyi gerektirecektir.
Yapay zekâ sistemlerinin dar teknik “adalet” tanımlarını karşılayıp karşılamadığını düşünmenin ötesine geçmek için YZ’de toplumsal cinsiyet ve ırk araştırması yapmanın zamanıdır. Çok daha derin ve karmaşık sorular sormamız gerekiyor: Bu teknolojiler yaratıldığında kimler oradaydı ve hangi varsayımları ve dünya görüşlerini bu sürece gömdüler? Kimliğimiz YZ sistemleriyle deneyimimizi nasıl şekillendiriyor? Bu sistemler, değişmez ve sorunlu toplumsal cinsiyet ve ırk tanımlarını hangi şekillerde biçimlendiriyor, sınıflandırıyor ve güçlendiriyor? Aşağıda bu soruları ele alan önemli çalışmalardan örnekler sunuyoruz. Bu literatüre katkı sağlayacak yakında çıkacak bazı yeni araştırma yayınlarımız da var.
Yapay zekâ sistemleri yaşamlarımızı, iktidara ve kaynaklara erişimimizi biçimlendirmede büyüyen bir rol oynuyor. Bu sistemlerin nasıl oluşturulduğu ve toplumun farklı bireyleri tarafından nasıl deneyimlendiğine ilişkin daha net bir görüş kazanmamız oldukça önemli. Teknoloji işçileri arasında yetki suiistimali ve eşitsizliğe karşı eyleme geçme yönünde büyüyen bir hareket var: Alanın toplumsal etkilerine yönelik daha fazla araştırma bu çabaları büyütme ve bilgilendirme açısından önemli bir görev üstlenebilir.
Önümüzdeki aylarda bulgularımızı paylaşmayı iple çekiyoruz ve bu esnada son zamanlarda okuduğumuz bazı şeyleri paylaşmanın iyi olacağını düşündük:
- Sara Ahmed, On Being Included: Racism and Diversity in Institutional Life.
- Barriers to Equality in Academia: Women in Computer Science at MIT.
- Joy Buolamwini, Amazon’s Symptoms of FML — Failed Machine Learning — Echo the Gender Pay Gap and Policing Concerns.
- Catherine D’Ignazio and Lauren Klein, Data Feminism.
- Mar Hicks, How to Kill Your Tech Industry.
- Os Keyes, The Misgendering Machines: Trans/HCI Implications of Automatic Gender Recognition.
- Susan Leavy, Gender Bias in Artificial Intelligence: The Need for Diversity and Gender Theory in Machine Learning.
- Shaka McGlotten, Black Data, in No Tea No Shade: New Writings in Black Queer Studies.
- Vidisha Mishra and Madhulika Srikumar, Predatory Data: Gender Bias in Artificial Intelligence, in Digital Debates — CyFy Journal 2017.
- Joy Rankin, Tech-Bro Culture Was Written in the Code.
- The Invisible Worker #1: The Platform Worker.
Dipnotlar:
[1] AI Now eş kurucusu Meredith Whittaker iş bırakmanın örgütleyicilerinden biriydi.
[2] https://medium.com/@GoogleWalkout/googlewalkout-update-collective-action-works-but-we-need-to-keep-working-b17f673ad513
[3] Barriers to Equality in Academia: Women in Computer Science at MIT (ç.n.).
[4] Bu sistemin nasıl çalıştığı, şirketin sorunu çözmek için aldığı önlemler veya işe alan kişilerin sistemin ürettiği önerilere baktığı zaman şirketin işe alım kararlarının nasıl etkilendiği konusunda çok az bilgiye sahibiz. Bu şeffaf olmayan durum da sorunun bir parçası, çünkü bağımsız araştırmanın önünde engel oluşturuyor.
[5] İkili olmayan cinsiyet (ç.n.).
[6] On Being Included: Racizm and Diversity in Instituional Life
Özgün metin: https://medium.com/@AINowInstitute/gender-race-and-power-5da81dc14b1b
