8 Temmuz 2020

Yazı

Yapay Zekâ: İyimser Olmak için Erken

Yapay Zekâ (YZ) günümüzde özellikle derin öğrenme yöntemlerinin yaygınlaşması ve kullanımının kolaylaşmasıyla popülerleşen bir konu. Başta aşırı uzmanlaşmış ve dar bakışlı kişiler olmak üzere her alandan farklı insanın farklı açılardan ele almaya çalıştığı, eleştirdiği bir konu YZ. Ancak hayatı çok boyutlu ve karmaşık bir şekilde etkileyen YZ’ye yönelik, bekleneceği üzere eleştiren kişilerin uzmanlık ve bakış […]

T. E. Kalaycı (Yazar)

Algoritmalar, Ayrımcılık, Büyük Veri, Dijital Emek, Makine Öğrenmesi, Teknoloji, Yanlılık, Yapay Zekâ

Bu yazıyı yazmama neden olan Türkiye’de basılan iki kitap: 2019 yılında Bilim ve Gelecek yayınevinden çıkan Cem Say’ın 50 Soruda Yapay Zekâ kitabıyla² Yordam Kitap tarafından basılan Erkin Özalp’ın Gençlerle Baş Başa: Yapay Zekâ³. Bu kitaplar hem yayınevleri hem de yazarlarının toplumsal bakış açıları nedeniyle dikkatimi çektiler.

Yazarlarına, editörlerine ve yayınevlerine Türkiye’de, Türkçe olarak belirli bir eleştirellik ve tartışma ortamı yarattıkları için öncelikle teşekkür etmek gerekiyor. İnsanlara güncel bir konu hakkında erişilebilir ve popüler bir kitap aracılığıyla bilgi vermek ve kafalarında soru işaretleri yaratmak, uzmanlarla ve uzman gözükenlerle çevrilmiş ve bilginin toplumsallaşmasını ve hakikatın topluma ulaşmasını engelleyen ve hatta hakikatı çarpıtan farklı araçların söz konusu olduğu bu dönemde oldukça önemli. YZ özelinde bu çok daha fazla önem arz ediyor. Tarihsel olarak bilimkurgunun ve şirketlerin pazarlama stratejilerinin etkisiyle insanlar ya robotlar dünyayı ele geçirecek hepimizi köleleştirecek ya da robotlar bizim için çalışacak veya beyinlerimiz bilgisayara yüklenecek ve biz de zevki sefa içerisinde sonsuza kadar mutlu yaşayacağız algısına sahip oluyorlar. İzlem Gözükeleş’in iki farklı yazısında ele aldığı gibi tarih teknoloji mitleriyle dolu. Teknoloji dünyasındaki farklı şirketler ve kişiler tarafından, belki de farklı amaçlarla (kâr amacı, popülerlik, daha fazla fon kazanma vb.) “her önemli teknolojik değişimden sonra benzer tezler yineleniyor, söz konusu teknolojinin her şeyi değiştireceği, hiçbir şeyin artık eskisi gibi olmayacağı, tarihin sonunun geldiğini öne sürülüyor” ⁴ ⁵. Bütün bu algıları kırıp eleştirel bir Yapay Zekâ tartışması yürütmek ve YZ’nin hem tarihsel hem güncel hem de geleceğe ilişkin konumlanışını, herhangi bir teknodeterminizme (teknoiyimser veya teknokötümser) düşmeden anlatmak, toplumun YZ okuru olmasını ve kârdan başka amacı olmayan şirketlerin, toplumu izlemek isteyen devletlerin ve dolayısıyla içerisinde yaşadığımız kapitalist sistemin mevcut durumunun daha iyi bir şekilde anlaşılmasını ve eleştirilmesini sağlayacaktır.

Bu girişten sonra ele almak istediğim konu tam da önceki paragrafın son cümlesinde gizli. Her ne kadar bu iki kitabı tamamen aynı şekilde konumlandırmak doğru olmasa da, yukarıda da söylediğim gibi yazarların ve yayınevlerinin toplumsal bakış açıları nedeniyle aynı safta konumlandırıyorum. İki kitap konuyu farklı şekillerde ve farklı yöntemlerle ele alıyor.

Önemli bir YZ araştırmacısı olan Cem Say’ın kitabını özellikle Bilgisayar Mühendisliği, Bilgisayar Bilimleri veya ilişkili bölümlerinde okuyan, bu konulara ilgili kişilerin oldukça seveceğini düşünüyorum. Gerçekten iyi yazılmış, tarihi ve teknik konuları iyi bir şekilde ele almış, ilgi çekici popüler bir bilim kitabı. Ancak (yazarın böyle bir amacı yok belki de, olmak zorunda da değil) kitabın özellikle kapitalizm ve sistem eleştirisi konusunda, YZ araştırmalarındaki ve araştırmacılarındaki hem tarihi hem de günümüzdeki durumu anlatma açısından eksik kaldığını düşünüyorum.

Erkin Özalp farklı bir yöntem kullanıyor. Gençlerle sohbet havasında bir kitap yazmış ama kimi zaman fazlasıyla teknik konulara girmesi, bazı çok bilinen örnekleri paylaşması ve oldukça görünür olan konulara, eleştirel Marksist bir kişi olduğunu düşündüğüm kendisinden beklediğim kadar derin ve çok boyutlu yaklaşmaması kitabın yetersizlikleri olarak gözüme çarptı.

Bu yüzden bu yazıyı, kendimce bu kitaplarda ve güncel tartışmalarda eksik bulduğum bazı konuları ve eleştirileri bir bütün olarak aktarmak ve sağlıklı bir tartışma başlatmak, insanlara YZ ve Teknoloji ekseninde farklı konuları duyurmak amacıyla yazıyorum. Ayrıca bir diğer amacım da son dönemde Sendika.org için kendi içlerinde bir bütünlük oluşturacak şekilde yaptığım çevirileri⁶ ve sözü edilen önemli haberleri ve kaynakları da ele almak.

Yazının sonraki kısımlarında öncelikle teknoloji üretimine ilişkin farklı emek biçimlerinden örnekler vererek dijital emek kavramından söz edeceğim, sonraki bölümde kapitalizmle teknoloji ve YZ arasındaki ilişkiyi ele alacağım. Ondan sonra da YZ ile çalışma yaşamı, YZ ile yanlılık ve YZ ile iklim krizi arasındaki bağlantıları özetlemeye çalışacağım. Son olarak sorunların çözümüne ilişkin görüşlerimi paylaşarak yazıyı sonlandıracağım.

Dijital Emek ve Silikon Vadisi

Yapay Zekâ konusuna girmeden önce, YZ için bir temel oluşturan bilişim ve dolayısıyla teknoloji üretim sürecine bakmanın yararlı olacağını düşünüyorum. Bilişim, teknoloji ve dolayısıyla YZ’nin oluşturulması için dünyanın farklı mekânlarında gerçekleşen farklı üretim aşamaları ve farklı emek biçimlerini anlamanın, sürekli kullandığımız bilişim aygıtlarının ve ürünlerinin elimize ulaşması için maruz kalınan, normalde pek söz konusu edilmeyen sömürü biçimlerini görünür kılmak için gerekli olduğunu düşünüyorum.

İçerisinde yaşadığımız çağı şekillendiren ve yaşamımıza hem olumlu hem de olumsuz anlamında etkileri olan teknoloji, dünya çapında küresel bir üretim sürecine sahip, dolayısıyla farklı ülkelerdeki farklı emek bileşenlerinden oluşuyor⁷.

Örneğin başarılı bir YZ ürünü olarak kabul edilen ve Amazon tarafından yoğun bir şekilde satılan Amazon Echo cihazının üretim sürecini inceleyen Kate Crawford ve Vladan Joler, aygıtın insan emeğini, verisini ve gezegen kaynaklarını kullanımını ele aldıkları ayrıntılı bir harita oluşturmuşlar⁸. “Doğumdan” başlıyorlar, gezegenin hangi kaynaklarının ne koşullarda çıkarıldığını, bu kaynakların hangi emek biçimleriyle ne şekilde ürüne dönüştürüldüğünü, aygıtın başarılı çalışması için ne tür veriyi kullandığını anlattıktan sonra nihayetinde “öldüğü” zaman atık olarak nasıl tekrar gezegene döndüğünü gösteriyorlar. “Doğum, yaşam, ölüm” aşamalarını ele alırken, zamansal olarak bu akıllı aygıtın nasıl da geniş bir emek, veri ve yenilenemeyen kaynak çıkarmaya odaklanmış, Bolivya’dan Çin’e her yere yayılmış bir gezegen ağına ihtiyaç duyduğunu anlatıyorlar.

Christian Fuchs enformasyon ürünlerinin üretildiği süreci Uluslararası Dijital İşbölümü olarak adlandırıyor. Dünyanın çeşitli bölgelerinde, birbirleriyle kısmen anonim olarak ağ kuran ve hepsi de dijital uygulaması, kullanımı ve üretimi için gerekli olan öğeleri oluşturan çeşitli emek, sömürü ve üretim şekillerini içeren bir işbölümüdür. Aşağıda özetlediğim farklı emek biçimleri ve dijital işbölümüne ilişkin daha kapsamlı ve kuramsal bir inceleme için Christian Fuchs’un Notabene Yayınları’ndan çıkan Dijital Emek ve Karl Marx kitabı incelenebilir⁹.

İlk emek biçimini, çoğu kişinin farklı şekillerde haberdar olduğu Kongo’daki çatışma madenlerinde görüyoruz. Bilişim için gerekli olan madenlerin çoğu Afrika ve Çin’de çıkarılırken, eritilmesi, işlenmesi ve zenginleştirilmesi genelde elektronik piyasasına ürün tedarik eden Tayland, Malezya, Çin ve Endonezya gibi Asya ülkelerinde gerçekleşiyor. Savaş ekonomisi şartları altında bulunan Doğu Kongo Cumhuriyeti’ndeki özelleştirilmiş ticari faaliyetlerde elle madencilik yöntemleri kullanılıyor, madenciler makineler yerine ellerini, kazmaları, kürekleri, sivri kazmaları, levyeleri, çelik çubukları, çelik sopaları, kovaları ve ipleri kullanıyorlar. Madencilik işinin özelleştirilmesi, bölgesel toplulukların zoraki yer değiştirmesine ve ırmakların, havanın ve ekilebilir arazilerin kirletilmesine olduğu kadar bölge sakinlerinin karar alma süreçlerinin ve istihdamın dışında kalmalarına neden olmuştur. Bölgede silahlı gruplar tarafından zorla çalıştırılma, borçlandırma, cinsel istismar, zorla evlendirme, çocukların silahlı gruplarca kullanılması ve zorla çalıştırılması gibi modern köleliğin belirgin biçimlerine rastlanıyor.

Bu iş bölümünde ikinci emek biçimini Foxconn örneğinde gördüğümüz düşük ücretle, düşük iş ve sosyal güvenceyle, düşük vasıfla, tekrar eden ve emek yoğun çalışmayla, işçi sağlığı tehlikesiyle ve uzun çalışma saatleriyle nitelenen enformel mevkilerde çalışan montaj işçileri oluşturuyor. Bu montaj işçileri Taylorist bir mantığı çağrıştırıyor. Foxconn şirketini 2010 yılındaki 14’ü ölümle sonuçlanan 18 işçinin intihar girişimiyle hatırlıyor olabilirsiniz¹⁰.

Üçüncü emek biçimi Hindistan’daki yazılım geliştiricilerdir. ABD ve Avrupa’daki eş değerlerine göre çok düşük ücretlerle kötü koşullarda taşeron aracılığıyla çalışmak zorunda kalıyorlar. Hem bedensel hem de sanal olarak kendilerine ihtiyaç duyulan yere taşınıp işlerini yapıyorlar. Yüksek nitelikli işgücü olsalar da, tarihsel olarak Hindistan’ın sömürge hali, başka bir biçimde devam ediyor.

Ve geldik nitelikli ve bol kazançlı Silikon Vadisi’ne. Her ne kadar çok “başarılı” ve milyar dolarlık şirketleriyle bilinse de aslında Silikon Vadisi hem düşlerin hem de kabusların mekânı. Bir uçta yüksek maaşlı, ama çok yoğun çalışan ve sömürülen profesyoneller, bir tarafta özellikle göçmenlerin oluşturduğu düşük ücretli, kötü koşullarda çalışan yarı vasıflı/vasıfsız üretim ve hizmet işçileri. Aslına bakarsanız yüksek maaşlı büyük şirketlerde çalışmak da ne kadar iyidir tartışılır. Size her şeyi ofiste sunarak aslında başka bir yaşam için zaman bırakmayan bir iş ister miydiniz? Yoksa her şeyin bedava sunulması yine de olumlu mudur?¹¹ Üstelik Silikon Vadisi’nin sıkıcı, uzağı göremeyen, cinsiyetçi, sınıf ayrımcı ve ırkçı olduğunu gösteren birçok örnek de var¹² ¹³.

Çağrı merkezi çalışanlarından¹⁴, sosyal medyada, platformlarda, dünyanın en kötü içeriklerine maruz kalarak çalışmak yoğun bir duygusal emek de harcayarak günde binlerce içeriği incelemek, okumak ve gözden geçirmek zorunda olan içerik denetleme çalışanlarından¹⁵ ¹⁶, dünyanın diğer yerlerindeki bilgisayar oyuncuları uyurken onlar için “deneyim/altın çiftçisi” görevi gören saatlerce bilgisayar başında kalan doğudaki ucuz ve güvencesiz oyuncu işçilerden¹⁷ ¹⁸ ¹⁹, muazzam miktardaki veri üzerinde düşük ücretle, makine öğrenmesi (MÖ) yöntemlerinin daha iyi çalışması için veri hazırlayan, örneğin resimler üzerinde nesneleri seçen ve işaretleyen, tıpkı zamanındaki parça başı iş yapan işçilere benzeyen etiketleme işçilerinden²⁰ ²¹ ²² ve doğal dil işleme araçları için çalıştırılan mahkumlardan²³ söz etmedik bile. Düşünün, Çin’de YZ etiketleyici olarak çalışan Yin günde 300 resmi etiketliyor ve kişisel rekoru tek bir vardiyada 14000 arabayı etiketlemek ²⁴. Ayda yaklaşık olarak 450 dolar kazanıyor, fabrikada çalışan işçilerden daha fazla ama gün boyu hareketsiz bir şekilde bilgisayar başında sürekli etiketleme yapması gerekiyor. Bana sorarsanız oldukça zahmetli bir iş.

Bütün bu dijital emek süreci, kapitalizmdeki yoğun bir adaletsizliği ve eşitsizliği bize tekrar gösteriyor. Kongo’daki bir madende çalışan çocuk işçinin, Amazon CEO’su Jeff Bezos’un tek bir günlük gelirini kazanması için hiç durmadan 700000 yıl çalışması gerekiyor²⁵. Diyelim ki bu örneği beğenmediniz, sadece Amazon üzerinden başka bir örnek verelim: Amazon işçilerinin ortalama yıllık maaşı 28000 dolar, Jeff Bezos 10 saniyede bundan çok daha fazlasını kazanıyor ²⁶.

Günümüzün otomasyon devrimi bir bakıma sanayi devrimi dönemini andırıyor, o zamanlar makineleşmenin yol açtığı gibi bugün robotik, YZ ve MÖ alanlarını da içeren birçok karmaşık meslekler şeridi yarattığı gibi, emeğin doğasını, yapısını ve örgütlenişini dönüştürüyor²⁷. Bu dönüşümü, kapitalizmi, sömürüyü ve bütün bunların etkilerini anlamadan ne YZ’yi, ne teknolojiyi ne de mevcut sorunları doğru bir şekilde anlayabiliriz.

Kapitalizm, Teknoloji ve Yapay Zekâ

Kapitalizmin Yapay Zekâyı insanları boyunduruk altına almaya yönelik kullanmasına ilişkin çarpıcı örnekleri sürekli duyuyorduk. Ancak dünya COVID-19 salgını yaşarken çok daha görünür oldu. Bu yaşadığımız dönem aslında bize olumlu ve iyimser olarak gösterilen kimi teknolojik gelişmelerin nasıl da kolayca aleyhimize kullanılabileceğini göstermiş oldu.

Örneğin çevrimiçi denetim görevi bir süredir kısmen algoritmalar tarafından yapılıyor. Ancak COVID-19 ile birlikte bu işin daha fazla otomatikleştirilmesi gerekti²⁸. Bu otomatikleşmenin şirketler tarafından bir sansür mekanizması olarak nasıl kullanılabileceğine ilişkin çeşitli örneklerle karşılaştık. New Yorker yazarı Paige Williams, Mart ortalarında virüsün yayılmasını önlemeye ilişkin güvenilir bir kılavuz göndermeye çalıştığında, gönderisi Facebook tarafından spam olarak sansürlendi²⁹. Sağlık çalışanları için kritik yüz maskesi eksikliğine bir yanıt olarak gönüllüler binlerce ev yapımı maske diktiler ve Facebook üzerinden bağışlamaya çalıştılar, fakat kendilerini “Facebook nezaretinde” buldular³⁰. Yazılım onların iyilikseverliğini, bir krizden çıkar sağlama çabasından ayırt edemiyordu, bu yüzden bu gönderiler ve bir sürü başka gönderi yanlışlıkla sansürlendi ve birçok hesap tümüyle askıya alındı³¹. Üstelik bütün bu görevleri üstlenirken de vergi ödemekten kaçınıyorlar³², bize farklı şekillerde zarar verebilecek teknolojilerde (koronavirüs takip ve protesto gözetleme uygulamaları için, YZ modellerini eğitmek için) kullanmak üzere bizimle ilgili kusurlu veriyi topluyorlar³³.

Bu sosyal medya ve İnternet kullanımımız üzerindeki denetim ve sansür çabalarını gösteren tek bir şirket örneği. Google’nin arama motoru tekeli³⁴, Facebook’un sosyal medya paylaşım platformları tekeli³⁵, Amazon’un alışveriş tekeli³⁶ olduğunu düşündüğümüzde, çevrimiçi yaşamımızın büyük şirketlerin denetiminde olduğunu çarpıcı bir şekilde görüyoruz. Tarihe bakıp büyük teknoloji şirketlerinden IBM’nin Nazilerin gerçekleştirdiği soykırımdaki işlevi³⁷ ve IBM 360/50’nin Güney Afrika’da Siyah nüfusu izlemeye yönelik olarak polisin bilgi sahibi olmasını güvence altına alacak şekilde Irkçı Apartheid rejiminin korunması için kullanıldığını³⁸ gördüğümüzde, teknoloji konusuna eleştirel yaklaşmak şart oluyor.

Tekeller bununla da yetinmiyor. Dünyamız COVID-19 sonrası yeni bir refah dönemi tartışmaları yaşıyor. Ancak bu dönem João Carlos Magalhães ve Nick Couldry’ın yazdığı gibi bu süreç özel şirketler tarafından yürütülmek ve nihai amacı daha fazla kâr elde etmek olan bu şirketlerin araçları ve platformları kullanılmak isteniyor³⁹. Verileştirmenin şeffaf olmayan ve müdahaleci biçimlerine dayanacaklarını söylerken, salt (zaten gerçekleşen) gözetimin yoğunlaşmasını değil, birbiriyle bağlantılı iki süreci kast ediyorlar: “insan yaşamının nicelleştirme süreçleri aracılığıyla veriye dönüştürülmesi ve veriden farklı türde değerlerin üretilmesi”. Verileştirilmiş refah sistemlerinin, Büyük Veri şirketlerini, devletin ve toplumun temel işlevi açısından gerekli kurumlar olarak pekiştireceğini ve bunun gerçekleşmesiyle neoliberalizmden önceki dünyaya bir dönüşü değil, Nick Couldry ve UIises A. Mejias’ın geçenlerde veri sömürgeciliği⁴⁰ olarak adlandırdıkları, yeni bir toplumsal düzenin ortaya çıkışını göreceğimiz öngörüsünde bulunuyorlar.

Refah düzeni için gerekli olarak gösterilen verileştirmenin bir sonucu da yurttaşların kendi geleceklerine karar vermede özgürlüklerinin ellerinden alınıp, bir veri kümesindeki veri noktaları haline gelmeleri olacaktır⁴¹. Verileştirmeye ilişkin çarpıcı bir örneği günümüzde Çin’de görüyoruz. Gerçek dünyayla etkileşim ve davranışların yorumlanmasına dayalı olarak bireylerin dijital profilleri oluşturuluyor ve bu profiller nicelleştirilerek çok boyutlu bir “toplumsal itibar” inşasında kullanılıyorlar ve tek bir skor hesaplanıyor. Toplumsal kredi sistemi adı verilen bu sistemle bütün yurttaşların ve şirketlerin devletin ülküsüne göre şekillendirilmesi amaçlanıyor⁴².

Bu örnekler bize çarpıcı bir gerçeği de gösteriyor. Gün geçtikçe şirketler ve devletler yaşamlarımızı daha fazla denetliyorlar. Bazı durumlarda hükümetin yaptığı görevleri de üstlenmek istiyorlar. Çin örneğinde gördüğümüz üzere bizleri salt birer veri noktasına indirgemek, her kararı bu veri noktası üzerinden vermek istiyorlar. Bu durum, bize dayatıldığı şekilde indirgenmiş insanlar olmamak için ciddi bir şekilde karşı çıkmamız ve mücadele etmemiz gereken karamsar bir gelecek.

Yapay Zekâ ve Çalışma Yaşamı

Bir başka boyut, tüm teknoloji ürünlerinin kapitalizmin baskıcı niteliğini güçlendirmek için kullanılması gibi, YZ’nin de çalışma hayatımızı gözetlemek ve denetlemek amacıyla kullanılıyor olmasıdır. Bu gözetimin önemli bir boyutu çalışma alanlarında karşımıza çıkıyor. En bilinen örneklerden biri Başvuru Sahibi İzleme Sistemi (Applicant Tracking System) adı verilen bilgisayar tabanlı araçlar veya makine öğrenmesi yöntemleri aracılığıyla bir iş başvurusu için gönderilen özgeçmişleri sınıflandırmak için kullanılan sistemler. Bu sistemlerin kullanımı gün geçtikçe daha fazla artıyor ve çalışma yaşamı sözkonusu olduğunda iş başvurusundan işyerinde çalışmaya kadar geniş bir insan analitiği kullanımı da sözkonusu oluyor. İnsan analitiği özellikle yöneticilerin, işçiler hakkında toplanan veri kümeleri boyunca desenleri saptayabildiği ve karşılaştırabildiği bir sürece dayanan birtakım insan kaynakları (İK) faaliyetlerine verilen isim⁴³. Nicelleştirmeyle birlikte büyük veri, algoritmalar ve makine öğrenmesi dijitalleşmiş işe alım başta olmak üzere farklı amaçlarla kullanılıyor. Örneğin yetenekli insanların fark edilmesi, mülakatlar, liderlik tahmini, bireysel işçi performansı, işçilerin sağlık örüntüleri ve diğer işletme yönetimi hususları bu araçlar yardımıyla dijital olarak destekleniyor. Her türlü süreçte karar veren algoritma olduğunda şirketler ve yöneticileri kendilerince sorumluluktan kaçmış ve suçu “tarafsız” olduğu iddia edilen bir sisteme yüklemiş oluyorlar. Bunun işçiler üzerinde yarattığı stresi ve mikro-yönetim sonuçlarını düşünün. Üstelik bu sistemlerin sonuçlarını, sadece girdisini ve çıktısını görebildiğimiz, ancak içsel olarak ne yaptığını bilmediğimiz kapalı bir kutu şeklinde ürettiğini düşündüğümüzde, açıklanabilirlik konusunda yapılabilecek fazla bir şey olmadığını anlayabiliyoruz. Cathy O’Neill Matematiksel Yıkım Silahları kitabında şirketler ve kurumlar tarafından kullanılan bu kapalı kutuların, popüler algoritmaların nasıl da yoksul ve çalışan insanlara zarar vererek seçkinlere yarar sağladığını anlatıyor⁴⁴.

YZ’nin diğer bir kullanım alanı da işçilerin her türlü şekillerde gözetlenmesi ve denetlenmesi. Dijitalleşmeyle birlikte sizin her yaptığınızı izleyen kameralar ve sizi daha hızlı çalışmaya zorlayan Taylorcu otomatikleşmiş tezgahlar, yürüme bantları ve hatta çok daha fazlası söz konusu. Dijital araçların erişilebilirlikleri arttıkça kullanımları da artıyor. Bir bakıma ücretli köleliğin 18. yüzyıl köleliğini andıran araçları haline geliyorlar⁴⁵. Amazon’un sahibi olduğu Whole Foods şirketinin, sendikalaşma faaliyetlerini izlemek için her bir mağazasının sendikalaşma olasılığı için bir skor hesaplayarak, etkileşimli “ısı haritası” kullanması çok çarpıcı bir örnek olarak göze çarpıyor⁴⁶ ⁴⁷. Her bir çalışanın ve mağazanın sadakat, ciro, sendikaya yakınlık vb. gibi farklı ölçütlerle tahmin yürütülüyor ve sonuçlar Amerika çapında durumu, yüksek olasılıklı yerleri kırmızı olarak gösteren ısı haritasında görselleştiriliyor. Benzer güncel bir tartışma yine Amazon’un işçileri COVID-19 bahanesiyle “sosyal mesafeyi” koruyup korumadıklarına ilişkin YZ’den yararlanan bir “dijital asistan” aracılığıyla izlemesiyle ortaya çıktı⁴⁸. Her ne kadar Amazon bunu hız uyarı radarlarına benzetse de, çoğu kişi Amazon’un işçi düşmanı geçmişi nedeniyle temkinli yaklaşıyor ve yine sendikalaşmak için bir araya gelmeye çalışanları bu bahaneyle izleyeceklerini ve engelleyeceklerini düşünüyorlar.

Daha yoğun bir şekilde işçileri robotlaştıran dijital kullanımlar da gittikçe yaygınlaşıyor. Makineyi biz mi kullanıyoruz yoksa makine bizi mi kullanıyor ayrımının iyice silikleştiği performansa ve ölçüme dayalı nicelleşmiş yaşamlar ortaya çıkıyor. Çarpıcı bir örnek Amazon ikmal merkezi işçilerinde görülebilir. Mesaide: Düşük Ücretli İş Bana Ne Yaptı ve Amerikayı Nasıl Delirtiyor⁴⁹ adlı kitabında çalıştığı farklı işleri yazan Emily Guendelsberger, Amazon ikmal merkezinde çalışırken Taylor’ın “tasavvurunun cisimlendiği” dijital bir düzenle karşılaştığını söylüyor⁵⁰. Orada bir “toplayıcı” olarak çalışan Guendelsberger belinde bir tarayıcı tabancası taşımak zorunda bırakılıyor, bu tarayıcı konumunu izliyor, ona raflardan gidip yüz binlerce eşya arasından alması gereken eşyayı, o eşyanın konumunu ve o eşyayı almak için ne kadar süresi olduğunu tam bir kesinlikle söylüyor. Saniyeler geçtikçe geriye doğru sayan bir kayan çubuk onu sürekli uyarıyor. Muazzam boyuttaki tesiste rafı tespit edip, kutuyu inceleyip, eşyanın etiketini okutur okutmaz hemen bir sonraki alması gereken paket görüntüleniyor. Algoritmaların baştan sona hakkımızda her türlü kararı verdiği ve bizi sürekli daha üst düzey bir performansa zorladığı bir yaşama ne denir?

Yapay Zekâ ve Yanlılık

Dediğim gibi Yapay Zekâ’nın, özellikle de önemli bir alanı olan Makine Öğrenmesi ve onun alt alanı Derin Öğrenme veriye dayalı olarak yaşamlarımızı şekillendirmek için gittikçe daha fazla kullanılıyor. Bu iki alanın en önemli özelliği, ilgili araçların geliştirilmesi için yöntemlerinin veriye (muazzam miktarda veriye, bu noktada büyük veri ile bir ilişki de ortaya çıkıyor) ihtiyaç duymaları. Bu yöntemlerin karar alma yetenekleri bu veriyle eğitilmeleri sonucunda gelişiyor. Dolayısıyla veride ne varsa onu öğreniyorlar⁵¹. Elbette bazı makine öğrenmesi sistemleri veriden bağımsız olarak da yanlı olabilir. Yanlılığın nedenleri arasında veriyi (nasıl toplandı ve biçimlendirildi), öznitelikleri (nasıl tasarlandılar), modeli ve mimarisini, amaç fonksiyonunu ve nasıl kurulduğunu sayabiliriz. Tarafsız ve doğru veriye ulaşmak ve toplamak zor, doğru tasarlamak veya doğru tercihlerde bulunmak da yoğun bir çaba gerektiriyor, çünkü bunları etkileyen birçok faktör var. Dolayısıyla doğru/iyi tasarlarız, doğru veri toplarız, doğru tercihlerde bulunuruz diyerek yansız bir sistem üretmek gerçekte neredeyse imkânsızdır. Mehrabi vd.⁵² MÖ’deki yanlılık ve adalet üzerine yaptığı incelemede veride olabilen 23 farklı yanlılık türü ve algoritmaların adil olmasını etkileyen 6 farklı ayrımcılık türü listeliyor, sadece bu liste bile bu işin ne kadar da zor olduğunu özetliyor.

Yanlılıkta en önemli nedenin genellikle veri olduğu kabul ediliyor. Çünkü eğitim için kullanılan veri özünde ırkçıysa, ayrımcıysa, cinsiyetçiyse, sonuç olarak eğitilen yöntem de bu özelliklere sahip oluyor. Çünkü eğitim için kullanılan veri yoktan var olmuyor. O verinin mevcut sistemlerden toplanması gerekiyor. Bu mevcut sistemler (farkında olalım veya olmayalım) içerisinde yaşadığımız kapitalist sistemin yaratmış olduğu sınıflı toplumun, kullandığımız dillerin ve hatta bu sistemleri geliştirenlerin yıllardır süregelen ırkçı, ayrımcı, cinsiyetçi eğilimlerini ve yanlılıklarını barındırıyorlar. Üstelik veride oldukça az miktarda bir yanlılık varsa, eğitilen sistemde bu yanlılık daha da büyüyebiliyor.

Örneğin insan dillerinin farklı şekillerde yanlılık ve ayrımcılık içerdiğini biliyoruz, dolayısıyla algoritmalar insan dillerini bir şekilde öğrendiğinde kaçınılmaz bir şekilde bu yanlılıkları da öğreniyorlar⁵³. Çünkü eğitilmeleri için kullanılan verinin tam da kendisi bu dillerden geliyor. Dolayısıyla sağlık hizmetleri, adalet hizmetleri, reklamcılık ve birçok toplumsal alana hızlıca ve yoğun bir şekilde bütünleşen YZ’nın yarattığı olumsuz yanlılık örnekleri de gün geçtikçe daha da artıyor ve gündeme geliyor.

Amazon’un otomatik işe alım aracına ilişkin haberlerde bu sorunların oldukça etkileyici bir örneği var. Bu araç “iyi” ve “kötü” adaylar arasında ayrım yapmayı “öğrenmek” için, şirketin önceki işe alım kararlarından oluşan muazzam bir veri külliyatıyla eğitilmişti. Sonuç, belki de bekleneceği üzere, kadınlara karşı ayrımcılık uygulayan bir işe alım aracıydı, hatta içerisinde “kadın” veya “kadınlar” geçen özgeçmişlerin önemini oldukça düşürüyordu. Amazon mühendisleri sorunu düzeltmeye çalıştılar, algoritmayı yanlı tercihlerini hafifleterek ayarlamaya çabaladılar, ancak nihayetinde düzeltilemez sonucuna vararak projeyi ıskartaya çıkarmak zorunda kaldılar⁵⁴. Bu durum bu sorunların iç içe geçmiş doğasını sergiliyor: öncelikli sorun (çoğu benzeri şirkette olduğu gibi) Amazon’da da önemli konumlarda geliştirici, yönetici vb. olarak çalışanlar çoğunlukla beyaz, hetero erkekler. Çünkü bu insanlar yaşamları boyunca belirli bir ayrıcalığa sahip olarak, belirli koşullarda daha iyi eğitim alarak ve çalıştıkları şirketlerde yıllardır mevcut benzeri kişilerin açık ve örtük desteğiyle konumlarını elde etmede bir sıkıntı yaşamıyorlar. Beyaz hetero erkekler; kadınları, eşcinselleri, transları, siyahları (yetersiz buldukları için veya rahatça ırkçı, cinsiyetçi vb. şaka yapamayacakları için olabilir) işe almıyorlar. Böylece adayları tasnif eden sistem Amazon’da eskiden beri süregelen bu ayrımcı işe alım kalıplarını yansıtıyor, bu kalıplar daha sonra otomatik sistemler tarafından güçlendiriliyor. Bu sistemler ayrıca teknoloji sektöründeki mevcut aday havuzunun ve çalışanların ne kadar da asimetrik ve orantısız bir hâle geldiğini görünür kılma işlevi de görmüş oluyor.

Son günlerdeki bir başka çarpıcı örnek Barack Obama’nın düşük çözünürlüklü bir fotoğrafının piksellerden temizlemek için kullanılan bir makine öğrenmesi yöntemine (PULSE tabanlı⁵⁵) girdi olarak verilmesi ve Beyaz bir Obama sonucuyla karşılaşılmasıdır⁵⁶ ⁵⁷ ⁵⁸. Bu durum salt Obama’yla sınırlı değil. Bu yöntem başkalarını da “beyazlaştırıyor”. Elbette bu MÖ araştırmacıları ve mühendisleri arasında da sorunu teknik olarak çözme yönünde bir tartışma yarattı. Facebook YZ şefi Yann Le Cunn da tartışmaya “veri yanlıysa, MÖ sistemleri de yanlıdır” şeklinde katıldığında, birçok kişiden doğru verinin haksızlıkları çözmeyeceği veya “adil” veri kümesi gibi bir şeyin pek mümkün olmadığı şeklinde tepkiler aldı. Üstelik Timnit Gebru gibi araştırmacılar yanlılığın verinin ötesine nasıl geçtiğini, kimlerin zarar gördüğünü anlatmaya çalışıyor, araştırmacıların bu gibi yöntemler araştırırken, geliştirirken, veri toplarken, konuşlandırırken, sınarken, kullanırken ötekileştirilmiş topluluklarla ve kişilerle konuşmasını öneriyorlar⁵⁹. Ayrıca toplumsal olarak daha sorumlu ve etiğe dikkat eden araştırmanın nasıl yapılabileceğine ilişkin öğrenceler sunuyorlar⁶⁰. Her şeye rağmen bu örnek bir yandan bize Yann Le Cunn gibi teknik ve araştırma anlamında çok yetkin kişilerin, gerçeklikten nasıl da habersiz ve her şeyi teknik bir şekilde çözebileceğine ilişkin dar bir bakış açısına sahip olduklarını gösteriyor. Her şeyi teknik bir şekilde teknolojiyle çözmek Silikon Vadisi’nin aşırı teknoiyimser alışkanlığı. Vidushi Marda’nın da söylediği gibi⁶¹ bu verilerde bir “çeşitlilik” veya “gelişmiş doğruluk” başarımı çağrısı olmamalı, bu teknolojiyi tasarlayan, geliştiren ve konuşlandıran bireylere ve kurumlara yönelik tekrar değerlendirme çağrısı olmalıdır.

Bu yanlılığa ve ayrımcılığa ilişkin örnekleri arttırmak mümkün⁶². Ancak sorun sadece yöntemlerle ve veriyle de sınırlı olmak zorunda değil. Silikon Vadisi’nin ve bilişim dünyasının ana gövdesini oluşturan kesimin ağırlıklı olarak beyaz hetero erkeklerden oluştuğunu düşündüğümüzde, kendi geliştirdikleri araçların da ayrıcalıklı konumlarını temsil eden ve barındıran araçlar olacağı da kesindir. Ve hatta hem tarihsel olarak hem de günümüzde bazı Yapay Zekâ geliştiricileri ve araştırmacılarının açıkça aşırı sağ eğilimleri taşıdığını bilmek⁶³, ayrımcı, ırkçı ve cinsiyetçi bir bilişim tarihine sahip olduğumuzu⁶⁴ ⁶⁵ ⁶⁶ kavramak süreci daha da zorlaştırıyor, çünkü bilişim tarihine işlenmiş olan ayrıcalıklar ve ayrımcılıklar, hem günümüzü hem de üretilen ürünleri etkiliyor.

Örneğin, Silikon Vadisi’ni kuran William Shockley’in en derin tutkusu soy arıtımıydı ve onlarca yılını IQ farklılıkları hakkındaki ırkçı kuramlarını tanıtmak ve beyaz üstünlüğünü desteklemek için harcamıştı⁶⁷. Bilgisayar Bilimcisi ve Bilişsel Bilimci olan, YZ alanının kurucularından biri olarak kabul edilen, Yapay Zeka terimini ilk ortaya koyan ve YZ açısından önemli olan LISP programlama dili ailesini geliştiren John McCarthy 2004 yılında bir denemesinde kadınların bilim ve matematiğe erkeklere göre biyolojik olarak daha az yatkın olduğunu ve sadece teknolojik takviye ile kadınların erkeklerle eşitliğe erişebileceğini öne sürmüştü⁶⁸. Kendisi de soy arıtımı araştırmaları taraftarı olan cinsel suçlardan hüküm giyen Jeffrey Epstein, MIT Medya Lab’ı için önemli miktarda fon sağlamış ve Bilişsel Bilimci ve YZ araştırmacısı olan ve bilgisayar bilimleri alanında önemli katkıları olan Marvin Minsky’nin çalışmalarını desteklemişti⁶⁹.

Günümüzde baktığımızda OneZero’da Matt Stroud’ın gözetim firması Banjo’nun kurucusu ve CEO’su Damien Patton’u Ku Klux Klan’ın Dixie Şövalyeleri’nin eski bir üyesi olarak tanımlayan haberiyle⁷⁰ ve Huffington Post’tan Luke O’Brien’ın, Clearview AI şirketinin kurucusu Cam-Hoan Ton-That’ın, eski Breitbart yazarı Chuck Johnson, Pizzagate komplo teorisyeni Mike Cernovich ve neo-Nazi bilgisayar korsanı Andrew ‘weev’ Auernheimer gibi aşırı uç sağcılarla ilişkili olduğunu ortaya çıkardığı haberle karşılaşıyoruz⁷¹. Clearview AI teknolojisinin açıkça ırkçı bir kullanıma göre tasarlandığı düşünülüyor, çünkü Chuck Johnson 2017 yılının Ocak ayında “sınır dışı etme ekiplerinin bütün yasadışı göçmenlerin kimliğini tespit etmesine yönelik algoritma oluşturma” aşamasında yer aldığını duyurmuş ve üzerinde çalıştığı yüz tanıma yazılımının yeteneklerinden övünerek söz etmiş⁷².

Bu haberlerin bu kadar şaşırtıcı ve etkili olması, bu şirketlerin devletlerle önemli kurumlara YZ’ye dayalı gözetim sistemleri sağlamasından kaynaklanıyor. Aşırı sağcı birinin ürettiği bir ürün, elbette açıkça ırkçı bir amaçla tasarlanacaktır. Zaten birçok YZ sisteminin ırkçı yanlılık içeren toplumsal eşitsizlik kalıplarını yeniden ürettiği sürekli söylenen ve bilinen bir şey, bu işin bir de aşırı sağcılar tarafından yapılması işin daha da ciddileşmesi anlamına geliyor. Mesela Sarah Myers West, eldeki verilere dayanarak sonraki olası suç ve suçluları öngörmek için kullanılan birçok öngörücü polislik sisteminin güvenilmez veriden yararlandığını söylüyor, AI Now Enstitüsü yazarları da kolluk kuvvetinin yargı için kusurlu, ırksal olarak yanlı ve kimi zaman kanunsuz polislik uygulamaları sırasında üretilen veriyi, ilgili sistemlerin eğitiminde kullandığını ortaya koyuyorlar⁷³. Dolayısıyla bu ırksal yanlılığın aslında “suç önleme” analiz sistemlerine özgü olduğu anlamına da geliyor. Sarah Brayne’nin öngörücü polislik üzerine yaptığı bir araştırmaya göre, beyaz olmayan toplumlara yönelik aşırı polislik ve gözetimi kötüleştiren bu veri uygulamaları mevcut eşitsizlik kalıplarını yeniden üretiyor ve kaydediyor⁷⁴.

Sarah Myers West’in dediği gibi bu örnekler Yapay Zekâ alanındaki güçlü şahsiyetler içerisindeki sağ kanat ve açıkça ırkçı ve cinsiyetçi politikaların⁷⁵ sürekliliğini de gösteriyor. 1960’lardakine göre bugün çeşitliliğin çok daha az olduğu⁷⁶ bir sanayi ile karşı karşıyayız. Irkçı⁷⁷ ve yanlı⁷⁸ varsayımların kodlandığı, mevcut ayrımcı biçimleri, tespit edilmelerini ve azaltılmalarını gittikçe daha da zorlaştıran ve iyice kötüleştiren teknolojilerle baş başayız⁷⁹ ⁸⁰. Bu gibi sistemlerden en büyük zararı görenleri yoğun bir şekilde ötekileştiren ve dışlayan teknoloji sanayinin, ötekileştirdiği ve dışladığı bireylerin sorunlarını çözmesini beklemek pek gerçekçi değil.

Her ne kadar yanlılığı çözmeye yönelik bilimsel araştırmalar olsa da⁸¹ ⁸² ⁸³ ⁸⁴, bu durumun salt bilimsel araştırmayla çözülebileceğini düşünmemek gerekiyor. Kesin olan bu yanlı teknolojilerin kadınlar, translar, non-binary bireyler, beyaz olmayanlar, engelliler, göçmenler vb. ezilen kesimler, ayrıcalığı olmayan kişiler için mevcut eşitsizlikleri daha da derinleştirdiğidir ve çözüm öncelikle bu teknolojilerin kendisine yaşam bulduğu mevcut sistemde aramaktır. Bataklığı kurutmadan, sıtmayla mücadele gerçekçi bir çözüm üretmeyecektir.

Yapay Zekâ ve İklim Krizi

YZ araştırmalarının ve araçlarının tartışma konusu yaratan bir başka boyutu da gezegendeki mevcut iklim krizine yaptığı olumsuz katkıdır. Gittikçe artan küresel hesaplamanın elbette iklime olumsuz bir katkısı olacak, bu kaçınılmaz. Bu konuyla ilgili olarak 20 Eylül 2019’da 12 teknoloji firmasından işçiler küresel iklim grevine katıldılar, iklim değişikliğinde teknolojinin rolünü vurguladılar ve “2030 itibariyle sıfır karbon salınımı, fosil yakıt şirketleriyle sıfır sözleşme, iklim değişikliğini inkâr lobisine veya diğer çabalara sıfır fon ve iklim mültecileri ile ön saftaki topluluklara sıfır zarar” talebinde bulundular⁸⁵. Günümüzde gittikçe artan İnternet kullanımı, akış hizmetleri, veri trafiği ve depolama, veri merkezlerine talebi artırıyor ve dolayısıyla kullanılan enerji miktarı da artıyor. Örneğin dünyadaki veri merkezlerinin en çok yoğunlaştığı yer olan Kuzey Virjinya’nın elektriğini sadece %1’ini yenilenebilir enerjiden elde eden bir firma sağlıyor ⁸⁶. Üstelik “nesnelerin internetini” gerçekleştirecek 5G ağların ve savurgan kripto para madenciliğinin ortaya çıkışıyla birlikte, veri toplama ve trafiği zaten artan bir ivme kazanmış durumda, 5G antenler, 4G öncüllerinden çok daha fazla enerji harcayacak ve 5G sayesinde otonom sürüş ve uzaktan robotik cerrahi gibi karbon yoğun teknolojiler yaygınlaşacak ⁸⁷.

Sorun sadece bunlarla sınırlı değil. YZ bütün bu etkilerinin yanında fosil yakıt çıkarmayı ve üretimini de hızlandırmayı desteklemek için de kullanılıyor. Amazon, Microsoft, Google gibi şirketler büyük fosil yakıt şirketleriyle işbirliği yapmaya, onlara ürün satmaya çalışıyorlar.

Önemli bir başka sorun da, YZ araştırmalarının ve yöntemlerinin salt en hızlı ve en iyi çalışan odaklı olması ancak başka etkileri ne ölçüt olarak kabul etmesi ne de bu konuda hesap veren, sorumluluk sahibi bir şeffaflık üstlenmesi. Ciddi bir düşünce değişikliği gerekiyor. Yalnızca daha iyi ve başarılı olmanın yeterli olmadığı⁸⁸, farklı ölçütlerin, örneğin ne kadar enerji harcadığı, ne kadar karbon salınımına yol açtığı gibi ölçütlerin standart bir uygulama olarak benimsenmesi şart. Hatta YZ’nin toplum, emek, çalışma yaşamı vb. farklı konulardaki etkisini de hesaba katan ve düşünen bir bakış açısını da kazanmak gerekiyor.

Buna ek olarak, salt enerji ve iklim krizindeki etkisini değil, ayrıca dijital emek bölümünde özetlemeye çalıştığımız üretim sürecindeki maden çıkarma ve atık gibi etkileri üzerine de düşünmek ve çözümler üretmek gerekiyor.

Peki, Gerçekten Sorunlar Çözülür mü? Nasıl Çözülür?

Ortaya çıkan, görünür olan mevcut sorunların sistem sorunlarının bir yansıması olduğunu kabul ettiğimizde, şirketler ve bireyler ve hatta devletlerin teknolojideki sorunları çözme konusunda salt düzenlemelerle ve kısıtlamalarla çok başarılı olma ihtimali düşüyor. Örneğin Amazon’un işe alımda karar vermek için kullandığı akıllı sistem ayrımcı bir veriyle beslendiği sürece bunu yazılımdaki bir hatayı çözer gibi çözmek mümkün değil ⁸⁹. Öncelikle o sistemi eğitmek için kullandığı verinin, yani kendi işe alım süreçlerindeki ayrımcılığın tamamen ortadan kalkması gerekmektedir.

Dolayısıyla sorun teknik bir sorun, örneğin kaynak kodun açık olması veya özgür yazılım olarak dağıtılması ile çözülebilecek bir sorun değil. Zaten yaygın olarak kullanılan çoğu Makine Öğrenmesi ve Derin Öğrenme kütüphanesi özgür yazılım olmasa bile açık kaynak yazılım olarak dağıtılıyor⁹⁰, birçok insanın katkısı ve denetimiyle geliştiriliyor. Fakat bu yöntemlerin ayrımcı olması kullanılan tekniklerden kaynaklanmadığı için, eğitilmelerinde kullanılan veriye bağlı olduğu için bu yazılımların açık kaynak olması veya bilimsel ve teknik anlamda çok iyi olmasının pek bir yararı olmuyor.

Bu elbette hiçbir şey yapamayız anlamına da gelmiyor. Elimizden geldiğince mevcut sorunları, bir sistem eleştirisi ile birlikte görünür kılmak, gerektiğinde devletlerden düzenleme ve hatta kimi zaman teknolojik araçların gözetim, baskı amaçlarıyla kullanımının kısıtlanmasını talep etmek gerekiyor. Bununla ilgili olarak aşağıdaki hareketler, çağrılar, sorular ve örneklerin önemli olduğunu düşünüyorum:

Öldürücü Robotların Durdurulması Kampanyası⁹¹: 2012 yılının Ekim ayında tam otonom silahları yasaklamak ve böylece güç kullanımı üzerinde anlamlı bir insan denetimini korumayı sağlamak için oluşturulmuş bir sivil toplum kuruluşları koalisyonudur.

Teknolojiden Hapishaneye Hattını Sona Erdir⁹²: Eleştirel Teknoloji Koalisyonu, suç tahmin teknolojisinin adaletsizlikleri yeniden ürettiğini ve hakiki bir zarar verdiğini söyleyen bir mektupla Springer yayınevinden çıkan bir kitapta yayınlanmış bir makale üzerinden yayınevinden suç tahmini için ceza adaleti istatistiklerinin kullanılmaması çağrısında bulunuyorlar. Böyle çalışmaların yarardan çok zarar verdiğini ve YZ’nin toplumsal eşitsizlikleri tekrar üretmesine yol açtığını belirtiyorlar.

Yüz Hakkında⁹³: EFF tarafından yürütülen ve yüz tanıma/gözetim teknolojilerinin mahremiyet, ifade ve örgütlenme özgürlüğü gibi anayasal hakları ihlal ettiğini ve dolayısıyla hükümet tarafından kullanılmaması gerektiğini söyleyen bir kampanya.

Amazon Ring’e Tehlikeli Polis İşbirliğini Sonlandırmaya Çağırma⁹⁴ ⁹⁵: Yine EFF tarafından yürütülen bu kampanya, 1300’den fazla kolluk kuvvetiyle kullanım anlaşması yapılan Amazon Ring işbirliğini sonlandırma çağrısı yapıyor. Bir ev güvenliği ürünü olarak satılan, kapı zili olarak kullanılan ve harekete duyarlı bir kamera da içeren Amazon Ring’in kolluk kuvvetleri tarafından kullanımının şüphe ve paranoya abartısıyla ırkçı fişlemeye yol açacağını ve ifade özgürlüğüne zarar vereceğini söylüyorlar.

EFF’nin Yapay Zekâ ve Makine Öğrenmesi kullanımına ilişkin soruları⁹⁶: EFF’nin bir başka kampanyası da YZ ve MÖ kullanımına ilişkin dikkate alınması gereken bazı sorular soruyor. Sorular, kitlesel gözetim söz konusu olduğunda ne tür kurallar ve kısıtlar gerekiyor, MÖ aracılığıyla alınan kararlar için ne tür şeffaflık, açıklık ve sorumluluk standartları gerekiyor ve MÖ yöntemlerinin ırk ayrımcısı sonuçlar üretmesini veya sorunlu “fişleme” biçimlerine girişmesini nasıl önleyebiliriz şeklinde özetlenebilir.

Google işçilerinin şirketi polis departmanlarına teknoloji satmayı durdurmaya çağırması⁹⁷ ⁹⁸: Irkçılığa Karşı Googlecılar imzasıyla yayınlanan bir mektupta Google şirketinin ürünlerini polislere satmasından kaygılı olduğunu söyleyen Google işçileri şirketlerinden George Floyd’un boynuna basarak ölümüne neden olan kuruluşları daha verimli kılmaktan ve işbirliğinden vazgeçmesini istiyorlar. Mektupta ayrıca kolluk kuvvetlerine göçmenleri izlemeleri için drone gözetimi kamera görüntüleriyle yardımcı olduğu için şirket konusunda hayal kırıklığı yaşadıklarını da söylüyorlar.

Bu çağrıların nafile olmadığını, kimi durumlarda başarıya ulaştığını da söylemek lazım. Mesela, George Floyd’un polis tarafından katledilmesiyle yaygınlaşan protesto eylemlerinin yarattığı baskı sonucu Amazon yüz tanıma platformu Rekognition satışını 1 yıl askıya aldı⁹⁹, Microsoft şirketi de benzer bir karar aldı¹⁰⁰ ve ancak hükümetin polisin kullanımına belirli kısıtlamalar getirmesi durumunda tekrar satışı düşüneceklerini söylediler. IBM ise yüz tanıma piyasasından tamamen çekilmeye karar verdi¹⁰¹. Büyük firmaların çekilmesi bir çözüm gibi gözükse de irili ufaklı birçok şirketin mevcut olan talebi karşılamak için bu işi yapmaya devam ediyor. Ve hatta yukarıda söz ettiğimiz gibi kimileri bunu ayrımcı, ırkçı ve göçmen karşıtı bir ideolojik amaçla da yapabiliyor.

İklim krizi söz konusu olduğunda, Roel Dobbe ve Meredith Whittaker’in önerdiği¹⁰² 7 maddelik politika değişiklikleri ve ortak eylem çağrısı ilk adım olarak önemlidir. Yanlı olma potansiyeli olan sistemlerin kullanımını kredi verme, polislik, adalet, işe alım vb. kritik kararların alındığı alanlarda kullanımını kabul etmemek, kullanıldığı durumlarda da açıklanabilirlik (“explainability”) ve sorumluluk vurgularıyla bağımsızca denetlenmesinin sağlanması gerekiyor. Bu son noktayla ilişkili olarak teknoloji geliştiricilerin ve araştırmacılarının daha bilinçli bir şekilde bu sorunların farkında olması ve kullanımları konusunda eleştirel yaklaşmaları önem arz ediyor. Elbette mevcut durumda acil sorunu çözmeye çalışıyoruz ve iklim krizini durdurmak istiyoruz. Bu nedenle önerilen yenilenebilir enerjiyle krizi aşmak başlangıç için iyi bir adım olsa da, uzun erimde onun da doğaya etkisini hesaba katmak gerektiğini düşünüyorum. Enerji tüketimini zorunlu haller dışında arttırmayan, kendine yeten ve doğaya mümkün olduğunca zararsız bir çözümü de düşünmek gerekiyor.

Bununla ilgili çarpıcı bir örnek dünyanın çeşitli büyük kentlerinde tarihi olarak mevcut olan bisikletler yerine elektrikli scooterların koyulması. Elektrikli scooter çözümü çok “yenilikçi” ve “şık” gözükebilir ama nihayetinde çalışmaları için şarj edilmeleri, dolayısıyla elektrik gerekiyor ve özellikle pili başta olmak içerisinde atık sorunu yaratan kimi zararlı madenler var. Kişisel araçları da düşünelim. Bireysel elektrikli araçlar yerine daha yaygın ve kullanışlı toplu ulaşım teşvik edilebilecekken, çok teknolojik, yenilikçi, güzel, otonom elektrikli araçlara yatırım yapılıyor. Evet, ilk amacımız iklim krizine bir çözüm bulmak ama dünyanın geleceği için daha toplumsal, daha dayanışmacı ve gezegenle daha barışık ve uyumlu bir şey tahayyül etmek gerekiyor.

Söz konusu ırkçılık, cinsiyetçilik ve ayrımcılık olduğunda, elbette öncelikle toplumdaki ırkçı, cinsiyetçi ve ayrımcı durumla mücadele etmek gerekiyor. Ezilen kesimleri dinlemek, yaşadıklarını anlamak ve ona göre hareket geçmek gerekiyor. Daha sonra özellikle kadınlar, LGBTİ+, beyaz olmayanlar, engelliler ve göçmenler açısından teknoloji sanayideki ayrımcı iş ortamını çözmek için Bilim, Teknoloji, Mühendislik ve Matematik bölümlerine bu ötekileştirilmiş kesimleri daha fazla çekmek, işyerlerinde dengeyi bu kesimler lehine düzeltmek ve çalışanları ayrımcı, cinsiyetçi ve ırkçı davranışları nedeniyle sorumlu tutmak gerekiyor. Bunun için Leslie Miley’in dediği gibi öncelikle Silikon Vadisi’nin (ve teknolojinin) ırkçı (ve bence cinsiyetçi ve ayrımcı) olduğunu kabul etmemiz gerekiyor ve Chris Gilliard’ın dediği gibi Silikon Vadisi’ni, teknoloji sanayiyi baştan aşağı yıkıp yeniden kurmayı, radikal bir yeniden yapılandırmayı da düşünmeliyiz¹⁰³. Tam da söylediği gibi bazı teknolojilerin özgür ve adaletli bir toplumda hiç yeri yok. Dolayısıyla teknoloji alanında çalışanların oluşturulan sistem kime yarıyor, kime zarar verebilir, kullanıcılar bu sistemle etkileşim kurmamakta özgür mü, mevcut eşitsizliklikleri derinleştiriyor veya dayatıyor mu, dünyayı daha iyi bir yer haline getiriyor mu, mevcut sınırlı kaynaklarımız gerçekten yararlı bir şekilde kullanılıyor mu diye sormaları ve sorgulamaları da gerekiyor¹⁰⁴.

Sözün özü, yukarıda da farklı örneklerin gösterdiği gibi, doğrudan teknolojinin nasıl kullanılacağına ilişkin teknik müdahaleler ve kısıtlamalar yeterli olmayacaktır. Aslında bir bakıma teknolojiye ve Yapay Zekâ’ya teşekkür de etmeliyiz. Çünkü içinde yaşadığımız kapitalist sistemde çoğu kişinin görmediği, görmeden inanmadığı bazı yapısal sorunları, kapitalist sistemin ve yapısal sorunların ortaya çıkardığı yanlılık ve ayrımcılıkları bize göstererek, yansıtarak ve popülerleştirerek daha da görünür kılıyor. Böylece ne ile mücadele etmemiz gerektiğini hatırlatıyor. Her halükarda teknolojinin ve YZ’deki bu sorunların beslendiği kaynağı kurutmak gerekiyor, dolayısıyla kapitalist sistemle bir yüzleşme, mücadele ve onun yerine daha iyisini inşa etmek gerekiyor. İçerisinde yaşadığımız kapitalist sistemden kaynaklanan ve onda vücut bulan her türlü ayrımcılıkla ve krizle mücadele etmeden teknolojideki sorunları çözmemiz ne mümkündür ne de gerçekçidir. Sadece sorunları görünür olmaktan çıkarıp, halının altına süpürmeye yarar. Dolayısıyla YZ’yi ve teknolojiyi mevcut toplumsal ilişkilerden bağımsız düşünmemek gerekiyor. Tüm canlılara, doğaya ve dünyaya yararlı olacak yeni toplumsal ilişkiler söz konusu olduğunda YZ’nin herkes ve her şey için çok daha yararlı olacağını söyleyebiliriz. İşte o zaman iyimser olabiliriz.

* Yazıyı okuyup görüşlerini paylaşan ve yazının daha anlaşılır olmasına katkı sağlayan Elem, Elif, İlker ve Diyar’a teşekkür ederim.

Dipnotlar: