Potemkin Yapay Zekâ

Birçok “yapay zekâ” örneği, gücünün ve potansiyelinin yapay teşhirleridir

1770 Yılında Macar mucit Wolfgang von Kempelen Mekanik Türk’ü¹ tanıttı. Mekanik Türk gazeteci Tom Standage’nin betimlemesine göre “doğulu bir büyücünün geleneksel kostümü” olan “ermin süslemeli bir cübbe, bol pantolon ve türban giyen, oyulmuş ahşaptan bir dolabın önünde oturan, ahşaptan oyulmuş gerçek boyutlu bir adam figürü” şeklindeki satranç oynayan bir mekanizmaydı. Satranç oynayan robot Avrupa ve Amerika’yı gezip Napolyon Bonapart gibi ünlü rakiplerle gösteri maçları yaptı. Tüm bu süre boyunca Kempelen, otomatın kendiliğinden çalıştığını iddia ediyordu.

Hile olmadığını kanıtlamak için her gösteriden önce kabini açıp izleyicilere karmaşık dişli, tekerlek ve kollu kaldıraçları gösterdi. Fakat Kempelen’in oluşturduğu aslında bir robot değildi, ayrıntılı bir illüzyondu. Mekanik Türk’ün içinde, onu çalıştırmak için mıknatıs ve kaldıraç kullanan ve Kempelen dolabı açtığında sahte makinelerin arkasına saklanan satranç ustası bir insan vardı. Başka bir deyişle, Kempelen karmaşık mekanik sistemi insanlara, dikkatleri otomatın gerçekte nasıl çalıştığından uzaklaştırmak i̇çi̇n gösteriyordu: insan emeğiyle. Kempelen zeki bir makine fikri pazarlıyordu, ancak insanların tanık olduğu şey yalnızca akıllı bir mühendisliğin gizlediği insan çabasıydı.

1730’larda, Jacques de Vaucanson adında bir Fransız mucit, La Canard Digérateur veya Sindiren Ördek² adlı bakır kaplama bir siborg³ tasarladı. Canlı bir ördek büyüklüğündeydi, bir ördek gibi yürüyordu ve bir ördek gibi vaklıyordu. Ancak izleyicileri şaşırtan ve afallatan asıl numarası, bir ördek gibi sıçabilmesiydi. Gazeteci Gaby Wood’un Guardian için yazdığı yazıda anlattığı gibi, otomat “katılımcının elinden yemek yedi, yuttu, sindirdi ve boşalttı; hepsini seyircinin önünde yaptı”.

Vaucanson, yiyeceği mekanik kıçtan dışarı atmadan önce ayrıştırmak için ördeğin midesine bir “kimya laboratuvarı” kurduğunu iddia etti. Vaucanson uzman olmakla birlikte (ördek karmaşık bir makineydi) iyi bir sihirbaz gibi ördeğin nasıl çalıştığını açıklamadı. Sır ölümünden sonra ortaya çıktı: Ördeğin içinde yenilikçi bir kimyasal teknoloji yoktu, biri yiyecek diğeri de önceden yüklenmiş dışkı için olmak üzere iki kap vardı. (Garip bir şekilde, Sindiren Ördek ve Mekanik Türk, 19. yüzyılın ortalarında aynı zamanlarda müze yangınlarında tahrip oldular.)

Kempelen ve Vaucanson bugün Silikon Vadisi’ne çok yakışırlardı. Gizemli makineler yapabilir ve ne yapabilecekleri konusunda halka harikulade iddialarda bulunabilirlerdi. Vaucanson kelimenin tam anlamıyla boku teknolojik sisteme gizlice soktu ve buna yenilik adını verdi. Kempelen’in Mekanik Türk’ü, IBM’in Deep Blue veya Google’ın AlphaGo’sunda olduğu gibi bir oyunu iyi oynamayı başardığı için değil, birçok yapay zekâ (YZ) sistemi büyük ölçüde halkı kandırmak için tasarlanmış teknik illüzyonlar olduğu için, günümüzün YZ sistemlerinin öncüsüydü. İster sosyal medya için içerik denetleme, ister polis gözetimi için görüntü tanıma olsun, YZ destekli analitiğin etkili olduğuyla ilgili iddialar boldur, ancak gerçekte bilişsel emek, (düşük ücretli) işçilerle dolu bir ofis binasından gelir.

İster analog otomatlar ister dijital yazılımlar olsun, bu tür sistemlerin bu şekilde inşa edilmesi ve sunulmasını Potemkin Yapay Zekâ olarak adlandırabiliriz. Karmaşık yazılımlar tarafından desteklendiğini iddia eden, ancak aslında robot gibi davranan insanlara dayanan hizmetlerin uzun bir listesi var. Otonom araçlar, Potemkin YZ’sini gizlemek için koltuk kılığına girmiş insan sürücüler ve uzaktan kumanda kullanıyorlar. Kişiselleştirilmiş reklamlar, fiyat karşılaştırmaları ve otomatik seyahat planlayıcıları gibi e-posta tabanlı hizmetler için uygulama geliştiriciler, özel e-postaları okumak için insanları kullanıyorlar. Sesli mesajları metne dönüştüren bir hizmet olan SpinVox, sesi kopyalamak için makineleri değil insanları kullanmakla suçlandı. Facebook’un çok övülen kişisel asistanı M, diğer YZ projelerine odaklanmak üzere bu yıl hizmetten çekilene kadar insanlara bel bağlıyordu. Potemkin YZ listesi, her girişimci sermaye yatırımı döngüsünde büyümeye devam ediyor.

Potemkin terimi, Çariçe II. Katerina’yı etkilemek ve gerçek durumu gizlemek için sahte köyler⁴ inşa eden bir Rus bakanın adından türemiştir. Bu yüzden Potemkin teknoloji, sadece olup bitenleri gizlemekle kalmıyor, ayrıca potansiyel müşterileri ve kamuyu aldatan bir görünüş inşa ediyor. Perdenin arkasındaki adama dikkat etmememizi söyleyen Oz Büyücüsü yerine, platformun arkasındaki insanlara dikkat etmememizi söyleyen programcılarımız var.

Bir teknolojinin iç işleyişi gizlendiğinde, o teknoloji genellikle, girdileri ve çıktıları görebileceğiniz, ancak arada ne olduğunu göremeyeceğiniz, mühendislik diyagramlarından türetilen bir terim olan “kara kutu” olarak nitelenir. Örneğin bir algoritma, teknik detaylar yalnızca küçük bir uzman grubu tarafından deşifre edilebilen yoğun bir jargon kullanılarak açıklandığı için bilfiil kara kutu haline gelmiş olabilir. Kasıtlı bilmesinlercilik⁵ suçlamaları genellikle postmodernizm için söylenir, ancak “makine öğrenimine yönelik bilimsel çalışmalardaki rahatsız edici eğilimler” üzerine yakın tarihli bir makalenin işaret ettiği gibi, bu alandaki araştırma ve uygulamalar belirsiz ayrıntılar, güçsüz iddialar ve aldatıcı gizlemelerle doludur. Anlaşılması güç eleştirel teori tarafından şaşkına uğratılmak hadi neyse de, bir YZ’nin tıbbi teşhisleri nasıl yaptığını ayırt edememek oldukça önemlidir.

Algoritmalar, yürürlükteki yasaların dayatmasıyla, onların ticari sır olduğu konusunda iddiada bulunan teknoloji şirketleri tarafından da kara kutu haline getirilebilir. Kara Kutu Toplumu‘nda⁶ Frank Pasquale, bilgiyi ve finansmanı  (veri ve dolar dolaşımını) yöneten algoritmaların ne kadarının şeffaf olmadığını ayrıntılarıyla anlatıyor. Algoritmalar genellikle bir tür tarif olarak tanımlanır. Tıpkı Coca Cola’nın formüllerini sıkı korunan bir sır olarak saklaması gibi, teknoloji şirketleri de “gizli soslarını” şiddetle koruyor. Yine, tersine mühendislik yapamayacağımız bir içeceğin tadını çıkarmak neyse de, ceza davalarında ceza kararları veren özel mülk yazılıma sorgusuz sualsiz inanmak dikkate alınacak bir şeydir.

Potemkin YZ’nin kara kutuyla ilgisi var, ancak gizlemeyi aldatmaya dönüştürür. Mekanik Türk, günümüzde çok tartışılan YZ sistemlerinin çoğu gibi, iç işleyişini meraklı gözlerden gizleyen salt bir kara kutu değildi. Ne de olsa Kempelen, otomatının dolabını gerçekten açıyordu ve karmaşık bir makine gibi görünen şeyin nasıl çalıştığını sözüm ona açıklıyordu. Ancak yalan söylüyordu. Benzer şekilde, YZ sistemleriyle ilgili yapılan pazarlama, teknik terimleri bir sihirbazın büyüsüymüş gibi kullanır: Akıllı! Zeki! Otomatik! Bilişsel hesaplama! Derin öğrenme! Abrakadabra! Hokus pokus!

Doğru büyüyü örmek, bir YZ sistemine nesnellik, tarafsızlık, otorite, verimlilik ve diğer arzu edilen nitelik ve sonuçları bahşedebilir. Herhangi iyi bir numara gibi, sistemin gerçekten bu şekilde çalışması, insanların buna inanıp ona göre hareket etmesinden daha az önemlidir.

***

Neden Potemkin YZ oluşturma zahmetine giriliyor? Görünüşü destekleyenler için  mevzubahis olan nedir? Genel olarak, üzerinde durulması gereken iki kadim neden var: kâr ve güç. Bir YZ uygulaması, makine öğreniminden ziyade büyük ölçüde insan emeğine dayanıyorsa, bu, ne risk sermayedarları ve müşterileri için iyi bir satış tanıtımı olur ne de halkı teknolojinizin gücüne ikna eder. Elbette şöhret ve tanınma gibi başka motivasyonlar da var ama bence onları kâr ve güce göre rahatlıkla ikincil konuma itebiliriz.

Ana motivasyonların her biri, Potemkin YZ’sinin şu iki örneğiyle gösterilmektedir: Amazon’un Mekanik Türk’ü ve Çin hükümeti tarafından Çin’de konuşlandırılan gözetim sistemleri. İlkinde, insanlıktan çıkmış bir emek platformu, sonunda yeniliğe ulaşmak için zaman kazanırken ucuz bir “zekâ” sağlar. İkincisinde, insanlıktan çıkmış bir izleme aygıtı, kaçınılmaz bir denetim illüzyonu oluşturur.

Amazon’un Mechanical Turk⁷ platformu veya diğer adıyla MTurk, işverenlerin anket tamamlamak veya resimleri etiketlemek gibi ayrık, genellikle rutin görevler yayınlamasına olanak tanır. Bu mikro işleri tamamlayan işçilere daha sonra mikro ücretler ödenir: Bir çalışma saatlik ortalama ücreti yaklaşık 2 dolar olarak hesaplıyor. Leslie Hook’un Financial Times için yazdığı bir yazıda belirttiği gibi, MTurk bazen, dünya çapında dağınık ve çevrimiçi bir platformun arkasında saklanan çok sayıda (yüz binlerce) insan işçiyi organize eden yaklaşıma işaret etmek için “hizmet olarak insan” veya “insan bulutu”, hatta “yapay yapay zekâ” olarak tanımlanıyor. Birçok şirket, tıklamaya ve göndermeye hazır bu devasa ucuz işgücü havuzuna güveniyor ve bu da bir gün YZ yazılımı tarafından gerçekleştirileceğini umdukları görevleri tamamlamada hızla ölçeklenmelerini sağlıyor.

Mechanical Turk isminin 18. yüzyıl aldatmacasına açıkça atıfta bulunduğu düşünüldüğünde, sistemin etten kemikten temelleri hakkında kullanıcıları aldatmaya yönelik bir niyet olmadığı anlaşılıyor. MTurk, iş için taşeron olarak gerçek canlı insanları kullandığı konusunda samimi. Kempelen, makinesinin otonom olduğunu açıkça iddia ederken, MTurk, platformun Potemkin numarasına inanmak isteyen bir seyircide bu izlenimi uyandırmak için akıllı bir tasarım kullanıyor. Dijital emek uzmanı Lilly İrani’nin tanımladığı gibi, MTurk, esasen Turker’leri⁸ maskelemek için yapılmış, bu da platformu insanlıktan çıkarıyor. MTurk, “emek talebini teknik ve altyapısal hale getirerek, işçilerin görünürlüğünü sınırlandırıyor, onları programcının kasıtlı ve etkileyici eliyle istihdam edilecek bir araç haline getiriyor” diye yazıyor. Platform ve arayüzleri, işverenlerin insanlara akılsız bir makineyi çalıştırıyormuş gibi komuta etmelerine izin veriyor. Bu durumda, Potemkin YZ, sömürüyü ilerleme olarak adlandırırken uygun bir rasyonelleştirme yolu sağlıyor.

İrani, vasıfsız işlerin taşeronlaştırılmasına ek olarak, MTurk gibi bir Potemkin YZ’nin, gerçek YZ’nin bilişsel görevleri tamamlamadaki eksikliklerini, “YZ’nin hesaplama zekası vaadini gerçek insanlarla simüle ederek”, hem teknik hem de ideolojik olarak telafi etmeye nasıl yardımcı olduğunu da açıklıyor. Akılsız ve sıkıcıymış gibi görünen tıklama işleri bile “akıllı” makineler için hala çok ileri düzeyde. Bu basit gerçek, özellikle yatırımcılar eninde sonunda gerçek sonuçlar ve kârlı ürünler beklediğinde, YZ araştırma ve geliştirmesinin finansmanı için iyiye işaret değil. Güleryüzlü pazarlama imgesinin aksine, yatırımcılar ve şirketler paralarını YZ’ye, sırf yenilik olsun diye akıtmazlar. YZ, üstel büyümenin kilidini açarak, işçilik maliyetlerini ortadan kaldırarak, verimliliği optimize ederek ve bir dizi beklenen diğer sonuçları elde ederek sermayenin sorunlarını çözmeyi vaat ediyor. Ancak YZ çözümü, ancak sistemler sonunda söz verildiği gibi çalışırsa gerçekleşecek.

Gerçeklik, abartıyı yakaladığında başka bir “YZ Kışının” geleceğine, YZ’ye olan tüm finansmanın ve ilginin donacağına yönelik büyüyen bir korku var. YZ için ilk abartı döngüsü 1950’lerde inşa edilmeye başlandı ve coşkunun yerini hayal kırıklığının aldığı 1970’lerin ortalarına kadar büyüdü. Ardından gelen YZ Kışı, büyük veri, işlem gücü ve dijital platformların birleşiminin makine öğrenimi araştırmalarında yeni ilerlemeler sağladığı 2000’lerin sonlarına kadar sürdü.

YZ daha fazla dikkat çektikçe, yeni başlayanların hizmetlerini yenilikçi, yıkıcı ve her yönden aptal rakiplerinden daha iyi olarak adlandırmak için kısaltma olarak kullanabilecekleri bir etiket haline geldi. YZ’nin neler başarabileceğine dair şişirilmiş iddialar, döngüsel bir mantıkla sürdürülen bir beklenti ekonomisini besler: yatırım vaatlere yol açar, bu da markalaşmaya ve daha fazla yatırıma yol açar … ve balon patlayana kadar böyle devam eder.

YZ’nin en abartılmış, en ileri uygulamalarından bazıları bu tür propagandalarla destekleniyor. Önemli bir örnek, Çin’de konuşlandırılan kapsamlı gözetim sistemidir. Çin şehirlerindeki milyonlarca kamerayla devlet, insanları otomatik olarak tanımlayabilen ve hatta suçluları cezalandırabilen YZ ve yüz tanıma ile canlı yayınların analizini iyileştirmeye çalışıyor. Örneğin, yoğun bir kavşaktaki bir kamera artık ışık ihlali yapanların harekete geçtiğine tanık olabilir, bilgilerini ekranda görüntüleyerek onları utandırabilir ve para cezası içeren bir kısa mesajı onlara gönderebilir. Bununla birlikte, bu adını yayarak utandırma sisteminin şu anda gerçekte ne kadar otomatik olduğu tartışmaya açık. Çin’in totaliter teknolojisi hakkındaki yakın tarihli bir New York Times makalesinin en altına gizlenmiş bir parça, bu sistemdeki YZ’nin gerçek olana göre nasıl oldukça abartılı olduğunu vurguluyor:

Sistem, her şeyi gören bir teknolojik ağdan çok dijital bir yamalı bohça olmaya devam ediyor. Birçok dosya hala dijitalleştirilmemiş ve diğerleri kolayca bağdaştırılmayan elektronik tablolar şeklinde. Polisin bir gün YZ tarafından destekleneceğini umduğu sistemler şu anda fotoğrafları ve verileri eski moda yöntemle sıralayan insan ekipleri tarafından yönetiliyor… Yine de, genellikle güvenlik konusunda sessiz kalan Çinli yetkililer, ülke halkını yüksek teknoloji güvenlik devletinin yürürlükte olduğuna ikna etmek için bir kampanya başlattılar.

Potemkin YZ, bir panoptikon⁹ inşa etmenin etkili bir yoludur. İnsanlar, zaman isteyen, yorulan ve hata yapan insan analist gruplarından ziyade insanlık dışı bir gücün her yerde bulunan kameralardan gelen beslemeleri yorulmadan işlediğine inanırlarsa, disiplin gücü daha da fazlalaşır. İnsanları polisin YZ’yi kullandığına ikna etmek, YZ’nin olması gerektiği fikrini, ve belki de daha önemlisi, zaten toplumu durmadan izlediğini normalleştirmenin bir yoludur. Yine, güç ve disiplin amacıyla, YZ’nin gerçek mi yoksa sahte mi olduğunun önemi azdır, önemli olan, insanların Potemkin aldatmacasına inanıp inanmadığıdır.

Elbette, Çin hükümetinin gücü konusunda halkı aldatmak için propaganda yapacağını söylemek kolay. Ama bu sadece Silikon Vadisi’nin denenmiş ve gerçek bir taktiğini kullanıyor: gerçeğini yapana kadar öyleymiş gibi yap. Teknolojik gelişme sürecinde çıkmazları ve gecikmeleri gizlemenin uzun bir geçmişi var. Bu, sürecin doğrusal (sapma yok), deterministik (durmak yok) ve ilerici (endişe yok) görünmesini sağlar. Aynı zamanda, herhangi bir şüpheciliği bastırır ve halkı direnişin boşuna olduğuna ikna eder, L.M. Sacacas’ın “Borg kompleksi” olarak nitelediği bir eğilim¹⁰, çünkü teknoloji çok etkili ve alternatiflerden çok daha iyi. Bir algoritma ile tartışamazsınız ve gökyüzündeki YZ her zaman izliyor.

Değişen derecelerde, YZ’nin birçok uygulaması daha çok YZ’nin simülasyonları gibidir. Bu, YZ üzerine yapılan tüm araştırma ve geliştirmelerin, bir verimlilik görünüşü oluşturmak için ayrıntılı bir tertip olduğu anlamına gelmez. Meslektaşım Kazjon Grace gibi dışarıdaki pek çok araştırmacı, bilimi yavaş yavaş ilerletmek ve kafa karıştırıcı ve aşırı umut verici tuzaklara düşmeden, yaratıcı tasarımı geliştirmek ve davranışsal çeşitliliği teşvik etmek gibi yararlı uygulamalar geliştirmek için çalışıyor. Yine de Potemkin YZ, sağlıklı bir sektördeki birkaç kötü aktörle sınırlı değil.

Sorun, kendi başına YZ veya YZ’nin işe yaramamasıyla ilgili değil, YZ’nin gelişimini yönlendiren kültürel abartı ve ideolojik hedeflerle ilgilidir. YZ için çok fazla ilgi ve finansman, kârlarını en üst düzeye çıkarmak ve/veya güçlerini güvence altına almak isteyenler tarafından toplanıyor. YZ’yi insan kararlarının yerini almak, insan emeğini kullanmak, insan yaşamını yönetmek için bir araç olarak kullanmaya yönelik o kadar çok girişim görüyoruz ki, bunların en iyi, hatta doğal uygulamalar olduğuna inanmak kolaylaşıyor. YZ bir bahane, bu uygulamaları rasyonelleştirmenin bir yoludur. Ve Potemkin YZ bir vekildir, bu tutumu peşinen normalleştirmenin bir yoludur. Ama bu sadece görünüşün ötesine bakmazsak işe yarar.

Jathan Sadowski, Monash Üniversitesi Bilgi Teknolojileri Fakültesi’ndeki Gelişmekte Olan Teknolojiler Araştırma Laboratuvarı’nda araştırma görevlisidir.

Kaynak: Real Life Magazine, 6 Ağustos 2018

Dipnotlar

1. çn.bkz. Türk (satranç otomatı) ↩︎
2. çn bkz. Digesting Duck ↩︎
3. çn. Sibernetik Organizma. Biyolojik ve yapay (elektronik, mekanik, robotik, vb.) kısımları olan varlıklar. ↩︎
4. çn. bkz. Potemkin köyü ↩︎
5. çn. obskürantizm, hakikatin toplumun bazı sınıf ve kesimlerince bilinmesinin kasıtlı olarak önlenmesi. ↩︎
6. çn. Frank Pasquale, The Black Box Society, Harvard University Press, 2016  ↩︎
7. çn. bkz. Amazon Mechanical Turk ↩︎
8. çn. MTurk’te iş yapan kişiler ↩︎
9. çn. Panoptikon, İngiliz filozof ve toplum kuramcısı Jeremy Bentham’ın 1785 yılında tasarlamış olduğu hapishane inşa modelidir. Tasarım gözetleme odaklıdır. ↩︎
10. çn. Borg Kompleksi, teknolojiye direnmenin faydasız olduğunu açıkça öne süren veya dolaylı olarak varsayan teknolojist, yazar ve uzmanların sergilediği davranış. Kökeni Uzay Yolu evrenindeki sürekli kendilerine direnmenin faydasız olduğunu söyleyen Siborg uzaylılar Borglar.  ↩︎