Yapay Zeka, Edebiyat ve Algoritmik Yönetimsellik
Avrupa medeniyeti; tüm iddiaları, hülyaları ve araçlarıyla 1. Dünya Savaşı ertesinde neredeyse öldüğünden ve bilginin onu kurtarmadaki yetersizliğinden ortaya çıkan “zihnin krizi”nin açtığı alanda, teknoloji tarihin özneliğine soyundu. Mahcup insanı – ve insan aklını- tarihi üretmekten uzakta; tarihe ancak iliştirilmiş bir konuma itti. Teknik, öngördüğümüz ve önümüze ışık tutacak bir araç olmaktan tam da bu dönemde çıktı ve bizi sürükleyen ve ancak izlediğimiz, kendini besleyen ve güçlenen bir sürece döndü.
Teknolojiyi özgürce kullanmamamızın önü tıkandı ve o bizi manipüle edip kullanır oldu. Verilerin hacmi arttıkça sayılar kendileri konuşmaya başladılar. Anlamın önemsizleşmesi ve bilginin nicelik üzerinden kurulması vakıası - insan gözünden bakarsak: sorunu - ortaya çıktı.
Algoritmik yönetimsellik kavramı içine girmekte olduğumuz süreci açıklayabilir. Yönetimsellik, zor kullanarak ya da müzakere ederek değil, insanları “özneleştirmek” suretiyle insanların kendileriyle kurdukları bilinç ilişkisini manipüle etmeye denir. İnsanların kararlarının failliğini onlardan alır, Foucaultcu manada iktidar ağına/yapıya verir. Algoritmik yönetimsellik, mevcut neoliberal yönetimselliğin yerine talip değil, ona eklemlenme sürecinde başımıza bir ikinci çorap olarak görülebilir. Ve algoritmik yönetimsellik, özneleştirme – yani Foucaultcu iktidarın devamlılığını sağlayacak arzuları insan içine yerleştirerek kararları manipüle etmek- yerine; potansiyelleri biçimlendirerek kararların failliğini insanlardan gasp eder. İnsanın bireyselleşmesini de engeller.
Davranışların modellendiği bir toplum, belirsizliklerle toplumsal olarak yüzleşmek yerine risklerin sonuçlarını doğrudan bireylere yükler: İş bulamamak, hasta olmak, yoksul olmak bireyin sorumluluğundadır. Bireyler, veri üzerinden üretilmiş profillere indirgenir; bu profiller hesaplanabilir ve artık öngörülebilirdir. Bireylerin gelecek tahayyülleri “hesaplanıp” bunlar manipüle edilir. Veri ambarları oluşturulur, bu veriler işlenir ve davranışları manipüle edecek biçimde uygulamaya sokulur; potansiyeller üzerinden bireyin failliğinin çalınması böyle sağlanır.
Nesnellik iddiası ve hesaplanabilirlik mantığını kullanarak bu dayatmalar kendilerini temize çıkarmaya çalışsa da eşit olmayanları eşlerler ve kara kutularıyla kararları değişmez hale getirirler. Haftanın hakemlerinin seçilmeleri ile ilgili sorumluluğunun doğrudan algoritmaya yüklenmesi – ve buna nesnellik ve hesabın gereği iddiaları eklenmesi- bunun çok çocuksu lokal bir örneği olarak görülebilir. Bütünleştirici rasyonalite buna denir ve insan bununla müzakere de edemez mücadele de edemez; çünkü algoritmaya eleştirel bakacak bir kapsayıcı bir perspektif bulamaz. Hakem seçimi için bu pek önemli değilken, toplumsal sorunlarda algoritmik yönetimsellik büyük bir müzakeresizlik problemi ortaya koyar. Bir diğer temel sorunu da karar vericiliğin ortadan kalkmasıyla -kararların sayıların kendisine devriyle- Foucaultcu iktidar ağının baskıcı yüzü tamamen görünmez/algılanamaz hale gelmesidir.
Stiegler, teknik gelişim ile bir “proleterleşme” ve bireyliğin kaybını bulur: insan bilgisi makineye öyle bir geçmiştir ki insan makineye/algoritmaya hizmet etmeye başlamıştır. Ait olduğu teknik sistemin içinde bireyleşmeyi üreten makinedir artık. Bireyliğin makineye/algoritmaya/yapay zekaya devri; bilginin ve kararın da devridir ve bu insanı/işçiyi vasıfsızlaştırır. Bu trajedi üç aşamada olur: beceri bilgisinin kaybı; kitle iletişiminin genleşmesiyle yaşam bilgisinin kaybı (ve standardizasyon); kuramsal bilginin kaybı. Kuramsal bilgi hafızaya dayanır; geçmişin çağrılıp zenginleştirilip yeniden kullanılmasına dayanır. Bilişsel olan hesaplanabilir olana teslim olurken; algoritma çıktısı, bilgi olarak içselleştirilmeye uygun olmayacaktır. Hafıza araçları kesintiye uğraması aklın işleyişi için trajik bir son olur; çünkü hafıza organize olmuş anlamdır.
Liste:
1. Klara ile Güneş – Kazuo Ishiguro
a. “İnsanın kendini yapayalnız bırakacak bir yola girmek için bu kadar büyük bir arzu duymasına şaşırdım.”
2. 2001: Bir Uzay Destanı – Arthur C. Clarke
a. Beyaz perdenin ikonik süper bilgisayarı HAL 9000’in hayat bulduğu roman
b. “Bazen, bir yaprağın düşüşünü ya da bir dünyadaki ölümün ardından gelen acıyı aynı duygularla seyreden, duyarlılıktan yoksun bir robot olmayı istediği zamanlar olmuştu.”
3. Androidler Elektrikli Koyun Düşler mi? – Phillip K. Dick
a. “Nereye gidersen git, yanlış yapman gerekecek. Bu hayatın temel şartı…”
4. Konuş – Louisa Hall
a. “En kusursuz şablon bile uzun süre kırılmadan gittiği zaman bir hataya dönüşebiliyor”
5. Küçük Öfkeli Gezegene Yolculuk – Becky Chambers
a. “Üzerinde durduğumuz yerden,
Yaşadığımız gemilerden
Umudumuz olan yıldızlara
GÖÇMEN ATASÖZÜ”
6. Benim Gibi Makineler – Ian McEwan
a. “Geçen gün Thomas bana Vergilius'un Aeneid'indeki ünlü Latince sözü hatırlattı. Sunt lacrimae rerum - şeylerin doğasında gözyaşı vardır.”
7. Ay Zalim Bir Sevgilidir - Robert A. Heinlein
a. “Ne yaparsanız yapın, geçmişin bir deli gömleği olmasına izin vermeyin!”
8. Ana Şifre – Carole Stivers
a. Annesi yapay zeka olan Kai üzerinden Freudyen okumalara açık, ailenin kanuna karşı devletin kanunu ikiliğinden Antigone’ye göz kırpan roman…
9. Tüm Sistemler Çöktü - Martha Wells
a. “Ne yapmak istediğine, ne yapması gerektiğine, ne yapmaya mecbur olduğuna dair hiçbir fikri bulunmayan kafası karmakarışık tek bir varlıktım”
10. Gece Oturumları – Ken Macleod
a. İnanç ile yapay zeka arasında kurulmuş bir anlatı…
b. “Makinelerin ruhları bulunduğu iddiasında değilim elbette ama rasyonel zihinleri olduğu kesin.”
11. Illuminae – Amie Kaufman
i. “Zorbalık karşısında sessiz kalan herkesin içindeki insan ölmeye mahkûmdur.”
12. Sonsuzluk Hükümranlıkları - Akemi Dawn Bowman
a. "Ve ne zaman gerçekten temel insan seviyesinde bağlantı kurabileceğimizi düşünsem bir bahane uydurup beni küçümsemeye geri dönüyorsun. Peki başka ne isteyebilirsin ki?" "Sana zarar gelmemesini istiyorum!"
13. Ben Robot – Isaac Asimov
a. “Düşünsene, artık sonsuza dek tüm çatışmalar önlenebilir. Bu saatten sonra önlenemez tek şey, Makinelerin ta kendisi!”
14. Adalet - Ann Leckie
a. “Eğer herkes aldığı her kararın tüm olası sonuçlarını bu kadar düşünecek olsaydı kimse parmağını oynatmaya, hatta nefes almaya dahi cesaret edemezdi.”
15. Robokıyamet - Daniel H. Wilson
a. “Her şey manasını kaybettiğinde bir insan acaba değişimi ne kadar özümseyebilirdi ki?”
16. Hayalet Program Daemon - Daniel Suarez
a. Yapay zekanın sistemleri ele geçirip toplumu dönüştürme denemeleri üzerine düşünen bir roman.
17. Neuromancer - William Gibson
a. “Gelişen teknolojiler, kanun dışı bölgelere ihtiyaç duyardı; Gecekent’in varoluş nedeni de sakinleri değil, bizzat teknoloji için kasten denetim dışı tutulan bir oyun alanı olmasında yatıyordu.”
18. Hyperion - Dan Simmons
a. “Daha fazla şey öğrendikçe daha az şey anlıyorum.”
Bonus:
19. Cogito 13: Yapay Zeka – Kolektif
a. “Zihnimizde önceden mevcut farklı anlam bileşimlerini uyandıracak birini ya da bir şeyi bulalım diye okuruz.” - Stefano Velotti
20. Novasen: Yaklaşan Hiperzeka Çağı – James Lovelock
a. Gaia teorisinin sahibi Lovelock’tan antroposen çağının sonuna ve yerini almasını öngördüğü yapay zekaya dayalı yeni bir hayat formuna dair yine provoke edici kitap
21. Bir Zihin Yaratmak – Ray Kurzweil
a. “Beyin bir dokudur. Karışık şekilde örülmüş bir dokudur, evrende bu derece karmaşık bir şey bilmiyoruz fakat her doku gibi hücrelerden oluşur. Elbette çok özel hücrelerden oluşurlar, fakat herhangi bir başka hücreye hükmeden kurallara uygun şekilde görevlerini yerine getirirler. Elektriksel ve kimyasal sinyalleri saptanabilir, kaydedilebilir ve yorumlanabilir.”
22. Yapay Zeka Çağı – Byron Reese
a. “Zihinsel şeyler umut ve pişmanlık, sevgi ve nefret vb. içerir. Bu şeyler beyindeki fiziksel süreçlerce tetiklenebildiği halde, bunların deneyimleri fiziksel değildir. Bu ince fakat önemli bir ayrımdır.”
23. Yapay Zeka – Nils J. Nilsson
a. “Sağduyu bilgisi, dış dünyanın yapısı hakkındaki bilgidir; her normal insan, fiziksel, uzamsal, zamansal ve toplumsal çevrenin gündelik taleplerini makul bir başarı oranıyla karşılamasına olanak tanıyan bu bilgiyi, yoğunlaşmış bir çaba sarf etmeksizin edinip uygulayabilir.”
24. Makineler Her Şeyi Yaptığında Biz Ne Yapacağız – Ben Pring
a. Yazılımlar, bilgiye dayalı işlerin hepsini yiyip yuttuğunda biz nasıl hayatta kalacağız?