Philowashing: Felsefe Silicon Valley'yi meşrulaştırdığında

Biz felsefe okuyanlar, bunun ne işe yaradığının sorulmasına alışkınızdır. Soru az çok kibar biçimlere bürünebilir ama neredeyse her zaman gerçek bir zorluğu varsayar: Tıpta, mühendislikte ya da hukukta olanın aksine, bir filozofun öğretmenlik ve araştırma dışında nerede yer alabileceği hemen belli olmaz. Bu yüzden dünyanın en önemli teknoloji şirketlerinden bazılarında olup biteni küçük bir disiplin rövanşı olarak yorumlamak cazip geliyor: Onlarca yıl boyunca mühendisi ve girişimciyi çağımızın neredeyse kahramanca figürlerine dönüştüren aynı ekosistem, yani Silicon Valley, filozoflara da ihtiyacı olduğunu keşfetmiş görünüyor.

Cambridge ve New York'ta felsefe eğitimi alan Amanda Askell, Claude'un arkasındaki şirket Anthropic'in en görünür yüzlerinden biri haline geldi; orada modellerin davranışına yön vermesi gereken karakter ve değerler üzerine çalışıyor. Oxford'dan felsefe doktoralı Iason Gabriel ise yıllardır Google DeepMind'da etik, çoğulculuk ve yönetişimle ilgili çeşitli roller üstleniyor. Bunlar münferit vakalar değil: Yapay zekâ görece uzmanlık gerektiren bir teknoloji olmaktan çıkıp eğitimden ve işten sağlığa, güvenliğe ya da kişisel ilişkilere uzanan alanlara müdahale etmeye başladıkça, kısa süre öncesine kadar bir üniversite seminerine ait gibi görünebilecek sorular beklenmedik bir pratik aciliyet kazandı. Bir yapay zekâ sistemi hangi değerlere saygı göstermeli? İki ahlaki ilke çatıştığında nasıl davranmalı? İyinin, adilin, hatta doğrunun ne olduğu konusunda uzlaşının bulunmadığı toplumların çoğulculuğuyla bir arada yaşayabilecek bir model tasarlanabilir mi?

Onlarca yıl boyunca mühendisi ve girişimciyi çağımızın neredeyse kahramanca figürlerine dönüştüren aynı ekosistem, yani Silicon Valley, filozoflara da ihtiyacı olduğunu keşfetmiş görünüyor.

Bu soruların yapay zekâ laboratuvarlarına girmiş olması, ilk bakışta iyi bir haber. Üstelik bu, basit bir halkla ilişkiler stratejisinden ibaret de görünmüyor: Askell, Gabriel ve diğer araştırmacılar (Avrupa Birliği Adalet Divanı'nın aleyhte bir kararının ardından "unutulma hakkı" meselesini ele almak için Google'da çalışan Luciano Floridi gibi) felsefi açıdan sofistike işler üretiyor ve gerçek sorunlarla boğuşuyorlar; bu sorunlara beşeri bilimler eğitimi, bir ekibe sadece daha fazla mühendis ekleyerek elde edilemeyecek bir katkı sunabilir. Ne var ki bize göre sorgulanması meşru olan şey, bu filozofların ürettiği yanıtların kalitesinden çok, sorularını hangi kurumsal koşullar içinde dile getirebildikleri. Bir teknoloji şirketi, inşa etmeye zaten karar verdiği bir sistemin hangi değerleri içermesi gerektiğini düşünmeleri için filozof işe alıyorsa, ondan önce gelen ve potansiyel olarak daha rahatsız edici olan soruya, yani o sistemin şirketin ona biçmek istediği yeri hak edip etmediği sorusuna ne oluyor?

Şüphemiz şu: Karşımızdaki şey bir başka ethics washing vakasından (yani bir eyleme etik cila sürmek için yapılan kozmetik değişikliklerden) daha derin bir şey; disiplinimizin, müdahale edebileceği sorunların alanını önceden sınırlamak üzere bir tür sahiplenilmesine tanıklık ediyoruz. Bu mekanizmaya philowashing ("felsefe aklama" kulağa tuhaf geliyor!) demeyi öneriyoruz ve bunun, Stoacılığın günümüzde "tech bro"lar tarafından sahiplenilmesinde bir öncülü olduğunu düşünüyoruz.

Stoacılıktan Broacılığa

Son yirmi yılda Marcus Aurelius, Epiktetos ve Seneca, girişimciler, yatırımcılar ve teknoloji kültürüyle özdeşleşen figürler arasında beklenmedik bir popülerlik kazandı. Tim Ferriss, Stoacılığı verimlilik ve kişisel gelişim evreninde olağan bir referansa dönüştürmeye katkıda bulundu; Ryan Holiday bu geleneğin etrafında kitaplardan, kurslardan ve konferanslardan oluşan son derece başarılı bir ekosistem kurdu; Marcus Aurelius'un Düşünceler'i de şirket kütüphanelerinde liderlik kılavuzları, growth hacking ve performans optimizasyonu kitaplarıyla aynı rafı paylaşır oldu. Olgu ilginç ama illa itiraz edilecek bir şey değil: Birinin mesleki bir krizi atlatmak için araç ararken Epiktetos'a varması, ne okumayı ne de yolda keşfettiği felsefeyi geçersiz kılar.

Asıl anlamlı olan, bu sahiplenmenin yaptığı seçki. Antik Stoacılık verimliliği artırmaya yönelik bir teknikler derlemesi değil; erdem, ödevler, ortak yaşam ve bize bağlı olanla kontrol edemediğimiz şeyler arasındaki ilişki hakkında çok daha iddialı bir anlayıştı. Ancak çağdaş iş kültürüne tercümesinde bu felsefi mimarinin büyük kısmı arka plana itiliyor ve özellikle benliği yönetme tekniklerine dönüştürülebilen fikirler hayatta kalıyor: Zorluklara katlanmak, kendi tepkilerini kontrol etmek, etki edebildiğin şeylere odaklanmak ve değiştiremediğin dış koşullar karşısında dayanıklılık geliştirmek.

Bir teknoloji şirketi, inşa etmeye zaten karar verdiği bir sistemin hangi değerleri içermesi gerektiğini düşünmeleri için filozof işe alıyorsa, ondan önce gelen ve potansiyel olarak daha rahatsız edici olan soruya ne oluyor?

Ortaya çıkan şeye zaman zaman broacılık ya da broicism deniyor ve bu terim önemli bir dönüşümü teşhis etmeye yarıyor. Bir çalışma ortamı sürekli ulaşılabilir olmayı dayatıyorsa, kaygı üretiyorsa ya da iş ile dinlenme arasındaki sınırı giderek geçirgen hale getiriyorsa, yeniden formüle edilmiş Stoacı soru artık o ortamın nasıl örgütlendiğine değil, bireyin o ortamda başarıyla var olabilme kapasitesine yöneliyor. Felsefe böylece özneye müdahale etmenin araçlarını sağlarken, onun huzursuzluğunu üreten koşullar tartışmanın dışında kalıyor.

Filozoflar Silicon Valley'de mesaiye başlıyor

Amanda Askell örneği bu değişimi anlamak için özellikle faydalı. Anthropic'teki işinin bir kısmı, Claude'un nasıl davranması gerektiğini düşünmekten ibaret: "Kişiliğinin" hangi özelliklere sahip olması gerektiği, hangi değerleri ifade etmesi gerektiği, ahlaki açıdan karmaşık durumlara nasıl tepki vermesi gerektiği ve bir yapay zekâ asistanının kullanıcılarının inançlarını ya da kararlarını etkilemeye çalışmasının ne ölçüde yerinde olduğu. Anthropic'in Constitutional AI projesi bu kaygıyı eğitim mimarisinin kendisine taşıyor: İstenmeyen yanıtları tek tek düzeltmekle yetinmek yerine, modeli açıkça tanımlanmış bir ilkeler kümesiyle yönlendirmeye çalışıyor.

Felsefenin bu tartışmalarda önemli bir rolü olabilir. Bir kullanıcının özerkliğine saygı göstermenin ne anlama geldiğini, paternalizmden nasıl kaçınılacağını ya da bir yapay zekânın birbiriyle bağdaşmayan değer sistemlerinin bir arada bulunduğu bağlamlarda nasıl davranabileceğini sormak, teknik bir sürecin sonuna eklenmiş bir beşeri bilimler cilası değil, gerçek normatif sorunlardır. Benzer bir durum Iason Gabriel'in DeepMind'da çoğulculuk ve hizalama üzerine yaptığı çalışmalar için de geçerli. Ama hem Claude'un kişiliğine dair soru hem de büyük bir dil modelinin hangi değerleri içermesi gerektiğine dair tartışma, müdahale etmenin hiçbir yolu yokmuş gibi görünen daha önceki bir karardan yola çıkıyor: Modelin kendisinin projesi, ölçeği, iş modeli ve toplumsal hayatta belirli konumları nasıl işgal edeceği. Felsefi düşünüm, sorunun kurumsal mimarisinin büyük bölümü zaten belirlendikten sonra başlıyor. Sistemin nasıl davranması gerektiği tartışılıyor, ama ona ne tür kararların teslim edilmesi gerektiği, kime hesap vermesi gerektiği ya da performansı ne olursa olsun kullanımının dışarıda tutulması gereken alanlar olup olmadığı illa tartışılmıyor.

Yanılmayan algoritma

Temmuz 2019'un sonlarında Guillermo Federico Ibarrola, Buenos Aires Şehir Yönetimi'nin kullandığı firari yüz tanıma sistemi onu Bahía Blanca'da işlenmiş nitelikli bir soygun nedeniyle aranan bir adam olarak tanımlayınca Retiro istasyonunda gözaltına alındı. Suçla hiçbir ilgisi olmadığı, hatta o şehri hiç tanımadığı anlaşılana kadar altı gün gözaltında kaldı.

Vaka, son yıllarda biriktirdiğimiz kabarık algoritmik hatalar arşivine pek zorlanmadan eklenebilirdi; onu felsefi açıdan daha ilginç kılan bir ayrıntı olmasaydı: Algoritma yanılmamıştı. Birbirine benzeyen iki yüzü karıştırmamış, istatistiksel bir sorun yüzünden yanlış pozitif üretmemişti. Yakalama kararı Guillermo Walter Ibarrola'ya aitti, ama biri bu karara Guillermo Federico'nun kimlik numarasını iliştirmişti. Sistem aldığı bilgiyi doğru şekilde işledi, doğru yüzü yanlış veritabanıyla karşılaştırdı ve yanlış kişinin hayranlık uyandıran bir verimlilikle bulunmasını sağladı. Deyim yerindeyse, hatalı verilere uygulanmış cerrahi bir hassasiyet vakasıydı.

Önemli olan şu: Yüz tanıma algoritmasındaki hiçbir iyileştirme sorunu çözmezdi. On kat daha isabetli, demografik önyargılardan arınmış ve mevcut en iyi denetimlerden geçmiş bir sistem hayal edebiliriz; Guillermo Federico Ibarrola yine de gözaltına alınırdı. Hata başka bir yerdeydi: Sistemi besleyen verilerde, o verileri üreten kurumsal zincirde ve her şeyden önce, polisleri, memurları ve adli görevlileri içeren bir süreçte teknolojik önerinin işgal ettiği yerde.

Üstelik o altı gün boyunca karara katılan insanlar da vardı. Bu ayrıntı önemli, çünkü otomasyonun risklerine karşı en sık verilen yanıtlardan biri tam da her zaman bir human in the loop bulunmasını, yani son sözü elinde tutan bir insan olmasını güvence altına almaktır. Ibarrola vakası, bu formülün makul olsa da göründüğünden çok daha azını söylediğini gösteriyor. Döngünün herhangi bir noktasında bir insanın bulunması, o kişi ilgili bilgiyi almıyorsa, onu gözden geçirecek zamanı yoksa, sonuca itiraz etmesi için bir teşvik yoksa ya da düpedüz sonucu değiştirme yetkisi yoksa, etkili bir denetimi garanti etmez.

Döngünün herhangi bir noktasında bir insanın bulunması, o kişi ilgili bilgiyi almıyorsa ya da düpedüz sonucu değiştirme yetkisi yoksa, etkili bir denetimi garanti etmez.

Başka bir deyişle, "insanı döngüde tutmak" tamamen farklı kurumsal düzenlemeleri tarif edebilir. Bir teşhis önerisi alan ve tetkikleri inceledikten sonra onu görmezden gelebilen bir doktor, günde yüzlerce otomatik öneriyi işlemek ve bunlardan her saptığında gerekçesini yazılı olarak sunmak zorunda olan bir çalışanla aynı konumda değildir. Her iki durumda da biçimsel olarak insan denetimi vardır; ama yalnızca birinde kişinin muhakemesinin esaslı bir işlev taşıdığını söylemek inandırıcıdır. Demek ki denetim, makinenin henüz yapamadığını telafi etmek için en sona eklenen bir çare değildir. Birinin önceden ayarladığı bir parametredir: Gözden geçiren kişi ne kadar bilgi alıyor, ne kadar zamanı var, hangi yönde sapabiliyor ve saptığında hangi sonuçlarla yüzleşiyor.

Biçimi korumak, işlevi kaybetmek

İspanya'daki VioGén sistemi, soruna başka bir açıdan bakmayı sağlıyor. Toplumsal cinsiyete dayalı şiddet vakalarında riski değerlendirmek için kullanılan sistem, bir kadının şikâyette bulunduktan sonra alacağı koruma tedbirlerini etkileyebilecek seviyeler belirliyor. Otomatik değerlendirme insan müdahalesini ortadan kaldırmıyor: Görevliler sistemin önerdiği risk seviyesini değiştirebiliyor. Ancak bu yetkinin belirli bir yönü var. Seviyeyi yükseltebiliyorlar, ama düşüremiyorlar.

Bu tasarımı teknolojik bir sapkınlığın kanıtı olarak sunma cazibesine yine direnmek önemli. Riski küçümsemenin geri dönüşü olmayan sonuçlar doğurabileceği toplumsal cinsiyete dayalı şiddet durumlarında ihtiyatlı bir ölçüt benimsemek için iyi nedenler var. Belki de tam olarak bu asimetriyi istiyoruz. Ama öyleyse, fark edilmesi gereken şey şu: Kişi ile sistem arasındaki yetki dağılımını algoritma keşfetmedi, bu dağılım onun istatistiksel isabetinden de türemiyor; insan görevlinin neyi yapabileceğine, aracın neyi yapabileceğine ve ikisi arasındaki bir anlaşmazlığın hangi yönde çözüleceğine biri karar verdi.

Bu nokta, yapay zekâ üzerine güncel tartışmada çoğu zaman gölgede kalan bir sorunu daha net biçimde ortaya koymamızı sağlıyor. Kamusal tartışmaya yeteneklere dair bir soru hâkim: Yapay zekânın neler yapabildiğini, bir doktordan daha iyi teşhis koyup koymadığını, bir geliştiriciden daha iyi kod yazıp yazmadığını, bir öğretmenden daha iyi not verip vermediğini ya da bir polisin fark edemeyeceği örüntüleri saptayıp saptamadığını bilmek istiyoruz. Meşru bir soru bu, ama cevabından ona neyi yapma izni vermemiz gerektiği çıkmıyor. Bir sistemin suç tekrarını belli bir isabetle tahmin ettiğini bilmek, o tahminin bir mahkûmiyet kararına karışmasını isteyip istemediğimizi belirlemez; bir modelin bir hastalığı doktordan daha iyi tanıdığını göstermek, tedavi üzerinde ne kadar söz sahibi olması gerektiğini belirlemez; bir yapay zekânın sınavları bir öğretmenden daha az hatayla değerlendirebildiğini doğrulamak, eğitimi bu değerlendirmenin etrafında örgütlemek isteyip istemediğimiz meselesini çözmez.

Birileri insan failin neyi yapabileceğine, aletin neyi yapabileceğine ve ikisi arasındaki bir anlaşmazlığın hangi yönde çözüleceğine karar verdi.

Sonuçta mesele, sıklıkla birbirine karışan iki soruyu ayırt etmek. Biri sistemin davranışıyla ilgili: neye nasıl yanıt vermeli, neyi reddetmeli, hangi değerlere saygı göstermeli, bir görevi ne kadar isabetle yerine getiriyor. Diğeri ise kurumsal konumuyla ilgili: ona hangi kararları teslim ediyoruz, hangilerini elimizde tutuyoruz, onun sonuçlarından kim ve hangi koşullarda sapabilir. İlki ürünü değiştirerek yanıtlanabilir. İkincisi ise o ürünün içinde faaliyet göstereceği sınırlara karar vermeyi ve kimi durumlarda belli bir uygulamanın, teknik olarak inşa edilmesi mümkün olsa bile, hiç var olmaması gerektiğini düşünmeyi gerektirir.

Kusursuz derecede doğru bir felsefe

Artık Silikon Vadisi'nin filozoflarına dönüp philowashing'in nerede olabileceğini daha iyi anlayabiliriz. Sorun, Askell'in, Gabriel'in ya da başka araştırmacıların illa ki kötü felsefe yapması ya da işverenlerinin lehine sonuçlara varmak zorunda olmaları değil. Hatta mekanizma, yanlış olduğunu düşündükleri şeyleri söylemeye hazır filozoflara dayansaydı çok daha az ilginç olurdu. Bu meşrulaştırma biçiminin tuhaflığı, işin içindeki herkes titizlikle ve entelektüel dürüstlükle çalışsa bile işleyebilmesinde yatıyor.

Bunun nedeni kurumsal. Bir modelin nasıl davranması gerektiği sorusu, şirketin onu nerede kullanıma sokacağı, hangi müşterilere satacağı ve hangi insan işlerinin yerini alacağı konusunda halihazırda verdiği hemen her kararla bağdaşabiliyor. Bir sohbet botunu insan özerkliğine saygılı, farklı ahlak anlayışları karşısında çoğulcu ve kırılgan kullanıcılara karşı özenli kılmak için muazzam çaba harcamak mümkün; üstelik bunu yaparken verilerini üretenlerin çalışma koşullarını, onu eğitmek için gereken altyapının maddi etkisini, benimsenmesinin yarattığı güç yoğunlaşmasını ya da belli müşterilerin bu teknolojiyi ne amaçlarla kullanabileceğini hiç masaya yatırmadan.

Sistemin davranışı üzerine yapılan felsefi çalışmanın bir de özellikle işe yarar bir niteliği var: ürünü iyileştirebilir. Daha az ırkçı, daha az manipülatif, daha ihtiyatlı ve daha iyi açıklamalar sunabilen bir model, aynı zamanda piyasaya sürülmesi ve pazarlanması daha kolay bir üründür. Bunda itiraz edilecek bir şey yok; tıpkı daha güvenli bir otomobil üretmekte itiraz edilecek bir şey olmadığı gibi. Zorluk, bu iyileştirmeler bütünü ilgili normatif soruların artık sorulmuş olduğunun kanıtı gibi sunulduğunda başlıyor; oysa gerçekte bu soruların yalnızca belli bir türü yanıtlanmıştır.

İşte philowashing burada devreye giriyor: Esas olarak rahatsız edici sonuçları sansürleyerek işlemiyor (bu fazla göze batan ve beceriksiz bir strateji olurdu), soruların kurumsal bir paylaşımı yoluyla işliyor. İç tasarım meselesinin bütçesi, ekipleri ve kariyer yolları var. Kurumsal sınır meselesi ise çok daha cılız bir konumda kalıyor: Şirket genellikle bu soruyu sormuyor, çünkü ürünlerinin pazarını daraltabilir; düzenleyiciler teknolojiler çoktan yaygınlaştıktan sonra gelmeye meyilli; kârlılıktan bağımsız olarak bu soruyu sorabileceği alanları hâlâ koruyan akademi ise, paradoks biçimde, filozofların nihayet kaçmayı başardığı yer olarak sunuluyor.

Bu, diğer itibar aklama biçimlerinden önemli bir farkı. Greenwashing, bir şirket pratikleriyle örtüşmeyen bir çevreci duyarlılık görüntüsü inşa ettiğinde işler; ethics washing ise etik dağarcığı güç dağılımını özünde değiştirmeden meşruiyet sağladığında. Burada anladığımız haliyle philowashing ise sahte bir görüntü üretmeye ihtiyaç duymadığı için fark edilmesi daha zor olabilir. Gerçek felsefeyi finanse edebilir, entelektüel açıdan değerli sonuçlar elde edebilir, hatta bazı ürünleri olumlu yönde değiştirebilir. Meşrulaştırıcı etkisi daha temel bir şeyden doğar: felsefi alanın bir parçasını bütünün temsilcisine dönüştürmek ve belli soruları teknolojiye dair asıl önemli sorular gibi göstermek.

Kayma, sahtecilikten çok çerçeveleme yoluyla gerçekleşiyor: Felsefenin tanınabilir bir parçası korunurken, sorularından bazılarının siyasi açıdan rahatsız edici hale gelebileceği bağlam ortadan kayboluyor.

Bu anlamda felsefenin bugünkü sahiplenilişi, daha önce andığımız o broicism ile ortak bir yapıyı paylaşıyor. Sorun, yöneticilerin Marcus Aurelius'un her cümlesini yanlış okuması değildi; belli bir seçkinin, iyi yaşam ve başkalarıyla ilişki üzerine bir felsefeyi, tartışma dışı kalan bir ortamı daha iyi katlanılır kılmaya yarayan bireysel bir teknolojiye dönüştürmesiydi. Her iki durumda da kayma, sahtecilikten çok çerçeveleme yoluyla gerçekleşiyor: Felsefenin tanınabilir bir parçası korunurken, sorularından bazılarının siyasi açıdan rahatsız edici hale gelebileceği bağlam ortadan kayboluyor.

Sahipsiz kalan soru

Bu önemli, çünkü yapay zekânın kurumsal konumuna dair kararlar, uyanıp bizimle ne yapacağına karar veren bir yapay genel zekânın varsayımsal geleceğinde alınmıyor. Şimdi, çok daha az gösterişli biçimde alınıyor: bir kamu kurumu bir yüz tanıma sistemi satın aldığında, bir şirket çalışanları değerlendirmek için bir araç devreye soktuğunda, bir hastane bir tahmin modeli benimsediğinde ya da bir okul risk altındaki öğrencileri tespit etmek için bir algoritma kullandığında. Javier Pallero'nun gözetim teknolojilerinin yayılmasını incelerken 421'de gösterdiği gibi, büyük dönüşümler çoğu zaman ihale ihale, kararname kararname, içlerinde taşıdıkları iktidar anlayışı üzerine bir tartışmayı gerektirmeyecek kadar küçük görünen yerel kararlarla ilerliyor.

Yapay zekâ tartışması da benzer bir etki yaratma riski taşıyor. Biz büyük modellerin "anlayıp anlamadığını", yapay genel zekânın ne zaman geleceğini ya da bir makinenin bilinç kazanıp kazanamayacağını tartışırken, çok daha az sinematik bir yığın karar sessiz sedasız otoriteyi yeniden dağıtıyor. Bir öneri, bir risk puanı, bir uyarı, sıralı bir liste ya da otomatik bir sınıflandırma mütevazı araçlar gibi görünebilir; ama her biri kimin neyi gerekçelendirmesi gerektiğini, hangi sonucun varsayılan seçenek işlevi gördüğünü ve ondan sapmanın bedelini kimin ödeyeceğini belirler.

Üstelik devretmeyle birlikte kaybolan ve yalnızca verimlilik ya da isabet terimleriyle ifade edilemeyen bir şey var. Bir insanı etkileyen bir kararı başka bir insan verdiğinde, en azından ideal olarak, gerekçe sunma ve gerekçe isteme pratiği vardır. Bu gerekçeler kötü, keyfi, hatta yalan olabilir; ama tartışılabilir, itiraz edilebilir ve denetim prosedürlerine tabi tutulabilir. Algoritmik bir sistem, sonuca götüren süreci gerçekte betimlemeyen ikna edici açıklamalar üreterek bu pratiğin görüntüsünü koruyabilir. Böylece makyaj niyetine yapılan açıklama, gerekçelendirmenin biçimini korurken işlevini zayıflatır; tıpkı göstermelik bir insan denetiminin, sözde denetleyeni yetkiden arındırmış olsa bile kontrolün biçimini koruması gibi.

Bu yüzden döngüde her zaman bir insan bulunmasını talep etmek yetmez. Hangi insan, hangi döngüde ve tam olarak ne yaparak, diye sormamız gerekir. Sistemlerin açıklanabilir olmasını istemek de yetmez, çünkü bir açıklama ancak kararı üreten şeyi anlamayı, tartışmayı ve gerektiğinde değiştirmeyi mümkün kılıyorsa siyasi açıdan anlam taşır. Özerklik, sorumluluk ve kontrolle ilişkilendirdiğimiz kurumsal biçimleri korumak görece kolaydır; bu biçimlerin yerine getirmesi gereken işlevleri korumak ise teknolojilerin ürettiği somut güç dağılımına bakmayı gerektirir.

Peki bir filozof ne işe yarar?

Belki de sonunda baştaki soruya dönmek gerekiyor. Yapay zekânın gerçekten felsefeye ihtiyacı var; ama bu, filozofları bünyeye katmanın bütün yollarının eşdeğer olduğu ya da bir etik departmanının varlığının, bir kuruluşun kararlarını felsefi sorgulamaya açmaya hazır olduğunu kanıtladığı anlamına gelmiyor. Bir kurum mükemmel filozoflara sahip olup aynı zamanda faaliyetinin en önemli öncüllerinden bazılarını tartışmanın dışında tutabilir.

Bu durumda bize en acil görünen felsefi görev, teknoloji şirketlerini terk etmek ya da onların içinde çalışanlardan otomatik olarak şüphelenmek değil. Bu sistemlerin nasıl davranması gerektiğini içeriden tartışabilecek insanlara ihtiyacımız var; tıpkı hiçbir şirketin kendi inisiyatifiyle sormak için yeterli teşviki olmadığı soruları sorabilecek bağımsız araştırmacılara, düzenleyicilere ve sivil toplum kuruluşlarına ihtiyacımız olduğu gibi. Sorun, ilk tür düşünümün varlığını ikincisinin mevcudiyetiyle karıştırdığımızda başlıyor.

Yapay zekânın gerçekten felsefeye ihtiyacı var; ama bu, filozofları bünyeye katmanın bütün yollarının eşdeğer olduğu anlamına gelmiyor.

Teknolojik dönüşümü düşünen bir felsefe, ayrıca yapay zekânın büyük ikilemlerine duyulan hayranlığın kenara ittiği belli bir uğraşı da yeniden sahiplenmeli. Bir makinenin düşünüp düşünemeyeceği, anlayıp anlayamayacağı ya da bilinç kazanıp kazanamayacağı gibi sorular felsefi açıdan cazip; ama bunlar bizi şu soruları sormaktan alıkoymamalı: Sistemin çalıştığı verileri kim üretiyor, otomasyonun arkasında hangi insan emeği gizli kalıyor, hangi kaynakları tüketiyor, sistemleri hangi kurumlar satın alıyor, hangi tedarikçiler bağımlılık yaratan konumlar ediniyor ve etkilenen insanların sonuçlarına itiraz etmek için gerçekte ne imkânları var. Mesele, bir teknolojinin aynı anda ontolojik, epistemolojik, etik ve siyasi sorunlar doğurabileceğini ve şirketlerin bunların her birinin analizini finanse etmek için çok farklı gerekçeleri olacağını hatırlamak. Maddi bir eleştiriyi yeniden sahiplenme ve felsefi düşünümü yeniden siyasallaştırma ihtiyacı da zaten ilk önerinin bir parçasıydı.

Silikon Vadisi belki de nihayet filozofların ne işe yaradığını keşfetti. Bize düşen soru ise biraz farklı: Felsefe orada neden çalışmak istesin? Çünkü tarihi, bir sorunun öncüllerini sorgulamak gibi epey rahatsız edici bir alışkanlıkla örülmüş bir disiplin, masada bir yer kapmış olmakla fazla çabuk yetinmemeli. Bazen en önemli felsefi görev, tam da o masada neyin tartışılabileceğine kimin karar verdiğini sormaktır.