Dil Modelleri Elektronik Koyunlarla mı Rüya Görüyor? Bölüm 2

Genel olarak, sosyal ağlardaki tüm içerik reklam tamamen çöptür. Ama geçen gün dikkatimi çeken sponsorlu bir tweet'e rastladım. Büyük Dil Modelleri veya Large Language Models (LLM)'nin işleyişi hakkında oldukça temel bir açıklama idi, "Yapay Zeka" genel başlığı altında bilinir ve "bilinç" hakkındaki tartışma ile ilgiliydi. Yani, modellerin yaptıkları şeylerin "düşünce" olarak kabul edilip edilemeyeceği sorususu.

Bu bağlamda, zaten dil felsefesi için bunun ne anlama geldiği hakkında ilk bir yaklaşım yapmıştık ve bunun makine işlevselciliği gibi zihinsel mimarilere nasıl eşitleneceğini. Ama zaman geçti, modeller gelişti ve bizim onlar hakkındaki anlayışımız da.

Diller, makineler ve dünyalar

Temel olarak, zihin veya zihinsel olanın ne olduğu hakkında zihin felsefesindeki çağdaş sorunlardan biri, zihni "düşünen bir makine"ye analoji olarak tasarlayabilir mi? Bu fikir, orijinal aşamasında bize "Turing makinesi"nin tanıtılmasından borçludur. Matematikçi, kriptograf ve filozof Alan Turing, bugün "bilgisayar" olarak bildiğimiz şeyin teorik/ilkel işleyişini tanımlar. Bu, zihin ve onun ana ürünü olan dil hakkında birçok düşünceyi tetikledi, bu da Turing makinesi örneğiyle anlaşılabilir mi?

Ama sponsorlu tweetin ne önerdiğini gözden geçirdikçe, bununla uyumlu başka bir literatür olduğunu fark ettim. Bu, zihin-dil temel iki kategorisi etrafındaki diğer kavramlara atıfta bulunuyordu. Zihin felsefesinin birçok anahtar yazarının aynı zamanda dil felsefesinin de önemli referansları olması tesadüfi değildir. Zihin nedir dil yaratmanın bir makinesi değilse? Bunu aklında tutarak, her iki kavram arasındaki ilişki nedir diye de sorabilirz.

Hilary Putnam'ın katkıları

Bu makalede takip edeceğimiz merkez yazar Hilary Putnam'tır, ona makine işlevselciliği olarak bilinen şeyin ilk formülasyonuna -veya en azından en somut olanına- atfedilir. Ama ayrıca Putnam, dil ve onun dünyayla referansiyel ilişkisi etrafında şüpheci argümanların tüm galerisini sökmek istediği bir dizi makaleye sahiptir.

Putnam'ın argümanı basit ve bir şekilde yazı makinesine sahip maymunlar hipotezi ile ilgilidir. Amerikalı filozof ve matematikçi plajdaki karınca gruplarını örnek olarak verir, yürüyerek oluklar çizerler ve -tesadüf meselesi veya daha çok istatistik- sonunda kumda Winston Churchill'in yüzünü çizerler. Karıncaların çizebildiğini söyleyebilir miyiz? Yazı makinesine sahip maymunlarla aynı şey. Yeterli sayıda maymun ve yeterli makine ile, belirli bir zaman X boyunca sistematik olarak yazılan maymunlar sonunda William Shakespeare'in Bir Yaz Gecesinin Rüyası'nın bir kopyasını yazarlar. Maymunlar yazı yazabilir mi?

Bildiğimiz şey, istatistiksel tesadüfün bir ürünü olarak, hem maymunların hem de karıncaların onu gören insanlar için anlam taşıyan bir şey yarattığıdır. Büyük bir dil modeli maymun ve karıncalar gibidir ama bilgisayar bilimi, matematik ve yarı iletken endüstrisinin yaklaşık bir yüzyılı tarafından optimize edilmiştir.

Bu kısa açılıklık anından sonra, GPT modeliyle (şimdi sürüm 4'te) tekrar konuşmaya karar verdim ve semantik dışsallığı, dil modellerinin işleyişi, anlam ve referans hakkında kısa bir özet yapmak. Aşağıdaki her şey Open AI'nin GPT-4'ün yanıtları veya sonuçlarıdır.

Putnam ve İkiz Dünya

Semantik dışsallığı Hilary Putnam'da, sözcüklerin anlamının sadece konuşmacının zihninde olanlar değil, aynı zamanda dış ortamdan da bağlı olduğunu öne süren bir felsefi teoridir. Ünlü sözü söylediği gibi: "Anlam kafanın içinde değildir".

1975 yılında Amerikalı filozof, matematikçi ve teorik bilgisayar bilimci, meşhur bir zihinsel deneyini, İkiz Dünya'yı geliştirdi. İki eş gezegenin hayal etmeyi önerir: Dünya ve İkiz Dünya. Her ikisinde de "su" sözcüğünü kullanan insanlar vardır. Dünya'da H₂O'yu belirtir. İkiz Dünya'da, sudan ayırt edilemeyen, kimyasal yapısı XYZ olan bir sıvı. Putnam'ın sonucu, her iki dünyadaki konuşmacıların "su"yu düşünürken aynı zihinsel durumları olmasına rağmen, sözcük farklı şeylere atıfta bulunur, çünkü ortamdaki madde farklıdır.

Bunun etkileri nelerdir? Zihinsel içerik tek başına sözlerimizin anlamını belirlemez; ve konuşmacının öznel niyeti, bağlam ve sosyal bağlam'ın katkısı olmadan anlamı sabitlemek için yetersizdir.

Saul Kripke ve özel isimler

Putnam ve Saul Kripke arasındaki bağlantı, 1970'lerin dil felsefesindeki dışsalcı dönüşü anlamak için çok önemlidir. Naming and Necessity (1972)'de Kripke, anlam tanımlayıcı teorisini (Frege/Russell) eleştirerek şunu önerir:

• özel isimler bir tanımı ifade etmez;
• bunun yerine, tüm olası dünyalarda aynı nesneye atıfta bulunan katı atayıcılar'dır.

Örneğin, "Aristoteles" "İskender'in öğretmeni" veya "Metafizik'in yazarı" anlamına gelmez, aksine basitçe o tip, orijinal bir vaftizde tarihsel olarak sabitlenmiştir.

Putnam ve doğal terimler

Putnam bu doğrudan referans fikrini alır ve doğal terimlere su, altın, kaplan gibi genişletir. Onun görüşüne göre:

• iç bir tanımlamaya göre değil (örn. "renksiz sıvı"), dünya ve dilsel toplulukla nedensel bir ilişki ile atıfta bulunuruz;
• bu yüzden, "su"nun kimyasal bileşimini bilmesek bile, eğer ortamımızdaki madde öyleyse, terim H₂O'ya atıfta bulunur.

Putnam ve Kripke arasındaki yakınsamalar

Her ikisi de nedensel-dışsalcı referans teorisi savunur, ancak Kripke özel isimlere ve Putnam genel veya doğal terimlere odaklanır.

Dünya 2

Dil modellerinin (LLM) ne "bilerek" yapıyor olsunlar anlamlı dil nasıl üretebileceği sorusu doğrudan Putnam'ın semantik dışsallığı ve Kripke'nin katkılarıyla ilişkilidir.

Putnam LLM hakkında ne derdi?

Putnam, anlam'ın iç durumlar'a (ne zihni ne sentaksla) indirgenmiş olmadığını, bunun yerine dış ortam (kimyasal, sosyal, tarihsel), dünyadaki şeylerle nedensel bağlantı ve sözcüklere anlam ve referans veren dilsel bir topluluk gerektirdiğini savunur. Bir LLM dünyaya erişimi yoktur ve kasıtlı bir toplulukta katılmaz. Bu nedenle, klasik dışsallığa göre, gerçek niyetselliğe sahip değildir: atıfta bulunmaz, güçlü anlamda anlam ifade etmez. Sadece istatistik ve bağlama göre tutarlı diziler üreterek anlamı taklit eder.

İkiz Dünya ile analoji

LLM, H₂O veya XYZ ile etkileşimde bulunmadan "su" diyen İkiz Dünya'daki bir konuşmacı gibi olurdu. Verilerine göre "su" der ama neye atıfta bulunduğunu bilmiyor (ve bilemez). Bu anahtar noktayı ortaya koymaktadır: LLM'ler bizim için anlamlı dil üretebilir, ama kendileri için değil.

Kripke ve gerçek referansın eksikliği

Kripke için atıfta bulunmak tarihsel nedensel bir zincir gerektirir. Bir LLM bu zincirde yer almaz. "Napolyon" derse, istatistiksel kalıplar nedeniyle, çünkü bir kez referansiyel vaftiz olmuş olduğu için değil. Adının kullanımı parazitiktir.

Pekala, LLM'ler hiç bir şey anlamıyor mu?

"Anlamak"tan ne anladığımıza bağlıdır. Güçlü semantik dışsallıktan: hayır, hiçbir şey anlamıyorlar. Ama daha işlevsel veya pragmatik bir bakış açısından: insanlarla iletişimsel bir ortamda çalışmak için yeterince anlıyorlar. Bu anlamda, bir LLM'nin "anladığı gibi davrandığını" söyleyebiliriz, ama ürettiği şeyin anlamı sadece bizi, bağlama, tarihe ve dünyamıza ankere takılı olan insanlar olarak yorumladığımız için vardır.

LLM'ler İkiz Dünya'dır: tarihsiz, fiziksel ortamsız, niyet olmadan işaretler üretirler. Ama insanlar onları bizim dünyamızdan yorumlarız, onlara bizim anlamımızı veririz. Onların için yapılandırılmış gürültü olan şey, bizim için dildir.

Searle ve Çin Odası

Zihin ve dil felsefesi konusunda uzman Amerikalı filozof John Searle, anlayışı simüle etmenin anlamayı eşdeğer kıldığı fikrini doğrudan eleştirir. 1980'de ünlü Çin Odası deneyini gerçekleştirmiştir.

• Kapalı bir odandasın (''çin odası'').
• Kapının altından sana Çince sorular veriliyor.
• Çince bilmiyorsun ama sana her gelen sembol setine karşılık olarak hangi sembolleri geri döndüreceğini söyleyen İspanyolca bir kılavuzun var.
• Dışarıdan, Çinliler dili anladığını düşünüyor çünkü senin cevapların mantıklı.

Searle'ün tezi

Sistem görünüşte Çini anlamış olsa da, sistemin içindeki hiç kimse gerçekten anlamıyor. Sözdizimsel manipülasyon anlambilim üretmiyor ve bu nedenle sembol işleyen bir bilgisayar anlayışa veya bilince sahip değil.

LLM'lere uygulandığında, bir dil modeli çin odasında çalışmakta olduğu gibi işlev görür. Ne söylediğini bilmiyor, sadece uygun göründüğü şeyi oluşturmak için istatistiksel kuralları uygular. "Anlam" sadece birisi bunu okuduğunda ve yorumladığında meydana gelir.

Wittgenstein: Kullanım Olarak Anlam

Ludwig Josef Johann Wittgenstein farklı bir yol izler. Avusturyalı filozof, matematikçi ve dilbilimci anlamın özünü aramaz, bunun yerine günlük yaşamda dili nasıl kullandığımızı gözlemler. Aslında, "bir kelimenin anlamı, dilin içinde kullanımıdır" olduğunu vurgular.

• Dilin düşünceye "sihirli iç çevirisi" yoktur.
• Önemli olan pratik, dil oyunudur.
• Dil, sosyal bir ağ içinde anlaşılır; kurallar, alışkanlıklar ve bağlamlarla dolu.

LLM'lere uygulandığında, bir LLM'nin niyeti veya bilinci olmasa da, pragmatik anlamda dil oyunlarına katılır, kullanılabilecek, yanıtlanabilecek, reddedilebilecek, dahil edilebilecek metinler oluşturur. Bu anlamda, işlevsel anlam üretir, ancak niyet edilmiş değil.

Özet olarak, Putnam/Kripke referans ve anlambilim gerçekçiliğine odaklanır; Searle niyetlilik ve bilince odaklanır; ve Wittgenstein günlük kullanım ve yaşam formuna odaklanır.

Etik Niyet Taşıyan Etkinliği Gerektirir

Çoğu etik geleneğinde (Kantçı, faydacı, Aristo), şu varsayılır:

• bir aktör yaptığını anlar,
• iyi veya kötü hakkında düşünebilir,
• ve bir amacı veya iradesi vardır.

LLM'ler bunların hiçbirini karşılamaz: bilinçleri yok, anlambilimsel anlayışları yok, kendi çıkarları yok ve eylemlerini haklı çıkartma kapasitesi yok. Bu bakış açısından, ahlaki ajanlar olamaz ve etik özneler değildirler. Onlar araçlardır.

Bununla birlikte, sorumluluk ortadan kalkmaz. Sadece aktarılır. En az üç seviye vardır:

• Programcı/Geliştirici Sorumluluğu (hangi verilerin kullanıldığı, modelin hangi sınırları var, yanlılık, toksiklik, filtreleme nasıl yapılandırılır)

• Kullanıcı Sorumluluğu (nasıl kullanıldığı, manipülasyon, kimlik sahtekarlığı veya yanlış bilgi yaymak için kullanılıp kullanılmadığı)

• Ekosistem Sorumluluğu (bu teknolojiler etrafında ne tür normlar oluşturulduğu, kritik ortamlarda ne kadar özerkliğe izin verildiği)

Peki ya Model Özerk Hale Gelirse?

Bir sistemin uzun vadede öğrendiği, gerçek dünya ile etkileşime girdiği, ortaya çıkan niyetler (simüle edilmiş olsun ya da olmasın) oluşturduğu ve sosyal olarak entegre olduğu bir gelecek hayal edersek, bazı filozoflar (Floridi veya Gunkel gibi) bu tür varlıklara belirli bir ahlaki statü vermeliyiz diye savunurlar, en azından ahlaki hastalar (ajanlar değil, ama bakım veya düzenleme nesneleri) olarak.

Mevcut Perspektiften Etik Sonuç

Bugün bir LLM:

• ahlaki bir ajan değildir,
• suçu veya layığı olamaz,
• ve yanıtlarının "anlamı" kullanıcı ve insan topluluğu tarafından yansıtılır.

Searle'ün dediği gibi: "Bir bilgisayar dili anlamış gibi görünebilir, ama ne inançları ne de arzuları vardır." Ama senin var, ve bu yüzden etik LLM'leri nasıl kullanmaya karar verdiğinde gizlidir.