언어 모델은 전자 양을 꿈꾸는가? 2부

일반적으로 소셜 미디어의 모든 콘텐츠 광고는 완전한 쓰레기입니다. 그런데 요즘 눈에 띄는 후원 트윗을 발견했습니다. 그것은 대규모 언어 모델 또는 Large Language Models (LLM)의 작동 방식에 대한 상당히 기초적인 설명이었으며, "인공 지능"이라는 일반적인 이름으로 알려져 있으며, "의식"에 대한 논쟁에 관한 것이었습니다. 즉, 모델들이 수행하는 것이 "사고"로 간주될 수 있는지 여부입니다.

이 측면에서, 이미 첫 번째 접근을 했습니다 이것이 언어의 철학에 무엇을 의미하는지, 그리고 기계 기능주의와 같은 정신 구조에 어떻게 동등할 수 있는지에 대해. 하지만 시간이 지났고 모델들��� 진화했으며 우리 자신의 이해도 진화했습니다.

언어, 기계 그리고 세계

기본적으로 정신 철학에서 정신이란 무엇인가 또는 정신적인 것에 관한 현대의 문제 중 하나는 정신을 "생각하는 기계"에 유사한 것으로 생각할 수 있는지 여부입니다. 이 아이디어는 원래 단계에서 "튜링 기계"의 도입에 기인합니다. 수학자, 암호학자이자 철학자인 앨런 튜링은 오늘날 우리가 "컴퓨터"로 알고 있는 것의 이론적/기초적 작동을 설명합니다. 이것은 정신과 그 주요 산물인 언어가 튜링 기계의 인스턴스로 이해될 수 있는지에 대한 많은 반성을 촉발했습니다.

하지만 후원 트윗이 제안한 것을 검토하면서 정신-언어라는 두 가지 기본 범주와 관련된 다른 개념들을 참조하는 온라인의 다른 모든 문헌이 있음을 깨달았습니다. 정신 철학의 많은 핵심 저자들이 언어 철학의 중요한 참고자료이기도 하다는 것은 우연이 아닙니다. 정신이 무엇인가 언어를 만드는 기계가 아니라면? 이를 염두에 두고, 우리는 또한 두 개념 사이의 관계가 무엇인지 물을 수 있습니다.

힐러리 퍼트남의 기여

이 기사에서 따를 중심 저자는 힐러리 퍼트남이며, 그에게는 우리가 기계 기능주의로 알려진 것의 첫 번째 공식화 - 또는 적어도 가장 구체적인 것 - 이 귀속됩니다. 하지만 퍼트남��� 언어 주변의 회의적 논증의 갤러리를 해체하려고 시도하고 세계와의 참조 관계에 관한 일련의 기사를 가지고 있습니다.

퍼트남의 논증은 간단하며 어떤 방식으로는 타이핑 기계가 있는 원숭이의 가설과 관련이 있습니다. 미국 철학자이자 수학자는 해변의 개미 떼의 예를 들며, 이들이 도랑을 그으며 걷기를 시작하고 - 우연의 문제, 또는 오히려 통계 때문에 - 모래에 윈스턴 처칠의 얼굴을 그리게 됩니다. 개미들이 그리는 방법을 알고 있다고 말할 수 있습니까? 그것은 타이핑 기계가 있는 원숭이와 같습니다. 충분한 원숭이와 충분한 기계로, X 시간 동안 체계적으로 입력되면, 원숭이들은 결국 윌리엄 셰익스피어의 한 여름 밤의 꿈 사본을 입력합니다. 원숭이들이 쓰는 방법을 알고 있습니까?

우리가 아는 것은 통계적 우연의 산물로서 원숭이와 개미 모두 그것을 보는 우리 인간에게 의미를 가지는 것을 만든다는 것입니다. 대규모 언어 모델은 원숭이와 개미와 같지만 거의 한 세기의 컴퓨터 과학, 수학 및 반도체 산업으로 최적화되었습니다.

이 짧은 깨달음의 순간으로부터, 나는 GPT 모델 (현재 버전 4)과 다시 이야기하기로 결정했고 의미론적 외부주의, 언어 모델의 작동, 의미 및 참조에 대한 이 여정의 간단한 요약을 하기로 했습니다. 다음의 모든 것은 Open AI의 GPT-4의 응답 또는 결론입니다.

퍼트남과 쌍둥이 지구

힐러리 퍼트남에서 의미론적 외부주의는 단어의 의미가 화자의 마음에서 일어나는 것뿐만 아니라 외부 환경에도 달려 있다고 주장하는 철학적 이론입니다. 그의 유명한 구절이 말하듯이: "의미는 머리 속에 없습니다".

1975년 미국의 철학자, 수학자이자 이론 컴퓨터 과학자인 그는 유명한 사고 실험인 쌍둥이 지구를 개발했으며, 이는 두 개의 동일한 행성을 상상하도록 제안합니다: 지구와 쌍둥이 지구. 둘 다 "물"이라는 단어를 사용하는 사람들이 있습니다. 지구에서는 H₂O를 가리킵니다. 쌍둥이 지구에서는 물과 구별할 수 없는 액체이지만 화학 성분이 XYZ입니다. 퍼트남의 결론은 두 세계의 화자들이 "물"을 생각할 때 동일한 정신 상태를 가지고 있더라도, 그 단어는 다른 것들을 가리킵니다, 왜냐하면 환경의 물질이 다르기 때문입니다.

이것의 함의는 무엇입니까? 정신 내용이 그 자체로 우리 단어의 의미를 결정하지 않는다는 것; 그리고 화자의 주관적 의도는 물리적이고 사회적 맥락의 기여 없이 의미를 고정하기에 불충분하다는 것입니다.

사울 크립케와 고유명사

퍼트남과 사울 크립케 사이의 연결은 70년대의 언어 철학에서 외부주의적 전환을 이해하기 위해 근본적입니다. Naming and Necessity (1972)에서 크립케는 의미의 기술주의 이론 (Frege/Russell)을 비판하며 다음을 제안합니다:

• 고유명사는 설명을 의미하지 않습니다;
• 대신 모든 가능한 세계에서 동일한 대상을 가리키는 경직된 지시자입니다.

예를 들어, "아리스토텔레스"는 "알렉산더의 스승" 또는 "형이상학의 저자"를 의미하지 않고 단순히 원래 세례에서 역사적으로 고정된 그 사람을 의미합니다.

퍼트남과 자연 항목

퍼트남은 이러한 직접적 참조의 아이디어를 가져와 자연 항목인 물, 금, 호랑이로 확장합니다. 그에 따르면:

• 우리는 내부 설명 (예: "무색 액체")으로 참조하지 않고, 세계 및 언어 커뮤니티와의 인과 관계로 참조합니다;
• 따라서 "물"의 화학 구성을 몰라도, 그것이 우리 환경의 물질이라면 그 항목은 H₂O를 가리킵니다.

퍼트남과 크립케 사이의 수렴

둘 다 인과-외부주의 참조 이론을 옹호하지만, 크립케는 고유명사에 초점을 맞추고 퍼트남은 일반 또는 자연 항목에 초점을 맞춥니다.

지구 2

언어 모델 (LLM)이 "알지" 못하면서 의미 있는 언어를 생성할 수 있는 방식에 대한 질문은 퍼트남의 의미론적 외부주의 및 크립케의 기여와 직접 대화합니다.

퍼트남이 LLM에 대해 무엇을 말했을까요?

퍼트남은 의미가 내부 상태 (정신적이든 구문적이든)로 축소되지 않으며, 외부 환경 (화학적, 사회적, 역사적), 세계의 것들과의 인과 관계, 그리고 단어에 의미�� 참조를 부여하는 언어 커뮤니티를 필요로 한다고 주장합니다. LLM은 세계에 접근할 수 없습니다 의도적 커뮤니티에 참여하지도 않습니다. 따라서 고전적 외부주의에 따르면, 진정한 의도성이 없습니다: 가리키지 않으며, 강한 의미에서 의미하지 않습니다. 통계와 맥락에 따라 일관성 있는 순서를 생성하여 의미를 시뮬레이션할 뿐입니다.

쌍둥이 지구와의 유추

LLM은 H₂O나 XYZ와 상호작용한 적 없이 "물"을 말하는 쌍둥이 지구의 화자와 같을 것입니다. "물"이라고 말합니다 왜냐하면 그것이 그 데이터에 있기 때문이지만, 알지 못합니다 (또는 알 수 없습니다) 그것이 무엇을 가리키는지. 이것은 핵심을 드러냅니다: LLM은 우리에게는 의미 있는 언어를 생산할 수 있지만, 그들에게는 의미 있는 언어를 생산할 수 없습니다.

크립케와 실제 참조의 부재

크립케에게 참조하는 것은 역사적 인과 사슬을 요구합니��. LLM은 그 사슬에 참여하지 않습니다. "나폴레옹"이라고 말하면, 참조 세례가 있었기 때문이 아니라 통계적 패턴 때문에 그렇게 합니다. 이름의 사용은 우리의 것에 기생합니다.

그렇다면, LLM은 아무것도 이해하지 못합니까?

"이해"하는 것이 무엇을 의미하는지에 따라 다릅니다. 강력한 의미론적 외부주의로부터: 아니오, 아무것도 이해하지 못합니다. 하지만 더 기능주의적이거나 실용적인 관점에서: 충분히 이해합니다 인간과의 의사소통 환경에서 작동하기에 충분할 정도입니다. 이 의미에서, 우리는 LLM이 "이해한 척"한다고 말할 수 있지만, 그것이 생산하는 것은 우리가 우리의 관행, 역사 및 세계에 묶여 있으므로 우리가 해석할 때만 의미를 가집니다.

LLM은 쌍둥이 지구입니다: 역사, 물리적 환경, 의도 없이 기호를 생성합니다. 하지만 인간들은 우리의 세계에서 해석하여 우리의 의미를 부여합니다. 그들에게 구조화된 소음인 것은 우리에게는 언어입니다.

Searle와 중국인 방

정신과 언어 철학자인 미국인 철학자 John Searle은 이해를 시뮬레이션하는 것이 실제로 이해하는 것과 같다는 생각에 대해 직접적인 비판을 제기합니다. 1980년에 그는 유명한 중국인 방 실험을 수행했습니다.

• 당신은 닫힌 방("중국인 방")에 있습니다.
• 문 아래로 중국어로 된 질문을 받습니다.
• 당신은 중국어를 모르지만 스페인어로 된 매뉴얼이 있어서 들어오는 각 기호 세트에 대해 정확히 어떤 기호를 반환할지 알려줍니다.
• 밖에 있는 중국인들은 당신의 답변이 의미가 있기 때문에 당신이 언어를 이해한다고 생각합니다.

Searle의 주장

비록 시스템이 중국어를 이해하는 것처럼 보이지만, 시스템 내의 누구도 실제로 이해하지 못합니다. 구문론적 조작은 의미론을 생성하지 못하므로, 기호를 처리하��� 컴퓨터는 이해나 의식이 없습니다.

LLM에 적용하면, 언어 모델은 중국인 방처럼 작동합니다. 자신이 말하는 것을 알지 못하며 적절하게 들리는 것을 생성하기 위해 통계 규칙을 적용할 뿐입니다. "의미"는 누군가 그것을 읽고 해석할 때만 발생합니다.

Wittgenstein: 사용으로서의 의미

Ludwig Josef Johann Wittgenstein은 다른 길을 갑니다. 오스트리아의 철학자, 수학자, 언어학자는 의미의 본질을 찾지 않고 일상 생활에서 언어를 어떻게 사용하는지 관찰합니다. 실제로 그는 "단어의 의미는 언어에서의 그 사용이다"라고 강조합니다.

• 언어에서 사고로의 마법 같은 "내부 번역"은 없습니다.
• 중요한 것은 실천, 언어 게임입니다.
• 언어는 사회적 얽힘 내에서 이해되며, 규칙, 습관, 맥락으로 가득 차 있습니다.

LLM에 적용하면, LLM이 의도나 의식이 없더라도 실용적 의미에서 언어 게임에 참여하여 사용되고, 응답하고, 반박하고, 통합될 수 있는 텍스트를 생성합니다. 그러한 의미에서, 기능적 의미를 생성합니다, 비록 의도적이지는 않지만.

요약하면, Putnam/Kripke는 참조와 의미론적 현실주의에 초점을 맞추고; Searle은 의도성과 의식에 초점을 맞추고; Wittgenstein은 일상적 사용과 삶의 형식에 초점을 맞춥니다.

윤리는 의도적 행위 능력을 요구합니다

대부분의 윤리 전통(칸트주의, 공리주의, 아리스토텔레스주의)에서 출발점은:

• 행위자가 자신이 하는 일을 이해하��,
• 선과 악에 대해 숙고할 수 있으며,
• 목적이나 의지를 가진다는 것입니다.

LLM은 이 중 어느 것도 충족하지 않습니다: 의식이 없고, 의미론적 이해가 없으며, 자기 이익이나 자신의 행동을 정당화할 능력이 없습니다. 이러한 관점에서 도덕 행위자나 윤리적 주체가 될 수 없습니다. 그들은 도구입니다.

그럼에도 불구하고 책임은 사라지지 않습니다. 그것은 옮겨집니다. 최소한 세 가지 수준이 있습니다:

• 프로그래머/개발자의 책임 (사용된 데이터, 모델의 제한, 편향, 독성, 필터링 구성 방법)

• 사용자의 책임 (어떻게 사용되는지, 조작, 사칭 또는 허위 정보에 사용되는지 여부)

• 생태계의 책임 (이러한 기술 주변에 어떤 규범이 구축되는지, 중요한 환경에서 얼마나 많은 자율성이 허용되는지)

모델이 자율적이 되면 어떻게 될까요?

장기간 학습하고 실제 세계와 상호 작용하며 창발적 의도(시뮬레이션된 것 또는 아닌 것)를 형성하고 사회적으로 통합되는 시스템이 있는 미래를 상상한다면, Floridi나 Gunkel과 같은 일부 철학자들은 그러한 개체에 대해 일정한 도덕적 지위를 고려해야 한다고 주장합니다. 최소한 도덕적 수취인(행위자가 아니라 관리나 규제의 대상)으로서 말입니다.

현재 관점에서의 윤리적 결론

현재로서는 LLM:

• 도덕 행위자가 아니며,
• 죄책감이나 공로를 가질 수 없고,
• 그 응답의 "의미"는 사용자와 인간 공동체에 의해 투사됩니다.

Searle이 말했듯이: "컴퓨터는 언어를 이해하는 것처럼 보일 수 있지만 믿음도 욕망도 없습니다." 하지만 당신은 그렇고, 그래서 윤리는 LLM을 어떻게 사용하기로 결정하는지에 있습니다.