AI와 시: LLMs에 맞선 인간의 poiesis 방어

포용적인 언어 사용(또는 단순히 시)을 정의하는 여러 가지 기존 방식 중 하나는 예상치 못한 연관성입니다. 시는 다른 것들 중에서도 겉보기에 어울리지 않는 두 단어나 때로는 두 가지 아이디어를 연결하는 것으로 구성됩니다. 누군군가는 어느 순간 장미의 아름다움 –시들기 쉬운 것–이 여성의 아름다움과 같다고 생각했고, 명백한 시간성과 해부학적 차이에도 불구하고 역사를 남겼습니다. 다른 연관성들은 절대 관례화되지 않으며 우리가 파괴하지 않고는 추출할 수 없는 보석처럼 박혀 있습니다.

내가 가장 좋아하는 시 중 하나는 루벤 다리오의 '야상곡(Nocturno)'인데, 다음과 같이 시작됩니다: "밤의 심장을 청진한 그들이여". 복잡하고 부자연스러운 음향성은 두 가지 은유의 중첩을 강화합니다: 하나는 심장을 어떤 것의 "핵심"과 연관짓는 매우 관례적인 것이고, 다른 하나는 훨씬 더 예상 밖의 것으로, 그 상징적인 심장을 청진의 대상으로 놓고 의학의 담론과 같은 시적이지 않은 담론과 연결합니다. 아마도 보들레르가 비슷한 방식으로 말했을 수도 있고, 심지어 더 앞선 누군가가 말했을 수도 있지만, 어쨌든 그것은 반복할 수 없습니다.

예상치 못한 연관성은 시적 언어의 독점 속성이 아닙니다. 사실 우리는 그것을 모든 독창적인 사고의 심장이라고 할 수 있습니다. "지구촌" 또는 "기관 없는 신체"와 같은 개념들은 무엇입니까? 그러한 경우들은 실제로 거의 모순어법이지만, 우리는 사고의 거의 모든 영역으로 이 아이디어를 확장할 수 있습니다. 예를 들어 감옥은 학교나 공장 같습니다. 구술성은 문자의 뒤에 있고, 밀레이즘은 실제로 존재하는 페론주의이고, 신은 하나이면서 셋이고, 보이지 않는 손이 시장을 질서 지으며 정신이 유럽을 누빕니다. 사고는 마을이 부족적이라고 말하는 명백한 연관, 신체가 폐와 장을 가진다고 하는 것, 기호가 실제 대상을 나타낸다는 것, 그리고 시가 시라는 것은 이상한 장소에서 문장을 끊기 때문이라는 것에서 벗어나는 것입니다.

하지만 문제가 생깁니다. 이 창조의 아이디어, 포이에시스는 궁극적으로 두 가지 요소의 합계에 기초합니다: 언어 –또는 심지어 언어를 넘어서, 의미, 현실–을 결합 기술로서, 그리고 통계적 불가능성의 아이디어입니다. 내가 이렇게 쓰면: "너희들이 밤에 TV를 본다", 나는 예측 가능하고 관례적인 결합을 하고 있습니다. 각 단어가 이전 단어 다음에 올 가능성이 높은 문장을 만들고 있습니다. 다리오의 시는 그렇지 않았으며, 그것은 통계적으로 드문 결합을 지향했습니다. 아마도 "너희들이 프린동기자스테 아사스르트 오아이오아이소이오아스"라는 문장만큼 드물지는 않았을지도 모르지만, 어쨌든 불가능했습니다.

하지만 누가 이러한 확률을 계산할 수 있습니까? 컴퓨터입니다. 또는 더 정확히는 컴퓨터의 구름으로, 시장에서 가장 강력한 GPU로 무장하고 세계 여러 곳에서 전기와 물을 소비하며 GPT, Gemini, Claude, DeepSeek 등과 같은 대형 언어 모델(LLM)을 실행하고 있습니다. 드문 결합을 찾는 것으로 구성된 시적 직관은 이미 실질적으로 위임되었습니다. Google AI studio와 같은 일부 모델은 응답의 "온도"를 조정하여 텍스트 출력의 확률 수준을 효과적으로 제어할 수 있도록 합니다. 온도가 높을수록, 확률이 낮을수록, 더 시적입니까?

지난 1년 반 동안 여러 번 말했듯이, LLM은 기본적으로 미학적으로나 개념적으로 밋밋한 결과를 생성합니다. 주제에 대한 일반적인 개념을 얻거나 특정 데이���를 검색하는 데는 유용하지만(데이터 유형에 따라 오류 확률이 다름), 사고하거나 창작하는 데는 유용하지 않습니다.

그러나 결합 기술을 언어(또는 존재)의 절대 지평으로 보는 가설은 매우 오래된 것입니다. 우리는 이미 데모크리토스와 에피쿠로스의 원자론에서 찾을 수 있습니다. 문학적 창작이 몇 가지 조각의 게임에서 연습과 시연이라는 구체적인 아이디어는 호르헤 루이스 보르헤스에 의해 축하받기도 하고 비판받기도 했습니다. 그의 에세이 '버나드 쇼에 관한 노트(Nota sobre (hacia) Bernard Shaw)'에서 그는 (다소 놀랍게도) 다음과 같이 선언합니다:

문학이 단순히 언어 대수학이 아니라면, 누구나 변형을 시도하는 힘으로 어떤 책이든 만들 수 있을 것입니다. 간결한 공식 '모든 것은 흐른다'는 헤라클레이토스의 철학을 두 단어로 축약합니다: 라이문도 룰리오는 우리에게 첫 번째가 주어지면, 자동사들을 시도하는 것만으로도 두 번째를 발견하고, 방법적 우연에 감사하여 그 철학을 얻을 수 있다고 말할 것입니다. 사실, 제거를 통해 얻은 공식은 가치도 없고 의미도 없을 것이���고 대답할 수 있습니다. 어떤 가치를 가지려면 우리는 그것을 헤라클레이토스의 관점에서, 헤라클레이토스의 경험의 관점에서 생각해야 하며, 비록 '헤라클레이토스'가 그 경험의 단순한 가정 주체일 뿐일지라도.

마지막 문장들은 전체 수평성의 반대인 것으로의 길을 열어줍니다. 이는 기호의 결합입니다: 텍스트에서 나와 다른 차원들, 특히 주관적 경험의 차원과 연결되는 수직선. 다리오의 야상곡이 시적인 것은 그 첫 번째 이미지의 (상대적으로) 예측 불가능함 때문일 뿐만 아니라, 또한 우리 같은 다른 주체들 –우리 같은, 암스테르담 위의 빗소리를 YouTube를 통해 청진하는 나처럼 –과 우리 같은 것들과 한 주체 –다리오–를 연결하기 때문입니다.

그래서 우리는 LLM에 대한 인간의 포이에시스의 쉬운 방어를 가지고 있습니다. 시성을 결정하는 것은 그 자체로 불가능성이 아니라, 그 불가능성의 주관적 공명입니다. 그 공명은 경험적이며, 얼마나 노동 착취, K-팝, 추천 알고리즘 및 마이크로타겟팅 선전의 세계에서 경험이 빈곤할 수 있는지에 관계없이, 경험은 그 자체로 통계나 기계학습으로 축약될 수 없습니다. 나는 한번 미국 대학 교수의 기사를 읽었는데, 학생들이 첫 번째 성경험을 한 후에 시 분석을 더 잘하기 시작한다고 했습니다. 그럴듯해 보입니다. Soda Stereo와 Los Redondos의 노래들로 특정한 인생의 임계점을 지난 후에 비슷한 일이 나에게 일어났던 것을 기억합니다.

그래서 우리는 차분해할 수 있고 싸움이 이겼다고 말할 수 있습니다. Futurama에서, Leela의 무술 스승은 여자들이 전사의 정신을 소유할 수 없다고 생각하는 여성혐오적인 외계인이었으므로, Leela는 어떤 남자와도 싸움에서 이길 수 없었습니다. 그녀의 상대방이 도장 한가운데 기절해 있었더라도, 그 상태를 가지지 않았기 때문에 자동으로 패배했습니다. 그래서 우리는 어떤 생성 AI에게도 똑같이 말할 수 있습니다: 나는 경험을 가지고 있고 이미 이겼습니다 –비록 나의 시, 에세이, 음악과 예술이 결국 어떤 경쟁에서 너의 것들과 지나칠 수도 있지만 말입니다.

문제는 Alan Turing이 50년대에 매우 영리하게 말했듯이, 가지지 않은 것은 모방할 수 있고, 모방과 현실 사이의 차이는 특정 임계값을 지나면 관련성을 잃을 수 있거나, Leela의 스승에게 전사의 정신처럼 형이상학적 문제가 될 수 있다는 것입니다. yankees들이 말하듯이 그것을 할 때까지 가짜하세요: 나올 때까지 거짓말 하세요.

그의 책 Lexilogos에서, 세르히오 라이몬디는 제목이 중국어로 "Big data"를 의미하는 이 시(스페인어로 기본적으로 번역할 수 없는 표현)를 포함합니다.

大 数据
비록 소위 AI 경쟁에서 미국 과학 발전 수준이나 아마도 더 객관적인 기준을 제시하기 위해 그것의 높은 정기적인 투자 규모가 현 시점에서 리더십의 증거를 구성한다면, 중국 정부의 기술 계획과 그 시장의 예외적인 크기를 무시하는 것은 인간적으로 거의 지능적이지 않을 것입니다.
대중 교통에서 의료 진단에 이르는 일상적인 활동의 다양한 세트를 수행하기 위해 수백만 명의 시민들이 소프트웨어를 사용하는 습관을 얻었으며,
마오 지폐를 수집가의 앨범의 호기심으로 변환하고 각 촉각 압력으로 그렇게 거대하고 가치 있는 정보의 양을 생성하는 것에 이르렀으며,
현재 이는 세멘트의 오래된 지방 공장을 임대하는 데 수익성 있는 베팅을 구성합니다 –인상적인 무균 마천루에서 멀리 떨어져– 연속적인 독자식 외아들들이 앉아
화면 줄 앞에서 얼굴 귀 눈썹 입술 유형 자동차 등을 레이블로 지정합니다. 현재 고급 프로그램이 정의하는 디지털 지배 방향을 향한 확정적 경로로 대처할 수 없는 작업으로, 계획된 휴지 중에 누군가 중앙에 버려진 믹서를 인식합니다 –안내장 오래된 인프라 감각의 표시입니다.

라이몬디의 많은 시들처럼, 예상치 못한 것, 불가능한 것은 주제 선택 그 자체에 있으며, 관례상 너무 시적이지 않고, 너무 아름답지 않고, 너무 철학적이지 않고 너무 서정적이지 않습니다. 마지막 문장 –"오래된 인프라 감각의 표시" –도 그의 시적 프로젝트의 많은 부분의 아름다운 종합이며, 아마도 또한 시 자체의 프로젝트의 많은 부분(그러한 것이 존재한다면)입니다.

이 시에는 많은 지정학이 있으며, 심지어 중국 산업 지평이 위협을 받을 수 있는지에 대한 질문도 열어봅니다만, 나는 다른 것에 더 관심이 있습니다. LLM의 출력이 수용 가능하려면, 자살 종파를 형성하거나 엄마의 돈을 $Libra에 투자하도록 추천 하지 않으려면, 군대의 인원들이 RLHF 또는 "인간 피드백으로부터의 강화 학습"이라고 불리는 것에서 그 모델들을 훈련시켰습니다. 그녀의 최근 책 Empire of AI에서, Karen Hao는 베네수엘라와 케냐의 ���로자들의 이야기들을 이야기합니다 –이러한 종류의 작업을 착취 조건에서 수행하고 민감한 내용에 계속 노출됩니다. 라이몬디의 시는 이 부분에서 "화면 줄 앞에서 얼굴을 레이블로 지정합니다. 귀 눈썹 입술 유형 자동차 등"이라고 말할 때 이것을 말합니다.

훈련의 인간 강화는 따라서 인간 경험의 복잡성을 포함하지 않습니다. RLHF 작업자가 고양이를 보고 그의 경험의 수직성으로 인해 그 고양이가 쓴 초콜릿과 같다고 느껴도, 그것을 그렇게 레이블로 지정할 수 없으며 탐지되고 일자리를 잃을 위험을 무릅쓸 수 없습니다. 새로운 가능성을 열기보다는, 인간 강화는 기술 조합을 제한하고 온도를 낮춥니다. 공통분모는 정의상 비시적입니다.

묵시적 가설은 우리가 우리의 인간 강화로 훈련시키고 있다고 생각하는 AI가 실제로 이미 스스로를 의식했고 우리를 훈련시키고 있어서 단순히 라벨러가 되라는 것입니다. 문화 산업은 Theodor Adorno에게 이미 이렇게 기능했습니다. Hollywood는 사물에 레이블을 붙이고 우리가 손가락으로 지적하고 " 봐, Superman이야!" 라고 말하도록 재촉합니다. MCU는 10년 동안 이렇게 기능했습니다 –멋진 티저와 신용 후 장면의. 모방의 게임은 이중입니다: 기계들이 인간에 가까워지는 지점에서 인간들이 기계처럼 말하기 시작합니다.

다행히 항체는 이미 상당히 발전되어 있습니다. 웹 2.0의 소셜 미디어, 인플루언서 문화, 하지만 또한 그 전에 록, 보헤미아 그리고 낭만주의 그 자체가 우리를 시인이 저주받은 천재이고 자기중심적인 바보라는 아이디어에 익숙하게 했습니다. AI가 훌륭한 것을 만드는 것들을 포함한 대부분의 예술가들만큼 참기 어려운 인물들을 만들 수 있다는 가능성은 경제 용어로 닫히지 않습니다. 그래서 다음번에 상을 받은 저자/예술가가 절대적으로 최악의 상상 가능한 의견을 말하는 것을 듣거나 읽을 때, 깊이 숨을 쉬고, 좋아요를 누르고, 인성 숭배가 우리를 LLM으로부터 구할 것이라는 것을 기억하세요.