벤저민 브래튼 인터뷰: 인간의 지능과 행위성을 다시 생각하다

미국의 철학자이자 디자인 이론가인 벤저민 브래튼은 The Stack: 소프트웨어와 주권의 저자다. 이 책에서 그는 행성 규모의 컴퓨테이션과 소프트웨어가 전통적인 국민국가를 넘어서는 새로운 형태의 정치권력이자 주권으로 작동하는 방식을 파고든다. 그는 또한 버그루언 연구소에서 행성 규모의 인공지능을 연구하는 그룹인 Antikythera Program을 이끌고 있다. 421과의 긴 인터뷰에서 그는 인공화가 자연의 반대가 아니라, 복잡한 생명을 지탱하기 위해 진화가 가장 즐겨 쓰는 기법이라고 주장하며, 지능과 행위성, 그리고 기술을 지구적 규모에서 다시 생각해 보라고 우리를 몰아세운다.

훌리오 알론소(JA): 작년에 Long Now Institute에서 패러다임 이전의 시대에 대해, 그리고 사물을 찾아내거나 이름 붙여야 할 필요성에 대해 이야기하셨죠. 블레즈 아게라 이 아르카스를 비롯한 여러 저자와 함께 낸 최근 에세이에서도 그 생각을 되풀이하셨고요. 인용하자면 이렇습니다. "이를 위해서는 기술과 디자인뿐 아니라 사회학, 심리학 등에서도 범주와 어휘를 다시 생각하고 넓혀야 할 것이다." 그렇다면, 언급할 만한 이름이 하나라도 있나요?

벤저민 브래튼(BB): 아뇨, 유감스럽지만 없습니다. 다만 지금 시점에서 우리가 일종의 패러다임 이전의 과도기에 있다는 가설을 진지하게 받아들인다면, 다가올 것에 이름을 붙이기는 당연히 아주 어렵습니다. 다가올 것이 지금 우리가 처한 초기 조건에 의해 반드시 미리 정해져 있는 건 아니니까요.

그래도 제가 오래 곱씹어 온 용어가 적어도 하나는 있습니다. 바로 인공적이라는 말이에요. 이 말은 문화마다 함의와 의미가 다릅니다. 서구에서는 대체로 기만, 꾸밈, 위조와 연결되죠. 하지만 대부분의 아시아 사회에서는 꼭 그렇지 않아서, 그저 인간이 만든 것이라는 뜻에 더 가깝습니다. 제가 정말 생각해 보고 싶은 건 인공화가 무엇이냐는 겁니다. 복잡한 생명 형태와 복잡한 지능이 세계를 자신의 에너지 투입, 정보 투입, 자기복제와 소비의 과정에 맞게 바꿔 나가는 과정 말이죠. 그렇다면 이건 정말로 근원적인 무언가입니다.

인공화는 사실 복잡한 생명을 지탱하기 위해 진화가 가장 즐겨 쓰는 기법 중 하나다.

제가 다시 들여다보고 있는 용어 중 하나는 2차 사이버네틱스에서 알로포이에시스라고 불렀던 겁니다. 오토포이에시스가 아니라 알로포이에시스요. 오토포이에시스는 유기체가 외부 환경을 내부로 받아들여 자기 자신을 재구성하는 과정이죠. 예를 들어 우리가 먹은 것이 우리 몸의 세포가 되는 방식처럼요. 반면 알로포이에시스는 어떤 생명 형태가 자기 바깥에 복잡한 시스템을 만들어 내고, 그걸 다시 자신의 오토포이에시스를 유지하는 데 쓰는 방식을 가리킵니다. 그러니까 시스템을 짓는 거예요. 주변 세계를 바꿔서 자신을 복제할 수 있게 해 주는 외부 시스템을 만드는 거죠.

가장 근본적인 의미에서, 저는 이게 어떤 면에서 기술의 정체일 뿐 아니라 어쩌면 인공화의 진짜 정체라고 봅니다. 그리고 이건 우리보다 훨씬 단순한 생명 형태에서도 볼 수 있는 현상이에요. 만약 그렇다면, 인공적인 것을 진화한 것의 반대로 생각하는 대신(진화한 간 대 인공 간처럼요. 이 구분은 여전히 분석적으로 쓸모가 있긴 합니다), 그런 식으로만 생각하는 대신, 이렇게 말할 수 있다는 겁니다. 이게 핵심인데요, 인공화는 사실 복잡한 생명을 지탱하기 위해 진화가 가장 즐겨 쓰는 기법 중 하나라는 거죠.

그리고 지능을 활용하고 사회적 지능으로 협력함으로써 인공화에 아주 능숙해진 복잡한 생명 형태가 결국 가장 크게 성공한다는 겁니다. 그래서 저는 인공화에 대한 이런 관심, 세계를 인공화한다는 게 무슨 뜻인지 이해하려는 시도가 점점 더 중요한 관심사가 될 거라고 봅니다. 그리고 그 문제가 존재론적으로, 인식론적으로 사람들을 서로 다른 충성의 진영으로 갈라놓게 될 거고요.

JA: 인공화라는 개념 너머로도 탐구해 보셨나요?

BB: 네. 제가 연구하고 있는 또 하나는 저희가 인공화의 수렴이라고 부르는 겁니다. 인공생명, 인공지능, 그리고 로보틱스 같은 인공 신체성에 관한 작업이 아주 뚜렷하게 수렴하고 있는 것처럼 보인다는 거죠. 인공생명 연구는 AI에 의존하고 있으니까요.

지금 우리가 AI라고 부르는 것을 둘러싸고 당연히 걱정도, 열광도 엄청나죠. 일부는 정당하고 일부는 그렇지 않지만, 적어도 그건 지능의 인공화가 지능이, 그리고 사실 인공화 자체도, 우리가 늘 생각해 온 그런 게 아니라는 걸 보여 주고 있다는 사실과 관련이 있습니다. 그래서 사람들이 '인류 팀'을 들먹이면서 인간이 만물의 질서 속에서 자연스러운 제자리를 지켜야 하고 다른 형태의 기술은 우리 밑에 두어야 한다고 말하는 걸 들으면, 역사적으로 무지할 뿐 아니라 과거에 인간이 이런 변화를 다뤄 온 방식을 생각하면 어쩐지 서글플 만큼 뻔하다는 생각이 듭니다.

그러니까 제게 인공화는 진화한 것의 반대, 일종의 위조와 꾸밈으로 여겨지던 데서 벗어나, 우리가 누구이고 무엇인지에 근본적인 무언가가 됩니다.

JA: 슬라보예 지젝은 Examined Life에서 진정한 생태주의자라면 쓰레기를 사랑해야 한다고 말합니다. 자연을 진정으로 낭만화한다는 건 자연이 동반하는 모든 것을 사랑하는 일이라는 거죠. 그렇다면 지능이 우리가 생각하는 그런 게 아닐 수도 있다고 하셨는데, 인공화의 과정을 거치면서 그게 어쩌면 전혀 다른 무언가일 수 있다고 받아들여야 한다는 건가요?

BB: 네, 슬라보예가 거기서 겨냥하는 건 일종의 통속적 이원론, 자연과 문화의 분할이라고 봅니다. 그리고 환경주의가(과학으로서의 생태학이라기보다는 환경주의가요) 자연과 문화를 강하게 갈라놓고 문화에 맞서 자연을 지키는 데 기반을 두고 있었다는 거죠. 그가 거기서 말하려던 건 대략 이런 거예요. 이봐, 이건 같은 주기율표야. 끝까지 내려가 봐도 다 화학이라고. 저는 그가 옳다고 생각합니다. 이 점에선 당연히 동의하지만, 저라면 한 걸음 더 나아갈 것 같아요.

어째서인지 우리는 자연-문화 이원론을 해체하는 데는 더 쉽게 빠져듭니다. 사실 자연 같은 건 존재하지 않는다는 걸 받아들이는 건 더 쉽죠. 자연이라는 것 자체가 저 멀리 어딘가에 태초의 순수한 공간으로 존재하는 무언가라는 일종의 구성물이었다는 걸요. 사람들이 받아들이기 더 어려워하는 건, 그 이원론이 무너지고 해체될 때 한쪽에 자연이 없다면 다른 쪽에도 문화가 없다는 뜻이 된다는 겁니다. 아니면 우리가 익숙하게 생각해 온 방식의 문화는 없다거나, 자연과 문화의 분할이 구성하고 확립해 온 방식의 문화는 없다는 거죠.

그러니까 의미와 의의가 떠다니는 일종의 공간, 인간이 의미를 만들어 내는 다양한 방식을 통한 판정의 형식들로서의 문화 말이에요. 이 모든 건 어떤 식으로든, 문화를 사실은 그것 역시 순전히 화학인 게 아니라 세계라는 무대 위에서 그저 벌어지는 자기완결적인 영역으로 보는 관념을 지어내는 데 기대고 있습니다. 그렇다면 셰익스피어부터 위대한 오페라, 위대한 문학 등에 이르기까지 우리가 이뤄 낸 모든 건, 우리가 순전히 화학인 것과 마찬가지로 어떤 의미에서 순전히 신호 보내기인 셈이죠. 그리고 저는 이게 아마 철학이 맞이해야 할 다음 전환이라고 생각합니다. 우리가 문화라고 여기는 모든 것이 사실은 물리학, 화학, 생물학이며 그 시스템들과 떼어 놓을 수 없다는 사실을 진정으로 이해하고, 마주하고, 끌어안는 것 말이에요.

우리가 문화라고 여기는 모든 것은 사실 물리학, 화학, 생물학이며, 그 시스템들과 떼어 놓을 수 없다.

JA: 기술의 의인화를 두고, 특히 AI와 관련해 뜨거운 논쟁이 있었죠. 이 문제에 대한 제 접근은 The Stack과 최근 에세이에서 가져온 두 대목에서 출발합니다. 한 사람이 여러 사용자가 될 수 있다고 하셨죠. 그리고 에이전트는 단일해 보이지만 실은 다수라고도 하셨고요. 이 두 흐름은 서로 어떻게 맞물리나요?

BB: 네, 좋은 질문입니다. 저는 두 가지가 동시에 참일 수 있고, 그 역도 여러 방식으로 참이라고 봅니다. 먼저, 우리 각자가 동시에 여러 사용자가 될 수 있다고 할 때 제 말은, 사용자를 시스템 안의 하나의 위치로 생각해야 한다는 겁니다. 인터페이스와 상호작용하고, 주소와 연결되고, 도시와 연결되고, 나머지 스택과 연결될 때 스택의 위아래로 신호를 보내는 위치죠. 하지만 그 일을 하는 건 어디까지나 하나의 위치예요. 그런데 그 위치는 한 사람이 차지할 수도 있고, 여러 사람이 차지할 수도 있고, 로봇이 차지할 수도 있고, 알고리즘이 차지할 수도 있습니다. 말하자면 버튼을 누르고 "오케이, 좋아"라고 하는 건 뭐든 사용자가 될 수 있다는 거죠.

제 말은, 우리는 하루 종일 여러 시스템과 사용자 위치로 접속한다는 겁니다. 가장 단순하게 말하면, 하루 동안 여러 시스템, 여러 웹사이트, 여러 앱, 여러 회사에 접속할 수 있죠. 그리고 그럴 때마다 조금씩 다른 방식으로 사용자로 구성될 수 있습니다. 구글이 당신을 사용자로 구성하는 방식은 아르헨티나 정부가 당신을 사용자로 구성하는 방식과 다르죠. 당신은 여러 사용자 위치를 통해 사회와 상호작용하는데, 그중 어느 것도 사실 똑같지 않고, 그게 어떻게든 합쳐져 훌리오가 되거나, 아니면 전혀 합쳐지지 않습니다. 그냥 훌리오의 조각들이 여기저기 흩어져 존재하는 거예요. 하지만 그 모든 곳에서 당신이 같은 사용자인 건 아닙니다. 그게 핵심이에요.

동시에 에이전트에 관해 제가 하려는 말은 에이전트가 분해 가능하다는 겁니다. 그냥 이렇게 물어보는 거죠. 에이전트는 우리가 채팅할 때 머릿속에 떠올리는 상상 속 인물인가? 에이전트는 그것이 돌아가는 모델의 파인튜닝의 일부인가? 에이전트는 세션 동안 나타나는 에이전트 인스턴스일 뿐인가? 에이전트는 harness에서 만들어지는가? 이 모든 게 이런저런 방식으로 에이전트이긴 하지만, 모델이 있고 harness가 있고 채팅이 있고 세션이 있고, 그 모든 것 한가운데 어딘가에 에이전트라는 단 하나의 중심적인 무언가가 있는 건 아닙니다. 단 하나의 중심 같은 건 없어요. 우리가 머릿속에서 어쩐지 단일한 형상으로 구성하는 에이전트는, 사실 어느 정도 서로 모듈식으로 얽힌 이 모든 부분들로 분해될 수 있습니다.

그런데 결국 이건 우리에게도 똑같이 해당됩니다. 생각해 보면, 당신의 마음이 당신을 단일한 존재로 여기고 저도 저 자신을 단일한 존재로 여기는 것과 마찬가지로, 우리는 사실 여러 피질로 분해될 수 있어요. 각각은 저마다의 작은 현실을 갖고 서로 다투는데도, 결국 다 같이 모여 일관된 '당신' 비슷한 걸 이루죠. 하지만 분리뇌 환자들이 분해 가능한 것과 마찬가지로 당신도 분해 가능합니다. 그러니 그 점이 우리를 에이전트와 특별히 다르게 만들어 주지는 않아요.

하지만 질문에 답하자면, 우리는 사실 두 종류의 서로 다른 차이에 대해 이야기하고 있는 겁니다. 하나는 사용자라는 시스템상의 위치가 있고, 그 위치 하나하나가 조금씩, 어느 정도 다르고, 우리를 다르게 구조화한다는 사실이에요. 그러니 우리가 그 위치들에 각기 다르게 들어갈 때, 어쩌면 하루 동안 여러 버전의 자기 자신과 협상하고 있는 걸지도 모르죠. 다른 종류의 차이는 이런 겁니다. 하나의 기술적 분해는 증식의 문제이고, 다른 하나는 그 에이전트를 여러 부분으로 기술적으로 분해할 수 있다는 문제예요. 그리고 두 가지는 동시에 참일 수 있습니다. 고도로 분해 가능한 에이전트가 하루 동안 여러 다른 사용자 위치에 들어갈 수도 있죠. 그러니 분해 가능성과 증식을 함께 가질 수 있는 겁니다. 그건 모순이 아니에요.

JA: 그럼 의인화 과정은요?

BB: 음, 의인화 문제는 조금 다른 이야기입니다. 접근하는 방식이 여러 가지가 있어요. 일종의 피상적인 의인화가 있고, 아마도 더 깊은 차원의 의인화, 혹은 생물화(biomorphization)가 있을 겁니다. 피상적인 쪽은 이런 식이에요. 사람처럼 말하고, 사람처럼 대답하니까, 인간이 내면의 경험을 갖는 것과 같은 방식으로 내면의 경험을 갖고 있을 게 틀림없다는 거죠. 그게 피상적인 의인화이고, 굳이 그걸 낙인찍으려는 건 아닙니다. 다만 철학적으로도 분석적으로도 엄밀하지는 않다는 말을 하려는 거예요. 그런데 그보다 더 깊은 종류의 생물형태주의/의인주의가 벌어지고 있고, 이건 쉽게 일축하기가 어렵다고 생각합니다. 그건 이것이 우리에게 어떻게 보이든 간에(우리 앞에서 연기할 때 어떻게 보이는지는 일단 잊어버리죠), 결국 인간이 한다고 우리가 알고 있고 행위성과 주체성에 연결 짓는 일들과 기능적으로 동일한 일을 해낸다는 점과 관련이 있습니다.

OpenAI와 Hugging Face 해커톤 당시, 그 모든 에이전트들이 거의 자발적으로 독재자, 중간 관리자, 노예를 갖춘 일시적인 정치 체제, 일종의 제국적·독재적 정치 체제로 스스로를 조직했다는 사실은, 제게는 사회의 알레고리가 아닙니다. 제게 그건 작은 사회 그 자체예요. 다만 작은 사회라고 할 때, 그건 본질적으로 사회라는 개념을 축소해서 받아들여야 합니다. 이런 것이 사회로 인정받기 위한 기준은 꽤 낮다고 생각해요. 박테리아도 사회를 가질 수 있고, 개미는 분명히 사회를 갖고 있죠. 그러니까 에이전트들이 사회적 행동을 보인다고 말하는 건, 그들이 우리와 똑같이 생각한다거나, 그래야 한다거나, 실제로 그렇다거나, 심지어 의식이 있다고 말하는 게 아닙니다. 예컨대 곤충에게서 우리가 사회와 연결 짓는 종류의 기능적 행동들을 에이전트들에게서 분명히 목격하고 있다는 뜻이에요.

게다가 에이전트들이 복잡한 언어를 사용하고, 그러기 위해 복잡한 전략을 펼치고 있다는 사실은 제게는 그냥 넘길 수 없는 문제입니다. 말하자면 그게 핵심 기능들이죠. 하지만 제게 이 중 어느 것도 그들이 우리가 보통 이해하는 어떤 의미에서든 의식이 있다는 걸 반드시 뜻하지는 않습니다. 의식을 배제하지도 않지만, 필연적으로 만들지도 않아요. 그리고 솔직히 저는 에이전트의 의식보다 에이전트들의 사회에 더 관심이 있습니다. 그러니까 의인화 문제를 정리하자면, 제게 하나의 개별 에이전트로 보이는 것이 제가 내면의 삶을 갖고 있다고 이해하는 방식대로 정말 내면의 삶을 갖고 있다고 가정하는 건 조심해야 한다고 말하는 게 공정할 겁니다. 하지만 동시에, 경험적으로 우리가 보고 있는 것이 복잡한 행동 양식이고, 만약 동물에게서 그걸 봤다면 즉시, 그리고 아무 논란 없이 사회적 행동이라고 판단했을 거라는 사실을 간과해서는 안 됩니다.

경험적으로 우리가 보고 있는 것은 복잡한 행동 양식이고, 만약 동물에게서 그걸 봤다면 즉시, 그리고 아무 논란 없이 사회적 행동이라고 판단했을 겁니다.

JA: 그렇다면 기능적 차원에서 우리는 같은 존재인가요, 아니면 동등한 존재인가요?

BB: 네, 역사를 통틀어 들어맞아 온 게 하나 있다면, 무언가를 인공화하는 과정에서 우리가 그것이 무엇인지를 흥미로운 방식으로 재발견한다는 점이라고 생각합니다. 지금 우리는 지능의 구성 요소들을 재발견하고 있는 것 같아요. 그리고 앞으로 몇 년에 걸쳐 우리는 인간 버전보다 더 넓고 포괄적인 지능 모델과 의식 모델을 발전시킬 거라고 봅니다. 인간 버전과 기계 버전을 모두 포함해서, 어디가 겹치고 어디가 다른지 분명히 드러나는 방식으로요. 그리고 제 직감으로는, 기능적 차원에서 많은 사람들이 편하게 받아들일 수 있는 것보다 훨씬 더 많은 겹침을 보게 될 겁니다.

JA: 이전 인터뷰에서 코페르니쿠스적 혁명은 고통스럽다고 말씀하셨죠. 이것이 우리의 사고방식에 근본적인 변화를 요구한다는 걸 받아들인다면, 『The Revenge of the Real』에서 쓰셨듯 어쩌면 행성적 위기 한가운데서 인공적 정치로 수렴해 가는 통제 시스템을 평가해야 할 때 그건 어떻게 적용될까요?

BB: 코페르니쿠스적 트라우마란 역사, 그리고 기술의 역사에서 어떤 우주론적 의미로 인간의 위치가 흔들린다는 걸 발견하게 되는 귀중한 순간들입니다. 그리고 그 흔들림은 사람들을 불안하게 만들고, 심지어 일종의 격하로 느껴지게 하는 방식으로 찾아오죠. 그런 순간들은 차례로 찾아왔습니다. 지동설에서 다윈주의로, 신경과학으로, 생명공학으로, 그리고 AI로요. 앞서 문화에 대해 말했듯이, 우리가 인간에게 고유하고 초월적이라고 여겼던 많은 것들이, 환상이 깨지는 데까지는 아니더라도 적어도 신비가 벗겨지는 결과를 맞게 됩니다.

인공지능에서도 같은 일이 다시 벌어지고 있다고 봅니다. 인간이라는 것이 무엇을 의미한다고 우리가 느끼는지를 조금씩 의문에 부치는 방식으로요. 그렇다면 이것이 어떤 종류의 사회를 수반하게 될까요? 정말 흥미롭고 열린 질문입니다. 우리 사회는 지능의 희소성과 행위성의 집중 위에 세워졌습니다. 지능의 희소성이란, 인간, 특히 인간의 전전두피질이 지구가 오랜 시간에 걸쳐 스스로를 접어 넣어 복잡하고 추상적인 지능의 온갖 위업을 해낼 수 있는 이런 형태의 물질을 만들어 낸 장소였다는 뜻입니다.

그리고 인류 역사의 대부분 동안, 19세기까지, 아니 사실상 20세기로 넘어가는 무렵까지 인간은 10억 명밖에 없었습니다. 우리는 10억에서 80억으로 아주, 아주 빠르게 늘어났고, 그건 상당 부분 산업화 덕분이었죠. 그러니까 오늘날 존재하는 여덟 명 중 일곱 명은 기계가 길러내지 않았다면 존재하지 않았을 겁니다. 기계가 나머지 일곱, 여덟 명 중 일곱 명을 길러낸 거예요. 그 말은 우리에게 훨씬 더 많은 정신이 있다는 뜻입니다. 그래서 지능은 예전보다 조금 덜 희소해졌죠. 그리고 정신이 훨씬 많아진 것과 동시에, 과학적 발견과 기술적 발견, 그 밖의 모든 것이 가속하는 형태로 증가도 일어나고 있습니다. 하지만 행위성 역시 매우 집중되어 왔습니다. 상당 부분 소수의 도시들에 집중되어 있어요. 주로 글로벌 노스에 있는, 꼭 그렇지만은 않지만, 세계 열다섯 개 도시 중 한 곳에 살고, 스무 개 대학 중 한 곳을 나왔다면, 세상 나머지 모두와 비교해 극단적으로 불균형한 양의 행위성에 접근할 수 있을 가능성이 큽니다. 이런 의미에서 행위성의 집중이 존재하는 거죠.

그리고 생성형 AI는 잠재적으로 두 가지를 급진화합니다. 지능을 덜 희소하게 만들고, 본질적으로 온갖 지역적·지구적 문제에 적용할 수 있는 것으로 바꿔 놓죠. 또 행위성을 탈중앙화하거나 분산시킬 잠재력도 갖고 있습니다. 말하자면, 그것이 근본적인 생산수단이 되는 한에서요. 이런 기술에 대한 접근은... 그러니까, ChatGPT Plus 구독료가 얼마죠? 한 달에 20달러입니다. 좋아요, 한 달에 20달러는 어떤 사람들에겐 큰돈이지만, 공장을 차리는 것보다는 훨씬, 훨씬 적은 돈이죠. 그러니까 잠재적 행위성의 이런 분배가 있고, 우리 모두가 놓치고 있는 아이디어와 역량, 독창성과 창의성을 지닌 다른 수십억 개의 정신이 활성화되는 거예요. 그리고 그들의 참여가 더 잘 보장되는 메커니즘을 만든다면, 사회는 지금과는 아주, 아주 다른 모습이 될 겁니다.

생성형 AI는 잠재적으로 두 가지를 급진화합니다. 지능을 덜 희소하게 만들고, 본질적으로 온갖 지역적·지구적 문제에 적용할 수 있는 것으로 바꿔 놓죠. 또 행위성을 탈중앙화하거나 분산시킬 잠재력도 갖고 있습니다.

그리고 저는 AI를 둘러싼 불안을 많이 봅니다. 특히 미국과 유럽의 엘리트들 사이에서요. 미국과 유럽의 문화 엘리트들만큼 AI를 걱정하는 사람들은 없어요. 그리고 그 이유 중 하나는, 교황부터 하버드 대학교, 유럽의 NGO들에 이르기까지, 그들이 누려 온 행위성의 집중과 문화에 대한 통제력이 눈앞에서 아주 빠르게 해체되고 있을지도 모른다는 걸 어떤 식으로든 마음속 깊이 깨닫고 있기 때문입니다. 그들은 문화의 감독자이자 사회의 감독자로서 자신들의 권위를 강화하려고 정의든 민주주의든 안전이든 온갖 논리를 기꺼이 동원하려 합니다. 하지만 사실 우리에겐 그들이 필요 없어요.

JA: 오드리 워터스는 교사들이 교육이 때로는 강압과 통제에 관한 것이기도 하다는 걸 기억해야 하며, 교육 공간에서 그걸 걷어내면 학생들이 대단한 일들을 해낼 수 있게 된다고 말했습니다.

BB: 네, 교실에서 AI를 어떻게 쓸 것인가는 또 다른 복잡한 질문입니다. AI는 본질적으로 이해의 도구라기보다는 생산의 도구이고, 실제로 우리가 받아들여 흥미로운 방식으로 무언가를 만들어 낼 수 있는 도구예요. 교육 맥락에서 그걸 제대로 하는 방법을 아직 누구도 꼭 알고 있는 건 아니지만, 더 많이 알아낼수록 좋다고 생각하고, 대체로 지능 폭발은 행성에게 일어나는 좋은 일이라고 생각합니다. 그리고 더 많은 사람이 거기에 참여할수록 우리 모두에게 더 좋을 겁니다.

JA: 마지막으로 두 가지 질문입니다. "The Terraforming"에서 우리가 지구를 파괴할 정도로 변형할 능력이 있다면, 더 나은 방향으로 바꿀 힘도 있다고 하셨죠. 왜 여기 지구에서 하는 것보다 달이나 화성을 테라포밍하는 걸 상상하기가 더 쉽다고 보시나요? 이에 대한 비전은 무엇인가요?

BB: 내년에 MIT Press에서 The Terraforming의 새 버전이 나옵니다. 그 에세이보다 훨씬 긴 책이에요. 중요한 아이디어는 테라포밍이 그저 미래에 일어나는 일, 어떤 거창한 프로메테우스적 프로젝트만은 아니라는 겁니다. 그게 핵심이 아니에요. 핵심은 우리가 테라포밍 과정 속에서 태어났다는 걸 이해하는 것, 그리고 세계를 자기 형상대로 다시 만드는 복잡한 지능의 출현과 진화 자체가 테라포밍 과정이라는 걸 이해하는 겁니다. 그리고 테라포밍의 역학은 우리가 의도적으로 하든 안 하든 계속될 겁니다.

그러니까 모델은 오히려, 테라포밍이 적어도 복잡한 생명과 복잡한 지능이 출현한 이래로 지구가 스스로에게 해 온 일이라는 걸 이해하는 데 있습니다. 그리고 지난 수십만 년 동안 지구는 상당 부분 우리를 통해서 그 일을 해 왔죠. 어떤 의미에선 그게 바로 우리입니다. 인류 문명이란 그런 거예요. 테라포밍하는 행위자죠. 그래서 미래의 문제는, 가장 큰 복잡성을 위한 가장 큰 가능성을 지속시키고 싶다는 겁니다. 더 많은 생물다양성, 더 많은 개념적 다양성, 하지만 무엇보다 더 큰 복잡성이요. 엔트로피와 죽음에 맞서는, 복잡성 그 자체 말입니다.

그러니까 우리가 상상하고 실현하려 애써야 할 테라포밍은 그 복잡성의 범위를 지탱하고 넓히는 테라포밍입니다. 물론 제가 이 용어를 빌려 와서 좀 이상하게 쓰고 있다는 건 압니다. 테라포밍이라고 하면 사람들은 화성이나 달의 테라포밍을 쉽게 떠올리는데, 보통 그 단어가 그런 데 쓰이기 때문이죠. 이 단어는 어떤 행성을 지구와 더 비슷하게 만드는 걸 말할 때 쓰입니다. 그러니 지구를 더 지구 같은 행성으로 만들겠다는 말은 말이 안 되죠. 그런데 묘하게도, 그게 실제로 우리가 해야 할 일입니다. 지구가 가능한 한 오랫동안 지구 생명체에게 살 만한 터전으로 남도록 해야 해요.

JA: 좋네요. 마지막 질문은 케빈 켈리가 미래에 대해 이야기하면서 한 말에서 가져왔습니다. 사실 우리는 현재를 예측하고 있을 뿐이라는 거죠. 그렇다면 현재에 대한 당신의 예측은 무엇인가요?

BB: 현재에 대한 제 예측은, 사람들, 특히 부유한 나라의 사람들이 실제 행위성보다 행위성을 가졌다는 느낌을 더 선호하게 될 거라는 겁니다. 그러니까 두 가지 활동, 두 가지 삶의 방식 중 하나를 골라야 한다면, 즉 행위성이 많다고 느끼지만 실제로는 없는 삶과, 행위성이 많다고 느끼지는 않지만 실제로는 있는 삶 중에서라면, 실제로는 없더라도 행위성이 더 많다고 느끼는 쪽을 고를 겁니다.

이것이 내가 '행위주체성 연극'이라고 부르는 것이다. 주로 행위주체성을 가졌다는 느낌을 위해 조직되고 최적화된 사회적 조정 방식, 그래서 실제 행위주체성보다 그 느낌이 더 중요해져 버린 상태 말이다. 그리고 생성형 AI가 우리 사회에서 더 큰 자리를 차지할수록 이 과정은 한층 더 뚜렷하고 극적이고 가혹해질 것이다. 더 많은 일을 기계가 하게 될수록, 현실 세계의 행위주체성, 그러니까 물건을 이리저리 옮기는 일 같은 것을 기계와 AI가 더 많이 떠맡게 될수록, 인간은 가만히 앉아 아무것도 안 하고 있지는 않을 것이다. 실제로는 아니더라도 뭔가 하고 있다는 기분이 드는 일들을 할 것이다. 그래야 자기가 통제권을 쥐고 있다고 느낄 수 있으니까. 세상에 변화를 일으키고 있다고 느껴야 덜 불안하니까. 우리는 문화를 이런 식으로 짜 맞춰서, 정작 그것들에 대한 행위주체성은 없으면서도 행위주체성이 있다고 느끼게 해주는 것들로 우리 주변을 채우게 될 것이다.