필로워싱: 철학이 실리콘밸리에 정당성을 부여할 때

우리처럼 철학을 공부한 사람들은 그게 대체 어디에 쓸모가 있느냐는 질문에 익숙하다. 질문의 말투는 다소 상냥할 수도, 덜 상냥할 수도 있지만, 거의 언제나 그 밑에는 진짜 난점이 깔려 있다. 의학이나 공학, 법학과 달리, 철학자가 강의와 연구 말고 어떤 자리를 차지할 수 있는지는 곧바로 분명해 보이지 않는다는 것이다. 그래서 지금 세계에서 가장 중요한 몇몇 테크 기업에서 벌어지는 일을 학문적 소소한 설욕전쯤으로 해석하고 싶은 유혹이 생긴다. 수십 년 동안 엔지니어와 창업가를 우리 시대의 거의 영웅적인 인물로 만들어 온 바로 그 생태계, 실리콘밸리가 자기들에게도 철학자가 필요하다는 사실을 깨달은 듯하기 때문이다.

케임브리지와 뉴욕에서 철학을 공부한 어맨다 애스컬은 Claude를 만드는 회사 Anthropic의 가장 눈에 띄는 얼굴 가운데 하나가 되었다. 그곳에서 그는 모델의 행동을 이끌어야 할 성격과 가치를 다룬다. 옥스퍼드에서 철학 박사 학위를 받은 이아손 가브리엘은 수년째 Google DeepMind에서 윤리, 다원주의, 거버넌스와 관련된 여러 역할을 맡고 있다. 이들은 고립된 사례가 아니다. 인공지능이 비교적 전문적인 기술에 머물지 않고 교육과 노동에서 건강, 안보, 인간관계에 이르는 영역에 개입하기 시작하면서, 얼마 전까지만 해도 대학 세미나에나 어울릴 법했던 질문들이 뜻밖의 실천적 긴급성을 띠게 되었다. 인공지능 시스템은 어떤 가치를 존중해야 하는가? 두 도덕 원칙이 충돌할 때 어떻게 행동해야 하는가? 무엇이 선하고 정의로운지, 심지어 무엇이 참인지에 대해서조차 합의가 없는 사회의 다원주의와 공존할 수 있는 모델을 설계하는 것이 가능한가?

수십 년 동안 엔지니어와 창업가를 우리 시대의 거의 영웅적인 인물로 만들어 온 바로 그 생태계, 실리콘밸리가 자기들에게도 철학자가 필요하다는 사실을 깨달은 듯하다.

이런 질문들이 인공지능 연구소에 들어왔다는 것은 일단 좋은 소식이다. 동시에 이것이 단순한 홍보 전략에 불과해 보이지도 않는다. 애스컬, 가브리엘, 그리고 다른 연구자들(유럽연합 사법재판소의 불리한 판결 이후 "잊힐 권리" 문제를 다루기 위해 구글에서 일했던 루치아노 플로리디 같은 이들)은 철학적으로 정교한 작업을 내놓고, 진짜 문제들과 씨름한다. 그런 문제에 대해서는 팀에 엔지니어를 계속 더 투입하는 것만으로는 얻을 수 없는 무언가를 인문학적 훈련이 보탤 수 있다. 그럼에도 우리가 따져 물어도 된다고 보는 것은, 이 철학자들이 내놓는 답의 질이라기보다 그들이 질문을 던질 수 있는 제도적 조건이다. 테크 기업이 이미 만들기로 결정한 시스템에 어떤 가치를 담아야 할지 고민하라고 철학자를 고용한다면, 그보다 앞선, 그리고 어쩌면 더 불편한 질문, 즉 그 시스템이 애초에 회사가 부여하려는 자리를 차지해야 하는가라는 질문은 어떻게 되는가?

우리의 의심은, 지금 눈앞에 있는 것이 그저 또 하나의 ethics washing(어떤 행위에 윤리적 광택을 입히기 위한 겉치레 변화) 사례보다 더 깊은 무언가라는 것이다. 우리는 우리 학문이 개입할 수 있는 문제의 영역을 미리 정해 두기 위해 철학을 일종의 전유하는 현장을 목격하고 있다. 우리는 이 메커니즘을 philowashing(‘철학 세탁’이라고 하면 어감이 영 이상하니까!)이라고 부르자고 제안하며, 그 전례가 ‘테크브로’들의 현대판 스토아주의 전유에 있다고 본다.

스토아주의에서 브로이시즘으로

지난 20년 동안 마르쿠스 아우렐리우스, 에픽테토스, 세네카는 창업가, 투자자, 테크 문화와 엮인 인물들 사이에서 뜻밖의 인기를 누렸다. 팀 페리스는 스토아주의를 생산성과 자기계발 세계의 단골 레퍼런스로 만드는 데 한몫했고, 라이언 홀리데이는 그 전통을 중심으로 책, 강좌, 강연으로 이루어진 대성공 생태계를 구축했다. 그리고 마르쿠스 아우렐리우스의 『명상록』은 결국 경영자들의 서재에서 리더십 매뉴얼, growth hacking, 성과 최적화 책들과 나란히 꽂히게 되었다. 흥미로운 현상이지만 꼭 문제 삼을 일은 아니다. 누군가 직업적 위기를 넘길 도구를 찾다가 에픽테토스에 이르렀다고 해서, 그 독서나 그 과정에서 발견한 철학이 무효가 되는 것은 아니니까.

중요한 것은 그 전유가 무엇을 골라내느냐다. 고대 스토아주의는 생산성을 높이기 위한 기법 모음이 아니라, 덕, 의무, 공동의 삶, 그리고 우리에게 달린 것과 우리가 통제할 수 없는 것의 관계에 관한 훨씬 야심 찬 사상이었다. 그러나 현대 기업 문화로 번역되는 과정에서 그 철학적 구조의 상당 부분은 뒷전으로 밀려나고, 주로 자기 관리 기법으로 바꿀 수 있는 생각들만 살아남는다. 역경을 견디기, 자기 반응을 통제하기, 자기가 영향을 미칠 수 있는 것에 집중하기, 바꿀 수 없는 외부 상황 앞에서 회복탄력성을 기르기 같은 것들 말이다.

테크 기업이 이미 만들기로 결정한 시스템에 어떤 가치를 담아야 할지 고민하라고 철학자를 고용한다면, 그보다 앞선, 어쩌면 더 불편한 질문은 어떻게 되는가?

그 결과물은 때때로 브로이시즘, 즉 broicism이라고 불려 왔는데, 이 용어는 중요한 변화 하나를 짚어 내게 해 준다. 어떤 일터가 상시 대기를 요구하고, 불안을 낳고, 일과 휴식의 경계를 점점 더 흐릿하게 만든다면, 재구성된 스토아적 질문은 더 이상 그 환경의 조직 방식을 향하지 않고 그 환경에서 성공적으로 살아남는 개인의 능력을 향한다. 그렇게 철학은 개인을 손보는 도구를 제공하고, 그 개인의 고통을 낳는 조건들은 논의 바깥에 그대로 남는다.

실리콘밸리에 출근 도장 찍는 철학자들

어맨다 애스컬의 사례는 이 변화를 이해하는 데 특히 유용하다. Anthropic에서 그가 하는 일의 일부는 Claude가 어떻게 행동해야 하는지 고민하는 것이다. 그 ‘성격’은 어떤 특징을 가져야 하는지, 어떤 가치를 드러내야 하는지, 도덕적으로 복잡한 상황에 어떻게 반응해야 하는지, 그리고 인공지능 어시스턴트가 사용자의 믿음이나 결정에 영향을 미치려 해도 되는 건 어디까지인지. Anthropic의 Constitutional AI 프로젝트는 이런 고민을 학습 구조 자체에 담아낸다. 바람직하지 않은 응답을 하나하나 바로잡는 데 그치지 않고, 명시적인 원칙들을 통해 모델의 방향을 잡으려는 것이다.

철학은 이런 논의에서 의미 있는 역할을 할 수 있다. 사용자의 자율성을 존중한다는 게 무슨 뜻인지, 온정주의를 어떻게 피할지, 양립 불가능한 가치 체계들이 공존하는 맥락에서 인공지능이 어떻게 행동할 수 있을지 묻는 일은 기술적 과정의 끝에 덧칠하는 인문학적 광택제가 아니라 진짜 규범적 문제다. DeepMind에서 이아손 가브리엘이 다원주의와 정렬에 관해 하는 작업도 마찬가지다. 그러나 Claude의 성격에 관한 질문이든, 대규모 언어 모델이 어떤 가치를 담아야 하는가에 관한 논의든, 모두 개입할 방법이 없어 보이는 앞선 결정에서 출발한다. 그 모델의 프로젝트 자체, 그 규모, 그 비즈니스 모델, 그리고 그것이 사회생활 속에서 어떤 자리들을 차지하게 될지에 관한 결정 말이다. 철학적 성찰은 문제의 제도적 구조가 상당 부분 이미 정해진 뒤에야 시작된다. 시스템이 어떻게 행동해야 하는지는 논의되지만, 어떤 종류의 결정을 그것에 맡겨야 하는지, 그것이 누구에게 책임을 져야 하는지, 혹은 성능과 무관하게 그 사용이 배제되어야 할 영역이 있는지는 반드시 논의되지 않는다.

틀리지 않은 알고리즘

2019년 7월 말, 기예르모 페데리코 이바로라는 레티로역에서 체포되었다. 부에노스아이레스시 정부가 사용하던 도주자 안면 인식 시스템이 그를 바이아블랑카에서 벌어진 특수강도 사건의 수배자로 식별했기 때문이다. 그는 그 범죄와 아무 관련이 없으며 그 도시에 가 본 적조차 없다는 사실이 확인될 때까지 엿새 동안 구금되었다.

이 사건은 지난 몇 년간 우리가 쌓아 온 방대한 알고리즘 오류 목록에 별 어려움 없이 추가될 수도 있겠지만, 철학적으로 더 흥미롭게 만드는 디테일이 하나 있다. 알고리즘은 틀리지 않았다는 것이다. 비슷한 두 얼굴을 혼동하지도, 통계적 문제로 오탐을 내지도 않았다. 체포 영장의 대상은 기예르모 왈테르 이바로라였는데, 누군가 그 영장에 기예르모 페데리코의 신분증 번호를 연결해 놓았던 것이다. 시스템은 입력받은 정보를 올바르게 처리했고, 맞는 얼굴을 잘못된 데이터베이스와 대조했으며, 감탄스러운 효율로 엉뚱한 사람을 찾아냈다. 말하자면 잘못된 데이터 위에 가해진 외과수술급 정밀함이었다.

중요한 것은 안면 인식 알고리즘을 아무리 개선했어도 문제는 해결되지 않았으리라는 점이다. 열 배 더 정확하고, 인구통계학적 편향도 없고, 가장 뛰어난 감사를 거친 시스템을 상상해 볼 수 있겠지만, 그래도 기예르모 페데리코 이바로라는 똑같이 체포되었을 것이다. 오류는 다른 곳에 있었다. 시스템에 들어간 데이터에, 그 데이터를 만들어 낸 제도적 사슬에, 그리고 무엇보다 경찰, 공무원, 사법 요원들이 관여하는 과정 안에서 기술적 권고가 차지하던 자리에.

게다가 그 엿새 동안 결정에는 사람들이 참여하고 있었다. 이 사실이 중요한 이유는, 자동화의 위험에 대한 가장 흔한 대응 중 하나가 바로 언제나 human in the loop, 즉 최종 결정권을 쥔 사람이 존재하도록 보장하는 것이기 때문이다. 이바로라 사건은 그 공식이 합리적이긴 해도 보기보다 훨씬 적은 것을 말해 준다는 점을 보여 준다. 회로 어딘가에 사람이 있다는 것만으로는 실질적인 감독이 보장되지 않는다. 그 사람이 관련 정보를 받지 못하거나, 검토할 시간이 없거나, 결과에 반대할 유인이 없거나, 아예 그것을 바꿀 권한이 없다면 말이다.

회로 어딘가에 사람이 있다는 것만으로는 실질적인 감독이 보장되지 않는다. 그 사람이 관련 정보를 받지 못하거나, 아예 그것을 바꿀 권한이 없다면 말이다.

다시 말해 ‘사람을 회로 안에 둔다’는 말은 완전히 다른 제도적 구성들을 가리킬 수 있다. 진단 제안을 받고 검사 결과를 검토한 뒤 그것을 무시할 수 있는 의사와, 하루에 수백 건의 자동 권고를 처리하면서 거기서 벗어날 때마다 서면으로 정당화해야 하는 직원은 같은 위치에 있지 않다. 두 경우 모두 형식적으로는 인간의 감독이 존재한다. 하지만 그 사람의 판단이 실질적인 기능을 유지한다고 말할 수 있는 건 둘 중 하나뿐이다. 그러니 감독은 기계가 아직 못 하는 것을 보완하려고 마지막에 덧붙이는 처방이 아니다. 누군가 미리 설정해 두는 파라미터다. 검토자가 얼마나 많은 정보를 받는지, 시간이 얼마나 있는지, 어느 방향으로 벗어날 수 있는지, 그리고 그렇게 했을 때 어떤 결과를 감수해야 하는지.

형식은 남고, 기능은 사라지고

스페인의 VioGén 시스템은 이 문제를 다른 각도에서 보게 해 준다. 젠더 폭력 사건의 위험도를 평가하는 데 쓰이는 이 시스템은, 여성이 신고한 뒤 받게 될 보호 조치에 영향을 줄 수 있는 등급을 매긴다. 자동화된 평가가 인간의 개입을 없애지는 않는다. 담당 경찰관은 시스템이 제시한 위험 등급을 수정할 수 있다. 그러나 그 권한에는 정해진 방향이 있다. 올릴 수는 있지만 내릴 수는 없다.

여기서도 이 설계를 기술의 사악함을 보여 주는 증거로 내세우고 싶은 유혹은 참아야 한다. 위험을 과소평가하면 돌이킬 수 없는 결과가 생길 수 있는 젠더 폭력 상황에서는 예방적 기준을 택할 만한 충분한 이유가 있다. 어쩌면 우리가 원하는 게 바로 그런 비대칭일지도 모른다. 하지만 그렇다면, 짚어야 할 핵심은 사람과 시스템 사이의 권한 배분이 알고리즘이 발견한 것도, 그 통계적 정확도에서 도출된 것도 아니라는 점이다. 인간 담당자가 무엇을 할 수 있는지, 도구가 무엇을 할 수 있는지, 그리고 둘 사이에 의견이 갈리면 어느 쪽으로 결론이 나야 하는지는 누군가가 결정한 것이다.

이 지점에서 우리는 인공지능을 둘러싼 오늘날의 논쟁에서 흔히 가려지곤 하는 문제를 좀 더 정확하게 정식화할 수 있다. 공론장의 대화는 능력에 관한 질문이 지배하고 있다. 우리는 AI가 무엇을 할 수 있는지 알고 싶어 한다. 의사보다 진단을 잘하는지, 개발자보다 코딩을 잘하는지, 교사보다 채점을 잘하는지, 경찰이 알아채지 못할 패턴을 감지하는지. 정당한 질문이다. 하지만 그 답에서 우리가 AI에게 무엇을 허용해야 하는지가 도출되지는 않는다. 어떤 시스템이 재범 가능성을 일정한 정확도로 예측한다는 사실을 안다고 해서 그 예측이 판결에 개입하기를 원하는지가 결정되지는 않는다. 어떤 모델이 의사보다 질병을 더 잘 식별한다는 것을 입증했다고 해서 그 모델이 치료에 대해 어떤 권한을 가져야 하는지가 정해지지는 않는다. 인공지능이 교사보다 적은 오류로 시험을 채점할 수 있다는 것을 확인했다고 해서 그 채점을 중심으로 교육을 조직하고 싶은지가 해결되지는 않는다.

누군가가 인간 행위자가 무엇을 할 수 있는지, 도구가 무엇을 할 수 있는지, 그리고 둘 사이에 의견이 갈릴 때 어느 쪽으로 결론이 나야 하는지를 결정한 것이다.

결국 핵심은 흔히 뒤섞여 등장하는 두 가지 질문을 구분하는 것이다. 하나는 시스템의 행동에 관한 질문이다. 무엇에 답해야 하고, 무엇을 거부해야 하며, 어떤 가치를 존중해야 하고, 어떤 작업을 얼마나 정확하게 수행하는가. 다른 하나는 시스템의 제도적 위치에 관한 질문이다. 우리는 어떤 결정을 시스템에 넘기고 어떤 결정을 쥐고 있을 것인가, 누가 어떤 조건에서 그 결과를 따르지 않을 수 있는가. 첫 번째 질문은 제품을 수정함으로써 답할 수 있다. 두 번째 질문은 그 제품이 작동할 수 있는 경계를 정할 것을 요구하며, 경우에 따라서는 기술적으로 만들 수 있다 하더라도 특정 응용은 존재해서는 안 된다고 판단할 것까지 요구한다.

완벽하게 올바른 철학

이제 실리콘밸리의 철학자들에게 돌아가, philowashing이 어디에 있을 수 있는지 더 잘 이해할 수 있다. 문제는 애스켈이나 가브리엘, 혹은 다른 연구자들이 반드시 나쁜 철학을 생산한다는 것도, 고용주에게 유리한 결론을 내려야 할 의무가 있다는 것도 아니다. 사실 이 메커니즘이 스스로 거짓이라고 여기는 말을 기꺼이 하는 철학자들에게 의존한다면 훨씬 덜 흥미로울 것이다. 이런 형태의 정당화가 독특한 점은, 관련된 모든 사람이 엄밀하고 지적으로 정직하게 일할 때조차 작동할 수 있다는 데 있다.

이유는 제도적이다. 모델이 어떻게 행동해야 하는가라는 질문은, 회사가 이미 내린 거의 모든 결정—어디에 배치할지, 어떤 고객에게 팔지, 어떤 인간의 업무를 대체할지—과 양립할 수 있다. 챗봇이 인간의 자율성을 존중하고, 서로 다른 도덕관 앞에서 다원적이며, 취약한 사용자를 세심하게 대하도록 만드는 데 막대한 노력을 쏟으면서도, 그 데이터를 생산하는 사람들의 노동 조건, 학습에 필요한 인프라의 물질적 영향, 그 기술의 도입이 낳는 권력 집중, 혹은 특정 고객들이 그 기술을 어떻게 쓸 수 있는지는 전혀 재검토하지 않을 수 있다.

게다가 시스템의 행동에 관한 철학적 작업은 특히 편리한 속성을 하나 지니고 있다. 제품을 개선할 수 있다는 것이다. 덜 인종차별적이고, 덜 조작적이며, 더 신중하고, 더 나은 설명을 내놓는 모델은 배치하고 상품화하기도 더 쉬운 제품이다. 여기에 문제 될 것은 없다. 더 안전한 자동차를 만드는 데 문제 될 것이 없는 것과 마찬가지다. 곤란한 지점은 그런 개선의 총합이 중요한 규범적 질문들이 이미 제기되었다는 증거로 제시될 때 생긴다. 실제로는 그중 특정한 한 부류의 질문에만 답했을 뿐인데도 말이다.

바로 여기서 philowashing이 등장한다. 이것은 주로 불편한 결론을 검열하는 방식—너무 눈에 띄고 서툰 전략—으로 작동하지 않는다. 질문들을 제도적으로 배분하는 방식으로 작동한다. 내부 설계의 문제에는 예산과 팀과 커리어가 따라온다. 제도적 한계의 문제는 훨씬 위태로운 처지에 놓인다. 기업은 자사 제품의 시장을 제한할 수 있으니 대개 이 질문을 던지지 않는다. 규제 당국은 기술이 이미 배치된 뒤에야 도착하는 경향이 있다. 그리고 수익성과 무관하게 이 질문을 제기할 공간을 아직 지니고 있는 학계는, 역설적이게도 철학자들이 마침내 탈출에 성공한 곳으로 그려진다.

이것이 다른 형태의 평판 세탁과 구별되는 중요한 차이다. greenwashing은 기업이 실제 관행과 맞지 않는 환경적 헌신의 외관을 꾸며낼 때 작동한다. ethics washing은 윤리의 어휘가 권력 분배를 실질적으로 바꾸지 않은 채 정당성을 제공할 때 작동한다. 여기서 우리가 말하는 philowashing은 거짓 외관을 만들어낼 필요가 없기 때문에 알아보기가 더 어려울 수 있다. 진짜 철학에 돈을 대고, 지적으로 가치 있는 성과를 얻고, 심지어 일부 제품을 긍정적으로 바꿀 수도 있다. 그 정당화 효과는 더 근본적인 데서 나온다. 철학적 공간의 일부를 전체의 대표로 만들고, 특정 질문들을 기술에 관한 '중요한' 질문으로 보이게 만드는 것이다.

이 이동은 위조보다는 프레이밍을 통해 일어난다. 철학의 알아볼 수 있는 일부는 보존되지만, 그 질문 중 일부가 정치적으로 불편해질 수 있는 맥락은 사라진다.

그런 의미에서 오늘날의 철학 전유는 앞서 언급한 broicism과 구조를 공유한다. 문제는 경영자들이 마르쿠스 아우렐리우스의 문장 하나하나를 잘못 읽었다는 것이 아니었다. 특정한 선별을 통해 좋은 삶과 타인과의 관계에 관한 철학이, 논의 대상이 되지 않는 환경을 더 잘 견디기 위한 개인용 기술로 바뀌었다는 것이었다. 두 경우 모두 이동은 위조보다는 프레이밍을 통해 일어난다. 철학의 알아볼 수 있는 일부는 보존되지만, 그 질문 중 일부가 정치적으로 불편해질 수 있는 맥락은 사라진다.

주인 없는 질문

이것이 중요한 이유는, 인공지능의 제도적 위치에 관한 결정이 범용 인공지능이 깨어나 우리를 어떻게 할지 결정하는 가상의 미래에 일어나는 게 아니기 때문이다. 그 결정은 지금, 훨씬 덜 극적인 방식으로 일어난다. 공공기관이 안면인식 시스템을 구매할 때마다, 기업이 직원 평가 도구를 도입할 때마다, 병원이 예측 모델을 채택할 때마다, 학교가 위기 학생을 가려내는 알고리즘을 쓸 때마다. 하비에르 팔레로가 421에서 감시 기술의 확산을 분석하며 보여주었듯, 중요한 변화는 종종 입찰 하나하나, 법령 하나하나를 거치며 진행된다. 그 안에 담긴 권력관에 대한 논의를 요구하기에는 너무 사소해 보이는 국지적 결정들을 통해서 말이다.

인공지능에 관한 논쟁도 비슷한 효과를 낳을 위험이 있다. 우리가 거대 모델이 '이해'하는지, 범용 인공지능은 언제 올지, 기계가 의식을 가질 수 있는지를 두고 논쟁하는 동안, 덜 영화적인 수많은 결정이 조용히 권한을 재분배한다. 추천, 위험 점수, 경보, 순위 목록, 자동 분류는 소박한 도구처럼 보일 수 있지만, 각각은 누가 무엇을 정당화해야 하는지, 어떤 결과가 기본값으로 작동하는지, 그리고 거기서 벗어나는 비용을 누가 떠안는지를 정한다.

게다가 위임과 함께 사라지는 것, 효율이나 정확도라는 말만으로는 표현할 수 없는 무언가가 있다. 한 사람에게 영향을 미치는 결정을 다른 사람이 내릴 때는, 적어도 이상적으로는 이유를 제시하고 이유를 요구하는 관행이 존재한다. 그 이유는 나쁘거나 자의적이거나 심지어 거짓일 수도 있지만, 논쟁하고 이의를 제기하고 검토 절차에 부칠 수 있다. 알고리즘 시스템은 결과에 이른 과정을 실제로 기술하지 않는 그럴듯한 설명을 생산함으로써 그 관행의 외관만 보존할 수 있다. 그러면 겉치레 설명은 정당화의 형식은 유지하면서 그 기능은 약화시킨다. 명목뿐인 인간 감독이, 감독한다는 사람에게서 권한을 비워낸 채로 통제의 형식만 유지하는 것과 마찬가지다.

그래서 루프 안에 항상 인간이 있어야 한다고 요구하는 것만으로는 부족하다. 어떤 인간이, 어떤 루프 안에서, 정확히 무엇을 하는지 물어야 한다. 시스템이 설명 가능해야 한다고 요구하는 것만으로도 부족하다. 설명은 결정을 낳은 것을 이해하고, 논쟁하고, 궁극적으로 바꿀 수 있게 해줄 때에만 정치적으로 의미가 있기 때문이다. 우리가 자율성, 책임, 통제와 결부시키는 제도적 형식을 보존하기는 비교적 쉽다. 그 형식이 수행해야 할 기능을 보존하려면 기술이 만들어내는 구체적인 권력 분배를 들여다봐야 한다.

그렇다면 철학자는 어디에 쓸모가 있는가?

결국 처음의 질문으로 돌아가야 할지도 모른다. 인공지능에는 실제로 철학이 필요하다. 하지만 그렇다고 철학자를 들이는 모든 방식이 동등하다는 뜻은 아니며, 윤리 부서가 있다는 사실이 그 조직이 자신의 결정을 철학적 검토에 부칠 의지가 있다는 증거가 되는 것도 아니다. 한 기관이 뛰어난 철학자들을 거느리면서도, 동시에 자기 활동의 가장 중요한 전제 몇 가지는 논의 대상에서 빼놓을 수 있다.

그러므로 우리가 보기에 가장 시급한 철학적 과제는 기술 기업을 떠나는 것도, 그 안에서 일하는 사람들을 자동으로 의심하는 것도 아니다. 우리에게는 이 시스템들이 어떻게 행동해야 하는지를 내부에서 논의할 수 있는 사람들이 필요하다. 마찬가지로, 어떤 기업도 스스로 나서서 던질 만한 유인이 충분하지 않은 질문을 제기할 수 있는 독립 연구자, 규제 당국, 시민사회 단체도 필요하다. 문제는 첫 번째 종류의 성찰이 존재한다는 것을 두 번째 종류의 성찰이 있는 것으로 착각할 때 생긴다.

인공지능에는 실제로 철학이 필요하다. 하지만 그렇다고 철학자를 들이는 모든 방식이 동등하다는 뜻은 아니다.

기술 변화를 사유하는 철학은 또한, 인공지능의 거대한 딜레마에 대한 매혹이 밀어낸 어떤 소명을 되찾아야 한다. 기계가 생각하고 이해하고 의식을 가질 수 있는가 하는 질문은 철학적으로 매력적이지만, 그 때문에 다른 질문들을 묻지 못해서는 안 된다. 그 기계가 돌아가는 데이터는 누가 생산하는지, 자동화 뒤에 어떤 인간 노동이 숨어 있는지, 어떤 자원을 소비하는지, 어떤 기관이 시스템을 구매하는지, 어떤 공급업체가 의존 관계의 우위를 차지하는지, 영향을 받는 사람들이 그 결과에 이의를 제기할 실질적 가능성이 얼마나 되는지. 요컨대 하나의 기술이 존재론적·인식론적·윤리적·정치적 문제를 동시에 제기할 수 있으며, 기업들이 그 각각의 분석에 돈을 댈 이유는 저마다 크게 다르다는 사실을 기억하자는 것이다. 물질적 비판을 되살리고 철학적 성찰을 재정치화해야 한다는 이 필요성 역시 원래 제안의 일부였다.

실리콘밸리는 마침내 철학자가 어디에 쓸모 있는지 알아냈는지도 모른다. 우리가 던져야 할 질문은 조금 다르다. 철학은 왜 그곳에서 일하고 싶어 하는가. 전제를 캐묻는 꽤나 불편한 습관이 역사를 관통해온 학문이라면, 테이블에 자리 하나 얻었다는 것에 너무 빨리 만족해서는 안 되기 때문이다. 때로 가장 중요한 철학적 과제는 바로, 그 테이블에서 무엇을 논의할 수 있는지를 누가 정했느냐고 묻는 일이다.