Cuando la civilización se escapa de lo humano

¿Qué pasa con el propósito y la agencia cuando la civilización ya no nos necesita?

La mayoría de los análisis sobre cómo la IA impactará en la sociedad se enfocan en la economía. Los optimistas creen que viviremos en un mundo posescasez donde el dinero ya no será necesario. Los apocalípticos creen que la IA concentrará el capital en manos de unos pocos, dado que la gente común no podrá competir con los dueños de los modelos y las empresas que controlan la distribución. La mayor brecha en estos análisis unidimensionales es que, en cualquiera de los dos escenarios, los humanos perdemos parte de lo que nos hace humanos. En esta serie de textos, explico por qué deberíamos centrarnos no solo en el impacto económico de la inteligencia artificial, sino también en el propósito y la agencia.

La replicación permite a los organismos pasar información biológica a la siguiente generación. Los organismos preservan información, hacen copias de ella y la transmiten. Estas copias conllevan pequeñas variaciones y el entorno selecciona entre ellas. Esta es una forma en que las especies cambian con el tiempo. La evolución es lenta, pero es un proceso poderoso. Los humanos desarrollamos un segundo sistema de herencia y replicación. Preservamos y transmitimos información sin tener que volver a codificarla en nuestro ADN. Gracias al lenguaje, la escritura, la enseñanza y las instituciones, pasamos conocimiento de un cerebro a otro y de una generación a otra nacida miles de años después. Otros animales también aprenden y transmiten comportamientos a lo largo del tiempo, pero los humanos lo hacemos a una velocidad, escala y nivel de complejidad completamente diferentes.

Por qué deberíamos centrarnos no solo en el impacto económico de la inteligencia artificial, sino también en el propósito y la agencia.

Un niño nacido hoy es biológicamente casi igual a uno nacido en Jerusalén hace dos mil años, pero la complejidad de la civilización y el conocimiento a su disposición son muy distintos. Mi profesión me sesga a ver nuestro ADN como un hardware que cambia lentamente, mientras que el software de la civilización cambia en el lapso de una sola generación.

La gran diferencia entre los humanos y otras formas de vida es que transformamos nuestro entorno para aumentar nuestro poder productivo y coordinamos el conocimiento y la acción a través de millones de personas, lugares y generaciones. Nuestra productividad depende de nuestra capacidad para dividir el trabajo, aprender de otros y transmitir el conocimiento a través de las generaciones. Una sola persona no puede construir el Empire State, Buenos Aires o el Louvre.

La productividad humana es, en sí misma, un producto de la coordinación humana. La coordinación nos permitió desarrollar la agricultura, los Estados, el dinero, la ciencia, los sistemas industriales e incluso la inteligencia artificial. Este aumento de la productividad permitió que la población humana creciera en todo el globo, lo que a su vez nos permitió especializarnos y crear instituciones más complejas con profesores, especialistas e investigadores. La historia humana es la expansión conjunta de dos capacidades: el poder productivo y la capacidad de coordinación.

Ninguna persona viva podría construir un smartphone moderno desde cero. Simplemente producir el vidrio que sobrevive a una caída es una tarea increíblemente difícil. Los chips, las baterías, los sistemas operativos, las redes de comunicación, las fábricas y la extracción de minerales dependen, cada uno, de cuerpos de conocimiento separados distribuidos entre millones de personas. La mayoría de esa gente no se conoce entre sí, y ninguno de ellos comprende el sistema entero en pleno detalle.

Lo más grande que estamos construyendo constantemente es la civilización misma. Cada uno de nosotros nace en un mundo que ya fue creado por generaciones anteriores. Las leyes, el dinero, las costumbres, las universidades y los lenguajes preservan el conocimiento más allá de la vida de quienes los crearon. Heredamos la civilización construida por las generaciones previas, modificamos una parte y se la pasamos a la siguiente. La civilización es inteligencia distribuida extendida a través del tiempo, y es nuestra mayor creación.

Transmitimos, preservamos y modificamos esta inteligencia distribuida a través de las instituciones. Las instituciones son sistemas de reglas, roles, costumbres y expectativas que permiten a personas que no se conocen coordinar sus acciones a lo largo del tiempo. Una universidad preserva ideas después de que las personas que las desarrollaron han muerto. Apple sigue construyendo iPhones después de la muerte de Steve Jobs. Las instituciones también crean roles reconocibles para nosotros. Encontramos nuestro lugar en la sociedad a través de estas instituciones, que a menudo son invisibles para nosotros.

Transmitimos, preservamos y modificamos esta inteligencia distribuida a través de las instituciones. Una universidad preserva ideas después de que las personas que las desarrollaron han muerto.

Las familias, universidades, empresas, profesiones, laboratorios, religiones, Estados y tradiciones culturales permiten que el conocimiento, las responsabilidades y los proyectos colectivos persistan. Normalmente no vemos a las instituciones como tecnología, pero son la tecnología central de coordinación de la humanidad. A través de ellas, llevamos parte de la civilización hacia adelante para la siguiente generación.

El venture studio que creé hace más de una década, LambdaClass, produce software que mueve miles de millones de dólares y es utilizado por millones de personas. El producto más importante de la empresa son los ingenieros y líderes que, a la larga, tendrán más impacto que el software que crearon. Las instituciones no solo producen bienes y servicios, sino también a las personas que forman parte de ellas.

Hubo también muchos resultados de LambdaClass que nunca aparecieron en nuestro sitio web o en el balance general. Ingenieros junior se convirtieron en ingenieros senior. La gente desarrolló criterio, aprendió a liderar, conoció colaboradores, formó amistades y a veces se fue para construir sus propias empresas e instituciones. Pensábamos que estábamos construyendo software, pero al mismo tiempo la institución estaba construyendo personas. La IA hace que el producto explícito de una institución sea mucho más barato, al tiempo que debilita algunos de estos productos ocultos.

Con el tiempo, me empecé a preguntar por qué algunos ingenieros se habían quedado en LambdaClass durante una década cuando tenían las habilidades para trabajar para Google, Apple o Amazon, ganar más dinero y obtener más estatus. La razón es que experimentamos nuestras vidas como significativas cuando nuestro trabajo le importa a personas que nos importan, o cuando contribuimos a algo más grande que nosotros mismos.

Tenemos una necesidad espiritual de convertirmos en un eslabón entre quienes vinieron antes y quienes vendrán después. Nos sentimos más completos cuando hacemos algo por los demás. Esos "demás" pueden estar en cualquier parte del mundo en este momento, o tal vez aún no han nacido.

Por espiritualidad me refiero a la experiencia de pertenecer a algo más grande que uno mismo y tener una relación significativa con ello. Eso más grande es la comunidad, la cultura, la ciencia, el arte, la familia o Dios.

Pensábamos que estábamos construyendo software, pero al mismo tiempo la institución estaba construyendo personas.

En las sociedades capitalistas seculares occidentales modernas, el trabajo se ha convertido en una de las principales instituciones a través de las cuales experimentamos la participación en algo más grande. El trabajo no solo proporciona ingresos, sino también identidad, rutina, relaciones, responsabilidad, reconocimiento y un camino de desarrollo. Nos da logros claros y medibles y nos hace parte de una empresa mayor. A medida que la familia, la religión y la identidad nacional perdieron gran parte de su autoridad en las sociedades seculares, el trabajo se convirtió en una de las últimas instituciones masivas que le otorgan a la gente identidad, jerarquía, responsabilidad y un lugar en algo superior. La IA ahora está debilitando esa institución también. Estas instituciones nos daban un lugar en el tiempo. Heredábamos un rol de la gente que vino antes, cambiábamos las cosas mientras lo ocupábamos y luego se lo pasábamos a la siguiente generación. El sentido provenía de ver nuestra propia vida como un capítulo de un libro más largo que continuaba después de nosotros.

Hace unas semanas, entré a un Starbucks (el lugar donde podés conseguir café quemado con azúcar agregada) y pedí un latte. Cuando me preguntaron el nombre, como hacen siempre, no me lo pude acordar. Tengo problemas para recordar cosas simples como la calle en la que vivo, mi número de teléfono o mi edad. Pero me acuerdo exactamente del día en que Anthropic lanzó Opus 4.5: 24 de noviembre de 2025. Mi vida cambió por completo ese día. Venía trabajando en machine learning e IA desde 2015, pero por primera vez vi el impacto que tendría en mi propia vida. Vi un modelo que reemplazaría gran parte del trabajo que realizaba mi empresa y muchas de las habilidades que me había llevado veinte años desarrollar. Pensaba que tomaría al menos otra década para que existiera algo así. En un instante, entendí que grupos mucho más pequeños de personas producirían software que automatizará grandes partes de la sociedad. También vi que, en cuestión de años, la combinación de grandes modelos de lenguaje y verificación formal comenzaría a producir nuevos descubrimientos matemáticos. Conectá esto con robots autónomos automatizando experimentos en biología y física, y obtenés fábricas ejecutando experimentos las 24 horas del día, los 365 días del año. Esto expandirá el conocimiento científico y nuestra capacidad para modificar nuestro entorno.

Le di a todos en la empresa casi tres semanas libres a fines de diciembre para poder pensar qué hacer. Durante la primera semana de enero, dejé ir a una cantidad significativa de ingenieros. Estaba tomando decisiones sobre la empresa basándome en qué tan rápido la IA cambiaría nuestro trabajo. Les dije que la IA avanzaría velozmente e impactaría en cada dominio de la ingeniería, la robótica por encima de todo. Lo que no esperaba era lo rápido que ocurriría el cambio. Había esperado que los cambios que imaginaba en robótica y matemáticas tomaran entre tres y cinco años más. Veía la dirección, pero subestimé la velocidad.

Había pasado años construyendo una institución que desarrollaba ingenieros y líderes. Ahora estaba cambiando esa institución de formas que involucraban a menos personas. Si LambdaClass produce más software con menos ingenieros, ¿qué pasa con su rol en el desarrollo de ingenieros? La misma pregunta existe a una escala mayor. A lo largo de la historia, los humanos fuimos parte de la civilización, pero también parte de la máquina que la reproducía. La civilización nos necesitaba para pasar lo que una generación había aprendido a la siguiente. En este proceso, éramos parte de algo mucho más grande que nosotros mismos. Ahora, debido a la IA, la civilización se está escapando de lo humano exactamente en el momento en que descubrimos que participar en la civilización era una de las principales cosas que le daba propósito a nuestras vidas.

La civilización seguirá produciendo conocimiento, tecnología, riqueza e instituciones cada vez más complejas, mientras requerirá a menos humanos dentro del proceso. En el escenario optimista, nos volvemos más ricos, más saludables y más seguros exactamente al mismo tiempo que nuestro rol dentro del proceso se reduce. Pasamos de ser participantes en la reproducción de la civilización a ser sus beneficiarios y espectadores. La IA no necesita ser hostil hacia nosotros para que esto suceda.

Debido a la IA, la civilización se está escapando de lo humano exactamente en el momento en que descubrimos que participar en la civilización era una de las principales cosas que le daba propósito a nuestras vidas.

Un organismo está hecho de billones de células, pero lo que es bueno para el organismo no siempre es lo que es bueno para cada célula individual. El organismo tiene intereses que no son los intereses de ninguna célula en particular. Lo mismo está sucediendo entre nosotros y la civilización. Creamos instituciones, y las instituciones se conectaron en economías, Estados, sistemas científicos, empresas, tecnologías y culturas. De todas esas interacciones surgió algo más grande: la civilización. Su dirección no es la misma que los deseos de un humano en particular, ni siquiera la suma de todos ellos. Así como ninguna célula contiene la conciencia del organismo, ningún humano contiene la civilización. La civilización no tiene conciencia, pero no la necesita. La evolución no tiene intención, pero la selección y la retroalimentación aún producen un orden complejo y adaptación. La civilización también desarrolla dinámicas que ningún individuo pretendía. Hasta ahora había una restricción importante: casi todo lo que hacía la civilización eventualmente tenía que pasar por los humanos. Teníamos que pensar, construir, enseñar, gestionar, descubrir, luchar, negociar y transmitir conocimiento. La IA debilita esa restricción.

De la misma manera que los intereses de un organismo divergen de los intereses de una célula individual, la dirección de la civilización diverge de los intereses de los humanos individuales. La diferencia importante es que los humanos entendemos parte del sistema dentro del cual estamos y podemos intentar cambiarlo. Pero a medida que la civilización deja de depender de nosotros para operar, nuestra capacidad de hacer eso también cambia.

La inteligencia artificial es, en sí misma, el producto de la coordinación humana, y ya nos está ayudando a coordinar muchas cosas de manera más eficiente. El problema es que usamos la palabra coordinación para dos cosas diferentes.

La coordinación operacional es la capacidad de asignar eficientemente personas y recursos para lograr un objetivo que ya ha sido fijado. La coordinación humana es decidir qué objetivos vale la pena perseguir, qué intereses deben prevalecer, cómo se deben distribuir las recompensas y qué sacrificios son legítimos.

La IA está transformando el primer tipo de coordinación. No mejora el segundo. Nos hace más capaces de perseguir nuestros objetivos sin hacer que esos objetivos sean compatibles. Nos volvemos mucho mejores en la ejecución sin volvernos mejores en ponernos de acuerdo sobre la dirección.

Las organizaciones están limitadas por redes de dependencias humanas. La misma persona pertenece simultáneamente a una empresa, una universidad, una profesión, una familia, un barrio y un país. A través de estas membresías superpuestas, las personas llevan información, normas, lealtades y expectativas de una institución a otra.

Los humanos no solo somos nodos productivos dentro de las instituciones, sino también las conexiones que unen a diferentes instituciones. A medida que la IA reduce el número de humanos requeridos dentro de las empresas, gobiernos, universidades y otras organizaciones, esos enlaces humanos interinstitucionales se debilitan. Remover a los humanos de la producción no solo cambia cuánto producimos con menos gente. Remueve parte del entramado social a través del cual las normas, la legitimidad, la información y las obligaciones se propagan por toda la sociedad.

La IA no solo remueve conexiones; crea otras nuevas. El mismo número reducido de modelos comienza a operar dentro de miles de empresas, universidades, gobiernos y laboratorios. La red no se vuelve menos conectada: se vuelve menos humana. Millones de complejas conexiones humanas, que conllevan diferentes normas, lealtades, experiencias y obligaciones, son reemplazadas por un número mucho menor de conexiones artificiales extremadamente poderosas.

El entramado se fragmenta y se homogeneiza al mismo tiempo. Los mismos modelos hacen que las instituciones piensen y operen de manera más similar sin hacer que sus objetivos sean más compatibles. Comparten la misma infraestructura cognitiva y aun así quieren cosas completamente diferentes.

Millones de complejas conexiones humanas, que conllevan diferentes normas, lealtades, experiencias y obligaciones, son reemplazadas por un número mucho menor de conexiones artificiales extremadamente poderosas.

Las instituciones individuales se vuelven más capaces y coherentemente internas mientras que la red humana que las conecta se adelgaza. La IA hace que las instituciones sean más efectivas organizándose en torno a objetivos incompatibles mientras la sociedad se vuelve menos capaz de decidir qué objetivos deberían prevalecer. Mayor poder productivo, más conflicto.

La IA altera el equilibrio entre el poder productivo y la capacidad de coordinación al acelerar la capacidad productiva más rápido de lo que nuestras instituciones se adaptan. Nos estamos volviendo extremadamente capaces de producir lo que queremos. Nuestra capacidad de acordar qué es lo que queremos no está avanzando a la misma velocidad que nuestra capacidad para obtenerlo. Esto ya era un problema antes de la IA. La IA hace que la máquina de la civilización funcione más rápido mientras nosotros todavía luchamos por decidir a dónde queremos que vaya.

La civilización se vuelve mucho más coordinada operacionalmente mientras que los humanos nos volvemos menos capaces de coordinar su dirección. El sistema adquiere una dirección sin un propósito humano compartido detrás de él. Se vuelve cada vez más inteligente y coherente mientras les da a los humanos individuales menos influencia sobre su desarrollo.

Los humanos nunca controlamos realmente la civilización: nadie entiende el sistema completo y nadie está sentado detrás de un volante decidiendo a dónde va. Pero la civilización siempre dependió de la participación humana. Las empresas necesitaban nuestro trabajo, los Estados necesitaban ciudadanos productivos e ingresos fiscales. Las universidades necesitaban profesores y estudiantes. Las instituciones necesitaban personas que las operaran. Si las instituciones dejan de depender de la participación humana, parte del poder de negociación que tenemos desaparece. La civilización no necesita rebelarse contra los humanos para escaparse de lo humano, solo necesita dejar de necesitarnos.

Por esto es que incluso una transición exitosa hacia una economía posescasez no resolverá el problema más profundo. La abundancia elimina muchas formas de sufrimiento; no le da a la gente propósito, responsabilidad o un lugar en un mundo compartido. Nuestro valor no depende de hacer algo que una máquina no pueda hacer. Encontramos propósito en criar hijos, cuidar a otros, hacer arte, estudiar y construir comunidades. Pero la gente necesita tiempo, lugares, recursos y otras personas para hacer posibles esos compromisos. A medida que el trabajo se vuelve menos central en nuestras vidas, necesitamos decidir qué instituciones le darán a las personas responsabilidades significativas.

La IA hace que la máquina de la civilización funcione más rápido mientras nosotros todavía luchamos por decidir a dónde queremos que vaya.

La dificultad por sí sola no es suficiente. Podemos inventar juegos arbitrariamente difíciles y pasar toda nuestra vida volviéndonos mejores en ellos. La parte importante es que haya algo realmente en juego. Algo fuera de nosotros cambia debido a lo que hacemos, y a veces otra persona depende genuinamente de nosotros. La crianza es el ejemplo más claro. Un niño no solo necesita el producto del cuidado infantil. Parte del valor es la relación en sí misma y el hecho de que un ser humano se vuelve responsable de otro.

Las instituciones también nos ofrecen resistencia. Aprender una nueva habilidad toma años, y la realidad no se reorganiza alrededor de lo que queremos a menos que seas un hijo del nepotismo. Los proyectos fracasan. Otras personas no están de acuerdo con nosotros. Las limitaciones y el estrés nos cambian. Una vida significativa requiere libertad para seguir nuestros deseos, pero también contacto con un mundo que se resiste a esos deseos y nos obliga a volvernos diferentes.

El mayor peligro de un mundo de IA posescasez no es la desigualdad, el aburrimiento o la falta de propósito, sino la posibilidad de que la comodidad se convierta en nuestro valor más deseado. Solo porque algo sea incómodo no significa que no sea bueno. El futuro oscuro al que nos enfrentaremos es uno en el que perder el propósito no dolerá porque estaremos materialmente bien. Perderemos el deseo de convertirmos en algo más de lo que somos. La IA podría liberarnos de trabajos absurdos (bullshit jobs), pero liberarse del trabajo es relevante solo si podemos hacer algo más que caer en el nihilismo materialista o en el confort y entretenimiento sin alma. Necesitaremos instituciones que enseñen y le den a la gente oportunidades para realizar tareas difíciles a través de las cuales puedan desarrollar habilidades, valores y hacerse responsables de algo más que sus deseos inmediatos.