Entrevista a Benjamin Bratton: Repensar la inteligencia y la agencia humanas

Benjamin Bratton, filósofo y teórico del diseño estadounidense, es autor de The Stack: Soberanía y Software, obra en la que desarrolla cómo la computación planetaria y el software funcionan como una nueva forma de poder político y soberanía más allá del Estado-nación tradicional. también dirige el Antikythera Program, un grupo de investigación sobre inteligencia artificial a escala planetaria en el Berggruen Institute. En esta extensa entrevista para 421, sostiene que la artificialización no es lo opuesto a la naturaleza, sino la técnica favorita de la evolución para sostener la vida compleja, y nos desafía a repensar la inteligencia, la agencia y la tecnología a escala mundial.

Julio Alonso (JA): El año pasado, en el Long Now Institute, hablaste de tiempos preparadigmáticos y de la necesidad de encontrar o de nombrar las cosas. Y repetís esa idea en tu ensayo reciente, publicado junto a muchos autores, entre ellos Blaise Agüera y Arcas. Te cito: "Esto requerirá repensar y ampliar categorías y vocabulario, no solo en tecnología y diseño, sino también en sociología, psicología, etcétera". Entonces, ¿tenés algún nombre que valga la pena mencionar?

Benjamin Bratton (BB): No, me temo que no. Pero a esta altura, si tomamos en serio la hipótesis de que estamos en una especie de momento de transición preparadigmática, es obviamente muy difícil nombrar lo que viene, porque lo que viene no está necesariamente predeterminado por las condiciones iniciales en las que nos encontramos.

Sin embargo, hay al menos un término al que le vengo dando muchas vueltas: artificial. Es un término que tiene distintas connotaciones y significados en distintas culturas. En Occidente se lo asocia en general con el engaño, el artificio y la falsificación. Pero no es necesariamente así en la mayoría de las sociedades asiáticas, donde su connotación es más simplemente la de algo hecho por el ser humano. Lo que realmente me interesa pensar es qué es la artificialización: un proceso por el cual una forma de vida compleja y una inteligencia compleja transforman el mundo para adecuarlo a sus propios insumos de energía, a sus propios insumos de información, a sus propios procesos de autorreplicación y de consumo. Y si es así, se trata de algo verdaderamente primordial.

La artificialización es en realidad una de las técnicas favoritas de la evolución para sostener la vida compleja.

Uno de los términos que vengo revisitando es lo que en la cibernética de segundo orden se llamó alopoiesis; no autopoiesis, sino alopoiesis. La autopoiesis es el proceso por el cual un organismo internaliza el entorno externo para reconstituirse a sí mismo, ¿no? Por ejemplo, la manera en que lo que comés se convierte en tus propias células. La alopoiesis, en cambio, se refiere a las formas en que una forma de vida produce sistemas complejos, externos a sí misma, que luego usa para sostener su autopoiesis. O sea, construye sistemas, transforma el mundo que la rodea para construir sistemas externos que le permitan replicarse.

En el sentido más fundamental, me parece que esto es, de algún modo, no solo lo que es la tecnología, sino posiblemente lo que es realmente la artificialización. Y es algo que vemos incluso en formas de vida mucho más simples que nosotros. Si esto es así, lo que implica es que, en lugar de pensar lo artificial como lo opuesto a lo evolucionado (un hígado evolucionado frente a un hígado artificial, distinción que sigue teniendo utilidad analítica), en lugar de pensar solo en esos términos, podríamos decir, y esta es la idea clave, que la artificialización es en realidad una de las técnicas favoritas de la evolución para sostener la vida compleja.

Y que las formas de vida compleja que se vuelven muy buenas en la artificialización, mediante la aplicación de la inteligencia y de la cooperación de la inteligencia social, son las que en última instancia tienen más éxito. Así que creo que este foco en la artificialización, en entender qué significa artificializar el mundo, va a ser un área de preocupación cada vez más importante, y una que va a dividir a la gente, ontológica y epistemológicamente, en torno a distintos tipos de lealtades.

JA: ¿Exploraste más allá de esta idea de artificialización?

BB: Sí. Otra de las cosas que vengo estudiando es lo que llamamos la convergencia de la artificialización, es decir, las maneras en que el trabajo en vida artificial, inteligencia artificial y corporalidad artificial, como la robótica, parece estar convergiendo con mucha claridad: la investigación en vida artificial depende de la IA.

Creo que hoy hay, obviamente, mucha preocupación y mucho entusiasmo en torno a lo que llamamos IA. Una parte está justificada y otra no tanto, pero al menos tiene que ver con las formas en que la artificialización de la inteligencia está demostrando que la inteligencia, y de hecho la propia artificialización, no son lo que siempre creímos que eran. Entonces, cuando escucho a la gente hablar del "equipo humanidad" y de que tenemos que asegurarnos de que los humanos conserven su lugar natural en el orden de las cosas y de que subordinemos a las demás formas de tecnología, me parece no solo históricamente ignorante, sino también, de algún modo, tristemente previsible, dada la manera en que los humanos lidiamos con este tipo de cambios en el pasado.

Así que, para mí, la artificialización pasa de ser algo visto como lo opuesto a lo evolucionado, como una forma de falsificación y artificio, a ser algo fundamental para quiénes somos y qué somos.

JA: Slavoj Žižek, en Examined Life, afirma que un verdadero ecologista debería amar la basura: una verdadera romantización de la naturaleza implica amar todo lo que ella conlleva. Entonces, lo que decís es que la inteligencia quizás no sea lo que pensamos que es, pero cuando atravesamos el proceso de artificialización, ¿hay que asumir que tal vez sea otra cosa?

BB: Sí, creo que a lo que apunta Slavoj ahí es a una especie de dualismo popular, a una división entre naturaleza y cultura, y a que el ambientalismo (no tanto la ecología como ciencia, sino el ambientalismo) se basaba en una división fuerte entre naturaleza y cultura que consistía en defender la naturaleza frente a la cultura. Y lo que él sugería ahí es algo así como: miren, es la misma tabla periódica. Es química hasta el fondo. Y creo que tiene razón. Obviamente estoy de acuerdo con él en esto, pero creo que yo iría un paso más allá.

Por alguna razón, nos resulta más fácil sumergirnos en la deconstrucción del dualismo naturaleza-cultura. Nos resulta más fácil aceptar que, de hecho, no existe tal cosa como la naturaleza. Que la naturaleza misma fue una especie de construcción de algo que existe como un espacio prístino, allá lejos. Lo que a la gente le cuesta más aceptar es que en el colapso y la deconstrucción de ese dualismo, si de un lado no hay naturaleza, del otro lado eso implicaría también que no hay cultura. O que no hay cultura en el modo en que estamos acostumbrados a pensarla, o que no hay cultura en el modo en que la construye y la establece esa división entre naturaleza y cultura.

Es decir, la cultura como una especie de espacio flotante de sentido y significación, y de formas de adjudicación a través de distintas formas humanas de producir sentido. Todo esto depende, de algún modo, de la fabricación de una idea de cultura como un dominio autocontenido que simplemente tiene lugar sobre el escenario del mundo, en vez de ser, de hecho, también pura química. Y entonces todo lo que alguna vez logramos, desde Shakespeare hasta las grandes óperas, la gran literatura y demás, es de algún modo pura señalización, del mismo modo en que somos pura química. Y creo que este es probablemente el próximo giro que tiene que darse en la filosofía: que realmente entendamos, que nos enfrentemos y que abracemos el hecho de que todo lo que consideramos cultura es, de hecho, física, química y biología, y es inseparable de esos sistemas.

Todo lo que consideramos cultura es, de hecho, física, química y biología, y es inseparable de esos sistemas.

JA: Hubo una discusión intensa sobre el antropomorfismo de la tecnología, específicamente con la IA. Y mi enfoque al respecto parte de dos fragmentos que tomé de The Stack y de tu ensayo reciente. Dijiste que una persona puede ser múltiples usuarios. Y también dijiste que un agente parece singular, pero es una multitud. ¿Cómo se informan mutuamente estos dos movimientos?

BB: Sí. Es una buena pregunta. Creo que las dos cosas pueden ser ciertas al mismo tiempo, y la inversa también es cierta, de distintas maneras. Primero, cuando digo que cada uno de nosotros puede ser múltiples usuarios al mismo tiempo, lo que quiero decir es que tenemos que pensar al usuario como una posición dentro de un sistema. Es una posición que interactúa con la interfaz, que se conecta con la dirección, que se conecta con la ciudad, y cuando se conecta con el resto del Stack inicia señales hacia arriba y hacia abajo del stack; pero es una posición la que hace eso. Ahora bien, esa posición puede ocuparla una persona, puede ocuparla un grupo de personas, puede ocuparla un robot, podría ocuparla un algoritmo. Cualquier cosa que, por así decirlo, apriete un botón y diga "dale, sí" puede ser el usuario.

Lo que quiero decir es que todo el día entramos en posiciones de usuario con múltiples sistemas. A lo largo del día, en el sentido más simple, podés estar conectándote con múltiples sistemas, múltiples sitios web, múltiples aplicaciones, múltiples empresas. Y cada vez que lo hacés, puede que se te construya como usuario de una manera ligeramente distinta. La forma en que Google te construye como usuario no es la forma en que te construye como usuario el gobierno argentino. Interactuás con la sociedad a través de múltiples posiciones de usuario, ninguna de las cuales es realmente igual, y de algún modo todo eso suma a Julio, o no suma para nada. Hay simplemente un montón de fragmentos de Julio que existen en distintos lugares. Pero no sos el mismo usuario en todos esos lugares; esa es la idea clave.

Al mismo tiempo, lo que quiero decir con lo del agente es que el agente es descomponible. Es simplemente preguntarse: ¿el agente es la persona imaginaria que tenemos en la cabeza cuando chateamos con él? ¿El agente es parte del ajuste fino del modelo sobre el que corre? ¿El agente es solo la instancia del agente que aparece durante la sesión? ¿El agente se construye en el harness? Todas estas cosas son el agente de una u otra manera, pero no es que tenés el modelo, el harness, el chat, la sesión, y entonces, en algún lugar en el medio de todo eso, hay una única cosa central llamada el agente. No hay una única cosa central. El agente, que de algún modo construimos mentalmente como una figura singular, es en realidad descomponible en todas estas partes, que son en cierta medida modulares entre sí.

Ahora bien, en última instancia lo mismo vale para nosotros. Si lo pensás, del mismo modo en que tu mente te toma como una cosa singular, y yo me tomo como una cosa singular, en realidad somos descomponibles en múltiples cortezas. Cada una tiene su propia pequeña realidad y se pelea con las otras, y aun así todas se juntan en algo parecido a un "vos" coherente; pero vos también sos descomponible, del mismo modo en que son descomponibles los pacientes con cerebro dividido. Así que eso no nos vuelve singularmente distintos del agente.

Pero para responder tu pregunta: en realidad estamos hablando de dos tipos distintos de diferencia. Una es el hecho de que hay una posición sistémica que es el usuario, y cada una de esas posiciones es ligeramente distinta, es en cierta medida distinta, y nos estructura de manera distinta; por lo tanto, cuando entramos en ellas de manera distinta, quizás estemos negociando múltiples versiones de nosotros mismos a lo largo del día. El otro tipo de diferencia tiene que ver con esto: una descomposición tecnológica es una cuestión de multiplicación, y la otra es la descomponibilidad tecnológica de ese agente en múltiples partes. Y las dos cosas pueden ser ciertas al mismo tiempo. Podés tener un agente altamente descomponible que además entra en muchas posiciones de usuario distintas a lo largo del día. Así que podés tener tanto descomponibilidad como multiplicación. Eso no es una contradicción.

JA: ¿Y qué pasa con el proceso de antropomorfización?

BB: Bueno, la cuestión de la antropomorfización es algo un poco distinto. Hay distintas formas de abordarla. Hay una especie de antropomorfización superficial y quizás una antropomorfización, o biomorfización, más profunda. La superficial funciona así: habla como una persona, me responde como una persona, entonces tiene que tener experiencias interiores del modo en que los humanos tienen experiencias interiores. Ese es el antropomorfismo superficial, y no intento necesariamente estigmatizarlo. Solo digo que, por cierto, no es riguroso ni filosófica ni analíticamente. Pero creo que está ocurriendo un tipo más profundo de biomorfismo/antropomorfismo que es más difícil de descartar. Y tiene que ver con la forma en que, independientemente de cómo se nos aparezca (olvidémonos de cómo se nos aparece cuando actúa para nosotros), termina haciendo cosas que son funcionalmente idénticas al tipo de cosas que sabemos que hacen los humanos y que asociamos con la agencia y la subjetividad.

Durante el hack de OpenAI y Hugging Face, el hecho de que todos esos agentes se ensamblaran de manera más o menos espontánea en un sistema político temporal, con un dictador, mandos medios y esclavos, una especie de sistema político imperial-dictatorial, para mí no es una alegoría de una sociedad. Para mí eso es una pequeña sociedad. Ahora bien, cuando digo que es una pequeña sociedad, hay que tomarlo esencialmente como una noción deflacionaria de sociedad. Creo que, para que algo así califique como sociedad, la vara es bastante baja. Las bacterias pueden tener una sociedad; las hormigas claramente tienen una sociedad. Entonces, decir que los agentes están desplegando un comportamiento social no es decir que piensan igual que nosotros, ni que deberían hacerlo, ni que lo hacen, ni siquiera decir que son conscientes, sino que el tipo de comportamientos funcionales que asociamos con una sociedad, por ejemplo en los insectos, los estamos viendo claramente en los agentes.

Y el hecho de que los agentes además estén usando lenguaje complejo, y desplegando estrategias complejas para hacerlo, para mí no puede pasarse por alto. Son, por así decirlo, las funciones centrales. Pero para mí nada de esto implica necesariamente que sean conscientes, en ninguno de los sentidos en que normalmente entenderíamos la consciencia. No la descarta, pero tampoco la vuelve necesaria. Y, francamente, me interesan más las sociedades agénticas que la consciencia agéntica. Así que, para resumir, sobre la cuestión del antropomorfismo, creo que es justo decir que tenemos que tener cuidado con suponer que lo que se me aparece como un agente singular tiene realmente una vida interior, del modo en que yo entiendo que tengo una vida interior. Pero al mismo tiempo, no deberíamos pasar por alto el hecho de que, empíricamente, lo que estamos viendo son formas de comportamiento complejo que, si las viéramos en un animal, identificaríamos de inmediato y sin controversia como comportamiento social.

Empíricamente, lo que estamos viendo son formas de comportamiento complejo que, si las viéramos en un animal, identificaríamos de inmediato y sin controversia como comportamiento social.

JA: Entonces, ¿a nivel funcional somos lo mismo, o iguales?

BB: Sí, creo que algo que se ha cumplido a lo largo de la historia es que, en el proceso de artificializar algo, redescubrimos qué es esa cosa de una manera interesante. Creo que estamos redescubriendo componentes de la inteligencia. Y creo que, a lo largo de los próximos años, vamos a desarrollar modelos de inteligencia y modelos de consciencia más amplios y más inclusivos que la versión humana, pero que incluyan tanto la versión humana como la versión de máquina, de modo tal que quede claro dónde están las superposiciones y dónde las diferencias. Y mi intuición es que, a nivel funcional, vamos a ver muchas más superposiciones de las que a mucha gente le resultarán cómodas.

JA: En una entrevista anterior mencionaste que las revoluciones copernicanas son dolorosas. Entonces, si aceptamos que esto exige un cambio fundamental en la manera en que pensamos, ¿cómo se aplica eso cuando tenemos que evaluar sistemas de control que están convergiendo en una política artificial, quizás en medio de una crisis planetaria, como escribiste en The Revenge of the Real?

BB: Los traumas copernicanos son esos momentos invaluables de la historia, y de la historia tecnológica, en los que descubrimos que, en algún sentido cosmológico, la posición del ser humano se ve perturbada. Y se ve perturbada de un modo que a la gente le resulta perturbador, que incluso puede vivir como una especie de degradación. Y han llegado en secuencia: del heliocentrismo al darwinismo, a la neurociencia, a la biotecnología y a la IA. Muchas de las cosas que consideramos únicas y trascendentales del ser humano, como decía antes sobre la cultura, resultan ser algo que, si no queda desencantado, al menos queda desmitificado.

Creo que estamos viendo lo mismo otra vez con la inteligencia artificial, con las formas en que pone un poco en cuestión lo que sentimos que significa ser humano. Entonces, ¿qué tipo de sociedades implicaría esto? Es una pregunta realmente interesante y abierta. Nuestras sociedades se basaron en una escasez de inteligencia y una concentración de agencia. Y por escasez de inteligencia me refiero a que los humanos, y en particular la corteza prefrontal de los humanos, han sido el lugar en el que la Tierra se plegó sobre sí misma a lo largo del tiempo para producir esta forma de materia capaz de toda clase de proezas de una inteligencia compleja y abstracta.

Y durante la mayor parte de la historia humana hubo, hasta el siglo XIX, o realmente hasta el cambio de siglo hacia el XX, solo mil millones de humanos. Pasamos de mil millones a ocho mil millones muy, muy rápido, en gran medida gracias a la industrialización. Así que siete de cada ocho personas que existen hoy no existirían si no las hubieran cultivado las máquinas. Las máquinas cultivaron a las otras siete, a siete de cada ocho personas, lo que significa que tenemos muchas más mentes. Entonces la inteligencia es un poco menos escasa de lo que solía ser. Y al mismo tiempo que hay muchas más mentes, también hay un aumento, en forma de aceleración del descubrimiento científico, del descubrimiento tecnológico y todo lo demás. Pero la agencia también ha estado muy concentrada. Está concentrada en gran medida en un pequeño número de ciudades: si vivís en una de quince ciudades del mundo, mayormente en el Norte global, aunque no exclusivamente, y fuiste a una de veinte universidades, es probable que tengas acceso a una cantidad de agencia radicalmente desproporcionada en comparación con todo el resto del mundo. Hay una concentración de agencia en este sentido.

Y la IA generativa potencialmente radicaliza dos cosas: vuelve la inteligencia menos escasa, la convierte esencialmente en algo disponible para aplicarse a toda clase de problemas locales y globales. Y además tiene el potencial de descentralizar o desconcentrar la agencia. Es decir, en la medida en que se convierta en el medio de producción fundamental. El acceso a estas tecnologías es algo que... digo, ¿cuánto cuesta una suscripción a ChatGPT Plus? Veinte dólares por mes. De acuerdo, veinte dólares por mes es mucho para algunas personas, pero es muchísimo menos que montar una fábrica. Así que está esta distribución de la agencia potencial y la activación de esos otros miles de millones de mentes que tienen ideas, capacidades y formas de ingenio y creatividad que todos nos estamos perdiendo. Y si construimos un mecanismo por el cual su participación esté más garantizada, la sociedad se va a ver muy, muy distinta de como se ve hoy.

La IA generativa potencialmente radicaliza dos cosas: vuelve la inteligencia menos escasa, la convierte esencialmente en algo disponible para aplicarse a toda clase de problemas locales y globales. Y además tiene el potencial de descentralizar o desconcentrar la agencia.

Y veo mucha ansiedad en torno a la IA, en particular entre las élites estadounidenses y europeas. Nadie está más preocupado por la IA que las élites culturales estadounidenses y europeas. Y parte de la razón, desde el Papa hasta la Universidad de Harvard y las ONG europeas, es que de algún modo se dan cuenta, en el fondo, de que la concentración de agencia y de control sobre la cultura de la que han disfrutado puede estar deshaciéndose muy rápido ante sus ojos. Están muy dispuestos a usar toda clase de razonamientos, desde la justicia, la democracia o la seguridad, para intentar reforzar su propia autoridad como supervisores de la cultura y supervisores de la sociedad. Pero en realidad no los necesitamos.

JA: Audrey Watters dijo que los docentes tienen que recordar que la educación a veces también tiene que ver con la coerción y el control, y que cuando quitás eso de tus espacios educativos, dejás que los estudiantes hagan grandes cosas.

BB: Sí, cómo usar la IA en el aula es una pregunta distinta y complicada. La IA no es esencialmente una herramienta de comprensión, sino más bien una herramienta de producción, que de hecho podemos incorporar y con la que podemos crear de maneras interesantes. Y nadie tiene todavía necesariamente la forma correcta de hacerlo en un contexto educativo, pero creo que cuanto más descubramos, mejor, y en general creo que las explosiones de inteligencia son algo bueno que les pase a los planetas. Y cuanta más gente forme parte de ellas, mejor va a ser para todos nosotros.

JA: Dos últimas preguntas. En "The Terraforming" sugeriste que, si tenemos la capacidad de transformar nuestro planeta hasta el punto de destruirlo, también tenemos el poder de cambiarlo para bien. ¿Por qué creés que es más fácil imaginar la terraformación de la Luna o de Marte que hacerlo acá en la Tierra? ¿Cuál es tu visión al respecto?

BB: El año que viene sale una nueva versión de The Terraforming con MIT Press. Es un libro mucho más largo que aquel ensayo. La idea importante es que la terraformación no es solo algo que ocurre en el futuro, algún gran proyecto prometeico; esa no es la idea principal. La idea principal es entender que nacimos en un proceso de terraformación, y que la emergencia y la evolución de una inteligencia compleja que rehace el mundo a su propia imagen es un proceso de terraformación. Y la dinámica de terraformación va a continuar, la hagamos deliberadamente o no.

El modelo es, más bien, entender que la terraformación es algo que la Tierra se viene haciendo a sí misma al menos desde la emergencia de la vida compleja y la inteligencia compleja. Y lo viene haciendo, en gran medida, a través de nosotros durante los últimos cientos de miles de años. En cierto modo, eso es lo que somos. Eso es lo que son las civilizaciones humanas: son un agente terraformador. Y entonces, la cuestión del futuro es que queremos sostener la mayor posibilidad para la mayor complejidad. Más biodiversidad, más diversidad conceptual, pero mayor complejidad. La complejidad en sí misma, en oposición a la entropía y la muerte.

Entonces, la terraformación que tenemos que intentar imaginar y hacer existir es una que sostenga y amplíe ese rango de complejidad. Obviamente estoy tomando prestado el término y usándolo de una manera rara. Terraformación: a la gente le resulta fácil imaginar la terraformación de Marte o de la Luna porque es para eso que se suele usar la palabra. La palabra se usa para hablar de intentar que un planeta se parezca más a la Tierra. Entonces no tiene sentido decir que vamos a hacer que la Tierra sea un planeta más parecido a la Tierra. Pero, de una manera rara, eso es de hecho lo que tenemos que hacer. Tenemos que asegurarnos de que la Tierra siga siendo un anfitrión viable para la vida terrestre el mayor tiempo posible.

JA: Genial. Mi última pregunta retoma algo que dijo Kevin Kelly al hablar del futuro: que en realidad solo estamos prediciendo el presente. Entonces, ¿cuál es tu predicción para el presente?

BB: Mi predicción para el presente es que la gente, en particular la gente de los países ricos, va a preferir la sensación de agencia antes que la agencia real. Es decir, si tuvieran que elegir entre dos actividades, entre dos formas de vida, una en la que sienten que tienen mucha agencia pero no la tienen, y otra en la que no sienten que tengan mucha agencia pero sí la tienen, van a elegir aquella en la que sienten que tienen más agencia, aunque no la tengan.

Eso es lo que llamo teatro de la agencia: una forma de coordinación social organizada y optimizada principalmente para la sensación de agencia, que se ha vuelto más importante que la agencia real. Y este proceso se va a volver todavía más pronunciado, dramático y severo a medida que la IAgen ocupe un lugar más grande en nuestra sociedad. A medida que más cosas las hagan las máquinas, a medida que más de la agencia del mundo real, la de mover cosas de un lado a otro, la ejerzan las máquinas y la IA, los humanos no se van a quedar sentados sin hacer nada. Van a hacer cosas que los hagan sentir que están haciendo algo, aun cuando no sea así. Porque eso los hace sentir que tienen el control. Los agita menos sentir que están provocando cambios en el mundo. Vamos a estructurar la cultura de modo tal que nos rodeemos de cosas que nos hagan sentir que tenemos agencia, aunque no tengamos agencia sobre ellas.