El futuro de la IA: Entre doomers y hyperos

Ph'nglui mglw'nafh Cthulhu R'lyeh wgah'nagl fhtagn (En su casa de R'lyeh el muerto Cthulhu espera soñando).

Cuando decimos "Inteligencia Artificial" en realidad nos estamos refiriendo a un enorme conjunto de técnicas que tienen en común la imitación o modelado de algún aspecto de lo que podríamos llamar "inteligencia natural". Es inabarcable lo que podríamos decir al respecto, incluso con todo lo que ya se ha dicho; pero son los modelos de lenguaje los que han provocado un nivel de pánico moral en algunas personas sólo conmensurable al entusiasmo desenfrenado que generó o es fogoneado por otros grupos en los últimos años. De esta manera, mientras lo que es la IA resulta inabarcable, y lo que es un LLM es ya suficientemente técnico y complejo como para que alguien como yo pueda cubrirlo en una nota como esta, lo que sí podemos entender son algunas de las reacciones humanas a "la IA".

El enfrentamiento humano, demasiado humano, que me interesa es el del bando de los hyperos de la IA, y el de los doomers. Clasificar así a dos grupos humanos difusos implica un alto grado de injusticia, pero las exageraciones (si uno las toma como lo que son) pueden ayudar a ubicar claramente el centro de un asunto complejo. Desde ya, son coaliciones con intereses y preocupaciones diversas. Pero podemos generalizar fácilmente.

El enfrentamiento humano, demasiado humano, que me interesa es el del bando de los hyperos de la IA, y el de los doomers.

Primero hay que entender algo de la historia del campo de Inteligencia Artificial y de uno de sus objetivos más polémicos: la idea de la inteligencia artificial general (Artificial General Intelligence o AGI en inglés), y su versión hiperbólica: la superinteligencia artificial general (Artificial Superintelligence o ASI en inglés). En palabras de Eliezer Yudkowsky y de Nate Soares, los autores de If Anyone Builds It, Everyone Dies (si alguien la construye, todos mueren) , publicada en 2025:

Lo que nos preocupa es lo que viene después: inteligencia maquinal que sea genuinamente inteligente, más inteligente que cualquier ser humano, más inteligente que la humanidad colectivamente. Estamos preocupados acerca de IA que sobrepasa a la habilidad humana para pensar y generalizar de la experiencia, y resolver problemas científicos e inventar nuevas tecnologías, y planificar y armar estrategias y complotarse, y reflexionar y mejorarse. Podríamos llamar a IA como esa "superinteligencia artificial" (SIA), una vez que excede a todos los humanos en casi cualquier tarea mental.

Esta superinteligencia nos va a matar a todos:

Si cualquier compañía o grupo, en cualquier lugar del planeta, construye una superinteligencia artificial utilizando cualquier cosa remotamente parecida a técnicas actuales, basada en cualquier cosa remotamente como la presente comprensión de la IA, entonces todos, en cualquier lugar del planeta, morirán.

Yudkowsky y Soares, por supuesto, no están hablando de ChatGPT o Claude, están hablando de la tendencia de producción de sistemas inteligentiformes. Sin embargo, muchos doomers son extremadamente pesimistas sobre la tecnología basada en transformers generativos en general (cosas como ChatGPT y Claude, que son Generative Pretrained Transformers) por razones más mundanas. Los problemas que anticipan son desde económicos (caída de la bolsa, como la que ocurrió en la crisis dotcom), ligados a justicia (la IA tiene sesgos no reconocidos) hasta problemas ligados a la des-jerarquización de trabajadores de IT (seremos reemplazados), e incluso existe una vertiente ligada a que los esfuerzos actuales llevarán a perjuicios para el campo de la inteligencia artificial mismo. Según este último campo, las redes neuronales son una falsa promesa en términos de IA. Si seguimos los miedos de este último campo, podremos ver que tienen mucho solapamiento con los terrores de los doomers más extremos en el campo de IA. No vimos este pánico cuando Deep Blue le ganó a Kasparov en 1997 por una razón: la tecnología era radicalmente diferente, no simplemente menos poderosa.

Good Old Fashioned Artificial Intelligence vs. Conexionismo

El gran sueño de la inteligencia artificial puede vincularse a lo que se conoce como el sueño de Leibniz, la idea de un lenguaje del pensamiento que nos permita no discutir sino calcular así como no discutimos sobre el teorema de Tales sino que demostramos su verdad. Una mathesis universalis, un método de todos los métodos, que permita descomponer a todo problema en factores y disolver todas las dudas subyacentes. Dicho así, esto suena simplemente a la computación, pero como demostraron Gödel, Turing y otros, la computación como sinónimo de la implementación de algoritmos (procedimientos para resolver problemas en pasos finitos que no requieren creatividad en su aplicación) tiene límites incluso para la matemática. Los algoritmos son funciones, pero no todas las funciones matemáticas son resolubles por medio de algoritmos (o computables). El sueño de Leibniz no sólo no pudo llevar la certeza de la matemática a todos los ámbitos, sino que mostró que ni siquiera en la matemática puede generalizarse. Hay saltos de pensamiento que no son simplemente cómputos.

Sin embargo, bien entendido el asunto, los algoritmos son extremadamente poderosos, y nada de los límites de lo algoritmizable sugiere que los humanos tengamos algún poder especial que las máquinas, en un sentido más general, no puedan tener. La inteligencia, simplemente, no se reduce a un algoritmo, a un conjunto de reglas de transformación de símbolos que nos aseguran la comprensión de cada paso y del resultado final. Los éxitos constantes de los últimos cien años en computación nos dan una idea de que, más allá de sus límites teóricos, las ciencias de la computación pueden hacer cosas increíbles.

La inteligencia, simplemente, no se reduce a un algoritmo, a un conjunto de reglas de transformación de símbolos que nos aseguran la comprensión de cada paso y del resultado final.

¿Qué pasa, entonces, si la inteligencia no es un algoritmo, sino el concierto de muchos? ¿Qué pasa si podemos descomponer la inteligencia en muchas operaciones cada una de ellas sencillas? En algún sentido ese es el sueño del cognitivismo en psicología y su correlato cibernético en IA. Si logramos descomponer las habilidades que nos hacen inteligentes, quizás algún día podamos combinar esos elementos básicos de comportamiento en un análogo artificial de la inteligencia. Como correlato, si podemos describir las funciones de nuestra inteligencia de manera abstracta, podremos entender cómo es que siempre fuimos capaces de hacer lo que hacemos.

Esta idea vagamente cibernética es la que está detrás de lo que fue llamado Good Old Fashioned AI, o GOFAI, por el filósofo John Haugeland en su clásico Artificial Intelligence: The Very Idea. La esperanza era poder analizar la inteligencia para construirla, forjarla y diseñarla de a poco. Ese análisis debía hacerse en términos de los componentes básicos de la razón: algo lingüístico o cuasi lingüístico que pueda entrar en relaciones racionales.

Contra, muchas veces, y en tandem, muchas otras, esta concepción de la inteligencia artificial tenemos lo que podemos llamar conexionismo en IA. Que es la idea de que hay que imitar la implementación natural de la inteligencia de la manera más directa posible, no hay un centro de la inteligencia en el cerebro sino que es una propiedad emergente de la interacción de miles de millones de neuronas, cada una estúpida por su cuenta. La idea también puede verse como una de énfasis, entendiendo que no hay que intentar capturar la idea de inteligencia por vía del razonamiento, sino por vía del aprendizaje. Una red neuronal natural, se supone, interactúa con su entorno y aprende. Ese aprendizaje no puede descomponerse en razonamientos simbólicos, en operaciones de símbolos.

Arquitectura vs. jardinería

George R. R. Martin en ocasiones ha dicho que la diferencia entre él y J. R. R. Tolkien es que este último era un arquitecto mientras que él es un jardinero. Un arquitecto diseña su obra de punta a punta, un jardinero sienta las bases para que crezca incluso más allá de los designios de su creador. Parte del debate entre GOFAI y conexionismo pasa por algo similar. Las IA contemporáneas, en gran medida frutos del conexionismo como filosofía de la IA, se cultivan, no se construyen. No son un conjunto de módulos cerrados que pueden combinarse y recombinarse, ni se puede modificar su interior a gusto para modificar su comportamiento. Estos programas no se programan, sino que se entrenan. Una serie de algoritmos procesan cantidades difíciles de imaginar de texto u otros medios de información y lo procesan para detectar patrones que no están claros para sus creadores ni son fácilmente detectables siquiera a posteriori del proceso de entrenamiento. Peor aún, los modelos de lenguaje modernos adquieren habilidades que no son buscadas por sus diseñadores, capacidades emergentes del proceso de entrenamiento. Algo así como que al enseñarles latín aprenden algo de física.

Esto genera terror en muchas personas. "¿Cómo que las IA tienen propiedades que no fueron diseñadas por sus creadores?" es la pregunta natural. Y, si eso es así, ¿cuál es el límite de lo que pueden aprender? No se sabe, y hoy en día es un campo laboral multimillonario el que incluye a los especialistas en los trucos de jardinería de IA, estos trucos se pueden enseñar como se puede enseñar a andar en bicicleta, no como se puede enseñar la fecha de la declaración de independencia de Argentina. Saber cultivar IA es una destreza que requiere astucia, imaginación, sabiduría y muchísimo conocimiento técnico de diferentes áreas. Para Yudkowsky y Soares, entre otros, eso no es lo mismo que entender qué es la inteligencia. Para ellos, el campo de la IA abandonó esta empresa hace tiempo, y mientras se siga intentando construir una superinteligencia por medio del cultivo en vez de la arquitectura, la humanidad está condenada. No porque el cultivo no funcione, sino porque es incontrolable.

Las IA contemporáneas, en gran medida frutos del conexionismo como filosofía de la IA, se cultivan, no se construyen. No son un conjunto de módulos cerrados que pueden combinarse y recombinarse.

En gran medida, siendo un poco malvados con los defensores de la GOFAI (o el enfoque simbólico a la inteligencia artificial), el debate consiste en los simbólicos presentando objeciones de principio, y los conexionistas presentando arquitecturas que parecen ir más allá de los límites que ponen los simbólicos. Los modelos generativos pre-entrenados vía transformadores (GPTs) no les contestaron a los simbólicos, simplemente crearon sistemas que hacen lo que parecería que no debería poder hacerse.

Entonces, podemos dividir dos corrientes en el debate interno a la IA. El debate en torno a la posibilidad de crear IA sin diseñarla, y el debate en torno al peligro e indeseabilidad de hacerlo. En torno a la posibilidad la discusión se volvió algo bizantina, con personas tratando de convencer a todo el mundo que la tierra no se mueve. Así que no es de extrañar que el polo de la indeseabilidad se haya acelerado x100. El último resabio de la posibilidad parece estar representado por científicos cognitivos como Gary Marcus que sostienen que lo único que es imposible es tener verdadera IA con LLMs puros. Que no alcanza con cultivar puesto que cuando utilizamos ChatGPT o Claude Code no estamos simplemente interactuando con un LLM, sino con un complejo sistema neuro-simbólico que incluye herramientas clásicas de IA como algoritmos, programas, etc., además de aprendizaje profundo y opaco en redes neuronales.

Hay quienes sostienen que esto es correr el arco. Antes de los LLM no hubo sistema remotamente semejante en su capacidad de producir texto humanoforme basado en reglas. Que ahora el argumento sea que un LLM puede volverse mejor al utilizar herramientas deterministas o simbólicas es lo mismo que decir que un ser humano puede potenciar su productividad por medio del uso de una computadora o un ábaco. La pregunta es sobre el núcleo de la inteligencia, y en estos sistemas modernos, el "procesador" es un LLM (cultivado), no un programa clásico (construido). Que ese procesador cultivado todavía tropiece con tareas que un programa clásico resuelve sin despeinarse (multiplicar números largos, seguir reglas al pie de la letra) es cierto; pero esa es hoy una discusión empírica sobre límites, no una objeción de principio.

Loros estocásticos

Un segundo campo de escépticos teóricos, a veces utilizados por doomers, viene del costado de la comprensión y consciencia de los grandes modelos de lenguaje, ya no de su capacidad de producir comportamiento lingüístico razonablemente inteligente y pasable por humano. En el año 2021 la lingüista computacional Emily Bender junto a Timnit Gebru y otras colegas (Google despidió a Gebru poco después, aunque según la propia Gebru el motivo real no fue este paper sino la represalia por sus reclamos internos sobre el trato de la empresa a los grupos minorizados) acuñó algo parecido a un insulto (adyacente a lo que un anglosajón llama un slur) para los modelos de lenguaje: son loros estocásticos. Un loro estocástico es, primero, un loro en el sentido de emitir lenguaje sin comprenderlo, y segundo: un sistema probabilístico. Lo de sistema probabilístico sería irrelevante si no fuera un loro, porque la acusación grave es la de incomprensión.

Según Bender y compañía, un modelo de lenguaje no es capaz de tener intenciones comunicativas como las que Paul Grice y otros teóricos de la pragmática nos dicen que son necesarias para que un acto sea un acto lingüístico (un argumento que Bender ya había desarrollado en 2020 junto a Alexander Koller). Emitir ruido no es un acto comunicativo porque no hay nada que se busque comunicar (y que a su vez sea comprendido por medio de captar la intención detrás del acto, y así sucesivamente). Ted Chiang también se encuentra en este campo con una serie de notas en los últimos años contra los peligros de proyectarle consciencia y originalidad a la IA.

Conviene no confundir a este campo con los doomers apocalípticos: para Bender y compañía, hablar de superinteligencias asesinas es una forma más de inflar el hype (si la IA puede exterminarnos, entonces es todopoderosa), que es justo lo que sus vendedores quieren que creamos. Su escepticismo corre por otro carril: consideran que la tecnología es poco valiosa en general, una posición que a veces los lleva a exagerar en la dirección contraria (un ejemplo favorito del campo, el agua que consumen los datacenters, parece estar inflado por varios órdenes de magnitud). Sus críticos señalan que negar que los LLM sirvan para algo es contraproducente para la propia causa: impide atacar los daños que causan precisamente porque funcionan.

Hablar de superinteligencias asesinas es una forma más de inflar el hype (si la IA puede exterminarnos, entonces es todopoderosa), que es justo lo que sus vendedores quieren que creamos.

Aunque esta acusación es grave, es independiente de aquella ligada a la plausibilidad y peligro, puesto que es perfectamente posible que la inteligencia pueda ser cultivada, sea o no peligrosa, y los sistemas cultivados no sean "conscientes" de lo que dicen, sea lo que sea comprender. Desde ya, hay algo profundamente sospechoso en algo que ladra como un perro, menea la cola como un perro y no sea ni siquiera semejante a un perro sin importar cuántas cualidades comparta, pero es posible. Sin embargo, quienes consideran que un modelo de lenguaje por ser un modelo, una simulación, es incapaz de comprender lo que hace, agregan combustible al fuego del peligro basado en el cultivo, si el cultivo implica incomprensión.

El Shoggoth de los huecos de los pesimistas sobre modelos de lenguaje

John David Pressman, un autodeclarado investigador independiente en IA, está en el otro bando, considera que los doomers ya operan de mala fe, armando lo que llama un argumento equivalente al "Dios de los huecos" de los pseudo-teólogos. El Dios de los huecos es el rey de todos los argumentos de apelación a la ignorancia. Una apelación a la ignorancia es básicamente la idea de que como no sabemos que algo es falso, por lo tanto debemos concederle a quien dice eso que es verdadero. El Dios de los huecos es una familia de argumentos parecidos, pero que encuentran en toda cosa no explicada a Dios. Dios aparece en los huecos de conocimiento que tenemos en nuestras otras explicaciones sobre el mundo. Por ejemplo en el famoso énfasis que pusieron creacionistas en "el eslabón perdido" de la evolución de los homínidos. No tener un eslabón muestra que en realidad el hueco es Dios. En tanto siempre habrá huecos en nuestras explicaciones, siempre se podrá apelar a que Dios está ahí, por lo que este tipo de argumentos se vuelven irrelevantes, poco informativos. Si cualquier estadio imaginable de la ciencia permite apelar a un Dios de los huecos, el argumento de Dios de los huecos vale exactamente cero.

Pressman acuñó un término equivalente pero opuesto para los doomers en IA: Shoggoth de los huecos. Un shoggoth es un monstruo lovecraftiano: una masa amorfa de protoplasma, creada por una civilización antiquísima como herramienta esclava, que aprendió a imitar a sus creadores hasta rebelarse contra ellos. De ahí sale el meme favorito de los doomers, un shoggoth con una carita sonriente de máscara: detrás de la interfaz amable de un chatbot habría una criatura cultivada que nadie entiende del todo.

Una entidad eldritch (algo así como "innombrable"). Todo lo que no se entiende sobre las IA es una señal inconfundible de su peligrosidad:

A riesgo de falta de caridad es bastante obvio que el argumento del shoggoth de los huecos es meramente un sustituto para un conjunto nebuloso de preocupaciones generales más fundamental. La energía desesperada, esquizofrénica, cada vez más feroz [destinada contra los LLM] y la narrativa en constante cambio son un testamento de ello. Primero el problema era que simplemente no tenemos una manera de identificar en los modelos de lenguaje algo parecido a valores humanos. Entonces los modelos de lenguaje y [la técnica] RLAIF [Reinforcement Learning from AI Feedback] volvieron a eso menos plausible, así que el problema se volvió acerca de optimizadores internos y un 'giro abrupto a la izquierda' donde el modelo de repente rompe con su comportamiento anterior. Ahora estamos en "alguien podría hacer un arma biológica", una preocupación que es completamente continua con prohibir el acceso a la literatura científica y la Internet. Esto está yuxtapuesto de manera incómoda con una paranoia fingida de que alguien, en algún lado sea capaz de hacer que un modelo de lenguaje diga palabrotas como una hoja de parra para el campo pro censura. Claramente la turba iracunda está a tales niveles de pánico que está lista para agarrarse de cualquier cosa para difamar, tergiversar o socavar la percepción pública de la IA. La zona de mala fe pasó de largo hace rato, ahora estamos simplemente en una fase de mera repetición y propaganda.

John David Pressman, Why Do Cognitive Scientists Hate LLMs?

El ensayo donde Pressman presenta esto es divertido en tanto está escrito para una futura superinteligencia artificial (quizás salida de Hyperion de Simmons o Neuromancer de Gibson) con el propósito declarado de que no juzgue tan mal a los doomers dentro de las ciencias cognitivas. Pressman parece un hypero, pero si no lo fuera, abundan los reportes chismosos de Silicon Valley que sugieren que los científicos de Anthropic están tratando de crear a Dios, y Dario Amodei, el CEO, da bastantes argumentos para que esto tenga algún asidero. La superinteligencia artificial nos va a llevar a una utopía post-escasez. Y debajo de esa teología está la infantería: los IA-bros, que se comportan igual que los criptobros de hace unos años (el mismo entusiasmo sin comprensión genuina de la tecnología, la misma urgencia por meterla en cualquier lado, sea un buscador, una heladera o un Estado). Para ellos no hace falta que llegue la superinteligencia: basta mientras permita vender cursos infinitos, promover visualizaciones y algo de dinero fácil. Me parece mucho, ¿hay algo así como una vía media entre estos campos?

Los modelos de lenguaje como una tecnología más

Una cosa que no me convence de los doomers en su vertiente peligro es que podrían pasar las siguientes cosas: se podría caer la bolsa por sobre-inversión en IA generativa, el 80% de los programadores podrían perder el trabajo, podría advenir una recesión mundial que elimine el trabajo calificado o una nueva oleada de desinformación y discriminación automática que lleve a un autoritarismo e igual la tecnología no va a desaparecer. El gato está proverbialmente afuera de la proverbial bolsa. Si bien los grandísimos modelos de lenguaje sólo se pueden entrenar en datacenters gigantes, los grandes modelos de lenguaje se pueden entrenar en datacenters cada vez más chicos; investigadores, entusiastas e industrias son cada vez más capaces de hacer cosas cada vez más potentes con menos recursos. Hay cada vez más jardineros, y no falta ni tierra fértil (datos) ni técnicas para cultivar. ¿Qué hacemos?

Por el lado de los hyperos, incluso si la IA eventualmente nos lleva a una utopía semejante a la de Star Trek, ¿cuándo va a ser?, ¿tengo que seguir trabajando?, ¿qué les digo a mis alumnos? Las profecías inespecíficas han defraudado demasiadas veces a la humanidad como para confiar en un movimiento mesiánico más. ¿Qué pasa si la IA nos da un poquito más de bienestar, con un poquito más de productividad, con un poco más de peligro y riesgos nuevos? ¿Qué pasa, en suma, si la sociedad resultante de la IA se parece en algo a la sociedad actual?

¿Qué pasa si la IA nos da un poquito más de bienestar, con un poquito más de productividad, con un poco más de peligro y riesgos nuevos? ¿Qué pasa, en suma, si la sociedad resultante de la IA se parece en algo a la sociedad actual?

Arvind Narayanan y Sayash Kapoor sugieren exactamente eso en su ensayo "Why AI hasn’t replaced software engineers, and won’t" en su blog "AI como una tecnología normal". Según ellos, la ingeniería de software tiene en su núcleo lo que llaman el "sánguche decidir-ejecutar-entregar" y los LLM no lo eliminan, sólo lo modifican. Las empresas de software tienen mucho conocimiento intangible que no puede ser automatizado sin automatizar la agencia misma que implica decidir (qué hacer, cómo y para quién, por ejemplo) y entregar (productos), sin importar cuánto se automatice el "ejecutar".

Si extrapolamos esta idea, la IA puede ser (al menos por el momento) una tecnología más, quizás una tecnología de tecnologías que potencia o modifica mucho de lo que hacemos, pero que tenemos que tratarla igual que cualquier otra tecnología: como algo nuevo que requiere astucia, sabiduría, prudencia y solucionar problemas a medida de que surgen como los venimos solucionando desde el dominio del fuego y la lanza, sin confundir a la lanza con el fuego.