Philowashing: Cuando la filosofía legitima a Silicon Valley

Quienes estudiamos filosofía estamos acostumbrados a que nos pregunten para qué sirve. La pregunta puede adoptar formas más o menos amables, pero casi siempre presupone una dificultad genuina: a diferencia de lo que ocurre con la medicina, la ingeniería o el derecho, no resulta inmediatamente evidente qué lugar puede ocupar un filósofo fuera de la docencia y la investigación. Por eso resulta tentador interpretar como una pequeña revancha disciplinar lo que está ocurriendo en algunas de las empresas tecnológicas más importantes del mundo: Silicon Valley, el mismo ecosistema que durante décadas convirtió al ingeniero y al emprendedor en figuras casi heroicas de nuestra época, parece haber descubierto que también necesita filósofos.

Amanda Askell, formada en filosofía en Cambridge y Nueva York, se convirtió en una de las caras más visibles de Anthropic, la empresa responsable de Claude, donde trabaja sobre el carácter y los valores que deberían orientar el comportamiento de sus modelos. Iason Gabriel, doctor en filosofía por Oxford, ocupa desde hace años distintos roles vinculados con ética, pluralismo y gobernanza en Google DeepMind. No son casos aislados: a medida que la inteligencia artificial dejó de ser una tecnología relativamente especializada y comenzó a intervenir en dominios que van desde la educación y el trabajo hasta la salud, la seguridad o las relaciones personales, preguntas que hasta hace poco podían parecer propias de un seminario universitario adquirieron una inesperada urgencia práctica. ¿Qué valores debería respetar un sistema de inteligencia artificial? ¿Cómo debería actuar cuando dos principios morales entran en conflicto? ¿Puede diseñarse un modelo capaz de convivir con el pluralismo de sociedades en las que no existe acuerdo acerca de lo bueno, lo justo o incluso lo verdadero?

Silicon Valley, el mismo ecosistema que durante décadas convirtió al ingeniero y al emprendedor en figuras casi heroicas de nuestra época, parece haber descubierto que también necesita filósofos.

Que esas preguntas hayan ingresado a los laboratorios de inteligencia artificial es, en principio, una buena noticia. No parece ser, a la vez, simplemente una mera estrategia de relaciones públicas: Askell, Gabriel y otros investigadores (como Luciano Floridi, que trabajó para Google para abordar el "derecho al olvido" tras un fallo adverso del Tribunal de Justicia de la Unión Europea) producen trabajos filosóficamente sofisticados y se enfrentan a problemas genuinos, para los cuales la formación humanística puede aportar algo que no se obtiene simplemente agregando más y más ingenieros a un equipo. Sin embargo, sí nos parece lícito indagar no tanto en la calidad de las respuestas que estos filósofos producen, sino en las condiciones institucionales dentro de las cuales pueden formular sus preguntas. Si una empresa tecnológica contrata filósofos para pensar qué valores debe incorporar un sistema que ya decidió construir, ¿qué ocurre con la pregunta anterior, y potencialmente más incómoda, acerca de si ese sistema debería ocupar el lugar que la empresa pretende asignarle?

Nuestra sospecha es que estamos frente a algo más profundo que simplemente otro caso de ethics washing (esto es, cambios cosméticos para dar un barniz ético a una acción) sino que somos testigos de una suerte de apropiación de nuestra disciplina para delimitar de antemano el dominio de problemas sobre los cuales puede intervenir. A ese mecanismo proponemos llamarlo philowashing (¡filolavado suena raro!) y creemos que tiene un antecedente en la apropiación contemporánea del estoicismo por parte de los “tecnobros”.

De estoicismo a broicismo

Durante las últimas dos décadas, Marco Aurelio, Epicteto y Séneca adquirieron una popularidad inesperada entre emprendedores, inversores y figuras asociadas a la cultura tecnológica. Tim Ferriss ayudó a convertir el estoicismo en una referencia habitual dentro del universo de la productividad y el desarrollo personal; Ryan Holiday construyó alrededor de esa tradición un exitosísimo ecosistema de libros, cursos y conferencias; y las Meditaciones de Marco Aurelio terminaron compartiendo espacio en bibliotecas empresariales con manuales de liderazgo, growth hacking y optimización del rendimiento. El fenómeno resulta curioso, aunque no necesariamente objetable: que alguien llegue a Epicteto buscando herramientas para atravesar una crisis profesional no invalida ni la lectura ni la filosofía que descubre en el camino.

Lo significativo está en la selección que esa apropiación realiza. El estoicismo antiguo no era una colección de técnicas para aumentar la productividad, sino una concepción bastante más ambiciosa acerca de la virtud, los deberes, la vida en común y la relación entre aquello que depende de nosotros y aquello que no podemos controlar. En su traducción a la cultura empresarial contemporánea, sin embargo, buena parte de esa arquitectura filosófica queda relegada y sobreviven especialmente las ideas que pueden convertirse en técnicas de administración del yo: tolerar la adversidad, controlar las propias reacciones, concentrarse en aquello sobre lo que uno tiene incidencia y desarrollar resiliencia frente a circunstancias externas que no puede modificar.

Si una empresa tecnológica contrata filósofos para pensar qué valores debe incorporar un sistema que ya decidió construir, ¿qué ocurre con la pregunta anterior, y potencialmente más incómoda?

El resultado ha recibido a veces el nombre de broicismo o broicism, y el término permite identificar una transformación relevante. Si un entorno laboral exige disponibilidad permanente, produce ansiedad o vuelve cada vez más porosa la frontera entre trabajo y descanso, la pregunta estoica reformulada ya no se dirige hacia la organización de ese entorno sino hacia la capacidad del individuo para habitarlo exitosamente. La filosofía proporciona entonces herramientas para intervenir sobre el sujeto mientras las condiciones que producen su malestar permanecen fuera de discusión. 

Los filósofos marcan ficha en Silicon Valley 

El caso de Amanda Askell es especialmente útil para comprender este cambio. Una parte de su trabajo en Anthropic consiste en pensar cómo debería comportarse Claude: qué rasgos debería tener su “personalidad”, qué valores debería expresar, cómo debería reaccionar ante situaciones moralmente complejas y hasta qué punto corresponde que un asistente de inteligencia artificial intente influir sobre las creencias o decisiones de sus usuarios. El proyecto de Constitutional AI de Anthropic lleva esa preocupación a la propia arquitectura de entrenamiento: en lugar de limitarse a corregir individualmente respuestas indeseables, se procura orientar al modelo mediante un conjunto explícito de principios.

La filosofía puede tener un rol relevante en esas discusiones. Preguntarse qué significa respetar la autonomía de un usuario, cómo evitar el paternalismo o de qué manera puede una inteligencia artificial actuar en contextos donde conviven sistemas de valores incompatibles no es una capa de barniz humanístico añadido al final de un proceso técnico sino problemas normativos genuinos. Algo semejante ocurre con el trabajo de Iason Gabriel sobre pluralismo y alineamiento en DeepMind. Pero tanto la pregunta acerca de la personalidad de Claude como la discusión sobre qué valores debería incorporar un modelo masivo de lenguaje parten de una decisión anterior en la que parece no haber forma de intervenir, vinculada con el proyecto mismo de ese modelo, su escala, su modelo de negocios y cómo ocupará determinadas posiciones en la vida social. La reflexión filosófica comienza una vez que buena parte de la arquitectura institucional del problema ya fue definida. Se discute cómo debe comportarse el sistema, pero no necesariamente qué clase de decisiones corresponde entregarle, ante quién debe responder o si existen ámbitos en los que su utilización debería quedar excluida con independencia de su desempeño.

El algoritmo que no se equivocó

A fines de julio de 2019, Guillermo Federico Ibarrola fue detenido en la estación Retiro después de que el sistema de reconocimiento facial de prófugos utilizado por el Gobierno de la Ciudad de Buenos Aires lo identificara como un hombre buscado por un robo agravado cometido en Bahía Blanca. Pasó seis días detenido hasta que se comprobó que no tenía ninguna relación con el delito y que ni siquiera conocía esa ciudad.

El caso podría incorporarse sin demasiadas dificultades al voluminoso archivo de errores algorítmicos que acumulamos durante los últimos años, salvo por un detalle que lo vuelve filosóficamente más interesante: el algoritmo no se había equivocado. No confundió dos rostros parecidos ni produjo un falso positivo debido a un problema estadístico. La orden de captura correspondía a Guillermo Walter Ibarrola, pero alguien había asociado a esa orden el número de documento de Guillermo Federico. El sistema procesó correctamente la información que recibió, comparó el rostro adecuado con la base equivocada y permitió localizar con una eficiencia admirable a la persona incorrecta. Fue, si se quiere, un caso de precisión quirúrgica aplicada sobre datos erróneos.

Lo importante es que ninguna mejora en el algoritmo de reconocimiento facial habría solucionado el problema. Podríamos imaginar un sistema diez veces más preciso, sin sesgos demográficos y sometido a las mejores auditorías disponibles, y Guillermo Federico Ibarrola habría terminado igualmente detenido. El error estaba en otra parte: en los datos que alimentaban el sistema, en la cadena institucional que los había producido y, sobre todo, en el lugar que la recomendación tecnológica ocupaba dentro de un proceso que involucraba a policías, funcionarios y agentes judiciales.

Durante esos seis días, además, hubo seres humanos participando de la decisión. Este dato importa porque una de las respuestas más frecuentes frente a los riesgos de la automatización consiste precisamente en garantizar que siempre exista un human in the loop, una persona que conserve la última palabra. El caso Ibarrola muestra por qué esa fórmula, aunque razonable, dice bastante menos de lo que parece. La mera presencia de un ser humano en algún punto del circuito no garantiza supervisión efectiva si esa persona no recibe la información relevante, carece del tiempo necesario para revisarla, no tiene incentivos para contradecir el resultado o, directamente, no posee autoridad para modificarlo.

La mera presencia de un ser humano en algún punto del circuito no garantiza supervisión efectiva si esa persona no recibe la información relevante o, directamente, no posee autoridad para modificarlo.

En otras palabras, “mantener al humano en el circuito” puede describir configuraciones institucionales completamente diferentes. Un médico que recibe una sugerencia de diagnóstico y puede ignorarla después de revisar los estudios no ocupa la misma posición que un empleado que debe procesar centenares de recomendaciones automáticas por día y justificar por escrito cada vez que se aparta de ellas. En ambos casos existe formalmente supervisión humana; sólo en uno de ellos resulta plausible afirmar que el juicio de la persona conserva una función sustantiva. La supervisión no es, entonces, un remedio que se agrega al final para compensar aquello que la máquina todavía no puede hacer. Es un parámetro que alguien configura de antemano: cuánta información recibe quien revisa, cuánto tiempo tiene, en qué dirección puede apartarse y qué consecuencias enfrenta cuando lo hace.

Conservar la forma, perder la función

El sistema español VioGén permite observar el problema desde otro ángulo. Utilizado para evaluar el riesgo en casos de violencia de género, asigna niveles que pueden influir sobre las medidas de protección que recibe una mujer después de realizar una denuncia. La evaluación automatizada no elimina la intervención humana: los agentes pueden modificar el nivel de riesgo sugerido por el sistema. Sin embargo, esa capacidad tiene una dirección determinada. Pueden elevarlo, pero no reducirlo.

Es importante resistir nuevamente la tentación de presentar este diseño como evidencia de una perversidad tecnológica. Existen buenas razones para adoptar un criterio precautorio en situaciones de violencia de género, donde subestimar el riesgo puede tener consecuencias irreversibles. Tal vez queramos exactamente esa asimetría. Pero si es así, lo relevante es advertir que la distribución de autoridad entre persona y sistema no fue descubierta por el algoritmo ni se desprende de su precisión estadística: alguien decidió qué podía hacer el agente humano, qué podía hacer la herramienta y en qué dirección debía resolverse un desacuerdo entre ambos.

Este punto permite formular con mayor precisión un problema que suele quedar oscurecido en el debate contemporáneo sobre inteligencia artificial. La conversación pública está dominada por una pregunta acerca de las capacidades: queremos saber qué puede hacer la IA, si diagnostica mejor que un médico, programa mejor que un desarrollador, corrige mejor que un profesor o detecta patrones que un policía no podría advertir. Es una pregunta legítima, pero de su respuesta no se sigue qué deberíamos permitirle hacer. Saber que un sistema predice con determinada precisión la reincidencia criminal no decide si queremos que esa predicción intervenga en una sentencia; demostrar que un modelo identifica una enfermedad mejor que un médico no determina qué autoridad debe tener sobre el tratamiento; comprobar que una inteligencia artificial puede evaluar exámenes con menos errores que un docente no resuelve si queremos organizar la educación alrededor de esa evaluación.

Alguien decidió qué podía hacer el agente humano, qué podía hacer la herramienta y en qué dirección debía resolverse un desacuerdo entre ambos.

Se trata, en definitiva, de distinguir entre dos preguntas que con frecuencia aparecen mezcladas. Una se refiere al comportamiento del sistema: qué debe responder, qué debe rechazar, qué valores debe respetar, con qué precisión realiza una tarea. La otra se refiere a su lugar institucional: qué decisiones le entregamos, cuáles le retenemos, quién puede apartarse de sus resultados y bajo qué condiciones. La primera puede responderse modificando el producto. La segunda exige decidir los límites dentro de los cuales ese producto podrá operar y, en algunos casos, considerar que una determinada aplicación no debería existir aunque técnicamente fuera posible construirla.

Una filosofía perfectamente correcta

Ahora podemos volver a los filósofos de Silicon Valley y entender mejor dónde podría estar el philowashing. El problema no es que Askell, Gabriel u otros investigadores produzcan necesariamente mala filosofía, ni que estén obligados a llegar a conclusiones favorables a sus empleadores. De hecho, el mecanismo sería mucho menos interesante si dependiera de filósofos dispuestos a decir cosas que consideran falsas. La peculiaridad de esta forma de legitimación consiste en que puede funcionar incluso cuando todas las personas involucradas trabajan con rigor y honestidad intelectual.

La razón es institucional. La pregunta acerca de cómo debería comportarse un modelo resulta compatible con casi cualquier decisión que la compañía ya haya tomado acerca de dónde desplegarlo, a qué clientes venderlo y qué tareas humanas sustituirá. Es posible dedicar enormes esfuerzos a conseguir que un chatbot sea respetuoso de la autonomía humana, pluralista frente a diferentes concepciones morales y cuidadoso con usuarios vulnerables sin revisar por eso las condiciones laborales de quienes producen sus datos, el impacto material de la infraestructura necesaria para entrenarlo, la concentración de poder que genera su adopción o los usos que determinados clientes puedan hacer de la tecnología.

El trabajo filosófico sobre el comportamiento del sistema posee, además, una propiedad particularmente conveniente: puede mejorar el producto. Un modelo menos racista, menos manipulador, más prudente y capaz de ofrecer mejores explicaciones es también un producto más fácil de desplegar y comercializar. No hay nada objetable en ello, del mismo modo que no hay nada objetable en fabricar un automóvil más seguro. La dificultad aparece cuando ese conjunto de mejoras se presenta como evidencia de que las preguntas normativas relevantes ya fueron planteadas, cuando en realidad sólo se respondió una clase particular de ellas.

Ahí aparece el philowashing: no opera principalmente mediante la censura de conclusiones incómodas, una estrategia demasiado visible y torpe, sino a través de un reparto institucional de las preguntas. La cuestión del diseño interno tiene presupuesto, equipos y carreras profesionales. La cuestión del límite institucional queda en una situación bastante más precaria: no suele formularla la empresa porque puede restringir el mercado de sus productos; los reguladores tienden a llegar cuando las tecnologías ya fueron desplegadas; y la academia, que conserva espacios para plantearla con independencia de su rentabilidad, es presentada paradójicamente como el lugar del que los filósofos finalmente habrían conseguido escapar.

Esta es una diferencia importante con otras formas de lavado reputacional. El greenwashing funciona cuando una empresa construye una apariencia de compromiso ambiental que no corresponde con sus prácticas; el ethics washing, cuando el vocabulario de la ética proporciona legitimidad sin alterar sustancialmente la distribución del poder. El philowashing, tal como lo entendemos aquí, puede ser más difícil de reconocer porque no necesita producir una apariencia falsa. Puede financiar filosofía genuina, obtener resultados intelectualmente valiosos e incluso modificar de manera positiva algunos productos. Su efecto legitimador surge de algo más elemental: convertir una parte del espacio filosófico en representación del conjunto y hacer que ciertas preguntas aparezcan como las preguntas relevantes acerca de la tecnología.

El desplazamiento ocurre menos por falsificación que por encuadre: se conserva una parte reconocible de la filosofía mientras desaparece el contexto en el que algunas de sus preguntas podrían resultar políticamente incómodas.

En ese sentido, la apropiación contemporánea de la filosofía comparte una estructura con aquel broicism mencionado antes. El problema no era que los ejecutivos leyeran mal cada frase de Marco Aurelio, sino que una determinada selección convertía una filosofía sobre la vida buena y la relación con los otros en una tecnología individual para tolerar mejor un entorno que permanecía fuera de discusión. En ambos casos, el desplazamiento ocurre menos por falsificación que por encuadre: se conserva una parte reconocible de la filosofía mientras desaparece el contexto en el que algunas de sus preguntas podrían resultar políticamente incómodas.

La pregunta que queda sin dueño

Esto importa porque las decisiones sobre el lugar institucional de la inteligencia artificial no ocurren en el futuro hipotético de una inteligencia artificial general que despierta y decide qué hacer con nosotros. Ocurren ahora, de manera mucho menos espectacular, cada vez que un organismo público compra un sistema de reconocimiento facial, una empresa incorpora una herramienta para evaluar trabajadores, un hospital adopta un modelo de predicción o una escuela utiliza un algoritmo para detectar estudiantes en riesgo. Como mostró Javier Pallero en 421 al analizar la expansión de las tecnologías de vigilancia, las transformaciones importantes avanzan muchas veces licitación a licitación, decreto a decreto, mediante decisiones locales que parecen demasiado pequeñas para exigir una discusión sobre la concepción del poder que llevan incorporada.

El debate sobre la inteligencia artificial corre el riesgo de producir un efecto semejante. Mientras discutimos si los grandes modelos "comprenden", cuándo llegará la inteligencia artificial general o si una máquina podría llegar a ser consciente, una multitud de decisiones menos cinematográficas redistribuye silenciosamente la autoridad. Una recomendación, un puntaje de riesgo, una alerta, una lista ordenada o una clasificación automática pueden parecer instrumentos modestos, pero cada uno establece quién debe justificar qué, qué resultado funciona como opción por defecto y quién carga con el costo de apartarse de él.

Hay, además, algo que se pierde con la delegación y que no puede expresarse únicamente en términos de eficiencia o precisión. Cuando una decisión que afecta a una persona es tomada por otra persona, existe al menos idealmente una práctica de dar y pedir razones. Esas razones pueden ser malas, arbitrarias o incluso falsas, pero pueden discutirse, impugnarse y someterse a procedimientos de revisión. Un sistema algorítmico puede preservar la apariencia de esa práctica produciendo explicaciones convincentes sin que esas explicaciones describan realmente el proceso que condujo al resultado. La explicación cosmética conserva entonces la forma de la justificación mientras debilita su función, del mismo modo que una supervisión humana meramente nominal conserva la forma del control aunque haya vaciado de autoridad a quien supuestamente supervisa. 

Por eso no alcanza con reclamar que siempre haya un humano en el circuito. Tenemos que preguntar qué humano, en qué circuito y haciendo exactamente qué. Tampoco alcanza con exigir que los sistemas sean explicables, porque una explicación sólo es políticamente relevante si permite comprender, discutir y eventualmente modificar aquello que produjo la decisión. Preservar las formas institucionales que asociamos con la autonomía, la responsabilidad y el control es relativamente sencillo; preservar las funciones que esas formas deberían cumplir exige mirar la distribución concreta del poder que las tecnologías producen.

¿Para qué sirve entonces un filósofo?

Quizás haya que volver, al final, a la pregunta del comienzo. La inteligencia artificial efectivamente necesita filosofía, pero eso no significa que todas las formas de incorporar filósofos sean equivalentes ni que la presencia de un departamento de ética demuestre que una organización está dispuesta a someter sus decisiones a examen filosófico. Una institución puede contar con excelentes filósofos y filósofas y, al mismo tiempo, mantener fuera de discusión algunas de las premisas más importantes de su actividad.

La tarea filosófica que nos parece más urgente no consiste entonces en abandonar las empresas tecnológicas ni en sospechar automáticamente de quienes trabajan dentro de ellas. Necesitamos personas capaces de discutir desde adentro cómo deben comportarse estos sistemas, del mismo modo que necesitamos investigadores independientes, reguladores y organizaciones de la sociedad civil capaces de plantear preguntas que ninguna empresa tiene incentivos suficientes para formular por iniciativa propia. El problema aparece cuando confundimos la existencia de la primera clase de reflexión con la presencia de la segunda.

La inteligencia artificial efectivamente necesita filosofía, pero eso no significa que todas las formas de incorporar filósofos sean equivalentes.

Una filosofía que piense la transformación tecnológica debería recuperar, además, cierta vocación que la fascinación por los grandes dilemas de la inteligencia artificial ha desplazado. Las preguntas acerca de si una máquina puede pensar, comprender o llegar a ser consciente son filosóficamente atractivas pero no deberían impedirnos preguntar quién produce los datos con los que funciona, qué trabajo humano permanece oculto detrás de la automatización, qué recursos consume, qué organismos compran los sistemas, qué proveedores adquieren posiciones de dependencia y qué posibilidades reales tienen las personas afectadas de cuestionar sus resultados. Se trata de recordar que una tecnología puede plantear simultáneamente problemas ontológicos, epistemológicos, éticos y políticos, y que las empresas tendrán razones muy diferentes para financiar el análisis de cada uno de ellos. Esa necesidad de recuperar una crítica material y repolitizar la reflexión filosófica también formaba parte de la propuesta original.

Silicon Valley quizá haya descubierto finalmente para qué sirven los filósofos. La pregunta que nos corresponde hacer a nosotros es algo distinta: para qué la filosofía querría trabajar allí. Porque una disciplina cuya historia está atravesada por la costumbre bastante incómoda de examinar las premisas de una pregunta no debería conformarse demasiado rápido con haber conseguido un lugar en la mesa. A veces la tarea filosófica más importante consiste precisamente en preguntar quién decidió qué podía discutirse en ella.