¿Las deepfakes son el fin de la "verdad" o el inicio de una nueva política? ¿Hay que abrazar los discursos alarmistas o la IA ofrece una mayor democratización? Las herramientas ciudadanas que se pueden instrumentar de cara a las próximas elecciones argentinas.
Parece que finalmente hemos llegado a un punto de la historia donde ver ya no es necesariamente creer. La realidad, al menos la parte de ella que sucede en los medios y en las redes sociales, empieza a ser algo difuso y resbaladizo, y nuestra "dieta cognitiva" corre el riesgo de intoxicarse con un exceso de contenidos sintéticos que emulan cada vez mejor la trama de lo “verdadero”. Incluso si los deepfakes (videos creados o modificados con inteligencia artificial con la intención de engañar a sus espectadores sobre dichos o hechos de una persona) no se vuelven algo masivo, su posibilidad es disruptiva para nuestra manera de vivir, cada vez más atravesada por el consumo de contenidos audiovisuales. Si esto es un desafío para las múltiples dimensiones de la vida social de todo el mundo, mucho más parece serlo en regímenes democráticos como el nuestro, que funcionan a base de un combustible cada vez más escaso, y que esta nueva tecnología podría erosionar: la legitimidad política.
El debate público pierde su carácter deliberativo y gana quien tiene más capacidad de instalar su versión, no quien argumenta con pruebas su punto de vista.
Para entender el impacto específico de los deepfakes sobre la política hay que partir de una distinción que el diagnóstico habitual sobre desinformación suele omitir. El problema no es que los deepfakes generen mentiras más convincentes (las mentiras políticas son tan viejas como la política). El problema es más profundo: los deepfakes erosionan aún más la posibilidad de que la evidencia funcione como base del debate público. Cuando la evidencia audiovisual deja de cumplir esa función, el debate público pierde su carácter deliberativo y gana quien tiene más capacidad de instalar su versión, no quien argumenta con pruebas su punto de vista.
Tampoco es la intención caer en un escenario alarmista y, menos aún, apocalíptico. El impacto de estos videos en la democracia a veces se exagera. E, incluso, para quienes ven el vaso medio lleno, este tipo de fenómenos puede ofrecer soluciones a la crisis de credibilidad de las democracias occidentales.
Pero vayamos por partes.
La cosa empezó casi como un chiste, con videos satíricos e imitaciones mejoradas con posproducción (ver abajo). Pero ya en 2018 un video de BuzzFeed titulado “No podrás creer lo que Obama dice en este video” alertó sobre los peligros de lo que se venía (ver abajo). "Estamos entrando en una era en la que nuestros enemigos pueden hacer que parezca que cualquiera está diciendo cualquier cosa en cualquier momento", anunciaba un fake Obama interpretado por el comediante Jordan Peele. La calidad de la edición aún no era lo que es hoy, pero fue suficiente para que entendiéramos a donde podía llegar, y muchos quedáramos presos de una nueva paranoia colectiva.
Rápidamente esta novedad se tornó un dolor de cabeza para los políticos. En 2019 circuló un video manipulado digitalmente en el que Nancy Pelosi, entonces presidenta de la Cámara de Representantes de Estados Unidos, balbuceaba aparentemente borracha durante un discurso (el video fue ralentizado aproximadamente al 75% de su velocidad normal, lo que los especialistas llamaron en su momento un cheap fake). En marzo de 2022, el presidente de Ucrania, Volodímir Zelensky, apareció en un video falso pidiendo a las tropas ucranianas que se rindieran. En enero de 2024, una llamada falsa de Joe Biden a votantes demócratas los instó a no participar de una elección primaria en New Hampshire (el autor fue Steve Kramer, un consultor demócrata que trabajaba para la campaña de Dean Phillips, rival interno de Biden).
Dados los antecedentes de campañas sucias, era de esperarse que Argentina no fuese una excepción. Durante el período de veda en las elecciones legislativas porteñas de 2025, la circulación de dos videos encendió las alarmas en el PRO: Mauricio Macri y Silvia Lospennato anunciaban el retiro de la candidatura del partido, algo inmediatamente desmentido por los mismos protagonistas, pero ya imposible de frenar. El impacto en la campaña, algo casi imposible de medir, fue materia de discusión durante semanas, pero en el partido del expresidente no hubo dudas de que fue la causa de los malos resultados obtenidos (Lospennato salió tercera con 15,92%).
En octubre de ese mismo año, Macri fue víctima de un nuevo video falso en el que llamaba a votar a Provincias Unidas. Pero los del PRO no fueron los únicos que se toparon con un doppelgänger virtual. En un video menos logrado, donde su dentadura cambiaba de forma sospechosamente entre fotogramas, a Jorge Taiana, candidato de Fuerza Patria en la Provincia de Buenos Aires, le hicieron decir que renunciaba a su candidatura. La Fiscalía Nacional Electoral registró 31 denuncias vinculadas a esos dos videos. También hubo denuncias por videos falsos protagonizados por Axel Kicillof y Javier Milei. En junio de ese mismo año, un video del gobernador Llaryora realizado con IA fue difundido por el diputado radical Rodrigo de Loredo, y también encendió la polémica en la política cordobesa.
Los deepfakes no afectan de manera pareja a todos los actores políticos. Afectan desproporcionadamente a quienes dependen de la evidencia, los datos y la trazabilidad de los hechos para sostener sus posiciones, y benefician estructuralmente a quienes basan su legitimidad en la fe personal y el vínculo emocional con sus seguidores. En los términos clásicos de Max Weber, la legitimidad carismática gana terreno sobre la racional-legal cuando el suelo común de los hechos se vuelve resbaladizo. Si todo puede ser falso, lo único que queda es ver a quién se le cree (y se le cree, por lo general, a quien ya se le quería creer). Cuando el PRO denunció el deepfake de Macri en mayo de 2025, su línea de defensa fue institucional: presentación ante el Tribunal Electoral, intervención del Ministerio Público Fiscal, invocación del artículo 140 del Código Electoral Nacional. La respuesta de Javier Milei fue de otro orden: "Macri está hecho un llorón y está muy de cristal", dijo después de votar. El mismo estilo se observa, con otras escalas, en figuras como Trump, Bolsonaro o Bukele: el escándalo factual rebota contra una capa de identificación afectiva que la evidencia no logra penetrar. No es que los deepfakes produzcan ese tipo de liderazgo, pero le son muy funcionales: cuanto más confuso es el paisaje de los hechos, más decisivo se vuelve el vínculo personal y emotivo.
Sin embargo, la perspectiva apocalíptica también tiene su detractores. En un artículo publicado por la revista Synthese y titulado “Deepfakes and the epistemic apocalypse”, Joshua Habgood-Coote cuestiona la visión alarmista de los deepfakes como un evento catastrófico que destruirá nuestra capacidad de conocer la realidad. El autor sostiene que el impacto de estos videos se exagera debido a una falsa interpretación histórica, ya que la manipulación de imágenes a través de la posproducción existe y se gestiona socialmente desde los inicios de la fotografía. En lugar de ver el problema como un desafío puramente tecnológico, el autor propone entenderlo como una crisis de normas sociales y prácticas institucionales: “Si centramos nuestra atención en las prácticas sociales relacionadas con la producción, el procesamiento y la difusión de grabaciones [...] podemos constatar que la idea de una época dorada en la que las grabaciones representaban el mundo con absoluta precisión es una ficción. Por supuesto, no debemos sustituir una visión excesivamente optimista de la historia por un pesimismo generalizado: la cuestión es que la historia de las grabaciones es compleja y abarca prácticas sociales tanto fiables como poco fiables”, escribe Habgood-Coote.
Un deepfake en el marco de meses de memes, cuentas coordinadas, noticias falsas menores, chistes que instalan enfoques opera en un nivel más sutil, construyendo atmósfera, seteando agenda y produciendo tendencias de opinión.
Por otro lado, una mirada más integral del caso Macri-Lospennato nos permite analizar este tipo de fenómenos y cómo opera en la formación del voto. Según un informe de la consultora Enter Comunicación, al momento en que fue dado de baja, el video ya había tenido 14 millones de impresiones y la interacción de 85 mil usuarios. El número es contundente, pero la posición de PRO frente al caso subestimó a sus propios votantes, y su capacidad para discernir la falsedad de lo dicho. El video era bastante burdo para quien lo mirara con atención. Pero si un deepfake aislado puede tener un impacto marginal en la formación del voto, hay que prestar atención al ecosistema general para rastrear el impacto. La credibilidad del mensaje es lo que genera un ruido de fondo, un efecto residual. No necesita ser creído, sino ser creíble para funcionar. Un deepfake en el marco de meses de memes, cuentas coordinadas, noticias falsas menores, chistes que instalan enfoques opera en un nivel más sutil, construyendo atmósfera, seteando agenda y produciendo tendencias de opinión.
Así como es innegable que la IA abrió una caja de Pandora, tal vez los deepfakes traigan también soluciones a la crisis de credibilidad que vienen arrastrando las democracias occidentales desde hace años. Como ilustra la remanida metáfora del martillo, que puede servir para clavar un clavo o partir un cráneo, caer en el alarmismo extremo es ignorar que toda nueva tecnología siempre tiene sus aspectos positivos. Si dejamos de lado la paranoia, la IA generativa ofrece novedades que podrían hacer que el sistema político sea más cercano a las personas.
En primer lugar, el salto en la accesibilidad política puede ser radical. Imaginen por un segundo que son votantes de una minoría étnica históricamente ignorada por el discurso oficial, en un país con multiplicidad de idiomas o dialectos, acostumbrados a escuchar a los candidatos políticos hablar en lenguajes que no los representan ni los interpelan. La posibilidad para esas minorías de escuchar a un gobernante contar sus propuestas en su lengua nativa, en tiempo real, significa un cambio mucho más profundo que de formas. Parece ficción, pero no lo es: en India, los políticos ya están utilizando grabaciones de audio y vídeo manipuladas digitalmente para hablar en los 22 idiomas oficiales y más de 700 no oficiales del país, y enviar mensajes personalizados a las diferentes comunidades. El propio primer ministro Modi (BJP) usa desde 2022 una herramienta llamada Bhashini, integrada en su app NaMo, para traducir los discursos a 8 idiomas regionales.
La IA podría convertirse también en un puente que permita saltar las limitaciones físicas que alejan a los representantes de los representados. Con los avances actuales y la perspectiva de futuros desarrollos, no es tan descabellado imaginar avatares virtuales de políticos reales que conversen con cada uno de nosotros en videollamadas personales, y contesten nuestras preguntas en tiempo real.
Por otro lado, los mismos mecanismos de las deepfakes parecen una interesante oportunidad para las organizaciones políticas de difundir sus ideas y acercar a los jóvenes a la formación cívica o a la enseñanza de la historia de una manera más interactiva, que permita revivir a personajes o hechos históricos para explicar procesos, conceptos o acontecimientos con mayor empatía y cercanía con la actualidad.
Especialmente en regímenes autoritarios, los videos manipulados digitalmente se están convirtiendo en una herramienta potentísima en la lucha política contra las autoridades, así como una forma de proteger la identidad de disidentes mediante el uso de rostros y voces sintéticas que les permitan mantener el anonimato mientras denuncian abusos del poder. El caso más documentado es el del documental Welcome to Chechnya (HBO, 2020), del director David France, sobre la persecución sistemática de personas LGBT en Rusia. France necesitaba mostrar los testimonios de los sobrevivientes en cámara (el rostro, los gestos, la emoción), pero exponerlos era condenarlos a muerte. La solución fue usar deepfakes consentidos: los rostros de 23 activistas voluntarios fueron superpuestos digitalmente sobre los cuerpos de los sobrevivientes chechenos, preservando la expresividad facial completa pero ocultando la identidad. En Venezuela, algunos colectivos de derechos humanos comenzaron a usar avatares sintéticos para que familiares de presos políticos pudieran testimoniar torturas sin sufrir represalias.
Por último, la dificultad para confirmar dichos y hechos podría ser una motivación de la ciudadanía para demandar una mayor información. Los desafíos que los videos manipulados digitalmente significan para nuestras democracias son importantes, pero el reverso de la moneda podría ser una sociedad más activa informacionalmente, más escéptica pero con mejores herramientas para el chequeo de datos.
En los últimos años empieza a decantar un consenso: regular esto es difícil, pero no hacerlo es peor. La tentación de delegar el problema en las plataformas (que decidan ellas qué bajar y qué dejar) ya mostró sus límites: Facebook se negó en 2019 a retirar el video manipulado de Pelosi, y su vicepresidenta Monika Bickert lo justificó ante CNN diciendo que la prioridad de la compañía era que los usuarios pudieran "tomar una decisión informada"; en otras palabras, etiquetar lo falso pero no eliminarlo. X, bajo gestión de Elon Musk, desmanteló buena parte de su equipo de moderación. Y en el caso porteño de mayo de 2025, fueron necesarias dos horas para que los videos de Macri y Lospennato dejaran de circular (dos horas que, en plena veda, son una eternidad).
La conclusión es que la autorregulación privada, sin marco estatal vinculante, no alcanza. Lo que aparece en cambio en distintas jurisdicciones (con velocidades, alcances y filosofías distintas) es un mismo movimiento: que el Estado fije reglas claras sobre transparencia, responsabilidad y tiempos de reacción, y que las plataformas operen dentro de esas reglas, no por encima de ellas.
El modelo más avanzado hoy es el europeo. El Reglamento de Inteligencia Artificial de la Unión Europea (el llamado AI Act, vigente desde agosto de 2024 y con sus obligaciones de transparencia plenamente aplicables a partir del 2 de agosto de 2026) establece en su artículo 50 una obligación que cambia el piso del debate: todo contenido generado o manipulado por IA debe estar etiquetado como tal, en formato visible para el usuario y en formato legible por máquina (mediante marcas de agua, metadatos o sistemas de procedencia criptográfica). La obligación recae sobre dos actores complementarios: los proveedores de los sistemas de IA, que deben incorporar el marcado técnico imperceptible en el origen, y los desplegadores (es decir, quienes usan esos sistemas para generar y difundir contenido), que deben aplicar el etiquetado visible. La filosofía detrás del esquema es importante: la responsabilidad no recae exclusivamente sobre el usuario final que debe "aprender a detectar" un deepfake (tarea cada vez más imposible) sino sobre toda la cadena de valor que produce el contenido sintético. Quien fabrica la herramienta y quien la usa profesionalmente comparten la carga; el ciudadano queda como destinatario de información etiquetada, no como periodista amateur.
El modelo más avanzado hoy es el europeo (...): todo contenido generado o manipulado por IA debe estar etiquetado como tal, en formato visible para el usuario y en formato legible por máquina.
Argentina llega a esta discusión con un marco fragmentado y reactivo, pero no en blanco. El artículo 140 del Código Electoral Nacional, sancionado mucho antes de la era de los deepfakes, ya prevé penas de dos meses a dos años de prisión para quien induzca con engaños a votar o abstenerse de hacerlo, y fue justamente esa figura la que invocó el Tribunal Electoral porteño en el caso Macri-Lospennato. La Cámara Nacional Electoral, por su parte, dictó una acordada que reconoció los desafíos de las plataformas digitales para la integridad electoral, e impulsó en 2025 el "Compromiso Ético Digital", un pacto voluntario entre partidos, empresas tecnológicas y entidades periodísticas. La jueza federal María Servini, en el marco de un amparo presentado por el constitucionalista Andrés Gil Domínguez, le exigió al Poder Ejecutivo informar qué acciones concretas había tomado para prevenir el uso malicioso de IA en las elecciones de octubre de 2025.
En el Congreso, los proyectos se acumulan: Silvia Lospennato propuso multas de hasta 130 millones de pesos para quien difunda contenido sintético engañoso en campaña. Oscar Agost Carreño impulsó otro para inhabilitar como candidatos a quienes participen en estas maniobras y dar celeridad a la acción de la justicia para disminuir el impacto. Juan Brügge propuso modificaciones al Código Penal con penas de cuatro a ocho años de prisión para la generación no consentida de deepfakes. Y, quizás el más interesante por su foco procesal, Gisela Marziotta presentó un proyecto de Ley que crea una acción de amparo especial para que cualquier persona afectada por un contenido falso pueda exigir su retiro inmediato: el juez debe resolver en un plazo máximo de 24 horas, incluso en días inhábiles, y puede ordenar el bloqueo, retiro o desindexación del contenido mientras tramita la sentencia, con multas diarias e incluso suspensión temporal de la plataforma en caso de incumplimiento.
Lamentablemente, ninguno de estos proyectos avanzó a la fecha. La sensación general, como sucede con casi todos los aspectos vinculados con la IA, es la de un Estado que va detrás de los hechos.
De cara a 2027, hay tres cosas que el debate público argentino podría dejar de postergar. La primera es la más urgente y la más sencilla: una norma específica que obligue al etiquetado de contenido generado con IA en períodos de campaña, con sanciones efectivas no solo para los autores anónimos (casi siempre inhallables) sino para los partidos, dirigentes y figuras públicas que compartan ese contenido a sabiendas. La existencia del marco legal no garantiza, por sí sola, que el costo recaiga sobre el infractor. En el plano local, el caso ya citado de Rodrigo de Loredo, y el de Manuel Adorni, difundiendo en agosto de 2025 un video editado y descontextualizado de una entrevista a Kicillof en Futuröck (replicado por Javier Milei desde la cuenta presidencial una hora más tarde) muestran que también es necesario alcanzar a quien amplifica desde una posición institucional. Cualquier norma que no contemple esa cadena de responsabilidad será cosmética.
La segunda es estructural y requiere reformar la justicia electoral en clave de tiempo real. El Tribunal Electoral porteño respondió solicitando la baja de los videos de Macri y Lospennato, pero el daño ya estaba hecho. El proyecto de Marziotta apunta exactamente en esa dirección, pero el plazo de 24 horas puede ser largo cuando un deepfake circula en la víspera de la elección. Hay que pensar mecanismos que operen en minutos, no en horas: salas de guardia digital durante la veda, convenios preexistentes con las plataformas para la remoción inmediata de contenido judicialmente declarado falso, y un sistema de réplica pública oficial (desde la propia justicia electoral, no desde el partido afectado) que llegue al mismo público que vio la pieza original. El estándar no puede ser que el desmentido aparezca en una conferencia de prensa al día siguiente: tiene que estar en el mismo feed donde el votante vio el deepfake, antes de que entre al cuarto oscuro.
Hay que pensar mecanismos que operen en minutos, no en horas: salas de guardia digital durante la veda, convenios preexistentes con las plataformas para la remoción inmediata de contenido judicialmente declarado falso, y un sistema de réplica pública oficial.
La tercera es la más lenta, pero no menos importante: alfabetización mediática como política pública sostenida, no como spot de campaña institucional dos semanas antes de la elección. El AI Act europeo incluyó desde febrero de 2025 una obligación específica de "alfabetización en IA" para los Estados miembros, dirigida tanto al sector educativo como al laboral. En Argentina, la Cámara Nacional Electoral comenzó tímidamente en septiembre de 2025 con campañas de "formación cívica y educación digital", pero el esfuerzo es marginal frente a la escala del problema. Una ciudadanía entrenada en distinguir lo que puede y no puede creer no es una solución técnica al problema del deepfake (no la hay) pero sí una defensa de fondo contra el problema de la deslegitimación generalizada. Cuando los ciudadanos saben que existen herramientas para verificar, y conocen al menos algunas, la coartada del "todo es falso" pierde poder.
La pregunta que se abre rumbo a 2027 no es si vamos a tener deepfakes en la campaña: los vamos a tener, más y mejores. La pregunta es si vamos a llegar con un marco institucional, judicial y cívico capaz de absorberlos, y con una sociedad preparada para procesarlos sin que nuestro sistema político pierda, en el camino, más legitimidad. Sin embargo, vale la pena no dejarse llevar por los terrores que despiertan estas (como muchas otras) nuevas tecnologías. Como señaló Habgood-Coote, los deepfakes son apenas la última versión de un problema más viejo, y el estudio de estos fenómenos en el pasado tal vez nos traiga algunas respuestas.
