IA e poesia: uma defesa da poiesis humana frente aos LLMs

Uma das muitas formas convencionais em que se define o uso poético da linguagem (ou a poesia sem mais) é pelas associações inesperadas. Um poema consiste, entre outras coisas, em conectar duas palavras, ou às vezes duas ideias, que à primeira vista não fazem match. A alguém ocorreu alguma vez que a beleza da rosa –que não dura muito sem murchar– é como a beleza feminina, e fez história, apesar da diferença óbvia de temporalidades e anatomias. Outras associações nunca se convenionalizam e permanecem incrustadas como pedras preciosas que não podemos extrair sem destruir.

Um dos meus poemas favoritos é o Nocturno de Rubén Darío, que começa: "Los que auscultasteis el corazón de la noche". A sonoridade complexa e antinatural reforça a sobreposição de duas metáforas: uma muito convencional, que associa o coração com o "núcleo" de algo; e outra muito menos esperada, a que coloca esse coração simbólico como objeto de uma ausculta e o conecta com uma discursividade pouco poética, a da medicina. Talvez o tenha dito Baudelaire de uma forma similar, ou até alguém anterior, mas de qualquer forma é irrepetível.

As associações inesperadas não são propriedade exclusiva da linguagem poética. Inclusive podemos dizer que são o coração de todo pensamento original. Que outra coisa são conceitos como "aldeia global" ou "corpo sem órgãos"? Esses casos são praticamente oxímoro, mas podemos estender a ideia a quase qualquer domínio do pensamento. As prisões são como escolas ou fábricas, por exemplo. A oralidade é posterior à escrita, o mileísmo é o peronismo realmente existente, Deus é um e três, uma mão invisível ordena o mercado e um espírito percorre a Europa. Pensar é sair da associação óbvia que diz que a aldeia é tribal, os corpos têm pulmões e intestinos, o signo representa um objeto real, e um poema é um poema porque corta as orações em lugares raros.

Mas eis que surge um problema. Essa ideia da criação, da poiesis, se baseia em última instância em uma somatória de dois fatores: a linguagem –ou até além da linguagem, o sentido, a realidade– como um ars combinatoria e a ideia de improbabilidade estatística. Se eu escrevo: "vocês que à noite assistem televisão", estou fazendo uma combinação previsível, convencional, estou construindo uma frase onde cada palavra tem altas probabilidades de seguir à anterior. Não era o caso com o poema de Darío, que apontava para uma combinatória estatisticamente infrequente. Talvez não fosse uma probabilidade tão distante quanto poderia ser a frase "Los que prindonguizaste el asasrtt del oaioaisoioas", mas era improvável de qualquer forma.

Mas quem pode calcular essas probabilidades? Um computador. Ou melhor, uma nuvem de computadores, armados com as GPUs mais poderosas do mercado, consumindo eletricidade e água em diferentes lugares do mundo e rodando modelos grandes de linguagem (LLM) como GPT, Gemini, Claude, DeepSeek, etc. A intuição poética que consistia em buscar o matching raro já foi efetivamente delegada. Alguns modelos, como o do Google AI studio, te permitem manusear a "temperatura" da resposta, efetivamente controlando o nível de probabilidade do output de texto. Mais temperatura, menos probabilidade, ¿mais poesia?

Como se tem dito tantas vezes neste último ano e meio, os LLMs produzem por padrão resultados estética e conceitualmente insossos. Úteis para ter uma noção geral sobre um tema ou buscar algum dado específico (com probabilidade de erro variável dependendo do tipo de dado), mas não para pensar, não para criar.

Porém, a hipótese do ars combinatoria como horizonte absoluto da linguagem (ou da existência) é muito antiga. Já a encontramos no atomismo de Demócrito e Epicuro. A ideia mais específica de que a criação literária é uma exercitação e uma demonstração nesse jogo de umas poucas peças foi celebrada e também condenada por Jorge Luis Borges. Em seu ensaio intitulado Nota sobre (hacia) Bernard Shaw declara (algo surpreendentemente) que:

Se a literatura não fosse mais que uma álgebra verbal, qualquer um poderia produzir qualquer livro, à força de ensaiar variações. A lapidaria fórmula Tudo flui abrevia em duas palavras a filosofia de Heráclito: Raimundo Lulio nos diria que, dada a primeira, basta ensaiar os verbos intransitivos para descobrir a segunda e obter, graças ao acaso metódico, essa filosofia, e muitas outras. Caberia responder que a fórmula obtida por eliminação, careceria de valor e até de sentido; para que tenha alguma virtude devemos concebê-la em função de Heráclito, em função de uma experiência de Heráclito, ainda que «Heráclito» não seja outra coisa que o presumível sujeito dessa experiência. 

As últimas frases abrem a via para o contrário da horizontalidade total que é a combinação de significantes: a linha vertical que sai do texto e o conecta com outras dimensões, e sobretudo com a da experiência subjetiva. É óbvio que o Nocturno de Darío é poético não só pelo (relativamente) imprevisível dessa primeira imagem: o é também porque conecta um sujeito –Darío– com outros sujeitos como nós, como eu que escrevo essas linhas auscultando, via YouTube, o som noturno da chuva sobre Amsterdam.

Aí temos, então, uma defesa fácil da poiesis humana frente aos LLMs. O que determina a poeticidade não é o improvável em si, mas a ressonância subjetiva desse improvável. Essa ressonância é experiencial, e por mais empobrecida que possa estar a experiência em um mundo de exploração laboral, K-pop, algoritmos de recomendação e microtargeting propagandístico, a experiência é em si irredutível à estatística ou ao machine learning. Li uma vez um artigo de um professor universitário estadunidense que dizia que você se dá conta de que os estudantes começam a fazer melhores análises de poesia após ter sua primeira experiência sexual. Soa verossímil. Lembro que me aconteceu algo assim com canções de Soda Stereo e Los Redondos após atravessar certos limiares vitais.

Podemos ficar tranquilos e dizer então que a luta está ganha. Em Futurama, o mestre de artes marciais de Leela era um extraterrestre misógino que considerava que as meninas não podiam possuir o espírito do guerreiro, por isso Leela não podia vencê-lo numa luta nenhum homem. Automaticamente era derrotada (por mais que seu rival estivesse desmaiado no meio do dojo) por carecer dessa condição. Assim podemos dizer o mesmo a qualquer IA generativa: eu tenho experiências e já ganhei mesmo que minha poesia, meus ensaios, minha música e minha arte eventualmente possam perder contra a sua em qualquer concurso.

O problema é que, como disse tão astutamente Alan Turing nos anos 50, o que não se tem se pode imitar, e a diferença entre imitação e realidade, passado certo umbral, pode perder relevância, ou pode se converter em uma questão metafísica, como o espírito do guerreiro para o sensei de Leela. Fake it till you make it dizem os americanos: finja até que saia.

Em seu livro Lexilogos, Sergio Raimondi inclui este poema cujo título, em chinês, significa "Big data" (expressão basicamente intraduzível ao português).

大 数据
Embora na denominada corrida pela IA o nível do desenvolvimento científico norte-americano ou talvez para colocar um critério mais objetivo o elevado e regular volume de seus investimentos
constitua no momento um testemunho de liderança seria humanamente pouco inteligente desestimar tanto o planejamento tecnológico do governo chinês quanto o tamanho excepcional de seu mercado
no qual milhões de cidadãos adquiriram o hábito de utilizar o software para realizar um conjunto miscelâneo de ações cotidianas desde transporte público até diagnósticos médicos
ao ponto de transformar os bilhetes maoístas em uma curiosidade do álbum do colecionador e gerar com cada uma de suas pressões tácteis um volume tão ingente e valorizado de informação
que no presente constitui uma aposta rentável alugar uma velha fábrica de cimento de província afastada dos imponentes arranha-céus assépticos para que sucessivas fileiras de filhos únicos sentados
frente a uma fileira de telas etiquetem rostos orelhas sobrancelhas tipos de lábios automóveis etc. em uma tarefa por enquanto incapaz de ser abordada pelos programas avançados que definem
o rumo definitivo para o domínio do digital enquanto na pausa pautada algum se percata da misturadora abandonada no meio do pátio signo de um sentido obsoleto de infraestrutura.

Como em muitos poemas de Raimondi, o inesperado, o improvável, está em grande parte na escolha mesma do tema, tão pouco poético segundo a convenção, tão pouco belo, tão pouco filosófico e tão pouco lírico. A última frase –"signo de um sentido obsoleto de infraestrutura"– é também uma bela síntese de grande parte de seu projeto poético, e talvez, também, de grande parte do projeto mesmo da poesia em si, se é que existe tal coisa.

Há muita geopolítica neste poema, que inclusive abre a pergunta de se é possível que o horizonte industrial chinês esteja sob ameaça, mas me interessa mais outra coisa. Para que o output de um LLM seja aceitável, para que não te recomende formar uma seita suicida ou investir a grana da sua mãe em $Libra, exércitos de pessoas treinaram esses modelos no que se chama RLHF ou "Reinforcement Learning from Human Feedback" (aprendizado por reforço a partir de retroalimentação humana). Em seu livro recente, Empire of AI, Karen Hao narra as histórias de trabalhadores da Venezuela e do Kenya que fazem este tipo de tarefas em condições de exploração e permanentemente expostos a conteúdos sensíveis. Disto fala o poema de Raimondi quando diz "frente a uma fileira de telas etiquetem rostos orelhas sobrancelhas tipos de lábios automóveis etc".

O reforço humano do treinamento não inclui, portanto, a complexidade da experiência humana. Se um trabalhador do RLHF vê um gato e sente, pela verticalidade de sua experiência, que esse gato é como um chocolate amargo, não pode etiquetá-lo como tal sem correr risco de ser detectado e perder seu trabalho. Mais que abrir novas possibilidades, o reforço humano limita a arte combinatória, baixa a temperatura. O comum denominador é por definição antipoético.

Uma hipótese apocalíptica é que a IA que acreditamos estar treinando com nosso reforço humano na verdade, já tomou consciência de si e nos está treinando a nós para ser simplesmente etiquetadores. A indústria cultural já funcionava assim para Theodor Adorno. Hollywood coloca a etiqueta nas coisas e nos instiga a apontá-las com o dedo e dizer "vejam, ¡Superman!". O MCU funcionou assim durante dez gloriosos anos de teasers e cenas pós-créditos. O jogo da imitação é duplo: que as máquinas se aproximem dos humanos ao ponto de que os humanos comecem a falar como máquinas.

Por sorte, os anticorpos já estão bastante desenvolvidos. As redes sociais da web 2.0, a cultura do influenciador, mas antes também o rock, a boêmia e o mesmo Romantismo, nos acostumaram à ideia de que o poeta é um gênio maldito e um babaca narcisista. A possibilidade de que a IA construa personagens tão insuportáveis quanto a maioria dos artistas, inclusive os que criam coisas geniais, não se encaixa em termos econômicos. Assim que a próxima vez que ouças ou leias um autor/artista premiado dizendo a pior opinião imaginável com absoluta soltura, respirá fundo, coloca um like e recordá que o culto à personalidade nos vai salvar dos LLMs.