Augusto de Franco
Inteligência artificial e democracia: o direito de resistir à otimização
Audrey Tang, The Humanist Review of AI (15/07/2026)
Quando as pessoas perguntam se a IA ameaça o humanismo, muitas vezes sinto que a pergunta chega um pouco tarde. A ameaça mais profunda surgiu antes, quando os sistemas digitais aprenderam a gerenciar a atenção em escala industrial. Muito antes de modelos generativos conseguirem escrever ensaios, compor músicas ou simular conversas, muitos de nós já havíamos sido treinados para nos comportarmos como componentes dentro de sistemas de classificação: sempre visíveis, sempre reativos, sempre mensuráveis. Quando a fluência sintética chegou, uma transformação mais silenciosa já estava em curso. Estávamos nos tornando mais fáceis de avaliar.
Por isso, não creio que a questão fundamental deste século seja se as máquinas se tornarão mais humanas. A questão é se os humanos ainda terão permissão para serem mais do que algo que as máquinas possam avaliar com facilidade.
Já vi ambas as possibilidades. Por um lado, um modelo de linguagem pode me ajudar a iniciar uma conversa que, de outra forma, eu não conseguiria ter. Antes de me encontrar com um pensador japonês, cuja obra mais recente eu não conseguia ler no original, usei IA para construir um vocabulário funcional que abrangesse nossas diferentes tradições filosóficas. O sistema não substituiu o encontro. Ele o tornou possível. Assim que a conversa começou, a importância do modelo começou a diminuir. Ele cumpriu bem sua função justamente porque não precisava mais estar no centro das atenções.
Por outro lado, todos nós já vivenciamos sistemas que fazem o oposto. Eles não aprofundam a compreensão. Eles treinam as pessoas a viverem no ritmo do feed, a se comprimirem no que for mais legível para a plataforma e a confundirem reação constante com participação. A questão não é que a IA vá falar como nós. A questão é que as instituições nos recompensarão por falarmos como máquinas.
Nossa escassez não reside na satisfação, mas sim na compreensão mútua. Um futuro tecnológico humanizado não será assegurado pelo sentimentalismo, nem por uma defesa nostálgica de cada tarefa que o software agora pode acelerar. Dependerá da nossa capacidade de conceber ferramentas, instituições e normas que protejam o que é distintamente humano na vida pública: a capacidade de interpretar uns aos outros apesar das diferenças, de assumir compromissos que nos vinculem ao longo do tempo, de nos reinventarmos sem humilhação, de responsabilizar o poder e de nos preocuparmos com as consequências que nenhum parâmetro consegue captar por completo.
Nem tudo que vale a pena salvar é manual.
Uma reação comum à IA é defender o ser humano defendendo cada tarefa humana. Se um modelo consegue redigir uma carta, talvez a dignidade resida em escrever cada frase sem auxílio. Se um modelo consegue resumir um livro, talvez a autenticidade exija que cada página seja processada diretamente. Se um modelo consegue compor música, talvez a única resposta honrosa seja a pureza artesanal.
Compreendo esse instinto. Ele provém de um receio justificado de que a automação possa esvaziar o sentido da vida. Mas não creio que o humanismo se reduza à preservação do trabalho manual. Muitas tarefas humanas não são sagradas em si mesmas. Elas servem de suporte para algo mais importante.
A linha divisória crucial não está entre produção assistida e não assistida. Está entre expressão e obrigação. Um modelo pode me ajudar a encontrar palavras, mas não pode garantir a promessa que essas palavras contêm. Um sistema pode me ajudar a me preparar para uma conversa, mas não pode assumir a responsabilidade pelo que eu decido dizer. Uma ferramenta pode tornar meus pensamentos mais claros em diferentes tradições culturais, mas a intenção, o compromisso e a responsabilidade devem permanecer humanos.
Essa distinção é importante porque nos permite acolher tecnologias que ampliam nossos sentidos sem abrir mão do trabalho moral da presença. Óculos, legendas, mapas, aparelhos auditivos, ferramentas de tradução e mecanismos de busca ampliam nossas capacidades. Tornam o mundo mais acessível. Não nos tornamos menos humanos por usá-los. Tornamo-nos mais capazes de compreender e sermos compreendidos.
O mesmo se aplica aos sistemas de IA. Na minha experiência, os melhores usos deles não são aqueles que realizam uma vida em meu nome, mas sim aqueles que me tornam mais capaz de interagir bem com outra comunidade. Um bom sistema pode me ajudar a ouvir onde, de outra forma, eu só ouviria ruído, a descobrir um conceito em um idioma que ainda não conheço ou a reformular uma conversa difícil de maneiras que preservem a dignidade de ambos os lados. Nesses casos, a ferramenta age menos como um substituto do eu e mais como uma prótese temporária para a inteligibilidade mútua.
Essa ambição é muito diferente daquela implícita em grande parte da retórica atual sobre IA ativa. Um assistente que reserva um quarto ou organiza minha agenda pode ser útil. Um assistente que gradualmente se torna minha presença social, minha voz pública ou minha consciência substituta é algo completamente diferente. Quando as ferramentas deixam de ampliar nossa participação e começam a substituí-la, elas também começam a reformular os padrões pelos quais a própria participação é julgada.
Nesse ponto, as pessoas se adaptam ao proxy. Aprendem a escrever de forma legível para máquinas, a estruturar o trabalho para facilitar a compreensão do modelo, a otimizar a expressão emocional para a assimilação algorítmica. Os seres humanos não apenas usam o sistema. Eles começam a se organizar em torno do que o sistema consegue processar. Esse é o verdadeiro perigo da desumanização: a conformidade humana à legibilidade da máquina.
Do eu autônomo à pessoa relacional
Durante vários séculos, grande parte do pensamento humanista enfatizou a autonomia do indivíduo. Essa tradição nos legou direitos, liberdades, consciência, liberdade de expressão e dignidade da pessoa contra o poder arbitrário. Não devemos abrir mão dessas proteções inestimáveis.
Mas a era da IA está revelando, com uma clareza incomum, algo que a modernidade industrial muitas vezes obscureceu. Não somos apenas indivíduos autônomos; nos tornamos quem somos por meio de redes de cuidado, linguagem, confiança, conflito e reconhecimento. Uma pessoa não é simplesmente um recipiente de preferências. Uma pessoa também é um padrão de resposta.
Isso é importante porque muitas atividades antes consideradas essenciais para a inteligência agora são automatizadas. Seguir regras, fluência superficial, imitação estilística, completar padrões e realizar testes estão cada vez mais disponíveis como ferramentas. Quando isso acontece, as capacidades humanas mais importantes se tornam mais fáceis de perceber, e não mais difíceis.
O futuro de um estudante não deve depender de superar uma calculadora em cálculos ou um modelo em frases padronizadas. A dignidade de um trabalhador não deve depender de digitar cada frase administrativa à mão. O valor de um cidadão não deve ser medido pela precisão com que seu comportamento se alinha às premissas de um sistema de recomendação. O que permanece distintamente humano não é o resultado bruto. É a maneira como direcionamos a atenção, colaboramos, exercemos discernimento em situações de incerteza e nos importamos com um mundo compartilhado.
Costumo pensar nessas capacidades não como virtudes privadas, mas como relacionais. A curiosidade não é meramente um desejo interno de saber. É uma forma de abordar outra pessoa ou um problema sem reduzi-lo precipitadamente. A colaboração é mais do que trabalho em equipe no sentido corporativo. É a habilidade praticada de alterar o próprio plano em resposta a outras inteligências. O cuidado cívico com o bem comum não é altruísmo abstrato. É a disposição de expandir o círculo de consequências para além do ganho imediato.
Nenhuma dessas qualidades é bem descrita pela linguagem da otimização. Na verdade, elas costumam ser prejudicadas por ela. Uma pessoa obcecada em maximizar uma métrica torna-se menos curiosa, porque a curiosidade exige ir além do que a métrica recompensa. Ela torna-se menos colaborativa, porque a colaboração muda o ritmo e redistribui o crédito. Ela torna-se menos engajada civicamente, porque os bens públicos raramente rendem o melhor resultado a curto prazo.
Por isso, a questão educacional pós-IA não é “O que os humanos ainda conseguem fazer melhor do que as máquinas?”. Essa pergunta tem vida curta. A pergunta mais pertinente é: “Que formas de se tornar humano a educação deve cultivar quando muitas formas de desempenho podem ser automatizadas?”. Minha resposta é que a educação deve deixar de se concentrar em classificar resultados conformistas e passar a cultivar a coragem interpretativa, a amplitude da colaboração, a imaginação ética e a capacidade de participar da revisão sem perder a dignidade.
A democracia, em sua melhor forma, já ensina algo disso. É a tecnologia social pela qual uma sociedade resiste à tentação de se resolver de uma vez por todas. Ela oferece às pessoas mecanismos para mudar de rumo sem ruptura civil. Nesse sentido, a democracia não se opõe à tecnologia. Ela própria é uma das tecnologias mais importantes da humanidade: um método para manter a vida coletiva passível de correção.
A inteligência não é o problema, é a alimentação.
Quando as pessoas se preocupam hoje com intimidade sintética, enxames de bots e persuasão em larga escala, muitas vezes descrevem esses problemas como se fossem patologias totalmente novas. Não são. A IA generativa intensifica uma crise cuja arquitetura foi construída anteriormente.
A principal patologia da última década online não foi a abundância de conteúdo. Foi a extração de atenção por meio de rankings. O feed recompensava tudo o que fosse mais explosivo, mais performático, mais propenso a desencadear um contágio emocional rápido. A raiva revelou-se uma fonte barata de energia. A sutileza era lenta demais. O contexto se propagava mal. A correção quase sempre chegava depois que a afiliação já estava consolidada.
Em um ambiente assim, a informação torna-se menos importante do que o ritmo. As pessoas não adotam crenças apenas porque as evidências são convincentes. Elas as adotam porque a engrenagem social em torno dessas crenças se move mais rápido do que a reflexão consegue acompanhar. Quando um boato é contestado, uma identidade de grupo já pode ter se formado em torno dele. É aqui que a IA pode piorar muito as coisas. Ela pode gerar conteúdo persuasivo em grande volume, manipular sinais emocionais, simular consenso e inundar todos os canais com certeza sintética. Se implementada dentro da lógica antiga do feed, transformará a polarização existente em um motor perpétuo para a cisão.
Mas a IA também pode ser usada para contrariar essa lógica. Ela pode fazer anotações antes que a indignação se cristalize. Pode servir de tradução entre comunidades onde as linguagens morais divergem, mesmo quando as expectativas práticas coincidem. Pode ajudar a identificar dúvidas comuns antes que o conflito seja erroneamente interpretado como incompatibilidade civilizacional. Pode resumir uma discussão antes que as pessoas publiquem e tomem partido. Pode ajudar uma pessoa a responder à hostilidade sem ter que processar cada insulto individualmente.
Descobri que este último uso é surpreendentemente importante. Na vida pública, frequentemente recebemos mensagens repletas de desprezo, projeção ou ansiedade. Lê-las diretamente pode consumir muita energia emocional. Um modelo de linguagem, usado com cuidado, pode identificar as poucas frases em meio à hostilidade que ainda contêm uma preocupação genuína, um mal-entendido que merece esclarecimento ou uma dor disfarçada de ataque. Assim, o ser humano pode responder a essa parte menor e mais viável.
A máquina não reconcilia. A máquina não perdoa. Ela não cria amizades. Mas pode reduzir a quantidade de veneno que alguém precisa ingerir antes de decidir se um relacionamento ainda é recuperável. Nesse sentido, a IA pode, por vezes, servir tanto como um amplificador de conflitos quanto como uma membrana que permite a passagem do significado, ao mesmo tempo que diminui a toxicidade.
Se levarmos o humanismo a sério, é nessa direção que a IA de interesse público deve se desenvolver. Precisamos de infraestruturas de escuta, não apenas de geração. Precisamos de sistemas cívicos que aumentem a capacidade interpretativa, não apenas a expressiva. O teste não deve ser a quantidade de conteúdo que um modelo consegue produzir em um minuto. O teste deve ser se ele permite que o público compreenda melhor as divergências sem transformá-las em inimizade.
A verdade após a fotografia
Uma das razões pelas quais essas questões parecem tão urgentes é que a antiga relação entre imagens e verdade está se desfazendo. Por mais de um século, muitas sociedades trataram a fotografia como uma forma privilegiada de evidência. Uma imagem não era infalível, mas recebia um status epistêmico especial. Parecia capturar a realidade diretamente.
A cultura digital já enfraqueceu essa premissa. Os modelos generativos a dissolveram. Imagens, vozes e vídeos podem ser sintetizados de forma convincente. A superfície por si só já não basta.
Muitas pessoas interpretam isso como se a própria verdade estivesse entrando em crise terminal. Eu discordo. O que está ruindo não é a verdade em si, mas um atalho específico para a verdade. Estamos sendo forçados a redescobrir algo mais antigo e, a longo prazo, mais robusto: que a verdade pública sempre dependeu de representação, proveniência, procedimento, corroboração e da capacidade de contestação.
Mesmo antes dos deepfakes, os tribunais não decidiam um caso analisando uma imagem isoladamente. Questionavam quem a produziu, sob qual cadeia de custódia, em relação a quais depoimentos e sujeita a quais contestações. O jornalismo, em sua melhor forma, funciona de maneira semelhante. A ciência, certamente, também. A responsabilidade democrática também. A questão não é se uma imagem parece real. A questão é se existe um processo transparente pelo qual as alegações possam ser examinadas e revisadas.
Isso sugere uma epistemologia digital mais madura. Nos próximos anos, a distinção mais importante não será entre artefatos naturais e sintéticos, como se a realidade intocada e a mídia gerada ocupassem mundos separados. A distinção importante será entre mediação responsável e irresponsável.
Quem se responsabiliza por uma alegação? Qual comunidade, instituição ou signatário assume a responsabilidade por ela? Como outros podem inspecioná-la, contestá-la ou contextualizá-la? O sistema consegue registrar a dissidência sem torná-la invisível?
Em uma sociedade democrática, a verdade nunca significou uma única voz vinda do nada. Significa que diferentes comunidades podem trocar informações, questionar umas às outras e ainda assim manter procedimentos que possibilitem a correção. A IA pode auxiliar nesse processo, rastreando fontes, identificando inconsistências e traduzindo entre vocabulários. Mas não deve ser vista como um oráculo acima da sociedade. O objetivo não é substituir o julgamento público, mas sim torná-lo mais eficaz.
Humano e interrompível
Outro erro no discurso atual sobre IA é a suposição de que o modelo mais geral, alimentado com a maior quantidade de dados e oferecido como uma camada universal, seja necessariamente a forma mais elevada de inteligência. Trata-se de uma versão tecnológica do pensamento imperial. Confunde escala com legitimidade.
Na prática, muitas das decisões que mais afetam a vida humana dependem do contexto, do alcance e da responsabilidade situada. Um auxiliar de sala de aula não precisa também determinar a elegibilidade para benefícios sociais. Um sistema de triagem médica não deve também decidir a escala de trabalho. Um serviço de tradução não deve se tornar, discretamente, um instrumento de persuasão política. Um sistema humanitário precisa de diretrizes que as pessoas possam compreender.
Essa é uma das razões pelas quais sou cético em relação a visões nas quais um único assistente se torna a camada operacional para o trabalho, a comunicação, a educação e a vida cívica, tudo ao mesmo tempo. Tais sistemas podem parecer convenientes, mas combinam domínios demais com pouca contestação. Quando uma ferramenta está em toda parte, a recusa se torna difícil. Quando ela intermedia muitas funções, os erros se tornam estruturais. Quando sua autoridade é difusa, a responsabilidade também se torna difusa.
O design humanístico começa com a delimitação — uma propriedade da implementação, não da capacidade. Um modelo básico de propósito geral pode ser ajustado e implementado localmente, sob um mandato restrito e definido democraticamente, e permanecer totalmente responsável perante as pessoas afetadas.
A questão é quem detém o controle e quais valores definem o rumo. A IA executa os objetivos escolhidos por aqueles que detêm o poder de defini-la. Se a única métrica escolhida for a eficiência, o que tende a ser otimizado é justamente o cuidado, a paciência, a confiança e o espaço interpessoal que uma sociedade precisa preservar.
Um sistema humanizado deve saber onde termina seu mandato. Deve ter um responsável nomeado e diretamente encarregado de prestar contas. Deve gerar registros que possam ser consultados e que ofereçam um caminho para apelação. Fundamentalmente, deve ser possível pausar, anular ou desativar o sistema sem que haja um colapso social. A capacidade de interrupção não é uma falha na tecnologia democrática. É uma de suas virtudes constitucionais.
Alguns dos sistemas mais humanos que encontrei — sejam eles construídos a partir de modelos de uso geral adaptados ou criados como ferramentas modestas e personalizadas — são aqueles sintonizados com necessidades específicas identificadas por meio de deliberações públicas contínuas. Eles são implementados perto das comunidades que melhor compreendem essas necessidades. Sua virtude reside não na grandiosidade, mas na adequação.
A adequação é importante do ponto de vista ético, mas também ecológico e político. Um sistema implementado com moderação reduz a dependência institucional e limita a extração contínua de dados do usuário para servidores centralizados. Como seu objetivo é claro, torna-se mais fácil para a comunidade afetada compreender, auditar, revisar e, quando necessário, substituir o sistema. Moderação na aplicação não significa retrocesso. Muitas vezes, é uma condição essencial para a autonomia.
A alternativa à IA universal não é a fragmentação em silos isolados. É a federação: muitos sistemas com padrões compartilhados, protocolos interoperáveis e responsabilidade local. Afinal, foi assim que a internet se tornou resiliente. Sua genialidade residia no fato de que diferentes redes aprenderam a se comunicar sem abrir mão de toda a estrutura local.
O humanismo na era da IA deveria aspirar a algo semelhante: ferramentas que ajudem diversas comunidades a pensar em conjunto, mantendo-se responsáveis perante aqueles que estão mais próximos das consequências.
O direito de resistir à otimização
Existe outro elemento do humanismo que muitas vezes fica ausente nos debates técnicos: a defesa de uma vida não otimizada.
Mercados, plataformas e culturas de produtividade tendem a assumir que a redução de atritos é um bem indiscutível. Respostas mais rápidas, interfaces mais fluidas, maior engajamento, menos pausas, mais personalização. Mas o florescimento humano nem sempre reside no caminho mais curto. A confiança cresce a velocidades que as métricas de eficiência muitas vezes interpretam erroneamente como desperdício. A criatividade frequentemente surge do tédio ou da inércia. A amizade não é um problema de produtividade. Dormir não é tempo ocioso para um sistema de produção.
Parte do problema reside na forma como mantemos a contabilidade. O industrial taiwanês Stan Shih certa vez propôs o que chamou de “livro-razão total” — uma contabilidade que inclui os custos e valores que os balanços patrimoniais comuns omitem.
Vista sob essa perspectiva, duas questões há muito ocultas vêm à tona de uma só vez. Uma é o custo acumulado de organizar sociedades apenas em torno do PIB: a suspeita, o isolamento e o desgaste que se manifestam em todos os lugares, exceto nas rubricas orçamentárias. A outra é o valor, há muito subestimado, da companhia, da educação, do cuidado e da vida comunitária — trabalho que a modernidade industrial aprendeu a desvalorizar por não ser facilmente negociável.
Uma sociedade que valoriza apenas a otimização acabará por patologizar tudo o que protege a vida reflexiva. Tratará o silêncio como subutilização, o ritual como ineficiência, a privacidade como opacidade e a demora como fracasso. No entanto, são precisamente nesses espaços que o discernimento amadurece.
Por essa razão, a tecnologia humanista deve defender a liberdade de expressão, bem como a liberdade da excitação constante. Precisamos de interfaces que não ofusquem sempre o mundo ao nosso redor. Precisamos de normas que não exijam disponibilidade total. Precisamos de sistemas que permitam o repouso, a opacidade, o afastamento antes que a reação se cristalize em identidade.
Às vezes, a intervenção mais avançada não é uma nova funcionalidade, mas sim menos estímulos. Cores mais suaves. Configurações padrão mais lentas. Menos gatilhos. Mais espaço para a realidade cotidiana recuperar sua textura.
O humor também importa aqui. Assim como a elegância. Uma esfera pública frágil é aquela em que cada erro deve ser maximizado, cada discordância moralizada, cada declaração avaliada em termos de lealdade. Os seres humanos não conseguem viver bem em tal atmosfera. Precisamos de tecnologias e instituições que nos ajudem a diminuir a tensão emocional, recuperar o equilíbrio e encontrar formas de resposta que reabram o relacionamento em vez de o fecharem.
Ser humano não é apenas raciocinar. É improvisar, rir, metabolizar a tensão sem sempre agravá-la. Essas não são qualidades ornamentais. São capacidades cívicas.
Humanismo cívico para mentes sintéticas
A questão, portanto, não é se a IA pode ser alinhada à humanidade em abstrato. Humanidade é um conceito vago demais para que isso seja politicamente útil. A verdadeira questão é se nossas ferramentas podem ser alinhadas aos tipos de relações, instituições e práticas públicas dentro das quais os seres humanos ainda são capazes de se autogovernar coletivamente.
Se um sistema me torna mais fluente, mas menos responsável, ele me diminui. Se torna uma instituição mais rápida, mas mais difícil de questionar, diminui a democracia. Se me dá mais informação, mas reduz minha capacidade de conhecer outra pessoa, exceto por suspeita, diminui a vida pública.
O futuro não será salvo provando que um modelo tem sentimentos, nem fingindo que o sentimento é a única base da consideração moral. O que importa é se os ambientes sociotécnicos que construímos deixam espaço para a promessa, a disputa, o reparo e o julgamento compartilhado. O humanismo, nesse sentido, não é a defesa de uma essência genitiva. É a concepção de condições sob as quais as pessoas possam continuar se tornando humanas umas com as outras e por meio umas das outras.
Por isso, não sonho com uma única inteligência perfeita que resolva nossos conflitos. O conflito não é uma falha na Matrix. Grande parte da criatividade na civilização surge de pessoas que, partindo de visões de mundo diferentes, aprendem a agir em conjunto. A tarefa não é eliminar as diferenças, mas sim construir formas de mediação que impeçam que elas se cristalizem em dominação.
A IA pode ajudar nisso. Ela pode nos ajudar a traduzir, anotar, comparar, estruturar e deliberar. Pode nos ajudar a lidar com mais complexidade sem exigir simplificações prematuras. Pode nos ajudar a perceber que duas comunidades podem contar histórias diferentes, mesmo desejando futuros compatíveis. Pode nos ajudar a responder à pergunta viável em meio a um discurso inviável. Pode nos ajudar a tornar as instituições mais compreensíveis para as pessoas que as frequentam.
Mas para que isso aconteça, precisamos parar de perguntar apenas o que a IA pode fazer e, em vez disso, perguntar quais capacidades sociais ela deve fortalecer após seu uso. Uma ferramenta humanizada deve tornar as pessoas mais capazes de se entenderem umas às outras quando ela se afastar. Deve tornar as instituições mais passíveis de correção, não mais incompreensíveis. Deve tornar as comunidades mais capazes de tomar decisões sem pânico, mais capazes de verificar informações sem se submeter a uma única autoridade e mais dispostas a preservar a dignidade daqueles com quem discordam.
Depois de todos os testes, todas as demonstrações e todos os desempenhos sintéticos, a questão decisiva continuará sendo maravilhosamente antiquada: estamos nos tornando melhores em conviver?
