The party’s AI

Fergus Ryan, Bethany Allen, Shelly Shih, Stephan Robin, Nathan Attrill, Jared Alpert, Astrid Young e Thilla Hoja, ASPI – Australian Strategic Policy Institute (01/12/2025)

Este relatório mostra como a ascensão da inteligência artificial (IA) está transformando o sistema de controle estatal da China em um instrumento de precisão para gerenciar sua população e direcionar grupos no país e no exterior.

Os extensos sistemas de vigilância visual baseados em inteligência artificial da China já estão bem documentados. Este relatório revela novas maneiras pelas quais o Partido Comunista Chinês (PCC) está usando grandes modelos de linguagem (LLMs) e outros sistemas de IA para automatizar a censura, aprimorar a vigilância e suprimir preventivamente a dissidência.

Com base em testes do LLM, estudos de caso detalhados e análises de documentos de licitação, registros corporativos e anúncios de emprego, este relatório rico em dados demonstra como os mecanismos de censura por IA distorcem informações e como o policiamento preditivo e a vigilância biométrica reforçam a repressão algorítmica. A pesquisa do ASPI mostra que o PCC criou mecanismos de mercado para incentivar a inovação privada em tecnologia de censura habilitada por IA, tornando mais fácil e barato para as empresas cumprirem as exigências de censura.

Este relatório também revela como a tecnologia baseada em inteligência artificial está ampliando a diferença de poder entre as empresas chinesas apoiadas pelo Estado que operam no exterior e as populações estrangeiras, permitindo ainda que algumas empresas chinesas violem sistematicamente os direitos econômicos de grupos vulneráveis ​​fora da China, apesar das alegações de Pequim de que a China respeita os direitos de desenvolvimento e a soberania de outros países.

Os riscos para outros países são evidentes. A China já é a maior exportadora mundial de tecnologia de vigilância baseada em IA; novas tecnologias e plataformas de vigilância desenvolvidas na China também não devem permanecer restritas ao país. Ao expor toda a extensão do aparato de controle chinês impulsionado por IA, este relatório apresenta informações claras e baseadas em evidências para formuladores de políticas, sociedade civil, mídia e empresas de tecnologia que buscam combater o aumento da repressão e das violações de direitos humanos facilitadas por IA, bem como os crescentes esforços da China para projetar essa repressão para além de suas fronteiras.

O relatório concentra-se em quatro áreas onde o PCC expandiu mais rapidamente o uso de sistemas avançados de IA entre 2023 e 2025: censura multimodal de imagens politicamente sensíveis; integração da IA ​​no sistema de justiça criminal; industrialização do controle de informações online; e o uso de plataformas com IA por empresas chinesas que operam no exterior. Analisados ​​em conjunto, esses casos mostram como novas capacidades de IA estão sendo incorporadas em diversos domínios, fortalecendo a capacidade do PCC de moldar informações, comportamentos e resultados econômicos, tanto no país quanto no exterior.

Como o ecossistema de IA da China está evoluindo de forma rápida e desigual entre os setores, concentramo-nos em domínios onde ocorreram mudanças significativas entre 2023 e 2025, onde novas evidências se tornaram disponíveis ou onde os riscos aos direitos humanos se intensificaram. Essas áreas não representam a totalidade das aplicações de IA na China, mas são as que melhor revelam como o PCC está integrando as tecnologias de IA em seu aparato de controle político.

Principais conclusões

As escolas de direito chinesas censuram imagens politicamente sensíveis, não apenas textos.

• Embora pesquisas anteriores tenham mapeado amplamente a censura textual, este relatório identifica uma lacuna crítica: a censura de imagens politicamente sensíveis por parte de empresas de mídia chinesas permanece em grande parte inexplorada.
• Para abordar essa questão, o ASPI desenvolveu uma metodologia de teste, utilizando um conjunto de dados de 200 imagens com alta probabilidade de desencadear censura, para investigar como os LLMs censuram imagens sensíveis. Os resultados revelaram que os mecanismos de censura visual estão incorporados em múltiplas camadas dentro do ecossistema LLM.

O governo chinês está implementando IA em todo o sistema de justiça criminal — desde o policiamento e a vigilância em massa com auxílio de IA, até tribunais inteligentes e prisões inteligentes.

• Essa nova forma de processamento por IA reduz a transparência e a responsabilização, aumenta a eficiência da polícia, dos promotores e dos sistemas prisionais e facilita ainda mais a repressão estatal.
• Pequim está pressionando os tribunais a adotarem IA não apenas na elaboração de documentos básicos, mas também na recomendação de julgamentos e sentenças, o que poderia aprofundar a discriminação estrutural e enfraquecer a capacidade dos advogados de defesa de recorrerem da decisão.
• A empresa chinesa de tecnologia de vigilância iFlyTek se destaca como uma das principais fornecedoras de sistemas baseados em LLM utilizados nesse oleoduto.

A China está utilizando sistemas de monitoramento de línguas minoritárias para aprofundar a vigilância e o controle de minorias étnicas, tanto na China quanto no exterior.

• O governo chinês está desenvolvendo, e em alguns casos já testando, análises de sentimento público com auxílio de inteligência artificial em línguas de minorias étnicas — especialmente uigur, tibetano, mongol e coreano — com o objetivo explícito de aprimorar a capacidade do Estado de monitorar e controlar as comunicações nessas línguas em texto, vídeo e áudio.
• O DeepSeek e a maioria dos outros modelos comerciais de aprendizado de máquina em línguas minoritárias têm capacidade insuficiente para fazer isso de forma eficaz, pois há pouco incentivo de mercado para criar modelos sofisticados e caros para grupos linguísticos tão pequenos. O Estado chinês está intervindo para fornecer recursos e apoio ao desenvolvimento de modelos para línguas minoritárias com esse propósito específico.
• A China também busca implantar essa tecnologia para atingir esses grupos em países estrangeiros ao longo da Rota da Seda.

Atualmente, a inteligência artificial (IA) desempenha grande parte do papel da censura online na China.

• Sistemas de censura baseados em inteligência artificial analisam grandes volumes de conteúdo digital, sinalizam possíveis violações e excluem material proibido em segundos.
• No entanto, o sistema ainda depende de revisores humanos de conteúdo para fornecer o discernimento cultural e político que falta aos algoritmos, de acordo com a análise da ASPI de mais de 100 anúncios de emprego para censores de conteúdo online na China. É provável que os futuros avanços tecnológicos minimizem essa dependência remanescente de revisores humanos.

As regulamentações de censura da China criaram um mercado interno robusto para ferramentas de censura baseadas em inteligência artificial.

• As maiores empresas de tecnologia da China, incluindo Tencent, Baidu e ByteDance, desenvolveram plataformas avançadas de censura com IA que estão vendendo para empresas e organizações menores em toda a China.
• Dessa forma, as leis chinesas que impõem a censura interna criaram incentivos de mercado para que as principais empresas de tecnologia da China tornem a censura mais barata, rápida, fácil e eficiente — incorporando a conformidade à economia digital chinesa.

O uso da IA ​​amplifica a erosão, apoiada pelo Estado chinês, dos direitos econômicos de alguns grupos vulneráveis ​​no exterior, em benefício financeiro de empresas privadas e estatais chinesas.

• Pesquisas da ASPI mostram que as frotas pesqueiras chinesas começaram a adotar plataformas de pesca inteligentes com inteligência artificial, desenvolvidas por empresas e institutos de pesquisa chineses, o que inclina ainda mais a balança tecnológica a favor dos navios chineses e em detrimento dos pescadores locais e das comunidades de pesca artesanal.
• A ASPI identificou vários navios pesqueiros chineses que utilizam essas plataformas e operam em zonas econômicas exclusivas onde a pesca chinesa está amplamente implicada em incidentes ilegais, incluindo Mauritânia e Vanuatu, e a ASPI encontrou um navio que foi especificamente implicado em um incidente.

Baixe o relatório na íntegra: The party’s AI