in ,

Who needs democracy when you have data?

Here’s how China rules using data, AI, and internet surveillance

by Christina Larson, MIT Technology Review, August 20, 2018

Tradução de Renato Jannuzzi Cecchettini

Quem precisa de democracia quando você tem dados?

Como a China comanda usando dados, Inteligência Artificial e vigilância na internet

In 1955, science fiction writer Isaac Asimov published a short story about an experiment in “electronic democracy,” in which a single citizen, selected to represent an entire population, responded to questions generated by a computer named Multivac. The machine took this data and calculated the results of an election that therefore never needed to happen. Asimov’s story was set in Bloomington, Indiana, but today an approximation of Multivac is being built in China.

Em 1955, o escritor de ficção científica Isaac Asimov publicou um conto sobre um experimento de “democracia eletrônica”, no qual um único cidadão, selecionado para representar uma população inteira, respondeu a perguntas geradas por um computador chamado Multivac. A máquina pegou esses dados e calculou os resultados de uma eleição que, portanto, nunca precisou acontecer. A história de Asimov foi ambientada em Bloomington, Indiana, mas hoje uma aproximação do Multivac está sendo construída na China.

For any authoritarian regime, “there is a basic problem for the center of figuring out what’s going on at lower levels and across society,” says Deborah Seligsohn, a political scientist and China expert at Villanova University in Philadelphia. How do you effectively govern a country that’s home to one in five people on the planet, with an increasingly complex economy and society, if you don’t allow public debate, civil activism, and electoral feedback? How do you gather enough information to actually make decisions? And how does a government that doesn’t invite its citizens to participate still engender trust and bend public behavior without putting police on every doorstep?

Para qualquer regime autoritário, “há um problema básico para esforço de descobrir o que está acontecendo em níveis mais profundos e em toda a sociedade”, diz Deborah Seligsohn, cientista política e especialista em China da Universidade Villanova, na Filadélfia. Como você efetivamente governa um país que é o lar de uma em cada cinco pessoas no planeta, com uma economia e uma sociedade cada vez mais complexa, se você não permitir que o debate público, o ativismo civil e feedback eleitoral? Como você coleta informações suficientes para tomar decisões? E como um governo que não convida seus cidadãos a participar ainda gera confiança e distorce o comportamento público sem colocar a polícia em cada porta?

Hu Jintao, China’s leader from 2002 to 2012, had attempted to solve these problems by permitting a modest democratic thaw, allowing avenues for grievances to reach the ruling class. His successor, Xi Jinping, has reversed that trend. Instead, his strategy for understanding and responding to what is going on in a nation of 1.4 billion relies on a combination of surveillance, AI, and big data to monitor people’s lives and behavior in minute detail.

Hu Jintao, líder da China de 2002 a 2012, tentou resolver esses problemas permitindo um descongelamento democrático modesto, permitindo que avenidas de queixas chegassem à classe dominante. Seu sucessor, Xi Jinping, reverteu essa tendência. Em vez disso, sua estratégia para entender e responder ao que está acontecendo em um país de 1,4 bilhão de habitantes depende de uma combinação de vigilância, inteligência artificial e big data para monitorar a vida e o comportamento das pessoas em detalhes minuciosos.

It helps that a tumultuous couple of years in the world’s democracies have made the Chinese political elite feel increasingly justified in shutting out voters. Developments such as Donald Trump’s election, Brexit, the rise of far-right parties across Europe, and Rodrigo Duterte’s reign of terror in the Philippines underscore what many critics see as the problems inherent in democracy, especially populism, instability, and precariously personalized leadership.

Ajuda que nos dois últimos tumultuados anos nas democracias do mundo tenha-se feito a elite política chinesa se sentir cada vez mais justificada em afastar os eleitores. Acontecimentos como a eleição de Donald Trump, o Brexit, a ascensão de partidos de extrema direita em toda a Europa e o reinado de terror de Rodrigo Duterte nas Filipinas ressaltam o que muitos críticos veem como os problemas inerentes à democracia, especialmente o populismo, a instabilidade e a liderança precariamente personalizada.

Since becoming general secretary of the Chinese Communist Party in 2012, Xi has laid out a raft of ambitious plans for the country, many of them rooted in technology—including a goal to become the world leader in artificial intelligence by 2030. Xi has called for “cyber sovereignty” to enhance censorship and assert full control over the domestic internet. In May, he told a meeting of the Chinese Academy of Sciences that technology was the key to achieving “the great goal of building a socialist and modernized nation.” In January, when he addressed the nation on television, the bookshelves on either side of him contained both classic titles such as Das Kapital and a few new additions, including two books about artificial intelligence: Pedro Domingos’s The Master Algorithm and Brett King’sAugmented: Life in the Smart Lane.

Desde que se tornou secretário geral do Partido Comunista Chinês em 2012, Xi apresentou uma série de planos ambiciosos para o país, muitos deles baseados na tecnologia – incluindo o objetivo de se tornar o líder mundial em inteligência artificial até 2030. Xi falou em “Soberania cibernética” para melhorar a censura e assegurar total controle sobre a internet doméstica. Em maio, ele disse em uma reunião da Academia Chinesa de Ciências que a tecnologia era a chave para alcançar “o grande objetivo de construir uma nação socialista e modernizada”. Em janeiro, quando ele falou à nação na televisão, as estantes de livros de cada lado ele continha tanto títulos clássicos como Das Kapital e algumas novas aquisições, incluindo dois livros sobre inteligência artificial: O Algoritmo de Mestre de Pedro Domingos e Augmented: Life in the Smart Lane, de Brett King.

“No government has a more ambitious and far-­reaching plan to harness the power of data to change the way it governs than the Chinese government,” says Martin Chorzempa of the Peterson Institute for International Economics in Washington, DC. Even some foreign observers, watching from afar, may be tempted to wonder if such data-driven governance offers a viable alternative to the increasingly dysfunctional­looking electoral model. But over-­relying on the wisdom of technology and data carries its own risks.

“Nenhum governo tem um plano mais ambicioso e de maior alcance para aproveitar o poder dos dados para mudar a maneira como governa do que o governo chinês”, diz Martin Chorzempa, do Instituto Peterson de Economia Internacional, em Washington, DC. Mesmo alguns observadores estrangeiros, observando de longe, podem ficar tentados a se perguntar se essa governança orientada por dados oferece uma alternativa viável para o modelo eleitoral cada vez mais problemático. Mas confiar demais na sabedoria da tecnologia e dos dados carrega seus próprios riscos.

Data instead of dialogue

Dados em vez de diálogo

Chinese leaders have long wanted to tap public sentiment without opening the door to heated debate and criticism of the authorities. For most of imperial and modern Chinese history, there has been a tradition of disgruntled people from the countryside traveling to Beijing and staging small demonstrations as public “petitioners.” The thinking was that if local authorities didn’t understand or care about their grievances, the emperor might show better judgment.

Há muito tempo, os líderes chineses querem entender o sentimento público sem abrir a possibilidade para um debate acalorado e críticas às autoridades. Pela maior parte da história chinesa imperial e moderna, tem havido uma tradição de descontentes da zona rural viajando para Pequim e encenando pequenas manifestações como “peticionários” públicos. Pensava-se que, se as autoridades locais não entendessem ou se preocupassem com suas queixas, o imperador poderia mostrar melhor julgamento.

Under Hu Jintao, some members of the Communist Party saw a limited openness as a possible way to expose and fix certain kinds of problems. Blogs, anticorruption journalists, human-rights lawyers, and online critics spotlighting local corruption drove public debate toward the end of Hu’s reign. Early in his term, Xi received a daily briefing of public concerns and disturbances scraped from social media, according to a former US official with knowledge of the matter. In recent years, petitioners have come to the capital to draw attention to scandals such as illegal land seizures by local authorities and contaminated milk powder.

Sob Hu Jintao, alguns membros do Partido Comunista viram uma abertura limitada como uma maneira possível de expor e corrigir certos tipos de problemas. Blogs, jornalistas anticorrupção, advogados de direitos humanos e críticos on-line destacando a corrupção local levaram ao debate público no final do reinado de Hu. Logo no início de seu mandato, Xi recebeu um resumo diário de preocupações e distúrbios públicos retirados das mídias sociais, de acordo com um ex-funcionário dos EUA com conhecimento do assunto. Nos últimos anos, peticionários chegaram à capital para chamar a atenção para escândalos como apreensões ilegais de terras por autoridades locais e leite em pó contaminado.

But police are increasingly stopping petitioners from ever reaching Beijing. “Now trains require national IDs to purchase tickets, which makes it easy for the authorities to identify potential ‘troublemakers’ such as those who have protested against the government in the past,” says Maya Wang, senior China researcher for Human Rights Watch. “Several petitioners told us they have been stopped at train platforms.” The bloggers, activists, and lawyers are also being systematically silenced or imprisoned, as if data can give the government the same information without any of the fiddly problems of freedom.

Mas a polícia está impedindo cada vez mais peticionários de chegar a Pequim. “Agora os trens exigem documento de identificação para a compra de bilhetes, o que torna fácil para as autoridades identificar possíveis ‘encrenqueiros’, como aqueles que protestaram contra o governo no passado”, diz Maya Wang, pesquisadora sênior da Human Rights Watch. “Vários peticionários nos disseram que foram parados em plataformas de trem.” Os blogueiros, ativistas e advogados também estão sendo sistematicamente silenciados ou aprisionados, como se os dados pudessem fornecer ao governo as mesmas informações sem nenhum dos problemas complicados da liberdade.

The idea of using networked technology as a tool of governance in China goes back to at least the mid-1980s. As Harvard historian Julian Gewirtz explains, “When the Chinese government saw that information technology was becoming a part of daily life, it realized it would have a powerful new tool for both gathering information and controlling culture, for making Chinese people more ‘modern’ and more ‘governable’—which have been perennial obsessions of the leadership.” Subsequent advances, including progress in AI and faster processors, have brought that vision closer.

A ideia de usar a tecnologia em rede como ferramenta de governança na China remonta pelo menos a meados da década de 1980. Como o historiador de Harvard, Julian Gewirtz, explica: “Quando o governo chinês viu que a tecnologia da informação estava se tornando uma parte da vida diária, percebeu que teria uma nova ferramenta poderosa para reunir informação e controlar cultura, para tornar o povo chinês mais ‘moderno’ e mais ‘governável’ – que têm sido obsessões perenes da liderança. ”Avanços subsequentes, incluindo o progresso na IA e processadores mais rápidos, aproximaram essa visão.

As far as we know, there is no single master blueprint linking technology and governance in China. But there are several initiatives that share a common strategy of harvesting data about people and companies to inform decision-making and create systems of incentives and punishments to influence behavior. These initiatives include the State Council’s 2014 “Social Credit System,” the 2016 Cybersecurity Law, various local-level and private-enterprise experiments in “social credit,” “smart city” plans, and technology-driven policing in the western region of Xinjiang. Often they involve partnerships between the government and China’s tech companies.

Até onde sabemos, não existe um único plano mestre ligando tecnologia e governança na China. Mas há várias iniciativas que compartilham uma estratégia comum de coleta de dados sobre pessoas e empresas para informar a tomada de decisões e criar sistemas de incentivos e punições para influenciar o comportamento. Essas iniciativas incluem o “Sistema de Crédito Social” do Conselho de Estado de 2014, a Lei de Cibersegurança de 2016, vários experimentos em nível local e iniciativa privada em planos de “crédito social”, “cidade inteligente” e policiamento orientado por tecnologia na região oeste de Xinjiang. Geralmente envolvem parcerias entre o governo e as empresas de tecnologia da China.

The most far-reaching is the Social Credit System, though a better translation in English might be the “trust” or “reputation” system. The government plan, which covers both people and businesses, lists among its goals the “construction of sincerity in government affairs, commercial sincerity, and judicial credibility.” (“Everybody in China has an auntie who’s been swindled. There is a legitimate need to address a breakdown in public trust,” says Paul Triolo, head of the geotechnology practice at the consultancy Eurasia Group.) To date, it’s a work in progress, though various pilots preview how it might work in 2020, when it is supposed to be fully implemented.

O mais abrangente é o Sistema de Crédito Social, embora uma tradução melhor em inglês possa ser o sistema de “confiança” ou “reputação”. O plano do governo, que abrange pessoas e empresas, relaciona entre seus objetivos a “construção de sinceridade nos assuntos do governo, sinceridade comercial e credibilidade judicial”. (“Todo mundo na China tem uma tia que foi enganada. Existe uma legítima necessidade de abordar uma quebra na confiança pública “, diz Paul Triolo, chefe da prática de geotecnologia na consultoria Eurasia Group.) Até a data de hoje, é algo em desenvolvimento, embora vários pilotos possam prever como ele pode trabalhar em 2020, quando é esperado que seja totalmente implementado.

Blacklists are the system’s first tool. For the past five years, China’s court system has published the names of people who haven’t paid fines or complied with judgments. Under new social-credit regulations, this list is shared with various businesses and government agencies. People on the list have found themselves blocked from borrowing money, booking flights, and staying at luxury hotels. China’s national transport companies have created additional blacklists, to punish riders for behavior like blocking train doors or picking fights during a journey; offenders are barred from future ticket purchases for six or 12 months. Earlier this year, Beijing debuted a series of blacklists to prohibit “dishonest” enterprises from being awarded future government contracts or land grants.

As listas negras são a primeira ferramenta do sistema. Nos últimos cinco anos, o sistema de tribunais da China publicou os nomes das pessoas que não pagaram multas ou cumpriram as sentenças. Sob novas regulamentações de crédito social, essa lista é compartilhada com várias empresas e agências governamentais. As pessoas na lista se viram impedidas de pedir dinheiro emprestado, reservar voos e ficar em hotéis de luxo. As empresas nacionais de transporte da China criaram listas negras adicionais, para punir os passageiros por comportamento como bloquear portas de trem ou brigaram durante uma viagem; os infratores são impedidos de compras futuras de ingressos por seis ou 12 meses. No início deste ano, Pequim estreou uma série de listas negras para proibir empresas “desonestas” de serem premiadas com futuros contratos governamentais ou concessões de terras.

A few local governments have experimented with social-credit “scores,” though it’s not clear if they will be part of the national plan. The northern city of Rongcheng, for example, assigns a score to each of its 740,000 residents, Foreign Policy reported. Everyone begins with 1,000 points. If you donate to a charity or win a government award, you gain points; if you violate a traffic law, such as by driving drunk or speeding through a crosswalk, you lose points. People with good scores can earn discounts on winter heating supplies or get better terms on mortgages; those with bad scores may lose access to bank loans or promotions in government jobs. City Hall showcases posters of local role models, who have exhibited “virtue” and earned high scores.

Alguns governos locais experimentaram “pontuações” de crédito social, embora não esteja claro se eles farão parte do plano nacional. A cidade de Rongcheng, no norte do país, por exemplo, atribui uma pontuação a cada um dos seus 740 mil moradores, informou a Foreign Policy. Todo mundo começa com 1.000 pontos. Se você doar para uma instituição de caridade ou ganhar um prêmio do governo, você ganha pontos; Se você violar uma lei de trânsito, como por dirigir bêbado ou em uma faixa de pedestres, você perde pontos. Pessoas com boas pontuações podem ganhar descontos em suprimentos para aquecimento no inverno ou obter melhores condições em hipotecas; aqueles com resultados ruins podem perder o acesso a empréstimos bancários ou promoções em empregos públicos. A prefeitura exibe cartazes de modelos de comportamento locais, que exibiram “virtude” e obtiveram altas pontuações.

“The idea of social credit is to monitor and manage how people and institutions behave,” says Samantha Hoffman of the Mercator Institute for China Studies in Berlin. “Once a violation is recorded in one part of the system, it can trigger responses in other parts of the system. It’s a concept designed to support both economic development and social management, and it’s inherently political.” Some parallels to parts of China’s blueprint already exist in the US: a bad credit score can prevent you from taking out a home loan, while a felony conviction suspends or annuls your right to vote, for example. “But they’re not all connected in the same way—there’s no overarching plan,” Hoffman points out.

“A ideia do crédito social é monitorar e administrar como as pessoas e instituições se comportam”, diz Samantha Hoffman, do Instituto Mercator de Estudos da China, em Berlim. “Quando uma violação é registrada em uma parte do sistema, ela pode acionar respostas em outras partes do sistema. É um conceito concebido para apoiar tanto o desenvolvimento econômico quanto a gestão social, e é inerentemente político ”. Alguns paralelos com partes do modelo da China já existem nos EUA: um rating de crédito ruim pode impedi-lo de contrair empréstimos imobiliários, enquanto condenação criminal suspende ou anula seu direito de voto, por exemplo. “Mas eles não estão todos conectados da mesma maneira – não há um plano abrangente”, observa Hoffman.

One of the biggest concerns is that because China lacks an independent judiciary, citizens have no recourse for disputing false or inaccurate allegations. Some have found their names added to travel blacklists without notification after a court decision. Petitioners and investigative journalists are monitored according to another system, and people who’ve entered drug rehab are watched by yet a different monitoring system. “Theoretically the drug-user databases are supposed to erase names after five or seven years, but I’ve seen lots of cases where that didn’t happen,” says Wang of Human Rights Watch. “It’s immensely difficult to ever take yourself off any of these lists.”

Uma das maiores preocupações é que, como a China carece de um Judiciário independente, os cidadãos não têm como contestar alegações falsas ou imprecisas. Alguns viram seus nomes adicionados à listas negras que os impedem de viajar sem notificação após uma decisão judicial. Peticionários e jornalistas investigativos são monitorados de acordo com outro sistema e as pessoas que entraram na reabilitação de drogas são assistidas por um sistema de monitoramento diferente. “Teoricamente, os bancos de dados de usuários de drogas devem apagar nomes depois de cinco ou sete anos, mas eu vi muitos casos em que isso não aconteceu”, diz Wang da Human Rights Watch. “É imensamente difícil se livrar de qualquer uma dessas listas.”

Occasional bursts of rage online point to public resentment. News that a student had been turned down by a college because of her father’s inclusion on a credit blacklist recently lit a wildfire of online anger. The college’s decision hadn’t been officially sanctioned or ordered by the government. Rather, in their enthusiasm to support the new policies, school administrators had simply taken them to what they saw as the logical conclusion.

Explosões ocasionais de raiva on-line apontam para o ressentimento público. As notícias de que um estudante havia sido rejeitado por uma faculdade por causa da inclusão de seu pai em uma lista negra de crédito recentemente acenderam uma onda de raiva online. A decisão da faculdade não foi oficialmente sancionada ou ordenada pelo governo. Em vez disso, em seu entusiasmo em apoiar as novas políticas, os administradores escolares simplesmente as levaram para o que consideravam a conclusão lógica.

The opacity of the system makes it difficult to evaluate how effective experiments like Rongcheng’s are. The party has squeezed out almost all critical voices since 2012, and the risks of challenging the system—even in relatively small ways—have grown. What information is available is deeply flawed; systematic falsification of data on everything from GDP growth to hydropower use pervades Chinese government statistics. Australian National University researcher Borge Bakken estimates that official crime figures, which the government has a clear incentive to downplay, may represent as little as 2.5 percent of all criminal behavior.

A opacidade do sistema dificulta a avaliação de quão eficazes são as experiências como a de Rongcheng. O partido tem espremido quase todas as vozes críticas desde 2012, e os riscos de desafiar o sistema – mesmo em formas relativamente pequenas – cresceram. Saber qual informação está disponível é profundamente difícil; A falsificação sistemática de dados sobre tudo, desde o crescimento do PIB até o uso de energia hidrelétrica, perpassa as estatísticas do governo chinês. O pesquisador da Universidade Nacional Australiana, Borge Bakken, estima que os números oficiais do crime, que o governo tem um claro incentivo para minimizar, podem representar apenas 2,5% de todo o comportamento criminoso.

In theory, data-driven governance could help fix these issues—circumventing distortions to allow the central government to gather information directly. That’s been the idea behind, for instance, introducing air-quality monitors that send data back to central authorities rather than relying on local officials who may be in the pocket of polluting industries. But many aspects of good governance are too complicated to allow that kind of direct monitoring and instead rely on data entered by those same local officials.

Em teoria, a governança orientada por dados poderia ajudar a corrigir esses problemas – contornando distorções para permitir que o governo central coletasse informações diretamente. Essa é a ideia por trás, por exemplo, da introdução de monitores de qualidade do ar que enviam dados de volta às autoridades centrais, em vez de depender de autoridades locais que possam estar na folha de pagamentos de indústrias poluidoras. Mas muitos aspectos da boa governança são muito complicados para permitir esse tipo de monitoramento direto e, em vez disso, dependem de dados inseridos por esses mesmos funcionários locais.

However, the Chinese government rarely releases performance data that outsiders might use to evaluate these systems. Take the cameras that are used to identify and shame jaywalkers in some cities by projecting their faces on public billboards, as well as to track the prayer habits of Muslims in western China. Their accuracy remains in question: in particular, how well can facial-recognition software trained on Han Chinese faces recognize members of Eurasian minority groups? Moreover, even if the data collection is accurate, how will the government use such information to direct or thwart future behavior? Police algorithms that predict who is likely to become a criminal are not open to public scrutiny, nor are statistics that would show whether crime or terrorism has grown or diminished. (For example, in the western region of Xinjiang, the available information shows only that the number of people taken into police custody has shot up dramatically, rising 731 percent from 2016 to 2017.)

No entanto, o governo chinês raramente libera dados de desempenho que pessoas de fora possam usar para avaliar esses sistemas. Pegue as câmeras que são usadas para identificar e envergonhar os pedestres que atravessam fora da faixa de segurança em algumas cidades, projetando seus rostos em outdoors públicos, bem como para rastrear os hábitos de oração dos muçulmanos no oeste da China. Sua precisão permanece em questão: em particular, quão preciso o software de reconhecimento facial, treinado em rostos chineses Han, pode reconhecer membros de grupos minoritários eurasianos? Além disso, mesmo que a coleta de dados seja precisa, como o governo utilizará essas informações para direcionar ou impedir o comportamento futuro? Algoritmos policiais que preveem quem pode se tornar um criminoso não estão abertos ao escrutínio público, nem estatísticas que mostrem se o crime ou o terrorismo cresceu ou diminuiu. (Por exemplo, na região oeste de Xinjiang, a informação disponível mostra apenas que o número de pessoas levadas sob custódia policial aumentou drasticamente, aumentando 731% de 2016 para 2017).

“It’s not the technology that created the policies, but technology greatly expands the kinds of data that the Chinese government can collect on individuals,” says Richard McGregor, a senior fellow at the Lowy Institute and the author of The Party: The Secret World of China’s Communist Rulers. “The internet in China acts as a real-time, privately run digital intelligence service.”

“Não é a tecnologia que criou as políticas, mas a tecnologia expande muito os tipos de dados que o governo chinês pode coletar dos indivíduos”, diz Richard McGregor, membro sênior do Lowy Institute e autor de “O Partido: O Mundo Secreto dos Governantes Comunistas da China”. “A internet na China atua como um serviço real-time e privado de inteligência digital.”

Algorithmic policing

Policiamento algorítmico

Writing in the Washington Post earlier this year, Xiao Qiang, a professor of communications at the University of California, Berkeley, dubbed China’s data-enhanced governance “a digital totalitarian state.” The dystopian aspects are most obviously on display in western China.

Escrevendo no Washington Post no início deste ano, Xiao Qiang, professor de comunicações da Universidade da Califórnia, em Berkeley, apelidou a governança chinesa de dados “um estado totalitário digital”. Os aspectos distópicos estão mais evidentes no oeste da China.

Xinjiang (“New Territory”) is the traditional home of a Chinese Muslim minority known as Uighurs. As large numbers of Han Chinese migrants have settled in—some say “colonized”—the region, the work and religious opportunities afforded to the local Uighur population have diminished. One result has been an uptick in violence in which both Han and Uighur have been targeted, including a 2009 riot in the capital city of Urumqi, when a reported 200 people died. The government’s response to rising tensions has not been to hold public forums to solicit views or policy advice. Instead, the state is using data collection and algorithms to determine who is “likely” to commit future acts of violence or defiance.

Xinjiang (“Novo Território”) é o lar tradicional de uma minoria muçulmana chinesa conhecida como Uighurs. Como um grande número de migrantes chineses han se instalou na região (alguns dizem que “colonizou” a região), o trabalho e as oportunidades religiosas proporcionadas à população uighur local diminuíram. Um dos resultados foi um aumento na violência em que hans e uighures foram atacados, incluindo uma rebelião em 2009 na capital Urumqi, quando cerca de 200 pessoas morreram. A resposta do governo ao aumento das tensões não foi a realização de fóruns públicos para solicitar opiniões ou conselhos sobre políticas. Em vez disso, o estado está usando a coleta de dados e algoritmos para determinar quem é “provável” para cometer atos futuros de violência ou desafio.

The Xinjiang government employed a private company to design the predictive algorithms that assess various data streams. There’s no public record or accountability for how these calculations are built or weighted. “The people living under this system generally don’t even know what the rules are,” says Rian Thum, an anthropologist at Loyola University who studies Xinjiang and who has seen government procurement notices that were issued in building the system.

O governo de Xinjiang empregou uma empresa privada para projetar os algoritmos preditivos que avaliam vários fluxos de dados. Não há registro público ou responsabilidade sobre como esses cálculos são criados ou ponderados. “As pessoas que vivem nesse sistema geralmente nem sabem quais são as regras”, diz Rian Thum, antropólogo da Universidade de Loyola que estuda Xinjiang e que viu anúncios sobre compras governamentais emitidos na construção do sistema.

In the western city of Kashgar, many of the family homes and shops on main streets are now boarded up, and the public squares are empty. When I visited in 2013, it was clear that Kashgar was already a segregated city—the Han and Uighur populations lived and worked in distinct sections of town. But in the evenings, it was also a lively and often noisy place, where the sounds of the call to prayer intermingled with dance music from local clubs and the conversations of old men sitting out late in plastic chairs on patios. Today the city is eerily quiet; neighborhood public life has virtually vanished. Emily Feng, a journalist for the Financial Times, visited Kashgar in June and posted photos on Twitter of the newly vacant streets.

Na cidade de Kashgar, no oeste do país, muitas das casas e lojas das famílias nas ruas principais agora estão fechadas e as praças públicas estão vazias. Quando eu visitei em 2013, ficou claro que Kashgar já era uma cidade segregada – as populações Han e Uighur viviam e trabalhavam em partes distintas da cidade. Mas à noite, era também um lugar animado e muitas vezes barulhento, onde os sons da chamada à oração misturavam-se à música de dança dos clubes locais e às conversas de velhos sentados até tarde em cadeiras de plástico nos pátios. Hoje a cidade é estranhamente quieta; a vida pública do bairro praticamente desapareceu. Emily Feng, uma jornalista do Financial Times, visitou Kashgar em junho e postou fotos no Twitter das ruas recém-vazias.

The reason is that by some estimates more than one in 10 Uighur and Kazakh adults in Xinjiang have been sent to barbed-wire-ringed “reeducation camps”—and those who remain at large are fearful.

A razão é que, segundo algumas estimativas, mais de um em cada 10 adultos uigures e cazaques em Xinjiang foram enviados para “campos de reeducação” cercados de arame farpado – e os que permanecem foragidos são temerosos.

In the last two years thousands of checkpoints have been set up at which passersby must present both their face and their national ID card to proceed on a highway, enter a mosque, or visit a shopping mall. Uighurs are required to install government-­designed tracking apps on their smartphones, which monitor their online contacts and the web pages they’ve visited. Police officers visit local homes regularly to collect further data on things like how many people live in the household, what their relationships with their neighbors are like, how many times people pray daily, whether they have traveled abroad, and what books they have.

Nos últimos dois anos, foram montados milhares de postos de controle nos quais os transeuntes devem apresentar seu rosto e seu cartão nacional de identidade para seguir por uma autoestrada, entrar em uma mesquita ou visitar um shopping center. Os uighures são obrigados a instalar aplicativos de rastreamento projetados pelo governo em seus smartphones, que monitoram seus contatos on-line e as páginas da Web que visitaram. Os policiais visitam as residências locais regularmente para coletar mais dados sobre coisas como quantas pessoas moram na casa, como são suas relações com os vizinhos, quantas vezes as pessoas rezam diariamente, se viajaram para o exterior e quais livros eles têm.

All these data streams are fed into Xinjiang’s public security system, along with other records capturing information on everything from banking history to family planning. “The computer program aggregates all the data from these different sources and flags those who might become ‘a threat’ to authorities,” says Wang. Though the precise algorithm is unknown, it’s believed that it may highlight behaviors such as visiting a particular mosque, owning a lot of books, buying a large quantity of gasoline, or receiving phone calls or email from contacts abroad. People it flags are visited by police, who may take them into custody and put them in prison or in reeducation camps without any formal charges.

Todos esses fluxos de dados são alimentados no sistema de segurança pública de Xinjiang, juntamente com outros registros que capturam informações sobre tudo, desde o histórico bancário até o planejamento familiar. “O programa de computador agrega todos os dados dessas diferentes fontes e sinaliza aqueles que podem se tornar ‘uma ameaça’ para as autoridades”, diz Wang. Embora o algoritmo preciso seja desconhecido, acredita-se que ele pode destacar comportamentos como visitar uma mesquita em particular, possuir muitos livros, comprar uma grande quantidade de gasolina ou receber telefonemas ou e-mails de contatos no exterior. As pessoas que são marcadas por estes comportamentos são visitadas pela polícia, que pode levá-los sob custódia e colocá-los na prisão ou em campos de reeducação sem quaisquer acusações formais.

Adrian Zenz, a political scientist at the European School of Culture and Theology in Korntal, Germany, calculates that the internment rate for minorities in Xinjiang may be as high as 11.5 percent of the adult population. These camps are designed to instill patriotism and make people unlearn religious beliefs. (New procurement notices for cremation security guards seem to indicate that the government is also trying to stamp out traditional Muslim burial practices in the region.)

Adrian Zenz, cientista político da Escola Europeia de Cultura e Teologia em Korntal, na Alemanha, calcula que a taxa de internação de minorias em Xinjiang pode chegar a 11,5% da população adulta. Esses campos são projetados para instigar o patriotismo e fazer as pessoas desaprenderem as crenças religiosas. (Novos avisos de recrutamento de guardas de segurança para procedimentos de cremação parecem indicar que o governo também está tentando acabar com as práticas tradicionais de enterro muçulmano na região).

While Xinjiang represents one draconian extreme, elsewhere in China citizens are beginning to push back against some kinds of surveillance. An internet company that streamed closed-circuit TV footage online shut down those broadcasts after a public outcry. The city of Shanghai recently issued regulations to allow people to dispute incorrect information used to compile social-credit records. “There are rising demands for privacy from Chinese internet users,” says Samm Sacks, a senior fellow in the Technology Policy Program at CSIS in New York. “It’s not quite the free-for-all that it’s made out to be.”

Enquanto Xinjiang representa um extremo draconiano, em outros lugares da China os cidadãos estão começando a rejeitar alguns tipos de vigilância. Uma empresa de internet que transmitiu filmagens de TV em circuito fechado desligou essas transmissões depois de um clamor público. A cidade de Xangai emitiu recentemente regulamentações para permitir que as pessoas contestem informações incorretas usadas para compilar registros de crédito social. “Há demandas crescentes de privacidade dos usuários de internet chineses”, diz Samm Sacks, membro sênior do Programa de Políticas Tecnológicas do CSIS em Nova York. “Não é exatamente o free-for-all que é esperado para ser.”

Christina Larson is an award-winning foreign correspondent and science journalist, writing mostly about China and Asia.

Christina Larson é uma premiada correspondente estrangeira e jornalista científica, escrevendo principalmente sobre a China e a Ásia.


Democracy Unschool é um ambiente de livre investigação-aprendizagem sobre democracia, composto por vários itinerários. O primeiro itinerário é um programa de introdução à democracia chamado SEM DOUTRINA. Para saber mais clique aqui

Deixe uma resposta

Loading…

Deixe seu comentário

O adversário mais temido pelo PT é Alckmin, não Bolsonaro

A falsificação da opinião pública pela ‘opinião fabricada’