in ,

Harari e suas lições para o século 21: observações críticas à Parte I

O programa Novos Pensadores começou o ano de 2019 examinando o último livro de Yuval Harari (2018): HARARI, Yuval (2018). 21 lessons for the 21st century. New York: Spiegel & Grau, 2018. Usamos a tradução brasileira de Paulo Geiger. 21 lições para o século 21. São Paulo: Companhia das Letras, 2018.

Publicamos abaixo – como uma espécie de “canja”, para quem não está inscrito no programa – a primeira parte do livro, juntamente com algumas marcações no texto e comentários provocativos à conversação. Tudo isso foi comentado e debatido ao vivo, nas sessões semanais dos Novos Pensadores (do webinar 49 ao 55). Se você quiser entrar no programa, clique em Novos Pensadores.

21 LIÇÕES PARA O SÉCULO 21

Introdução

Num mundo inundado de informações irrelevantes, clareza é poder. Em teoria, qualquer um pode se juntar ao debate sobre o futuro da humanidade, mas é muito difícil manter uma visão lúcida. Muitas vezes nem sequer percebemos que um debate está acontecendo, ou quais são suas questões cruciais. Bilhões de nós dificilmente podem se permitir o luxo de investigá- las, pois temos coisas mais urgentes a fazer, como trabalhar, tomar conta das crianças, ou cuidar dos pais idosos. Infelizmente, a história não poupa ninguém. Se o futuro da humanidade for decidido em sua ausência, porque você está ocupado demais alimentando e vestindo seus filhos — você e eles não estarão eximidos das consequências. Isso é muito injusto, mas quem disse que a história é justa?

Como historiador, não posso dar às pessoas alimento ou roupas — mas posso tentar oferecer alguma clareza, ajudando assim a equilibrar o jogo global. Se isso capacitar ao menos mais um punhado de pessoas a participar do debate sobre o futuro de nossa espécie, terei realizado minha tarefa.

Meu primeiro livro, Sapiens, investigou o passado humano, examinando como um macaco insignificante dominou a Terra.

Homo Deus, meu segundo livro, explorou o futuro da vida a longo prazo, contemplando como os humanos finalmente se tornarão deuses, e qual pode ser o destino final da inteligência e da consciência.

Neste livro quero analisar mais de perto o aqui e o agora. Meu foco está nas questões atuais e no futuro imediato das sociedades humanas. O que está acontecendo neste momento? Quais são os maiores desafios e escolhas de hoje? Qual deve ser o foco de nossa atenção? O que devemos ensinar a nossos filhos?

Claro, 7 bilhões de pessoas têm 7 bilhões de agendas, e, como já observado, pensar no contexto geral é um luxo relativamente raro. Uma mãe solteira lutando para criar dois filhos numa favela em Mumbai está preocupada com a próxima refeição; refugiados num barco no meio do Mediterrâneo perscrutam o horizonte em busca de qualquer sinal de terra; e um homem que está morrendo num hospital superlotado em Londres reúne todas as forças para respirar mais uma vez. Todos têm problemas muito mais urgentes do que o aquecimento global ou a crise da democracia liberal. Nenhum livro pode dar conta de todas as angústias individuais, e não tenho lições a ensinar às pessoas que estão nas situações que descrevi. Posso apenas esperar aprender com elas.

Minha agenda aqui é global. Observo as grandes forças que dão forma às sociedades em todo o mundo, e que provavelmente vão influenciar o futuro do planeta como um todo. A mudança climática pode estar muito além das preocupações de quem está em meio a uma emergência de vida ou morte, mas pode futuramente tornar as favelas de Mumbai inabitáveis, enviar novas e enormes levas de refugiados através do Mediterrâneo, e levar a uma crise mundial dos serviços de saúde.

A realidade é formada por muitas tramas, e este livro tenta cobrir diferentes aspectos de nosso impasse global, sem pretender ser exaustivo. Diferentemente de Sapiens e de Homo Deus, ele não tem a intenção de ser uma narrativa histórica, e sim uma coletânea de lições, as quais não têm por conclusão respostas simples. Elas visam a estimular a reflexão, e a ajudar os leitores a tomar parte em algumas das principais conversas de nosso tempo.

O livro, na verdade, foi escrito em diálogo com o público. Muitos dos capítulos surgiram como resposta a perguntas de leitores, jornalistas e colegas. Versões anteriores de alguns segmentos foram publicadas em diferentes formatos, o que me deu oportunidade de receber feedbacks e refinar meus argumentos. Algumas seções têm por foco tecnologia, algumas política, outras religião ou arte. Certos capítulos celebram a sabedoria humana, outros destacam o papel crucial da sua estupidez. Mas a questão mais abrangente em todos é a mesma: o que está acontecendo no mundo hoje, e qual é o significado profundo dos eventos?

Qual é o sentido da ascensão de Donald Trump? O que podemos fazer ante a epidemia de fake news? Por que a democracia liberal está em crise? Deus está de volta? Haverá uma nova guerra mundial? Qual civilização domina o mundo — o Ocidente, a China, o Islã? A Europa deveria manter portas abertas aos imigrantes? O nacionalismo pode resolver os problemas de desigualdade e mudança climática? O que fazer quanto ao terrorismo?

Embora a perspectiva deste livro seja global, não negligencio o nível pessoal. Ao contrário, quero enfatizar as conexões entre as grandes revoluções de nossa era e a vida interior dos indivíduos. Por exemplo, o terrorismo é tanto um problema de política global quanto um mecanismo psicológico interno. O terrorismo manipula o medo em nossa mente, sequestrando a imaginação privada de milhões de indivíduos. Da mesma forma, a crise da democracia liberal se desenrola não somente em parlamentos e seções eleitorais, mas também nos neurônios e nas sinapses. Dizer que o pessoal é político é um clichê. Mas, numa era em que cientistas, corporações e governos estão aprendendo a hackear o cérebro humano, esse truísmo é mais sinistro do que nunca. Portanto, o livro apresenta observações sobre a conduta de indivíduos bem como de sociedades inteiras.

Um mundo global exerce uma pressão sem precedentes sobre a conduta e a moralidade pessoais. Cada um de nós está enredado em numerosas e vastas teias de aranha, que restringem nossos movimentos, mas ao mesmo tempo transmitem nossos mais minúsculos movimentos a destinações longínquas. Nossa rotina diária influencia a vida de pessoas e animais do outro lado do mundo, e alguns gestos pessoais podem inesperadamente incendiar o mundo inteiro, como aconteceu com a autoimolação de Mohamed Bouazizi na Tunísia, que desencadeou a Primavera Árabe, e com as mulheres que compartilharam suas histórias de assédio sexual e deram origem ao movimento #MeToo.

Essa dimensão global de nossa vida pessoal significa que é mais importante que nunca revelar nossos vieses religiosos e políticos, nossos privilégios raciais e de gênero, e nossa cumplicidade involuntária na opressão institucional. Mas será este um empreendimento realista? Como poderei achar um terreno ético firme num mundo que se estende muito além de meus horizontes, que gira completamente fora do controle humano, e que suspeita de todos os deuses e ideologias?

O livro começa examinando o atual impasse político e tecnológico. No final do século XX tudo levava a crer que as grandes batalhas ideológicas entre fascismo, comunismo e liberalismo tinham resultado na vitória arrasadora do liberalismo. Democracia política, direitos humanos e capitalismo de livre mercado pareciam destinados a conquistar o mundo inteiro. Mas, como de costume, a história dá voltas inesperadas, e após o colapso do fascismo e do comunismo agora o liberalismo está emperrado. Então para onde caminhamos?

Essa pergunta é especialmente incômoda, porque o liberalismo está perdendo credibilidade justo quando as revoluções gêmeas na tecnologia da informação e na biotecnologia enfrentam os maiores desafios com que nossa espécie já deparou. A fusão das duas áreas pode em breve expulsar bilhões de seres humanos do mercado de trabalho e solapar a liberdade e a igualdade. Algoritmos de Big Data poderiam criar ditaduras digitais nas quais todo o poder se concentra nas mãos de uma minúscula elite enquanto a maior parte das pessoas sofre não em virtude de exploração, mas de algo muito pior: irrelevância.

Comentei extensivamente a fusão da tecnologia da informação com a biotecnologia em meu livro anterior, Homo Deus. Mas, enquanto aquele livro focava nas perspectivas a longo prazo — perspectivas de séculos e até de milênios —, este livro concentra-se na crise social, econômica e política mais imediata. Meu interesse aqui é menos pela criação, no futuro, da vida inorgânica, e mais pela ameaça ao Estado de bem-estar social e a determinadas instituições, como a União Europeia.

O livro não tenta cobrir todos os impactos das novas tecnologias. Embora a tecnologia encerre muitas e maravilhosas promessas, minha intenção é destacar principalmente as ameaças e os perigos que ela traz consigo. Já que as corporações e os empreendedores que lideram a revolução tecnológica tendem, naturalmente, a entoar loas a suas criações, cabe a sociólogos, filósofos e historiadores como eu fazer soar o alarme e explicar o que pode dar errado.

Depois de delinear os desafios que enfrentamos, na segunda parte do livro examinaremos uma ampla gama de respostas possíveis. Poderiam os engenheiros do Facebook usar inteligência artificial para criar uma comunidade global que vai salvaguardar a liberdade e a igualdade humanas? Talvez a resposta seja reverter o processo de globalização e tornar a fortalecer o Estado-nação? Será que devemos retroceder ainda mais, e ir buscar esperança e sabedoria nas fontes de antigas tradições religiosas?

Na terceira parte do livro vemos que, embora os desafios tecnológicos sejam sem precedentes e as discordâncias políticas sejam intensas, o gênero humano poderá enfrentar a situação à altura se mantivermos nossos temores sob controle e formos um pouco mais humildes quanto a nossas opiniões. Essa parte investiga o que pode ser feito quanto à ameaça do terrorismo, quanto ao perigo de uma guerra global, e quanto aos vieses e ódios que desencadeiam esses conflitos.

A quarta parte enfrenta a questão da pós-verdade, e pergunta em que medida ainda somos capazes de compreender desenvolvimentos globais e distinguir os malfeitos da Justiça. Será o Homo Sapiens capaz de dar sentido ao mundo que ele criou? Haverá ainda uma fronteira nítida entre realidade e ficção?

Na quinta e última parte, eu junto todas essas diferentes tramas e lanço um olhar mais geral à vida na era da perplexidade, quando as antigas narrativas históricas desmoronaram, e nenhuma outra surgiu até agora para substituí-las. Onde estamos? O que deveríamos fazer na vida? De que tipos de habilidades necessitamos? Considerando tudo que sabemos e que não sabemos sobre ciência, sobre Deus, sobre política e sobre religião — o que podemos dizer sobre o sentido da vida hoje?

Isso pode soar ambicioso demais, mas o Homo Sapiens não pode esperar. O tempo está ficando escasso para a filosofia, a religião e a ciência. As pessoas têm debatido o sentido da vida por milhares de anos. Não podemos continuar esse debate indefinidamente. A crise ecológica iminente, a ameaça crescente das armas de destruição em massa e o surgimento de novas tecnologias disruptivas não o permitirão. Talvez o mais importante seja o fato de que a inteligência artificial e a biotecnologia estão dando à humanidade o poder de reformulação e reengenharia da vida. Muito em breve alguém terá de decidir como usar esse poder — com base numa narrativa implícita ou explícita sobre o sentido da vida. Filósofos são muito pacientes, mas engenheiros são muito menos, e investidores são os menos pacientes de todos. Se você não sabe o que fazer com o poder de reengenharia da vida, as forças do mercado não vão esperar mil anos por uma resposta. A mão invisível do mercado imporá sua resposta cega. A menos que você se compraza em deixar o futuro da vida à mercê de relatórios de contabilidade, é preciso ter uma ideia clara do que é a vida.

No capítulo final eu me permito algumas observações pessoais, falando de um Sapiens para outro, antes que a cortina desça sobre nossa espécie e comece um drama completamente diferente.

Antes de embarcar nesta jornada intelectual, eu gostaria de destacar um aspecto decisivo. Grande parte do livro discute as imperfeições da visão de mundo liberal e do sistema democrático. Faço isso não por acreditar que a democracia liberal é excepcionalmente problemática, e sim porque penso que é o modelo político mais bem-sucedido e versátil que os humanos desenvolveram até agora para lidar com os desafios do mundo moderno. Mesmo que não seja adequado a toda sociedade em todo estágio de desenvolvimento, ele provou seu valor em mais sociedades e em mais situações do que qualquer uma de suas alternativas. Portanto, ao examinar os novos desafios que temos diante de nós, é necessário compreender as limitações da democracia liberal, e explorar como podemos adaptar e melhorar suas instituições atuais.

Infelizmente, no atual clima político, todo pensamento crítico sobre liberalismo e democracia pode ser sequestrado por autocratas e vários movimentos não democráticos, cujo único interesse é desacreditar a democracia liberal, em vez de se envolver numa discussão aberta sobre o futuro da humanidade. Ao mesmo tempo que ficam mais do que satisfeitos em debater os problemas da democracia liberal, não toleram críticas dirigidas a eles.

Portanto, como autor, tive de fazer uma escolha difícil. Deveria expor minhas ideias abertamente, arriscando que minhas palavras fossem interpretadas fora de contexto e usadas para justificar as novas autocracias? Ou deveria censurar a mim mesmo? É uma marca dos regimes não liberais dificultar a livre expressão até mesmo fora de suas fronteiras. Devido à disseminação desses regimes, está ficando cada vez mais perigoso pensar criticamente sobre o futuro de nossa espécie.

Após uma reflexão íntima, optei pela discussão livre e não pela autocensura. Se não criticarmos o modelo liberal não seremos capazes de corrigir suas falhas ou ir além dele. Mas é importante notar que este livro só poderia ter sido escrito num mundo em que as pessoas ainda são relativamente livres para pensar o que quiserem e se expressar como quiserem. Se você dá valor a este livro, deveria valorizar também a liberdade de expressão.

PARTE I

O desafio tecnológico

O gênero humano está perdendo a fé na narrativa liberal que dominou a política global em décadas recentes, justamente quando a fusão da biotecnologia com a tecnologia da informação nos coloca diante das maiores mudanças com que o gênero humano já se deparou.

É o gênero humano (Homo) que está perdendo a fé na narrativa liberal? A não ser como modo de dizer, a afirmação não parece vaga demais? Se não é nem a espécie humana (Homo Sapiens) que está perdendo a fé nessa narrativa e sim as pessoas diante da crise do Estado-nação, da forma de democracia representativa inventada pelos modernos para servir como modo de administração política do Estado-nação, da ascensão dos populismos contemporâneos e dos nacionalismos anti-cosmopolitas diante da emergência da sociedade-em-rede, não seria melhor colocar a questão de outra maneira?

1. Desilusão

O fim da história foi adiado

Os humanos pensam em forma de narrativas e não de fatos, números ou equações, e, quanto mais simples a narrativa, melhor. Toda pessoa, grupo e nação tem suas próprias lendas e mitos. Mas durante o século XX as elites globais em Nova York, Londres, Berlim e Moscou formularam três grandes narrativas que pretendiam explicar todo o passado e predizer o futuro do mundo inteiro: a narrativa fascista, a narrativa comunista e a narrativa liberal. A Segunda Guerra Mundial derrotou a narrativa fascista, e do final da década de 1940 até o final da década de 1980 o mundo tornou-se o campo de batalha de apenas duas narrativas: a comunista e a liberal. Depois a narrativa comunista entrou em colapso, e a liberal prevaleceu como o principal guia do passado humano e o manual indispensável para o futuro do mundo — ou assim parecia à elite global.

Que história é essa de “elite global”? Não há indícios de que as chamadas narrativas fascista, comunista e liberal tenham sido formuladas por uma elite global. O conceito é estranho. Ademais, a visão liberal do mundo não surgiu de uma narrativa e sim da invenção da democracia, mais de dois milênios antes de ter virado narrativa ideológica global (pois é isso que Harari está afirmando).

A narrativa liberal celebra o valor e o poder da liberdade. Diz que durante milhares de anos a humanidade viveu sob regimes opressores que concediam ao povo poucos direitos políticos, poucas oportunidades econômicas ou liberdades individuais, e restringiam rigorosamente os movimentos de indivíduos, de ideias e de bens. Mas as pessoas lutaram por sua liberdade, e passo a passo a liberdade se firmou. Regimes democráticos tomaram o lugar de ditaduras brutais. A livre-iniciativa superou as restrições econômicas. As pessoas aprenderam a pensar por si mesmas e a seguir o próprio coração, em vez de obedecer cegamente a sacerdotes fanáticos e tradições inflexíveis. Estradas de acesso livre, pontes sólidas e aeroportos movimentados substituíram muros, fossos e cercas de arame farpado.

A narrativa liberal reconhece que nem tudo vai bem, e que ainda há muitos obstáculos a superar. Grande parte de nosso planeta é dominada por tiranos, e mesmo nos países mais liberais muitos cidadãos sofrem com a pobreza, a violência e a opressão. Mas pelo menos sabemos o que fazer para superar esses problemas: dar às pessoas mais liberdade. Precisamos proteger os direitos humanos, garantir que todos possam votar, estabelecer mercados livres e permitir que indivíduos, ideias e bens se movimentem pelo mundo o mais facilmente possível. Segundo essa panaceia liberal — aceita, com ligeiras variações, tanto por George W. Bush quanto por Barack Obama —, se simplesmente continuarmos a liberalizar e globalizar nossos sistemas políticos e econômicos, o resultado será paz e prosperidade para todos (1).

Os países que se juntarem à irrefreável marcha do progresso serão em breve recompensados com paz e prosperidade. Países que resistirem ao inevitável sofrerão as consequências, até que eles também se iluminem, abram suas fronteiras e liberalizem suas sociedades, sua política e seus mercados. Pode levar tempo, mas ao fim até a Coreia do Norte, o Iraque e El Salvador parecerão a Dinamarca ou o estado de Iowa.

Nos anos 1990 e 2000 essa narrativa virou um mantra global. Muitos governos, do Brasil à Índia, adotaram receitas liberais numa tentativa de se juntar à marcha inexorável da história. Os que não as adotaram pareciam fósseis de uma era ultrapassada. Em 1997 o presidente dos Estados Unidos, Bill Clinton, repreendeu confiantemente o governo chinês dizendo que sua recusa a liberalizar a política chinesa a punha “no lado errado da história” (2).

Contudo, desde a crise financeira de 2008, pessoas em todo o mundo estão cada vez mais desiludidas com a narrativa liberal. Muros e sistemas protecionistas estão de novo em voga. Cresce a resistência à imigração e a acordos comerciais. Governos supostamente democráticos solapam a independência do sistema judiciário, restringem a liberdade de imprensa e enquadram toda oposição como traição. Líderes com mão de ferro em países como a Rússia e a Turquia ensaiam novos tipos de democracias não liberais e francas ditaduras. Hoje em dia, poucos declarariam com todas as letras que o Partido Comunista Chinês está no lado errado da história.

Segundo Harari, a narrativa liberal foi formulada pelas tais “elites globais”, mas a desilusão com tal narrativa veio das pessoas e não de outras “elites” (como as forças políticas populistas e antidemocráticas)? De onde Harari tirou essa evidência sobre o Partido Comunista Chinês? As pessoas, na China – e na Hungria, na Turquia, na Venezuela e na Nicarágua, para citar alguns exemplos – também não estão desiludidas com as narrativas i-liberais?

O ano de 2016 — marcado pelo voto pró-Brexit na Grã-Bretanha e pela ascensão de Donald Trump nos Estados Unidos — representou o momento em que essa onda tempestuosa de desilusão atingiu o cerne dos Estados liberais da Europa ocidental e da América do Norte. Enquanto há poucos anos americanos e europeus ainda tentavam libertar o Iraque e a Líbia pela força das armas, muita gente no Kentucky e em Yorkshire agora considera a visão liberal indesejável ou inatingível. Alguns descobriram o gosto pela velha ordem mundial, e simplesmente não querem abrir mão de seus privilégios raciais, nacionais ou de gênero. Outros concluíram (certa ou erroneamente) que liberalização e globalização são uma grande farsa que confere poder a uma elite minúscula às expensas das massas.

Em 1938 foram oferecidas três narrativas aos seres humanos para que escolhessem uma; em 1968, apenas duas; e em 1998 uma única narrativa parecia prevalecer; e em 2018 chegamos a zero. Não é de admirar que as elites liberais, que dominaram grande parte do mundo nas décadas recentes, tenham entrado num estado de choque e desorientação. Ter uma só narrativa é a situação mais cômoda de todas. Tudo está perfeitamente claro. Ser deixado de repente sem nenhuma narrativa é aterrador. Nada mais faz sentido. Um pouco como a elite soviética na década de 1980, os liberais não compreendem como a narrativa se desviou de seu curso preordenado, e lhes falta um prisma alternativo para interpretar a realidade. A desorientação os faz pensar em termos apocalípticos, como se o fracasso da narrativa em chegar a seu final feliz só possa significar que ela está sendo arremessada para o Armagedon. Incapaz de constatar a realidade, a mente se fixa em cenários catastróficos. Como a pessoa que imagina que uma forte dor de cabeça é sinal de tumor cerebral terminal, muitos liberais temem que o Brexit e a ascensão de Donald Trump pressagiam o fim da civilização humana.

Em parte, sim. Mas parece faltar conhecimento político ao autor. Há uma crise da política (propriamente dita, democrática) e há uma recessão ou desconsolidação democrática que não tem a ver apenas com a crença (ou fé, como ele diz) em narrativas e sim com o esgotamento de uma forma particular pela qual regimes políticos que tomam como sentido a liberdade (a democracia dos modernos) funcionavam.

DA MATANÇA DE MOSQUITOS À MATANÇA DE IDEIAS

A sensação de desorientação e catástrofe iminente é exacerbada pelo ritmo acelerado da disrupção tecnológica. O sistema político liberal tomou forma durante a era industrial para gerir um mundo de máquinas a vapor, refinarias de petróleo e aparelhos de televisão. Agora, tem encontrado dificuldade para lidar com as revoluções em curso na tecnologia da informação e na biotecnologia.

Políticos e eleitores mal conseguem compreender as novas tecnologias, que dirá regular seu potencial explosivo. A partir da década de 1990 a internet mudou o mundo, provavelmente mais do que qualquer outro fator, mas a revolução da internet foi dirigida mais por engenheiros que por partidos políticos. Você alguma vez votou em qualquer coisa que concerne à internet? O sistema democrático ainda está se esforçando por entender o que o atingiu, e está mal equipado para lidar com os choques seguintes, como o advento da inteligência artificial (IA) e a revolução da tecnologia de blockchain.

Democracia não tem a ver com votar. O fato de a internet ter surgido fora do mundo político e sujeita às suas dinâmicas não significa que seu surgimento não tenha sido resposta a uma mudança na morfologia e no metabolismo da sociedade.

Os computadores já tornaram o sistema financeiro tão complicado que poucos humanos são capazes de entendê-lo. Com a evolução da IA talvez logo cheguemos a um ponto em que as finanças não farão sentido nenhum para os humanos. E o que isso fará com o processo político? Dá para imaginar um governo que aguarda humildemente que um algoritmo aprove seu orçamento ou sua nova reforma fiscal? Enquanto isso redes peer-to-peer de blockchain e criptomoedas como o bitcoin poderão renovar completamente o sistema monetário, de modo que reformas fiscais radicais serão inevitáveis. Por exemplo, a cobrança de imposto sobre o dólar pode se tornar impossível ou irrelevante, porque a maior parte das transações não vai envolver um valor de câmbio claro e definido para a moeda nacional, ou qualquer moeda em geral. Portanto, os governos talvez tenham de inventar impostos totalmente novos — talvez um imposto sobre informação (que será o ativo mais importante na economia, e também a única coisa trocada em numerosas transações). Será que o sistema político conseguirá lidar com a crise antes de ficar sem dinheiro?

Ainda mais importante, as revoluções gêmeas da tecnologia da informação e da biotecnologia poderiam reestruturar não apenas economias e sociedades mas também nossos corpos e mentes. No passado, nós humanos aprendemos a controlar o mundo exterior, mas tínhamos pouco controle sobre o mundo interior. Sabíamos construir uma represa e interromper o fluxo de um rio, mas não sabíamos interromper o envelhecimento do corpo. Sabíamos projetar um sistema de irrigação, mas não tínhamos ideia de como projetar um cérebro. Se mosquitos zumbiam em nossos ouvidos e perturbavam nosso sono, sabíamos matar mosquitos; mas, se um pensamento zumbia em nossa mente e nos mantinha despertos à noite, a maioria de nós não sabia matar o pensamento.

As revoluções na biotecnologia e na tecnologia da informação nos darão controle sobre o mundo interior, e nos permitirão arquitetar e fabricar vida. Vamos aprender a projetar cérebros, a estender a duração da vida e a eliminar pensamentos segundo nosso critério. E ninguém sabe quais serão as consequências disso. Humanos sempre foram muito melhores em inventar ferramentas do que em usá-las sabiamente. É mais fácil manipular um rio construindo uma represa do que prever todas as complexas consequências que isso trará para o sistema ecológico mais amplo. Da mesma forma, será mais fácil redirecionar o fluxo de nossa mente do que predizer o que isso fará a nossa psicologia pessoal ou nosso sistema social.

No passado, adquirimos o poder de manipular o mundo a nossa volta e de remodelar o planeta inteiro, mas, como não compreendemos a complexidade da ecologia global, as mudanças que fizemos inadvertidamente comprometeram todo o sistema ecológico e agora enfrentamos um colapso ecológico. No século que vem a biotecnologia e a tecnologia da informação nos darão o poder de manipular o mundo dentro de nós e de nos remodelar, mas porque não compreendemos a complexidade de nossa própria mente as mudanças que faremos podem afetar nosso sistema mental de tal modo que ele também vai quebrar.

As revoluções em biotecnologia e tecnologia da informação são feitas por engenheiros, empresários e cientistas que têm pouca consciência das implicações políticas de suas decisões, e que certamente não representam ninguém. Parlamentares e partidos serão capazes de assumir essas questões? No momento, parece que não. O poder disruptivo da tecnologia nem chega a ser prioridade na agenda política. Assim, durante a corrida presidencial de 2016 nos Estados Unidos, a principal referência a uma tecnologia disruptiva foi relativa ao escândalo dos e-mails de Hillary Clinton (3) e, apesar de tudo que se disse sobre o fechamento de postos de trabalho, nenhum candidato mencionou o impacto potencial da automação. Donald Trump avisou aos eleitores que mexicanos e chineses iriam tomar seus empregos, e que, portanto, eles deveriam construir um muro na fronteira mexicana (4). Ele nunca avisou aos eleitores que algoritmos iriam roubar seu trabalho, nem sugeriu que se construísse um sistema de proteção cibernético na fronteira com a Califórnia.

Esse pode ser um dos motivos (embora não o único) pelo qual até mesmo eleitores no coração do Ocidente liberal estão perdendo a fé na narrativa liberal e no processo democrático. As pessoas comuns talvez não compreendam a inteligência artificial e a biotecnologia, mas percebem que o futuro as está deixando para trás. A condição de vida de uma pessoa comum na União Soviética, na Alemanha ou nos Estados Unidos em 1938 talvez fosse sombria, mas sempre lhes diziam que ela era a coisa mais importante do mundo, que ela era o futuro (contanto, é claro que fosse uma “pessoa normal” e não judia ou africana). Ela olhava os pôsteres de propaganda — que, tipicamente, mostravam mineradores, operários siderúrgicos e donas de casa em poses heroicas — e ali se via: “Eu estou naquele pôster! Sou o herói do futuro!” (5).

Em 2018 a pessoa comum sente-se cada vez mais irrelevante. Um monte de palavras misteriosas são despejadas freneticamente em TED Talks, think tanks governamentais e conferências de alta tecnologia — globalização, blockchain, engenharia genética, inteligência artificial, aprendizado de máquina —, e as pessoas comuns bem podem suspeitar que nenhuma dessas palavras tem a ver com elas. A narrativa liberal era sobre pessoas comuns. Como ela pode continuar a ser relevante num mundo de ciborgues e algoritmos em rede?

No século XX, as massas se revoltaram contra a exploração, e buscaram traduzir seu papel vital na economia em poder político. Agora as massas temem a irrelevância, e querem freneticamente usar seu poder político restante antes que seja tarde. O Brexit e a ascensão de Trump poderiam, assim, demonstrar uma trajetória contrária à das revoluções socialistas tradicionais. As revoluções russa, chinesa e cubana foram feitas por pessoas que eram vitais para a economia, mas às quais faltava poder político; em 2016, Trump e Brexit foram apoiados por muita gente que ainda usufruía de poder político, mas que temia estar perdendo seu valor na economia. Talvez no século XXI as revoltas populares sejam dirigidas não contra uma elite econômica que explora pessoas, mas contra a elite econômica que já não precisa delas (6). Talvez seja uma batalha perdida. É muito mais difícil lutar contra a irrelevância do que contra a exploração.

Esta parece ser a tese política central de Harari: as pessoas não estão sendo exploradas e sim descartadas. Merece discussão.

A FÊNIX LIBERAL

Esta não é a primeira vez que a narrativa liberal enfrenta uma crise de confiança. Desde que essa narrativa passou a exercer uma influência global, na segunda metade do século XIX, ela tem passado por crises periódicas. A primeira era da globalização e da liberalização terminou no banho de sangue da Primeira Guerra Mundial, quando a disputa geopolítica imperial interrompeu precocemente a marcha global para o progresso. Nos dias seguintes ao assassinato do arquiduque Francisco Ferdinando em Sarajevo, constatou-se que as grandes potências acreditavam muito mais no imperialismo que no liberalismo, e em vez de unir o mundo mediante um comércio livre e pacífico elas se concentraram em conquistar uma fatia maior do mundo pela força bruta. Porém o liberalismo sobreviveu ao momento de Francisco Ferdinando e emergiu desse turbilhão ainda mais forte que antes, prometendo que aquela fora a “guerra para pôr fim a todas as guerras”. A carnificina sem precedente havia supostamente ensinado ao gênero humano quão terrível é o preço do imperialismo, e agora a humanidade estava enfim pronta para criar uma nova ordem mundial baseada nos princípios da liberdade e da paz.

Depois veio o momento de Hitler, nos anos 1930 e início dos 1940, quando o fascismo pareceu, por um instante, invencível. A vitória sobre essa ameaça apenas levou à seguinte. Durante o momento de Che Guevara, entre as décadas de 1950 e 1970, pareceu novamente que o liberalismo estava nas últimas, e que o futuro pertencia ao comunismo. No fim, foi o comunismo que entrou em colapso. O mercado provou que era mais forte que o gulag. Mais importante que isso, a narrativa liberal provou ser de longe mais flexível e dinâmica do que qualquer uma de suas oponentes. Triunfou sobre o imperialismo, sobre o fascismo e sobre o comunismo ao adotar algumas de suas melhores ideias e práticas. Em particular, a narrativa liberal aprendeu com o comunismo a expandir o círculo da empatia e a dar valor, além da liberdade, à igualdade.

É preciso ver se a absorção da ideia de igualdade juntamente com a ideia de liberdade (ou melhor, se tomar a igualdade como condição para a liberdade plena) foi positiva ou negativa para o que Harari chama de narrativa liberal?

No começo, a narrativa liberal se preocupava principalmente com as liberdades e privilégios de homens europeus de classe média, e parecia cega à situação difícil das pessoas da classe trabalhadora, das mulheres, das minorias e dos não ocidentais. Quando, em 1918, as vitoriosas Inglaterra e França falavam com empolgação sobre liberdade, não tinham em mente os súditos de seus extensos impérios. Por exemplo, as demandas dos indianos por independência tiveram como resposta o massacre de Amritsar em 1919, no qual o Exército britânico assassinou centenas de manifestantes desarmados.

Mesmo após a Segunda Guerra Mundial, liberais ocidentais ainda tinham dificuldade em aplicar seus supostos valores universais a povos não ocidentais. Assim, em 1945, quando os holandeses saíram de cinco anos de uma brutal ocupação nazista, uma das primeiras coisas que fizeram foi mobilizar um exército e enviá-lo para o outro lado do mundo para reocupar sua ex-colônia da Indonésia. Se em 1940 os holandeses cederam a própria independência após pouco mais de cinco dias de batalha, combateram por mais de quatro longos e amargos anos para suprimir a independência da Indonésia. Não surpreende que muitos movimentos de libertação nacional por todo o mundo tenham depositado suas esperanças nos comunistas de Moscou e Pequim, e não nos autoproclamados campeões da liberdade no Ocidente.

No entanto, aos poucos a narrativa liberal expandiu seus horizontes, e pelo menos em teoria passou a dar valor às liberdades e aos direitos de todos os seres humanos sem exceção. À medida que o círculo de liberdade se expandia, a narrativa liberal veio a reconhecer também a importância dos programas de bem-estar social no estilo comunista. A liberdade não vale muito se não vier acompanhada de algum tipo de rede de segurança social. Estados social-democratas de bem-estar social combinaram democracia e direitos humanos com serviços de educação e saúde bancados pelos governos. Até mesmo os ultracapitalistas Estados Unidos deram-se conta de que a proteção da liberdade exige ao menos alguns serviços públicos de bem- estar social. Crianças morrendo de fome não têm liberdade.

A narrativa de Harari não toma como referencial a democracia e sim a tal “narrativa liberal”. Ora, a democracia não é apenas uma narrativa: não se trata propriamente do quê (ou em quê) as pessoas acreditam (como ele imagina) e sim do que elas experimentam, de como elas vivem e convivem. Deve-se ler aqui um texto de 2015, de Larry Diamond (que entende mais do assunto) sobre a recessão democrática.

No início da década de 1990, pensadores e políticos declararam o “Fim da História”, afirmando com segurança que todas as grandes questões políticas do passado haviam sido resolvidas, e que o renovado pacote liberal de democracia, direitos humanos, livres mercados e serviços públicos de bem-estar social eram a única opção disponível. Esse pacote parecia estar destinado a se espalhar por todo o mundo, superar todos os obstáculos, apagar todas as fronteiras nacionais e transformar o gênero humano em uma comunidade global livre (7).

O conceito de fim da história de Fukuyama não é tão primário assim. É necessário entender o que ele chama de ‘história’ para entender a hipótese do fim da história.

Mas a história não chegou ao fim, e depois do momento de Francisco Ferdinando, do momento de Hitler e do momento de Che Guevara, encontramo-nos agora no momento de Trump. Desta vez, no entanto, a narrativa liberal não enfrenta um oponente ideológico coerente como o imperialismo, o fascismo ou o comunismo. O momento de Trump é muito mais niilista.

Sim, mas o trumpismo é um nacionalismo, um localismo não-cosmopolita, um populismo-autoritário e, nessa medida, também é uma narrativa (que, aliás, cresce no momento atual no mundo todo).

Enquanto todos os grandes movimentos do século XX tinham uma visão que abrangia toda a espécie humana — fosse dominação, revolução ou libertação global —, Donald Trump não oferece nada disso. Exatamente o contrário. Sua mensagem principal é que não é tarefa dos Estados Unidos formular nem promover qualquer visão global. Da mesma forma, os formuladores e apoiadores do Brexit dificilmente têm um plano para o futuro do Reino Desunido — o futuro da Europa e do mundo está muito além de seu horizonte. A maioria das pessoas que votaram em Trump e no Brexit não rejeitaram o pacote liberal inteiro — elas perderam a fé principalmente na parte sobre a globalização. Ainda acreditam na democracia, no livre mercado, nos direitos humanos e na responsabilidade social, mas acham que essas ideias belas só devem ir até a fronteira. Na verdade, acreditam que, para preservar a liberdade e a prosperidade em Yorkshire ou no Kentucky, é melhor construir um muro na divisa e adotar políticas não liberais em relação a estrangeiros.

Isso, obviamente, é uma narrativa.

A China, superpotência em ascensão, apresenta uma imagem quase invertida. É cautelosa na liberalização de sua política doméstica, mas adotou uma abordagem muito mais liberal em relação ao resto do mundo. Quando se trata de livre mercado e cooperação internacional, Xi Jinping parece ser o verdadeiro sucessor de Obama. Tendo posto o marxismo-leninismo em segundo plano, a China parece estar bem feliz com a ordem liberal internacional.

A emergente Rússia considera-se uma rival muito mais poderosa da ordem liberal global, mas, embora tenha reconstituído seu poder militar, está ideologicamente falida. Vladimir Putin certamente é popular na Rússia e entre movimentos de direita por todo o mundo, mas ainda não tem uma visão global que possa atrair espanhóis desempregados, brasileiros insatisfeitos ou estudantes idealistas em Cambridge.

A Rússia oferece uma alternativa à democracia liberal, mas esse modelo não é uma ideologia política coerente; é uma prática política na qual poucos oligarcas monopolizam a maior parte da riqueza e do poder de um país, e depois usam a mídia para ocultar suas atividades e consolidar seu domínio. A democracia baseia-se no princípio de Abraham Lincoln de que “é possível enganar todas as pessoas por algum tempo, e algumas pessoas o tempo todo, mas não é possível enganar todas as pessoas o tempo todo”. Se um governo é corrupto e não melhora a vida das pessoas, em algum momento os cidadãos se darão conta disso e substituirão o governo. Mas o controle da mídia pelo governo solapa a lógica de Lincoln, porque impede que os cidadãos conheçam a verdade. Mediante seu monopólio da mídia, a oligarquia governante pode sempre culpar os outros por suas falhas e desviar a atenção para ameaças externas — reais ou imaginárias.

Quando se vive sob tal oligarquia, sempre haverá alguma crise que parece mais importante que coisas fastidiosas como o sistema de saúde ou a poluição. Se a nação está enfrentando uma invasão externa ou uma diabólica subversão, quem tem tempo para se preocupar com hospitais superlotados e rios poluídos? Ao fabricar uma torrente interminável de crises, uma oligarquia corrupta pode prolongar seu domínio indefinidamente (8).

Porém, mesmo que duradouro na prática, esse modelo oligárquico não atrai ninguém. Diferentemente de outras ideologias que expõem com orgulho sua visão, oligarquias dominantes não se gabam de suas práticas, e tendem a usar outras ideologias como cortina de fumaça. Assim, a Rússia pretende ser uma democracia, e sua liderança proclama lealdade aos valores do nacionalismo russo e do cristianismo ortodoxo — e não à oligarquia. Extremistas de direita na França e na Inglaterra até podem confiar na ajuda russa e expressar admiração por Putin, mas seus eleitores não gostariam de viver num país que copiasse o modelo russo — um país com corrupção endêmica, serviços que funcionam mal, sem estado de direito e com uma desigualdade assombrosa. Segundo certos parâmetros, a Rússia é um dos países mais desiguais do mundo, com 87% da riqueza concentrada nas mãos dos 10% mais ricos da população (9). Quantos apoiadores do Front National da classe trabalhadora gostariam de copiar essa distribuição de riqueza na França?

Humanos estão abandonando seus locais de origem. Em minhas viagens pelo mundo conheci muitas pessoas que querem imigrar para os Estados Unidos, Alemanha, Canadá ou Austrália. Conheci algumas que queriam se mudar para a China ou o Japão. Mas ainda não conheci uma só pessoa que sonha em imigrar para a Rússia.

Quanto ao “Islã global”, ele atrai principalmente aqueles que nasceram em seus braços. Embora seja capaz de seduzir algumas pessoas na Síria e no Iraque, e mesmo jovens muçulmanos na Alemanha e na Inglaterra, é difícil imaginar Grécia ou África do Sul — muito menos Canadá ou Coreia do Sul — aderindo a um califado global como solução para seus problemas. Para cada jovem muçulmano da Alemanha que foi ao Oriente Médio a fim de viver sob uma teocracia muçulmana, provavelmente cem jovens do Oriente Médio gostariam de fazer o percurso inverso e começar uma nova vida na Alemanha liberal.

Isso talvez implique que a atual crise de fé seja menos grave que suas predecessoras. Todo liberal levado ao desespero pelos acontecimentos recentes deveria simplesmente relembrar como as coisas pareciam muito piores em 1918, 1938 ou 1968. E, afinal de contas, o gênero humano não abandonará a narrativa liberal, porque não tem alternativa. As pessoas podem dar um chute raivoso no estômago do sistema, mas, não tendo para onde ir, voltarão.

A narrativa de Harari, embora faça uma aposta correta (a aposta dos democratas) é otimista (o que não é aconselhável para a análise política).

As pessoas podem também desistir totalmente de ter uma narrativa global de qualquer tipo e buscar abrigo em lendas nacionalistas e religiosas locais. Os movimentos nacionalistas foram um fator político importantíssimo no século XX, mas careciam de uma visão coerente de futuro para o mundo que não fosse a de apoiar a divisão do globo em Estados-nação independentes. Os nacionalistas indonésios lutaram contra a dominação holandesa, os nacionalistas vietnamitas queriam um Vietnã livre, mas não havia uma narrativa indonésia ou vietnamita para a humanidade como um todo. Quando chegava a hora de explicar como a Indonésia, o Vietnã e todas as outras nações livres deveriam se relacionar umas com as outras, e como os humanos deveriam lidar com problemas globais, como a ameaça de uma guerra nuclear, os nacionalistas invariavelmente se voltavam para ideias liberais ou comunistas.

Aqui Harari tangencia o ponto mais importante do debate. Numa sociedade em rede não haverá mais narrativas globais de qualquer tipo. É o fim das narrativas totalizantes. O que significa que não precisamos de uma nova narrativa global (nem mesmo da narrativa liberal reconstruída). Com o estilhaçamento do mundo único, também vão para o ralo as mega-narrativas que pretendiam explicar tudo. Cada mundo social que emergir dessa nova morfologia e dessa nova dinâmica social terá sua própria narrativa política.

Porém se tanto o liberalismo quanto o comunismo estão agora desacreditados, não deveriam talvez os humanos abandonar a ideia de uma narrativa global única? Afinal, não foram todas essas histórias globais — até mesmo o comunismo — produto do imperialismo ocidental? Por que deveriam aldeões vietnamitas depositar sua fé em ideias concebidas por um alemão de Trier e um industrial de Manchester? Talvez cada país devesse adotar um caminho idiossincrático, definido por suas próprias tradições ancestrais? Talvez até mesmo os ocidentais devessem dar um descanso a suas tentativas de administrar o mundo e se concentrar em seus próprios assuntos, para variar?

Exatamente. Mas isso não significa necessariamente voltar às tradições ancestrais. O local conectado não pode ser mais o local separado. O local conectado é o mundo todo. Quando a globalização do local encontra a localização do global, tudo pode mudar.

Sem dúvida, é isso que está acontecendo em todo o globo, quando o vácuo deixado pelo colapso do liberalismo está sendo, de forma vacilante, preenchido por fantasias nostálgicas de algum passado local dourado. Donald Trump associou seu chamado para o isolacionismo americano com uma promessa de “Tornar a América grande novamente” — como se os Estados Unidos das décadas de 1980 ou 1950 tivessem sido uma sociedade perfeita que os americanos deveriam de algum modo recriar no século XXI. Os partidários do Brexit sonham em fazer da Inglaterra uma potência independente, como se ainda vivessem na época da rainha Vitória e como se o “isolamento esplêndido” fosse uma política viável na era da internet e do aquecimento global. As elites chinesas redescobriram seus legados imperiais e confucianos nativos, como um suplemento ou mesmo um substituto para a duvidosa ideologia marxista que importaram do Ocidente. Na Rússia, a visão oficial de Putin não é a construção de uma oligarquia corrupta, mas a ressurreição do antigo império tsarista. Um século depois da revolução bolchevique, Putin promete o retorno às glórias do tsarismo, com um governo autocrático mantido pelo nacionalismo russo e pela fé ortodoxa cujo poder se estende do mar Báltico ao Cáucaso.

Não se pode afirmar que haja um colapso do liberalismo e sim de uma determinada ideologia (ou narrativa) liberal. O liberalismo-político (que é sinônimo de democracia) não entrou em colapso: está apenas passando por um período (ou processo) de recessão ou de desconsolidação.

Sonhos nostálgicos semelhantes, que misturam adesão ao nacionalismo com tradições religiosas, sustentam regimes na Índia, na Polônia, na Turquia e em muitos outros países. Em nenhum lugar essas fantasias são mais extremadas que no Oriente Médio, onde islâmicos querem copiar o sistema estabelecido pelo profeta Maomé na cidade de Medina 1400 anos atrás, enquanto judeus fundamentalistas em Israel superam até mesmo os islâmicos e sonham em retroceder 2500 anos até os tempos bíblicos. Membros da coalizão que governa Israel falam abertamente sobre sua esperança de expandir as fronteiras modernas de Israel para que coincidam com as de Israel da Bíblia, sobre reinstituição da lei bíblica e até mesmo sobre reconstrução do antigo Templo de Iahweh no lugar da mesquita de Al-Aqsa (10).

As elites liberais olham horrorizadas para esses desenvolvimentos e esperam que a humanidade volte ao caminho liberal a tempo de impedir um desastre. Em seu discurso final nas Nações Unidas, em setembro de 2016, o presidente Obama advertiu seus ouvintes quanto ao retrocesso para “um mundo radicalmente dividido, e acima de tudo em conflito, entre fronteiras ancestrais de nação e tribo e raça e religião”. Em vez disso, disse, “os princípios de mercados livres e governança responsável, de democracia e direitos humanos e lei internacional […] são o fundamento mais firme para o progresso humano neste século” (11).

Obama ressaltou com razão que, a despeito das numerosas deficiências do pacote liberal, ele tem um histórico muito melhor do que quaisquer alternativas. A maioria dos humanos nunca usufruiu de maior paz e prosperidade do que sob a égide da ordem liberal do início do século XXI. Pela primeira vez na história, doenças infecciosas matam menos que idade avançada, fome mata menos que obesidade e violência mata menos que acidentes.

Mas o liberalismo não tem respostas imediatas para os maiores problemas que enfrentamos: o colapso ecológico e a disrupção tecnológica. O liberalismo baseou-se tradicionalmente no crescimento econômico para resolver conflitos sociais e políticos complexos. O liberalismo reconciliou o proletariado com a burguesia, os crentes com os ateus, os nativos com os imigrantes e os europeus com os asiáticos, ao prometer a todos uma fatia maior do bolo. Com um bolo que crescia constantemente, isso era possível. Contudo, o crescimento econômico não vai salvar o ecossistema global — justamente o contrário, ele é a causa da crise ecológica. E o crescimento econômico não vai resolver a questão da disrupção tecnológica — ele pressupõe a invenção de mais e mais tecnologias disruptivas.

Aqui fica claro que Harari não se refere ao liberalismo como comportamento político e sim a uma determinada narrativa liberal. Uma narrativa que tentava (equivocadamente) justificar a democracia pelos seus resultados econômico-sociais (proporcionar a todos a boa-vida do gado confinado holandês) e não pela sua natureza política (viver sem um senhor, não adotar modos guerreiros de regulação de conflitos, configurar campos de convivência mais compatíveis com a liberdade: com a liberdade de ser infiel às origens, com a liberdade de não ter rumo – o que significa sociedade aberta, com o futuro aberto – e com a liberdade de criar novos mundos sociais).

A narrativa liberal e a lógica do capitalismo de livre mercado estimulam as pessoas a ter grandes expectativas. Durante a parte final do século XX, cada geração — seja em Houston, Xangai, Istambul ou São Paulo — usufruía de uma educação melhor, serviços de saúde superiores e maior renda do que a que lhe antecedia. Nas décadas por vir, no entanto, devido a uma combinação de disrupção tecnológica e colapso ecológico, a geração mais jovem terá sorte se permanecer nos mesmos patamares.

Consequentemente, nos restou a tarefa de criar uma narrativa atualizada para o mundo. Assim como as convulsões da Revolução Industrial deram origem às novas ideologias do século XX, as próximas revoluções na biotecnologia e na tecnologia da informação exigirão novas visões e conceitos. As próximas décadas serão, portanto, caracterizadas por um intenso exame de consciência e pela formulação de novos modelos sociais e políticos. Será o liberalismo capaz de se reinventar mais uma vez, como na esteira das crises das décadas de 1930 e 1960, e emergir ainda mais atraente? Será que a religião e o nacionalismo tradicionais são capazes de oferecer as respostas que escapam aos liberais, e usar sua antiga sabedoria para moldar uma visão de mundo atualizada? Ou terá chegado o momento de romper totalmente com o passado e criar uma narrativa completamente nova que vá além não só dos antigos deuses e nações, mas até mesmo dos valores modernos centrais de liberdade e igualdade?

Por que temos de criar uma nova narrativa atualizada para o mundo? De que mundo Harari está falando? Ao que tudo indica, o localismo cosmopolita e o localismo não-cosmopolita ensejarão o surgimento, a convivência, a coexistência pacífica ou o choque de múltiplas narrativas.

Atualmente, o gênero humano está longe de qualquer consenso quanto a essas questões. Ainda estamos no momento niilista de desilusão e raiva, depois da perda da fé nas narrativas antigas, mas antes da aceitação de uma nova. Então, o que vem em seguida? O primeiro passo é baixar o tom das profecias apocalípticas e passar de uma postura de pânico para uma de perplexidade. O pânico é uma forma de prepotência. Deriva da sensação pretensiosa de que eu sei exatamente para onde o mundo está se dirigindo — ladeira abaixo. A perplexidade é mais humilde, portanto mais perspicaz. Se você tem vontade de correr pela rua gritando “O apocalipse está chegando!”, tente dizer a si mesmo: “Não, não é isso. A verdade é que eu não compreendo o que está acontecendo no mundo”.

O “gênero humano” de Harari parece um ente não social. De quem ele está falando, afinal? Das pessoas (que já são rede)? Serão os indivíduos que deverão entrar em “consenso” sobre as questões que ele coloca? Como isso seria possível?

Os capítulos seguintes tentarão esclarecer algumas das atordoantes novas possibilidades que temos pela frente, e como deveríamos proceder a partir daí. Porém, antes de explorar soluções possíveis para os impasses da humanidade, precisamos ter uma melhor noção do desafio que a tecnologia nos coloca. As revoluções na tecnologia da informação e na biotecnologia ainda estão em sua infância, e é discutível em que medida elas realmente são responsáveis pela atual crise do liberalismo. A maior parte das pessoas em Birmingham, Istambul, São Petersburgo e Mumbai só tem uma noção vaga, se é que tem, do surgimento da inteligência artificial e do possível impacto dela em sua vida. É certo, no entanto, que as revoluções tecnológicas vão ganhar impulso nas próximas décadas, e colocarão o gênero humano diante das provações mais difíceis que jamais enfrentamos. Qualquer narrativa que busque ganhar a adesão da humanidade será testada, acima de tudo, em sua capacidade de lidar com as revoluções gêmeas na tecnologia da informação e na biotecnologia. Se o liberalismo, o nacionalismo, o Islã ou algum credo novo quiser modelar o mundo em 2050, terá não só de desvendar a inteligência artificial, os algoritmos de Big Data e a bioengenharia como precisará também incorporá-los numa narrativa nova e significativa.

Novamente Harari volta com a questão de uma narrativa nova. Como ele trabalha com narrativas, parece não perceber que novos comportamentos políticos é que contam e não propriamente convicções (crenças) dos indivíduos. Novos comportamentos políticos podem surgir sem que indivíduos tenham sequer consciência das ideias que estariam pressupostas em tais comportamentos. Há uma fenomenologia da interação que Harari parece desconhecer ou não levar em conta.

Para compreender a natureza desse desafio tecnológico, talvez seja melhor começar com o mercado de trabalho. Desde 2015 tenho viajado pelo mundo e conversado com funcionários de governos, empresários, ativistas sociais e estudantes sobre os impasses da humanidade. Quando ficam impacientes ou entediados com essa conversa de inteligência artificial, algoritmos de Big Data ou bioengenharia, basta eu mencionar uma palavra mágica para atrair novamente sua atenção: empregos. A revolução tecnológica pode em breve excluir bilhões de humanos do mercado de trabalho e criar uma nova e enorme classe sem utilidade, levando a convulsões sociais e políticas com as quais nenhuma ideologia existente está preparada para lidar. Essa conversa sobre tecnologia e ideologia pode soar muito abstrata e remota, mas a perspectiva real de desemprego em massa — ou pessoal — não deixa ninguém indiferente.

Aqui Harari volta ao seu ponto (aliás, o único ponto que levanta): a criação de uma nova e enorme classe dos inúteis.

Problemas com a análise de Harari

Constatamos na sessão 50 dos Novos Pensadores que Yuval Harari (2018), no seu novo livro “21 lições para o século 21”, confunde democracia liberal (o modo de regulação) com narrativa neoliberal (a ideologia). A confusão entre o colapso da narrativa neoliberal (ou liberal-econômica) e a recessão democrática atual (que está afetando negativamente as democracias liberais) é um erro grave de análise. E é uma pena. Depois de constatar que “os humanos pensam em forma de narrativas e não de fatos, números ou equações” (o que é correto), ele dá um salto triplo carpado epistemológico (ou hermenêutico) e conclui que as pessoas precisam de uma nova mega-narrativa global que dê conta de explicar tudo (quem somos, porque estamos onde estamos e para onde vamos) como faziam as velhas narrativas fascistas, comunistas e liberais-econômicas, inclusive o que acontecerá após o colapso ecológico e a disrupção tecnológica (com as próximas revoluções na biotecnologia e na tecnologia da informação). Como se uma nova narrativa totalizante fosse possível num mundo que já não pode ser único, posto que pulverizado em miríades de mundos sociais (como é próprio da sociedade-em-rede). Ora, a democracia não é uma narrativa (ainda que se possa sempre construir narrativas sobre ela): não se trata propriamente do quê (ou em quê) as pessoas acreditam globalmente (como ele imagina) e sim do que elas experimentam glocalmente, de como elas convivem (em cada local que, quando conectado, para todos os efeitos se converte no mundo todo). Política não é religião (composta por rebanhos de fiéis que creem numa doutrina) e sim um modo de interação em um sistema complexo, variacional e adaptativo, cujo comportamento é imprevisível. Se não fosse assim, a democracia (como política que toma por sentido a liberdade) não faria o menor sentido.

Notas do Capítulo I. 1

1. Veja, por exemplo, o discurso inaugural de George W. Bush em 2005, em que ele diz: “Somos levados, pelos fatos e pelo senso comum, a uma conclusão: a sobrevivência da liberdade em nosso país depende cada vez mais do sucesso da liberdade em outros países. A melhor esperança pela paz em nosso mundo é a expansão da liberdade em todo o mundo”. “Bush Pledges to Spread Democracy” (CNN, 20 jan. 2005). Disponível em:
<http://edition.cnn.com/2005/ALLPOLITICS/01/20/bush.speech/>. Acesso em: 7 jan. 2018. Para Obama, veja, por exemplo, seu discurso para a ONU: Katie Reilly, “Read Barack Obama’s Final Speech to the United Nations as President” (Time, 20 set. 2016). Disponível em: <http://time.com/4501910/president-obama-united-nations-speech- transcript/>. Acesso em: 3 dez. 2017.

2. William Neikirk e David S. Cloud, “Clinton: Abuses Put China ‘On Wrong Side of History’” (Chicago Tribune,
30 out. 1997). Disponível em: <http://articles.chicagotribune.com/1997-10-30/news/9710300304_1_human-rights- jiang-zemin-chinese-leader>. Acesso em: 3 dez. 2017.

3. Eric Bradner, “Hillary Clinton’s Email Controversy, Explained” (CNN, 28 out. 2016). Disponível em:
<http://edition.cnn.com/2015/09/03/politics/hillary-clinton-email-controversy-explained-2016/index.html>. Acesso em: 3 dez. 2017.

4. Chris Graham e Robert Midgley, “Mexico Border Wall: What is Donald Trump Planning, How Much Will It Cost and Who Will Pay for It?” (Telegraph, 23 ago. 2017). Disponível em:
<http://www.telegraph.co.uk/news/0/mexico-border-wall-donald-trump-planning-much-will-cost-will/>. Acesso em: 3 dez. 2017. Michael Schuman, “Is China Stealing Jobs? It May Be Losing Them, Instead” (New York Times, Nova York, 22 jul. 2016). Disponível em: <https://www.nytimes.com/2016/07/23/business/international/china-jobs-donald- trump.html>. Acesso em: 3 dez. 2017.

5. Para vários exemplos do século XIX e início do século XX, veja: Evgeny Dobrenko e Eric Naiman (Orgs.), The Landscape of Stalinism: The Art and Ideology of Soviet Space (Seattle: University of Washington Press, 2003); W. L. Guttsman, Art for the Workers: Ideology and the Visual Arts in Weimar Germany (Nova York: Manchester University Press, 1997). Para uma discussão genérica, veja: Nicholas John Cull, Propaganda and Mass Persuasion: A Historical Encyclopedia, 1500 to the Present (Santa Barbara: ABC-CLIO, 2003).

6. Para esta interpretação, veja: Ishaan Tharoor, “Brexit: A Modern-Day Peasants’ Revolt?” (Washington Post, 25 jul. 2016). Disponível em: <https://www.washingtonpost.com/news/worldviews/wp/2016/06/25/the-brexit-a-modern- day-peasants-revolt/?utm_term=.9b8e81bd5306>. Acesso em: 18 jun. 2018. John Curtice, “US Election 2016: The Trump-Brexit Voter Revolt” (BBC, 11 nov. 2016). Disponível em: <http://www.bbc.com/news/election-us-2016- 37943072>. Acesso em: 18 jun. 2018.

7. O mais famoso continua a ser, é claro, O fim da história e o último homem, de Francis Fukuyama (Londres: Penguin, 1992).

8. Karen Dawisha, Putin’s Kleptocracy (Nova York: Simon & Schuster, 2014). Timothy Snyder, The Road to Unfreedom: Russia, Europe, America (Nova York: Tim Duggan Books, 2018). Anne Garrels, Putin Country: A Journey Into the Real Russia (Nova York: Farrar, Straus & Giroux, 2016). Steven Lee Myers, The New Tsar: The Rise and Reign of Vladimir Putin [O novo czar: A ascensão e o reinado de Vladimir Putin] (Nova York: Knopf Doubleday, 2016).

9. Credit Suisse, Global Wealth Report 2015. Disponível em: <https://publications.credit- suisse.com/tasks/render/file/?fileID=F2425415-DCA7-80B8-EAD989AF9341D47E>. Acesso em: 12 mar. 2018. Filip Novokmet, Thomas Piketty e Gabriel Zucman, “From Soviets to Oligarchs: Inequality and Property in Russia 1905- 2016” (World Wealth and Income Database, jul. 2017). Disponível em:<http://www.piketty.pse.ens.fr/files/NPZ2017WIDworld.pdf>. Acesso em: 12 mar. 2018. Shaun Walker, “Unequal Russia” (The Guardian, 25 abr. 2017). Disponível em: <https://www.theguardian.com/inequality/2017/apr/25/unequal- russia-is-anger-stirring-in-the-global-capital-of-inequality>. Acesso em: 12 mar. 2018.

10. Ayelet Shani, “The Israelis Who Take Rebuilding the Third Temple Very Seriously” (Haaretz, Tel Aviv, 10 ago. 2017). Disponível em: <https://www.haaretz.com/israel-news/.premium-1.805977>. Acesso em: 7 jan. 2018. “Israeli Minister: We Should Rebuild Jerusalem Temple” (Israel Today, 7 jul. 2013). Disponível em:
<http://www.israeltoday.co.il/Default.aspx?tabid=178&nid=23964>. Acesso em: 7 jan. 2018. Yuri Yanover, “Dep. Minister Hotovely: The Solution Is Greater Israel without Gaza” (Jewish Press, 25 ago. 2013). Disponível em:
<http://www.jewishpress.com/news/breaking-news/dep-minister-hotovely-the-solution-is-greater-israel-without- gaza/2013/08/25/>. Acesso em: 7 jan. 2018. “Israeli Minister: The Bible Says West Bank Is Ours” (Al Jazeera, 24 fev. 2017). Disponível em: <http://www.aljazeera.com/programmes/upfront/2017/02/israeli-minister-bible-west-bank- 170224082827910.html>. Acesso em: 29 jan. 2018.

11. Katie Reilly, “Read Barack Obama’s Final Speech to the United Nations as President” (Time, 20 set. 2016). Disponível em: <http://time.com/4501910/president-obama-united-nations-speech-transcript/>. Acesso em: 3 dez. 2017.

2. Trabalho

Quando você crescer, talvez não tenha um emprego

Não temos ideia de como será o mercado de trabalho em 2050. Sabemos que o aprendizado de máquina e a robótica vão mudar quase todas as modalidades de trabalho — desde a produção de iogurte até o ensino da ioga. Contudo, há visões conflitantes quanto à natureza dessa mudança e sua iminência. Alguns creem que dentro de uma ou duas décadas bilhões de pessoas serão economicamente redundantes. Outros sustentam que mesmo no longo prazo a automação continuará a gerar novos empregos e maior prosperidade para todos.

Estaríamos à beira de uma convulsão social assustadora, ou essas previsões são mais um exemplo de uma histeria ludista infundada? É difícil dizer. Os temores de que a automação causará desemprego massivo remontam ao século XIX, e até agora nunca se materializaram. Desde o início da Revolução Industrial, para cada emprego perdido para uma máquina pelo menos um novo emprego foi criado, e o padrão de vida médio subiu consideravelmente (1). Mas há boas razões para pensar que desta vez é diferente, e que o aprendizado de máquina será um fator real que mudará o jogo.

Humanos têm dois tipos de habilidades — física e cognitiva. No passado, as máquinas competiram com humanos principalmente em habilidades físicas, enquanto os humanos se mantiveram à frente das máquinas em capacidade cognitiva. Por isso, quando trabalhos manuais na agricultura e na indústria foram automatizados, surgiram novos trabalhos no setor de serviços que requeriam o tipo de habilidade cognitiva que só os humanos possuíam: aprender, analisar, comunicar e acima de tudo compreender as emoções humanas. No entanto, a IA está começando agora a superar os humanos em um número cada vez maior dessas habilidades, inclusive a de compreender as emoções humanas (2). Não sabemos de nenhum terceiro campo de atividade — além do físico e do cognitivo — no qual os humanos manterão sempre uma margem segura.

E a capacidade de criar (criar o que não existe e que não está determinado pela trajetória de adaptações)? Não seria o caso de pensar na Inteligência Tipicamente Humana? A inteligência que ocorre quando se dá a empatia entre humanos (que é sintônica, sinérgica, simbiôntica)? E não seria também o caso de pensar nas formas de inteligência coletiva ensejadas pela fenomenologia da interação quando as redes são compostas por humanos interagindo? E não seria, por último, o caso de pensar na inteligência que se manifesta a partir do erro (que a IA não admite)?

É crucial entender que a revolução da IA não envolve apenas tornar os computadores mais rápidos e mais inteligentes. Ela se abastece de avanços nas ciências da vida e nas ciências sociais também. Quanto mais compreendemos os mecanismos bioquímicos que sustentam as emoções, os desejos e as escolhas humanas, melhores podem se tornar os computadores na análise do comportamento humano, na previsão de decisões humanas, e na substituição de motoristas, profissionais de finanças e advogados humanos.

Nas últimas décadas a pesquisa em áreas como a neurociência e a economia comportamental permitiu que cientistas hackeassem humanos e adquirissem uma compreensão muito melhor de como os humanos tomam decisões. Constatou-se que todas as nossas escolhas, desde comida até parceiros sexuais, resultam não de algum misterioso livre-arbítrio, e sim de bilhões de neurônios que calculam probabilidades numa fração de segundo. A tão propalada “intuição humana” é na realidade a capacidade de reconhecer padrões (3). Bons motoristas, profissionais de finanças e advogados não têm intuições mágicas sobre trânsito, investimento ou negociação — e sim, ao reconhecer padrões recorrentes, eles localizam e tentam evitar pedestres desatentos, tomadores de empréstimo ineptos e trapaceiros. Também se constatou que os algoritmos bioquímicos do cérebro humano estão longe de ser perfeitos. Eles se baseiam em heurística, atalhos e circuitos ultrapassados, adaptados mais à savana africana do que à selva urbana. Não é de admirar que bons motoristas, profissionais de finanças e advogados às vezes cometam erros bestas.

Isso quer dizer que a IA pode superar o desempenho humano até mesmo em tarefas que supostamente exigem “intuição”. Se pensarmos que a IA tem de competir com os pressentimentos místicos da alma humana, pode parecer impossível. Mas como a IA na realidade tem de competir com redes neurais para calcular probabilidades e reconhecer padrões — isso soa muito menos assustador.

Em especial, a IA pode ser melhor em tarefas que demandam intuições sobre outras pessoas. Muitas modalidades de trabalho — como dirigir um veículo numa rua cheia de pedestres, emprestar dinheiro a estranhos e negociar um acordo — requerem a capacidade de avaliar corretamente as emoções e os desejos de outra pessoa. Será que aquele garoto vai correr para a estrada? Será que o homem de terno pretende pegar meu dinheiro e sumir? Será que aquele advogado vai cumprir suas ameaças ou só está blefando? Quando se pensava que essas emoções e esses desejos eram gerados por um espírito imaterial, parecia óbvio que os computadores nunca seriam capazes de substituir motoristas, banqueiros e advogados humanos. Pois como poderia um computador compreender o divinamente criado espírito humano?

Mas talvez a questão não seja bem “o divinamente criado espírito humano” e sim “a humanamente (ou humano-socialmente) criada alma humana”…

Mas, se essas emoções e esses desejos na realidade não são mais do que algoritmos bioquímicos, não há razão para os computadores não decifrarem esses algoritmos — e até certo ponto, melhor do que qualquer Homo sapiens. O motorista que prevê as intenções de um pedestre, o profissional que avalia a credibilidade de um tomador potencial e o advogado que é sensível ao humor reinante na mesa de negociação não se valem de feitiçaria. Sem que eles saibam, o cérebro deles está reconhecendo padrões bioquímicos ao analisar expressões faciais, tons de voz, movimentos das mãos e até mesmo odores corporais. Uma IA equipada com os sensores certos poderia fazer tudo isso com muito mais precisão e confiabilidade do que um humano.

Será? É o cérebro (do indivíduo) que faz isso ou o cérebro é a interface para uma mente social da pessoa (ou seja, mal-comparando, para uma nuvem de computação)?

Por isso a ameaça de perda de emprego não resulta apenas da ascensão da tecnologia da informação, mas de sua confluência com a biotecnologia. O caminho que vai do escâner de ressonância magnética ao mercado de trabalho é longo e tortuoso, mas ainda assim poderá ser percorrido em poucas décadas. O que os neurocientistas estão aprendendo hoje sobre a amígdala e o cerebelo pode permitir que computadores superem psiquiatras e guarda-costas humanos em 2050.

E a IA não só está em posição de hackear humanos e superá-los no que eram, até agora, habilidades exclusivamente humanas. Ela também usufrui de modo exclusivo de habilidades não humanas, o que torna a diferença entre a IA e um trabalhador humano uma questão qualitativa e não apenas quantitativa. Duas habilidades não humanas especialmente importantes da IA são a conectividade e a capacidade de atualização.

Como humanos são seres individuais, é difícil conectar um ao outro e se certificar de que estão todos atualizados. Em contraste, computadores não são indivíduos, e é fácil integrá-los numa rede flexível. Por isso estamos diante não da substituição de milhões de trabalhadores humanos individuais por milhões de robôs e computadores individuais, mas, provavelmente, da substituição de humanos individuais por uma rede integrada. No que diz respeito à automação, portanto, é errado comparar as habilidades de um único motorista humano com as de um único carro autodirigido, ou as de um único médico humano com as de um único médico de IA. Em vez disso, deveríamos comparar as habilidades de uma coleção de indivíduos humanos com as habilidades de uma rede integrada.

Mas os humanos também formam redes humanos (quer dizer, sociais). Humanos (propriamente ditos) não são seres individuais e sim seres pessoais.

Por exemplo, muitos motoristas não estão familiarizados com todas as regras de trânsito e frequentemente as transgridem. Além disso, como cada veículo é uma entidade autônoma, quando dois deles se aproximam do mesmo cruzamento ao mesmo tempo, os motoristas podem comunicar erroneamente suas intenções e colidir. Carros autodirigidos, em contraste, podem ser conectados entre si. Quando dois desses veículos se aproximam do mesmo cruzamento eles não são duas entidades separadas — são parte de um único algoritmo. As probabilidades de que possam se comunicar erroneamente e colidir são, portanto, muito menores. E, se o Ministério dos Transportes decidir mudar qualquer regra de trânsito, todos os veículos autodirigidos podem ser atualizados com facilidade e exatamente no mesmo momento, e, salvo a existência de algum bug no programa, todos seguirão o novo regulamento à risca (4).

Mesmo o trânsito caótico (em países como a Índia), fornece evidências de que não é assim. Cada motorista que se conecta com outros motoristas (por exemplo, pela visão e pela buzina) conforma um algoritmo coletivo (social).

Da mesma forma, se a Organização Mundial de Saúde identificar uma nova doença, ou se um laboratório produzir um novo remédio, é quase impossível atualizar todos os médicos humanos no mundo quanto a esses avanços. Em contraste, mesmo que haja 10 bilhões de médicos de IA no mundo — cada um monitorando a saúde de um único ser humano —, ainda se poderá atualizar todos eles numa fração de segundo, e todos serão capazes de dar uns aos outros feedbacks quanto às novas doenças ou remédios. Essa vantagem potencial de conectividade e capacidade de atualização é tão enorme que ao menos em algumas modalidades de trabalho talvez faça sentido substituir todos os humanos por computadores, mesmo que individualmente alguns humanos sejam melhores em seu trabalho do que as máquinas.

Poder-se-ia contrapor que, ao se trocar indivíduos humanos por uma rede de computadores, perderemos as vantagens da individualidade. Por exemplo, se um médico humano fizer um diagnóstico errado, ele não vai matar todos os pacientes do mundo e não vai bloquear o desenvolvimento de todos os novos medicamentos. Em contraste, se todos os médicos são na verdade um único sistema, e se esse sistema comete um erro, os resultados podem ser catastróficos. No entanto, um sistema integrado de computadores pode maximizar as vantagens da conectividade sem perder os benefícios da individualidade. Podem-se rodar muitos algoritmos alternativos na mesma rede, de modo que um paciente numa aldeia remota na selva seja capaz de acessar com seu smartphone não apenas um único médico capacitado, mas cem médicos de IA diferentes, cujos desempenhos relativos são comparados o tempo inteiro. Você não gostou do que o médico da IBM lhe disse? Não tem problema. Mesmo que esteja enfurnado em algum lugar das encostas do Kilimanjaro, você pode contatar facilmente o médico da Baidu para ter uma segunda opinião.

Talvez não. “Ao se trocar indivíduos humanos por uma rede de computadores, perderemos as vantagens da individualidade”. Perderemos a vantagem da pessoalidade…

Os benefícios para a sociedade humana provavelmente serão imensos. A IA em medicina poderia prover serviços de saúde muito melhores e mais baratos a bilhões de pessoas, especialmente para as que hoje não têm acesso algum a esses serviços. Graças a algoritmos de aprendizagem e sensores biométricos, um aldeão pobre num país subdesenvolvido poderia usufruir de uma assistência médica muito melhor usando seu smartphone do que a pessoa mais rica do mundo obtém hoje em dia no mais avançado dos hospitais urbanos (5).

Da mesma forma, veículos autodirigidos poderiam oferecer às pessoas serviços de transporte muito melhores e reduzir a taxa de mortalidade por acidentes de trânsito. Hoje, cerca de 1,25 milhão de pessoas morrem todo ano em acidentes de trânsito (o dobro das mortes causadas por guerra, crime e terrorismo somadas) (6). Mais de 90% desses acidentes são causados por erros humanos: alguém que bebeu e dirigiu, alguém digitando uma mensagem enquanto dirige, alguém que adormeceu ao volante, alguém sonhando acordado em vez de prestar atenção à estrada. A Administração Nacional de Segurança de Trânsito em Estradas dos Estados Unidos estimou que, em 2012, 31% dos acidentes fatais no país envolveram uso abusivo de álcool, 30% envolveram excesso de velocidade e 21% envolveram desatenção do motorista (7). Veículos autodirigidos nunca farão nada disso. Embora tenham seus próprios problemas e limitações, e embora alguns acidentes sejam inevitáveis, espera-se que a substituição de motoristas humanos por computadores reduza mortes e ferimentos na estrada em cerca de 90% (8). Em outras palavras, a mudança para veículos autônomos pode poupar a vida de 1 milhão de pessoas por ano.

Por isso seria loucura bloquear a automação em campos como o do transporte e o da saúde só para proteger empregos humanos. Afinal, o que deveríamos proteger são os humanos — não os empregos. Motoristas e médicos obsoletos simplesmente terão de achar outra coisa para fazer.

O MOZART NA MÁQUINA

Ao menos no curto prazo, a IA e a robótica provavelmente não eliminarão por completo setores inteiros da economia. Trabalhos que requeiram especialização numa faixa estreita de atividades padronizadas serão automatizados. Porém será muito mais difícil substituir humanos por máquinas em tarefas menos padronizadas que exijam o uso simultâneo de uma ampla variedade de habilidades, e que envolvam lidar com cenários imprevisíveis. Tomem-se os serviços de saúde, por exemplo. Muitos médicos concentram-se exclusivamente em processar informação: eles absorvem dados médicos, os analisam e fazem um diagnóstico. Enfermeiras, ao contrário, precisam também de boas habilidades motoras e emocionais para ministrar uma injeção dolorosa, trocar um curativo ou conter um paciente violento. Por isso provavelmente teremos um médico de IA em nosso smartphone décadas antes de termos uma enfermeira-robô confiável (9). É provável que as atividades de cuidado — de enfermos, crianças e idosos — continuem a ser um bastião humano por muito tempo. Realmente, como as pessoas estão vivendo mais e tendo menos filhos, a área de cuidados geriátricos provavelmente será a de crescimento mais rápido no mercado de trabalho humano.

Assim como o cuidado, a criatividade também coloca obstáculos especialmente difíceis para a automação. Não precisamos mais de humanos que nos vendam música — podemos baixá-la da loja da iTunes —, mas compositores, instrumentistas, cantores e DJs ainda são de carne e osso. Nós contamos com sua criatividade não só para produzir música totalmente nova mas também para escolher entre uma desnorteante gama de possibilidades disponíveis.

Entretanto, a longo prazo, nenhuma atividade permanecerá totalmente imune à automação. Até mesmo artistas receberão aviso-prévio. No mundo moderno a arte é comumente associada a emoções humanas. Tendemos a pensar que artistas estão direcionando forças psicológicas internas, e que todo o propósito da arte é conectar-nos com nossas emoções ou inspirar em nós algum sentimento novo. Como consequência, quando avaliamos arte tendemos a julgá-la segundo seu impacto emocional no público. Mas se a arte é definida pelas emoções humanas, o que acontecerá quando algoritmos externos forem capazes de compreender e manipular emoções humanas melhor do que Shakespeare, Frida Kahlo ou Beyoncé?

Todavia, evocar ou invocar emoções humanas não é a mesma coisa que compreendê-las e manipulá-las.

Afinal, emoções não são um fenômeno místico — são resultado de um processo bioquímico. Daí que num futuro não muito distante um algoritmo de aprendizado de máquina será capaz de analisar dados biométricos de sensores em seu corpo, determinar o tipo de sua personalidade e suas variações de humor e calcular o impacto emocional que uma determinada canção — até mesmo uma certa tonalidade — terá sobre você (10).

Duvidoso porquanto o que ele chama de “impacto emocional” depende da maneira (unique) como cada pessoa internaliza a rede à qual está conectada.

De todas as formas de arte, a música é provavelmente a mais suscetível a uma análise de Big Data, porque tanto seus inputs como outputs prestam-se a uma descrição matemática precisa. Os inputs são padrões matemáticos de ondas sonoras, e os outputs são os padrões eletroquímicos de tempestades neurais. Dentro de poucas décadas, um algoritmo capaz de analisar milhões de experiências musicais poderá aprender a prever como determinados inputs resultam em determinados outputs (11).

Suponha que você acabou de ter uma briga horrível com seu namorado. O algoritmo encarregado de seu sistema de som imediatamente vai identificar sua agitação interna e, baseado no que conhece de sua personalidade e da psicologia humana em geral, vai tocar canções sob medida para ressoar com sua mágoa e ecoar sua aflição. Essas canções específicas podem não funcionar bem com outras pessoas, mas são perfeitas para seu tipo de personalidade. Depois de ajudá-lo a entrar em contato com sua tristeza mais profunda, o algoritmo vai então tocar a única canção no mundo que provavelmente vai animar você — talvez porque seu subconsciente a conecta com uma lembrança feliz da infância da qual nem mesmo você tem consciência. Nenhum DJ humano poderia jamais esperar equiparar-se aos talentos dessa IA.

O papel do erro (ou seja, do comportamento aleatório) quase desaparece na narrativa de Harari. Mais ainda vamos voltar a esse ponto.

Talvez você conteste, dizendo que a IA estaria assim eliminando o acaso e nos encerrando num estreito casulo musical, tecido por nossos gostos e desgostos anteriores. E quanto a explorar novos gostos e estilos musicais? Tudo bem. Você poderia ajustar o algoritmo para que 5% de suas escolhas fossem totalmente aleatórias, jogando em seu colo uma gravação de um conjunto de gamelão indonésio, uma ópera de Rossini ou o último sucesso de K-pop. Com o tempo, monitorando suas reações, a IA poderia até mesmo determinar o nível ideal de aleatoriedade que otimizaria a exploração, ao mesmo tempo que evita o enfado, talvez baixando seu nível de acaso a 3% ou elevando para 8%.

Esta observação tem a ver com a última (imediatamente acima). O acaso não pode ser substituído pela alta computação. Se puder, não haverá lugar para a liberdade e, consequentemente, para o humano. Voltaremos a esse ponto.

Outra possível objeção seria quanto a não ser claro como o algoritmo estabelece seu objetivo emocional. Se você acabou de brigar com seu namorado, o algoritmo deveria tentar deixá-lo triste ou alegre? Deveria seguir uma escala rígida de emoções “boas” e emoções “ruins”? Talvez haja momentos na vida em que é bom ficar triste? A mesma pergunta poderia, é claro, ser dirigida a músicos e DJs humanos. Mas com um algoritmo há muitas soluções interessantes para esse quebra-cabeça.

Uma opção é deixar isso por conta do cliente. Você pode avaliar suas emoções da maneira que quiser, e o algoritmo seguirá seus ditames. Se você quiser chafurdar na autocomiseração ou dar saltos de alegria, o algoritmo obedecerá a sua orientação. De fato, o algoritmo pode aprender a reconhecer seus desejos mesmo sem que você esteja explicitamente consciente deles.

Ou então, se você não confia em você mesmo, poderá instruir o algoritmo a seguir a recomendação de algum psicólogo no qual você confia. Se seu namorado terminar com você, o algoritmo poderá te conduzir através das cinco etapas oficiais do luto, primeiro te ajudando a negar o que aconteceu tocando “Don’t Worry, Be Happy”, de Bobby McFerrin, depois incitando sua raiva com “You Oughta Know”, de Alanis Morissette, incentivando-o a barganhar com “Ne me quitte pas”, de Jacques Brel, e “Come Back and Stay”, de Paul Young, deixando-o no fundo do poço da depressão com “Someone Like You”, de Adele, e finalmente ajudando você a aceitar a situação com “I Will Survive”, de Gloria Gaynor.

O passo seguinte é o algoritmo começar a experimentar com as próprias canções e melodias, mudando-as ligeiramente para que se adaptem a seus caprichos. Talvez você não goste de um determinado trecho de uma canção que, de resto, é excelente. O algoritmo sabe disso porque seu coração pula uma batida e seus níveis de ocitocina caem ligeiramente sempre que você ouve essa parte que o aborrece. O algoritmo poderia reescrever ou editar as notas que incomodam.

No longo prazo, algoritmos podem aprender a compor melodias inteiras, tocando as emoções humanas como se fossem um teclado de piano. Usando seus dados biométricos, os algoritmos poderiam até mesmo produzir melodias personalizadas, que só você, no universo inteiro, saberia apreciar.

Diz-se que as pessoas se conectam com a arte porque se veem nela. Isso pode levar a resultados surpreendentes e um tanto sinistros se e quando, digamos, o Facebook começar a criar arte baseada em tudo o que sabe sobre você. Se seu namorado te der o fora, o Facebook vai te fazer um agrado com uma canção personalizada sobre aquele babaca em particular e não sobre a pessoa desconhecida que partiu o coração de Adele ou de Alanis Morissette. A canção até o fará se lembrar de incidentes reais do relacionamento de vocês, dos quais ninguém mais no mundo tem conhecimento.

É claro que a arte personalizada pode não pegar, porque as pessoas continuarão a preferir sucessos dos quais todo mundo gosta. Como dançar ou cantar com alguém uma música que só você conhece? Mas os algoritmos poderiam se mostrar mais adaptáveis produzindo sucessos globais do que produzindo raridades personalizadas. Ao usar enormes bases de dados biométricas geradas a partir de milhões de pessoas, o algoritmo poderia saber quais botões bioquímicos acionar para produzir um sucesso global que faria todo mundo rebolar como louco nas pistas de dança. Se arte de fato tem a ver com inspirar (ou manipular) emoções humanas, poucos (se é que algum) músicos humanos terão a oportunidade de competir com um algoritmo desses, porque não podem se equiparar a ele na compreensão do principal instrumento que está tocando: o sistema bioquímico humano.

Aqui parece estar subsumida a hipótese de que os fenômenos de rede são a soma dos fenômenos individuais. Este é o ponto.

Resultará tudo isso em grandes obras de arte? Depende da definição de arte. Se a beleza está na verdade nos ouvidos de quem ouve, e se o cliente tem sempre razão, então os algoritmos biométricos têm a oportunidade de produzir a melhor arte da história. Se arte tem a ver com algo mais profundo do que emoções e deve expressar uma verdade que fica além de nossas vibrações bioquímicas, pode ser que algoritmos biométricos não sejam bons artistas. Mas a maioria dos humanos tampouco é. Para entrar no mercado de arte e substituir muitos compositores e intérpretes os algoritmos não teriam de começar superando logo Tchaikovsky. Bastaria que fossem melhores que Britney Spears.

Mas a questão é que a arte cria novas realidades (novas possibilidades existenciais), que depois poderão ser imitadas pela vida…

NOVOS EMPREGOS?

A perda de muitos trabalhos tradicionais, da arte aos serviços de saúde, será parcialmente compensada pela criação de novos trabalhos humanos. Um clínico geral que diagnostica doenças conhecidas e administra tratamentos de rotina provavelmente será substituído pela IA médica. Mas, justamente por causa disso, haverá muito mais dinheiro para pagar médicos e assistentes de laboratório humanos que façam pesquisas inovadoras e desenvolvam novos medicamentos ou procedimentos cirúrgicos (12).

A IA poderia ajudar a criar novos empregos humanos de outra maneira. Em vez de os humanos competirem com a IA, poderiam concentrar-se nos serviços à IA e na sua alavancagem. Por exemplo, a substituição de pilotos humanos por drones eliminou alguns empregos, mas criou muitas oportunidades novas em manutenção, controle remoto, análise de dados e segurança cibernética. As Forças Armadas dos Estados Unidos precisam de trinta pessoas para operar cada drone Predator ou Reaper sobrevoando a Síria, enquanto a análise das informações coletadas por ele ocupa pelo menos mais oitenta pessoas. Em 2015 a Força Aérea dos Estados Unidos não contava com uma quantidade suficiente de humanos treinados para preencher todas essas posições, e enfrentava, ironicamente, uma crise para tripular suas aeronaves não tripuladas (13).

Se for assim, é possível que o mercado de trabalho em 2050 se caracterize pela cooperação, e não pela competição, entre humanos e IA. Em campos que vão do policiamento à atividade bancária, equipes formadas por humanos e IA poderiam superar o desempenho tanto de humanos quanto de computadores. Depois que o programa de jogar xadrez da IBM Deep Blue derrotou Gary Kasparov em 1997, os humanos não pararam de jogar xadrez. Ao contrário, graças a treinadores de IA, mestres do xadrez humanos ficaram ainda melhores, e ao menos por um período equipes formadas por humanos e IA, conhecidas como “centauros”, venceram no xadrez tanto humanos como computadores. A IA poderia, da mesma forma, ajudar a formar os melhores detetives, investidores e soldados da história (14).

O problema com todos esses novos empregos, no entanto, é que eles provavelmente exigirão altos níveis de especialização, e não resolverão, portanto, os problemas dos trabalhadores não qualificados que estão desempregados. A criação de novos empregos humanos pode mostrar-se mais fácil do que retreinar humanos para preencher esses empregos. Em ciclos de automação anteriores, as pessoas podiam passar de um trabalho padronizado de baixa qualificação a outro com facilidade. Em 1920, um trabalhador agrícola dispensado devido à mecanização da agricultura era capaz de achar um novo emprego numa fábrica de tratores. Em 1980, um operário de fábrica desempregado poderia trabalhar como caixa num supermercado. Essas mudanças de ocupação eram possíveis porque a mudança do campo para a fábrica e da fábrica para o supermercado só exigiam um retreinamento limitado.

Em 2050, porém, um caixa ou um operário da indústria têxtil que perder seu emprego para um robô dificilmente estará apto a começar a trabalhar como oncologista, como operador de drone ou como parte de uma equipe humanos-IA num banco. Não terão as habilidades necessárias. Na Primeira Guerra Mundial fazia sentido enviar milhões de recrutas despreparados para carregar metralhadoras e morrer aos milhares. Suas habilidades individuais tinham pouca importância. Hoje, apesar da escassez de operadores de drone e de analistas de dados, a Força Aérea dos Estados Unidos não está disposta a preencher essas lacunas com ex-funcionários do Walmart. Não quer correr o risco de um recruta inexperiente confundir uma festa de casamento no Afeganistão com uma conferência de alto nível do Talibã.

Como consequência, apesar do aparecimento de muitos novos empregos humanos, poderíamos assim mesmo testemunhar o surgimento de uma nova classe de “inúteis”. Poderíamos de fato ficar com o que há de pior nos dois mundos, sofrendo ao mesmo tempo de altos níveis de desemprego e de escassez de trabalho especializado. Muita gente poderia compartilhar do destino não dos condutores de carroça do século XIX — que passaram a ser taxistas —, mas dos cavalos do século XIX, que foram progressivamente expulsos do mercado de trabalho (15).

Além disso, nenhum dos empregos humanos que sobrarem estará livre da ameaça da automação, porque o aprendizado de máquina e a robótica continuarão a se aprimorar. Um caixa do Walmart de quarenta anos de idade desempregado que graças a esforços sobre-humanos consegue se reinventar como piloto de drone poderá ter de se reinventar novamente dez anos depois, quando a pilotagem de drones poderá também ter sido automatizada. Essa volatilidade também dificultará a organização de sindicatos e a garantia de direitos trabalhistas. Se hoje muitos novos empregos em economias avançadas já envolvem trabalho temporário sem proteção, trabalho de freelancer e tarefas isoladas realizadas só uma vez (16) como sindicalizar uma profissão que prolifera e desaparece em uma década?

Da mesma forma, equipes centauros formadas por humanos e computadores provavelmente serão caracterizadas por um constante cabo de guerra entre humanos e computadores, em vez de se acomodarem numa parceria duradoura. Equipes formadas apenas por humanos — como a de Sherlock Holmes e dr. Watson — normalmente desenvolvem hierarquias e rotinas permanentes que duram décadas. Mas um detetive humano que fizer uma equipe com o sistema Watson de computadores da IBM (que se tornou famoso depois de vencer o programa de perguntas Jeopardy!) vai descobrir que toda rotina é um convite à ruptura, e toda hierarquia um convite à revolução. O parceiro de ontem pode se metamorfosear no superintendente de amanhã, e todos os protocolos e manuais terão de ser reescritos a cada ano (17).

Um olhar mais atento ao mundo do xadrez poderia indicar para onde as coisas estão se dirigindo no longo prazo. É verdade que durante vários anos após a derrota de Kasparov para o Deep Blue a cooperação humano-computador floresceu no xadrez. Mas em anos recentes os computadores ficaram tão bons no xadrez que seus colaboradores humanos perderam o valor, e logo poderão se tornar totalmente irrelevantes.

Em 7 de dezembro de 2017 um marco crucial foi atingido não quando um computador derrotou um humano no xadrez — isso não era novidade —, mas quando o programa AlphaZero, do Google, derrotou o programa Stockfish 8. Stockfish 8 foi o computador campeão mundial de xadrez de 2016. Tinha acesso a séculos de experiência humana acumulada no xadrez, bem como a décadas de experiências de computadores. Era capaz de calcular 70 milhões de posições por segundo. Em contraste, o AlphaZero calculava apenas 80 mil posições por segundo, e seus criadores humanos jamais lhe ensinaram estratégias de xadrez — nem mesmo aberturas ordinárias. Em vez disso, o AlphaZero jogava contra si mesmo, utilizando os mais recentes princípios de autoaprendizado de máquina. Não obstante, em cem partidas contra o Stockfish 8, o AlphaZero venceu 28 e empatou 72. Não perdeu nenhuma. Como o AlphaZero não tinha aprendido nada de qualquer humano, muitos dos movimentos e estratégias vencedores pareciam não convencionais aos olhos humanos. Agora podem ser considerados criativos, se não simplesmente geniais.

Dá para imaginar quanto tempo o AlphaZero levou para aprender xadrez do zero, preparar-se para o jogo contra o Stockfish e desenvolver seus instintos de gênio? Quatro horas. Não é um erro de digitação. Durante séculos, o xadrez foi considerado uma das glórias supremas da inteligência humana. O AlphaZero passou da ignorância total à maestria criativa em quatro horas, sem a ajuda de qualquer orientação humana (18).

O AlphaZero não é o único software imaginativo que existe. Agora, muitos programas vencem rotineiramente jogadores humanos de xadrez não só em capacidade de cálculo, mas até mesmo em “criatividade”. Em torneios de xadrez só para humanos, os juízes estão sempre de olho em jogadores que tentam trapacear com a ajuda de computadores. Um dos modos de pegar essas trapaças é monitorar o nível de originalidade demonstrado pelos jogadores. Se fizerem um movimento muito criativo no tabuleiro, os juízes em geral vão suspeitar de que não pode ser um movimento humano — deve ser um movimento feito por um computador. Pelo menos no xadrez, a criatividade já é marca registrada de computadores, e não de humanos! Se o xadrez é o nosso canário das minas de carvão, estamos devidamente avisados que o canário está morrendo. O que está ocorrendo hoje com equipes de jogadores de xadrez formadas por humanos e IA poderia ocorrer no futuro com equipes humanos-IA em policiamento, medicina e atividade bancária (19).

Consequentemente, a criação de novos empregos e o retreinamento de pessoas para ocupá-los serão um processo recorrente. A revolução da IA não será um único divisor de águas após o qual o mercado de trabalho vai se acomodar num novo equilíbrio. Será, sim, uma torrente de rupturas cada vez maiores. Já hoje poucos empregados esperam permanecer no mesmo emprego por toda a vida (20). Em 2050 não apenas a ideia de “um emprego para a vida inteira” mas até mesmo a ideia de “uma profissão para a vida inteira” parecerão antidiluvianas.

Mesmo se fosse possível inventar novos empregos e retreinar a força de trabalho constantemente, cabe a nós perguntar se um humano mediano terá a energia e a resistência necessárias para uma vida de tantas mudanças. Mudanças são sempre estressantes, e o mundo frenético do início do século XXI gerou uma epidemia global de estresse (21). Será que as pessoas serão capazes de lidar com a volatilidade do mercado de trabalho e das carreiras individuais? Provavelmente vamos precisar de técnicas de redução de estresse ainda mais eficazes — desde medicamentos, passando por psicoterapia e meditação — para evitar que a mente do Sapiens entre em colapso. Uma classe “inútil” pode surgir em 2050 devido não apenas à falta absoluta de emprego ou de educação adequada, mas também devido à falta de energia mental.

A maior parte disso é apenas especulação, claro. No momento em que escrevo — início de 2018 —, a automação acabou com muitos setores da economia, mas não resultou em desemprego massivo. Na verdade, em muitos países, como os Estados Unidos, o nível de desemprego é um dos mais baixos da história. Ninguém sabe com certeza qual impacto o aprendizado de máquina e a automação terão em diversas profissões, e é dificílimo estimar o cronograma dos desenvolvimentos mais importantes, em especial quando dependem tanto de decisões políticas e tradições culturais quanto de inovações puramente tecnológicas. Assim, mesmo depois que veículos autodirigidos provarem ser mais seguros e mais baratos do que motoristas humanos, políticos e consumidores poderão impedir essa mudança durante anos, talvez décadas.

Contudo, não podemos ser complacentes. É perigoso simplesmente supor que surgirão novos empregos para compensar quaisquer perdas. O fato de isso ter acontecido em ciclos anteriores de automação não é garantia nenhuma de que vai acontecer de novo nas condições muito diferentes do século XXI. As potenciais rupturas social e política são tão alarmantes que, mesmo que a probabilidade de desemprego sistêmico em massa seja baixa, devemos levá-la a sério.

No século XIX a Revolução Industrial criou novas condições e problemas com os quais nenhum dos modelos sociais, econômicos e políticos existentes era capaz de lidar. O feudalismo, o monarquismo e as religiões tradicionais não estavam adaptados para administrar metrópoles industriais, o êxodo de milhões de trabalhadores ou a natureza instável da economia moderna. Consequentemente, o gênero humano teve de desenvolver modelos totalmente novos — democracias liberais, ditaduras comunistas e regimes fascistas — e foi preciso mais de um século de guerras e revoluções terríveis para pôr esses modelos à prova, separar o joio do trigo e implementar as melhores soluções. O trabalho infantil nas minas de carvão dickensianas, a Primeira Guerra Mundial e a Grande Fome Ucraniana de 1932-3 representam apenas uma pequena parte do tributo pago pelo gênero humano por esse aprendizado.

No século XXI, o desafio apresentado ao gênero humano pela tecnologia da informação e pela biotecnologia é indubitavelmente muito maior do que o desafio que representaram, em época anterior, os motores a vapor, as ferrovias e a eletricidade. E, considerando o imenso poder destrutivo de nossa civilização, não podemos mais nos dar ao luxo de ter mais modelos fracassados, guerras mundiais e revoluções sangrentas. Desta vez, os modelos fracassados podem resultar em guerras nucleares, monstruosidades geradas pela engenharia genética e um colapso completo da biosfera. Portanto, temos de fazer melhor do que fizemos ao enfrentar a Revolução Industrial.

DA EXPLORAÇÃO À IRRELEVÂNCIA

As soluções potenciais cabem em três categorias principais: o que fazer para impedir a perda de empregos; o que fazer para criar empregos novos; e o que fazer se, apesar de nossos melhores esforços, a perda de empregos superar consideravelmente a criação de empregos.

Impedir por completo a perda de empregos é uma estratégia pouco atraente e provavelmente indefensável, porque significa abrir mão do imenso potencial positivo da IA e da robótica. No entanto, os governos podem decidir retardar o ritmo da automação para reduzir seu impacto e dar tempo para reajustes. A tecnologia nunca é determinista, e o fato de que algo pode ser feito não quer dizer que deva ser feito. A legislação pode bloquear com sucesso novas tecnologias mesmo se forem comercialmente viáveis e economicamente lucrativas. Por exemplo, durante muitas décadas tivemos tecnologia para criar um mercado de órgãos humanos completo, com “fazendas de corpos” humanos em países subdesenvolvidos e uma demanda quase insaciável de compradores abastados. Essas fazendas de corpos poderiam valer centenas de bilhões de dólares. Mas a lei proíbe o livre comércio de partes do corpo humano, e, embora exista um mercado negro de órgãos, é muito menor e circunscrito do que se poderia esperar (22).

Retardar o ritmo das mudanças pode nos dar tempo para a criação de novos empregos capazes de substituir a maior parte das perdas. Porém, como já observado, o empreendedorismo econômico terá de ser acompanhado por uma revolução na educação e na psicologia. Pressupondo que os novos empregos não serão apenas sinecuras públicas, provavelmente exigirão altos níveis de especialização, e, à medida que a IA continua a se aperfeiçoar, os empregados humanos terão de adquirir constantemente novas habilidades e mudar de profissão. Governos terão de intervir, tanto no subsídio a um setor de educação vitalício quanto na garantia de uma rede de proteção para os inevitáveis períodos de transição. Se um ex-piloto de drone de 41 anos de idade leva três anos para se reinventar como designer de mundos virtuais, provavelmente vai precisar de muita ajuda do governo para sustentar a si e a sua família durante esse período. (Esse tipo de esquema está sendo implantado pioneiramente na Escandinávia, cujos governos seguem o lema “proteger trabalhadores, não empregos”.) Porém, mesmo que a ajuda do governo seja suficiente, não sabemos se bilhões de pessoas serão capazes de se reinventar repetidamente sem perder o equilíbrio mental. Portanto, se apesar de todos os nossos esforços um percentual significativo do gênero humano for excluído do mercado de trabalho, teremos de explorar novos modelos de sociedades pós-trabalho, de economias pós-trabalho e de política pós-trabalho. O primeiro passo é reconhecer que os modelos sociais, econômicos e políticos que herdamos do passado são inadequados para lidar com tal desafio.

Tome, por exemplo, o comunismo. Quando a automação ameaça abalar os fundamentos do sistema capitalista, pode-se supor que o comunismo seja capaz de retornar. Mas o comunismo não foi feito para explorar esse tipo de crise. O comunismo do século XX supôs que a classe trabalhadora fosse vital para a economia, e os pensadores comunistas tentaram ensinar ao proletariado como traduzir seu imenso poder econômico em poder político. O plano político comunista conclamava a uma revolução da classe trabalhadora. Que relevância teriam esses ensinamentos se as massas perdessem seu valor econômico e precisassem lutar contra a sua irrelevância, mais do que contra a exploração? Como se começa uma revolução da classe trabalhadora se não há classe trabalhadora?

Alguém poderá alegar que humanos nunca se tornarão economicamente irrelevantes, porque, mesmo que não consigam competir com a IA no mercado de trabalho, sempre serão necessários como consumidores. No entanto, não temos certeza se a economia do futuro vai precisar de nós, mesmo como consumidores. Máquinas e computadores poderiam fazer isso também. Em teoria, pode-se ter uma economia na qual uma corporação de mineração produz e vende ferro para uma corporação de robótica, a corporação de robótica produz e vende robôs para a corporação de mineração, que extrai mais ferro, que é usado para produzir mais robôs, e assim por diante. Essas corporações podem crescer e se expandir até os pontos mais distantes da galáxia e todas precisam de robôs e computadores — não precisam de humanos nem mesmo para comprar seus produtos.

Hoje computadores e algoritmos já são clientes, além de produtores. Na bolsa de valores, por exemplo, algoritmos estão se tornando os mais importantes compradores de títulos, ações e commodities. Da mesma forma, na publicidade, o cliente mais importante de todos é um algoritmo: o mecanismo de busca do Google. Quando as pessoas projetam páginas da internet, frequentemente procuram agradar mais ao algoritmo de busca do Google do que a qualquer ser humano.

Algoritmos obviamente não têm consciência, assim, ao contrário de consumidores humanos, não são capazes de usufruir daquilo que compram, e suas decisões não são modeladas por sensações e emoções. O algoritmo de busca do Google não é capaz de experimentar um sorvete. No entanto, algoritmos selecionam coisas com base em seus cálculos internos e preferências integradas, e essas preferências cada vez mais modelam nosso mundo. O algoritmo de busca do Google tem um gosto muito sofisticado no que concerne a classificar as páginas de vendedores de sorvete na internet, e os vendedores de sorvete mais bem-sucedidos do mundo são aqueles que o algoritmo do Google coloca no topo da lista — não os que produzem o sorvete mais gostoso.

Sei disso por experiência pessoal. Quando publico um livro, os editores pedem-me que escreva uma descrição curta, que usam para publicidade on-line. Mas eles têm um especialista que adapta o que escrevi ao gosto do algoritmo do Google. O especialista lê o meu texto e diz: “Não use esta palavra — use aquela”. Sabemos que se conseguirmos atrair a atenção do algoritmo, é certo que atrairemos a dos humanos.

Assim, se humanos não são necessários nem como produtores nem como consumidores, o que vai salvaguardar sua sobrevivência física e seu bem-estar psicológico? Não podemos esperar que a crise irrompa com toda a força antes de começarmos a buscar as respostas. Será tarde demais. Para lidar com as rupturas tecnológicas e econômicas inéditas do século XXI, precisamos desenvolver novos modelos sociais e econômicos o quanto antes. Esses modelos deveriam ser orientados pelo princípio de que é preciso proteger os humanos e não os empregos. Muitos empregos são uma faina pouco recompensadora, que não vale a pena salvar. Ser caixa não é o sonho de vida de ninguém. Deveríamos nos focar em prover as necessidades básicas das pessoas e em proteger seu status social e sua autoestima.

Um modelo novo que atrai cada vez mais atenção é o da renda básica universal (RBU). A RBU propõe que os governos tributem os bilionários e as corporações que controlam os algoritmos e robôs, e usem o dinheiro para prover cada pessoa com um generoso estipêndio que cubra suas necessidades básicas. Isso protegerá os pobres da perda de emprego e da exclusão econômica, enquanto protege os ricos da ira populista (23).

Uma ideia relacionada a isso propõe ampliar o âmbito de atividades humanas consideradas “empregos”. Atualmente, bilhões de mães e pais cuidam de seus filhos, vizinhos cuidam uns dos outros e cidadãos organizam comunidades sem que qualquer dessas valiosas atividades seja reconhecida como emprego. Talvez precisemos mudar uma chave em nossa mente, e nos dar conta de que cuidar de uma criança é sem dúvida o emprego mais importante e desafiador do mundo. Assim, não haverá escassez de trabalho mesmo que computadores e robôs substituam todos os motoristas, gerentes de banco e advogados. A questão, é claro, é quem vai avaliar e pagar por esses empregos recém-reconhecidos? Supondo que bebês de seis meses não pagarão salários a suas mães, o governo provavelmente terá de se responsabilizar por isso. Supondo também que vamos querer que esses salários cubram as necessidades básicas de uma família, o resultado final será algo não muito diferente da renda básica universal.

Uma outra opção é o subsídio público de serviços básicos universais, no lugar da renda. Em vez de dar dinheiro às pessoas, que então poderiam comprar o que quisessem, o governo poderia subsidiar educação, saúde e transporte gratuitos, entre outros serviços. Essa é, na verdade, a visão utópica do comunismo. O plano comunista de promover a revolução proletária talvez esteja obsoleto, mas quem sabe ainda deveríamos visar a realizar o objetivo comunista por outros meios?

Hahaha…

Pode-se discutir se é melhor fornecer às pessoas uma renda básica universal (o paraíso capitalista) ou serviços básicos universais (o paraíso comunista). Ambas as opções têm vantagens e desvantagens. Mas não importa qual paraíso você escolha, o problema real está em definir o que “universal” e “básico” realmente significam.

O QUE É UNIVERSAL?

Quando as pessoas falam de um auxílio básico universal — em forma de renda ou de serviços —, em geral estão se referindo a um auxílio básico nacional. Até agora, todas as iniciativas de RBU têm sido estritamente nacionais ou municipais. Em janeiro de 2017, a Finlândia começou uma experiência de dois anos, provendo 560 euros por mês a 2 mil finlandeses desempregados, independentemente de encontrarem ou não emprego. Experiências semelhantes estão em curso na província canadense de Ontário, na cidade italiana de Livorno e em diversas cidades holandesas (24). (Em 2016 a Suíça realizou um referendo sobre a criação de um programa de renda básica nacional, mas os votantes rejeitaram a ideia) (25).

No entanto, o problema com tais programas nacionais e municipais é que as principais vítimas da automação provavelmente não vivem na Finlândia, em Ontário, em Livorno ou em Amsterdam. A globalização fez as pessoas num país dependerem totalmente dos mercados de outros países, mas a automação poderia desfazer grande parte dessa rede global de comércio, com consequências desastrosas para as conexões mais fracas. No século XX, países em desenvolvimento carentes de recursos naturais progrediram economicamente sobretudo com os salários baixos de seus trabalhadores não qualificados. Hoje em dia, milhões de bengaleses ganham a vida produzindo camisas e as vendendo a clientes nos Estados Unidos, enquanto o ganha-pão de outras pessoas em Bangalore é lidar com as reclamações dos clientes americanos em centrais de teleatendimento (26).

Mas com a ascensão da IA, de robôs e impressoras 3-D, o trabalho não qualificado e barato torna-se muito menos importante. Em vez de fabricar uma camisa em Dacca e despachá-la para os longínquos Estados Unidos, pode-se comprar o código on-line da camisa na Amazon e imprimi-la em Nova York. As lojas da Zara e da Prada na Quinta Avenida poderiam ser substituídas por centros de impressão em 3-D no Brooklyn, e algumas pessoas talvez queiram ter uma impressora em casa. Depois, em vez de ligar para serviços de atendimento ao consumidor em Bangalore para reclamar de sua impressora, você poderia conversar com um representante de IA na nuvem do Google (cujo sotaque e tom de voz podem se modelados segundo sua preferência). Os operários e operadores de SAC recém-desempregados em Dacca e em Bangalore não têm a instrução necessária para virarem estilistas ou programadores — então como vão sobreviver?

Se a IA e as impressoras 3-D realmente substituírem esses bengaleses e bangalorianos, a renda que antes fluía para o sul da Ásia agora encherá os cofres de uns poucos gigantes tecnológicos na Califórnia. Em vez de um crescimento econômico que melhore as condições em todo o mundo, veremos uma nova e imensa riqueza criada em nichos de alta tecnologia, como o Vale do Silício, enquanto muitos países em desenvolvimento vão à ruína.

Mas quando isso acontecer ainda existirão países (tal como hoje existem)?

É claro que algumas economias emergentes — inclusive Índia e Bangladesh — poderiam avançar rápido o bastante e se juntar ao time vencedor. Se tiverem tempo suficiente, os filhos e netos de trabalhadores da indústria têxtil e de operadores de centrais de teleatendimento poderiam tornar-se engenheiros e empreendedores que constroem e possuem computadores e impressoras 3-D. Mas o tempo dessa transição está se esgotando. No passado, o trabalho barato e não qualificado serviu como ponte segura para atravessar a divisão econômica global, e, mesmo que o avanço de um país fosse lento, ele poderia esperar um dia chegar ao outro lado. Adotar as medidas corretas era mais importante do que progredir rapidamente. Mas agora a ponte está balançando, e pode desabar. Os que já a atravessaram — e foram promovidos do trabalho barato para as indústrias de alta especialização — provavelmente ficarão bem. Mas os que ficarem para trás poderão se ver encalhados no lado errado do abismo, sem meios para atravessá-lo. O que você fará quando ninguém precisar de sua mão de obra barata não qualificada, e você não tiver os recursos para criar um bom sistema de educação e retreiná-la? (27)

Qual será o destino dos retardatários? É possível que os eleitores americanos aceitem que os impostos pagos pela Amazon e pelo Google por seus negócios nos Estados Unidos sejam usados para oferecer estipêndios ou serviços gratuitos a mineiros desempregados na Pensilvânia e a taxistas sem trabalho em Nova York. No entanto, os eleitores americanos aceitariam que esses impostos fossem enviados para sustentar pessoas desempregadas em lugares que o presidente Trump definiu como “países de merda”? (28) Se você acredita nisso, deve acreditar também que Papai Noel e o coelhinho da Páscoa resolverão o problema.

O QUE É BÁSICO?

O objetivo do auxílio básico universal é o atendimento às necessidades humanas básicas, mas não existe uma definição aceita para isso. Do ponto de vista puramente biológico, um Sapiens precisa de 1,5 mil a 2,5 mil calorias por dia para sobreviver. Tudo o que exceder isso é luxo. Mas, além e acima dessa linha de pobreza biológica, toda cultura na história definiu necessidades adicionais como sendo “básicas”. Na Europa medieval, o acesso a serviços religiosos na igreja era considerado mais importante que o alimento, porque cuidava da alma eterna, e não do corpo efêmero. Na Europa atual, serviços de educação e de saúde decentes são considerados necessidades humanas básicas, e há quem alegue que até mesmo o acesso à internet hoje é essencial a todo homem, mulher e criança. Se em 2050 o Governo Mundial Unido concordar em taxar Google, Amazon, Baidu e Tencent para oferecer ajuda básica a todo ser humano na Terra — tanto em Dacca como em Detroit —, o que será considerado “básico”?

Por exemplo, o que uma educação básica deve incluir: ler e escrever apenas, ou também programar computadores e tocar violino? Seis anos de ensino fundamental, ou até o doutorado? E quanto à saúde? Se em 2050 os avanços da medicina possibilitarem retardar os processos de envelhecimento e estender significativamente a duração da vida humana, os novos tratamentos estarão disponíveis para 10 bilhões de humanos no planeta, ou só para uns poucos bilionários? Se a biotecnologia habilitar os pais a aprimorar seus filhos, isso será considerado uma necessidade humana básica, ou veremos o gênero humano dividir-se em diferentes castas biológicas, com super-humanos ricos desfrutando de capacidades que superam as de Homo sapiens pobres?

Não importa como definamos “necessidades humanas básicas”, se todos desfrutarem delas gratuitamente, elas deixarão de ser um problema, e então as ferrenhas competições e lutas políticas estarão focadas em luxos não básicos — sejam elegantes carros autodirigidos, acesso a parques de realidade virtual ou corpos incrementados pela bioengenharia. Mas, se as massas de desempregados não dispuserem de ativos econômicos, é difícil ver como poderiam algum dia esperar obter tais luxos. Consequentemente, a brecha entre os ricos (diretores da Tencent e acionistas do Google) e os pobres (os que dependem da renda básica universal) poderia se tornar não apenas maior, mas intransponível.

Daí que mesmo que um programa de auxílio universal garanta às pessoas pobres, em 2050, serviços de saúde e educação muito melhores que os de hoje, elas ainda poderão estar extremamente raivosas com a desigualdade global e a falta de mobilidade social. As pessoas sentirão que o sistema está contra elas, que o governo só atende aos super-ricos e que o futuro será ainda pior para eles e seus filhos (29).

O Homo sapiens simplesmente não é programado para se satisfazer. A felicidade humana depende menos de condições objetivas e mais de nossas próprias expectativas, daquilo que esperamos obter. As expectativas, contudo, tendem a se adaptar às condições, inclusive à condição de outras pessoas. Quando as coisas melhoram, as expectativas inflam, e consequentemente até mesmo uma melhora dramática das condições podem nos deixar tão insatisfeitos quanto antes. Se o auxílio básico universal visa a melhorar as condições objetivas de uma pessoa mediana em 2050, ele tem uma boa probabilidade de sucesso. Porém, se visa a fazer as pessoas ficarem subjetivamente mais satisfeitas com seu quinhão e evitar o descontentamento social, é provável que fracasse.

Para atingir seus objetivos de fato, o auxílio básico universal terá de ser suplementado por ocupações dotadas de sentido, dos esportes à religião. O experimento sobre como viver uma vida plena num mundo de pós-trabalho realizado em Israel talvez seja o mais bem-sucedido até hoje. Cerca de 50% dos homens judeus ultraortodoxos daquele país não trabalham. Dedicam a vida a estudar as escrituras sagradas e a realizar ritos religiosos. Eles e suas famílias não morrem de fome em parte porque as mulheres costumam trabalhar, e em parte porque o governo os provê de generosos subsídios e serviços gratuitos, assegurando que não lhes faltem as necessidades básicas da vida. É o auxílio básico universal avant la lettre (30).

Embora sejam pobres e desempregados, esses homens judeus ultraortodoxos manifestam altos níveis de satisfação, pesquisa após pesquisa. Isso se deve à força de seus laços comunitários, assim como ao profundo significado que atribuem ao estudo das escrituras e aos ritos religiosos. Um quarto pequeno cheio de homens judeus discutindo o Talmude é capaz de gerar mais alegria, envolvimento e insight do que um enorme estabelecimento têxtil cheio de operários que trabalham duro em más condições e por baixos salários. Em pesquisas globais de satisfação com a vida, Israel em geral está perto do topo, graças em parte à contribuição dessas pessoas pobres e sem emprego (31).

Israelenses seculares reclamam bastante de que os ultraortodoxos não contribuem o bastante para a sociedade e vivem do trabalho duro de outras pessoas. Eles tendem também a alegar que o modo de vida ultraortodoxo é insustentável, sobretudo porque as famílias ultraortodoxas têm em média sete filhos (32). Cedo ou tarde, o Estado não será capaz de sustentar tantas pessoas desempregadas, e os ultraortodoxos terão de trabalhar. Mas pode ser exatamente o contrário. À medida que a IA e robôs puserem os humanos fora do mercado de trabalho, os judeus ultraortodoxos podem passar a ser vistos como o modelo do futuro, e não como um fóssil do passado. Não quer dizer que todos se tornarão judeus ortodoxos e irão para as ieshivas estudar o Talmude. Mas na vida de todas as pessoas a busca por um significado e uma comunidade pode suplantar a busca por emprego.

Se conseguirmos combinar uma rede de segurança econômica universal com comunidades fortes e ocupações dotadas de sentido, perder nossos empregos para os algoritmos pode na verdade mostrar-se uma bênção. No entanto, a perda do controle sobre nossa vida é um cenário muito mais assustador. Não obstante o perigo de desemprego em massa, o que deveria nos preocupar ainda mais é a transferência da autoridade de humanos para algoritmos, o que poderia destruir qualquer fé remanescente na narrativa liberal e abrir o caminho para o surgimento de ditaduras digitais.

Notas do Capítulo I. 2

1. Gregory R. Woirol, The Technological Unemployment and Structural Unemployment Debates (Westport: Greenwood Press, 1996, pp. 18-20); Amy Sue Bix, Inventing Ourselves out of Jobs? America’s Debate over Technological Unemployment, 1929-1981 (Baltimore: Johns Hopkins University Press, 2000, pp. 1-8). Joel Mokyr, Chris Vickers e Nicolas L. Ziebarth, “The History of Technological Anxiety and the Future of Economic Growth: Is This Time Different?” (Journal of Economic Perspectives, v. 29, n. 3, pp. 33-42, 2015). Joe Mokyr, The gifts of Athena: Historical Origins of the Knowledge Economy (Princeton: Princeton University Press, 2002, pp. 255-7). David H. Autor, “Why Are There Still So Many Jobs? The History and the Future of Workplace Automation” (Journal of Economic Perspectives, v. 29, n. 3, pp. 3-30, 2015). Melanie Arntz, Terry Gregory e Ulrich Zierahn, “The Risk of Automation for Jobs in OECD Countries” (OECD Social, Employment and Migration Working Papers, n. 189, 2016). Maria Cristina Piva e Marco Vivarelli, “Technological Change and Employment: Were Ricardo and Marx Right?” (iza Institute of Labor Economics, Discussion Paper N. 10471, 2017).

2. Veja, por exemplo, a IA superando o homem: em condições de voo, e especialmente em simulações de combate aéreo: Nicholas Ernest et al., “Genetic Fuzzy Based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions” (Journal of Defense Management, v. 6, n. 1, pp. 1-7, 2016); sobre tutoria inteligente e sistemas de ensino: Kurt VanLehn, “The Relative Effectiveness of Human Tutoring, Intelligent Tutoring Systems, and Other Tutoring Systems” (Educational Psychologist, v. 46, n. 4, pp. 197-221, 2011); negociação algorítmica: Giuseppe Nuti et al., “Algorithmic Trading” (Computer, v. 44, n. 11, pp. 61-9, 2011); planejamento financeiro, gerência de portfólios etc.: Arash Baharammirzaee, “A Comparative Survey of Artificial Intelligence Applications in Finance: Artificial Neural Networks, Expert System and Hybrid Intelligent Systems” (Neural Computing and Applications, v. 19, n. 8, pp. 1165-95, 2010); análise de dados complexos em sistemas médicos e produção de diagnóstico e tratamento: Marjorie Glass Zauderer et al., “Piloting IBM Watson Oncology within Memorial Sloan Kettering’s Regional Network” (Journal of Clinical Oncology, v. 32, n. 15, e17653, 2014); criação de textos originais em linguagem natural a partir de maciça quantidade de dados: Jean-Sébastien Vayre et al., “Communication Mediated through Natural Language Generation in Big Data Environments: The Case of Nomao” (Journal of Computer and Communication, v. 5, pp. 125-48, 2017); reconhecimento facial: Florian Schroff, Dmitry Kalenichenko e James Philbin, “FaceNet: A Unified Embedding for Face Recognition and Clustering” (ieee Conference on Computer Vision and Pattern Recognition — CVPR, pp. 815-23, 2015); direção de veículos: Cristiano Premebida, “A Lidar and Vision-based Approach for Pedestrian and Vehicle Detection and Tracking” (ieee Intelligent Transportation Systems Conference, 2007).

3. Daniel Kahneman, Thinking, Fast and Slow [Rápido e devagar, duas formas de pensar] (Nova York: Farrar, Straus & Giroux, 2011). Dan Ariely, Predictably Irrational (Nova York: Harper, 2009). Brian D. Ripley, Pattern Recognition and Neural Networks (Cambridge: Cambridge University Press, 2007). Christopher M. Bishop, Pattern Recognition and Machine Learning (Nova York: Springer, 2007).

4. Seyed Azimi et al., “Vehicular Networks for Collision Avoidance at Intersections” (sae International Journal of Passenger Cars — Mechanical Systems, v. 4, pp. 406-16, 2011). Swarun Kumar et al., “CarSpeak: A Content-Centric Network for Autonomous Driving” (sigcom Computer Communication Review, v. 42, pp. 259-70, 2012). Mihail L. Sichitiu and Maria Kihl, “Inter-Vehicle Communication Systems: A Survey” (ieee Communications Surveys & Tutorials, p. 10, 2008). Mario Gerla, Eun-Kyu Lee e Giovanni Pau, “Internet of Vehicles: From Intelligent Grid to Autonomous Cars and Vehicular Clouds” (ieee World Forum on Internet of Things — wf-iot, pp. 241-6, 2014).

5. David D. Luxton et al., “Health for Mental Health: Integrating Smartphone Technology in Behavioural Healthcare” (Professional Psychology: Research and Practice, v. 42, n. 6, pp. 505-12, 2011). Abu Saleh Mohammad Mosa, Illhoi Yoo e Lincoln Sheets, “A Systematic Review of Healthcare Application for Smartphones” (bmc Medical Informatics and Decision Making, v. 12, n. 1, p. 67, 2012). Karl Frederick Braekkan Payne, Heather Wharrad e Kim Watts, “Smartphone and Medical Related App Use among Medical Students and Junior Doctors in the United Kingdom (UK): A Regional Survey” (bmc Medical Informatics and Decision Making, v. 12, n. 1, p. 121, 2012). Sandeep Kumar Vashist, E. Marion Schneider e John H. T. Loung, “Commercial Smartphone-Based Devices and Smart Applications for Personalised Healthcare Monitoring and Management” (Diagnostics, v. 4, n. 3, pp. 104-28, 2014). Maged N. Kamel Bouls et al., “How Smartphones Are Changing the Face of Mobile and Participatory Healthcare: An Overview, with Example from eCAALYX” (BioMedical Engineering OnLine, v. 10, n. 24, 2011. Disponível em:
<https://doi.org/10.1186/1475-925X-10-24>. Acesso em: 30 jul. 2017. Paul J. F. White, Blake W. Podaima e Marcia R. Friesen, “Algorithms for Smartphone and Tablet Image Analysis for Healthcare Applications” (ieee Access, v. 2, pp. 831-40, 2014).

6. World Health Organization, Global Status Report on Road Safety 2015 (2016); “Estimates for 2000-2015, Cause-Specific Mortality”. Disponível em:
<http://www.who.int/healthinfo/global_burden_disease/estimates/en/index1.html>. Acesso em: 6 set. 2017.

7. Para uma pesquisa sobre a causa de acidentes automobilísticos nos Estados Unidos, veja: Daniel J. Fagnant e Kara Kockelman, “Preparing a Nation for Autonomous Vehicles: Opportunities, Barriers and Policy Recommendations” (Transportation Research Part A: Policy and Practice, v. 77, pp. 167-81, 2015); para uma pesquisa em âmbito mundial, veja, por exemplo: OECD/ITF, Road Safety Annual Report 2016 (Paris: OECD Publishing, 2016). Disponível em: <http://dx.doi.org/10.1787/irtad-2016-en>. Acesso em: 6 set. 2017.

8. Kristofer D. Kusano e Hampton C. Gabler, “Safety Benefits of Forward Collision Warning, Brake Assist, and Autonomous Braking Systems in Rear-End Collisions” (ieee Transactions on Intelligent Transportation Systems, v. 13, n. 4, pp. 1546-55, 2012); James M. Anderson et al., Autonomous Vehicle Technology: A Guide for Policymakers (Santa Monica: RAND Corporation, 2014, esp. pp. 13-5); Daniel J. Fagnant e Kara Kockelman, “Preparing a Nation for Autonomous Vehicles: Opportunities, Barriers and Policy Recommendations” (Transportation Research Part A: Policy and Practice, v. 77, pp. 167-81, 2015); Jean-Francois Bonnefon, Azim Shariff e IyadRahwan, “Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?”, (arXiv, pp. 1-15, 2015). Para sugestões de redes interveiculares para evitar colisões, veja: Seyed R. Azimi et al., “Vehicular Networks for Collision Avoidance at Intersections” (sae International Journal of Passenger Cars — Mechanical Systems, v. 4, n. 1, pp. 406-16, 2011); Swarun Kumar et al., “CarSpeak: A Content-Centric Network for Autonomous Driving” (sigcom Computer Communication Review, v. 42, n. 4, pp. 259-70, 2012); Mihail L. Sichitiu e Maria Kihl, “Inter-Vehicle Communication Systems: A Survey” (ieee Communications Surveys & Tutorials, v. 10, n. 2, 2008); Mario Gerla et al., “Internet of Vehicles: From Intelligent Grid to Autonomous Cars and Vehicular Clouds” (ieee World Forum on Internet of Things
— wf-iot, pp. 241-6, 2014).

9. Michael Chui, James Manyika e Mehdi Miremadi, “Where Machines Could Replace Humans — and Where They Can’t (Yet)” (McKinsey Quarterly, 2016). Disponível em: <http://www.mckinsey.com/business-functions/digital- mckinsey/our-insights/where-machines-could-replace-humans-and-where-they-cant-yet>. Acesso em: 1 mar. 2018.

10. Wu Youyou, Michal Kosinski e David Stillwell, “Computer-based Personality Judgments Are More Accurate Than Those Made by Humans” (PANS, v. 112, pp. 1036-8, 2014).

11. Stuart Dredge, “AI and Music: Will We Be Slaves to the Algorithm?” (The Guardian, Londres, 6 ago. 2017). Disponível em: <https://www.theguardian.com/technology/2017/aug/06/artificial-intelligence-and-will-we-be-slaves- to-the-algorithm>. Acesso em: 15 out. 2017. Para uma visão geral de métodos, veja: Jose David Fernández e Francisco Vico, “AI Methods in Algorithmic Composition: A Comprehensive Survey” (Journal of Artificial Intelligence Research, v. 48, pp. 513-82, 2013).

12. Eric Topol, The Patient Will See You Now: The Future of Medicine is in Your Hands (Nova York: Basic Books, 2015). Robert Wachter, The Digital Doctor: Hope, Hype and Harm at the Dawn of Medicine’s Computer Age (Nova York: McGraw-Hill Education, 2015). Simon Parkin, “The Artificially Intelligent Doctor Will Hear You Now” (mit Technology Review, 2016). Disponível em: <https://www.technologyreview.com/s/600868/the-artificially-intelligent- doctor-will-hear-you-now/>. James Gallagher, “Artificial intelligence ‘As good As Cancer Doctors’” (BBC, Londres, 26 jan. 2017). Disponível em: <http://www.bbc.com/news/health-38717928>. Acesso em: 19 jun. 2018.

13. Kate Brannen, “Air Force’s Lack of Drone Pilots Reaching ‘Crisis’ Levels” (Foreign Policy, 15 jan. 2015). Disponível em: <http://foreignpolicy.com/2015/01/15/air-forces-lack-of-drone-pilots-reaching-crisis-levels/>. Acesso em: 19 jun. 2018.

14. Tyler Cowen, Average is Over: Powering America Beyond the Age of the Great Stagnation (Nova York: Dutton, 2013). Brad Bush, “How Combined Human and Computer Intelligence Will Redefine Jobs” (TechCrunch, 2016). Disponível em: <https://techcrunch.com/2016/11/01/how-combined-human-and-computer-intelligence-will- redefine-jobs/>. Acesso em: 19 jun. 2018.

15. Ulrich Raulff, Farewell to the Horse: The Final Century of Our Relationship (Londres: Allen Lane, 2017). Gregory Clark, A Farewell to Alms: A Brief Economic History of the World (Princeton: Princeton University Press, 2008, p. 286). Margo DeMello, Animals and Society: An Introduction to Human-Animal Studies (Nova York: Columbia University Press, 2012, p. 197). Clay McShane e Joel Tarr, “The Decline of the Urban Horse in American Cities” (Journal of Transport History, v. 24, n. 2, pp. 177-98, 2003).

16. Lawrence F. Katz e Alan B. Krueger, “The Rise and Nature of Alternative Work Arrangements in the United States, 1995-2015” (National Bureau of Economic Research, 2016). Peter H. Cappelli e J. R. Keller, “A Study of the Extent and Potential Causes of Alternative Employment Arrangements” (ilr Review, v. 66, n. 4, pp. 874-901, 2013). Gretchen M. Spreitzer, Lindsey Cameron e Lyndon Garrett, “Alternative Work Arrangements: Two Images of the New World of Work” (Annual Review of Organizational Psychology and Organizational Behavior, v. 4, pp. 473-99, 2017). Sarah A. Donovan, David H. Bradley e Jon O. Shimabukuru, “What Does the Gig Economy Mean for Workers?” (Washington, DC: Congressional Research Service, 2016). Disponível em: <https://fas.org/sgp/crs/misc/R44365.pdf>. Acesso em: 11 fev. 2018. “More Workers Are in Alternative Employment Arrangements” (Pew Research Center, 28 set. 2016). Disponível em: <http://www.pewsocialtrends.org/2016/10/06/the-state-of-american-jobs/st_2016-10- 06_jobs-26/>. Acesso em: 11 fev. 2018.

17. David Ferrucci et al., “Watson: Beyond Jeopardy!” (Artificial Intelligence, v. 199-200, pp. 93-105, 2013).

18. “Google’s AlphaZero Destroys Stockfish in 100-Game Match” (Chess.com, 6 dez. 2017). Disponível em:
<https://www.chess.com/news/view/google-s-alphazero-destroys-stockfish-in-100-game-match>. Acesso em: 11 fev. 2018. David Silver et al., “Mastering Chess and Shogi by Self-Play with a General Reinforcement Learning Algorithm” (arXiv, 2017). Disponível em: <https://arxiv.org/pdf/1712.01815.pdf>. Acesso em: 2 fev. 2018. Veja também Sarah Knapton, “Entire Human Chess Knowledge Learned and Surpassed by DeepMind’s AlphaZero in Four Hours” (Telegraph, 6 dez. 2017). Disponível em: <http://www.telegraph.co.uk/science/2017/12/06/entire-human-chess- knowledge-learned-surpassed-deepminds-alphazero/>. Acesso em: 11 fev. 2018.

19. Cowen, Average is Over, op. cit.; Tyler Cowen, “What are Humans Still Good for? The Turning Point in Freestyle Chess May Be Approaching” (2013). Disponível em:
<http://marginalrevolution.com/marginalrevolution/2013/11/what-are-humans-still-good-for-the-turning-point-in- freestyle-chess-may-be-approaching.html>. Acesso em: 19 jun. 2018.

20. Maddalaine Ansell, “Jobs for Life Are a Thing of the Past. Bring On Lifelong Learning” (The Guardian, 31 maio 2016). Disponível em: <https://www.theguardian.com/higher-education-network/2016/may/31/jobs-for-life-are-a- thing-of-the-past-bring-on-lifelong-learning>. Acesso em: 19 jun. 2018.

21. Alex Williams, “Prozac Nation Is Now the United States of Xanax” (New York Times, 10 jun. 2017). Disponível em: <https://www.nytimes.com/2017/06/ 10/style/anxiety-is-the-new-depression-xanax.html>. Acesso em: 19 jun. 2018.

22. Simon Rippon, “Imposing Options on People in Poverty: The Harm of a Live Donor Organ Market” (Journal of Medical Ethics, v. 40, pp. 145-50, 2014). I. Glenn Cohen, “Regulating the Organ Market: Normative Foundations for Market Regulation” (Law and Contemporary Problems, v. 77, 2014). Alexandra K. Glazier, “The Principles of Gift Law and the Regulation of Organ Donation” (Transplant International, v. 24, pp. 368-72, 2011). Megan McAndrews e Walter E. Block, “Legalizing Saving Lives: A Proposition for the Organ Market” (Insights to A Changing World Journal, pp. 1-17, 2015).

23. James J. Hughes, “A Strategic Opening for a Basic Income Guarantee in the Global Crisis Being Created by AI, Robots, Desktop Manufacturing and BioMedicine”. (Journal of Evolution & Technology, v. 24, pp. 45-61, 2014); Alan Cottey, “Technologies, Culture, Work, Basic Income and Maximum Income” (ai & Society, v. 29, pp. 249-57, 2014).

24. Jon Henley, “Finland Trials Basic Income for Unemployed” (The Guardian, 3 jan. 2017). Disponível em:
<https://www.theguardian.com/world/2017/jan/03/finland-trials-basic-income-for-unemployed>. Acesso em: 1 mar. 2018.

25. “Swiss Voters Reject Proposal to Give Basic Income to Every Adult and Child” (The Guardian, 5 jun. 2017). Disponível em: <https://www.theguardian.com/world/2016/jun/05/swiss-vote-give-basic-income-every-adult-child- marxist-dream>. Acesso em: 19 jun. 2018.

26. Isabel Hunter, “Crammed into Squalid Factories to Produce Clothes for the West on Just 20p a Day, the Children Forced to Work in Horrific Unregulated Workshops of Bangladesh” (Daily Mail, 1 dez. 2015). Disponível em: <http://www.dailymail.co.uk/news/article-3339578/Crammed-squalid-factories-produce-clothes-West-just-20p- day-children-forced-work-horrific-unregulated-workshops-Bangladesh.html>. Acesso em: 15 out. 2017. Chris Walker e Morgan Hartley, “The Culture Shock of India’s Call Centers” (Forbes, 16 dez. 2012). Disponível em:
<https://www.forbes.com/sites/morganhartley/2012/12/16/the-culture-shock-of-indias-call-centres/#17bb61d372f5>. Acesso em: 15 out. 2017.

27. Klaus Schwab e Nicholas Davis, Shaping the Fourth Industrial Revolution (World Economic Forum, 2018, p. 54). Sobre estratégias de desenvolvimento a longo prazo, veja Ha-Joon Chang, Kicking Away the Ladder: Development Strategy in Historical Perspective [Chutando a escada: Desenvolvimento em perspectiva histórica] (Londres: Anthem Press, 2003).

28. Lauren Gambini, “Trump Pans Immigration Proposal as Bringing People from “Shithole Countries’” (The Guardian, 12 jan. 2018). Disponível em: <https://www.theguardian.com/us-news/2018/jan/11/trump-pans- immigration-proposal-as-bringing-people-from-shithole-countries>. Acesso em: 11 fev. 2018.

29. Para a ideia de que uma melhora absoluta nas condições poderia vir junto com um aumento na desigualdade relativa, veja especialmente Thomas Piketty, Capital in the Twenty-First Century [O capital no século XXI] (Cambridge, MA: Harvard University Press, 2013).

30. “2017 Statistical Report on Ultra-Orthodox Society in Israel” (Israel Democracy Institute e Jerusalem Institute for Israel Studies, 2017). Disponível em: <https://en.idi.org.il/articles/20439>. Acesso em: 1 jan. 2018. Melanie Lidman, “As Ultra-Orthodox Women Bring Home the Bacon, Don’t Say the F-Word” (Times of Israel, 1 jan. 2016). Disponível em: <https://www.timesofisrael.com/as-ultra-orthodox-women-bring-home-the-bacon-dont-say-the-f- word/>. Acesso em: 15 out. 2017.

31. Melanie Lidman, “As Ultra-Orthodox Women Bring Home the Bacon, Don’t Say the F-Word” (Times of Israel, 1 jan. 2016). Disponível em: <https://www.timesofisrael.com/as-ultra-Orthodox-women-bring-home-the-bacon-dont- say-the-f-word/>. Acesso em: 15 out. 2017. “Statistical Report on Ultra-Orthodox Society in Israel” (Israel Democracy Institute e Jerusalem Institute for Israel Studies, v. 18, 2016). Disponível em: <https://en.idi.org.il/media/4240/shnaton- e_8-9-16_web.pdf>. Acesso em: 15 out. 2017. Quanto ao índice de felicidade, Israel foi recentemente classificado em 11o lugar entre 38 países pela oecd: “Life Satisfaction” (oecd Better Life Index). Disponível em:
<http://www.oecdbetterlifeindex.org/topics/life-satisfaction/>. Acesso em: 15 out. 2017.

32. “2017 Statistical Report on Ultra-Orthodox Society in Israel” (Israel Democracy Institute e Jerusalem Institute for Israel Studies, 2017). Disponível em: <https://en.idi.org.il/articles/20439>. Acesso em: 1 jan. 2018.

3. Liberdade

Big Data está vigiando você

A narrativa liberal preza a liberdade humana como seu valor número um. Alega que toda autoridade, em última análise, tem origem no livre-arbítrio de indivíduos humanos, conforme expresso em seus sentimentos, desejos e escolhas. Na política, o liberalismo acredita que o eleitor sabe o que é melhor. Por isso apoia eleições democráticas. Na economia, o liberalismo afirma que o cliente sempre tem razão. Por isso aclama os princípios do livre mercado. No aspecto pessoal, o liberalismo incentiva as pessoas a ouvirem a si mesmas, serem verdadeiras consigo mesmas e seguirem seu coração — desde que não infrinjam as liberdades dos outros. Essa liberdade pessoal está consagrada nos direitos humanos.

Harari tem uma apropriação individualista da ideia de liberdade da política liberal (quer dizer, da democracia). Como se viu no capítulo anterior ele demonstra não ter entendido que a liberdade é variável principal do processo de auto-organização. Foca apenas nas decisões dos indivíduos esquecendo que o core do processo democrático é a interação das opiniões.

No discurso político ocidental hoje, o termo “liberal” é às vezes empregado num sentido muito mais estreito e partidário para denotar aqueles que apoiam causas específicas, como o casamento gay, o controle de armas e o aborto. Porém a maioria dos assim chamados conservadores também abraçam a ampla visão de mundo liberal. Especialmente nos Estados Unidos, há ocasiões em que tanto republicanos como democratas fazem uma pausa em suas acaloradas discussões para se lembrarem de que todos eles concordam em coisas fundamentais como eleições livres, um Judiciário independente e direitos humanos.

É vital lembrar que heróis da direita, como Ronald Reagan e Margaret Thatcher, foram grandes paladinos não só de liberdades econômicas como também de liberdades individuais. Numa famosa entrevista de 1987, Thatcher disse: “Não existe essa coisa chamada sociedade. Há [uma] trama viva feita de homens e mulheres… e a qualidade de nossa vida dependerá de quanto cada um de nós está preparado para assumir a responsabilidade por si mesmo” (1).

A interpretação da citação de Thatcher é totalmente equivocada. Dizer que não existe nada como uma ‘sociedade’ é rejeitar a sociedade civil (ou o social) como modo de agenciamento autônomo.  A citação inteira é a seguinte: “I think we’ve been through a period where too many people have been given to understand that if they have a problem, it’s the government’s job to cope with it. ‘I have a problem, I’ll get a grant.’ ‘I’m homeless, the government must house me.’ They’re casting their problem on society. And, you know, there is no such thing as society. There are individual men and women, and there are families. And no government can do anything except through people, and people must look to themselves first. It’s our duty to look after ourselves and then, also to look after our neighbour. People have got the entitlements too much in mind, without the obligations. There’s no such thing as entitlement, unless someone has first met an obligation”. Prime minister Margaret Thatcher, Talking to Women’s: Own Magazine, October 31 1987.

Os herdeiros de Thatcher no Partido Conservador concordam totalmente com o Partido Trabalhista em que a autoridade política vem dos sentimentos, das escolhas e do livre-arbítrio de eleitores individuais. Assim, quando a Inglaterra precisou decidir se saía ou não da União Europeia, o primeiro-ministro David Cameron não pediu à rainha Elizabeth II, nem ao arcebispo de Cantuária, nem aos catedráticos de Oxford e Cambridge que resolvessem a questão. Não perguntou nem mesmo aos membros do Parlamento. Em vez disso, realizou um referendo no qual se perguntou a cada britânico: “O que você sente quanto a isso?”.

Poder-se-ia contestar que a pergunta deveria ser “O que você pensa?” e não “O que você sente?”, mas esse é um erro de percepção comum. Referendos e eleições sempre dizem respeito a sentimentos humanos, não à racionalidade humana. Se a democracia fosse questão de tomadas de decisão racionais, não haveria nenhum motivo para dar a todas as pessoas direitos iguais em seus votos — ou talvez nem sequer o direito de votar. Existe ampla evidência de que algumas pessoas são muito mais informadas e racionais que outras, principalmente quando se trata de questões econômicas e políticas específicas (2). Na esteira da votação do Brexit, o eminente biólogo Richard Dawkins protestou dizendo que nunca se deveria pedir à grande maioria do público britânico — inclusive ele mesmo — que votasse no referendo, porque lhe faltava a formação necessária em economia e ciência política. “É o mesmo que convocar um plebiscito nacional para decidir se a álgebra de Einstein estava correta, ou deixar os passageiros votarem para decidir em que pista o piloto deve pousar” (3).

Novamente Harari confunde tudo. Democracia não é meritocracia. A essência do processo de polinização mútua de opiniões (e não de conhecimentos e técnicas) é a aposta na auto-organização, na formação de uma opinião pública por emergência. Ademais, o autor confunde sentimentos com emoções (embora isso, no contexto do seu escrito, tenha menos importância).

No entanto, para o bem ou para o mal, eleições e referendos não têm a ver com o que pensamos. Têm a ver com o que sentimos. E, quando se trata de sentimentos, Einstein e Dawkins não são melhores que ninguém. A democracia supõe que sentimentos humanos refletem um misterioso e profundo “livre-arbítrio”, que este “livre-arbítrio” é a fonte definitiva da autoridade e que, apesar de algumas pessoas serem mais inteligentes do que outras, todos os humanos são igualmente livres. Assim como Einstein e Dawkins, uma trabalhadora doméstica sem instrução também tem livre-arbítrio, e por isso no dia de eleições seus sentimentos — representados por seu voto — contam tanto quanto os de qualquer outra pessoa.

Os sentimentos orientam não apenas os eleitores mas também os líderes. No referendo do Brexit, em 2016, a campanha a favor da saída da Grã-Bretanha da União Europeia — apelidada Leave — foi liderada por Boris Johnson e Michael Gove. Após a renúncia de David Cameron, Gove inicialmente apoiou Johnson como candidato a primeiro-ministro, mas no último minuto Gove declarou que Johnson não estava preparado para a posição e anunciou a própria intenção de se candidatar ao cargo. Essa ação de Gove, que destruiu as probabilidades de Johnson, foi descrita como um assassinato político maquiavélico (4). Mas Gove defendeu sua conduta apelando para os sentimentos: “Em cada passo de minha vida política eu me fazia a mesma pergunta: ‘Qual é a coisa certa a fazer? O que lhe diz seu coração?’” (5). Foi por isso, segundo Gove, que ele batalhou tão duramente a favor do Brexit, e foi por isso que foi compelido a apunhalar pelas costas seu então aliado Boris Johnson, e oferecer-se para o cargo — porque seu coração lhe dissera que o fizesse.

Essa lealdade ao próprio coração pode acabar sendo o calcanhar de aquiles da democracia liberal. Pois se alguém (seja em Pequim ou em San Francisco) adquirir capacidade tecnológica para hackear e manipular o coração humano, a política democrática vai se tornar um espetáculo de fantoches emocional.

Duvidoso. Mas é uma hipótese para considerar. Entretanto, a democracia liberal (ou seja, a democracia propriamente dita) não tem a ver com nenhuma “lealdade ao próprio coração”. A democracia não quer saber se você é fiel ou infiel aos seus sentimentos e emoções. O que ela leva em conta é o resultado do processo de interação das opiniões.

ESCUTE O ALGORITMO

A crença liberal nos sentimentos e nas escolhas livres dos indivíduos não é natural, nem muito antiga. Durante milhares de anos as pessoas acreditaram que a autoridade provinha de leis divinas e não do coração humano, e que devíamos, portanto, santificar a palavra de Deus e não a liberdade humana. Foi só nos séculos mais recentes que a fonte da autoridade passou das entidades celestiais para humanos de carne e osso.

Em breve a autoridade pode mudar novamente — dos humanos para os algoritmos. Assim como a autoridade divina foi legitimada por mitologias religiosas, e a autoridade humana foi justificada pela narrativa liberal, a futura revolução tecnológica poderia estabelecer a autoridade dos algoritmos de Big Data, ao mesmo tempo que solapa a simples ideia da liberdade individual.

Não foi a “narrativa liberal” que justificou a autoridade humana e sim a experiência democrática. Cruz credo!

Como mencionamos no capítulo anterior, ideias científicas sobre o funcionamento de nosso corpo e cérebro sugerem que nossos sentimentos não são uma qualidade espiritual exclusivamente humana, e não refletem nenhum tipo de “livre-arbítrio”. Na verdade, sentimentos são mecanismos bioquímicos que todos os mamíferos e todas as aves usam para calcular probabilidades de sobrevivência e reprodução. Sentimentos não se baseiam em intuição, inspiração ou liberdade — baseiam-se em cálculos.

Não procede. Existe um emocionar tipicamente humano. Se não existisse, não haveria ser humano propriamente dito, que não deve ser confundido com exemplares da espécie biológica Homo Sapiens. Excesso de Dawkins e deficit de Maturana.

Quando um macaco, um camundongo ou um humano veem uma cobra, o medo surge porque milhões de neurônios no cérebro calculam rapidamente os dados relevantes e concluem que a probabilidade de morrer é alta. Sentimentos de atração sexual surgem quando outros algoritmos bioquímicos calculam que um indivíduo próximo oferece alta probabilidade de acasalamento bem-sucedido, ligação social ou algum outro objetivo almejado. Sentimentos morais como indignação, culpa ou perdão derivam de mecanismos neurais que evoluíram para permitir cooperação grupal. Todos esses algoritmos bioquímicos foram aprimorados durante milhões de anos de evolução. Se os sentimentos de algum antigo ancestral cometeram um erro, os genes que configuram esses sentimentos não foram passados à geração seguinte. Assim, sentimentos não são o contrário de racionalidade — eles incorporam uma racionalidade evolutiva.

Ah! Bom. Falta agora derivar a empatia humana de algoritmos bioquímicos, sem levar em conta fatores culturais (sociais ou antissociais).

Normalmente não nos damos conta de que os sentimentos são na verdade cálculos, porque o intenso processo de cálculo ocorre abaixo do nível da consciência. Não sentimos os milhões de neurônios no cérebro computando probabilidades de sobrevivência e reprodução, e assim acreditamos, erroneamente, que nosso medo de cobras, nossa escolha de parceiros ou parceiras sexuais ou nossas opiniões sobre a União Europeia são o resultado de algum misterioso “livre-arbítrio”.

Há novamente aqui um salto triplo carpado epistemológico (ou hermenêutico). Medo de cobras e escolha de parceiros sexuais não têm o mesmo status de opiniões, muito menos de opiniões complexas como a posição em relação ao Brexit.

No entanto, embora o liberalismo esteja errado ao julgar que nossos sentimentos refletem o livre-arbítrio, até hoje confiar nos sentimentos faz sentido, na prática. Pois embora não houvesse nada mágico ou livre no que concerne a nossos sentimentos, eles eram o melhor método em todo o universo para decidir o que estudar, com quem casar e em que partido votar. E nenhum sistema externo pode compreender meus sentimentos melhor do que eu. Mesmo se a Inquisição espanhola ou a KGB me espionassem todo dia a toda hora, elas não teriam o conhecimento biológico e a capacidade computacional necessários para hackear os processos bioquímicos que formam meus desejos e minhas escolhas. Era razoável alegar, na prática, que disponho de livre-arbítrio, porque minha vontade foi formada principalmente pela interação entre forças interiores, que ninguém no exterior seria capaz de ver. Eu poderia desfrutar da ilusão de que controlo minha arena interior secreta, enquanto quem está de fora nunca seria capaz de compreender o que de fato está acontecendo dentro de mim e como tomo decisões.

Se não há nada livre no que concerne aos nossos sentimentos (e, por extensão, emoções e ações – por que não opiniões?), então como pode haver liberdade? Essa crença harariana desconstitui o fundamento da democracia como brecha cultural aberta na cultura patriarcal. Se tudo é determinado biologicamente, genética ou epigeneticamente, não há lugar para a liberdade e não há distinção possível entre o humano (quer dizer, o social) e os seres vivos em geral.

Da mesma forma, o liberalismo estava certo ao aconselhar às pessoas que seguissem o coração e não os ditames de algum sacerdote ou militante partidário. No entanto, em breve algoritmos de computador poderão nos aconselhar melhor do que sentimentos humanos. Enquanto a Inquisição espanhola e a KGB dão lugar ao Google e à Baidu, o “livre-arbítrio” provavelmente será desmascarado como um mito, e o liberalismo pode perder suas vantagens práticas.

Pois estamos agora na confluência de duas imensas revoluções. Por um lado, biólogos estão decifrando os mistérios do corpo humano, particularmente do cérebro e dos sentimentos. Ao mesmo tempo cientistas da computação estão nos dando um poder de processamento de dados sem precedente. Quando a revolução na biotecnologia se fundir com a revolução na tecnologia da informação, ela produzirá algoritmos de Big Data capazes de monitorar e compreender meus sentimentos muito melhor do que eu, e então a autoridade provavelmente passará dos humanos para os computadores. Minha ilusão de livre-arbítrio provavelmente vai se desintegrar à medida que eu me deparar, diariamente, com instituições, corporações e agências do governo que compreendem e manipulam o que era, até então, meu inacessível reino interior.

Isso já está acontecendo no campo da medicina. As decisões médicas mais importantes de nossa vida se baseiam não na sensação de estarmos doentes ou saudáveis, nem mesmo nos prognósticos informados de nosso médico — mas nos cálculos de computadores que entendem de nosso corpo muito melhor do que nós. Dentro de poucas décadas, os algoritmos de Big Data, alimentados por um fluxo constante de dados biométricos, poderão monitorar nossa saúde 24 horas por dia, sete dias por semana. Serão capazes de detectar, logo em seu início, a gripe, o câncer ou o mal de Alzheimer, muito antes de sentirmos que há algo errado conosco. Poderão então recomendar tratamentos adequados, dietas e regimes diários, sob medida para nossa compleição física, nosso DNA e nossa personalidade, que são únicos.

As pessoas usufruirão dos melhores serviços de saúde da história, mas justamente por isso estarão doentes o tempo todo. Existe sempre algo errado em algum lugar do corpo. No passado, você se sentia perfeitamente saudável enquanto não sentia dor ou apresentava uma deficiência aparente, como, por exemplo, mancar. Porém em 2050, graças a sensores biométricos e algoritmos de Big Data, as doenças poderão ser diagnosticadas e tratadas muito antes de causarem dor ou debilidade. Como resultado, você vai se ver sempre sofrendo de algum “mal de saúde” e seguindo a recomendação deste ou daquele algoritmo. Se recusar, talvez seu seguro-saúde seja cancelado, ou seu chefe o demita — por que deveriam pagar o preço por sua teimosia?

Uma coisa é continuar fumando apesar das estatísticas que ligam o fumo ao câncer de pulmão. Outra é continuar fumando apesar da advertência concreta de um sensor biométrico que acabou de detectar dezessete células cancerosas na parte superior de seu pulmão esquerdo. E, se você quiser desafiar o sensor, o que vai fazer quando o sensor repassar a advertência a sua companhia de seguros, seu gerente e sua mãe?

Quem terá tempo e energia para lidar com essas doenças? Provavelmente, poderemos ensinar nosso algoritmo de saúde a lidar com a maior parte desses problemas como achar melhor. No máximo, ele vai enviar aos nossos smartphones atualizações periódicas, informando-nos que “dezessete células cancerosas foram detectadas e destruídas”. Os hipocondríacos obedientemente leriam essas atualizações, mas a maioria de nós vai ignorá-las assim como ignoramos as mensagens chatas do antivírus em nossos computadores.

O DRAMA DA TOMADA DE DECISÃO

O que já está começando a acontecer na medicina provavelmente ocorrerá em outros campos. A invenção decisiva é a do sensor biométrico, que as pessoas podem usar nos seus corpos ou dentro deles, e que converte processos biológicos em informação eletrônica que computadores podem armazenar e analisar. Se tiverem dados biométricos e capacidade computacional suficientes, sistemas de processamento de dados externos poderão intervir em todos os seus desejos, todas as suas decisões e opiniões. Poderão saber exatamente quem é você.

A maioria das pessoas não se conhece muito bem. Quando eu tinha 21 anos, finalmente constatei que era gay, após viver vários anos em negação. É difícil dizer que é um caso excepcional. Muitos homens gays passam toda a adolescência inseguros quanto à sua sexualidade. Agora imagine como será essa situação em 2050, quando um algoritmo for capaz de dizer a todo adolescente exatamente onde ele está no espectro gay/hétero (e até mesmo quão maleável é essa posição). Talvez o algoritmo lhe mostre fotos ou vídeos de homens e mulheres atraentes, rastreie o movimento de seus olhos, sua pressão sanguínea e a atividade de seu cérebro, e em cinco minutos mostre um número na escala Kinsey (6). Isso poderia ter me livrado de anos de frustração. Pode ser que, pessoalmente, você não queira fazer esse teste; mas talvez um belo dia, com um grupo de amigos numa festa de aniversário tediosa, alguém sugira que todos se revezem nesse sensacional algoritmo novo (com todo mundo em volta acompanhando e comentando os resultados). Você simplesmente iria embora?

Mesmo se você for, e continuar a se esconder de si mesmo e de seus colegas de turma, não conseguirá se esconder da Amazon, do Alibaba e da polícia secreta. Quando estiver navegando na internet, assistindo a vídeos no YouTube ou lendo mensagens nas suas redes sociais, os algoritmos vão discretamente monitorá-lo, analisá-lo e dizer à Coca-Cola que, se ela quiser lhe vender alguma bebida, melhor seria usar o anúncio com o sujeito sem camisa, e não o da garota sem camisa. Você nem vai saber. Mas eles saberão, e essa informação valerá bilhões.

De novo, talvez tudo isso se faça abertamente, e as pessoas compartilharão com prazer suas informações para poder contar com as melhores recomendações, e para poder fazer o algoritmo tomar decisões por elas. Começa com coisas simples, como decidir a que filme assistir. Quando você se senta com um grupo de amigos para passar uma noite diante da televisão, primeiro tem de escolher ao que vai assistir. Cinquenta anos atrás você não teria escolha, mas hoje — com o surgimento dos serviços sob demanda — há milhares de títulos disponíveis. Talvez seja bem difícil chegar a um consenso, porque enquanto você prefere filmes de ficção científica, Jack prefere comédias românticas e Jill vota por filmes de arte franceses. Talvez acabem tendo de concordar com um meio-termo, um filme B medíocre que vai desapontar a todos.

Um algoritmo poderia ajudar. Pode-se informá-lo de quais filmes vistos anteriormente cada um de vocês gostou, e com base nessa imensa base de dados estatísticos o algoritmo pode encontrar o filme perfeito para o grupo. Infelizmente, um algoritmo tão objetivo é bastante sujeito a erro, principalmente porque a informação dada voluntariamente é um parâmetro pouco confiável das verdadeiras preferências das pessoas. Quando ouvimos muitas pessoas dizendo que um filme é uma obra-prima, tendemos a concordar, mesmo que tenhamos dormido no meio (7).

No entanto, esses problemas podem ser resolvidos se deixarmos que o algoritmo recolha de nós dados em tempo real, enquanto estamos efetivamente assistindo aos filmes, em vez de se basear em nossos próprios e duvidosos relatos pessoais. Para os iniciantes, o algoritmo pode monitorar quais filmes vimos até o fim, e quais deixamos de assistir no meio. Mesmo se dissermos ao mundo inteiro que… E o vento levou é o melhor filme já produzido, o algoritmo saberá que nunca fomos além da primeira meia hora, e que na verdade nunca vimos Atlanta em chamas.

Porém o algoritmo pode ir muito mais fundo que isso. Engenheiros estão desenvolvendo um software que detecta emoções humanas com base nos movimentos dos olhos e dos músculos faciais (8). Acrescente uma boa câmera ao aparelho de televisão, e esse software saberá quais cenas nos fizeram rir, quais cenas nos deixaram tristes e quais cenas nos entediaram. Em seguida, conecte o algoritmo a sensores biométricos, e ele saberá como cada fotograma influenciou nosso ritmo cardíaco, nossa pressão sanguínea e nossa atividade cerebral. Enquanto assistimos a, digamos, Pulp Fiction, de Tarantino, o algoritmo pode registrar que a cena do estupro nos causou um quase imperceptível matiz de excitação sexual, que quando Vincent acidentalmente dá um tiro no rosto de Marvin isso nos fez rir cheios de culpa, e que não achamos graça no Big Kahuna Burger — mas rimos assim mesmo, para não parecermos idiotas. Quando você ri um riso forçado, está usando circuitos cerebrais e músculos diferentes dos que usa quando ri de verdade. Normalmente humanos não são capazes de detectar a diferença. Mas um sensor biométrico seria (9).

A palavra “televisão” vem do grego tele, que significa “longe” e do latim visio, “visão”. A televisão foi concebida originalmente como um dispositivo que nos permite ver de longe. Mas logo nos permitirá sermos vistos de longe. Como previu George Orwell em 1984, a televisão nos verá enquanto a estamos vendo. Depois de assistir a toda a filmografia de Tarantino talvez tenhamos esquecido a maior parte. Mas Netflix, ou Amazon, ou quem quer que possua o algoritmo de televisão, conhecerá nosso tipo de personalidade e como manipular nossas emoções. Esses dados poderiam permitir à Netflix e à Amazon escolher filmes para nós com misteriosa precisão, mas também lhes possibilitariam tomar por nós as decisões mais importantes na vida — como o que estudar, onde trabalhar ou com quem casar.

É claro que a Amazon não vai acertar sempre. Isso é impossível. Algoritmos vão cometer erros repetidamente por falta de dados, falhas no programa, confusão nas definições de objetivos e devido à própria natureza caótica da vida (10). Mas a Amazon não precisará ser perfeita. Precisará apenas ser, em média, melhor que nós humanos. E isso não é difícil, porque a maioria das pessoas não conhece a si mesma muito bem, e porque a maioria das pessoas frequentemente comete erros terríveis nas decisões mais importantes da vida. Até mais que os algoritmos, humanos padecem de falta de dados, de programas falhos (genéticos e culturais), de definições confusas e do caos da vida.

É possível listar muitos problemas que acometem os algoritmos e concluir que as pessoas nunca confiarão neles. Mas isso é como catalogar todos os inconvenientes da democracia e concluir que uma pessoa sã jamais optaria por apoiar esse sistema. Segundo a famosa frase de Winston Churchill, a democracia é o pior sistema político do mundo, com exceção de todos os outros. As pessoas talvez cheguem à mesma conclusão no que concerne aos algoritmos de Big Data: eles têm muitos problemas, mas não temos alternativa melhor.

A frase surrada de Churchill sobre a democracia – “Democracy is the worst form of government, except for all those other forms that have been tried from time to time” – revela apenas que ele não tomava a democracia como um valor universal.

À medida que cientistas chegam a uma compreensão mais profunda de como humanos tomam decisões, a tentação de se basear em algoritmos provavelmente vai aumentar. Hackear a tomada de decisão por humanos não só fará os algoritmos de Big Data serem mais confiáveis; ao mesmo tempo, fará com que os sentimentos humanos sejam menos confiáveis. À medida que governos e corporações obtêm sucesso ao hackear o sistema operacional humano, ficaremos expostos a uma enxurrada de manipulações guiadas com precisão. Pode ficar tão fácil manipular nossas opiniões e emoções que seremos obrigados a nos basear em algoritmos do mesmo modo que um piloto, ao sofrer um ataque de tontura, tem de ignorar o que seus sentidos estão lhe dizendo e depositar toda a sua confiança nos aparelhos.

Em alguns países e em algumas situações, as pessoas podem ficar sem escolha, e serão obrigadas a obedecer às decisões dos algoritmos de Big Data. Porém, mesmo em sociedades supostamente livres, algoritmos podem ganhar autoridade, porque aprenderemos, por experiência, a confiar a eles cada vez mais tarefas, e aos poucos perdermos nossa aptidão para tomar decisões por nós mesmos. Pense em como, no decorrer de apenas duas décadas, bilhões de pessoas passaram a confiar no algoritmo de busca do Google em uma das tarefas mais importantes: buscar informação relevante e confiável. Já não buscamos mais informação. Em vez disso, nós googlamos. E, quanto mais confiamos no Google para obter respostas, tanto mais diminui nossa aptidão para buscar informação por nós mesmos. Já hoje em dia, a “verdade” é definida pelos resultados principais da busca do Google (11).

Isso tem acontecido também com habilidades físicas, como a de se orientar no tráfego. As pessoas pedem ao Google que as guie em seus deslocamentos. Quando chegam num cruzamento, seu instinto pode lhes dizer “vire à esquerda”, mas o Google Maps diz “vire à direita”. Primeiro elas ouvem a intuição, viram à esquerda, ficam encalhadas num engarrafamento e perdem uma reunião importante. Na próxima vez ouvem o Google, dobram à direita e chegam a tempo. Aprendem, por experiência, a confiar no Google. Em um ano ou dois se baseiam cegamente no que o Google Maps lhes diz, e se o smartphone falhar ficam completamente sem pistas. Em março de 2012 três turistas japoneses na Austrália decidiram viajar para uma pequena ilha ao largo da costa e caíram com o carro direto no oceano Pacífico. O motorista, Yuzu Noda, de 21 anos, disse depois que só tinha seguido as instruções do GPS, e que “ele me disse que podíamos ir naquela direção. Continuou dizendo que nos levaria para uma estrada. Ficamos encalhados” (12). Em diversos incidentes semelhantes pessoas foram parar num lago ou caíram de uma ponte demolida, aparentemente por terem seguido instruções de GPS (13). A aptidão para navegar é como um músculo — use-o ou perca-o (14). Isso também vale para a habilidade para escolher esposas ou profissões.

A última frase é uma derivação indevida das anteriores.

Todo ano, milhões de jovens precisam decidir o que estudar na universidade. Essa é uma decisão muito importante e muito difícil. Você está sob a pressão de seus pais, de seus amigos e de seus professores, que têm diferentes interesses e opiniões. Você também tem de lidar com seus próprios temores e fantasias. Seu julgamento está obnubilado e manipulado por sucessos de Hollywood, romances baratos e sofisticadas campanhas de publicidade. Tomar uma decisão sensata é particularmente difícil porque na verdade você não sabe o que é preciso para ter sucesso em diferentes profissões, e não tem consciência de suas próprias forças e fraquezas. O que é preciso para ter sucesso como advogado? Como é que me saio quando estou sob pressão? Sou bom em trabalhar em equipe?

Harari desconhece totalmente os fenômenos de rede. Não desconfia que as decisões que tomamos não dependem – nem apenas, nem principalmente – dos nossos algoritmos bioquímicos e sim da rede de pessoas na qual estamos emaranhados e somos como somos. Recomendar-se-ia aqui a leitura de uma obra de divulgação (já que seus conhecimentos matemáticos talvez sejam parcos para ler papers científicos sobre o tema): Connected de Nicholas Christakis e James Fowler (Little, Brown and Company: 2009).

Um estudante talvez comece a estudar direito porque tem uma imagem imprecisa de suas habilidades, e uma visão ainda mais distorcida do que é realmente ser advogado (não se fazem discursos dramáticos nem se grita “Protesto, meritíssimo!” todo dia). Enquanto isso, uma amiga decide realizar um sonho de infância e estudar balé profissional, mesmo não tendo nem a disciplina nem a estrutura óssea necessárias. Anos mais tarde, ambos se arrependem profundamente de suas escolhas. No futuro poderíamos confiar no Google para que tome essas decisões por nós. O Google poderia me dizer que eu desperdiçaria meu tempo na faculdade de direito ou na escola de balé — mas que eu daria um excelente (e muito feliz) psicólogo ou encanador (15).

Uma vez que a IA toma decisões melhor do que nós sobre carreiras e até mesmo relacionamentos, nosso conceito de humanidade e de vida terá de mudar. Humanos costumam pensar sobre a vida como um drama de tomadas de decisão. A democracia liberal e o capitalismo de livre mercado veem o indivíduo como um agente autônomo que está constantemente fazendo escolhas no que tange ao mundo. Obras de arte — sejam peças de Shakespeare, romances de Jane Austen ou comédias bregas de Hollywood — quase sempre giram em torno de uma situação na qual o herói tem de tomar uma decisão crucial. Ser ou não ser? Ouvir o que minha mulher está dizendo e matar o rei Duncan ou ouvir minha consciência e poupá-lo? Casar com Mr. Collins ou Mr. Darcy? As teologias cristã e muçulmana também se concentram no drama da tomada de decisões, alegando que a salvação ou a danação eterna dependem de se fazer ou não a escolha certa.

O que acontecerá com essa visão de vida, se cada vez mais nos baseamos na IA para tomar decisões por nós? Atualmente confiamos na Netflix para escolher filmes, e no Google Maps para decidir se viramos à direita ou à esquerda. Mas, uma vez que comecemos a contar com a IA para decidir o que estudar, onde trabalhar e com quem casar, a vida humana deixará de ser um drama de tomada de decisão. Eleições democráticas e livres mercados não farão muito sentido. Assim como a maior parte das religiões e obras de arte. Imagine Anna Kariênina pegando seu smartphone e perguntando ao algoritmo do Facebook se deveria continuar casada com Kariênin ou fugir com o galante conde Vrónski. Ou imagine sua peça favorita de Shakespeare com todas as decisões cruciais sendo tomadas pelo algoritmo do Google. Hamlet e Macbeth terão vidas muito mais confortáveis, mas que tipo de vida será exatamente? Temos modelos que sirvam para dar sentido a essa vida?

Eleições podem vir a não fazer muito sentido, de fato, mas não pela razão apresentada. Formas mais interativas de democracia terão outros procedimentos para verificar a vontade política coletiva. Isso não significa que a democracia não fará mais sentido.

Quando a autoridade passa de humanos para algoritmos, não podemos mais ver o mundo como o campo de ação de indivíduos autônomos esforçando-se por fazer as escolhas certas. Em vez disso, vamos perceber o universo inteiro como um fluxo de dados, considerar organismos pouco mais que algoritmos bioquímicos e acreditar que a vocação cósmica da humanidade é criar um sistema universal de processamento de dados — e depois fundir-se a ele. Já estamos nos tornando, hoje em dia, minúsculos chips dentro de um gigantesco sistema de processamento de dados que ninguém compreende a fundo. Todo dia eu absorvo incontáveis bits de dados através de e-mails, tuítes e artigos. Na verdade, não sei onde me encaixo nesse grande esquema de coisas, e como meus bits de dados se conectam com os bits produzidos por bilhões de outros humanos e computadores. Não tenho tempo para descobrir, porque eu também estou ocupado, respondendo a e-mails.

O CARRO FILOSÓFICO

Pode-se dizer que algoritmos jamais poderão tomar decisões importantes por nós, porque decisões importantes normalmente envolvem uma dimensão ética, e algoritmos não entendem de ética. No entanto, não há razão para supor que os algoritmos não serão capazes de superar o ser humano médio mesmo na ética. Já hoje em dia, à medida que dispositivos como smartphones e veículos autônomos tomam decisões que costumavam ser monopólio humano, eles começam a se deparar com o mesmo tipo de problemas éticos que têm perturbado os humanos por milênios.

Por exemplo, suponha que dois garotos correndo atrás de uma bola vejam-se bem em frente a um carro autodirigido. Com base em seus cálculos instantâneos, o algoritmo que dirige o carro conclui que a única maneira de evitar atingir os dois garotos é desviar para a pista oposta, e arriscar colidir com um caminhão que vem em sentido contrário. O algoritmo calcula que num caso assim há 70% de probabilidades de que o dono do carro — que dorme no banco traseiro — morra. O que o algoritmo deveria fazer? (16)

Filósofos têm debatido o “dilema do bonde” por milênios (é chamado “dilema do bonde” porque os exemplos didáticos dos debates filosóficos modernos fazem referência a um bonde desgovernado, e não a carros autodirigidos) (17). Até agora esses debates, lamentavelmente, têm tido pouco impacto no comportamento efetivo, porque em tempos de crise os humanos, com demasiada frequência, esquecem suas opiniões filosóficas e seguem suas emoções e seus instintos.

Um dos experimentos mais sórdidos da história das ciências sociais foi realizado em dezembro de 1970 com um grupo de estudantes do Seminário Teológico de Princeton aspirantes a ministros da Igreja presbiteriana. Pedia-se a cada estudante que corresse para uma sala de aula distante para falar sobre a parábola do Bom Samaritano, que conta como um judeu que viajava de Jerusalém para Jericó foi roubado e espancado por criminosos, que o deixaram para morrer, à beira da estrada. Passado algum tempo um sacerdote e um levita passaram por lá, mas ignoraram o homem. Em contraste, um samaritano — membro de uma seita muito desprezada pelos judeus — parou quando viu a vítima, cuidou dela, e salvou sua vida. A moral da parábola é que o mérito pessoal deveria ser julgado pelo comportamento, e não por afiliação religiosa e opiniões filosóficas.

Os jovens seminaristas, entusiasmados, corriam para a sala de aula pensando em como melhor explicar a moral da parábola do bom samaritano. Mas os responsáveis pelo experimento haviam posto em seu caminho uma pessoa maltrapilha, meio caída e encostada numa porta com a cabeça baixa e os olhos fechados. Quando cada seminarista, sem suspeitar de nada, passava apressado por ela, a “vítima” tossia e gemia lamentosamente. A maioria dos seminaristas nem sequer parou para perguntar o que havia de errado com o homem, muito menos para oferecer ajuda. O estresse emocional causado pela necessidade de se apressar para a sala de aula tinha triunfado sobre a obrigação moral de ajudar estranhos em apuros (18).

As emoções humanas triunfam sobre teorias filosóficas em inúmeras outras situações. Isso torna a história ética e filosófica do mundo uma narrativa deprimente de ideais maravilhosos e comportamentos menos que ideais. Quantos cristãos oferecem a outra face, quantos budistas superam obsessões egoístas, e quantos judeus realmente amam seu próximo como a si mesmos? É a maneira como a seleção natural moldou o Homo sapiens. Como todos os mamíferos, o Homo sapiens usa emoções para tomar rapidamente decisões de vida ou morte. Herdamos nossa raiva, nosso medo e nossa paixão de milhões de ancestrais, que passaram pelos mais rigorosos testes de qualidade da seleção natural.

É imprudente comparar emoções com teorias filosóficas. Estão em planos distintos, operam de modo distinto e têm papeis distintos. A emoção como disposição para a ação – e não como conselheiro de qual decisão tomar – não será substituída, nem por crenças ou convicções filosóficas, nem por algoritmos de IA.

Infelizmente, o que era bom para a sobrevivência e a reprodução na savana africana 1 milhão de anos atrás não será necessariamente um comportamento responsável nas rodovias do século XXI. Motoristas humanos distraídos, nervosos e ansiosos matam mais de 1 milhão de pessoas em acidentes de trânsito todo ano. Podemos enviar todos os nossos filósofos, profetas e sacerdotes para pregar ética para esses motoristas — na estrada, emoções de mamíferos e instintos da savana ainda prevalecem. Consequentemente, seminaristas apressados vão ignorar pessoas em apuros, e motoristas em crise vão atropelar os infelizes pedestres.

A disjunção entre o seminário e a rua é um dos maiores problemas práticos da ética. Immanuel Kant, John Stuart Mill e John Rawls podem passar dias discutindo problemas teóricos de ética numa acolhedora sala da universidade — mas seriam suas conclusões efetivamente implementadas por motoristas estressados em meio a uma emergência? Talvez Michael Schumacher — o campeão da Fórmula 1 aclamado como melhor piloto da história — tivesse a capacidade de pensar sobre filosofia enquanto dirigia; mas a maioria de nós não é Schumacher.

Os algoritmos de computação, no entanto, não foram moldados pela seleção natural, e não têm emoções nem instintos viscerais. Daí que em momentos de crise eles poderiam seguir diretrizes éticas muito melhor que os humanos — contanto que encontremos uma maneira de codificar a ética em números e estatísticas precisos. Se ensinarmos Kant, Mill e Rawls a escrever um programa, eles poderão programar cuidadosamente um carro autodirigido em seus acolhedores laboratórios, e ter a certeza de que o carro seguirá seus comandos na rua. Com efeito, todo carro será dirigido por Michael Schumacher e Immanuel Kant combinados numa só pessoa.

Assim, se você programar um carro autodirigido para que pare e ajude estranhos em apuros, ele fará isso aconteça o que acontecer (a menos, é claro, que você insira uma cláusula de exceção para determinados cenários). Da mesma forma, se seu carro autodirigido estiver programado para desviar para a pista oposta a fim de salvar os dois garotos que estão em seu caminho, pode apostar sua vida que é exatamente isso que ele fará. O que significa que, ao projetar seus carros autodirigidos, a Toyota ou a Tesla vão transformar um problema teórico de filosofia da ética num problema prático de engenharia.

Com certeza, os algoritmos filosóficos nunca serão perfeitos. Erros ainda vão acontecer, resultando em ferimentos, mortes e processos judiciais extremamente complicados. (Pela primeira vez na história, você poderá processar um filósofo pelos infelizes resultados de suas teorias, porque pela primeira vez na história você poderá provar que há uma ligação causal direta entre ideias filosóficas e eventos da vida real.) Contudo, para poder assumir o papel de motoristas humanos, os algoritmos terão de ser perfeitos. Terão de ser melhores que os humanos. Considerando que motoristas humanos matam mais de 1 milhão de pessoas todo ano, não será tão difícil assim. Tudo isso dito e feito, você ia preferir que o carro atrás do seu estivesse sendo dirigido por um adolescente bêbado ou pela equipe Schumacher-Kant? (19)

Se os algoritmos forem perfeitos não serão melhores que os humanos. O humano não é superado pela perfeição. A imperfeição faz parte do humano. A IA evita o erro e, com isso, o modo tipicamente humano de aprender, que é errando. Harari desconhece o papel do comportamento aleatório (e, com isso, o que chamamos de inteligência coletiva).

A mesma lógica vale não só para a direção de automóveis, mas para muitas outras situações. Veja, por exemplo, o caso de candidatos a emprego. No século XXI, a decisão de contratar alguém para um emprego será cada vez mais tomada por algoritmos. Não podemos confiar na máquina para estabelecer os padrões éticos relevantes — os humanos sempre terão de fazer isso. Mas, uma vez que decidamos por um padrão ético no mercado de trabalho — por exemplo, que é errado discriminar mulheres, ou pessoas negras —, poderemos confiar em máquinas para implementar e manter esse padrão melhor que os humanos (20).

Um gerente humano pode saber e concordar que é antiético discriminar pessoas negras e mulheres, mas, quando uma mulher negra se candidata a um emprego, o gerente subconscientemente a discrimina e decide não contratá-la. Se permitirmos que um computador avalie os pedidos de emprego, e programarmos o computador para ignorar completamente raça e gênero, podemos ter certeza de que o computador vai ignorar esses fatores, porque computadores não têm subconsciência. Claro, não será fácil escrever o programa de avaliação de pedidos de emprego, sempre haverá o perigo de que engenheiros, de algum modo, incluam seus próprios vieses subconscientes no software (21). Mas, uma vez descobertos esses erros, provavelmente será muito mais fácil corrigir o software do que livrar humanos de seus vieses racistas ou misóginos.

Vieses racistas e misóginos não são erros. São acertos de uma programação cultural preconceituosa e intolerante.

Vimos que o surgimento da inteligência artificial pode expulsar muitos humanos do mercado de trabalho — inclusive motoristas e guardas de trânsito (quando humanos arruaceiros forem substituídos por algoritmos, guardas de trânsito serão supérfluos). No entanto, poderá haver algumas novas aberturas para os filósofos, haverá subitamente grande demanda por suas qualificações — até agora destituídas de quase todo valor de mercado. Assim, se você quer estudar algo que lhe assegure um bom emprego no futuro, talvez a filosofia não seja uma aposta tão ruim.

É claro que filósofos raramente concordam em qual é a linha correta de ação. Poucos “dilemas do bonde” têm sido resolvidos de modo a satisfazer todos os filósofos, e pensadores consequencialistas como John Stuart Mill (que julga a ação pelas suas consequências) têm opiniões bem diferentes das dos deontologistas como Immanuel Kant (que julga as ações segundo regras absolutas). Será que a Tesla tem de tomar posição quanto a questões tão complicadas para fabricar carros?

Bem, talvez a Tesla deixe isso a cargo do mercado. A montadora vai fabricar dois modelos de carro autodirigido: o Tesla Altruísta e o Tesla Egoísta. Numa emergência, o Altruísta sacrifica seu dono pelo bem maior, enquanto o Egoísta faz tudo o que pode para salvar seu dono, mesmo que isso signifique matar os dois garotos. Os clientes poderão então comprar o carro que melhor se encaixe em sua visão filosófica. Se mais pessoas comprarem o Tesla Egoísta a culpa não será da Tesla. Afinal, o cliente sempre tem razão.

Isso não é uma brincadeira. Num estudo pioneiro, em 2015, apresentou-se a pessoas um cenário hipotético de um carro autodirigido na iminência de atropelar vários pedestres. A maioria disse que nesse caso o carro deveria salvar os pedestres mesmo que custasse a vida de seu proprietário. Quando lhes perguntaram se eles comprariam um carro programado para sacrificar seu proprietário pelo bem maior, a maioria respondeu que não. Para eles mesmos, iam preferir o Tesla Egoísta (22).

Imagine a situação: você comprou um carro novo, mas antes de começar a usá-lo tem de abrir o menu de configurações e escolher cada uma das diversas opções. Em caso de acidente, quer que o carro sacrifique sua vida — ou que mate a família no outro veículo? Essa é uma escolha que você quer mesmo fazer? Pense nas discussões que vai ter com seu marido sobre qual opção escolher.

Assim, talvez o Estado devesse intervir para regular o mercado, e instituir um código ético a ser obedecido por todos os carros autodirigidos? Sem dúvida alguns legisladores ficarão emocionados com a oportunidade de finalmente fazer leis que serão sempre seguidas à risca. Outros talvez fiquem alarmados com essa responsabilidade sem precedentes e totalitária. Afinal, no decorrer da história as limitações da aplicação da lei proporcionaram um controle bem-vindo dos vieses, erros e excessos dos legisladores. Foi uma grande sorte o fato de as leis contra o homossexualismo e a blasfêmia só terem sido parcialmente aplicadas. Será que queremos mesmo um sistema no qual as decisões de políticos se tornem tão inexoráveis quanto a gravidade?

Pois é…

DITADURAS DIGITAIS

As pessoas temem a IA porque não confiam na obediência da IA. Já assistimos a muitos filmes de ficção científica sobre robôs que se rebelam contra seus senhores humanos e correm desenfreados pelas ruas trucidando todo mundo. Mas o problema real com robôs é exatamente o oposto. Devemos ter medo deles porque sempre obedecerão a seus senhores e nunca se rebelarão.

Não há nada de errado com a obediência cega, é claro, enquanto os robôs servirem a senhores benignos. Mesmo numa guerra, a dependência de robôs matadores poderia garantir que, pela primeira vez na história, as regras da guerra seriam realmente obedecidas no campo de batalha. Soldados humanos são às vezes levados por suas emoções a assassinar, saquear e estuprar, violando as leis da guerra. Normalmente associamos emoções a compaixão, amor e empatia, mas em tempos de guerra as emoções que assumem o controle são muito frequentemente o medo, o ódio e a crueldade. Como robôs não têm emoções, poder-se-ia confiar que eles sempre seguiriam rigorosamente o código militar, e nunca seriam levados por temores e ódios pessoais (23).

Mas o problema da guerra não é este. A guerra é um modo de regulação de conflitos maligno do ponto de vista da democracia, mesmo que obedeça a um rígido código de conduta.

Em 16 de março de 1968, uma companhia de soldados americanos ficou ensandecida na aldeia vietnamita de My Lai e massacrou cerca de quatrocentos civis. Esse crime de guerra resultou da iniciativa local de homens que tinham estado envolvidos numa guerrilha na selva durante vários meses. Não tinha nenhum objetivo estratégico, e transgredia tanto o código de conduta quanto a política militar dos Estados Unidos. Foi por culpa das emoções humanas (24). Se os Estados Unidos tivessem colocado robôs assassinos no Vietnã, o massacre de My Lai jamais teria ocorrido.

Entretanto, antes de sairmos correndo para desenvolver e pôr em ação robôs assassinos, precisamos lembrar que robôs sempre refletem e ampliam as qualidades de sua programação. Se o programa é contido e benigno — os robôs provavelmente representarão uma imensa melhora em relação ao soldado humano médio. Mas se o programa for implacável e cruel — os resultados serão catastróficos. O verdadeiro problema com robôs não está em sua inteligência artificial, mas na estupidez e crueldade naturais de seus senhores humanos.

Em julho de 1995, tropas sérvias da Bósnia massacraram mais de 8 mil muçulmanos bósnios no entorno da cidade de Srebrenica. Diferentemente do massacre aleatório de My Lai, a matança em Srebrenica foi uma ação prolongada e bem organizada que refletiu a política sérvia que visava a uma Bósnia “etnicamente purificada” de muçulmanos (25). Se os sérvios da Bósnia tivessem robôs assassinos em 1995, isso provavelmente teria feito a atrocidade ser pior, e não melhor. Nenhum robô hesitaria um só momento no cumprimento de quaisquer ordens que recebesse, e não teria poupado a vida de uma única criança muçulmana por sentimentos de compaixão, repulsa ou mera letargia.

Um ditador cruel armado com robôs assassinos não precisaria ter medo de que seus soldados se voltassem contra ele, não importa quão perversas e loucas fossem suas ordens. Um exército de robôs provavelmente teria sufocado a Revolução Francesa em seu berço em 1789, e se em 2011 Hosni Mubarak dispusesse de um contingente de robôs assassinos ele poderia lançá-los sobre a população sem medo de deserções. Da mesma forma, um governo imperialista que contasse com um exército de robôs poderia travar guerras impopulares sem nenhuma preocupação de que seus robôs perdessem a motivação, ou que suas famílias protestassem. Se os Estados Unidos tivessem robôs assassinos na Guerra do Vietnã, o massacre de My Lai poderia ter sido evitado, mas a guerra em si mesma poderia ter se arrastado por muitos anos, porque o governo americano teria menos preocupações com soldados desmoralizados, com protestos em massa contra a guerra, ou com um movimento de “robôs veteranos contra a guerra” (alguns cidadãos americanos ainda poderiam se opor à guerra, mas sem o medo de serem eles mesmos convocados, sem a memória de terem pessoalmente cometido atrocidades, ou da perda dolorosa de um parente querido, os manifestantes provavelmente seriam menos numerosos e menos envolvidos) (26).

Problemas como esses são muito menos relevantes no que concerne a veículos autônomos civis porque nenhum fabricante de automóveis vai programar maliciosamente seus carros para matar pessoas. Sistemas de armas autônomos, no entanto, são uma catástrofe iminente, porque a maioria dos governos são eticamente corruptos, se não explicitamente malignos.

O perigo não se restringe a máquinas de matar. Sistemas de vigilância podem ser igualmente arriscados. Nas mãos de um governo benigno, algoritmos poderosos de vigilância podem ser a melhor coisa que já aconteceu ao gênero humano. Mas os mesmos algoritmos de Big Data podem também dar poder a um futuro Grande Irmão, e podemos acabar em um regime de vigilância orwelliano, no qual todo mundo é monitorado o tempo todo (27).

O resultado pode ser algo que nem mesmo Orwell foi capaz de imaginar: um regime de vigilância total que não apenas acompanha nossas atividades e pronunciamentos externos como é capaz até mesmo de penetrar nossa pele e observar nossas experiências interiores. Considere por exemplo o que o regime de Kim, na Coreia do Norte, poderia fazer com a nova tecnologia. No futuro, poder-se-ia requerer de cada cidadão norte-coreano que usasse um bracelete biométrico que monitora tudo o que se faz ou se diz – assim como a pressão sanguínea e a atividade cerebral. Usando nossa crescente compreensão do cérebro humano, e os imensos poderes do aprendizado de máquina, o regime norte-coreano poderia desenvolver a capacidade de, pela primeira vez na história, avaliar o que todo e cada cidadão está pensando em todo e cada momento. Se você olhar para um retrato de Kim Jong-un e os sensores biométricos detectarem sinais indicadores de raiva (elevação da pressão sanguínea, aumento de atividade na amígdala cerebral) —, amanhã de manhã você estará no gulag.

Com certeza, devido a seu isolamento, o regime norte-coreano poderá ter dificuldade para desenvolver sozinho a tecnologia necessária. No entanto, a tecnologia poderia ser introduzida pioneiramente em nações de tecnologia mais avançada e copiada ou comprada pelos norte-coreanos e outras ditaduras retrógradas. A China e a Rússia estão constantemente aperfeiçoando suas ferramentas de vigilância, assim como vários países democráticos, desde os Estados Unidos até Israel, onde vivo. Apelidada de “nação das empresas start-up”, Israel tem um setor de alta tecnologia extremamente vigoroso, e uma indústria de segurança cibernética de ponta.

Ao mesmo tempo também está encerrado num conflito mortal com os palestinos, e pelo menos alguns de seus líderes, generais e cidadãos gostariam muito de criar um regime de vigilância total na Cisjordânia assim que dispuserem da tecnologia necessária.

Hoje, quando palestinos fazem uma ligação telefônica, postam alguma coisa no Facebook ou viajam de uma cidade para outra, é possível que estejam sendo monitorados por microfones, câmeras, drones ou softwares espiões israelenses. Os dados reunidos são depois analisados com a ajuda de algoritmos de Big Data. Isso ajuda as forças de segurança de Israel a identificar e neutralizar ameaças potenciais sem o uso de tropas no local. Os palestinos podem administrar algumas cidades e aldeias na Cisjordânia, mas os israelenses controlam o céu, as ondas de rádio e o ciberespaço. Por isso é surpreendentemente pequeno o número de soldados israelenses que controlam cerca de 2,5 milhões de palestinos na Cisjordânia (28).

Num incidente tragicômico em outubro de 2017, um trabalhador palestino postou em sua conta privada no Facebook uma foto sua no trabalho, ao lado de uma escavadeira. Junto à imagem ele escreveu “Bom dia!”. Um algoritmo automático cometeu um pequeno erro ao transliterar as letras árabes. Em vez de “Ysabechhum!” (“bom dia”), o algoritmo identificou as letras como escrevendo “Ydbachhum” (“mate-os”). Suspeitando que o homem pudesse ser um terrorista que tencionava usar uma escavadeira para atropelar pessoas, as forças de segurança de Israel rapidamente o prenderam. Foi libertado depois que constataram que o algoritmo havia cometido um erro. Mas assim mesmo o post ofensivo no Facebook foi retirado. Cuidado nunca é demais (29). O que os palestinos estão experimentando hoje na Cisjordânia pode ser uma previsão inicial do que bilhões experimentarão em todo o planeta no futuro.

No final do século XX as democracias no geral superaram as ditaduras porque são melhores no processamento de dados. A democracia difunde o poder para processar informação e as decisões são tomadas por muitas pessoas e instituições, enquanto a ditadura concentra informação e poder num só lugar. Dada a tecnologia do século XX, seria ineficiente concentrar informação e poder demais num só lugar. Ninguém tinha capacidade para processar toda a informação com rapidez suficiente para tomar decisões corretas. Essa é em parte a razão de a União Soviética ter tomado decisões muito piores que as dos Estados Unidos, e de a economia soviética ter ficado bem atrás da economia americana.

Uma visão informacionista e não interativista da “superioridade” da democracia. Lamentável.

Entretanto, em breve a IA poderá fazer o pêndulo oscilar para a direção oposta. A IA possibilita o processamento de enormes quantidades de informação centralizada. Na verdade, a IA pode fazer com que sistemas centralizados sejam muito mais eficientes do que sistemas difusos, porque o aprendizado de máquina funciona melhor quanto mais informação for capaz de analisar. Se você concentrar toda a informação relativa a 1 bilhão de pessoas numa única base de dados, desconsiderando qualquer preocupação com privacidade, será capaz de instruir muito mais algoritmos do que se respeitasse a privacidade individual e tivesse em sua base de dados apenas informações parciais sobre 1 milhão de pessoas. Por exemplo, se um governo autoritário ordenar a todos os seus cidadãos que tenham seu DNA escaneado e que compartilhem todos os seus dados médicos com alguma autoridade central, ele terá uma enorme vantagem em pesquisa genética e médica em relação a sociedades nas quais os dados médicos são estritamente privados. A principal desvantagem dos regimes autoritários do século XX — a tentativa de concentrar toda a informação num só lugar — pode se tornar a vantagem decisiva no século XXI.

Sim, essa previsão deve ser considerada.

Quando os algoritmos passarem a nos conhecer tão bem, governos autoritários poderiam obter o controle absoluto de seus cidadãos, ainda mais do que na Alemanha nazista, e a resistência a esses regimes poderá ser totalmente impossível. Não só o regime saberá o que você sente — ele poderia fazer você sentir o que ele quiser. O ditador poderia não ser capaz de prover o cidadão de serviços de saúde ou igualdade, mas seria capaz de fazer com que ele o amasse e odiasse seus adversários. A democracia em seu formato atual não será capaz de sobreviver à fusão da biotecnologia com a tecnologia da informação. Ou a democracia se reinventa com sucesso numa forma radicalmente nova, ou os humanos acabarão vivendo em “ditaduras digitais”.

Idem.

Não será um retorno à época de Hitler e Stálin. As ditaduras digitais serão tão diferentes da Alemanha nazista quanto a Alemanha nazista foi diferente do Antigo Regime na França. Luís XIV era um autocrata centralizador, mas não tinha tecnologia para construir um Estado totalitário moderno. Não teve oposição a seu governo, mas na ausência de rádios, telefones e trens, tinha pouco controle sobre a vida cotidiana de camponeses em aldeias remotas da Bretanha, ou mesmo de citadinos no coração de Paris. Tampouco tinha vontade ou capacidade de estabelecer um partido popular, um movimento de jovens em todo o país, ou um sistema nacional de educação (30). Foram as novas tecnologias do século XX que deram a Hitler tanto a motivação quanto o poder de fazer coisas desse tipo. Não podemos prever quais serão as motivações e poderes das ditaduras digitais em 2084, mas é muito pouco provável que só copiem Hitler e Stálin. Os que se dispuserem a lutar novamente as mesmas batalhas da década de 1930 poderão ser surpreendidos, indefesos, por um ataque provindo de uma direção totalmente diferente.

Mesmo que a democracia consiga se adaptar e sobreviver, as pessoas podem tornar-se as vítimas de novos tipos de opressão e discriminação. Já hoje em dia, cada vez mais bancos, corporações e instituições estão usando algoritmos para analisar dados e tomar decisões a nosso respeito. Quando você pede um empréstimo a seu banco, é provável que seu pedido seja processado por um algoritmo e não por um humano. O algoritmo analisa grande quantidade de dados sobre você e estatísticas sobre milhões de outras pessoas, e decide se você é confiável o bastante para receber um empréstimo. Frequentemente, o algoritmo faz o trabalho melhor do que faria um gerente. Mas o problema é que se o algoritmo discriminar injustamente certas pessoas, será difícil saber. Se o banco se recusar a lhe dar um empréstimo e você perguntar por quê, o banco responderá: “O algoritmo disse que não”. Você pergunta: “Por que o algoritmo disse não? O que há de errado comigo?”, e o banco responde: “Não sabemos. Nenhum humano entende esse algoritmo, porque é baseado num aprendizado de máquina avançado. Mas confiamos em nosso algoritmo, por isso não lhe daremos um empréstimo” (31).

Quando se discriminam grupos inteiros, como mulheres ou negros, esses grupos podem se organizar e protestar contra a discriminação coletiva. Mas agora um algoritmo seria capaz de discriminar você individualmente, sem que você saiba por quê. Talvez o algoritmo tenha encontrado alguma coisa da qual não gostou em seu DNA, em sua história pessoal ou em sua conta no Facebook. O algoritmo teria discriminado você não porque é mulher ou negro – mas porque você é você. Há algo específico em você de que o algoritmo não gosta. Você não sabe o que é, e mesmo se soubesse não poderia organizar um protesto com outras pessoas, porque não há outras pessoas que sejam alvo do mesmo preconceito. É só você. Em vez de só discriminação coletiva, no século XXI talvez deparemos com um crescente problema de discriminação individual (32).

Nos níveis mais altos da autoridade provavelmente ainda teremos figurantes humanos, que nos darão a ilusão de que os algoritmos são apenas conselheiros, e que a autoridade final ainda está em mãos humanas. Não vamos nomear uma IA chanceler da Alemanha ou CEO do Google. No entanto, as decisões tomadas pelo chanceler da Alemanha ou pelo CEO do Google serão formuladas pela IA. O chanceler ainda poderia escolher entre várias opções diferentes, mas todas seriam resultado da análise feita por Big Data, e refletirão mais como a IA vê o mundo do que como os humanos o veem.

Para citar um exemplo análogo, hoje políticos de todo o mundo podem escolher entre várias políticas econômicas diferentes, mas em quase todos os casos as várias políticas em oferta refletem uma perspectiva capitalista da economia. Os políticos têm uma ilusão de escolha, mas as decisões realmente importantes já terão sido tomadas antes pelos economistas, banqueiros e homens de negócio, que formataram as diferentes opções no menu. Dentro de algumas décadas, os políticos estarão escolhendo opções de um menu escrito pela IA.

INTELIGÊNCIA ARTIFICIAL E ESTUPIDEZ NATURAL

Uma boa notícia é que pelo menos nas próximas poucas décadas não teremos de lidar com esse absoluto pesadelo de ficção científica em que a IA adquire consciência e decide escravizar ou aniquilar a humanidade. Cada vez mais vamos confiar nos algoritmos para que tomem decisões por nós, mas não é provável que os algoritmos comecem conscientemente a nos manipular. Eles não terão consciência.

A ficção científica tende a confundir inteligência com consciência, e supõe que para se equipar ou suplantar a inteligência humana os computadores terão de desenvolver consciência. O enredo básico de quase todos os filmes e livros sobre IA gira em torno do momento mágico no qual um computador ou robô ganha consciência. Tendo acontecido isso, ou o herói humano se apaixona pelo robô, ou o robô tenta matar todos os humanos, ou ambas as coisas acontecem simultaneamente.

Porém na realidade não há motivo para supor que a inteligência artificial vá desenvolver consciência, porque inteligência e consciência são coisas muito diferentes. Inteligência é a aptidão para resolver problemas. Consciência é a aptidão para sentir coisas como dor, alegria, amor e raiva. Tendemos a confundir os dois porque nos humanos e nos outros mamíferos a inteligência anda de mãos dadas com a consciência. Mamíferos resolvem a maioria dos problemas sentindo coisas. Computadores, no entanto, resolvem problemas de maneira muito diversa.

A inteligência (tipicamente) humana não é “a aptidão para resolver problemas”. Esta é a inteligência de máquina.

Há vários caminhos diferentes que levam a uma grande inteligência, e apenas alguns desses caminhos envolvem a tomada de consciência. Assim como os aviões voam mais rápido que aves sem jamais desenvolver penas, também os computadores podem resolver problemas muito melhor do que mamíferos sem jamais desenvolver sentimentos. É verdade que a IA terá de analisar sentimentos humanos com muita precisão para ser capaz de tratar doenças humanas, identificar terroristas humanos, recomendar parceiros humanos e percorrer uma rua cheia de pedestres humanos. Mas poderia fazer isso sem ter sentimentos próprios. Um algoritmo não precisa sentir alegria, raiva ou medo para reconhecer os diferentes padrões bioquímicos de macacos alegres, irados ou assustados.

Claro, não é de todo impossível que a IA desenvolva seus próprios sentimentos. Ainda não sabemos o bastante sobre a consciência para ter certeza. Em geral, há três possibilidades que precisamos levar em consideração:

1. A consciência está, de alguma forma, ligada à bioquímica orgânica de tal modo que nunca será possível criar consciência em sistemas não orgânicos.

2. A consciência não está ligada à bioquímica orgânica, mas está ligada à inteligência de tal modo que os computadores poderiam desenvolver consciência, e computadores terão de desenvolver consciência se ultrapassarem um certo limiar da inteligência.

3. Não há ligações essenciais entre consciência e bioquímica orgânica nem entre consciência e alta inteligência. Daí que os computadores poderiam desenvolver consciência — mas não necessariamente. Poderiam tornar-se superinteligentes mesmo tendo consciência zero.

No estágio atual de conhecimento, não podemos descartar nenhuma dessas opções. Mas, precisamente porque sabemos tão pouco sobre a consciência, parece improvável que possamos programar computadores conscientes em algum momento próximo. Por isso, apesar do imenso poder da inteligência artificial, num futuro previsível seu uso continuará a depender em alguma medida da consciência humana.

O perigo é que se investirmos demais no desenvolvimento da IA e de menos no desenvolvimento da consciência humana, a simples inteligência artificial sofisticada dos computadores poderia servir apenas para dar poder à estupidez natural dos humanos. É improvável que enfrentemos uma rebelião de robôs nas próximas décadas, mas poderíamos ter de lidar com hordas de bots que sabem, melhor do que nossas mães, como manipular nossas emoções e usar essa misteriosa habilidade para tentar nos vender alguma coisa — seja um carro, um político ou toda uma ideologia. Os robôs poderiam identificar nossos temores, ódios e desejos mais profundos, e usar essas alavancas interiores contra nós. Já tivemos uma amostra disso em eleições e referendos recentes por todo o mundo, quando hackers aprenderam como manipular eleitores individuais analisando dados sobre eles e explorando seus preconceitos (33). Enquanto os filmes de ficção científica terminam em apocalipses dramáticos com fogo e fumaça, na realidade podemos estar a um clique de um apocalipse banal.

Mas isto é controle dos humanos sobre os humanos transformando-os em máquinas e não controle das máquinas sobre os humanos.

Para evitar tais resultados, para cada dólar e cada minuto que investimos no desenvolvimento de inteligência artificial, seria sensato investir um dólar e um minuto em avançar a consciência humana. Infelizmente, não estamos fazendo muita coisa para pesquisar e desenvolver a consciência humana. Estamos pesquisando e desenvolvendo habilidades humanas principalmente em função das necessidades imediatas do sistema econômico e político, e não de acordo com nossas necessidades de longo prazo como seres conscientes. Meu chefe quer que eu responda aos e-mails o mais rápido possível, mas tem pouco interesse em minha capacidade de saborear e apreciar a comida que estou comendo. Consequentemente, eu verifico meus e-mails durante as refeições, enquanto vou perdendo a capacidade de prestar atenção a minhas próprias sensações. O sistema econômico me pressiona a expandir e diversificar minha carteira de investimentos, mas me dá zero incentivo para expandir e diversificar minha compaixão. Assim, eu me esforço cada vez mais para entender os mistérios da bolsa de valores, e cada vez menos para compreender as causas profundas do sofrimento.

Nisso, os humanos são semelhantes a outros animais domésticos. Temos criado vacas dóceis que produzem enormes quantidades de leite, mas que de resto são muito inferiores a seus ancestrais selvagens. São menos ágeis, menos curiosas e menos dotadas de recursos (34). Estamos criando agora homens domesticados que produzem enormes quantidades de dados e funcionam como chips muito eficientes num enorme mecanismo de processamento de dados, mas essas vacas de dados estão longe de atingir seu potencial máximo. Na verdade, não temos ideia de qual seja ele, porque sabemos muito pouco sobre nossa mente e, em vez de investir na sua exploração, nos concentramos em aumentar a velocidade de nossas conexões à internet e a eficiência de nossos algoritmos de Big Data. Se não formos cuidadosos, vamos acabar tendo humanos degradados fazendo mau uso de computadores sofisticados para causar estragos em si mesmos e no mundo.

Ocorre que os humanos são seres sociais e não apenas seres biológicos individuais. E a mente não é o cérebro e sim uma nuvem social de computação, lato sensu. Novamente ele aqui não vê o “algoritmo” que roda na rede social.

Ditaduras digitais não são o único perigo que nos aguarda. Juntamente com a liberdade, a ordem liberal também dá grande valor à igualdade. O liberalismo sempre zelou pela liberdade política, e gradualmente veio a se dar conta de que a igualdade econômica é quase tão importante. Pois sem uma rede de segurança social e um mínimo de igualdade econômica, a liberdade não tem sentido. Mas, assim como os algoritmos de Big Data poderiam extinguir a liberdade, eles poderiam simultaneamente criar a sociedade mais desigual que já existiu. Toda a riqueza e todo o poder do mundo poderiam se concentrar nas mãos de uma minúscula elite, enquanto a maior parte do povo sofreria, não de exploração, mas de algo muito pior — irrelevância.

A afirmação de que “sem uma rede de segurança social e um mínimo de igualdade econômica, a liberdade não tem sentido” é pedestre. A liberdade sempre tem sentido para os humanos serem humanos. O humano não está dado, se constrói e a liberdade é a garantia de que essa construção continuará.

Notas do Capítulo I. 3

1. Margaret Thatcher, “Interview for Woman’s Own (‘No Such Thing as Society’)” (Margaret Thatcher Foundation, 23 set. 1987). Disponível em: <https://www.margaretthatcher.org/document/106689>. Acesso em: 7 jan. 2018.

2. Keith Stanovich, Who Is Rational? Studies of Individual Differences in Reasoning (Nova York: Psychology Press, 1999).

3. Richard Dawkins, “Richard Dawkins: We Need a New Party — the European Party” (NewStatesman, 29 mar. 2017). Disponível em: <https://www.newstatesman.com/politics/uk/2017/03/richard-dawkins-we-need-new-party- european-party>. Acesso em: 1 mar. 2018.

4. Steven Swinford, “Boris Johnson’s Allies Accuse Michael Gove of ‘Systematic and Calculated Plot’ to Destroy his Leadership Hopes” (Telegraph, 30 jun. 2016). Disponível em: <http://www.telegraph.co.uk/news/2016/06/30/boris- johnsons-allies-accuse-michael-gove-of-systematic-and-calc/>. Acesso em: 3 set. 2017. Rowena Mason e Heather Stewart, “Gove’s Thunderbolt and Boris’s Breaking Point: A Shocking Tory Morning” (The Guardian, 30 jun. 2016). Disponível em: <https://www.theguardian.com/politics/2016/jun/30/goves-thunderbolt-boris-johnson-tory-morning>. Acesso em: 3 set. 2017.

5. James Tapsfield, “Gove Presents Himself as the Integrity Candidate for Downing Street Job but Sticks the Knife into Boris AGAIN” (Daily Mail, 1 jul. 2016). Disponível em: <http://www.dailymail.co.uk/news/article-3669702/ I-m- not-great-heart-s-right-place-Gove-makes-bizarre-pitch-Downing-Street-admitting-no-charisma-doesn-t-really-want- job.html>. Acesso em: 3 set. 2017.

6. Em 2017, uma equipe de Stanford produziu um algoritmo capaz de detectar se você é hétero ou homossexual, com uma precisão de 91%, baseado unicamente na análise de algumas imagens de seu rosto (https://osf.io/zn79k/). No entanto, como o algoritmo foi desenvolvido com base em imagens que as pessoas escolhiam de si mesmas para colocar em sites de encontros, ele poderia na realidade estar detectando diferenças em ideais culturais. Não é que o rosto das pessoas gays seja necessariamente diferente do rosto de heterossexuais, e sim que os gays, ao colocar suas fotos num site para encontros entre gays, tentam estar de acordo com ideais culturais diferentes daqueles dos sites de encontros entre heterossexuais.

7. David Chan, “So Why Ask Me? Are Self-Report Data Really That Bad?”, in Charles E. Lance and Robert J. Vandenberg (Orgs.), Statistical and Methodological Myths and Urban Legends (Nova York; Londres: Routledge, 2009, pp. 309-36). Delroy L. Paulhus e SimineVazire, “The Self-Report Method”, in Richard W. Robins, R. Chris Farley e Robert F. Krueger (Orgs.), Handbook of Research Methods in Personality Psychology (Londres; Nova York: The Guilford Press, 2007, pp. 228-33).

8. Elizabeth Dwoskin e Evelyn M. Rusli, “The Technology that Unmasks Your Hidden Emotions” (Wall Street Journal, 28 jan. 2015). Disponível em: <https://www.wsj.com/articles/startups-see-your-face-unmask-your-emotions- 1422472398>. Acesso em: 6 set. 2017.

9. Norberto Andrade, “Computers Are Getting Better Than Humans at Facial Recognition” (Atlantic, 9 jun. 2014). Disponível em: <https://www.theatlantic.com/technology/archive/2014/06/bad-news-computers-are-getting-better- than-we-are-at-facial-recognition/372377/>. Acesso em: 10 dez. 2017. Elizabeth Dwoskin e Evelyn M. Rusli, “The Technology That Unmasks Your Hidden Emotions” (Wall Street Journal, 28 jul. 2015). Disponível em:
<https://www.wsj.com/articles/startups-see-your-face-unmask-your-emotions-1422472398>. Acesso em: 10 dez. 2017. Sophie K. Scott et al., “The Social Life of Laughter” (Trends in Cognitive Sciences, v. 18, n. 12, pp. 618-20, 2014).

10. Daniel First, “Will Big Data Algorithms Dismantle the Foundations of Liberalism?” (ai & Soc, pp. 1-12, 2017). Disponível em: <https://link.springer.com/article/10.1007/s00146-017-0733-4>. Acesso em: 19 jun. 2018.

11. Carole Cadwalladr, “Google, Democracy and the Truth about Internet Search” (The Guardian, 4 dez. 2016). Disponível em: <https://www.theguardian.com/technology/2016/dec/04/google-democracy-truth-internet-search- facebook>. Acesso em: 6 set. 2017.

12. Jeff Freak e Shannon Holloway, “How Not to Get to Straddie” (Red Land City Bulletin, 15 mar. 2012). Disponível em: <http://www.redlandcitybulletin.com.au/story/104929/how-not-to-get-to-straddie/>. Acesso em: 1 mar. 2018.

13. Michelle McQuigge, “Woman Follows GPS; Ends Up in Ontario Lake” (Toronto Sun, 13 maio 2016). Disponível em: <http://torontosun.com/2016/ 05/13/woman-follows-gps-ends-up-in-ontario-lake/wcm/fddda6d6-6b6e- 41c7-88e8-aecc501faaa5>. Acesso em: 1 mar. 2018. “Woman Follows GPS into Lake” (News.com.au, 16 maio 2016). Disponível em: <http://www.news.com.au/technology/gadgets/woman-follows-gps-into-lake/news- story/a7d362dfc4634fd094651afc63f853a1>. Acesso em: 1 mar. 2018.

14. Henry Grabar, “Navigation Apps Are Killing Our Sense of Direction. What if They Could Help Us Remember Places Instead?” (Slate, 2018). Disponível em:
<http://www.slate.com/blogs/moneybox/2017/07/10/google_and_waze_are_killing_out_sense_of_direction_what_if_th Acesso em: 6 set. 2017.

15. Joel Delman, “Are Amazon, Netflix, Google Making Too Many Decisions For Us?” (Forbes, 24 nov. 2010). Disponível em: <https://www.forbes.com/2010/ 11/24/amazon-netflix-google-technology-cio-network-decisions.html>. Acesso em: 6 set. 2017. Cecilia Mazanec, “Will Algorithms Erode Our Decision-Making Skills?” (NPR, 8 fev. 2017). Disponível em: <http://www.npr.org/sections/alltechconsidered/2017/02/08/514120713/will-algorithms-erode-our- decision-making-skills>. Acesso em: 6 set. 2017.

16. Jean-Francois Bonnefon, Azim Shariff e IyadRawhan, “The Social Dilemma of Autonomous Vehicles” (Science, v. 352, n. 6293, pp. 1573-6, 2016).

17. Christopher W. Bauman et al., “Revisiting External Validity: Concerns about Trolley Problems and Other Sacrificial Dilemmas in Moral Psychology” (Social and Personality Psychology Compass, v. 8, n. 9, pp. 536-54, 2014).

18. John M. Darley e Daniel C. Batson, “‘From Jerusalem to Jericho’: A Study of Situational and Dispositional Variables in Helping Behavior” (Journal of Personality and Social Psychology, v. 27, n. 1, pp. 100-8, 1973).

19. Kristofer D. Kusano e Hampton C. Gabler, “Safety Benefits of Forward Collision Warning, Brake Assist, and Autonomous Braking Systems in Rear-End Collisions” (ieee Transactions on Intelligent Transportation Systems, v. 13, n. 4, pp. 1546-55, 2012). James M. Anderson et al., Autonomous Vehicle Technology: A Guide for Policymakers (Santa Monica: RAND Corporation, 2014, esp. pp. 13-5). Daniel J. Fagnant e Kara Kockelman, “Preparing a Nation for Autonomous Vehicles: Opportunities, Barriers and Policy Recommendations” (Transportation Research Part A: Policy and Practice, v. 77, pp. 167-81, 2015).

20. Tim Adams, “Job Hunting Is a Matter of Big Data, Not How You Perform at an Interview” (The Guardian, 10 maio 2014). Disponível em: <https://www.theguardian.com/technology/2014/may/10/job-hunting-big-data-interview- algorithms-employees>. Acesso em: 6 set. 2017.

21. Para uma discussão muito esclarecedora, veja Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Nova York: Crown, 2016). Esta é de fato uma leitura obrigatória para quem estiver interessado nos efeitos potenciais de algoritmos na sociedade e na política.

22. Bonnefon, Shariff e Rawhan, “Social Dilemma of Autonomous Vehicles”.

23. Vincent C. Müller and Thomas W. Simpson, “Autonomous Killer Robots Are Probably Good News” (University of Oxford, Blavatnik School of Government Policy Memo, nov. 2014). Ronald Arkin, Governing Lethal Behaviour: Embedding Ethics in a Hybrid Deliberative/Reactive Robot Architecture (Georgia Institute of Technology, Mobile Robot Lab, pp. 1-13, 2007).

24. Bernd Greiner, War without Fronts: The usa in Vietnam, trad. Anne Wyburd e Victoria Fern (Cambridge, MA: Harvard University Press, 2009, p. 16). Para pelo menos uma referência ao estado emocional dos soldados, veja: Herbert Kelman e V. Lee Hamilton, “The My Lai Massacre: A Military Crime of Obedience”, in Jodi O’Brien e David M. Newman (Orgs.), Sociology: Exploring the Architecture of Everyday Life Reading (Los Angeles: Pine Forge Press, 2010, pp. 13-25).

25. Robert J. Donia, Radovan Karadzic: Architect of the Bosnian Genocide (Cambridge: Cambridge University Press, 2015). Veja também: Isabella Delpla, Xavier Bougarel e Jean-Louis Fournel, Investigating Srebrenica: Institutions, Facts, and responsibilities (Nova York; Oxford: Berghahn Books, 2012).

26. Noel E. Sharkey, “The Evitability of Autonomous Robot Warfare” (International Rev. Red Cross, v. 94, n. 886, pp. 787-99, 2012).

27. Ben Schiller, “Algorithms Control Our Lives: Are They Benevolent Rulers or Evil Dictators?” (Fast Company, 21 fev. 2017). Disponível em: <https://www.fastcompany.com/3068167/algorithms-control-our-lives-are-they- benevolent-rulers-or-evil-dictators>. Acesso em: 17 set. 2017.

28. Elia Zureik, David Lyon e Yasmeen Abu-Laban (Orgs.), Surveillance and Control in Israel/Palestine: Population, Territory and Power (Londres: Routledge, 2011). Elia Zureik, Israel’s Colonial Project in Palestine (Londres: Routledge, 2015). Torin Monahan (Org.), Surveillance and Security: Technological Politics and Power in Everyday Life (Londres: Routledge, 2006). Nadera Shalhoub-Kevorkian, “E-Resistance and Technological In/Security in Everday Life: The Palestinian case”, British Journal of Criminology, v. 52, n. 1, pp. 55-72, 2012). Or Hirschauge e Hagar Sheizaf, “Targeted Prevention: Exposing the New System for Dealing with Individual Terrorism” (Haaretz, 26 maio 2017). Disponível em: <https://www.haaretz.co.il/magazine/.premium-1.4124379>. Acesso em: 17 set. 2017. Amos Harel, “The IDF Accelerates the Crisscrossing of the West Bank with Cameras and Plans to Surveille all Junctions” (Haaretz, 18 jun. 2017). Disponível em: <https://www.haaretz.co.il/news/politics/.premium-1.4179886>. Acesso em: 17 set. 2017. Neta Alexander, “This is How Israel Controls the Digital and Cellular Space in the Territories” (31 mar. 2016). Disponível em: <https://www.haaretz.co.il/magazine/.premium-MAGAZINE-1.2899665>. Acesso em: 12 jan. 2018. Amos Harel, “Israel Arrested Hundreds of Palestinians as Suspected Terrorists Due to Publications on the Internet” (Haaretz, 16 abr. 2017). Disponível em:
<https://www.haaretz.co.il/news/politics/.premium-1.4024578>. Acesso em: 15 jan. 2018. Alex Fishman, “The Argaman Era” (Yediot Aharonot, Weekend Supplement, v. 28, p. 6, abr. 2017).

29. Yotam Berger, “Police Arrested a Palestinian Based on an Erroneous Translation of ‘Good Morning’ in His Facebook Page” (Haaretz, 22 out. 2017). Disponível em: <https://www.haaretz.co.il/.premium-1.4528980>. Acesso em: 12 jan. 2018.

30. William Beik, Louis xiv and Absolutism: A Brief Study with Documents (Boston, MA: Bedford; St Martin’s, 2000).

31. O’Neil, Weapons of Math Destruction, op. cit.; Penny Crosman, “Can AI Be Programmed to Make Fair Lending Decisions?” (American Banker, 27 set. 2016). Disponível em: <https://www.americanbanker.com/news/can- ai-be-programmed-to-make-fair-lending-decisions>. Acesso em: 17 set. 2017.

32. Matt Reynolds, “Bias Test to Prevent Algorithms Discriminating Unfairly” (New Scientist, 29 maio 2017). Disponível em: <https://www.newscientist.com/article/mg23431195-300-bias-test-to-prevent-algorithms- discriminating-unfairly/>. Acesso em: 17 set. 2017. Claire Cain Miller, “When Algorithms Discriminate” (New York Times, 9 jul. 2015). Disponível em: <https://www.nytimes.com/2015/07/10/upshot/when-algorithms- discriminate.html>. Acesso em: 17 set. 2017. Hannah Devlin, “Discrimination by Algorithm: Scientists Devise Test to Detect AI Bias” (The Guardian, 19 dez. 2016). Disponível em:
<https://www.theguardian.com/technology/2016/dec/19/discrimination-by-algorithm-scientists-devise-test-to-detect-ai- bias>. Acesso em: 17 set. 2017.

33. Snyder, The Road to Unfreedom, op. cit.

34. Anna Lisa Peterson, Being Animal: Beasts and Boundaries in Nature Ethics (Nova York: Columbia University Press, 2013, p. 100).

4. Igualdade

Os donos dos dados são os donos do futuro

Nas últimas décadas foi dito às pessoas em todo o mundo que o gênero humano está no caminho da igualdade, e que a globalização e as novas tecnologias nos ajudarão a chegar lá mais cedo. Na verdade, o século XXI poderia criar a sociedade mais desigual na história. Embora a globalização e a internet representem pontes sobre as lacunas que existem entre os países, elas ameaçam aumentar a brecha entre as classes, e, bem quando o gênero humano parece prestes a alcançar unificação global, a espécie em si mesma pode se dividir em diferentes castas biológicas.

De que ‘classes’ Harari está falando? Das classes sociais, stricto sensu, como grupos definidos a partir da sua posição no processo de produção ou de acumulação ampliada do capital?

A desigualdade remonta à Idade da Pedra. Trinta mil anos atrás, grupos de caçadores-coletores enterravam alguns de seus membros em sepulturas suntuosas repletas de contas, braceletes, joias e objetos de arte, enquanto outros membros tinham de se contentar com uma cova simples. Não obstante, os antigos grupos de caçadores-coletores ainda eram mais igualitários do que qualquer sociedade humana subsequente, porque tinham poucas propriedades. A propriedade é um pré-requisito para uma desigualdade de longo prazo.

Essa “desigualdade” paleolítica poderia ser considerada uma desigualdade em termos econômicos? Havia desigualdade econômica – derivada de acesso diferencial à propriedade – em grupos de caçadores-coletores?

Depois da revolução agrícola, a propriedade multiplicou-se, e com ela a desigualdade. Quando humanos obtiveram propriedade de terra, animais, plantas e ferramentas, surgiram rígidas sociedades hierárquicas, nas quais pequenas elites monopolizavam a maior parte da riqueza e do poder, geração após geração. Os humanos aceitaram esse arranjo como sendo natural e até mesmo proveniente de ordem divina. A hierarquia não era apenas a norma, mas também o ideal. Como poderia haver ordem sem uma hierarquia clara entre aristocratas e pessoas comuns, entre homens e mulheres, entre pais e filhos? Sacerdotes, filósofos e poetas em todo o mundo explicavam pacientemente que, assim como no corpo humano seus membros não são iguais — os pés têm de obedecer à cabeça —, também na sociedade humana a igualdade só traz o caos.

Quanto depois dessa revolução agrícola isso aconteceu? Ao que se saiba sociedades hierárquicas só apareceram com o surgimento das primeiras formas de Estado ou proto-Estados. Sociedades agrícolas neolíticas não eram hierárquicas, nelas não havia aristocracia. A hierarquia só passou a ser estruturante de um modo de vida e convivência social sob autocracias.

Na modernidade tardia, no entanto, a igualdade tornou-se um ideal em quase todas as sociedades humanas. Isso se deve em parte ao surgimento das novas ideologias do comunismo e do liberalismo. Mas também à Revolução Industrial, que deu às massas uma importância nunca antes vista. A economia industrial dependia de massas de trabalhadores comuns, enquanto exércitos industriais dependiam de massas de soldados comuns. Tanto em ditaduras quanto em democracias, governos investem pesadamente na saúde, educação e bem-estar social das massas, porque precisam de milhões de trabalhadores saudáveis para operar as linhas de produção e de milhões de soldados leais para lutar nas trincheiras.

Consequentemente, a história do século XX girou em grande medida em torno da redução da desigualdade entre classes, raças e gêneros. Embora o mundo no ano 2000 ainda tenha seu quinhão de hierarquias, ele é assim mesmo um lugar muito mais igualitário do que o mundo em 1900. Nos primeiros anos do século XXI esperava-se que o processo igualitário continuasse e até mesmo se acelerasse. Esperava-se que a globalização disseminasse a prosperidade econômica pelo mundo, e que como resultado pessoas na Índia e no Egito usufruiriam das mesmas oportunidades e privilégios de pessoas na Finlândia e no Canadá. Uma geração inteira cresceu sob essa promessa.

Agora parece que a promessa talvez não seja cumprida. Certamente a globalização beneficiou grandes segmentos da humanidade, mas há sinais de uma crescente desigualdade, entre e dentro das sociedades. Alguns grupos monopolizam cada vez mais os frutos da globalização, enquanto bilhões são deixados para trás. Hoje, o 1% mais rico é dono de metade da riqueza do mundo. Ainda mais alarmante, as cem pessoas mais ricas possuem juntas mais do que as 4 bilhões mais pobres (1).

E é provável que fique muito pior. Como explicado nos capítulos anteriores, o surgimento da IA pode extinguir o valor econômico e a força política da maioria dos humanos. Ao mesmo tempo, aprimoramentos em biotecnologia poderiam possibilitar que a desigualdade econômica se traduza em desigualdade biológica. Os super-ricos teriam finalmente algo que vale a pena fazer com sua estupenda riqueza. Enquanto até agora só podiam comprar pouco mais que símbolos de status, logo poderão ser capazes de comprar a própria vida. Se os novos tratamentos para prolongar a vida e aprimorar habilidades físicas e cognitivas forem dispendiosos, o gênero humano poderia se dividir em castas biológicas.

No decorrer da história, os ricos e a aristocracia sempre imaginaram que tinham qualificações superiores às de todos os outros, e que por isso estavam no controle. Até onde podemos afirmar, isso não era verdade. Um duque mediano não era mais talentoso do que um camponês mediano — sua superioridade era devida apenas a uma discriminação legal e econômica injusta. No entanto, em 2100 os ricos poderiam realmente ser mais talentosos, mais criativos e mais inteligentes do que os moradores de favelas. Uma vez aberto um fosso entre habilidades de ricos e pobres, será quase impossível fechá-lo. Se os ricos utilizarem suas competências superiores para enriquecer ainda mais, e se dinheiro a mais pode comprar para eles corpos e cérebros incrementados, com o tempo a brecha vai só aumentar. Em 2100, o 1% mais rico poderia possuir não apenas a maior parte da riqueza do mundo mas também a maior parte da beleza, da criatividade e da saúde.

É um cenário comum de ficção científica. Mas Harari ainda pensa em termos de mundo único. Em alguns mundos é possível que isso que ele prevê aconteça (e que em 2100 ainda existam favelas). Em outros, não.

Os dois processos juntos – a bioengenharia associada à ascensão da IA – poderiam, portanto, resultar na divisão da humanidade em uma pequena classe de super-humanos e uma massiva subclasse de Homo sapiens inúteis. Para piorar ainda mais uma situação que já é nefasta, à medida que as massas perdem importância econômica e poder político, o Estado poderia perder pelo menos parte do incentivo para investir em sua saúde, sua educação e seu bem-estar social. É perigoso ser obsoleto. O futuro das massas dependerá então da boa vontade de uma pequena elite. Talvez haja boa vontade durante umas poucas décadas. Mas em tempos de crise — como uma catástrofe climática — seria muito tentador e fácil descartar as pessoas supérfluas.

Em países como a França e a Nova Zelândia, com longa tradição de convicções liberais e práticas de Estado de bem-estar social, talvez a elite continue a cuidar das massas mesmo quando não precisar delas. No entanto, nos Estados Unidos, mais capitalistas, a elite poderia aproveitar a primeira oportunidade para desmantelar o que restava do Estado de bem-estar social. Um problema ainda maior ocorre em grandes países em desenvolvimento, como a Índia, a China, a África do Sul e o Brasil. Lá, se as pessoas comuns perderem seu valor econômico, a desigualdade poderia disparar.

Consequentemente, em vez de a globalização resultar em prosperidade global, ela poderia na verdade resultar em “especiação”: a divisão do gênero humano em diferentes castas biológicas, ou até mesmo espécies diferentes. A globalização unirá o mundo horizontalmente, apagando fronteiras nacionais, mas ao mesmo tempo vai dividir a humanidade verticalmente. As oligarquias no poder em países tão diversos como Estados Unidos e Rússia podem unir-se contra a massa de Sapiens comuns. Dessa perspectiva, o atual ressentimento popular em relação “às elites” é bem fundamentado. Se não tivermos cuidado, os netos dos magnatas do Vale do Silício e dos bilionários de Moscou podem se tornar uma espécie superior à dos netos de lenhadores dos Apalaches e dos vilarejos da Sibéria.

No longo prazo, esse cenário poderia até mesmo desglobalizar o mundo, pois a classe superior se congrega numa autoproclamada “civilização” e constrói muros e fossos para isolá-la das hordas de “bárbaros” no lado de fora. No século XX, a civilização industrial depende dos “bárbaros” para ter mão de obra barata, matéria-prima e mercados. Por isso ela os conquistou e absorveu. Mas no século XXI, uma civilização pós-industrial baseada em IA, bioengenharia e nanotecnologia poderia ser muito mais autocontida e autossustentada. Não apenas classes, mas países e continentes inteiros poderiam tornar-se irrelevantes. Fortificações guardadas por drones e robôs poderiam separar a zona autoproclamada civilizada, onde ciborgues lutam entre si em código, das terras bárbaras onde humanos selvagens lutam entre si com machetes e Kaláshnikovs.

Isso é possível. Mas aponta para múltiplos mundos. A desglobalização (ou a reação à globalização) já começou, ao lado, porém, da globalização. Na verdade, se trata de glocalização (local conectado como o mundo todo) e localização não-cosmopolita (tipo America First), com o reflorescimento de nacionalismos.

Ao longo deste livro usei frequentemente a primeira pessoa do plural para falar sobre o futuro do gênero humano. Falo sobre o que “nós” precisamos fazer quanto aos “nossos” problemas. Porém talvez não haja “nós”. Talvez um dos “nossos” maiores problemas seja o de que diferentes grupos humanos têm futuros completamente diferentes. Talvez em algumas partes do mundo você deva ensinar seus filhos a escrever programas de computador, enquanto em outras seria melhor ensiná-los a atirar com precisão.

Exato. Muitos mundos.

QUEM É DONO DOS DADOS?

Se quisermos evitar a concentração de toda a riqueza e de todo o poder nas mãos de uma pequena elite, a chave é regulamentar a propriedade dos dados. Antigamente a terra era o ativo mais importante no mundo, a política era o esforço por controlar a terra, e se muitas terras acabassem se concentrando em poucas mãos — a sociedade se dividia em aristocratas e pessoas comuns. Na era moderna, máquinas e fábricas tornaram-se mais importantes que a terra, e os esforços políticos focam-se no controle desses meios de produção. Se um número excessivo de fábricas se concentrasse em poucas mãos — a sociedade se dividiria entre capitalistas e proletários. Contudo, no século XXI, os dados vão suplantar tanto a terra quanto a maquinaria como o ativo mais importante, e a política será o esforço por controlar o fluxo de dados. Se os dados se concentrarem em muito poucas mãos — o gênero humano se dividirá em espécies diferentes.

Esta hipótese – a principal (talvez a única) de Harari – é considerável.

A corrida para obter dados já começou, liderada por gigantes como Google, Facebook e Tencent. Até agora, muitos deles parecem ter adotado o modelo de negócios dos “mercadores da atenção” (2). Eles capturam nossa atenção fornecendo-nos gratuitamente informação, serviços e entretenimento, e depois revendem nossa atenção aos anunciantes. Mas provavelmente visam a muito mais do que qualquer mercador de atenção anterior. Seu verdadeiro negócio não é vender anúncios. E sim, ao captar nossa atenção, eles conseguem acumular imensa quantidade de dados sobre nós, o que vale mais do que qualquer receita de publicidade. Nós não somos seus clientes — somos seu produto.

A médio prazo, esse acúmulo de dados abre caminho para um modelo de negócio inédito, cuja primeira vítima será a própria indústria da publicidade. O novo modelo baseia-se na transferência da autoridade de humanos para algoritmos, inclusive a autoridade para escolher e comprar coisas. Quando algoritmos escolherem e comprarem coisas para nós, a indústria da publicidade tradicional irá à falência. Considere o Google. O Google quer chegar a um ponto no qual poderemos perguntar-lhe qualquer coisa e obter a melhor resposta do mundo. O que vai acontecer quando pudermos perguntar ao Google: “Oi, Google, com base em tudo o que você sabe sobre carros e com base em tudo o que você sabe sobre mim (inclusive minhas necessidades, meus hábitos, minhas opiniões sobre o aquecimento global, e até mesmo minhas ideias sobre a política no Oriente Médio), qual é o melhor carro para mim?”. Se o Google for capaz de dar uma boa resposta, e se aprendermos com a experiência a confiar no bom senso do Google em vez de em nossos sentimentos facilmente manipuláveis, qual será a utilidade das propagandas de carro? (3)

No longo prazo, ao reunir informação e força computacional em quantidade suficiente, os gigantes dos dados poderão penetrar nos mais profundos segredos da vida, e depois usar esse conhecimento não só para fazer escolhas por nós ou nos manipular mas também na reengenharia da vida orgânica e na criação de formas de vida inorgânicas. Vender anúncios pode ser necessário para sustentar os gigantes no curto prazo, mas eles frequentemente avaliam aplicativos, produtos e companhias em função dos dados que colhem deles, e não do dinheiro que eles geram. Um aplicativo popular pode não ter um bom modelo de negócios e até mesmo perder dinheiro no curto prazo, mas na medida em que absorver dados pode valer bilhões (4). Mesmo que não se saiba como fazer dinheiro com os dados hoje em dia, vale a pena tê-los porque eles podem ser a chave para controlar e modelar a vida no futuro. Não tenho certeza de que os gigantes dos dados pensam explicitamente nesses termos, mas suas ações indicam que dão mais valor aos dados acumulados do que a meros dólares e centavos.

Humanos comuns vão descobrir que é muito difícil resistir a esse processo. No presente, as pessoas ficam contentes de ceder seu ativo mais valioso — seus dados pessoais — em troca de serviços de e-mail e vídeos de gatinhos fofos gratuitos. É um pouco como as tribos africanas e nativas americanas que inadvertidamente venderam países inteiros a imperialistas europeus em troca de contas coloridas e bugigangas baratas. Se, mais tarde, pessoas comuns decidirem tentar bloquear o fluxo de dados, podem descobrir que isso é cada vez mais difícil, especialmente se tiverem chegado a ponto de depender da rede para todas as suas decisões, até mesmo para sua saúde e sua sobrevivência física.

Humanos e máquinas poderão se fundir tão completamente que os humanos não serão capazes de sobreviver se estiverem desconectados da rede. Estarão conectados desde o útero, e, se em algum momento da vida você optar por se desconectar, as companhias de seguro talvez se recusem a lhe fazer um seguro de vida, empregadores talvez se recusem a empregá-lo, e serviços de saúde talvez se recusem a cuidar de você. Na grande batalha entre saúde e privacidade, a saúde provavelmente vencerá sem muito esforço.

De que rede Harari fala? A rede social não aparece em nenhum momento. Ele fala das redes de dados, das redes de informação, das redes de computadores.

À medida que, através de sensores biométricos, cada vez mais dados fluírem de seu corpo e seu cérebro para máquinas inteligentes, será fácil para corporações e agências do governo conhecer você, manipular você e tomar decisões por você. Mais importante ainda, eles serão capazes de decifrar os mecanismos profundos de todos os corpos e cérebros, e com isso adquirir o poder de fazer a engenharia da vida. Se quisermos evitar que uma pequena elite monopolize esses poderes, que parecem divinos, e se quisermos impedir que a humanidade se fragmente em castas biológicas, a questão-chave é: quem é dono dos dados? Os dados de meu DNA, meu cérebro e minha vida pertencem a mim, ao governo, a uma corporação ou ao coletivo humano?

Obrigar os governos a nacionalizar os dados provavelmente ia restringir o poder das grandes corporações, mas também pode resultar em assustadoras ditaduras digitais. Os políticos são um pouco como músicos, e o instrumento que eles tocam é o sistema emocional e bioquímico humano. Eles fazem um discurso — e há uma onda de medo no país. Eles escrevem uma mensagem no Twitter, e há uma explosão de ódio. Não acho que deveríamos dar a esses músicos um instrumento mais sofisticado para eles tocarem. Quando políticos forem capazes de manipular nossas emoções, provocando, segundo sua vontade, ansiedade, ódio, alegria e tédio, a política se tornará um mero circo emocional. Por mais que devamos temer o poder das grandes corporações, a história sugere que não estaríamos necessariamente melhor nas mãos de governos superpoderosos. Neste momento, em março de 2018, eu prefiro dar meus dados a Mark Zuckerberg a dá-los a Vladimir Putin (apesar de o escândalo da Cambridge Analytica ter revelado que dados confiados a Zuckerberg podem acabar nas mãos de Putin).

A propriedade privada de seus próprios dados soa mais atraente do que qualquer dessas opções, mas não está claro o que isso quer dizer. Tivemos milhares de anos de experiência de regulação da propriedade de terra. Sabemos construir uma cerca em torno de um campo, pôr um guarda no portão e controlar quem pode entrar. Nos dois séculos passados nos tornamos extremamente sofisticados em regular a propriedade da indústria — hoje posso comprar ações e ser dono de um pedaço da General Motors e um pedacinho da Toyota. Mas não temos muita experiência em regular a propriedade de dados, que é inerentemente uma tarefa muito mais difícil, porque, ao contrário da terra e de máquinas, os dados estão em toda parte e em parte alguma ao mesmo tempo, podem movimentar-se à velocidade da luz, e podem ser indefinidamente copiados.

Assim, faríamos melhor em invocar juristas, políticos, filósofos e mesmo poetas para que voltem sua atenção para essa charada: como regular a propriedade de dados? Essa talvez seja a questão política mais importante de nossa era. Se não formos capazes de responder a essa pergunta logo, nosso sistema sociopolítico pode entrar em colapso. As pessoas já estão sentindo a chegada do cataclismo. Talvez seja por isso que cidadãos do mundo inteiro estão perdendo a fé na narrativa liberal, que apenas uma década atrás parecia irresistível.

Como sempre, Harari não se refere à democracia liberal e sim à narrativa liberal (ou neoliberal, ou liberal em termos econômicos, não políticos). Outro ponto é se o fundamental é a propriedade de dados ou o acesso aos dados (confira a distopia-utopia de Bruce Sterling: Islands in the Net, traduzida no Brasil como Piratas de Dados) e a possibilidade de fazer alguma coisa com os dados (que não depende só da posse dos dados).

Como, então, avançar a partir daqui, e como lidar com os imensos desafios das revoluções da biotecnologia e da tecnologia da informação? Talvez os mesmos cientistas e empresários responsáveis pelas disrupções do mundo contemporâneo consigam montar alguma solução tecnológica? Por exemplo, será que algoritmos em rede poderão fornecer as estruturas de uma comunidade humana global que poderia ser, coletivamente, dona de todos os dados e supervisionar o futuro desenvolvimento da vida? Quando a desigualdade global só faz crescer e aumentam as tensões em todo o mundo, quem sabe Mark Zuckerberg poderia convocar seus 2 bilhões de amigos para reunir forças e fazer alguma coisa juntos?

Por que seria necessário uma comunidade humana global? Por que não podem ser múltiplas comunidades humanas glocais? Trata-se de “supervisionar o futuro desenvolvimento da vida” ou de criar novas formas de convivência social?

OBSERVAÇÃO

As redes sociais (pessoas interagindo enquanto estão interagindo) – e a emergência de uma sociedade-em-rede – são ideias completamente estranhas para Yuval Harari.

Um tema importante para os Novos Pensadores

Ainda estamos no século 20

A década de 1990 foi apenas uma interrupção num século que ainda não acabou

Entre a queda da muro de Berlim (1989) e a derrocada da URSS (1991) e o atentado ao World Trade Center (2001) tivemos um interregno no trágico século 20. Uma janela se abriu, uma brisa fresca soprou e pudemos experimentar, entre outras coisas, o fim (temporário) da guerra fria e da política de blocos, a expansão das democracias liberais, a ascensão de um chamado terceiro setor, a World Wide Web, o florescimento da blogosfera, a introdução da noção de capital social como variável sistêmica nas equações do desenvolvimento, o surgimento das teorias dos sistemas dinâmicos complexos adaptativos e a fundação da nova ciência das redes. Depois, quando todos esperávamos o nascimento de uma nova era, com o início do terceiro milênio, o que aconteceu foi o contrário. O século 20 continuou como um pesadelo persistente, prolongando-se nas duas primeiras décadas do que deveria ser o século 21.

O que tivemos? Recessão e desconsolidação democrática (a partir de 2005), ascensão dos populismos (de esquerda e direita), retomada do unilateralismo na política internacional, ressurgimento do nacionalismo, tentativas de erigir novos muros, surgimento de mídias sociais que acabaram servindo de meios de broadcasting e não de ferramentas de netweaving (e de mídias privadas contra as redes, com topologia descentralizada de árvore – como o WhatsApp – e não distribuída), prevalência do sharp power das grandes potências autocráticas (como Rússia e China), enfim, brutal reação do Estado-nação surgido no século 17 e das formas de governança e convivência (ou coexistência competitiva) hierárquicas à emergência da sociedade-em-rede.

Há quase 40 anos Edgar Morin (1981) publicou um livro intitulado “Para sair do século 20” (que devoramos na época). Depois alguns escreveram livros de lições para o século 21. Recentemente, Timothy Snyder (2017) fez um intitulado “20 lições do século 20”. Yuval Harari (2018) fez outro, intitulado “21 lições para o século 21”. Mas talvez seja o caso de pensar nas lições do século 21 para o século 20. Pois, apesar dos esforços de Morin, a maioria das pessoas ainda não conseguiu sair do século 20.

Comentário do Eduardo Carvalho (participante do programa):

“Desculpe o textão.

Perfeito. Acho que vc poderia escrever sobre isso em um livro. E logo, devido à atualidade da questão que coloca. Digo isso por três motivos (dentre dezenas de outros): vc foi o único (que conheço), que levantou esta questão da democracia como modo de vida, na atualidade, como nos ensinaram os gregos e alertou Dewey no século XX (confunde-se muito ainda democracia com eleição, forma de governo, etc.); da potência de comunicação que as redes sociais alcançaram com o amassamento do mundo e, da sociedade como agenciamento que descobriu que, como o mercado e o estado, tem sua própria racionalidade e sua própria autonomia e agora se manifesta de forma inconteste embora transformando a netwave em netwar.

Edgar Morin, não obstante sua significativa obra, apenas trocou, na sua abordagem sobre a COMPLEXIDADE, a complexidade do mecanismo da máquina pela complexidade do organismo vivo, ainda mantendo o mundo como um todo e suas partes, assim como fez Fritjof Capra em A Teia da Vida e outros teóricos da complexidade. Ou seja, enxergam a realidade como uma totalidade mais complexa, mas, uma totalidade ainda amarrada ao cogito cartesiano que aprisiona a diferença, alerta dado por Deleuze quando crítica a célebre frase de Descartes, “Penso logo existo” e os quatro ramos deste seu cogito: Identidade do conceito; analogia do juízo; oposição dos predicados e semelhança do percebido. A grande contribuição, portanto, de Gilles Deleuze foi estilhaçar está ideia holística da realidade, do todo e suas partes, embora mais complexo tendo como metáfora o organismo. Como ele afirmou que para ele, até escrever o Anti-Édipo, a realidade era esta complexidade, depois de Mil Platôs isso mudou (aqui permita-me eu repetir parte de uma citação de Deleuze que resume sua obra posterior ao O anti-Édipo, encontrada na introdução de Mil Platôs: “As Multiplicidades são a própria realidade e não supõem nenhuma unidade, não entram em nenhuma totalidade e tampouco remetem a um sujeito. As subjetivações, as totalizações, as unificações são, ao contrário, processos que se produzem e aparecem nas multiplicidades……”).

O que é isso senão redes distribuídas atacadas aqui e ali por fenômenos que represam fluxos, desata clusters e elimina nodos? Por ele não ter tido uma visão de rede associou esta multiplicidade a um caldo quântico (o que não deixa de ser em certo sentido).

Acho que seus estudos sobre democracia, redes sociais, sociedade-em-rede vem preencher esta lacuna deixada por Deleuze talvez o único pensador do século XX que inaugurou um plano de imanência com este conceito de multiplicidades, criando novos conceitos e atualizando o sentido de conceitos existentes.

A hora é essa! Tá na hora de sair da toca (sem precisar mudar de endereço rs) e espalhar suas relfexões pelo mundo. O analfabetismo democrático é monstruoso inclusive em autores de grandes best-sellers da atualidade”.

Notas do Capítulo I. 4

1. “Richest 1 Percent Bagged 82 Percent of Wealth Created Last Year — Poorest Half of Humanity Got Nothing” (Oxfam, 22 jan. 2018). Disponível em: <https://www.oxfam.org/en/pressroom/pressreleases/2018-01-22/richest-1- percent-bagged-82-percent-wealth-created-last-year>. Acesso em: 28 fev. 2018. Josh Lowe, “The 1 Percent Now Have Half the World’s Wealth” (Newsweek, 14 nov. 2017). Disponível em: <http://www.newsweek.com/1-wealth-money- half-world-global-710714>. Acesso em: 28 fev. 2018. Adam Withnall, “All the World’s Most Unequal Countries Revealed in One Chart”, Independent, 23 nov. 2016. Disponível em:
<http://www.independent.co.uk/news/world/politics/credit-suisse-global-wealth-world-most-unequal-countries- revealed-a7434431.html>. Acesso em: 11 mar. 2018.

2. Tim Wu, The Attention Merchants (Nova York: Alfred A. Knopf, 2016).

3. Cara McGoogan, “How to See All the Terrifying Things Google Knows about You’, Telegraph, 18 ago. 2017. Disponível em: <http://www.telegraph.co.uk/technology/0/see-terrifying-things-google-knows/>. Acesso em: 19 out. 2017. Caitlin Dewey, “Everything Google Knows about You (and How It Knows It)”, Washington Post, 19 de nov. 2014. Disponível em: <https://www.washingtonpost.com/news/the-intersect/wp/2014/11/19/everything-google-knows- about-you-and-how-it-knows-it/?utm_term=.b81c3ce3ddd6>. Acesso em: 19 out. 2017.

4. Dan Bates, “YouTube Is Losing Money Even Though It Has More Than 1 Billion Viewers’, Daily Mail, 26 fev. 2015, Disponível em: <http://www.dailymail.co.uk/news/article-2970777/YouTube-roughly-breaking-nine-years- purchased-Google-billion-viewers.html>. Acesso em: 19 out. 2017; Olivia Solon, “Google’s Bad Week: YouTube Loses Millions As Advertising Row Reaches US”, Guardian, 25 mar. 2017. Disponível em:<https://www.theguardian.com/technology/2017/mar/25/google-youtube-advertising-extremist-content-att-verizon>. Acesso em: 19 de out. 2017; Seth Fiegerman, “Twitter Is Now Losing Users in the US”, CNN, 27 jul. 2017. Disponível em: <http://money.cnn.com/2017/07/27/technology/business/twitter-earnings/index.html>. Acesso em: 19 out. 2017.

5. Comunidade

[Na verdade, este capítulo já é o primeiro da Parte II, intitulada O Desafio Político, mas pela proximidade com o texto anterior foi agregada aqui]

Os humanos têm corpos

A Califórnia está acostumada com terremotos, mas assim mesmo o tremor político das eleições americanas de 2016 chegou como um choque violento ao Vale do Silício. Ao constatar que eles poderiam ser parte do problema, os magos da computação reagiram fazendo o que os engenheiros fazem melhor: buscaram uma solução técnica. Em nenhum outro lugar a reação foi mais contundente do que na sede do Facebook, em Menlo Park. Isso é compreensível. Como o negócio do Facebook é a rede social, é ele que está mais sintonizado com perturbações sociais.

Na tradução há aqui uma confusão entre rede social (social network) e mídia social (social midia).

Após três meses de exame de consciência, em 16 de fevereiro de 2017 Mark Zuckerberg publicou um audacioso manifesto sobre a necessidade de construir uma comunidade global, e sobre o papel do Facebook nesse projeto (1). Num discurso que pronunciou em seguida, na inauguração da Cúpula de Comunidades, em 2 de junho de 2017, Zuckerberg explicou que as convulsões políticas de nossa época — do desenfreado crescimento do vício em drogas a regimes totalitários sangrentos — resultam em grande medida da desintegração das comunidades humanas. Lamentou o fato de que “durante décadas a participação em todo tipo de grupos tinha diminuído em uma quarta parte. Há muitas pessoas que agora precisam encontrar propósito e apoio em outro lugar” (2). Prometeu que o Facebook iria assumir a liderança na reconstrução dessas comunidades e que seus engenheiros assumiriam o fardo que fora descartado por líderes locais. “Vamos começar a lançar algumas ferramentas”, ele disse, “para facilitar a construção de comunidades.”

Explicou também que “Demos início a um projeto para ver se melhoramos nossa capacidade de sugerir grupos que serão significativos para vocês. Para isso, começamos a construir inteligência artificial. E funciona. Nos primeiros seis meses, ajudamos um número 50% maior de pessoas a se juntarem a comunidades significativas… Se conseguirmos, isso vai não só reverter todo o declínio na participação em comunidades que estamos vendo há décadas como começar a fortalecer nosso tecido social e fazer o mundo ficar unido”. Esse é um objetivo tão importante que Zuckerberg jurou “mudar toda a missão do Facebook para poder assumir esta” (3). Zuckerberg tem razão ao lamentar a desagregação de comunidades humanas. Porém vários meses após ter feito essa promessa, e exatamente quando este livro estava no prelo, o escândalo da Cambridge Analytica revelou que dados que foram confiados ao Facebook tinham sido colhidos por terceiros e usados para manipular eleições em todo o mundo. Isso pôs no ridículo as sublimes promessas de Zuckerberg, e destruiu a confiança do público no Facebook. Só se pode esperar que, antes de empreender a construção de novas comunidades humanas, o Facebook comprometa-se primeiro a proteger a privacidade e a segurança das comunidades existentes.

Na verdade, o Facebook não foi responsável por isso, mas apenas vulnerável. O objetivo de ajudar a construir comunidades não fica desmoralizado pela ação invasiva do sharp power de grandes potências malignas (como a Rússia de Putin).

Entretanto, vale a pena considerar em profundidade a visão comunitária do Facebook, e examinar se, uma vez reforçada a segurança, as redes sociais on-line serão capazes de construir uma comunidade humana global. Mesmo que no século XXI os humanos possam ser elevados à categoria de deuses, em 2018 ainda somos animais da Idade da Pedra. Para podermos florescer precisamos nos basear em comunidades íntimas. Durante milhões de anos, os humanos adaptaram-se a viver em pequenos bandos de não mais de algumas dezenas de pessoas. Mesmo hoje em dia, para a maioria de nós é impossível conhecer de fato mais de 150 indivíduos, não importa quantos amigos no Facebook alardeamos ter (4). Sem esses grupos, os humanos sentem-se solitários e alienados.

Infelizmente, nos dois séculos passados as comunidades íntimas se desintegraram. A tentativa de substituir grupos pequenos de pessoas que efetivamente se conhecem pelas comunidades imaginárias das nações e dos partidos políticos nunca poderia ter sucesso total. Seus milhões de irmãos na família nacional e seus milhões de camaradas no Partido Comunista não são capazes de lhe dar a cálida intimidade que lhe dão um único irmão de verdade ou um amigo. Consequentemente, as pessoas vivem vidas cada vez mais solitárias num planeta cada vez mais conectado. Muitas das rupturas sociais e políticas de nossa época podem ser atribuídas a esse mal-estar (5).

A visão de Zuckerberg de reconectar humanos uns com outros é portanto oportuna. Mas palavras custam menos que ações, e para poder implementar essa visão o Facebook pode ter de mudar todo o seu modelo de negócios. É difícil construir uma comunidade global quando você ganha seu dinheiro capturando a atenção das pessoas e a vendendo a anunciantes. Apesar disso, só a disposição de Zuckerberg para formular essa visão já merece elogios. A maior parte das corporações acredita que devia focar-se em ganhar dinheiro, que o governo devia fazer o menos possível, e o gênero humano devia deixar as forças do mercado tomarem por nós as decisões realmente importantes (6). Daí que, se o Facebook tenciona ter um real compromisso ideológico de construir comunidades humanas, os que temem seu poder não deveriam empurrá-lo de volta para seu casulo corporativo sob gritos de “Grande Irmão!”. Em vez disso, deveríamos instar outras corporações, instituições e governos a competir com o Facebook assumindo seus próprios compromissos ideológicos.

Talvez a palavra aqui não seja ‘ideológicos’.

É claro que não faltam organizações que lamentam a desagregação das comunidades humanas e esforçam-se por recompô-las. Todo mundo, desde ativistas feministas até fundamentalistas islâmicos, está no negócio da construção de comunidades, e examinaremos alguns desses esforços em capítulos posteriores. O que faz da iniciativa do Facebook única é seu escopo global, seu respaldo corporativo e sua profunda fé na tecnologia. Zuckerberg parece estar convencido de que a nova IA do Facebook é capaz não só de identificar “comunidades significativas” como também de “fortalecer nosso tecido social e fazer o mundo ficar unido”. Isso é muito mais ambicioso do que usar a IA para dirigir um carro ou diagnosticar o câncer.

Mas por que precisaríamos “fazer o mundo ficar unido”? O que é o mundo (em termos sociais) senão uma configuração fractal de comunidades?

A visão de comunidade do Facebook talvez seja a primeira tentativa explícita de usar IA para engenharia social com planejamento centralizado mas em escala global. Consiste, portanto, num teste importantíssimo. Se tiver sucesso, é provável que vejamos muito mais dessas tentativas, e os algoritmos serão reconhecidos como os novos senhores das redes sociais humanas. Se fracassar, vai revelar as limitações das novas tecnologias — algoritmos podem ser bons para navegação de veículos e para curar doenças, mas, quando se trata de resolver problemas sociais, deveríamos ainda confiar em políticos e sacerdotes.

Não há tal disjunção (algoritmos de IA x políticos e sacerdotes). O problema da visão de comunidade do Facebook é, como ele mesmo diz, “engenharia social com planejamento centralizado em escala global”. Nada de ‘engenharia social’ (a não ser para configuração de ambientes), nada de ‘planejamento’ (muito menos ‘centralizado’ ou descentralizado) e nada de ‘escala global’ (e sim glocal).

ON-LINE VERSUS OFF-LINE

Em anos recentes o Facebook tem tido espantoso sucesso, e hoje tem mais de 2 bilhões de usuários ativos on-line. Para poder implementar essa nova visão, ele terá de cobrir o abismo que existe entre on-line e off-line. Uma comunidade pode começar como um agrupamento on-line, mas para poder realmente florescer terá de deitar raízes no mundo off-line também. Se um dia algum ditador banir o Facebook de seu país, ou desconectar totalmente o plugue da internet, será que as comunidades vão evaporar, ou se reagruparão para reagir? Serão capazes de organizar uma demonstração sem terem uma comunicação on-line?

Zuckerberg explicou em seu manifesto de fevereiro de 2017 que as comunidades on-line ajudam a fomentar comunidades off-line. Isso às vezes é verdade. Mas em muitos casos o on-line acontece às expensas do off-line, e há uma diferença fundamental entre os dois. Comunidades físicas têm uma profundidade que comunidades virtuais não são capazes de atingir, ao menos não no futuro próximo. Se eu estiver doente de cama em casa, em Israel, meus amigos on-line na Califórnia podem falar comigo, mas não poderão trazer-me sopa ou uma xícara de chá.

Humanos têm corpos. Durante o século passado a tecnologia nos distanciou de nossos corpos. Perdemos a capacidade de dar atenção ao que tem cheiro e gosto. Em vez disso, ficamos absorvidos com nossos smartphones e computadores. Estamos mais interessados no que está acontecendo no ciberespaço do que no que está acontecendo lá embaixo na rua. Está mais fácil do que nunca falar com meu primo na Suíça, mas está mais difícil falar com meu marido no café da manhã, porque ele está constantemente olhando para seu smartphone e não para mim (7).

No passado, humanos não podiam se dar ao luxo de tal displicência. Nossos ancestrais coletores estavam sempre alertas e atentos. Percorrendo a floresta em busca de cogumelos, observavam o solo buscando qualquer protuberância reveladora. Prestavam atenção ao movimento no capim para saber se não havia uma cobra de tocaia. Quando encontravam um cogumelo comestível, o provavam com a maior atenção para distingui-lo de seus primos venenosos. Os membros das atuais sociedades afluentes não precisam dessa atenção tão apurada. Podemos caminhar pelos corredores de um supermercado enquanto digitamos mensagens, e podemos comprar qualquer um de mil itens de alimentação, todos supervisionados pelas autoridades sanitárias. Porém, o que quer que escolhamos, acabamos comendo diante de uma tela, verificando e-mails ou vendo TV, mal prestando atenção ao gosto.

Zuckerberg diz que o Facebook está comprometido a “continuar aperfeiçoando nossas ferramentas para dar a você o poder de compartilhar suas experiências com os outros” (8). Mas talvez as pessoas precisem mesmo é de ferramentas para se conectarem com suas próprias experiências. Em nome do “compartilhamento de experiências” as pessoas são incentivadas a entender o que está acontecendo com elas em termos de como os outros as veem. Se acontece algo excitante, o instinto dos usuários do Facebook é pegar seus smartphones, tirar uma foto, postá-la on-line e esperar pelas curtidas. No processo, mal percebem o que eles mesmos estão sentindo. Na verdade, o que sentem é cada vez mais determinado pelas reações on-line.

Pessoas separadas de seus corpos, sentidos e entorno físico sentem-se alienadas e desorientadas. Especialistas costumam pôr a culpa por esse sentimento de alienação no declínio de ligações religiosas e nacionais, mas a perda de contato com seu corpo provavelmente seja mais importante. Humanos viveram milhões de anos sem religiões e sem nações — e são capazes de viver felizes sem elas no século XXI também. Mas não são capazes de viver felizes se estiverem desconectados de seus corpos. Se você não se sente em casa dentro de seu corpo, nunca se sentirá em casa dentro do mundo.

Até agora, o modelo de negócio do Facebook estimulou pessoas a passarem cada vez mais tempo on-line mesmo que isso significasse ter menos tempo e energia para dedicar a atividades off-line. Será que é capaz de adotar um novo modelo que estimule as pessoas a ficar on-line apenas quando for realmente necessário, e a dedicar mais atenção a seu entorno físico, a seus próprios corpos e sentidos? O que os acionistas achariam desse modelo? (Um esquema desse modelo alternativo foi sugerido recentemente por Tristan Harris, ex-executivo do Google e filósofo da tecnologia que apresentou uma nova métrica de “tempo bem utilizado”) (9).

As limitações dos relacionamentos on-line também solapam a solução de Zuckerberg para a polarização social. Ele ressalta, com razão, que só conectar pessoas e expô-las a diferentes opiniões não vai ser uma ponte para unir divisões sociais, porque “mostrar a pessoas um artigo com um ponto de vista contrário na verdade aprofunda a polarização, ao enquadrar outros pontos de vista como estranhos”. Em vez disso, Zuckerberg sugere que “as melhores soluções para melhorar o discurso podem vir de cada um conhecer o outro como uma pessoa inteira e não só como opiniões — algo para o qual o Facebook talvez seja o único [instrumento] adequado. Se nos conectarmos com pessoas com base no que temos em comum — equipes esportivas, programas de televisão, interesses —, será mais fácil dialogar sobre aquilo de que discordamos” (10).

Porém é dificílimo conhecer o outro como uma pessoa “inteira”. Isso leva muito tempo, e exige interação física direta. Como disse antes, o Homo sapiens mediano é incapaz de conhecer intimamente mais de 150 indivíduos. No mundo ideal, a construção de comunidades não deveria ser um jogo de soma zero. Humanos podem ser leais a diferentes grupos ao mesmo tempo. Infelizmente, relações íntimas provavelmente são um jogo de soma zero. Passando de um certo ponto, o tempo e a energia que você despende para travar conhecimento com seus amigos on-line do Irã ou da Nigéria será às expensas de sua disponibilidade para conhecer seus vizinhos de porta.

O teste crucial do Facebook virá quando um engenheiro inventar uma nova ferramenta que fizer as pessoas passarem menos tempo comprando coisas on-line e mais tempo em atividades off-line interessantes com amigos. O Facebook vai adotar ou suprimir uma ferramenta assim? Será que o Facebook vai arriscar mudar sua convicção e privilegiar preocupações sociais em detrimento de interesses financeiros? Se fizer isso — e conseguir evitar a falência — será uma transformação marcante.

Dedicar mais atenção ao mundo off-line do que a seus balanços trimestrais terá consequências também na política do Facebook quanto a impostos. Como Amazon, Google, Apple e vários outros gigantes de tecnologia, o Facebook tem sido acusado de sonegação fiscal (11). As dificuldades inerentes à taxação de atividades on-line fazem com que seja fácil para essas corporações globais praticar todo tipo de contabilidade criativa. Se você achar que as pessoas vivem principalmente on-line, e que você lhes fornece todas a ferramentas necessárias para sua existência on-line, você pode se considerar um serviço social benéfico, mesmo se evitar pagar impostos para governos off-line. Mas, quando lembrar que os humanos têm corpos, e que portanto precisam de estradas, hospitais e sistemas de esgoto, ficará muito mais difícil justificar a sonegação fiscal. Como exaltar as virtudes da comunidade e ao mesmo tempo recusar-se a dar apoio financeiro aos mais importantes serviços da comunidade?

Só podemos esperar que o Facebook seja capaz de mudar seu modelo de negócio, adotar uma política fiscal mais voltada para o off-line, ajudar a unificar o mundo — e ainda continuar lucrativo. Mas não devemos cultivar expectativas irreais quanto à sua capacidade para concretizar essa visão de uma comunidade global.

Não há comunidade global. Toda comunidade global é local, quer dizer,  glocal.

Historicamente, corporações não foram o veículo ideal para liderar revoluções sociais e políticas. Uma verdadeira revolução cedo ou tarde exigirá sacrifícios que corporações, seus empregados e seus acionistas não querem fazer. É por isso que revolucionários estabelecem igrejas, partidos políticos e exércitos. As assim chamadas revoluções do Facebook e do Twitter no mundo árabe começaram em esperançosas comunidades on-line, mas, quando emergiram no confuso mundo off-line, foram sequestradas por fanáticos religiosos e juntas militares. Se o Facebook tem agora como objetivo instigar uma revolução global, terá de fazer um trabalho muito melhor na criação de uma ponte que atravesse a brecha existente entre o on-line e o off-line. Ele e os outros gigantes on-line tendem a ver os humanos como animais audiovisuais — um par de olhos e um par de orelhas conectados a dez dedos, uma tela e um cartão de crédito. Um passo crucial para a unificação do gênero humano é considerar que humanos têm corpos.

É claro que essa consideração tem desvantagens. A constatação das limitações dos algoritmos on-line pode só instigar os gigantes de tecnologia a estender ainda mais seu alcance. Dispositivos como o Google Glass e jogos como Pokemón Go são projetados para eliminar a distinção entre on-line e off-line, fundindo-os numa única realidade aumentada. Num nível ainda mais profundo, sensores biométricos e interfaces cérebro-computador diretas visam a erodir a fronteira entre máquinas eletrônicas e corpos orgânicos e, literalmente, entrar debaixo de nossa pele. Quando os gigantes de tecnologia adquirirem compreensão completa do corpo humano, poderão acabar manipulando todo o nosso corpo da mesma maneira que manipulam nossos olhos, dedos e cartões de crédito. Talvez venhamos a ter saudade dos bons e velhos tempos em que o on-line era separado do off-line.

Notas do Capítulo I. 5

1. Mark Zuckerberg, “Building Global Community” (Facebook, 16 fev. 2017). Disponível em:
<https://www.facebook.com/notes/mark-zuckerberg/building-global-community/10154544292806634/>. Acesso em: 20 ago. 2017.

2. John Shinal, “Mark Zuckerberg: Facebook Can Play a Role that Churches and Little League once Filled” (CNBC, 26 jun. 2017). Disponível em: <https://www.cnbc.com/2017/06/26/mark-zuckerberg-compares-facebook-to- church-little-league.html>. Acesso em: 20 ago. 2017.

3. Disponível em: <http://www.cnbc.com/2017/06/26/mark-zuckerberg-compares-facebook-to-church-little- league.html>. Acesso em: 19 jun. 2018. Disponível em: <http://www.cnbc.com/2017/06/22/facebook-has-a-new- mission-following-fake-news-crisis-zuckerberg-says.html>. Acesso em: 19 jun. 2018.

4. Robin Dunbar, Grooming, Gossip, and the Evolution of Language (Cambridge, MA: Harvard University Press, 1998).

5. Veja, por exemplo, Pankaj Mishra, Age of Anger: A History of the Present (Londres: Penguin, 2017).

6. Para uma visão geral e crítica, veja: Derek Y. Darves e Michael C. Dreiling, Agents of Neoliberal Globalization: Corporate Networks, State Structures and Trade Policy (Cambridge: Cambridge University Press, 2016).

7. Lisa Eadicicco, “Americans Check Their Phones 8 Billion Times a Day” (Time, 15 dez. 2015). Disponível em:
<http://time.com/4147614/smartphone-usage-us-2015/>. Acesso em: 20 ago. 2017. Julie Beck, “Ignoring People for Phones is the New Normal” (Atlantic, 14 jun. 2016). Disponível em:
<https://www.theatlantic.com/technology/archive/2016/06/ignoring-people-for-phones-is-the-new-normal-phubbing- study/486845/>. Acesso em: 20 ago. 2017.

8. Zuckerberg, “Building Global Community”, op. cit.

9. Time Well Spent. Disponível em: <http://www.timewellspent.io/>. Acesso em: 3 set. 2017.

10. Zuckerberg, “Building Global Community”, op. cit.

11. Disponível em: <https://www.theguardian.com/technology/2017/oct/04/facebook-uk-corporation-tax-profit>. Acesso em: 19 jun. 2018. Disponível em: <https://www.theguardian.com/business/2017/sep/21/tech-firms-tax-eu- turnover-google-amazon-apple>. Acesso em: 19 jun. 2018. Disponível em: <http://www.wired.co.uk/article/facebook- apple-tax-loopholes-deals>. Acesso em: 19 jun. 2018.


Democracy Unschool é um ambiente de livre investigação-aprendizagem sobre democracia, composto por vários itinerários. O primeiro itinerário é um programa de introdução à democracia chamado SEM DOUTRINA. Para saber mais clique aqui

Quando a democracia não é mais o único caminho para a prosperidade

Quer dizer que pessoas que tiveram formação militar não podem assumir cargos em governos?