in ,

Harari: “Só se percebermos o que nos faz humanos poderemos continuar a ser humanos”

Harari: “Só se percebermos o que nos faz humanos poderemos continuar a ser humanos”

Depois do passado, com Sapiens, e do futuro, como Homo Deus, dois dos grandes best-sellers dos últimos anos, o historiador israelita Yuval Noah Harari regressa com 21 Lições para o Século XXI, em que se propõe discutir o presente: terrorismo, guerras, inteligência artificial, o mercado de trabalho. E a sua grande questão: no futuro, ainda seremos humanos?

Alexandra Prado Coelho, Publico, 24/08/2018

Até há quatro anos o mundo não tinha ouvido falar em Yuval Noah Harari. Mas, em 2014, o historiador israelita, nascido em Haifa, Israel, em 1976, e professor na Universidade Hebraica de Jerusalém, publicou em inglês Sapiens — História Breve da Humanidade (originalmente publicado em hebraico em 2011, e editado em Portugal em 2015 pela Elsinore). O livro, que pretende explicar como é que os humanos se tornaram a espécie dominante no planeta, tornou-se um best-seller, vendendo até hoje mais de oito milhões de exemplares, e tendo sido traduzido em 50 línguas. Em Julho, foi anunciado que será adaptado ao cinema pelo norte-americano Ridley Scott e pelo documentarista britânico Asif Kapadia.

Seguiu-se Homo Deus — História Breve do Futuro (2017, Elsinore) e o sucesso repetiu-se. Não há texto sobre Harari que não refira que, entre os seus admiradores, conta com Barack Obama, Bill Gates e Mark Zuckerberg. Este ano, esteve no palco do Fórum Económico Mundial, em Davos, para responder à pergunta: será o futuro humano?

O seu novo livro, 21 Lições para o Século XXI, tem o seu lançamento mundial (em Portugal também, sempre pela Elsinore) esta semana. Nele, e depois do passado e do futuro, Harari propõe-se analisar o presente: o terrorismo, as guerras, a inteligência artificial, o mercado de trabalho, o papel das religiões, as alterações climáticas, voltando a muitos dos temas que tratou nos livros anteriores, como a crença, a inteligência e a consciência, o livre-arbítrio, a identidade do humano.

Nesta entrevista resume algumas das suas principais ideias e volta a deixar alertas: os computadores “altamente inteligentes poderão expulsar milhares de milhões de pessoas do mercado de trabalho, criando uma imensa ‘classe inútil’” e poderão “tornar possível a criação de ditaduras digitais”; o poder pode passar para as mãos de uma “pequena elite”; “estamos a entrar na era em que vai ser possível piratear humanos”. E um conselho: temos de nos conhecer melhor a nós próprios.

Vive em Israel, com o marido, Itzik, num moshav (comunidade agrícola), é vegan e medita duas horas por dia. Declara-se orgulhoso de ser israelita, mas recentemente recusou-se a participar num evento organizado pelo consulado de Israel em Los Angeles em protesto contra as leis de nacionalidade e as que impedem os casais homossexuais de recorrer a “barrigas de aluguer”, que foram aprovadas pelo Governo de Benjamin Netanyahu.

Nos livros anteriores, era mais o historiador, compilando informação e organizando-a. Neste parece querer transmitir uma visão do mundo, aponta caminhos, fala do sentido da vida. Ainda é um livro de história ou tem outra ambição, a de despertar consciências e ajudar as pessoas a prepararem-se para o mundo em que vivem e para o que as espera no futuro? Algo como uma missão?

Todos os bons livros de História tentam iluminar as pessoas relativamente ao presente e às escolhas que fazem hoje. Os livros de História nunca são realmente sobre o passado. O passado já passou e todos os que viveram na Idade da Pedra ou na Idade Média estão mortos. Não lhes interessa o que escrevemos sobre eles. O verdadeiro objectivo do estudo da História não é recordarmos o passado, mas libertarmo-nos dele. O passado influencia-nos através de várias histórias que as pessoas inventam e nas quais acreditam. A nossa identidade, a nossa sociedade e a nossa política são moldadas por ficções sobre o nosso passado que confundimos como sendo a nossa verdadeira essência. Pensamos em nós, por exemplo, como pertencendo a uma determinada nação como Israel ou Portugal e acreditando numa determinada religião como o judaísmo ou o cristianismo. Por isso, quando pergunto a mim próprio “Quem sou eu?”, poderei responder: “Sou israelita, sou judeu.” No entanto, todas estas nações e religiões são desenvolvimentos relativamente recentes. Apesar de os humanos existirem há 2,5 milhões de anos, nenhuma das nossas nações ou religiões tem mais do que uns milhares de anos. O judaísmo tem apenas 3000 anos, o cristianismo tem cerca de 2000 e ambos sofreram alterações profundas nos últimos séculos. O judaísmo e o cristianismo de hoje são muito diferentes do que eram há 2000 anos. Não são verdades eternas, são criações humanas.

É particularmente importante lembrarmo-nos disso hoje, porque no início do século XXI há demasiados políticos empenhados em vender-nos fantasias nostálgicas sobre o passado, em vez de nos prepararem para o futuro. No meu país, Israel, por exemplo, o Governo apoia-se na Bíblia e na tradição judaica para justificar as suas acções, como se a Bíblia fosse o melhor guia para a vida no século XXI. Estas fantasias nostálgicas são atraentes, porque a maior parte das pessoas não gosta de mudanças radicais e receia o desconhecido. Querem mais estabilidade e, em particular, querem ter uma identidade segura que dê um sentido às suas vidas. O nacionalismo e a religião explicam-nos em termos simples o que está a acontecer no mundo, qual é o nosso lugar pessoal no drama cósmico, quem somos e qual o sentido das nossas vidas. Além disso, as histórias nacionalistas e religiosas apresentam-se como verdades absolutas e eternas que não mudaram em milhares de anos e que não podem ser alteradas pelas revoluções tecnológicas e económicas do século XXI. Por isso, afirmam poder actuar como âncoras de certeza num mundo em turbulência.

Infelizmente, fantasias nostálgicas como o nacionalismo e a religião não resolvem os grandes problemas do século XXI. Como é que vamos lidar com as mudanças climáticas? O que faremos quando a inteligência artificial empurrar milhões de pessoas para fora do mercado de trabalho? Como é que iremos usar o imenso novo poder na engenharia genética? Não encontraremos a resposta a estas perguntas na Bíblia, porque as pessoas que escreveram a Bíblia sabiam pouco sobre o aquecimento global e ainda menos sobre genética ou computadores. A realidade do século XXI é assustadora, por isso percebo que as pessoas lhe queiram virar as costas. Mas não temos escolha. Temos de ver a realidade como ela é. E temos de desenvolver novos modelos políticos que nos permitam lidar com os problemas sem precedentes que enfrentamos no século XXI.

Acredita que existe uma inteligência colectiva que vai ajudar a humanidade a pensar o mundo em que vive e a preocupar-se com o seu futuro (e o do planeta) e não com apenas cada indivíduo com o seu próprio futuro?

Sim, os humanos pensam mais em grupo do que individualmente. Cerca de 99% das ideias que moldam a nossa visão do mundo foram criadas por outras pessoas. Além disso, os três grandes problemas que a humanidade enfrenta hoje são, na sua natureza, globais; por isso, só podemos lidar com eles através da cooperação global. Os indivíduos não os podem resolver, e nem sequer nações inteiras os podem resolver. Só a humanidade como um todo o pode fazer.

Os três problemas a que me refiro são a guerra nuclear, as mudanças climáticas e a desestruturação tecnológica. O governo de Portugal não pode proteger Portugal da guerra nuclear ou do aquecimento global, a menos que coopere de forma eficaz com os governos da Alemanha, China, Brasil e vários outros países. Por outro lado, se temos medo do potencial disruptor da inteligência artificial e da bioengenharia, não podemos esperar que seja o governo de Portugal a regular sozinho estas tecnologias. Suponhamos que Portugal proíbe a produção de sistemas de armamento com autonomia e suponhamos que toda a União Europeia proíbe bebés humanos resultantes de engenharia genética. De que servirá isso se, ainda assim, a Rússia produzir robots assassinos e a China criar super-humanos através da engenharia genética? Rapidamente, também a União Europeia será tentada a quebrar a sua própria proibição por medo de ficar para trás.

Mostra receio de que os algoritmos passem a controlar o mundo. Mas, por enquanto, a inteligência artificial continua a não ter consciência nem emoções. Diz que o Homem se tornou dominante no planeta pela sua capacidade de criar histórias e acreditar nelas. A inteligência artificial não tem capacidade de acreditar. Por outro lado, fala de uma “moral natural” dos humanos (e, eventualmente, dos animais). A inteligência artificial só poderá ter a ética que os humanos lhe derem. Estes dois factores não nos garantem uma vantagem?

A inteligência artificial poderá nunca vir a desenvolver consciência. Muitas pessoas tendem a confundir inteligência com consciência e a assumir que para estar ao mesmo nível de inteligência dos humanos os computadores terão de desenvolver consciência. Mas, na realidade, os computadores podem ultrapassar os humanos sem nunca ganharem consciência, porque a consciência e a inteligência são duas coisas diferentes.

A inteligência é a capacidade para resolver problemas. A consciência é a capacidade para sentir coisas como a dor, o prazer, o amor ou a zanga. Nos humanos e outros mamíferos, a inteligência anda de mãos dadas com a consciência. Banqueiros, condutores, médicos e artistas apoiam-se naquilo que sentem para resolver certos problemas. No entanto, os computadores podem resolver esses problemas de forma muito diferente da dos humanos e não há razão nenhuma para pensar que vão desenvolver consciência nesse processo. Durante o último meio século houve um enorme avanço na inteligência dos computadores, mas houve zero avanços na sua consciência. Tanto quanto sabemos, os computadores em 2018 não são mais conscientes do que os seus protótipos em 1950 e não há qualquer indicação de que estejam no caminho para desenvolver consciência.

É possível que existam vários caminhos alternativos que conduzam à superinteligência e que apenas alguns desses caminhos envolvam o desenvolvimento de consciência. Tal como os aviões voam mais depressa do que os pássaros sem nunca desenvolverem penas, também os computadores podem vir a resolver problemas muito melhor do que os humanos sem virem a desenvolver sentimentos. Claro que para tratar doenças humanas, identificar terroristas humanos, recomendar parceiros humanos e navegar numa rua cheia de pedestres urbanos, a inteligência artificial terá de analisar os sentimentos humanos de forma rigorosa. Mas pode fazê-lo sem desenvolver sentimentos próprios.

Penso que muita da confusão entre inteligência e consciência é culpa dos filmes de ficção científica. Muitos deles descrevem a forma como um computador ou um robot inteligentes ganham consciência e, depois, ou o cientista se apaixona pelo robot ou o robot tenta matar os humanos, ou as duas coisas acontecem ao mesmo tempo. Isto está muito longe da realidade.

Efectivamente, está tão longe da realidade que suspeito que estes filmes não são sobre inteligência artificial. São sobre outra coisa. Na maior parte deles (como na série Westword, por exemplo), o robot é uma mulher e o cientista que se apaixona por ele é um homem. Penso que estes filmes não são sobre o medo humano de robots inteligentes. São sobre o medo masculino de mulheres inteligentes. São sobre o feminismo e não sobre a inteligência artificial.

O verdadeiro perigo da inteligência artificial não é que robots com consciência se revoltem contra a humanidade. O verdadeiro perigo é que a inteligência artificial dê poder a uma pequena elite humana enquanto retira poder e oprime a maior parte da humanidade.

Computadores altamente inteligentes poderão expulsar milhares de milhões de pessoas do mercado de trabalho, criando uma imensa “classe inútil”. Ao mesmo tempo, poderão tornar possível a criação de ditaduras digitais. No século XX, a democracia derrotou a ditadura, porque a democracia é mais eficaz a processar informação e a tomar decisões. O conflito entre a democracia e a ditadura não é apenas um conflito entre diferentes sistemas éticos, mas entre diferentes métodos de processar informação e tomar decisões. A democracia distribui informação e o poder de tomar decisões entre muitas pessoas e instituições, enquanto as ditaduras concentram a informação e o poder num lugar. Dada a tecnologia existente no século XX, era pouco eficaz concentrar informação e poder num único lugar. Ninguém tinha a capacidade de processar toda a informação com a rapidez suficiente e de tomar as decisões certas. Esta é uma das razões pelas quais a União Soviética tomou decisões piores do que os Estados Unidos e por que a economia soviética ficou atrás da economia americana.

Mas não é uma lei da natureza a ideia de que o processamento de informação distribuído seja mais eficiente do que o centralizado. A inteligência artificial pode fazer balouçar o pêndulo na direcção oposta. Ela torna possível processar grandes quantidades de informação de forma centralizada. De facto, a inteligência artificial pode tornar os sistemas centralizados mais eficazes do que os sistemas difusos. Em consequência disso, a principal falha dos regimes autoritários no século XX — a tentativa de concentrar toda a informação num único lugar — pode tornar-se a sua vantagem decisiva no século XXI.

Não nos conhecemos suficientemente bem e temos menos controlo do que pensamos sobre o que sentimos. Diz que “não estamos a fazer grande coisa para investigar e desenvolver a consciência humana” e que o livre-arbítrio é uma ilusão. Porque é que acha que desenvolvemos tão pouco o nosso potencial de inteligência? Como podemos conhecermo-nos melhor? E não servirá isso sobretudo para construirmos algoritmos mais perfeitos?

Investimos muito no desenvolvimento de certos tipos de inteligência — como as capacidades matemáticas —, ao mesmo tempo que negligenciamos outros tipos de inteligência e praticamente não exploramos todo o potencial da consciência humana (mais uma vez, sublinho que a consciência é algo de muito diferente da inteligência). Estamos a investigar e a desenvolver as capacidades humanas sobretudo tendo em conta as necessidades imediatas do sistema económico e político e não as nossas necessidades de longo prazo enquanto seres humanos. O meu patrão quer que eu responda a emails tão rapidamente quanto possível, mas está pouco interessado na minha capacidade para provar e apreciar a comida que estou a comer. Consequentemente, eu verifico os meus emails mesmo durante as refeições, enquanto perco a capacidade de prestar atenção às minhas próprias sensações.

O sistema económico pressiona-me para expandir e diversificar o meu portfólio de investimento, mas dá-me zero incentivos para expandir e diversificar a minha compaixão. Por isso, luto para compreender os mistérios da bolsa de valores e faço muito menos esforço para compreender as causas profundas do sofrimento.

Aquilo em que nos devíamos focar, acima de tudo, era conhecermo-nos a nós próprios. Quem somos nós? Qual é o nosso verdadeiro potencial? Desde os tempos antigos que os sábios e os santos aconselham repetidamente as pessoas a “conhecerem-se a elas próprias”. E, no entanto, na época de Sócrates, Buda e Confúcio, não havia uma verdadeira concorrência. Se não nos empenhássemos em conhecermo-nos a nós próprios, continuávamos a ser uma caixa negra para o resto da humanidade. Hoje, pelo contrário, temos competição. Enquanto lê estas linhas, a Amazon, o Facebook, os serviços secretos russos e o Partido Comunista Chinês estão todos a tentar piratear-nos.

Se eles conseguirem conhecer-nos melhor do que nos conhecemos a nós próprios, podem vender-nos tudo o que quiserem — seja um produto ou um político.

Fala-se muito, hoje em dia, sobre piratear computadores, telemóveis ou contas bancárias, mas na realidade estamos a entrar na era em que vai ser possível piratear humanos. No passado, ninguém tinha suficiente conhecimento biológico e suficiente poder informático para piratear pessoas. Mesmo que o KGB nos seguisse durante o dia inteiro, não saberiam o que estávamos a sentir ou a pensar. No futuro, combinando o nosso crescente conhecimento de biologia com a inteligência artificial, sistemas externos poderão conhecê-la melhor do que você se conhece a si mesma. E poderão controlar e manipular as pessoas com uma eficácia sem precedentes.

Já vimos como é que hackers e trolls usam as nossas fraquezas para espalhar notícias falsas e dividir a sociedade a partir do interior. Os trolls não conseguem criar medo ou ódio a partir do nada. Mas quando descobrem o que é que as pessoas já temem ou odeiam, é-lhes muito fácil carregar nos botões emocionais relevantes e provocar uma fúria ainda maior. Por isso, se tem medo de imigrantes, os trolls vão mostrar-lhe uma notícia falsa sobre imigrantes a violar mulheres locais e, como você já está inclinado para acreditar nestas histórias, nem se dá ao trabalho de verificar a sua veracidade. Se pensa que as pessoas que se opõem à imigração são todas fascistas idiotas, os trolls vão mostrar-lhe uma notícia falsa sobre racistas a espancar imigrantes e você acreditará nela. Os trolls não se preocupam necessariamente com a imigração enquanto tal. Querem apenas usá-la como forma de dividir a sociedade e de destruir o sistema democrático a partir do interior.

Para salvar o sistema democrático, precisamos de conhecer as nossas fraquezas, os nossos medos e os nossos ódios e não permitir que eles se tornem uma arma na mão de trolls. Há muitas formas de nos conhecermos melhor. Eu pessoalmente pratico meditação Vipassana (https://www.pt.dhamma.org/pt/) que se baseia na ideia de que o fluxo de pensamento está intimamente ligado às sensações do corpo. Eu nunca reajo a acontecimentos no mundo exterior, reajo sempre às sensações no meu próprio corpo. Quando a sensação é desagradável, reajo com aversão. Quando é agradável, reajo querendo mais. Mesmo quando penso que estou a reagir a uma memória de infância distante ou às notícias sobre o que se passa no mundo, a verdade é que reajo às sensações mais imediatas no meu corpo.

Vipassana treina-me a focar-me no que está a acontecer dentro de mim, em vez de no que está a acontecer no mundo exterior, e assim revela os padrões básicos da minha mente. Dessa forma, as pessoas aprendem a compreender o que é a fúria, o medo, a alegria. Podemos viver até aos 80 anos sem nunca percebermos o que é a fúria porque nunca a observámos. Quando estamos zangados, focamo-nos no objecto da nossa zanga — alguém que disse algo contra nós, alguém que desobedeceu a uma ordem nossa. Mal nos damos conta do que se está a passar no nosso corpo e na nossa mente, as sensações provocadas pela fúria. Na meditação, mudamos o foco do objecto da zanga para a real experiência da zanga. Como é que me sinto quanto estou zangado? O que acontece no meu corpo? O que acontece na minha cabeça?

Eu medito durante duas horas todos os dias e todos os anos faço um longo retiro de meditação durante um mês ou dois. Não é uma fuga à realidade. Pelo menos durante duas horas por dia, eu observo de facto a realidade como ela é, enquanto durante as outras 22 horas sou inundado por emails e tweets e vídeos engraçados sobre gatos. Sem o foco que me é dado pela meditação, não teria conseguido escrever Sapiens e Homo Deus.

Não penso que isto funcione igualmente bem para toda a gente. Há centenas de técnicas de meditação e muitos outros caminhos que nos permitem explorar a verdade acerca de nós próprios, usando terapia, arte ou até desporto. Diferentes métodos podem funcionar melhor para diferentes pessoas. Mas é imperioso fazê-lo rapidamente. Se adiarmos, os algoritmos passarão a conhecer-nos antes de nós nos conhecermos a nós próprios — e aí passarão a controlar-nos como se fôssemos meros fantoches.

O que quer dizer exactamente quando escreve que “escaparmos de uma definição rígida do ‘eu’ pode tornar-se um instrumento de sobrevivência necessário no século XXI”? Perder o sentido de uma identidade pessoal não é perigoso, uma espécie de queda livre no vazio?

Quero dizer ter uma identidade pessoal mais fluida, em vez de abdicar de qualquer identidade pessoal. O que precisamos de perceber é que a mudança do mundo está a acelerar-se. Ninguém sabe como é que o mundo ou o mercado de trabalho vão ser em 2050, excepto que serão muito diferentes do que são hoje e estarão num fluxo constante.

Tradicionalmente, a vida dividia-se em duas partes principais: um período de aprendizagem seguido por um período de trabalho. Na primeira parte da vida, construímos uma identidade estável e adquirimos competências pessoais e profissionais; na segunda parte, apoiamo-nos na nossa identidade existente e nas nossas competências para navegar pelo mundo, ganhar a vida e contribuir para a sociedade. Em 2050, este modelo tradicional estará obsoleto e a única forma de os humanos se manterem relevantes será continuando a aprender ao longo das suas vidas, reinventando-se uma e outra vez.

Isso irá criar imensas dificuldades psicológicas. A mudança é sempre stressante e reinventarmo-nos aos 40 anos pode ser demasiado para muita gente. Mesmo que o consigamos fazer com sucesso — será que o faremos novamente aos 50? E mais uma vez aos 60? A maior parte dos sistemas educativos actuais não preparam as pessoas para uma vida tão stressante e fluida. A coisa mais importante que temos de ensinar às crianças é como construir uma personalidade e identidade de forma a acolher, e não a resistir, às mudanças futuras.

No passado, a educação construiu identidades humanas como casas de pedra — com fundações profundas e paredes sólidas. Agora, temos de construir identidades humanas como tendas, que consigamos facilmente dobrar e transportar.

Reconhece benefícios nas religiões e na nossa capacidade para acreditar em ficções (e aí estabelece uma hierarquia, parecendo valorizar mais a capacidade de duvidar do que a de acreditar). Mas, no final, defende a ideia de um homem que depende sobretudo de si próprio, da sua capacidade de autoconhecimento, que não é só racional, tem muito de sensorial (e de emocional?). A sua argumentação em todo o livro é muito racional e em alguns momentos parece desvalorizar o emocional. Que peso tem o emocional na forma como lê o mundo?

Não há uma linha clara que separe o emocional e o racional. As nossas emoções encorporam uma lógica evolutiva. As decisões mais importantes que tomamos na vida — onde viver, o que estudar, com quem casar — dependem dos nossos sentimentos mais do que de frios cálculos matemáticos. Consequentemente, para nos conhecermos melhor, temos de ter um conhecimento mais profundo das nossas emoções. No entanto, isso não significa que precisemos de acreditar no que sentimos. As nossas emoções não reflectem “a verdade”. São, antes, moldadas por pressões evolutivas e influenciadas por forças históricas e culturais. Além disso, no século XXI será cada vez mais fácil para os governos e corporações manipular e controlar as nossas emoções. Para o fazer, são necessárias três coisas:

1) Um bom entendimento geral de como funciona o cérebro humano.

2) Muita informação sobre a pessoa.

3) Uma grande capacidade informática para analisar os dados que temos e prever como é que o cérebro da pessoa vai reagir a diferentes situações.

Em eras anteriores, ninguém tinha um bom conhecimento do cérebro humano, ninguém conseguia reunir uma grande quantidade de dados sobre cada indivíduo e ninguém tinha a necessária capacidade informática para analisar tantos dados. Mas, em breve, os governos e as grandes empresas terão estas três coisas. E aí conseguirão manipular-nos com uma eficácia sem precedentes. Pessoas que acreditam que nunca serão manipuladas, porque as suas emoções manifestam um misterioso “livre arbítrio”, são as mais fáceis de manipular. Para resistir a estas manipulações temos de conhecer muito bem os nossos sentimentos, mas também temos de nos lembrar de que o que sentimos não é necessariamente a verdade.

Yuval Harari e O Mito da Liberdade

Why Trump Reigns as King Cyrus