Davos, 24 Jan 2020.

Imagem: All images by Arturo Rago, World Economic Forum.

Ao entrarmos na terceira década do século XXI, a humanidade enfrenta tantas questões e perguntas que é realmente difícil saber no que focar. Gostaria de usar os próximos vinte minutos para nos ajudar a focar em todos os diferentes problemas que enfrentamos. Três problemas colocam desafios existenciais para nossa espécie.

Esses três desafios existenciais são guerra nuclear, colapso ecológico e ruptura tecnológica. Devemos focar neles.

Os desafios que devemos focar.

Agora, a guerra nuclear e o colapso ecológico já são ameaças familiares, portanto, deixe-me dedicar algum tempo a explicar a ameaça menos familiar representada pela ruptura tecnológica.

Em Davos, ouvimos muito sobre as enormes promessas da tecnologia – e essas promessas são certamente reais. Mas a tecnologia também pode atrapalhar a sociedade humana e o próprio significado da vida humana de várias maneiras, desde a criação de uma classe global inútil até a ascensão do colonialismo de dados e das ditaduras digitais.

A tecnologia tem o potencial de ser altamente disruptiva.

Primeiro, podemos enfrentar revoltas no nível social e econômico.

A automação em breve eliminará milhões e milhões de empregos e, embora novos empregos certamente sejam criados, não está claro se as pessoas serão capazes de aprender as novas habilidades necessárias com rapidez suficiente.

Suponha que você é um motorista de caminhão de cinquenta anos e acabou de perder o emprego em um veículo autônomo. Agora, há novos empregos na criação de software ou no ensino de ioga para engenheiros – mas como um motorista de caminhão de cinquenta anos se reinventa como engenheiro de software ou como professor de ioga? E as pessoas terão que fazer isso não apenas uma vez, mas uma e outra vez ao longo da vida, porque a revolução da automação não será um único evento divisor de águas após o qual o mercado de trabalho se estabelecerá em um novo equilíbrio. Em vez disso, será uma cascata de disrupções cada vez maiores, porque a Inteligência Artificial não está nem perto de todo o seu potencial.

Empregos antigos desaparecerão, novos empregos surgirão, mas os novos empregos mudarão rapidamente e desaparecerão. Enquanto no passado os humanos tinham que lutar contra a exploração, no século XXI a luta grande realmente seria contra a irrelevância. E é muito pior ser irrelevante do que ser explorado.

A automação poderia criar uma “classe de inúteis”?

Aqueles que fracassam na luta contra a irrelevância constituiriam uma nova “classe inútil” – pessoas que são inúteis não do ponto de vista de seus amigos e familiares, mas inúteis do ponto de vista do sistema econômico e político. E essa classe inútil será separada por uma diferença cada vez maior da elite cada vez mais poderosa.

A revolução da IA pode criar desigualdade sem precedentes, não apenas entre classes, mas também entre países.

No século XIX, alguns países como a Grã-Bretanha e o Japão se industrializaram primeiro, e eles conquistaram e exploraram a maior parte do mundo. Se não tomarmos cuidado, o mesmo acontecerá no século XXI com a IA.

Já estamos no meio de uma corrida armamentista de IA, com a China e os EUA liderando a corrida e a maioria dos países sendo deixados para trás. A menos que tomemos medidas para distribuir os benefícios e o poder da IA entre todos os seres humanos, a IA provavelmente criará imensa riqueza em alguns centros de alta tecnologia, enquanto outros países vão à falência ou se tornam colônias de dados exploradas.

Agora, não estamos falando aqui de um cenário de ficção científica de robôs se rebelando contra seres humanos. Estamos falando de inteligência artificial muito mais primitiva, o que é suficiente para atrapalhar o equilíbrio global.

Imagine o que acontecerá com as economias em desenvolvimento, uma vez que seja mais barato produzir têxteis ou carros na Califórnia do que no México? E o que acontecerá com a política em seu país em vinte anos, quando alguém em São Francisco ou Pequim conhecer toda a história médica e pessoal de todos os políticos, juízes e jornalistas em seu país, incluindo todas as suas escapadas sexuais, todas as suas fraquezas mentais e todos os seus negócios corruptos? Ainda será um país independente ou será uma colônia de dados?

Quando você tem dados suficientes, não precisa enviar soldados para controlar um país.

Além da desigualdade, o outro grande perigo que enfrentamos é o surgimento de ditaduras digitais, que monitoram todo mundo o tempo todo.

O futuro mantém uma ditadura digital?

Esse perigo pode ser declarado na forma de uma equação simples, que eu acho que pode ser a equação definidora da vida no século XXI:

B x C x D = AHH!

O que significa? O conhecimento biológico multiplicado pelo poder computacional multiplicado pelos dados é igual a capacidade de hackear seres humanos, ahh!

Uma equação perigosa.

Se você conhece biologia suficiente e possui poder e dados de computação suficientes, pode invadir meu corpo, meu cérebro e minha vida, e pode me entender melhor do que eu mesmo.

Você pode conhecer meu tipo de personalidade, minhas opiniões políticas, minhas preferências sexuais, minhas fraquezas mentais, meus medos e esperanças mais profundos. Você sabe mais sobre mim do que eu sobre mim. E você pode fazer isso não apenas comigo, mas com todos.

Um sistema que nos entenda melhor do que nos entendemos pode prever nossos sentimentos e decisões, manipular nossos sentimentos e decisões e, finalmente, tomar decisões por nós.

Agora, no passado, muitos governos e tiranos queriam fazer isso, mas ninguém entendia bem a biologia e ninguém tinha poder e dados de computação suficientes para hackear milhões de pessoas. Nem a Gestapo nem a KGB conseguiram. Mas em breve pelo menos algumas empresas e governos poderão hackear sistematicamente todas as pessoas. Nós, seres humanos, devemos nos acostumar com a idéia de que não somos mais almas misteriosas – agora somos animais que podem ser hackeados. Isso é o que somos.

O poder de invadir seres humanos pode ser usado para bons propósitos – como fornecer assistência médica muito melhor. Mas se esse poder cair nas mãos de um Stalin do século XXI, o resultado será o pior regime totalitário da história da humanidade. E já temos vários candidatos para o cargo de Stalin do século XXI.

Imagine a Coréia do Norte em vinte anos, quando todo mundo tiver que usar uma pulseira biométrica que monitora constantemente sua pressão arterial, frequência cardíaca e atividade cerebral 24 horas por dia. Você ouve um discurso no rádio pelo grande líder e ele sabe o que você realmente sente. Você pode bater palmas e sorrir, mas se estiver com raiva, eles saberão, e amanhã estará no “gulag”.

E se permitirmos o surgimento de tais regimes de vigilância total, não pense que os ricos e poderosos em lugares como Davos estarão seguros, basta perguntar a Jeff Bezos. Na URSS de Stalin, o estado monitorou os membros da elite comunista mais do que qualquer outra pessoa. O mesmo se aplica aos futuros regimes de vigilância total. Quanto mais alto você estiver na hierarquia, mais você será observado.

Você quer que seu CEO ou presidente saiba o que realmente pensa sobre eles?

Portanto, é do interesse de todos os seres humanos, incluindo as elites, impedir o surgimento de ditaduras digitais. Enquanto isso, se você receber uma mensagem suspeita do WhatsApp de algum príncipe, não a abra.

Agora, se realmente impedirmos o estabelecimento de ditaduras digitais, a capacidade de invadir humanos ainda poderá minar o próprio significado da liberdade humana.

Como os humanos dependem da IA para tomar mais e mais decisões por nós, a autoridade passa dos humanos para os algoritmos, e isso já está acontecendo.

Atualmente, bilhões de pessoas confiam no algoritmo do Facebook para nos dizer o que há de novo, o algoritmo do Google nos diz o que é verdade, a Netflix nos diz o que assistir e os algoritmos Amazon e Alibaba nos dizem o que comprar.

Em um futuro não tão distante, algoritmos semelhantes podem nos dizer onde trabalhar e com quem se casar e também decidir se nos contratam para um emprego, se nos concedem um empréstimo e se o banco central deve aumentar a taxa de juros.

E se você perguntar por que você não recebeu um empréstimo e por que o banco não aumentou a taxa de juros, a resposta será sempre a mesma – porque o computador diz que não. E como o cérebro humano limitado não possui conhecimento biológico, poder e dados de computação suficientes – os seres humanos simplesmente não serão capazes de entender as decisões do computador.

Assim, mesmo em países supostamente livres, é provável que os humanos percamos o controle sobre nossas próprias vidas e também a capacidade de entender políticas públicas.

Já quantos humanos entendem o sistema financeiro? Talvez um por cento seja muito generoso. Em algumas décadas, o número de humanos capazes de entender o sistema financeiro será exatamente zero.

Agora, nós, humanos, estamos acostumados a pensar na vida como um drama de tomada de decisão. Qual será o significado da vida humana, quando a maioria das decisões é tomada por algoritmos? Nem sequer temos modelos filosóficos para entender essa existência.

Por bem ou por mal?

A barganha usual entre filósofos e políticos é que os filósofos têm muitas idéias fantasiosas, e os políticos explicam basicamente que eles não têm os meios para implementá-las. Agora estamos em uma situação oposta. Estamos diante da falência filosófica.

As revoluções gêmeas da infotecnologia e da biotecnologia estão agora dando aos políticos os meios para criar o céu ou o inferno, mas os filósofos estão tendo problemas para conceber como será o novo céu e o novo inferno. E essa é uma situação muito perigosa.

Se não conseguirmos conceituar o novo céu com rapidez suficiente, poderemos ser facilmente enganados por utopias ingênuas. E se não conseguirmos conceituar o novo inferno com rapidez suficiente, poderemos nos ver presos lá sem saída.

A filosofia será capaz de acompanhar as máquinas?

Finalmente, a tecnologia pode ser disruptiva não apenas com nossa economia, política e filosofia – mas também com nossa biologia.

Nas próximas décadas, a IA e a biotecnologia nos darão habilidades divinas para recriar a vida e até criar formas de vida completamente novas. Após quatro bilhões de anos de vida orgânica moldada pela seleção natural, estamos prestes a entrar em uma nova era da vida inorgânica moldada pelo design inteligente.

Nosso design inteligente será a nova força motriz da evolução da vida e, ao usar nossos novos poderes divinos da criação, poderemos cometer erros em uma escala cósmica. Em particular, é provável que governos, empresas e exércitos usem a tecnologia para aprimorar as habilidades humanas de que precisam – como inteligência e disciplina – enquanto negligenciam outras habilidades humanas – como compaixão, sensibilidade artística e espiritualidade.

O resultado pode ser uma raça de seres humanos muito inteligentes e muito disciplinados, mas sem compaixão, falta de sensibilidade artística e falta de profundidade espiritual. Claro, isso não é uma profecia. Estas são apenas possibilidades. A tecnologia nunca é determinística.

O futuro não está definido.

No século XX, as pessoas usaram a mesma tecnologia industrial para construir tipos muito diferentes de sociedades: ditaduras fascistas, regimes comunistas, democracias liberais. O mesmo acontecerá no século XXI.

A IA e a biotecnologia certamente transformarão o mundo, mas podemos usá-las para criar tipos muito diferentes de sociedades. E se você tem medo de algumas das possibilidades que mencionei, ainda pode fazer algo a respeito. Mas, para fazer algo eficaz, precisamos de cooperação global.

Todos os três desafios existenciais que enfrentamos são problemas globais que exigem soluções globais.

Sempre que um líder disser algo como “Meu país primeiro!”, devemos lembrar ao líder que nenhuma nação pode impedir a guerra nuclear ou impedir o colapso ecológico por si mesma, e nenhuma nação pode regular a IA e a bioengenharia por si mesma.

Jogue por sua conta e risco.

Quase todos os países dirão: “Ei, não queremos desenvolver robôs assassinos ou projetar geneticamente bebês humanos. Nós somos os mocinhos. Mas não podemos confiar que nossos rivais não o façam. Então, devemos fazê-lo primeiro”.

Se permitirmos que uma corrida armamentista se desenvolva em áreas como IA e bioengenharia, não importa realmente quem vença a corrida armamentista – o perdedor será a humanidade.

Fim de jogo.

Infelizmente, justamente quando a cooperação global é mais necessária do que nunca, alguns dos líderes e países mais poderosos do mundo estão agora minando deliberadamente a cooperação global.

Líderes como o presidente dos EUA nos dizem que há uma contradição inerente entre nacionalismo e globalismo, e que devemos escolher o nacionalismo e rejeitar o globalismo, mas este é um erro perigoso. Não há contradição entre nacionalismo e globalismo porque nacionalismo não é sobre odiar estrangeiros. Nacionalismo é sobre amar seus compatriotas. E no século XXI, para proteger a segurança e o futuro de seus compatriotas, você deve cooperar com estrangeiros.

Soluções globais para problemas globais.

Nacionalismo e globalismo não são mutuamente exclusivos.

Assim, no século XXI, os bons nacionalistas também devem ser globalistas. Agora, globalismo não significa estabelecer um governo global, abandonar todas as tradições nacionais ou abrir a fronteira à imigração ilimitada. Pelo contrário, globalismo significa um compromisso com algumas regras globais.

Regras que não negam a exclusividade de cada nação, mas apenas regulam as relações entre as nações.

E um bom modelo é a Copa do Mundo de Futebol.

A Copa do Mundo é uma competição entre nações, e as pessoas geralmente mostram uma lealdade feroz à sua seleção. Mas, ao mesmo tempo, a Copa do Mundo também é uma incrível demonstração de harmonia global.

A França não pode jogar futebol contra a Croácia, a menos que franceses e croatas concordem com as mesmas regras do jogo. E isso é globalismo em ação.

Soluções globais para problemas globais.

Se você gosta da Copa do Mundo – você já é um globalista.

Agora, esperançosamente, as nações poderiam concordar com regras globais não apenas para o futebol, mas também sobre como evitar o colapso ecológico, como regular tecnologias perigosas e como reduzir a desigualdade global. Como garantir, por exemplo, que a IA beneficie os trabalhadores têxteis mexicanos e não apenas os engenheiros de software americanos. Agora é claro que isso será muito mais difícil que o futebol – mas não impossível. Porque o impossível, bem, nós já realizamos o impossível.

Já escapamos da selva violenta em que nós, humanos, vivemos ao longo da história. Por milhares de anos, os seres humanos viveram sob a lei da selva em uma condição de guerra onipresente. A lei da selva dizia que, para cada dois países vizinhos, há um cenário plausível de que eles entrem em guerra um contra o outro no próximo ano. Segundo essa lei, a paz significava apenas “a ausência temporária de guerra”.

Quando havia “paz” entre – digamos – Atenas e Esparta, ou França e Alemanha, isso significava que agora eles não estão em guerra, mas no próximo ano eles podem estar. E por milhares de anos, as pessoas haviam assumido que era impossível escapar a essa lei.

Nós quebramos a lei da selva?

Mas nas últimas décadas, a humanidade conseguiu fazer o impossível, violar a lei e escapar da selva. Construímos a ordem global liberal baseada em regras que, apesar de muitas imperfeições, criou a era mais próspera e pacífica da história da humanidade.

O próprio significado da palavra “paz” mudou.

“Paz” não significa mais apenas a ausência temporária de guerra. A paz agora significa a implausibilidade da guerra.

Existem muitos países que você simplesmente não pode imaginar entrar em guerra um contra o outro no próximo ano – como a França e a Alemanha. Ainda existem guerras em algumas partes do mundo. Eu venho do Oriente Médio, então acredite, eu sei disso perfeitamente, mas isso não deve nos cegar para o quadro global.

Causas de morte em 2016 – obesidade, diabetes e mais.

Agora estamos vivendo em um mundo em que a guerra mata menos pessoas que o suicídio, e a pólvora é muito menos perigosa para a sua vida do que o açúcar. A maioria dos países – com algumas exceções notáveis como a Rússia – nem imagina conquistar e anexar seus vizinhos. É por isso que a maioria dos países pode gastar cerca de dois por cento do seu PIB em defesa, enquanto gasta muito, muito mais em educação e saúde. Isto não é uma selva.

Infelizmente, nos acostumamos a essa situação maravilhosa, que a tomamos como certa e, portanto, estamos nos tornando extremamente descuidados. Em vez de fazer tudo o que pudermos para fortalecer a frágil ordem global, os países a negligenciam e até a debilitam deliberadamente.

A ordem global agora é como uma casa em que todos moram e ninguém repara. Pode durar mais alguns anos, mas se continuarmos assim, entrará em colapso – e nos encontraremos de volta na selva da guerra onipresente.

Esquecemos como é, mas acredite em mim como historiador – você não quer voltar para lá. É muito, muito pior do que você imagina.

Sim, nossa espécie evoluiu naquela floresta e viveu e até prosperou lá por milhares de anos, mas se voltarmos para lá agora, com as poderosas novas tecnologias do século XXI, nossa espécie provavelmente se aniquilará.

O que restará?

É claro que, mesmo se desaparecermos, não será o fim do mundo. Algo nos sobreviverá. Talvez os ratos acabem assumindo o controle e reconstruindo a civilização. Talvez, então, os ratos aprendam com nossos erros.

Mas espero muito que possamos confiar nos líderes reunidos aqui, e não nos ratos.

Obrigado.