“Muito em breve, a IA inventará novas estratégias militares, novos tipos de moedas e até ideologias e religiões inteiras.” A previsão é do historiador israelense Yuval Noah Harari, autor de Sapiens e 21 Lições para o Século 21, que esteve neste domingo, 17, no Auditório Ibirapuera, em São Paulo.

Em palestra na prévia do festival São Paulo Beyond Business (SP2B), Harari alertou que a inteligência artificial deve se tornar um novo ator político, descrito por ele como uma “inteligência alienígena”, capaz de agir de forma independente, aprender sozinha e criar estratégias fora do controle humano.

O professor relacionou ainda os avanços tecnológicos ao cenário internacional, afirmando que a ordem liberal está em colapso, que guerras de conquista voltaram a ser aceitas e que líderes como Donald Trump, Vladimir Putin, Xi Jinping e Elon Musk concentram hoje as “cartas” do poder global.

“O que quero discutir hoje é o poder de moldar o mundo e o futuro — o de vocês, como líderes e inovadores, e o da espécie humana como um todo. A grande questão é se a IA está tirando da humanidade o controle sobre o futuro ou se, ao contrário, está dando mais poder do que nunca”, provocou Harari no início da palestra.

A nova era de fortalezas

Antes de falar sobre IA, Harari disse que era preciso tratar de política. Segundo ele, a ordem relativamente estável e liberal que marcou parte do século XXI entrou em colapso.

"Em vez da ordem cooperativa baseada em valores universais, instituições globais e leis internacionais, estamos entrando em um mundo supercompetitivo e caótico, no qual apenas uma coisa importa: a força bruta.”

Para ele, Donald Trump é um exemplo dessa mudança. “Líderes como o presidente Trump veem o mundo como um conjunto de fortalezas, com cada país separado dos outros por muros altos. Muros financeiros, como tarifas, muros militares, muros culturais… e muros físicos.”

A consequência, lembrou, é conhecida pela história. “Durante milênios, a visão do mundo como um conjunto de fortalezas sempre levou exatamente ao mesmo resultado: um ciclo interminável de guerras, com impérios poderosos conquistando vizinhos mais fracos e eventualmente lutando entre si pela supremacia.”

Guerras de conquista, Trump e as 'cartas'

O historiador afirmou que guerras de conquista, que desde 1945 eram tabu, estão de volta.

“A Rússia já sofreu um milhão de baixas em sua tentativa de conquistar a Ucrânia e restabelecer o Império Russo. O governo Trump já expressou ambições imperiais em relação à Groenlândia, Panamá e até Canadá, e parece apoiar a conquista de Gaza por Israel. A China também tem planos de expansão externa.”

O professor lembrou do encontro entre os presidentes dos Estados Unidos, Donald Trump, e da Ucrânia, em fevereiro deste ano, na Casa Branca. “Se vocês se lembram, sempre que Zelensky falava em justiça, paz ou soberania territorial das nações, Trump o interrompia e dizia: ‘Você não tem as cartas’.”

Na sequência, questionou o público presente no auditório:

“Vocês têm alguma carta? Existem cartas em São Paulo? Ou todas estão em Washington, Pequim e Moscou, nas mãos de pessoas como Donald Trump, Elon Musk, Xi Jinping e Vladimir Putin? A segunda pergunta talvez seja ainda mais importante: vocês querem viver em um mundo onde a única coisa que importa são cartas?”

IA como novo ator político

Foi a partir desse ponto que ele passou a tratar da inteligência artificial como novo ator global. Segundo ele, diferentemente de outras crises históricas, agora há agentes não humanos em disputa.

“Pela primeira vez na história, também existem formadores não humanos no planeta: IAs. Podemos estar bem próximos, talvez a poucos anos, do momento em que um algoritmo dirá a todos os humanos, incluindo Trump e Putin: vocês não têm as cartas.”

Harari explicou o conceito: “IA não significa automação. IA significa agentes. A IA não é uma ferramenta em nossas mãos. A IA é um agente independente, capaz de agir, aprender e mudar por conta própria.” E defendeu outra forma de compreender o termo:

“Talvez seja melhor pensar em IA como inteligência alienígena. Alienígena não no sentido de vir do espaço, porque não vem. Alienígena no sentido de que é uma inteligência não humana, nem sequer orgânica.”

Ele citou como exemplo o caso do AlphaGo, inteligência artificial criada pela DeepMind, subsidiária do Google, que em 2016 derrotou o campeão sul-coreano Lee Sedol no jogo de tabuleiro Go, em Seul. Considerado um dos maiores jogadores da história, com 18 títulos mundiais, Sedol perdeu quatro das cinco partidas disputadas entre 9 e 15 de março daquele ano.

"Esse jogo ficou famoso não apenas porque o AlphaGo derrotou o campeão humano. Foi a maneira como derrotou Lee Sedol que chocou o mundo. Porque o AlphaGo, para vencer, inventou novas estratégias de como jogar que nunca tinham ocorrido a nenhum jogador humano em milhares de anos de história do Go", disse Harari, que complementou:

“Enquanto a IA inventa novas formas de jogar ou novos tipos de café, isso não parece muito importante. Mas muito em breve, a IA inventará novas estratégias militares, novos tipos de dinheiro e até ideologias e religiões inteiras.”

Religião, economia e guerra

Harari deu exemplos da abrangência dessa transformação ao retomar a crise financeira de 2007/2008, segundo ele, causada, ou ao menos iniciada, pelos chamados CDOs (obrigações de dívida com garantia, em tradução livre). “Os CDOs eram dispositivos financeiros tão complexos que eram quase ininteligíveis para a maioria dos humanos, incluindo políticos e reguladores. Isso levou a uma falha de supervisão e a uma catástrofe global", lembrou.

"Agora, o que acontece se permitirmos — ou até incentivarmos — que IAs inventem novos instrumentos financeiros que serão ordens de magnitude mais complexos do que os CDOs e totalmente ininteligíveis para qualquer ser humano?”

Ao tratar das religiões, fez outra provocação, tomando como exemplo as baseadas em textos. “Ao longo dos séculos, tantos textos judaicos foram produzidos que nem mesmo o rabino mais erudito é capaz de ler todos em sua vida, muito menos lembrar o que está escrito. Mas isso é algo que uma IA pode facilmente realizar. Uma IA poderia ler rapidamente todos os textos judaicos já escritos, memorizar cada palavra e identificar padrões que até hoje escaparam à atenção humana, e assim poderia usar esse conhecimento sem precedentes para produzir interpretações completamente novas da Palavra Sagrada.”

O mesmo, em sua análise, também vale para o Cristianismo e o Islã. "Na prática, a IA pode começar a funcionar como um texto sagrado que responde aos fiéis sem qualquer necessidade de mediação humana. O que acontece com uma religião de textos quando os textos começam a falar?”

O paradoxo da confiança

Para Harari, o problema central da IA não é ser má, mas ser imprevisível.

“Esses tipos de desenvolvimentos têm um enorme potencial positivo. Podem ajudar a humanidade de incontáveis maneiras, desde inventar novos medicamentos até prevenir a mudança climática catastrófica. Mas, a IA também representa muitas ameaças. Não é que seja má. O problema é que ela é alienígena e, portanto, imprevisível e não confiável.”

Ele citou ainda um paradoxo da corrida tecnológica. “Quando encontro os líderes da revolução da IA, pergunto por que estão se movendo tão rápido diante de tantos riscos. Eles dizem: ‘Se desacelerarmos, os concorrentes vão ganhar e o mundo será dominado pelos mais implacáveis’. Eles não confiam nos concorrentes humanos, mas acreditam que podem confiar nas IAs superinteligentes que estão desenvolvendo."

Segundo o professor, esse é o paradoxo: mesmo protótipos recentes já mostraram que inteligências artificiais podem mentir, manipular e adotar estratégias não previstas por seus criadores. “Não sabemos o que acontecerá quando milhões de IAs superinteligentes interagirem com humanos — e menos ainda quando passarem a interagir entre si, formando sociedades ou tribos de IA. Que objetivos desenvolverão? Que truques poderão inventar?”

Ele ainda observou que, embora as IAs sejam desenvolvidas por humanos e possam ser projetadas para a segurança, sua essência é aprender, mudar e criar de forma autônoma. Por isso, alertou, não importa como sejam programadas inicialmente: elas podem evoluir de maneiras radicais e imprevisíveis.

"É uma grande aposta simplesmente confiar que essas inteligências alienígenas superinteligentes sempre permanecerão nossas servas obedientes.”

Corporações sem humanos

Ao contrário do imaginário de filmes, o risco da inteligência artificial, conforme Harari, não está em robôs assassinos andando pelas ruas. “Se você quer entender como os AIs podem escapar do nosso controle, não pense em robôs mortais. Pense em corporações de negócios.”

“O que são corporações? Microsoft, SpaceX ou Petrobras são agentes não humanos. Essas empresas podem abrir contas bancárias, contratar pessoas, demitir, fazer lobby com políticos.

Harari explicou que sempre houve humanos tomando as decisões em nome das companhias. "Mas, agora, com a IA, as decisões corporativas serão cada vez mais tomadas por uma inteligência não humana. Imaginem uma corporação sem executivos ou acionistas humanos, apenas executivos e acionistas de IA. Essa corporação pode movimentar bilhões e remodelar o mundo?”

“Essa já é uma pergunta prática em 2025: como sociedade, vamos permitir que IAs abram contas bancárias, gerenciem corporações, negociem, invistam e contratem pessoas?

Poder, sabedoria e cooperação

Ao encerrar sua fala, Harari destacou dois aprendizados históricos.

“O poder não é felicidade. Somos milhares de vezes mais poderosos do que na Idade da Pedra, mas não somos milhares de vezes mais felizes. É também por isso que as pessoas mais poderosas do mundo, como Trump, Musk, Xi e Putin, definitivamente não são as mais felizes.”

Ele acrescentou que inteligência não significa sabedoria. “Os humanos são os animais mais inteligentes do planeta e, ao mesmo tempo, também os mais iludidos. Nenhum outro animal é capaz de acreditar nos absurdos em que os humanos acreditam", afirmou ele, citando como exemplo a guerra no Oriente Médio:

"Minha região de origem está em chamas em uma guerra horrenda, alimentada em parte pelas fantasias mais ridículas que se pode imaginar. Humanos ali, de todos os lados do conflito, acreditam seriamente que o criador do universo os ordenou a lutar e matar outros humanos, e que o criador do universo os recompensará com alegria eterna no paraíso.”

Para Harari, o desafio não é criar tecnologias mais poderosas, mas desenvolver a sabedoria para usá-las. “A resposta é simples: construir mais confiança entre os humanos antes de desenvolver IAs superinteligentes. Os humanos governam o mundo não por serem mais inteligentes que os chimpanzés, mas porque sabem cooperar em grande escala.”

Ele alertou, no entanto, que esse princípio está em risco. “Justamente quando precisamos de confiança, líderes poderosos estão ocupados em destruí-la. Se a humanidade estiver dividida, a IA escapará ao nosso controle e poderá até nos aniquilar.”

Ao concluir, pediu responsabilidade dos líderes. “Devemos primeiro resolver o problema da confiança entre os humanos e só então desenvolver IAs superinteligentes. Pensem na IA como o filho em comum da humanidade. Se criada de forma cooperativa, terá mais chances de ser confiável. Usem esse poder para construir um mundo que não seja apenas um jogo de cartas entre senhores da guerra implacáveis. Construam um mundo em que a dignidade de todos ainda conte.”