Às 8h17, a tela acendeu antes do café. Não havia explosão, sirene ou cidade em chamas. Apenas uma frase, dita por um homem que ajudou a construir a era digital: um bilhão de mortes. Laboratórios treinavam máquinas capazes de escrever códigos, descobrir padrões, persuadir pessoas e agir sobre sistemas. Nos fóruns clandestinos da internet, criminosos experimentavam as mesmas ferramentas para objetivos bem menos nobres. Nada disso provava um apocalipse. Mas as peças começavam a formar uma imagem incômoda. Talvez o perigo não estivesse numa máquina decidindo odiar a humanidade. Talvez estivesse em algo mais antigo: poder, dinheiro, competição e uma tecnologia que multiplica tudo isso. Gates havia colocado um número sobre o medo. A pergunta agora era quem estava contando os mortos antes que eles existissem, sem ninguém saber ainda.

Bill Gates voltou a falar de morte em escala global. Desta vez, não era uma pandemia. Era inteligência artificial.

Em entrevista à NBC, o cofundador da Microsoft afirmou que a IA é poderosa o suficiente para desencadear acontecimentos capazes de provocar “um bilhão de mortes”. Gates não disse que um bilhão de pessoas morrerão, nem indicou data ou cenário específico. Seu argumento foi que a combinação entre pessoas mal-intencionadas e ferramentas de IA poderia produzir acontecimentos de proporções catastróficas. Nada disso transforma uma hipótese em profecia. O valor do alerta está justamente na pergunta sobre escala, velocidade e responsabilidade. A formulação é importante porque desloca o foco da máquina para quem controla a ferramenta.

A tecnologia já consegue escrever código, analisar informações, automatizar tarefas e operar sistemas quando recebe acesso e instruções. Isso não significa que uma IA esteja procurando vítimas. Significa que determinadas capacidades podem reduzir tempo, custo e conhecimento necessários para algumas atividades perigosas.

Gates defendeu participação governamental, legislação, monitoramento e salvaguardas, afirmando que a autorregulação empresarial não seria suficiente. O tema também apareceu nos discursos de outros nomes da indústria. Dario Amodei, da Anthropic, pediu cautela e uma desaceleração no avanço de modelos mais poderosos. Sam Altman, da OpenAI, falou na ONU sobre controle humano, padrões internacionais e cooperação. Elon Musk também manifestou apoio a uma postura mais cautelosa.

Assista ao vídeo

A contradição é o que torna o episódio interessante. O alerta cresce justamente enquanto a corrida tecnológica continua. Mais capacidade significa mais possibilidades, mas também mais formas de abuso. Gates não descreveu um futuro inevitável. Colocou sobre a mesa um limite de escala. E, quando alguém fala em um bilhão, a pergunta deixa de ser apenas se a IA é poderosa. Passa a ser quanto poder estamos dispostos a colocar nas mãos de sistemas que ainda estamos aprendendo a supervisionar.

Poucos dias antes da declaração de Gates, a discussão já havia chegado ao Conselho de Segurança das Nações Unidas. Em 23 de setembro, Sam Altman e Dario Amodei participaram de uma sessão dedicada aos riscos e às oportunidades da inteligência artificial.

Altman apresentou os dois lados da equação. A IA pode acelerar descobertas científicas, ampliar produtividade e contribuir para avanços em áreas como saúde. Ao mesmo tempo, sistemas mais autônomos podem avançar mais rapidamente que instituições capazes de supervisioná-los. Ele defendeu padrões comuns para avaliar riscos, compartilhar incidentes e verificar salvaguardas, além de decisões importantes permanecerem sob controle humano.