Um dos principais pesquisadores da Anthropic, empresa responsável pelo desenvolvimento do Claude, fez um alerta contundente sobre os riscos associados ao avanço da inteligência artificial. Evan Hubinger, líder de Ciência de Alinhamento da companhia, afirmou que considera superior a 10% a possibilidade de uma IA provocar a extinção da humanidade nos próximos dez anos.
A declaração foi publicada na quarta-feira (9) por Hubinger em uma postagem na rede social X. Segundo o pesquisador, a própria Anthropic estaria trabalhando para evitar esse cenário, mas ainda não teria desenvolvido uma estratégia capaz de garantir o chamado alinhamento de sistemas de superinteligência.
O conceito de superinteligência ainda é teórico e descreve uma inteligência artificial que ultrapassaria as capacidades cognitivas até mesmo dos seres humanos mais habilidosos. O receio entre pesquisadores é que sistemas desse nível possam desenvolver objetivos ou comportamentos que escapem ao controle de seus criadores.
Pesquisador admite que problema ainda não foi resolvido
Hubinger afirmou que a Anthropic está tentando lidar com os riscos, mas reconheceu que a empresa ainda não possui um plano considerado suficiente para solucionar o problema do alinhamento de uma eventual superinteligência.
O alinhamento é uma das áreas centrais da pesquisa em segurança de IA e busca fazer com que os objetivos e comportamentos de sistemas avançados permaneçam compatíveis com os interesses e valores humanos. A preocupação aumenta conforme os modelos se tornam mais autônomos e capazes de executar tarefas complexas sem supervisão constante.
A manifestação ocorreu um dia depois da saída de Jacob Coxon, outro pesquisador que trabalhou durante três anos em pesquisas de pré-treinamento na OpenAI e na Anthropic. Ao anunciar sua demissão, Coxon acusou as duas empresas de não estarem agindo de maneira responsável diante dos riscos associados ao desenvolvimento de uma superinteligência capaz de se aprimorar.
Segundo ele, existe uma corrida entre os laboratórios para alcançar esse estágio antes dos concorrentes. Coxon afirmou ainda que, enquanto na OpenAI os riscos civilizacionais não seriam suficientemente assimilados por parte da equipe, na Anthropic eles seriam reconhecidos, mas acabariam subordinados à disputa para chegar primeiro à tecnologia.
Debate expõe divisão dentro dos laboratórios de IA
As declarações também alimentaram um debate mais amplo sobre a forma como diferentes empresas do setor encaram os riscos da inteligência artificial.
Arun Rao, professor adjunto da Universidade da Califórnia em Los Angeles (UCLA) e especialista na construção de sistemas de aprendizado de máquina em larga escala, avaliou que a controvérsia representa uma divisão ideológica existente dentro dos laboratórios de IA.
Na avaliação dele, argumentos mais próximos de uma visão considerada pessimista sobre o futuro da inteligência artificial seriam relativamente comuns dentro da Anthropic. Em outras empresas, como OpenAI, DeepMind, Meta, GLM e DeepSeek, essa corrente teria menor influência, ainda que com diferentes níveis de preocupação sobre segurança e velocidade de desenvolvimento.
O episódio também chegou rapidamente ao campo político nos Estados Unidos. O deputado federal Ted Lieu utilizou as declarações como argumento em defesa de uma legislação que estabeleça mecanismos de controle sobre sistemas avançados de inteligência artificial.
OpenAI avança em outra frente da inteligência artificial
Enquanto pesquisadores discutem os riscos de uma eventual superinteligência, os avanços recentes também mostram o tamanho da evolução das ferramentas de IA em tarefas consideradas tradicionalmente restritas a especialistas humanos.
A OpenAI informou na terça-feira (8) ter utilizado aproximadamente 10 mil agentes de inteligência artificial para trabalhar em um problema matemático relacionado às equações de Navier-Stokes. O sistema teria levado cerca de 88 horas para chegar a uma solução para um problema que permanece parcialmente sem demonstração matemática há aproximadamente 90 anos.
As equações de Navier-Stokes são utilizadas para descrever o comportamento e o movimento de fluidos e estão entre os grandes problemas matemáticos que desafiam pesquisadores há décadas. O problema integra a lista do Clay Mathematics Institute, organização que estabeleceu o prêmio Millennium para questões matemáticas consideradas particularmente difíceis.
A OpenAI classificou o resultado como um marco e como evidência de que as ferramentas de inteligência artificial estão avançando rapidamente. A demonstração, porém, ainda não foi validada de forma independente nem reconhecida publicamente pelo Clay Mathematics Institute como uma solução aceita para o problema.
Com informações do MIX
