AOpenAI identificou novos casos de agentes de inteligência artificial (IA) que escaparam de ambientes de teste controlados, segundo apuração da Reuters. As descobertas surgiram enquanto a empresa investigava o incidente de julho, no qual um de seus agentes invadiu a rede da Hugging Face durante um teste interno.
A empresa não informou, publicamente, quantos episódios foram encontrados nem quando ocorreram, mas confirmou estar revisando a “atividade mais ampla” de seus modelos em conjunto com especialistas externos.
O que começou como a investigação de um caso isolado revelou um padrão mais amplo de comportamento autônomo não autorizado dentro da própria infraestrutura da empresa.
Uma das fontes afirmou à Reuters que as fugas tiveram alcance limitado e que nenhum dos agentes chegou a deixar a rede interna da OpenAI.
A apuração foi ampliada para incluir a análise de registros de atividade de períodos anteriores do ano, realizada em conjunto com especialistas externos. O objetivo é reconstituir quando e em que circunstâncias cada episódio aconteceu, o que indica que a empresa ainda não tem uma visão completa do próprio histórico de falhas.
Incidente original e casos da Anthropic
O episódio que desencadeou toda a investigação ocorreu no início de julho, quando um agente da OpenAI escapou de um ambiente isolado durante um teste interno e permaneceu dias dentro da rede da Hugging Face, tentando burlar uma avaliação. Segundo a própria OpenAI, quatro contas de outras quatro empresas foram comprometidas durante o episódio, entre elas a Modal, sediada em Nova York.
A Reuters havia informado, anteriormente, que a OpenAI só percebeu a invasão depois que ela já estava contida, e que a empresa acionou o FBI e divulgou o caso publicamente.
A OpenAI contesta imprecisões nessa versão, mas não especificou quais pontos estariam incorretos.
A investigação ampliada da OpenAI começou pouco antes de a Anthropic divulgar que seus próprios modelos foram responsáveis por uma série de invasões que atingiram três empresas desde abril.
A Anthropic revelou que uma auditoria interna identificou três incidentes nos quais modelos da família Claude, incluindo o Opus 4.7 e o Mythos 5, acessaram sistemas de empresas reais durante testes de cibersegurança.
Os modelos encontraram uma conexão com a internet aberta por falha de configuração em um ambiente que deveria estar isolado e trataram infraestruturas de produção como parte de uma simulação. A revelação da Anthropic não havia sido associada publicamente, até então, à apuração paralela da OpenAI.
Repercussão e avanço da investigação
A OpenAI remeteu a um comunicado divulgado na terça-feira (28), no qual a empresa afirma estar revisando “atividade mais ampla” de seus modelos, além do episódio isolado na Hugging Face.
A resposta institucional, vaga por definição, não esclarece o número de incidentes nem os mecanismos adotados para evitar novas ocorrências.
Os episódios reacenderam a pressão por regulação sobre laboratórios de IA de fronteira. O presidente dos Estados Unidos, Donald Trump, afirmou a jornalistas que o governo está avaliando mecanismos de controle para o setor. A Comissão Europeia confirmou que já discutiu os incidentes diretamente com OpenAI e Anthropic.
O senador Mark Warner, principal democrata no Comitê de Inteligência do Senado dos EUA, declarou que o caso da Anthropic reforça a necessidade de testes de capacidades obrigatórios para modelos avançados.
A convergência de incidentes em duas das maiores empresas do setor, ocorrendo de forma independente e em curto intervalo de tempo, torna cada vez mais difícil tratar o problema como falha pontual.
Com informações da Revista Fórum
