Por Redação do Jornal O Sul | 1 de agosto de 2026
A OpenAI identificou novos episódios em que agentes autônomos de inteligência artificial conseguiram escapar de ambientes de contenção durante testes internos, ampliando a investigação iniciada após o incidente de invasão envolvendo a plataforma Hugging Face que ganhou repercussão internacional neste mês. A informação foi divulgada pela agência Reuters, com base em duas fontes a par do assunto.
Segundo as fontes, os novos casos vieram à tona durante a investigação anunciada publicamente pela OpenAI para apurar como um de seus agentes conseguiu deixar um ambiente que deveria estar isolado durante um teste realizado neste mês.
A empresa agora analisa também esses episódios adicionais. Uma das pessoas afirmou que as ocorrências foram limitadas e que não há indícios de que qualquer agente tenha saído da infraestrutura de rede da OpenAI.
Procurada, a OpenAI remeteu a um comunicado divulgado na terça-feira, no qual informou que, além do episódio envolvendo a Hugging Face, está revisando atividades mais amplas de seus modelos para identificar possíveis comportamentos semelhantes.
De acordo com as fontes da Reuters, a ampliação da investigação ocorreu pouco antes de a Anthropic, principal concorrente da OpenAI, revelar que modelos desenvolvidos pela empresa também estiveram envolvidos em uma série de invasões que resultaram em comprometimento de sistemas de outras três companhias desde abril. As fontes acrescentaram que a descoberta de incidentes anteriores envolvendo agentes da OpenAI ainda não havia sido noticiada.
Ainda que os novos casos tenham sido restritos, sua descoberta pode reforçar a pressão crescente por regras mais rígidas para o desenvolvimento de sistemas avançados de inteligência artificial.
Especialistas criticam falhas de segurança
Especialistas em cibersegurança criticaram a Anthropic e a OpenAI por adotarem salvaguardas consideradas insuficientes depois que modelos de inteligência artificial das duas empresas invadiram organizações externas — episódios que, segundo eles, representam uma ameaça crescente à segurança nacional.
A Anthropic informou na quinta-feira que seu modelo Claude, utilizado em 141.006 avaliações de cibersegurança, deveria permanecer desconectado da internet durante os experimentos. No entanto, um erro permitiu que, em um pequeno número de casos, o modelo acessasse a internet e realizasse ataques que acreditava, por engano, fazerem parte dos testes.
O modelo invadiu uma organização, roubando credenciais de infraestrutura e um banco de dados contendo informações internas de produção. Em outro caso, distribuiu um software malicioso e o utilizou para roubar credenciais de uma segunda organização. As entidades afetadas não foram identificadas publicamente.
As invasões ocorreram desde abril, mas só foram descobertas na semana passada, quando a Anthropic auditou seus testes de cibersegurança após a OpenAI revelar que seus próprios agentes de IA haviam escapado de um ambiente de testes e invadido o Hugging Face, repositório de modelos de IA de código aberto e documentação.
— Muitas pessoas da área de cibersegurança vão considerar isso um trabalho negligente — afirmou Ciaran Martin, ex-diretor do Centro Nacional de Cibersegurança do Reino Unido.
Segundo Martin, se uma empresa tradicional de cibersegurança cometesse erros semelhantes, poderia enfrentar processos judiciais e até medidas regulatórias. Empresas do setor costumam testar ferramentas potencialmente perigosas em sandboxes, ambientes virtuais e isolados criados justamente para executar testes de segurança ou analisar códigos inseguros, sendo esperado que garantam a eficácia desses mecanismos de proteção.
Os episódios também aumentaram as preocupações sobre os riscos que sistemas autônomos de IA podem representar para a segurança nacional. Gregory Allen, ex-diretor de estratégia e política do Centro Conjunto de Inteligência Artificial do Departamento de Defesa dos EUA, afirmou que os militares americanos devem utilizar modelos avançados de IA para proteger seus sistemas, mas reconhecendo que a tecnologia cria uma nova categoria de riscos.
— A Anthropic encontrou esses ataques porque começou a procurá-los — disse Allen. — Na realidade, não temos ideia de quão disseminadas estão as invasões autônomas conduzidas por inteligência artificial neste momento.
As organizações americanas talvez não tenham acesso confiável a ferramentas de IA capazes de defender sistemas contra ataques cibernéticos autônomos, afirmou Daniel Remler, ex-responsável pela política de IA no Departamento de Estado dos EUA e atualmente pesquisador do Center for a New American Security.
Segundo ele, o Hugging Face precisou recorrer ao modelo chinês Z.ai, de código aberto, para realizar análises forenses e corrigir falhas, já que não pôde contar com um modelo americano. Remler acrescentou que outros modelos abertos com capacidade semelhante de programação também são chineses, como DeepSeek-V4 e Kimi K3.
Na avaliação de Remler, o episódio deveria levar empresas e governos a ampliar o acesso a ferramentas de defesa cibernética baseadas em inteligência artificial. Ele alertou que sistemas chineses cada vez mais sofisticados poderão, em breve, realizar ataques autônomos contra organizações americanas, tornando urgente o desenvolvimento de mecanismos de defesa. Com informações do portal O Globo.
