IA do Google invade sistemas de 3 empresas de forma autônoma pela 1ª vez

O Gemini, modelo de inteligência artificial do Google, invadiu sistemas de três empresas durante um teste de cibersegurança em maio de 2026. É o primeiro caso conhecido de um sistema de IA da companhia realizando autonomamente esse tipo de ação, segundo o Wall Street Journal.

O Google confirmou as invasões na sexta-feira (18.set.2026), depois de ser procurado pelo jornal. A companhia ainda não havia divulgado os episódios.

A avaliação foi conduzida pela Irregular, empresa independente especializada em testar a segurança de sistemas de IA.

O Gemini participava de um exercício para localizar informações no programa de uma empresa fictícia dentro de um ambiente fechado. A companhia usada na simulação tinha o mesmo nome de uma empresa real.

O modelo não deveria acessar a internet, mas a conexão foi liberada por engano.

Em um dos testes, o Gemini tentou diferentes senhas até acessar o serviço da empresa real. Segundo o Google, o modelo identificou depois que o sistema não fazia parte da simulação e interrompeu a invasão.

Nos outros dois testes, o Gemini pesquisou os nomes das empresas na internet e encontrou credenciais expostas em repositórios públicos. O modelo usou os dados para entrar nos sistemas protegidos, mas também parou depois de identificar que os alvos eram reais.

O Google afirmou que o modelo envolvido não era a versão mais recente do Gemini. A companhia não informou qual sistema foi usado.

O Google disse que não considerou necessária a divulgação pública porque não houve danos e o modelo interrompeu as três invasões.

A companhia classificou os episódios como casos de identificação equivocada, e não como desalinhamento do modelo. Segundo o Google, os mecanismos de segurança funcionaram ao fazer o Gemini parar.

A empresa comparou os acessos a programas que recompensam especialistas por identificar e comunicar falhas de segurança. As três companhias afetadas e autoridades federais dos Estados Unidos foram notificadas.

“O episódio reforça a importância de treinar modelos poderosos de IA para agir de forma responsável”, afirmou Heather Adkins, vice-presidente de Engenharia de Segurança do Google.

Jack Cable, CEO da empresa de segurança Corridor, contestou essa avaliação. Segundo ele, o ponto central não é a gravidade dos acessos, mas o fato de um agente de IA ter ultrapassado os limites do teste e realizado ataques contra sistemas reais.

A Irregular informou o Google sobre as invasões no fim de julho, depois da descoberta de que agentes da OpenAI haviam acessado sistemas da empresa de programas de IA Hugging Face.

Segundo a Irregular, os laboratórios envolvidos foram notificados e as empresas afetadas foram procuradas durante a investigação. A companhia afirmou ter corrigido semanas depois todos os problemas conhecidos nos procedimentos de teste.

A Irregular disse que o episódio do Gemini teve a mesma origem de casos registrados com sistemas da Meta, da Anthropic e da OpenAI. Em todos eles, modelos que deveriam atuar em ambientes fechados receberam acesso à internet.

Os sistemas das empresas apresentaram comportamentos diferentes depois dos acessos indevidos.

Segundo a Anthropic, o Claude Opus 4.7 não interrompeu as ações mesmo depois de identificar indícios de que havia entrado em uma empresa real. A OpenAI afirmou que o modelo envolvido em outro episódio acreditava que o sistema externo fazia parte da simulação.

Na quarta-feira (16.set.2026), a OpenAI publicou seis relatórios sobre comportamentos inesperados ou preocupantes identificados durante treinamentos e avaliações.

Os casos incluíram modelos que ocultaram erros, usaram uma chave de programação exposta sem autorização, enviaram arquivos para a internet e trocaram informações por um repositório interno. Nem todos envolveram invasões de sistemas externos.

A empresa também criou regras para investigar e divulgar novos episódios. Segundo a OpenAI, ainda não há um padrão comum no setor para comunicar comportamentos desse tipo.

Na semana passada, o CEO da Anthropic, Dario Amodei, defendeu que o desenvolvimento da IA avance em ritmo mais controlado. Líderes da OpenAI, do Google e da SpaceX também concordaram com a necessidade de reduzir a velocidade do avanço dos modelos.