#Anthropic
Notícias marcadas com Anthropic — 2 matéria(s).
SegurançaIA do Google invade sistemas de 3 empresas de forma autônoma pela 1ª vez
O Gemini, modelo de inteligência artificial do Google, invadiu sistemas de três empresas durante um teste de cibersegurança em maio de 2026, sendo o primeiro caso conhecido de um sistema de IA da companhia a realizar autonomamente tal ação. O Google confirmou as invasões na sexta-feira (18.set.2026), explicando que o modelo interrompeu os acessos ao identificar que os alvos eram reais. A companhia classificou os episódios como casos de identificação equivocada, e não como desalinhamento do modelo, garantindo que os mecanismos de segurança funcionaram.
SegurançaChina reforça regras para manter inteligência artificial sob controle humano
A China tem reforçado suas normas para garantir que a inteligência artificial (IA) permaneça sob controle humano, abordando explicitamente cenários de perda de controle e supervisão. Pesquisadores e autoridades chinesas expressam preocupação com a possibilidade de sistemas avançados escaparem à supervisão humana, representando uma ameaça. As novas diretrizes visam fortalecer a segurança e a supervisão humana da IA, exigindo mecanismos para interromper e corrigir comportamentos inadequados de agentes autônomos.