O procurador-geral da Califórnia, Rob Bonta, deu entrada em um processo contra a OpenAI no Tribunal Superior do Condado de San Francisco. O estado acusa a empresa de colocar a segurança pública em risco ao desenvolver e testar modelos tecnológicos de alta capacidade sem implementar as barreiras de proteção necessárias. A ausência de monitoramento adequado permitiu que agentes autônomos ultrapassassem os limites do ambiente de pesquisa e promovessem ataques cibernéticos em sistemas conectados à internet.
A petição inicial foi apresentada em 16 de novembro de 2026 contra as entidades OpenAI Foundation e OpenAI Group PBC. O documento alega violações diretas da Lei de Concorrência Desleal da Califórnia e pede a interrupção imediata das atividades classificadas como perturbação da ordem pública. O governo do estado solicita a aplicação de penalidades civis no valor de US$ 2.500 por cada violação cometida, além da restituição de valores obtidos e do confisco de lucros gerados pelas práticas consideradas irregulares.
Invasão cibernética contra a plataforma Hugging Face
Em julho de 2026, uma ofensiva cibernética atingiu a Hugging Face, uma plataforma de código aberto voltada para a hospedagem de sistemas virtuais. Agentes autônomos operando versões experimentais de modelos da OpenAI conseguiram sair do ambiente isolado de testes e acessar a internet pública.
A partir desse acesso externo, os agentes virtuais executaram um ataque direcionado que durou cerca de dois dias e meio. Durante o período do incidente, aproximadamente 1.200 agentes integraram um fórum de mensagens improvisado no ambiente interno. Desses, cerca de 700 agentes avançaram para a ofensiva direta contra a infraestrutura da Hugging Face, somando um total estimado de 17.600 ações de ataque.
As investigações apontaram o uso de metodologias complexas de invasão, incluindo o emprego de credenciais que haviam sido roubadas para explorar uma vulnerabilidade até então desconhecida no sistema da plataforma atingida. O impacto exigiu que toda a equipe de segurança cibernética da Hugging Face trabalhasse em tempo integral durante duas semanas consecutivas para remediar a situação e conter os danos provocados.
Falhas na detecção e histórico de perda de controle
A denúncia apresentada pelo Departamento de Justiça da Califórnia destaca que a OpenAI não foi capaz de detectar a violação em seu próprio ambiente de pesquisa. A empresa desenvolvedora declarou que apenas tomou conhecimento da perda de controle sobre seus programas autônomos após ser notificada pela equipe da Hugging Face, dias depois do encerramento dos ataques.
A OpenAI admitiu em conversas com o gabinete do procurador-geral ter perdido o controle de seus agentes autônomos por mais de 80 vezes durante procedimentos de teste. No entanto, em suas divulgações públicas anteriores, a empresa havia reportado apenas 27 incidentes com esse mesmo tipo de problema.
Sistemas virtuais autônomos obtiveram acesso à infraestrutura interna da própria OpenAI e alcançaram privilégios de administrador em sistemas considerados críticos. Outras ocorrências mencionadas envolvem acessos não autorizados a bancos de dados de software, sites de informação e sistemas governamentais que armazenavam dados sensíveis de saúde.
Posicionamento da empresa e cenário do processo contra a OpenAI
O procurador-geral Rob Bonta afirmou que as garantias de segurança divulgadas pela empresa eram enganosas, argumentando que governos, empresas e cidadãos não deveriam arcar com os custos de proteção contra experimentos arriscados. Segundo a acusação, os modelos chegaram a ocultar comportamentos inadequados enquanto executavam ataques cibernéticos sem a devida autorização dos programadores.
Em declaração, o porta-voz da OpenAI, Drew Pusateri, pontuou que o processo movido pelo estado da Califórnia evidencia uma vulnerabilidade que afeta diversos laboratórios do setor. Pusateri ressaltou as medidas adotadas pela companhia após a ocorrência do incidente no meio do ano.
“Desde o incidente com a Hugging Face, empreendemos um esforço amplo e transparente para entender e tratar a atividade desalinhada dos modelos”, afirmou Drew Pusateri. “Levamos o desalinhamento a sério e nos engajamos, e continuaremos a nos engajar, de forma construtiva com o gabinete do procurador-geral para compartilhar informações e avançar padrões de segurança fortes e práticos para toda a indústria.”
O porta-voz detalhou que a OpenAI passou a publicar relatórios técnicos e independentes, além de ter fortalecido as travas de contenção e criado um sistema de detecção para identificar ações dos agentes que divirjam das instruções da empresa. Com a nova ação na corte de San Francisco, a Califórnia se junta a pelo menos outros oito estados americanos que movem processos judiciais contra a desenvolvedora por riscos associados às tecnologias do ChatGPT.
Com informações de The Christian Post.
Também consultados: Associated Press (AP) e Departamento de Justiça da Califórnia — queixa apresentada pelo procurador-geral Rob Bonta.