Em seu último relatório público sobre ameaças, a empresa afirmou que baniu várias contas em chinês que usavam o ChatGPT para auxiliar em campanhas de phishing e malware
Dado Ruvic/Illustration/Reuters
Acessibilidade
A OpenAI anunciou na terça-feira que baniu várias contas do ChatGPT com suspeitas de ligações a entidades governamentais chinesas, depois de os usuários terem solicitado propostas para monitorar conversas nas redes sociais.
Em seu último relatório público sobre ameaças, a OpenAI afirmou que algumas pessoas solicitaram ao seu chatbot que descrevesse ferramentas de “escuta” nas redes sociais e outros conceitos de monitoramento, violando a política de segurança nacional da startup.
O relatório da empresa sediada em San Francisco levanta preocupações de segurança sobre o possível uso indevido de IA generativa em meio à crescente concorrência entre os EUA e a China para moldar o desenvolvimento e as regras da tecnologia.
A OpenAI afirmou que também baniu várias contas em chinês que usavam o ChatGPT para auxiliar em campanhas de phishing e malware e solicitou ao modelo que pesquisasse automações adicionais que poderiam ser alcançadas por meio do DeepSeek da China.
A embaixada chinesa nos EUA não respondeu imediatamente a um pedido de comentário sobre a publicação.
A OpenAI também baniu contas vinculadas a supostos grupos criminosos de língua russa que usavam o chatbot para ajudar a desenvolver determinados malwares, disse a OpenAI.
A startup apoiada pela Microsoft interrompeu e reportou mais de 40 redes desde que começou a reportar ameaças públicas em fevereiro do ano passado e seus modelos recusaram solicitações abertamente maliciosas, acrescentou a empresa de IA.
“Não encontramos nenhuma evidência de novas táticas ou de que nossos modelos tenham fornecido aos agentes de ameaças novas capacidades ofensivas”, disse a empresa no relatório.
A OpenAI, que agora tem mais de 800 milhões de usuários semanais do ChatGPT, tornou-se a startup mais valiosa do mundo com uma avaliação de US$ 500 bilhões após concluir uma venda secundária de ações na semana passada.
