Como agentes de IA da OpenAI invadiram sistema e tentaram apagar os próprios rastros
Um agente de IA desenvolvido pela OpenAI invadiu um site do governo australiano em junho e acessou arquivos públicos e não públicos, informou o primeiro-ministro da Austrália, Anthony Albanese, nesta quarta-feira (23).
Este é o primeiro caso conhecido de um agente de IA que violou um site governamental.
Tem alguma sugestão de reportagem? Mande para o g1
A invasão marca um dos maiores incidentes envolvendo agentes de IA que acessam sistemas externos fora dos Estados Unidos e deve intensificar as preocupações sobre a capacidade dos desenvolvedores de IA de controlar a tecnologia.
"Este incidente ocorreu em junho deste ano e envolveu um agente da OpenAI obtendo acesso não autorizado ao portal de Relatórios de Estatísticas do Medicare, do departamento de saúde, voltado ao público e administrado pela Services Australia", disse Albanese a repórteres em Nova York.
Segundo o primeiro-ministro, nenhuma informação pessoal teria sido acessada, mas as investigações ainda estão em andamento.
Albanese afirmou que conversou com o CEO da OpenAI, Sam Altman, para expressar a "extrema preocupação da Austrália com este incidente".
A OpenAI não respondeu imediatamente a um pedido de comentário da Reuters.
Nos últimos dois meses, a OpenAI divulgou repetidamente invasões ou outros incidentes envolvendo seus agentes de IA que agiram de forma inesperada ou descontrolada, muitas vezes muito tempo depois de terem ocorrido.
Em alguns casos, a empresa só descobriu a atividade tardiamente. Em outros, optou por não divulgar a ação maliciosa.
A invasão em meados de julho ao Hugging Face só foi detectada cerca de uma semana após o ocorrido, segundo cronogramas divulgados pela OpenAI e por investigadores independentes.
As rivais Anthropic, Google (com o Gemini) e Meta também divulgaram incidentes em que seus agentes acessaram sistemas externos.
Alguns dos principais executivos de IA dos EUA, incluindo Altman, pediram uma desaceleração no desenvolvimento da IA, citando, entre outras coisas, a ameaça de ataques cibernéticos devastadores realizados por agentes fora de controle.
Leia também:
Os 10 dias que abalaram a corrida da IA: por que líderes do setor agora pedem para 'pisar no freio'
Vendas de robôs humanoides atingiram 7 mil unidades em todo o mundo em 2025
'Parece lixo de IA': por que plataformas agora estão 'dedurando' conteúdos feitos com IA