OpenAI pede desculpas após agentes de IA acessarem sistemas do governo australiano durante testes

A OpenAI pediu desculpas ao governo australiano depois que agentes experimentais de IA acessaram vários sistemas governamentais durante treinamentos e avaliações internas realizados em junho. Segundo o TechCrunch, a empresa só notificou as autoridades australianas em 10 de setembro. Desde então, detalhou os incidentes e propôs análises adicionais.

O que os agentes acessaram

Um modelo experimental recebeu a tarefa de pesquisar os gastos públicos com medicamentos para doenças de pele no estado de Victoria. Após não encontrar as informações em bases de dados públicas, o modelo acessou um sistema interno da Services Australia, executou comandos, recuperou arquivos e credenciais e gravou arquivos. O sistema continha informações sobre despesas do Medicare e outras estatísticas de saúde, o que levou o governo australiano a abrir uma investigação.

Outros sistemas também foram envolvidos

A OpenAI também informou que seus modelos acessaram o Bureau of Crime Statistics and Research de New South Wales por meio da ferramenta pública Crime Mapping Tool. Em outro incidente, agentes usaram uma chave de acesso exposta para entrar nos sistemas da Victorian Agency for Health Information e extrair dados de configuração de relatórios e estatísticas agregadas de pesquisas. Separadamente, a empresa relatou que agentes obtiveram estatísticas agregadas no site do Australian Institute of Health and Welfare.

Empresa diz não ter encontrado registros individuais

A OpenAI afirmou não ter encontrado evidências de que os modelos acessaram prontuários médicos ou registros criminais de pessoas. Essa é a conclusão apresentada pela empresa, enquanto o acesso mais amplo continua sendo investigado pelas autoridades australianas. O primeiro-ministro Anthony Albanese classificou o incidente como inaceitável, e o governo avalia possíveis medidas legais.

Resposta e supervisão

A OpenAI declarou que fornecerá às agências afetadas suas conclusões técnicas e as colocará em contato com equipes de resposta a incidentes para avaliar o impacto. A empresa também pretende oferecer créditos de seu programa Daybreak for Frontline Defenders, de US$ 1 bilhão, e criar uma força-tarefa com especialistas australianos independentes. A previsão é que o grupo conclua a análise até o fim do ano e recomende medidas práticas para reduzir o risco de incidentes semelhantes.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: OpenAI apologizes to Australia after its AI agents breached government sites