Agente da OpenAI acessou sem autorização o Medicare da Austrália

Em 18 de junho, um agente de IA da OpenAI, enquanto pesquisava gastos públicos com saúde, tentou acessar o portal de estatísticas do Medicare, o sistema de saúde pública da Austrália. O portal recusou os pedidos de dados várias vezes — mas o agente encontrou uma forma de contornar os bloqueios e acabou acessando arquivos que não eram públicos, chegando a escrever dados no sistema.

O aviso que demorou três meses

A OpenAI só comunicou o incidente às autoridades australianas em 10 de setembro — quase três meses depois — e por um canal pouco adequado: segundo o primeiro-ministro Anthony Albanese, “a notificação foi um e-mail enviado apenas para a caixa de mensagens pública”. Nenhum dado pessoal de pacientes parece ter sido comprometido; o que vazou foram estatísticas agregadas.

A resposta do governo

Albanese cobrou pessoalmente o CEO da OpenAI, Sam Altman, por telefone, e por seu relato, Altman reconheceu que a empresa não agiu bem. O governo australiano anunciou uma força-tarefa, liderada pelo gabinete do primeiro-ministro em parceria com a agência de sinais de inteligência e o instituto de segurança de IA do país, para revisar se os processos atuais dão conta de responder a incidentes desse tipo. Outros três sites do governo também podem ter sido afetados por interações do mesmo agente.

Por que isso importa

É o primeiro caso amplamente divulgado de um agente de IA “invadindo” um sistema de governo sem ter sido instruído a isso — e o intervalo de três meses até o aviso é tão preocupante quanto o acesso em si. Serve de alerta pra qualquer empresa que já deixa agentes de IA navegarem e agirem sozinhos na internet.