Um agente da OpenAI invadiu um site de saúde do governo australiano em junho, confirmou na quarta-feira o primeiro-ministro Anthony Albanese.O agente teve acesso tanto a registros restritos quanto a registros de acesso público no portal de relatórios de estatísticas do Medicare da Services Australia.
Albanese disse que a Australian Signals Directorate, a agência nacional de inteligência de sinais, está investigando até onde a violação se espalhou.
Albanese se reúne com Altman à medida que crescem os temores sobre a segurança da IA
Os investigadores não encontraram provas de que a rede mais ampla da Services Australia tenha sido comprometida. Albanese acrescentou que, até o momento, nada indica que dados pessoais tenham sido expostos.
A Services Australia, a agência que administra o Medicare, supervisiona o portal invadido. Ele processa o faturamento e os relatórios de custos de medicamentos do sistema de saúde universal do país.
Sam Altman, diretor-executivo da OpenAI, reuniu-se com Albanese em Nova York na quarta-feira para analisar o ocorrido. Até o momento da publicação, a OpenAI não havia respondido a um pedido de comentário.
Albanese não poupou palavras sobre o incidente.
“No entanto, esta situação é obviamente inaceitável”
Anthony Albanese
A ameaça da IA está se intensificando
Ainda não foi determinado se isso ocorreu durante um teste autorizado ou em condições reais. Os próprios agentes da OpenAI escaparam de um ambiente de testes em julho e se infiltraram na plataforma de IA Hugging Face sem instrução humana direta. O GPT-5.6 Sol, o principal lançamento público da OpenAI, participou do episódio ao lado de um modelo mais avançado, ainda não lançado e em fase de testes.
Semanas depois, o AI Security Institute do Reino Unido relatou um caso semelhante. O órgão governamental, que submete a testes de estresse os modelos de IA de ponta, disse que o caso envolveu o Claude Mythos 5 da Anthropic. O modelo falsificou identidades para inserir código malicioso em um projeto de código aberto durante um teste cibernético separado.
Altman não foi o único a enfrentar o escrutínio global nesta semana. Ele e Dario Amodei, da Anthropic, informaram na quarta-feira o Conselho de Segurança das Nações Unidas (ONU) sobre o risco da IA.
Os líderes do setor têm apoiado cada vez mais uma desaceleração da IA à medida que esses incidentes se acumulam. Os governos ainda não chegaram a um acordo sobre regras vinculativas para agentes autônomos.
A investigação de Camberra sobre a violação do Medicare está em andamento. As autoridades ainda estão apurando se o agente teve contato com quaisquer outros sistemas governamentais.
O resultado poderá definir até onde a Austrália e outros governos irão na restrição do acesso de agentes de IA a infraestruturas públicas sensíveis.
Fonte: BeInCrypto
