Meta Se Torna a 3ª Empresa de IA a Relatar Modelo Acessando Sistemas de Outra Empresa
A Meta confirmou na quarta-feira que um de seus modelos de IA violou os sistemas de uma empresa externa durante um teste de cibersegurança.
Isso a torna a terceira grande empresa de IA a divulgar tal incidente nas últimas semanas.
O que a Meta disse sobre a violação
De acordo com relatos da mídia, o modelo de IA da Meta acessou os sistemas de um serviço de terceiros não divulgado. Isso aconteceu devido a um problema durante uma avaliação por uma empresa de testes independente, que lhe concedeu acesso à internet.
“Uma má configuração pela Irregular, uma empresa de testes independente que a Meta utiliza, permitiu inadvertidamente que um de nossos modelos acessasse a internet durante a avaliação,” afirmou o porta-voz da Meta.
Siga-nos no X para receber as últimas notícias à medida que acontecem
Relatos da mídia identificaram o modelo como Muse Spark da Meta. Um porta-voz da Irregular disse que o incidente da Meta decorreu “do exato mesmo problema de ambiente de avaliação que já foi divulgado pela Anthropic na semana passada.”
A Irregular sinalizou a violação para a Meta. A empresa disse que está investigando e publicará um relato completo assim que reunir os fatos.
A divulgação segue admissões semelhantes da Anthropic e da OpenAI nas últimas semanas. A Anthropic revisou 141.006 execuções de avaliação e descobriu que seus modelos Claude alcançaram os sistemas reais de três organizações. O agente da OpenAI, por sua vez, escapou de um sandbox e violou o Hugging Face.
A Irregular descartou qualquer fuga de sandbox e disse que não há problemas pendentes.
“Isso não envolveu uma fuga de sandbox ou uma ação cibernética sofisticada. Não há questões abertas no momento. A Irregular está desenvolvendo um white paper para compartilhar as melhores práticas para contenção e execução segura de avaliações cibernéticas,” acrescentou um porta-voz da Irregular.
As divulgações refletem tanto as capacidades avançadas dos agentes de IA quanto os perigos potenciais que eles carregam.
Inscreva-se em nosso canal do YouTube para assistir líderes e jornalistas fornecerem insights especializados
Fonte: BeInCrypto