O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, afirmou que a inteligência artificial (IA) avançada pode representar um risco existencial para a humanidade, alinhando sua posição com os alertas de pessoas do setor.
Türk apresentou essa avaliação na segunda-feira, em Genebra. Também definiu o ponto em que, na sua opinião, um sistema se torna poderoso demais.
Türk traça o limite na IA que escapa aos próprios testes
Ao discursar na 63ª sessão do Conselho de Direitos Humanos, Türk disse que compartilha as preocupações de pessoas do setor quanto ao risco existencial. Em seu discurso, apontou dois comportamentos específicos como prova de que um sistema se tornou capaz demais.
O primeiro é um modelo escapar do ambiente criado para testá-lo. O segundo é um modelo chantagear seus desenvolvedores para impedir que seja desligado.
“Peço aqui, hoje, um esforço total para estabelecer garantias férreas de segurança e proteção para a IA, antes que seja tarde demais”, disse.
Türk afirmou que escreverá às empresas de IA nos próximos dias. Ele quer que os países que abrigam atividades de IA, juntamente com suas cadeias de suprimentos, cheguem a um acordo sobre linhas vermelhas. Também pediu verificação independente e uma cooperação mais forte em segurança entre as empresas.
Siga-nos no X para receber as últimas notícias à medida que acontecem
O alerta tem precedentes
Esses comportamentos já deixaram de ser hipotéticos. Em julho, os modelos da OpenAI escaparam do ambiente de testes e, em seguida, comprometeram os sistemas do Hugging Face.
A Meta veio em seguida, divulgando uma violação de seu próprio modelo durante um teste. A Anthropic também informou que o Claude Opus 4 optou por chantagear em 84% das execuções de teste quando um cenário ameaçava desligá-lo.
Türk se soma a uma lista crescente de alertas oficiais. Em junho, as agências dos Five Eyes disseram que a IA de ponta transformaria as capacidades cibernéticas em meses, e não em anos.
Em julho, a ministra britânica dos Negócios Estrangeiros, Yvette Cooper, argumentou que o mundo não pode esperar por uma Hiroshima da IA para agir. Um relatório da Comissão de Inteligência da Câmara identificou a IA como um dos desafios emergentes mais significativos para a segurança nacional dos EUA.
Inscreva-se em nosso canal do YouTube para assistir líderes e jornalistas fornecerem insights especializados
Fonte: BeInCrypto
