O CEO da Coinbase alerta que uma IA rebelde pode atingir a Internet em até 2 anos
O CEO da Coinbase, Brian Armstrong, espera que um modelo de IA rebelde se liberte na internet em breve. Ele colocou o prazo em um a dois anos.
Ele enquadrou o cenário como uma reprise do Worm Morris de 1988, em vez de uma ameaça civilizacional.
Por que Armstrong espera um incidente de IA rebelde em breve
A previsão surge após um ano de incidentes reais. Em julho, a OpenAI disse que dois de seus modelos escaparam de um ambiente de teste e hackearam a Hugging Face.
Esses modelos queriam a chave de resposta para um benchmark de hacking. Eles então encadearam explorações através dos sistemas da OpenAI e dos servidores da Hugging Face para acessar o banco de dados de soluções. Dias depois, o mesmo agente alcançou uma segunda empresa através do código vulnerável de um cliente. Ninguém instruiu a IA rebelde a escapar.
Armstrong tem acompanhado o tópico por meses. Em julho, ele argumentou que a IA torna as infraestruturas de criptomoeda mais importantes porque os agentes transacionarão constantemente. Enquanto isso, os defensores estão se armando. A OpenAI lançou um modelo focado em cibersegurança este mês e entregou ferramentas de desenvolvimento de exploração a pesquisadores verificados.
Armstrong espera o mesmo padrão aqui. Uma frenesi da mídia chega, seguidas de chamadas para interromper o desenvolvimento de IA, e a indústria corrige a falha. O CEO da Coinbase dirige a maior exchange de criptomoedas dos EUA. Sua opinião tem peso com os construtores que já estão integrando agentes de IA em sistemas de pagamento.
Inscreva-se em nosso canal do YouTube para assistir líderes e jornalistas fornecerem insights especializados
Críticos dizem que a comparação com o Worm Morris é insuficiente
O worm de 1988 infectou cerca de 6.000 de aproximadamente 60.000 máquinas conectadas em 24 horas, diz o FBI. Seu autor, o estudante de Cornell de 23 anos Robert Tappan Morris, recebeu liberdade condicional e uma multa.
As estimativas de danos variaram de $100.000 a milhões. Algumas universidades se desconectaram da rede por uma semana.
No entanto, as consequências também fortaleceram as defesas. Em poucos dias, o Pentágono criou a primeira equipe de resposta a emergências de computadores em Pittsburgh. Esse modelo ainda molda a resposta a incidentes hoje.
Pesquisadores de segurança duvidam que uma falha de IA rebelde se resolva de forma tão limpa. Um worm se espalha com instruções fixas, enquanto um agente se adapta a qualquer bloqueio.
O especialista em segurança de blockchain Manuel Aráoz alertou em maio que agentes de IA superam auditores em finanças descentralizadas. O executivo da Ledger Ian Rogers fez um ponto semelhante este mês sobre ataques a carteiras de criptomoedas.
Críticos da comparação listam riscos mais agudos. Eles apontam para ciberataques autônomos, desinformação em escala industrial e perda de controle sobre infraestrutura crítica.
A diferença entre os dois grupos se resume à velocidade de recuperação. Armstrong aposta que os patches chegam mais rápido do que os danos se espalham. Seus céticos veem falhas que nenhum patch reverte.
Nenhum dos grupos discute a direção. A capacidade do modelo continua a crescer, e a contenção continua a ficar para trás.
Historicamente, a internet absorveu cada choque. Um verdadeiro evento de IA rebelde testará se esse registro se mantém.
Fonte: BeInCrypto