Vitalik Buterin não acredita que a crescente preocupação de que ataques cibernéticos com IA possam tornar a segurança digital cada vez mais difícil seja justificada. Em uma publicação recente, o cofundador da Ethereum disse que discorda da ideia de que ataques cibernéticos com IA significam que “a segurança digital está condenada”.
Em vez disso, ele disse que a segurança poderia naturalmente favorecer a proteção assim que as pessoas construírem os sistemas certos e usarem ferramentas de verificação mais robustas.
Hackers de IA e o futuro da segurança digital
Buterin deu um exemplo simples envolvendo inteligência artificial avançada e matemática. Ele disse:
“Se a IA consegue provar Navier-Stokes e o Último Teorema de Fermat, então pode provar a afirmação ‘este programa é seguro’ como um teorema matemático. Mesmo que o programa seja muito complicado.”
No entanto, Buterin enfatizou que definir o que significa “seguro” de fato é muito mais difícil do que parece. Um sistema pode ter muitas questões de segurança diferentes que precisam ser consideradas. As definições de segurança podem se tornar extremamente detalhadas. Elas podem abranger como um invasor poderia interferir em um sistema, como informações poderiam vazar e o que poderia acontecer se diferentes partes do software ou do hardware falhassem ou fossem comprometidas.
Por esse motivo, Buterin disse que é extremamente importante tornar as definições mais compreensíveis para as pessoas. Ele descreveu isso como talvez a única “linguagem de alto nível” que importa no momento. Buterin ainda acredita que, para componentes críticos para a segurança, a definição pode ter uma superfície de ataque muito menor do que a própria implementação.
Verificar se a definição é adequada também pode ser mais simples do que analisar o código diretamente. Ele disse que ferramentas melhores poderiam tornar esse processo ainda mais prático.
Ele vê até uma vantagem em trabalhar com definições. Elas são cumulativas. Se dois grupos tiverem definições diferentes, os desenvolvedores podem provar que um programa satisfaz ambas. Se não for possível satisfazer as duas definições ao mesmo tempo, o conflito fica isolado e se torna uma questão importante a ser tratada pelo projeto.
Verificação do programa inteiro
Segundo o cofundador da Ethereum, o código não funciona dessa maneira. Se um programa for composto por diferentes partes, um bug em qualquer uma delas pode comprometer o programa inteiro. Buterin reconheceu que essa abordagem não funciona tão bem para todos os tipos de software. Em alguns casos, como nos componentes de interface do usuário, a definição pode ser quase tão extensa quanto a implementação.
Mas, segundo ele, a diferença é real em muitos componentes críticos. Ele destacou especificamente protocolos de passagem de mensagens, sandboxes e sistemas criptográficos, como SNARKs e criptografia totalmente homomórfica. Antes, os desenvolvedores muitas vezes verificavam apenas as partes do código que consideravam críticas para a segurança. O restante ficava sem verificação. Embora isso fosse compreensível quando a verificação era difícil e escassa, ele acredita que a IA moderna muda esse cenário.
Para Buterin, portanto, a resposta não é simplesmente esperar que os “mocinhos” encontrem vulnerabilidades antes dos “bandidos”. A estratégia mais importante é tornar o código muito mais resiliente desde o início. Segundo ele, não há futuro para as blockchains, especialmente aquelas voltadas para escalabilidade e privacidade, sem esse tipo de trabalho.
Fonte: CryptoPotato
