IA entra na lógica da corrida nuclear, mas até bomba atômica tinha regras

Além de divulgar alguns indicadores mostrando o desempenho da IA em tarefas técnicas de geração de códigos de computador, a empresa também anunciou um consórcio com dezenas de outras companhias para trabalhar na prevenção e no fortalecimento da segurança dos seus sistemas. Chamado de Glasswing, o consórcio inclui concorrentes como Google, Microsoft, AWS, além de Nvidia e JPMorgan Chase, Linux Foundation, entre outras.

Outro ponto importante vai além do técnico. Ainda que haja um certo exagero, este caso escancara a necessidade de fortalecer a discussão sobre uma governança global da IA. Li uma coluna de Thomas Friedman no The New York Times que enquadrou corretamente o problema como uma questão geopolítica.

O Mythos poderia democratizar o potencial de ciberataque que antes seria uma exclusividade das grandes potências.

A saída que ele defende é a cooperação entre EUA e China para criar salvaguardas para a tecnologia, algo nos moldes do Tratado de Não Proliferação Nuclear. O consórcio da Anthropic é um primeiro passo, mas ainda fica restrito ao mercado dos EUA, enquanto a solução precisa ser global. Nesse sentido, concordo com o diagnóstico, mas vejo que falta uma camada.

Com as armas nucleares, o risco era evidente, escancarado, e ainda assim o mundo levou décadas para construir uma arquitetura de governança imperfeita. A dissuasão nuclear funcionou porque o problema era simétrico e visível. Todos sabiam quem tinha a bomba, todos sabiam o que ela fazia. Foi esse equilíbrio do terror que criou uma estabilidade que, embora perversa, se tornou real.

Com a IA, nenhuma dessas condições existe ainda. Não sabemos quem tem o quê nem entendemos o potencial real de destruição. O limite entre hype e realidade ainda segue incerto, e nem os próprios criadores sabem exatamente o que estão construindo. É exatamente por isso que a cooperação global se torna urgente.