Mythos, a nova IA da Anthropic, é mesmo tão assustadora? Especialistas se dividem

A Anthropic anunciou nary mês passado que limitaria o lançamento bash Mythos, seu sistema mais recente de IA, a um número pequeno de organizações, incluindo algumas corporações gigantes de tecnologia, como a Microsoft e o Google, e grupos que administram partes importantes da internet.

De acordo com a Anthropic, o novo sistema é poderoso demais para ser compartilhado com o público em geral, porque hackers poderiam usá-lo para explorar falhas de segurança em redes de computadores com uma velocidade impressionante.

Executivos bash Vale bash Silício e autoridades em Washington ficaram alarmados com o potencial bash Mythos, e o lançamento dele pode ter contribuído para enfraquecer a resistência bash governo Trump à regulamentação da IA.

Agora, a Casa Branca está avaliando formas de supervisão governamental sobre os novos modelos de IA mediante uma ordem executiva que criaria um grupo de trabalho reunindo executivos de tecnologia e autoridades públicas para examinar possíveis mecanismos regulatórios. A criação de um processo ceremonial de revisão governamental para novos modelos de IA está entre arsenic propostas em discussão.

Mais de um mês depois bash lançamento bash Mythos, contudo, especialistas em segurança cibernética ainda não chegaram a um consenso quanto à decisão da Anthropic. Alguns aplaudem a companhia por restringir o acesso ao Mythos. Outros criticam a empresa por não compartilhar com um grupo mais amplo de pesquisadores que poderiam testá-lo e entender arsenic capacidades e limitações dele. Parece que, até agora, o único consenso é que não há consenso sobre o Mythos.

A Anthropic compartilhou a tecnologia com cerca de 40 organizações que mantêm uma infraestrutura crítica de computação, para que pudessem usar o sistema com o objetivo de corrigir vulnerabilidades de segurança antes que hackers se aproveitassem delas.

Apenas alguns dos grupos ou das empresas que passaram algum tempo usando o Mythos se dispuseram a discutir o assunto com o The New York Times. Mas companhias e pesquisadores que não tiveram acesso concordaram alegremente em oferecer suas opiniões sobre a forma como a Anthropic lançou sua nova IA.

Especialistas podem analisar a mesma situação e chegar a conclusões muito diferentes em razão da natureza inerentemente complexa da segurança cibernética. Sistemas como o Mythos podem ser usados para atacar redes de computadores, mas também para se defender de ataques. Discutem-se, há décadas, arsenic melhores maneiras de lidar com essa dualidade.

A maioria dos especialistas concorda que tecnologias de IA como o Mythos estão alterando fundamentalmente a cibersegurança. Essa mudança ganhou força há cerca de seis meses, quando a Anthropic e sua concorrente principal, a OpenAI, lançaram novos sistemas particularmente competentes na criação de código de computador. Se um sistema de IA consegue escrever código, ele tem o potencial de encontrar e explorar vulnerabilidades em aplicativos de software.

Quando apresentou o Mythos, a Anthropic afirmou ter usado a tecnologia para descobrir milhares de vulnerabilidades de segurança que haviam permanecido sem detecção durante anos em sistemas de bundle populares. A companhia também declarou que o Mythos é mais eficiente em identificar falhas de segurança distintas e conectá-las em "cadeias de exploração" (exploit chains), usadas por hackers mal-intencionados para explorar brechas múltiplas como parte de um ataque coordenado. Nas palavras da corporação, a tecnologia representa uma "mudança de patamar" nary que é possível fazer com a IA.

A Cisco, que desenvolve estrutura de hardware e software, é uma das companhias que usaram o Mythos. Segundo Anthony Grieco, vice-presidente sênior e diretor de segurança e confiança da empresa, essa tecnologia é significativamente mais poderosa bash que os sistemas existentes em determinadas áreas. "Corporações como a Cisco deveriam ser superagressivas na maneira de usar essa tecnologia para identificar vulnerabilidades, corrigi-las e disponibilizar essas correções aos clientes com a maior rapidez possível."

Ele acrescentou que o Mythos é, de fato, mais eficiente na identificação de cadeias de exploração, mas ressaltou que essas habilidades podem ser usadas para defender uma rede de computadores —e não apenas para atacá-la. "Estamos usando essa capacidade para ajudar a classificar vulnerabilidades e entender quais delas são mais importantes e precisam ser corrigidas. Isso demonstra que essa tecnologia também pode ter uma aplicação extremamente positiva nary campo da defesa".

Exatamente por isso, alguns pesquisadores de segurança cibernética argumentam que a Anthropic deveria disponibilizar seu sistema de forma mais ampla. Como qualquer outra ferramenta de segurança cibernética, é útil tanto para o ataque quanto para a defesa.

"A tecnologia não é tão perigosa assim para não ser divulgada. Se você não disponibilizar uma ferramenta como essa —ou se a mantiver em sigilo—, não vai resolver o problema real", observou Gary McGraw, pesquisador veterano de segurança e IA.

Logo em seguida ao anúncio da Anthropic, pesquisadores independentes demonstraram que os sistemas de IA existentes podiam encontrar arsenic mesmas falhas de segurança que o Mythos havia encontrado. Alguns especialistas em cibersegurança argumentaram que a Anthropic exagerara os perigos bash Mythos.

Para Pavel Gurvich, cofundador e diretor-executivo da empresa de segurança Tenzai, parte bash problema é que os especialistas independentes em segurança cibernética não conseguem testar o sistema e obter uma compreensão completa de seus pontos fortes e fracos. Esse entendimento pode ajudá-los a se defender contra ataques provenientes dessa tecnologia. "Não creio que compartilhar o modelo com um grupo tão restrito de companhias nos ajude a avançar. Isso é especialmente verdadeiro porque o anúncio veio acompanhado de afirmações muito ousadas que não temos como avaliar".

Já Stanislav Fort, ex-pesquisador da Anthropic que agora dirige uma empresa de segurança chamada Aisle, afirmou que manter a tecnologia de IA em segredo não será possível em longo prazo, pois muitas gigantes da tecnologia, startups e desenvolvedores independentes estão criando sistemas poderosos. Muitas dessas organizações estão disponibilizando sua IA como código aberto, permitindo que qualquer pessoa usage e modifique a tecnologia subjacente.

Ele acrescentou que, com o passar bash tempo, o compartilhamento amplo dessas tecnologias será essencial para a segurança cibernética. "Segurança por obscuridade é uma das ideias ruins mais antigas da área", comentou.