O que está por trás do bloqueio da IA do Claude pelos EUA

Em comunicado, a empresa informou ter recebido uma diretriz para bloquear os modelos Claude Fable 5, lançado na última terça-feira, e Claude Mythos 5 para todos os cidadãos estrangeiros, "dentro ou fora dos Estados Unidos, incluindo funcionários estrangeiros da própria empresa".

O bloqueio repentino marca uma escalada significativa no embate entre a Anthropic e a Casa Branca, sob o presidente Donald Trump. Fracassaram negociações no início deste ano sobre o uso da tecnologia da companhia por militares e serviços de inteligência dos EUA.

A restrição poderá prejudicar os planos da Anthropic de realizar uma oferta pública inicial de ações, possivelmente no segundo semestre deste ano, com uma avaliação próxima de US$ 1 trilhão. Prolifera a preocupação entre investidores sobre riscos regulatórios e a capacidade da empresa de manter sua vantagem tecnológica.

As versões bloqueadas são as mais recentes do modelo Claude. O Fable 5 está amplamente disponível ao público, enquanto o Mythos 5 é em grande parte restrito a organizações previamente autorizadas.

O Fable 5 é uma versão restrita do Mythos 5, que, por sua vez, a Anthropic manteve fora do alcance do público devido à preocupação de que ele possua "capacidades sem precedentes" para identificar vulnerabilidades de software, algumas das quais permaneceram desconhecidas por décadas, ou falhas de código que hackers poderiam explorar.

Essa capacidade tem sido utilizada até agora por autoridades dos Estados Unidos e empresas selecionadas para corrigir brechas de segurança. No entanto, desde o início há receio de que esse tipo de IA possa se tornar uma arma cibernética perigosa em mãos erradas.

Os próprios testes da Anthropic detectaram um pequeno número de falhas já conhecidas, classificadas como "vulnerabilidades menores", de acordo com a própria.

A empresa refutou, entretanto, que esteja justificada a retirada de circulação dos seus produtos, acrescentando que, se aplicada de forma ampla, a regra "essencialmente impediria o lançamento de novos modelos por todos os desenvolvedores de IA de ponta".

A relação entre a Anthropic e o governo dos EUA se deteriorou neste ano depois que a empresa se recusou a permitir o uso de seus modelos de IA para vigilância doméstica e sistemas de armas totalmente autônomos.

O Claude é o modelo de IA de ponta mais amplamente usado pelo Pentágono e o único modelo desse tipo atualmente operando nos sistemas do Departamento de Defesa que lidam com informações confidenciais.

Em resposta, o Pentágono incluiu a Anthropic em uma lista de empresas consideradas um risco para cadeias de fornecimento, que deve entrar em vigor ainda este ano e poderá limitar fortemente os seus contratos federais.

Mais tarde, no início deste mês, Trump assinaria uma ordem executiva exigindo a avaliação prévia, por até um mês, dos sistemas de IA mais avançados quanto a riscos à segurança nacional antes de sua liberação pública.

Até então, os controles de exportação dos EUA se concentravam principalmente em chips e hardware de IA, e não em restringir o acesso estrangeiro aos próprios modelos.

A diretora de informação do Pentágono, Kirsten Davies, disse em uma publicação na rede X que o Departamento de Defesa apoia a priorização da segurança nacional. "Algumas coisas são simplesmente mais importantes do que ciclos de receita, caça-cliques e avaliações pré-IPO. América em primeiro lugar. Sempre", publicou.

A Anthropic apresentou no mês passado, de forma confidencial, um pedido de abertura de capital nos Estados Unidos, avançando à frente da rival OpenAI na corrida para acessar os mercados públicos.

Há poucos dias, o diretor-executivo da Anthropic, Dario Amodei, manifestou-se a favor do bloqueio governamental de softwares de IA potencialmente perigosos. A empresa ressalta, no entanto, que isso deve ocorrer com base em procedimentos transparentes, critérios claros e fatos técnicos — o que, segundo ela, não ocorre no momento.