IA 'perigosa demais para ser lançada' é liberada; veja reações e o que muda

*O Fable 5 vem com "travas" extras: perguntas ligadas a cibersegurança, biologia e química podem ser bloqueadas ou redirecionadas para o Claude Opus 4.8, um modelo menos potente e apresentado como mais seguro.

*Segundo a Anthropic, menos de 5% das sessões acionam esse redirecionamento; em testes citados pela empresa, 95% das conversas ficam inteiramente no Fable 5.

*Em paralelo, a Anthropic também está liberando o Claude Mythos 5 (com menos restrições) para um grupo limitado de organizações via Projeto Glasswing, incluindo parceiros de cibersegurança e colaboração com o governo dos EUA.

*A empresa diz que vem ampliando esse grupo: o NYT relata que a versão inicial do Mythos foi compartilhada com cerca de 40 organizações de infraestrutura crítica e que a Anthropic planeja expandir o acesso; o Guardian afirma que o programa já reúne cerca de 200 organizações em mais de 15 países.

*O Fable 5 chega mais caro: custa US$ 10 por milhão de tokens de entrada e US$ 50 por milhão de tokens de saída - aproximadamente o dobro do Opus 4.8. Tokens são "pedaços de texto" usados para medir e cobrar o uso da IA.

*Benchmarks citados nas reportagens e por empresas do setor colocam o Fable 5 no topo em desempenho geral e, especialmente, em programação e matemática; o NYT cita testes da Vals AI com ligeira vantagem de 5% sobre o Opus 4.8, e a Anthropic relata caso de uso da empresa Stripe de uma migração grande de código que duraria 2 meses feita em um dia.

IAgora?

A Anthropic adicionou mais uma camada de incoerência entre seus discursos e ações: a mesma empresa que há poucos dias pediu uma "pausa global" no desenvolvimento de IA abre ao público um modelo tido há três meses como "poderoso e perigoso demais para ser lançado".

Incoerências à parte, testes iniciais apontam que o modelo de fato executa ações assombrosas e é um grande avanço da IA. No X, divulgadores e pesquisadores mostraram feitos exuberantes - como gerar jogos completos em apenas poucas horas de trabalho (veja abaixo alguns casos).

Para o usuário comum, que ainda usa a IA como um chatbot em busca de conselhos ou ajuda prática, o avanço sentido não será tão grande. No entanto, em meio a abertura de capitais, a briga de verdade das empresas de IA está entre quem paga o preço da tecnologia: usuários corporativos e, principalmente, desenvolvedores de software.

O Fable 5, primeiro lançamento desde que a Anthropic oficializou que o IPO está próximo, também marca uma mudança na metodologia da empresa: ele só poderá ser utilizado por assinantes nos próximos 15 dias - após isso, apenas um uso no esquema de "consumo de créditos" que vai além do preço já pago pela assinatura. É mais um sintoma de que o uso da IA de fronteira tende a ficar mais caro e segregado nos próximos meses.

O que o mundo está dizendo sobre isso

A Anthropic está lançando uma versão do Mythos com "camisa de força", que pesquisadores acreditam ser segura para uso amplo e que depende de tecnologia mais antiga para parte do que faz.
NYT

Todo laboratório chama seu lançamento mais recente de "o melhor modelo do mundo". O raro é o resto do mundo da IA parecer concordar, como agora. Fable/Mythos entregou o que prometia nos benchmarks, mas agora a pergunta vira custo e acesso, com muitas restrições de conteúdo e o dia 22 de junho como o corte antes da dor dos créditos.
Newsletter The Rundown

Aqui está a matemática da eficiência: os tokens do Fable custam o dobro. Mas, em esforço máximo, ele roda a $3,67 por tarefa. Em fluxos de trabalho reais, isso é apenas 17% a mais do que o Opus. Recuperação e eficiência são a nova fronteira.
Wade Foster, CEO do Zapier, no X

A era do subsídio das empresas de IA para uso dos seus sistemas acabou
Sam Ragsdale, CEO da Merit Systems, no X