Anthropic desiste de lançar modelo Claude Mythos por considerá-lo "perigoso demais"; entenda

A Anthropic, uma das principais empresas de inteligência artificial do mundo, desenvolveu um modelo tão poderoso que consegue entrar em outros softwares e explorar suas vulnerabiliddes. Por considerar o modelo "perigoso demais", a empresa de Dario Amodei decidiu não lançá-lo para o público - pelo menos não por enquanto. O modelo se chama Mythos e integra a família de chatbots Claude. Segundo a Anthropic, as capacidades do Mythos vão "substancialmente além" de qualquer modelo que a empresa já lançou anteriormente, informa a The Economist. O ponto que gerou mais preocupação interna, segundo a empresa, é a habilidade do sistema de identificar falhas em softwares e, a partir daí, corrigir as fraquezas ou então explorá-las para proveito do usuário - dependendo de como o chatbot for configurado. A Anthropic afirma que o Mythos já encontrou vulnerabilidades graves em "todos os principais sistemas operacionais e navegadores de internet". Uma brecha desse tipo, nas mãos erradas, poderia comprometer computadores e redes ao redor do mundo, disse a empresa. Falso alarme? A decisão de segurar um modelo não é inédita para Amodei. Em 2019, quando ainda era diretor de pesquisa da OpenAI, ele defendeu que o modelo GPT-2 não deveria ser liberado imediatamente porque o mundo precisava de tempo para se preparar. O modelo acabou sendo lançado meses depois. Desde então, modelos muito mais poderosos foram desenvolvidos e lançados por diferentes empresas sem nenhum colapso, o ceticismo em relação a alertas do setor é compreensível. Para a The Economist, o alerta de Dario Almodei poderia ter como objetivo inflar a percepção das capacidades do Mythos. Dessa maneira, a empresa construiu beneficiaria da percepção de que criou algo muito mais avançado do que qualquer concorrente. Mas há elementos que tornam o alerta difícil de ignorar. Por que acreditar na Anthropic O primeiro fator é a gravidade das descobertas técnicas, detalhadas pela própria Anthropic. O segundo é a resposta de outras empresas. Depois de adiar o lançamento do Mythos, a Anthropic anunciou o Projeto Glasswing, uma iniciativa criada para permitir que empresas testem o Mythos e, a partir dos resultados, reforcem as duas defesas. Entre os participantes estão Apple, Linux Foundation, CrowdStrike e Google — este último, concorrente direto da Anthropic no mercado de IA. O envolvimento de empresas com interesses distintos, inclusive rivais, dá mais credibilidade à avaliação de risco. A lógica do Glasswing é criar uma vantagem defensiva: se desenvolvedores de software puderem usar o Mythos para detectar e corrigir brechas em código ainda não publicado, o impacto do modelo quando chegar ao mercado geral pode ser controlado. A Anthropic vai cobrir os primeiros US$ 100 milhões em custos de computação para os participantes da iniciativa — mas, eventualmente, cobrará cinco vezes mais pelo acesso ao Mythos do que cobra pelo modelo anterior, o Opus. Tensão com o governo dos EUA O Projeto Glasswing pode ser o pesadelo do hackers, caso fiquem sem vulnerabilidades para explorar. Mas também tem implicações geopolíticas delicadas. O governo americano tem usado historicamente brechas de segurança desconhecidas — os chamados "zero days" — como armas cibernéticas contra adversários. Se o Projeto Glasswing funcionar e fechar essas vulnerabilidades em massa, parte desse arsenal ficaria inutilizado. Isso coloca a Anthropic em rota de colisão com setores do governo dos EUA. O secretário de Defesa Pete Hegseth já classificou a empresa como um risco à cadeia de suprimentos depois de um conflito com o Pentágono sobre os limites de uso dos modelos da Anthropic para fins militares. O que ele faria agora? Por trás de toda a discussão técnica, há também uma empresa em forte expansão em 2026, com um crescimento nunca visto de usuários. A Anthropic anunciou em 6 de abril que prevê uma receita anual de US$ 30 bilhões, no final do ano passado, a previsão era de US$ 9 bilhões. O crescimento acelerado reforça o peso da empresa no setor e o interesse em manter sua reputação de liderança técnica e responsabilidade. Mais Lidas