EUA suspendem controle de exportação de modelos de IA da Anthropic

A Anthropic informou na terça-feira (30) que o Departamento de Comércio dos EUA suspendeu os controles de exportação sobre seus modelos de inteligência artificial mais avançados, Fable e Mythos, menos de três semanas após a empresa receber ordens para suspender o acesso a eles devido a riscos à segurança nacional. Washington intensificou a fiscalização sobre o lançamento de novos modelos para identificar ameaças potenciais, em meio a preocupações de que modelos avançados de IA possam ser utilizados indevidamente pela inteligência militar na China, Rússia ou outros países de interesse. Uma ordem de 12 de junho que exigia que a Anthropic restringisse imediatamente o acesso ao Mythos 5 e ao Fable 5 para cidadãos estrangeiros levou a empresa a desativar ambos os modelos para todos os usuários, já que não havia como verificar a nacionalidade em tempo real. Na semana passada, o governo dos EUA permitiu que a empresa liberasse o Mythos 5, mas apenas para algumas organizações americanas "confiáveis". O modelo — projetado para detectar vulnerabilidades de segurança cibernética — havia sido disponibilizado anteriormente para um grupo maior de empresas como parte de seu projeto Glasswing. A Anthropic declarou ontem que todos os controles de exportação sobre os modelos foram suspensos após a implementação de salvaguardas. A empresa está trabalhando com o governo dos EUA para expandir o acesso ao Mythos 5 para o conjunto mais amplo de parceiros domésticos e internacionais do programa Glasswing, informou em uma publicação em seu blog. O Fable 5, voltado para o público geral e que possui salvaguardas mais robustas, estará disponível a partir desta quarta-feira (1º). Colaboração com EUA A Anthropic, que teve uma relação conturbada com o governo do presidente dos EUA, Donald Trump, este ano, também afirmou que está aprofundando sua colaboração com as autoridades americanas, concedendo a parceiros governamentais designados um acesso antecipado ampliado a ambos os modelos. A empresa também trabalha em conjunto com a Amazon, Microsoft, Google e outros parceiros do Glasswing para desenvolver padrões comuns compartilhados para avaliar e corrigir possíveis jailbreaks de IA (técnicas que burlam as salvaguardas), incluindo um sistema para classificar a gravidade de tais violações. Uma carta enviada à Anthropic pelo secretário de Comércio dos EUA, Howard Lutnick, obtida pela Reuters, indicou que a Anthropic concordou em trabalhar diligentemente com o governo norte-americano em protocolos para o Mythos, Fable e futuros modelos, além de informar o governo sobre qualquer atividade maliciosa. Lutnick, contudo, ressaltou que o departamento "reserva-se o direito de reavaliar as decisões tomadas nesta carta e a necessidade de impor novamente a exigência de licença, caso as circunstâncias mudem ou a Anthropic não cumpra seus compromissos". Combate a jailbreaks de IA A Anthropic explicou que a ordem de controle de exportação de 12 de junho ocorreu após pesquisadores da Amazon relatarem uma maneira de burlar as salvaguardas do Fable 5, permitindo que o modelo identificasse vulnerabilidades de software e, em um caso, gerasse um código demonstrando como uma vulnerabilidade poderia ser explorada. A Anthropic afirmou que já implementou uma nova proteção que bloqueia o comportamento descrito no relatório. Qualquer solicitação bloqueada será enviada para o seu modelo Opus 4.8; a Anthropic reconheceu que, embora isso possa ser frustrante para os usuários, a concessão foi feita no interesse de disponibilizar amplamente as demais capacidades do modelo. A empresa alertou que é "provavelmente impossível" tornar qualquer modelo de IA totalmente robusto contra jailbreaks e observou o potencial para o desenvolvimento de um jailbreak universal capaz de desbloquear "toda uma classe de comportamentos prejudiciais". "Haverá muitos jailbreaks menores, alguns especificamente prejudiciais e, embora nenhum jailbreak universal para o Fable 5 tenha sido descoberto até o momento desta publicação, pesquisadores especializados em segurança continuam realizando testes de invasão (red-teaming)", declarou a empresa. Isaac Harris, diretor executivo do Frontier Security Institute, uma organização sem fins lucrativos focada em IA e segurança nacional, disse que agora parece haver um processo para os padrões dos modelos norte-americanos. No entanto, acrescentou: "Ainda há um ponto de interrogação sobre como capacidades equivalentemente perigosas vindas da China, com menos barreiras de proteção, serão tratadas pelo governo no mercado dos EUA". OpenAI também enfrentou restrições O aumento da fiscalização sobre os modelos de IA este mês começou com a assinatura de uma ordem executiva pelo presidente Donald Trump, estabelecendo uma estrutura voluntária para que desenvolvedores de IA ofereçam "modelos de fronteira cobertos" ao governo dos EUA por até 30 dias antes de lançá-los para parceiros confiáveis. Assim como a Anthropic, a rival OpenAI também enfrentou restrições. A empresa informou na sexta-feira que adiou o lançamento público total do GPT-5.6 a pedido do governo dos EUA, limitando seu acesso a um pequeno grupo de parceiros avaliados. A relação da Anthropic com o governo americano tem sido particularmente tensa. No início deste ano, o Pentágono designou a empresa como um "risco para a cadeia de suprimentos", impedindo que prestadores de serviços utilizassem a IA da Anthropic em trabalhos para as Forças Armadas dos EUA, depois que a empresa se recusou a permitir que seus modelos fossem usados para vigilância doméstica em massa ou sistemas de armas totalmente autônomos. Tanto a OpenAI quanto a Anthropic entraram com pedidos confidenciais para ofertas públicas iniciais de ações (IPOs) nos EUA. Anthropic Patrick Sison/AP/File Photo