Anthropic detecta uso do Claude em pesquisas biológicas com possível aplicação em armas
A Anthropic identificou cinco episódios nos quais seus modelos Claude foram empregados em pesquisas biológicas consideradas capazes de contribuir, direta ou indiretamente, para o desenvolvimento de armas. Os casos envolveram chikungunya, influenza aviária, orthopoxvírus, peptídeos de veneno e toxinas.
A empresa, porém, ressalta que não conseguiu comprovar a intenção dos pesquisadores. Os trabalhos poderiam estar relacionados tanto a finalidades militares quanto a estudos legítimos para criação de vacinas, tratamentos e métodos de prevenção. Por esse motivo, a Anthropic evitou classificar os episódios como programas de armas biológicas.
Os incidentes foram incluídos em um relatório de inteligência de ameaças que reúne abusos identificados entre dezembro de 2025 e agosto de 2026. Em parte das ocorrências, os usuários teriam tentado esconder a origem das solicitações, driblar limitações geográficas e encaminhar perguntas recusadas para sistemas com políticas de segurança menos rigorosas.
Pesquisa sobre chikungunya foi o caso mais sensível
O episódio considerado mais preocupante envolveu uma proposta financiada por um Estado para realizar pesquisas de ganho de função com o vírus chikungunya. De acordo com a Anthropic, o projeto estaria associado a um instituto militar e buscava identificar mutações que poderiam tornar o vírus mais perigoso ou favorecer sua transmissão por mosquitos.
Experimentos de ganho de função são classificados como pesquisas de uso dual. Embora possam ampliar a capacidade de um agente infeccioso, também são utilizados para antecipar mutações, avaliar riscos epidemiológicos e desenvolver vacinas ou terapias mais eficazes.
A investigação indicou que o trabalho teria avançado além da fase de planejamento. Em uma etapa posterior, o Claude foi utilizado para auxiliar na edição e na organização de resultados produzidos pelo projeto. Ainda assim, a empresa não concluiu que havia uma intenção comprovada de transformar os resultados em armamento.
Contas sintéticas e roteamento internacional
Para contornar os mecanismos de proteção, os envolvidos teriam recorrido a uma plataforma intermediária capaz de encaminhar o tráfego por uma infraestrutura localizada nos Estados Unidos. Também foram identificados indícios de uso de revendedores do mercado paralelo e contas sintéticas, criadas para dificultar a identificação dos usuários reais.
Quando determinadas solicitações sobre biologia eram bloqueadas, algumas tentativas eram transferidas automaticamente para modelos menos restritivos. Esse comportamento revela um problema que vai além do conteúdo de uma única pergunta: o risco pode surgir da combinação entre ferramentas, provedores e serviços intermediários.
A Anthropic bloqueou solicitações consideradas perigosas e posteriormente suspendeu contas relacionadas às atividades. O caso reforça a importância de avaliar não apenas o texto enviado ao modelo, mas também o histórico de interações, a origem do tráfego e o padrão de comportamento do usuário.
Outros estudos envolveram vírus e toxinas
Em outra ocorrência, os sistemas da empresa foram usados durante semanas no planejamento de experimentos relacionados à influenza aviária. A análise não informou quais eram os objetivos finais do trabalho, mas classificou a sequência de solicitações como relevante para a avaliação de risco biológico.
Também foi identificado o uso do Claude Opus 5 na preparação de um pedido de financiamento sobre mecanismos de evasão do sistema imunológico por orthopoxvírus. Os nomes dos pesquisadores, das instituições e dos países envolvidos não foram divulgados.
Os demais episódios estavam relacionados a peptídeos de veneno e toxinas. Esses temas podem fazer parte de pesquisas farmacêuticas e biomédicas, mas também apresentam potencial de aplicação nociva quando combinados com informações sobre produção, otimização ou disseminação.
Modelos mais avançados ampliam o desafio
Segundo a Anthropic, versões anteriores do Claude estavam muito abaixo do nível necessário para oferecer assistência relevante a pesquisadores sofisticados envolvidos em atividades biológicas perigosas. Com os modelos mais recentes, essa avaliação mudou.
A evolução das ferramentas de IA permite resumir literatura científica, comparar hipóteses, revisar textos técnicos, sugerir desenhos experimentais e organizar grandes volumes de dados. Essas capacidades podem acelerar descobertas médicas, mas também reduzem o tempo e o conhecimento necessários para iniciar trabalhos de alto risco.
Por isso, a empresa reforçou as barreiras aplicadas a consultas sobre biologia de uso dual. A dificuldade está em criar filtros que impeçam assistência operacional perigosa sem bloquear pesquisas legítimas sobre doenças infecciosas, imunologia, epidemiologia e desenvolvimento de medicamentos.
Por que bloquear apenas prompts não é suficiente
Uma solicitação isolada raramente revela toda a finalidade de um projeto. Uma pergunta sobre uma proteína, uma mutação viral ou um mecanismo de resistência pode ser perfeitamente válida em um laboratório acadêmico. O risco aparece quando várias perguntas são combinadas em uma sequência coerente, voltada para aumentar a capacidade de um patógeno ou toxina.
Outro obstáculo é a utilização de aplicações que integram diferentes modelos de inteligência artificial. Quando um provedor recusa determinada solicitação, o sistema pode encaminhá-la automaticamente para outro serviço. Se esse segundo modelo tiver controles mais fracos, a restrição original perde eficácia.
Essa arquitetura exige mecanismos de segurança compartilhados entre plataformas, registros de auditoria e políticas capazes de acompanhar a solicitação durante todo o fluxo. Sem esse acompanhamento, o usuário pode explorar as diferenças entre os fornecedores para obter uma resposta que seria recusada em um ambiente isolado.
Indicadores de comportamento podem ajudar na detecção
A análise de risco precisa considerar fatores além do conteúdo textual. Tentativas repetidas de reformular uma pergunta bloqueada, uso de múltiplas contas, alteração frequente de localização, roteamento por terceiros e ocultação da origem podem indicar uma tentativa de escapar dos controles.
Nenhum desses sinais, isoladamente, comprova má-fé. Pesquisadores legítimos também podem trabalhar remotamente, utilizar serviços internacionais ou testar diferentes ferramentas. O ideal é combinar os indicadores com revisão humana, contexto institucional e mecanismos de contestação para reduzir falsos positivos.
Empresas de IA também podem adotar limites graduais. Em vez de simplesmente permitir ou bloquear uma interação, o sistema pode restringir detalhes operacionais, solicitar comprovação de vínculo institucional ou encaminhar o caso para uma análise especializada.
Governança e responsabilidade compartilhada
A proteção contra o uso indevido de IA em biologia não depende apenas dos desenvolvedores dos modelos. Laboratórios, universidades, empresas de biotecnologia, provedores de nuvem e autoridades reguladoras também precisam estabelecer procedimentos claros.
Instituições que utilizam IA para pesquisa devem manter registros, controlar permissões, treinar equipes e revisar projetos com possível uso dual. Também é importante separar tarefas administrativas, como revisão de linguagem, de atividades que possam oferecer instruções práticas para manipulação de agentes perigosos.
O caso evidencia que a capacidade científica dos modelos está avançando mais rapidamente do que alguns mecanismos tradicionais de controle. Quanto mais útil a IA se torna para a pesquisa, maior é a necessidade de combinar inovação com rastreabilidade, avaliação de risco e supervisão especializada.
A principal conclusão da Anthropic é que não basta perguntar se um modelo consegue responder a determinado tema. É necessário avaliar como ele está sendo usado, qual é a sequência das solicitações, quem está por trás da conta e se o sistema está sendo empregado para superar barreiras de segurança. Ao mesmo tempo, qualquer acusação precisa ser baseada em evidências, já que pesquisas de uso dual não permitem presumir intenção criminosa apenas pelo assunto investigado.