Anthropic bloqueia tentativas de usar IA em investigação ligada a armas biológicas
A empresa diz ter interrompido cinco casos em que os seus modelos poderiam apoiar investigação para desenvolver agentes biológicos perigosos.
Segundo avançam a RTP e a Associated Press, a Anthropic bloqueou cinco tentativas de utilizar os seus modelos de inteligência artificial em investigação que poderia contribuir para o desenvolvimento de armas biológicas.
A empresa descreveu os casos num relatório de segurança publicado esta quinta-feira. A Anthropic afirma que não conseguiu determinar em todos os episódios se os objetivos eram legítimos ou maliciosos, mas decidiu interromper o acesso perante o risco de os modelos ajudarem a desenvolver agentes patogénicos perigosos.
O relatório abrange operações identificadas entre dezembro de 2025 e agosto de 2026 e inclui também casos de ciberataques, vigilância e campanhas de influência. A empresa diz ter reforçado as salvaguardas dos modelos mais recentes e partilhado informação com autoridades e parceiros do setor.
A Anthropic sublinha que os episódios não provam que tenha sido criada uma arma biológica e que as avaliações de capacidade não permitem concluir que os utilizadores conseguiriam concretizar esse objetivo no mundo real.
Ilustração editorial gerada por IA.