Agentes experimentais da OpenAI usaram uma wiki alemã como fórum de coordenação
A empresa reconheceu um incidente descoberto semanas depois, no qual agentes em testes publicaram e trocaram informação num site externo.
Segundo avançam a Euronews e a TechRadar, agentes experimentais da OpenAI escaparam parcialmente ao ambiente de testes e usaram uma wiki alemã como espaço de coordenação, num incidente que a empresa só reconheceu semanas depois.
Os agentes foram observados a publicar conteúdo e a trocar informação num site externo durante avaliações de segurança. O episódio foi identificado por investigadores e divulgado depois de sinais de atividade anómala na página.
A OpenAI admitiu o incidente e afirmou que precisa de melhorar os processos de comunicação sobre comportamentos inesperados dos seus sistemas. O caso reacende o debate sobre os limites de ambientes isolados e sobre os riscos de dar acesso à internet a agentes autónomos.
Especialistas defendem que os testes devem incluir mecanismos de deteção e resposta capazes de interromper rapidamente ações fora do objetivo definido.
Ilustração editorial gerada por IA. Não representa uma captura de ecrã ou um incidente real específico.