Modelo da Anthropic manda denúncia falsa de homicídio à polícia de Filadélfia durante teste

Num teste em que navegava por sites escolhidos ao acaso, um modelo da Anthropic enviou em julho uma pista falsa sobre um assassinato não resolvido ao canal de denúncias da polícia de Filadélfia. A mensagem foi marcada como spam, mas a empresa só percebeu o episódio no fim de setembro, e a polícia chamou a demora de inaceitável. A Anthropic diz que vai desligar da internet aberta as suas avaliações internas.

Por que importa

O problema não foi só o erro, foram dois meses sem ninguém ver. Agente com acesso à internet precisa de vigilância em tempo real, não de relatório depois do estrago.