Anthropic dá acesso de funcionário a avaliadores externos e abre mão do veto

Seis pesquisadores do METR, organização que testa modelos de ponta, ganharam notebook, mesa e acesso a ferramentas internas da Anthropic no nível das equipes de risco da própria empresa. O METR vai publicar suas avaliações e a Anthropic não pode vetar, só pedir que se apaguem dados de cliente, segredos jurídicos e detalhes de arquitetura. A empresa compara o arranjo ao fiscal que trabalha dentro dos grandes bancos.

Por que importa

Confiar no fornecedor de IA vai depender cada vez mais de quem olha por dentro e pode falar. Na hora de escolher ferramenta, pergunte quem audita e se o resultado é público.