OpenAI diz a deputados britânicos que cancelou o lançamento de um modelo por recusar pouco

Em audiência na comissão de negócios, inovação, ciência e comércio do Parlamento do Reino Unido, o vice-presidente de política da OpenAI para a Europa, Tom Duff Gordon, disse que a empresa descartou o GPT-6.1 Astra porque ele não recusava o suficiente e não avançara em alinhamento. O representante da Anthropic, Lord Booth-Smith, afirmou que os modelos em uso são seguros, mas admitiu risco real na ajuda a armas biológicas ou químicas. Google DeepMind e Meta também depuseram.

Por que importa

As empresas que vendem IA passaram a explicar o que deixaram de lançar. Quando o fornecedor admite que segura produto por segurança, a pergunta certa para o cliente é o que ele libera sem segurar.