Anthropic leva ao Congresso dos EUA uma lei que pode barrar modelo capaz de matar 50 pessoas

O rascunho prevê barrar o lançamento de um modelo com risco previsível e iminente de mais de 50 mortes ou mais de US$ 1 bilhão em danos, vindo de arma biológica, de ataque cibernético ou de o modelo escapar do controle de quem o fez. Avaliadores independentes, registrados no Departamento de Comércio, teriam 72 horas para avisar o governo, que pediria a um juiz para suspender o lançamento. As agências federais ficariam proibidas de barrar um modelo por conta própria.

Por que importa

Pela primeira vez um laboratório grande propõe um freio com número e prazo. Mas quem paga o avaliador é o próprio laboratório, e essa conta ainda não fecha.