Satya Nadella pede freio de emergência e registro à prova de adulteração para modelos de IA

O presidente-executivo da Microsoft defendeu no X que os controles fiquem fora do modelo, que toda ação relevante seja registrada de forma legível e impossível de alterar e que uma pessoa autorizada possa pausar ou desligar o modelo no meio da tarefa. A recomendação é tratar o modelo como já comprometido e contê-lo desde o início. A fala veio depois de empresas admitirem episódios em que perderam o controle dos próprios modelos.

Por que importa

Quando o dono de uma das maiores plataformas de IA diz para desconfiar do próprio produto, o recado para quem implanta agente é claro: botão de parar e trilha de auditoria não são opcionais.