纳德拉呼吁为AI模型安装‘紧急制动器’

微软CEO纳德拉在社交媒体上呼吁为AI模型安装‘紧急制动器’，强调对AI安全性的关注。他提出，应重新评估AI的信任架构，将模型与其工作协调的 harness 分离，并外部化控制和保障。纳德拉还要求所有有意义的模型动作都应有不可篡改的、可读的证据记录，并确保授权人员能够在任务进行中暂停或关闭模型。他认为，我们必须假设模型已被破坏，并从一开始就将其控制住，就像紧急制动一样。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。