原文标题：Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
简介
微软首席执行官萨蒂亚·纳德拉 (Satya Nadella) 是最新一位就如何提高人工智能安全性提出长篇想法的科技高管。
在周六早上的 X 帖子中，纳德拉写道，是时候“退后一步，评估人工智能的信任架构”了。
纳德拉写道：“我们不能将超级智能视为一组嵌套的黑匣子，而简单地接受或拒绝它的建议、答案和行动。”他使用了特朗普政府对人工智能的首选术语。
正如纳德拉所概述的，这种方法“意味着将模型与协调其工作的工具分开”，以及“外部化控制和保障措施”。他还呼吁“每一个有意义的模型操作”都用“防篡改的人类可读证据”记录下来，并且“授权人员”始终能够“在任务中暂停或关闭模型”。
“我们必须假设模型受到损害，并从一开始就遏制它，”他说。 “把它想象成紧急刹车。”
纳德拉发表上述言论之际，领先的人工智能公司承认越来越多的事件似乎使他们失去了对模型的控制，而且在 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 发布了一项更加谨慎的人工智能开发计划之后。