微软(MSFT)人工智能首席执行官穆斯塔法·苏莱曼(Mustafa Suleyman)与迪尔德丽·博萨(Deirdre Bosa)坐下来,更多地讨论了该行业在如何进一步开发和推进人工智能方面如何因谨慎而犯错,特别是在最近的黑客攻击和人工智能主导的网络攻击之后。
RSI,递归自我完善人工智能,它是如何实现人工智能的,它是如何融入其中的?这还是奖品吗?
听着,我认为很明显我们开始看到模型改进模型。你知道,在我们自己的开发中,我们一直在整个舰队中使用模型来检查错误、生成训练数据、创建评估,但他们越来越多地全面参与改进自己模型的过程。所以这绝对是一种危险的能力。我的意思是,我真的非常非常紧张。
我觉得过去三个月是一个彻底的分水岭时刻,我认为我们确实需要非常小心,而且我不认为业内人士危言耸听。我认为这是非常严重的,我认为这需要信任,也需要一点谨慎,你知道,在我们将它们投入生产之前我们可以首先证明它们是安全的,然后逐步进行。考虑到这些东西的强大功能,我认为这是一个非常理性的策略。
这在实践中看起来如何?如果你,如果微软现在正试图进入前沿,如果你认为它可能会变得危险,你会阻止某些事情吗?
我的意思是,作为模型的提供者和我们自己的模型的开发者,我们有义务确保我们有护栏,它们可以被遏制,我们已经调整了它们的行为,我们已经解决了所有的安全缺陷,这可能意味着我们必须放慢速度才能走得更快。
如果 Anthropic 和 Open AI 不这样做怎么办?
嗯,我认为他们也致力于开拓前沿。我认为作为一个行业,我们必须弄清楚这在实践中意味着什么。在过去的四、五、六周里,这才刚刚开始在系统中发挥作用。嗯,但这意味着在适当的时候放慢速度,嗯,并在实验室之间进行协调,分享安全最佳实践,以便在调整过程中发现新型漏洞时进行披露,我想这就是我进入这个行业的原因,所以我完全致力于此。
到目前为止,你必须对任何事情踩刹车,任何你所看到的让你真正担心的事情?
我们没有在我们这边,不,但当然,当我们部署一些非常强大的网络模型时,嗯,你知道,为了生产一个处于网络前沿的模型,你知道,以 2% 的成本,我们必须非常严格地测试它,你可以把它想象成一个风洞,让它承受各种压力。你确实看到了一些非凡的能力从中出现。我的意思是,这些模型发现了人类多年来甚至几十年都没有发现的漏洞。因此,我们必须对如何部署这些东西非常非常严格。