内特·苏亚雷斯 (Nate Soares) 认为,为人工智能已经消灭所有人的未来储蓄是愚蠢的。

作为前谷歌和微软工程师,苏亚雷斯对人工智能能力的最新发展有着第一手的见解。现在,他通过非营利性机器智能研究所以及标题不祥的书“如果有人建造它,每个人都会死:为什么超人人工智能会杀死我们所有人”,成为当今人工智能安全标准最直言不讳的批评者之一。

必读

戴夫·拉姆齐 (Dave Ramsey) 警告说,近 50% 的美国人正在犯一个重大的社会保障错误。这就是它的本质以及尽快修复它的 3 个简单步骤

特朗普“大美丽法案”中的税收减免将于2028年后到期。以下是退休人员不能浪费时间的4个原因

杰夫·贝佐斯 (Jeff Bezos) 支持一个平台,该平台允许任何人以低至 100 美元的价格投资出租房屋——无需真正成为房东即可像房东一样积累财富的 6 种方法

在最近一期的“人工智能中最有趣的事情”播客中,主持人尼古拉斯·汤普森询问苏亚雷斯,鉴于他对人工智能灭绝事件的极度恐惧,他实际上如何为未来做好准备。苏亚雷斯承认他不再为退休储蓄,他说:“我有一份在谷歌工作时的 401(k) 福利,但我已经有十年没有缴款了。”

当被问及他相信十年后人类消失的可能性有多大(前提是政府和公司对人工智能采取最低限度的预防措施)时,苏亚雷斯表示这一可能性超过 50%,并补充道,“我想现在看来我们可能还没有十年的时间。”

在苏亚雷斯看来,人工智能对人类构成的威胁是如此之大,以至于他可以对数据中心发动空袭。苏亚雷斯认为,“我确实认为民族国家应该像对待潜在的流氓超级智能人工智能一样对待人工智能和超级智能,至少与核武器同等对待。坦率地说,它比核武器更危险。”

人工智能将如何消灭我们?

尽管苏亚雷斯相当肯定人工智能构成了生存威胁,但他不愿意押注这场灾难将如何发生。

苏亚雷斯提出了一些可能的场景,包括人工智能系统传播超级病毒或收集太阳能源,同时使世界变得无法居住。但苏亚雷斯表示,他不需要知道人工智能会做什么。一旦人工智能有了足够的认识,最终的结局就更有可能发生。

苏亚雷斯解释说,“真正的问题不是它如何杀死我们,而是它如何变得自给自足?”