看到科技领域的知名人士反驳人工智能将消灭人类的观点,多少让人感到安心。

Recursive 首席执行官、备受尊敬的科技企业家 Richard Socher 周三在 X 帖子中表示:“人工智能消灭全人类的现实场景是不存在的。”

Socher 也是人工智能搜索引擎 You.com 的联合创始人,该引擎已从 Nvidia (NVDA)、Salesforce (CRM) Ventures 和 DuckDuckGo 等知名企业筹集资金。 You.com 目前估计估值超过 15 亿美元。索切尔补充道,“我和许多人工智能安全专家讨论了存在风险。一些‘专家’只是非凡的科幻小说作者。也有真正的研究人员致力于现实风险。他们指出了真实的和可能的危害,我明确表示不存在这样的危害。我们需要认真对待这些问题。然而,每当我要求一个会杀死每个人的实际详细场景,即灭绝时,它通常以“看看”开始和结束没有科学,没有情景规划,只是根据直觉,在没有数据的情况下挥舞概率,通常缺乏专业知识,有时真正的专业知识与大量的技术乐观主义相结合,变成了恐惧,然后试图事后对其进行量化。”

在三天的时间里,Anthropic ( ANTH.PVT ) 首席执行官 Dario Amodei 和 OpenAI ( OPAI.PVT ) 首席执行官 Sam Altman 成功地用他们创造的强大技术吓坏了人类,并推动他们的先锋超级编码团队变得更加强大。

阿莫迪在周六发表的一篇 3800 字的文章中表示:“在过去的几个月里,我确信,全面应对风险需要更加谨慎——不仅要投资于风险防范,还要调整能力提升的速度,以便风险防范有时间跟上。” “我们必须放慢提高人工智能模型能力的速度。进展看起来仍然很快,我们必须明智地利用我们获得的时间。”

周二下午,Amodei 在 Salesforce 年度 Dreamforce 活动上再次强调了他的言论。

奥特曼在阿莫代周末发帖后立即表示,他同意他的竞争对手的观点。

随后,他在周一发布了自己的 Dark X 帖子。

“人工智能的进步有两种方式可能会非常糟糕,我们必须避免。首先,我们可能会失去对人工智能的未来控制。这是不可接受的;我们毫无歉意地支持人性团队,人工智能必须始终为人类服务。为了确保这一点,我们需要采取措施确保一致性和安全技术领先于模型能力的进步,”Altman 在美国东部时间上午 12 点 57 分左右在 X 帖子中表示。

“其次,我们最终可能会进入一个权力过于集中的世界,”他继续说道。 “如果一个人或一个公司使用一个非常强大的人工智能来将他们的世界观强加给其他人,结果可能是极其反乌托邦的。避免这两种威胁需要走一条狭窄的中间道路;例如,一个国家可能获得太多权力。另一个例子是一个实验室最终拥有太多权力。”

随着关于人工智能的公开辩论达到白热化程度,Altman 此后没有对 X 或其他方面发表进一步评论。

Okta (OKTA) 联合创始人兼首席执行官托德·麦金农 (Todd McKinnon) 表示,对人工智能的可怕预测是有道理的,但有些极端。

他在雅虎财经的开盘竞标中表示:“如果存在一个关于人类将如何灭绝的投注市场,我不确定人工智能是否会进入前 50 名,但它确实会成为头条新闻,人们对此感到非常兴奋。” “但现实是,就像每一项新技术一样,存在很多危险,但也有很多伟大的事情可以顺利进行。我们必须确保我们平衡它们,并在未来取得进展。”

点击此处深入分析最新股市新闻和影响股价的事件

阅读雅虎财经的最新金融和商业新闻