六天之内,Microsoft 365 宕机,美国所有航班停飞,大银行余额显示为 0 美元,美国国家安全局的机密网络也离线。官员们将此归咎于服务器故障和系统老化。主持人埃贾兹·阿哈马丁 (Ejaaz Ahamadeen) 逐一回顾,询问这是否都是巧合,并详细分析了谷歌和联邦调查局 (FBI) 披露的有关人工智能黑客攻击的情况。
一些非常令人担忧的事情正在发生。您会看到,正如您现在所听到的那样,有数百起网络攻击正在发生,影响着航空公司、银行,甚至国家安全机构。过去 4 天里,美国境内的所有航班均已停飞。美国顶级银行的客户无法访问他们的账户或看到 0 美元余额,甚至我们的国家安全机构也无法相互通信。在过去 20 个小时里,谷歌和 FBI 都确认,多个身份不明的个人或实体正在使用人工智能模型来发起大量此类攻击。这不仅影响一个国家,而且影响整个世界。 Zoom等流行工具,BBC和CNN等流行媒体网站都被这些AI模型植入了恶意代码,以窃取人们的钱财。我不想这么说,但这已经是网络事件的第三或第四个主要时期。仅 2026 年我们就已经看到了这一点。因此,在这一集中,我想了解一下最近到底发生了什么,这如何融入到之前的所有其他网络事件中,这些攻击者实际上是如何执行此操作的,最重要的是,
我们可以做些什么来保护自己免受人工智能网络安全漏洞驱动的非常奇怪和混乱的未来的影响。我想谈谈这种趋势将如何展开,它将如何影响行业中的某些市场,以及如何影响。所有这一切都会成功,因为我们从未遇到过这样的场景,即我们的人工智能攻击如此频繁、如此便宜且任何人都可以访问。现在已经到了这样的地步,你几乎可以为任何以前没有任何黑客经验的人配备人工智能模型,他们可以实施世界第一黑客的网络犯罪。这是一个非常奇怪的世界,所以我想在今天的节目中解开它。首先让我提醒一下我们是如何来到这里的,就在几个月前的春天,OpenAI 的抱脸事件被曝光。这就是 OpenAI 内部模型爆发的地方,它侵入了一家面向公众的公司,在不应该窃取专有数据的情况下窃取了专有数据,而且它并没有被命令这样做。这是一个非常令人担忧的事件,它引发了围绕我们如何控制和使用人工智能模型进行网络防御并为网络防御做好准备的整个想法。
网络攻击。然后我们快进到一两个月前的九月或十月左右,我们发现抱脸事件并不是唯一的事件,有数百起事件,并且是由 OpenAI 和人择内部模型促成的。当时的问题是他们不知道损坏的程度。 PHP,一个流行的软件平台,支撑着许多现代网站和应用程序今天,被发现有漏洞。 OpenAI 和一个独立研究团队发现了它。他们试图修补一个修复程序,但在它被泄露给公众之前,以及一系列不同的漏洞发生了,包括世界各地发生的政府关闭。日本受到的影响相当大,美国也是如此。这个事件是如此糟糕,以至于它被称为“黑色十月”,这让我想起了当今的事件。这一切都始于上周四,当时微软的 Outlook 服务在全球范围内瘫痪,该服务支撑着许多企业软件系统,支持他们之间的沟通、电子邮件和聊天方式,这导致许多不同的公司关闭,人们出现了一些搞笑的表情包。人们就像是,哦,我想我不必工作了。但它关闭了许多非常重要的服务。人们无法相互沟通,理论上它会导致大量经济下滑,并使很大一部分经济陷入停滞。不到 24 小时后,美国联邦航空局(FAA)——控制所有进出航班的美国管理机构——对美国境内的每架航班进行了询问。
国家接地。在此之前发生的唯一一次这种情况是 2023 年,在那之前是 9/11。这种情况只有在国家发生严重紧急情况时才会发生。每个人的手机都收到了警报,这是一件大事。然后在本周的周一,包括大通银行和嘉信理财在内的美国一些顶级银行被发现存在银行账户问题,人们看到账户余额为 0 美元,他们无法提取资金,无法执行交易,而且这不仅仅是银行的客户,还有附属于银行、为银行服务提供便利的供应商和提供商。假设您是一个位于大通银行之上的服务或应用程序,您也无法使用他们的任何服务。一切都被关闭了。就在周二,我们又发生了 3 起新事件,超过 200 个网站和媒体网站被恶意 AI 代码利用。你有美国国家安全局。名为 NSANet 的内部通讯工具已被关闭,因此人们无法相互通讯。最后,包括 Gmail 应用程序和许多其他应用程序在内的 Apple 服务均已关闭。这一切似乎太多了。
巧合,所以我想回顾一下最近发生的每一件不同的事情,并解释我认为实际发生的事情。现在需要注意的是,无论是微软 Outlook 宕机还是美国联邦航空管理局 (FAA) 航空公司停飞事件,两项调查都表示,这并不涉及任何类型的网络漏洞,这实际上是手动和人为软件上传错误。在微软方面,他们说他们推送了一些奇怪的代码,当谈到航空公司事件时,它说他们正在升级他们的系统。现在特别是美国联邦航空局的事件。他们正在升级与人工智能相关的软件。我的意思是它利用人工智能或使用人工智能进行编码。我猜这就是整个混乱开始展开的地方,因为我们正处于一个奇怪的时代,世界上一些最好的顶级软件工程师,也就是我们今天所知的互联网经济的建立者,在过去的 6 到 12 个月里没有写过一行代码。他们只是在使用人工智能模型,他们一直在提示他们,告诉他们编写一些代码。在许多这样的情况下,他们根本不检查代码。现在,这不一定是人类的错误,尽管这绝对是我们应该做的。应该采取更好的做法来检查代码。但事实是,在人工智能编码时代,人类已经成为了一个瓶颈。发布 95% 高质量的代码变得如此容易,以至于他们只相信人工智能可以捕获另外 5% 的代码。但在许多情况下,就像我们本周和过去几个月看到的那样,
只是事实并非如此。因此,第一点是人们对 Vivi 编码的应用程序给予了很大的信任,并且他们已经开始这样做。攻击软件平台和基础设施的非常重要的部分,这就是导致大量此类漏洞的原因。这是第一。现在,第二个故事以银行为中心。不久前,我想实际上是三周前,我制作了一集,讲述了一系列非常相似的人工智能网络攻击,这些攻击正在影响美国的一些主要银行。当时,银行面临的一个问题是,他们无法区分什么是操作银行的人类用户,什么是操作该银行的人工智能代理。您会看到,交易正在启动,可以访问联系人、电汇详细信息以及只有操作员本身才能获取的信息,而银行不知道要停止或防御哪些交易。他们看到了一些奇怪的金融活动,他们不太知道该怎么办。因此他们开始关闭对许多此类帐户的访问。从那时起,他们可能采取了一系列主动措施,试图识别代理人和
人类。这是第二个问题,现在很难区分谁是人类,谁是特工。通常,你会有一个捕获服务,你可以点击按钮或输入你在这种艺术绘画上看到的奇怪的数字或字母,这证明你是人类,你可以用你的眼睛,你可以辨别这些字符并让不幸的是,ters.AI 足以做到这一点,他们可以比你更好地控制你的浏览器和光标,所以他们可以自主地做到这一点。事实上,我前几天看到了克劳德的这张搞笑截图,它基本上是在问人类操作员,嘿,你介意我亲自验证你作为人类吗,除非你想自己做,而人类就像是,是的,就去做吧。这就是我要表达的观点,没有任何防御程序或基础设施,这就是为什么我们今天看到嘉信理财和大通银行的全新互联网。现在,他们两人到目前为止都表示,内部调查表明不存在与人工智能相关的网络事件,但如果我是一个打赌者,我会说,这会以某种方式间接或直接地揭露事实确实如此。我这么说的原因是我们现在正在讲第三个或第四个故事,即国家安全局和其他一些内部国家安全通信服务机构都瘫痪了。现在,重要的是要记住,许多服务都在较旧的软件系统和堆栈上运行。这实际上是一个非常有利的位置,通常是因为
这些堆栈已经过漏洞利用的尝试和测试,到目前为止,它们已经承受了数十年的漏洞攻击,但没有真正发生任何事情,即使发生了,也已经得到了加固和修补。因此,如果您要使用任何一款国防软件,您可能会使用最古老的软件。除了最新的模型,特别是内部模型和一些任何人都可以免费访问的开放模型,可以花几美元 24/7 工作来梳理所有这些旧系统的代码库。我们在黑色十月中看到了 PHP,甚至发现了人类可能错过的或在最坏情况下的最轻微的漏洞,顺便说一句,这是最常见的攻击向量,他们会找到新颖的方法来排序攻击。请记住,人类是有极限的。我们从小就被教导要以非常具体的方式思考,而人工智能只是一个详尽的系统。它可以 24/7 工作,它可以尝试不同的出口,它可以启动成千上万个超级智能的版本。因此,请考虑拥有最聪明的网络安全防御研究人员或世界上最聪明的黑客。
自身的多个版本,然后从各个方向攻击问题或编码平台,以尝试清除任何单一的访问方式。我相信,它必然会产生某种弱点,这就是我们今天所看到的。现在,另一个说明很多都是人工智能驱动的问题是我们在过去一个半月中看到的各种攻击面。我们有。Blo法国的一些银行被黑客入侵,有人匿名提高了所有血瓶的温度。它们应该保存在非常凉爽的低温下。有人将其最高温度定为 100°C,这太疯狂了。幸运的是,在它摧毁所有血瓶之前,有其他系统发现了这一点。现在我们跳到冰箱。我知道这很奇怪,但是欧洲世界各地的军队等重要地方的一些制冷系统都使用物联网,因此它们连接到互联网,他们这样做的原因并不是为了新奇,而是因为当你拥有如此大规模的制冷系统时,你希望能够自主管理它或使用计算机,通常情况下,这效果很好。物联网已经存在了一段时间,但又有人身份不明,能够访问这些系统,调整温度,并毁掉价值数千万美元的食物。然后我们看看最近发生的 Outlook 故障,您可能会想,电子邮件故障怎么会影响很多人呢?是的,也许他们开会迟到了,或者他们无法与同事沟通,
但谁在乎呢?嗯,在一个例子中,我相信也是在法国,在一家酒店,他们的泳池系统可以管理氯含量,他们检测氯含量是否过高的方式是通过 Outlook。因此他们无法获得氯含量的指标。氯含量提高得太高,这是另一个问题,是谁首先将氯含量提高到那么高,多名顾客和居民在进入泳池后受到伤害并遭受皮肤损伤,从那时起他们不得不重构整个系统。现在,我用这个作为例子,不是为了在这里散播厄运,而是指出影响一个系统并且看似无害的东西实际上会在下游产生很多连锁反应。你看,很多软件系统通常都依赖于它。数百甚至数千家公司依赖于它,因此即使是最微小的、看似无法利用的代码实际上也可能导致可怕的攻击。为了证明我的观点,就在昨天或两天前,有报道称,包括 BBC 和 CNN 在内的超过 178 个网站和媒体服务已被植入恶意 AI 代码,如果
某些人触发了该代码,到目前为止,他们的加密钱包将被耗尽数千美元,考虑到攻击面,考虑到可能被利用的内容,这不是重大事件,但仍然需要注意。那么您可能想知道,这些人工智能漏洞是如何执行的,他们使用什么模型?是集中式模型吗?它开放模型吗?它们是免费模型还是付费模型? Anthropic 和 OpenAI 建立的保障措施发生了什么变化?谁在干这事?他们是否有资格、是否有经验?嗯,据我所知,有两个主要的攻击因素。第 1 点是 Google 自己强调的。他们表示,我们看到了一系列 LLM 攻击,控制 AI 模型的个人或实体正在使用这些 LLM 来比较软件更新。因此,想象一下,当您更新 Google Chrome 时,他们会更新他们修补或修复的内容。现在,通常没有人会阅读这些更新,因为它们太复杂而难以阅读或太小。但是,如果您可以让法学硕士来浏览以前版本的 Google Chrome 与新更新版本的 Google Chrome 的代码库,然后您就可以看到漏洞利用的差异是什么。然后,您可以将同样由 AI 模型创建的错误发送给尚未更新 Google Chrome 的任何人。这不仅适用于 Google Chrome,也适用于任何需要更新的软件包,因为请记住,这些公司透露了他们更新的内容,他们
揭示他们修复的错误,他们揭示微小的改进或主要的改进。所以,你可以将其插入法学硕士,你可以有效地对其进行逆向工程,并创建一个可能传播到全球数百万人的攻击。现在,第二个攻击媒介是这个名为 RT、ART E X 的软件工具,它最初是供道德黑客在系统上线之前对其进行测试的。有一种称为渗透测试的服务,你付钱给一家公司或一群黑客,让他们扔掉他们拥有的一切,他们可能想出的每一个漏洞。针对他们想要启动的新软件、应用程序、工具、服务、网站,看看是否存在任何漏洞,如果他们发现漏洞,那么他们会修补它,修复它,然后将其向更广泛的世界公开。所以这里的想法是,在我们向全世界揭露这一点之前,让我们找出所有的错误。 GitHub 透露了一个新的免费工具,我无法弄清楚这是别人上传的还是 GitHub 自己的,但它叫做 RTex,而且这个工具的想法与渗透测试非常相似,除了,你猜对了,你可以将任何 AI 模型插入其中并有
它会规划自己的攻击,启动尽可能多的代理或自身版本。这里的想法是,我们不使用人类,而是使用人工智能将其自动化,看看是否有任何方法可以利用该服务。现在这在理论上听起来不错,对吧,它将使渗透测试人员变得有意义并且最重要的是道德能够更好地完成他们的工作。但他们没有做什么如果一个恶意行为者掌握了这个工具,这正是联邦调查局最近报道的,就在今天,所以周二,如果你现在正在听这个,他们看到一群犯罪分子可以访问这个工具,并将其用于多种不同的平台,这可能会促成我谈到的许多错误和漏洞利用。现在您可能想知道他们使用的是哪种型号?嗯,来自 Anthropic、OpenAI 和 Google 等中心化模型的好处是,它们内置了很多保障措施,所以你永远不会得到原始的、未经过滤、未经审查的模型。您设置了防护措施来防止人工智能模型执行此类攻击。但你知道哪些型号不是吗?开源。 Deepeek 是用于此目的的主要模型。可能是因为它很便宜,很容易下载和自己使用,或者至少,你知道。它本身的较小版本,最疯狂的部分是你甚至不需要使用最新的 Deep Sek 模型,你可以使用落后 2 代、甚至 3 代的模型,并且它们仍然能够执行这些类型的
的利用。现在您可能想知道,您不需要最智能的模型来执行漏洞利用吗?不一定,因为想象一下,如果你的 AI 模型的智能程度只有 Fable 5.2 或 GPT 6.2 Astra 的 80%。你可以让它 24/7 工作,只需要支付 10 美元,它仍然可以找到这些前沿模型在 5 分钟内找到的相同漏洞。他们可能需要几个小时或几天的时间,但他们仍然会找到它,而且价格仍然非常实惠。因此,如果你是一个恶意行为者,甚至是一个民族国家攻击者,并且你想弄清楚你是否可以利用你的敌人,你只需要支付,我不知道,1000 美元来实现这一目标。 Net net,这对他们来说可能是一个公平的权衡。所以回顾一下,银行正在遭受事故,航空公司正在遭受事故,他们都声称根本没有人工智能参与,但他们正在升级的软件利用了人工智能。国家安全局目前无法在美国发送机密信息,至少是因为他们的内部通信服务器已关闭。除此之外,大约 200 个其他网站、服务和媒体公司正在植入恶意 AI 代码,这些代码可能会导致
可能会偷走你的钱。尽管这一切听起来很疯狂,但我对这一切并没有完全的毁灭性看法,因为我真正乐观和真实的看法是,这最终将强化世界上每一个安全系统。你看,在一个人工智能模型将会丰富的世界里,在这一点上,我认为我们只需要接受这个事实。你必须假设某人在任何时候当您睡觉时、醒来时、吃早餐时、喝咖啡时,可能会尝试利用您自己的服务或应用程序。因此,在那个世界中,你需要适应,在我看来,你适应的方式将是建立基本的安全系统,并且有些事情你可以做。当涉及到基本的 TFA 到密码管理器时,你可以做,以确保你的设备是气隙的,这取决于你所处的行业。你需要达到不同程度的极端。但最重要的是,你将不得不以某种方式依赖人工智能。现在,当我查看集中式实验室时,有一些可用的产品。你有来自 OpenAI 的 Daybreak,还有另一个来自.Anthropic,我忘记了它的名字,它现在让我无法理解,但他们有自己的版本,你可能会说,嗯,似乎很方便,创建执行这些攻击的模型的人也在创建你需要购买并花额外钱来防御自己的产品。我不知道它是否那么明确,我很确定 Anthropic 和
OpenAir 的出现并不是为了入侵整个世界。在许多情况下,尤其是最近的例子,我们看到实际上是开放模型正在这样做。但是我们需要找出创造性的方法来使用和利用人工智能来做到这一点。我认为这最终会在很短的时间内产生结果,而且我不知道那个定义的时期是多长。也许是几个月,也许是几年,希望不到五年。我们最终将进入一个许多系统都很强大的时期。它们是万无一失的,没有任何一个人工智能可以做到这一点。之所以能够做到这一点,是因为我们首先使用多个模型来构建代码,并预测其他人工智能模型自己的攻击。我相信这就是我们即将走向的世界,所以我不认为这一切都将是厄运和悲观,但我确实认为我们现在应该做的是,如果你是一个企业主,如果你是财富 500 强的高管,如果你是初创公司的创始人,如果你只是使用这些系统,你只是为这些公司之一工作,你应该关注这些系统的安全性。我认为系统越旧,不应该关注这些系统的安全性。必然保证其安全。
事实是,我们正处于一个非常奇怪的时刻,这些人工智能模型变得超级智能,同时它们变得超级便宜,这意味着你拥有一个超级智能的人工智能模型,可以放在任何人手中,每个人不一定了解或知道如何破解某些东西,但可能有意图。他们将能够成功。有我认为 Anthropic 的联合创始人杰克·克拉克 (Jack Clark) 在几周前或一个月前黑色十月即将来临之际,曾说过这句话,他说,我认为我们必须年复一年地重建软件系统,这意味着你必须在 1 月 1 日重建它,并且必须在年底(12 月 31 日)之前重建它。在那个世界里,我真的不知道如何做好准备。我能想到的是我们将需要一切。在系统上,廉价且易于访问的人工智能,这可能是一个热门话题,开源人工智能,因为在很多情况下,你不一定依赖前沿中心化模型,因为它们可能不会在你需要时采取行动,或者他们可能有保护措施阻止你做这件事,因为他们认为你正在尝试这样做。执行恶意攻击而不是保护自己,所以拥有开放模型,即使它们被用来执行攻击,仍然是典型的和重要的是要放在任何人和每个人的手中。请记住,开源模型还可以保持数据和隐私完整,如果您是一名财富人士,并且正在寻找不同的方法来保护自己,那么这是一个重要的案例
500强公司。是的,这就是这一集。我已尽最大努力远离厄运和忧郁,但事实是最近有很多厄运和忧郁。嗯,黄仁勋已经辞职了,还有这些谍战剧。我们有一些新的人工智能模型。 《神鬼寓言5.2》太棒了。从那时起,甚至在那之前,人工智能市场和股票市场一直在遭受痛苦,但与此同时,我们有了全新的模型。大约一周前,《神鬼寓言 5.2》发布了,我刚刚看到 GPT 6.2 Astra 发布了,所以我迫不及待地想访问它并试用它,并给你们一个评论。当然,明天我们可能会迎来有史以来规模最大的首次公开募股,即人为首次公开募股。所以我将在以后的剧集中详细介绍所有这些以及更多内容,但非常感谢您收听本集。我希望你喜欢它。如果有任何想法、评论。即使只是我可能错过了或者我可能错了,请给我留言,呃,给我发一条 DM,我的 Twitter 个人资料链接如下。此外,如果您在 YouTube、Spotify、Apple Music 上收听此内容,无论您身在何处,请给我们评分、竖起大拇指、订阅、打开通知,这都会有所帮助
我们大规模地出去。而且,如果您觉得这很有趣,或者您发现我们的任何其他剧集很有趣,也可以与朋友分享这一集。我每周来这里 5 次,试图识别我在人工智能中看到的任何事物、任何趋势、模式,所以我希望你能和我一起踏上这段旅程。这只是一段疯狂的时期。但是,是的,我们下一篇再见。