上周，世界上最强大的六家人工智能公司向白宫承诺，他们将让外界检查他们的工作。

9 月 29 日，Nvidia、OpenAI、Anthropic、谷歌、Meta 和 xAI 签署了一项关于最先进人工智能模型的协议，美国总统唐纳德·特朗普称该协议具有“道德约束力”。每家公司都承诺将“与独立的外部审计师或评估师合作”，并让独立的董事会成员审查审计师的报告并确保问题得到解决。

外部审计是个好主意，我很高兴看到他们参与其中。但该协议没有提及谁选择审计师、他们可以检查什么或是否公开任何调查结果；忽略它不会受到任何惩罚。目前，每家公司都会选择自己的审计师并决定审计师要检查的内容。

2000年，安然公司向安达信会计师事务所（曾经是所谓的国际会计师事务所“五巨头”之一，如今在安达信破产后成为“四大会计师事务所”）支付了2500万美元用于审计其账簿，另外还支付了2700万美元用于税务和咨询工作。两年之内，两家公司都倒闭了。国会通过了《萨班斯-奥克斯利法案》，该法案剥夺了管理层对审计师的选择权，禁止审计师向其审计的公司出售大多数其他服务，并设立了一个公共委员会来对审计师进行自我检查。

安达信的失败并不是因为缺乏专业知识，而是因为有动机认真考虑客户在一年内向其支付 5200 万美元的费用。人工智能行业的自愿承诺也没有很好的记录。 2023 年，领先的人工智能公司向白宫做出了一系列自愿承诺，包括让外部专家在发布前测试他们的系统。当斯坦福大学、哈佛大学和布朗大学的研究人员回过头来对 16 家公司是否兑现这些承诺进行评分时，平均值达到了 53%。在帮助外界发现和报告问题的承诺方面，16 人中有 8 人得分为零。

即使确实进行了外部测试，开发人员也会制定条款。测试人工智能模型的非营利组织 METR 写道，其在发布前对 OpenAI 的 o3 模型的测试“仅在三周内进行”，“对模型信息的访问有限”，并且无法了解该模型的逐步推理。

公平地说，OpenAI 首先允许进行测试。但它显示了公司选择分享的内容在多大程度上受到影响。

一个训练有素的人工智能模型本质上是一个非常大的数字文件，制作成本通常超过 1 亿美元，谁拥有一个副本，谁就拥有了该模型。将副本交给外部人员存在安全风险。直到最近，这给测试人员留下了一个尴尬的选择，谷歌 DeepMind 已经对此进行了很好的描述：要么测试人员交出他们的问题，以便公司提前看到考试，要​​么公司交出其模型。

八月，DeepMind 展示了解决这个问题的方法。它与新加坡人工智能安全研究所和其他三个外部团体合作，对人工智能模型进行了世界上首次双盲测试，其原理与双盲药物试验相同。该测试在密封的计算机硬件上运行，因此外部测试人员从未看到该模型，谷歌也从未看到他们的问题。谷歌表示，双方都可以通过数学方式检查其材料是否保密。

它还将信任转移到硬件上。去年，研究人员用不到 1,000 美元的设备闯入了这种密封硬件，尽管他们需要物理访问服务器才能做到这一点。这值得认真对待。但这是一个比“我们不能让任何人靠近模型”要小的问题，并且可以通过小心控制机器的人来管理。

在去中心化研究中心本周发布的报告《集中式人工智能的替代方案》中，我和我的合著者凯尔·布利根采访了 36 个人，并绘制了近 30 种集中控制人工智能的可行替代方案。我们的主要发现是：外部人员现在可以在不掌握模型或其数据的情况下审查先进的人工智能。

如果该协议的审计具有任何价值，审计员应该选择他们测试的内容，因为他们可以在不获取模型副本的情况下这样做。公司还应该说明他们的审计师是谁以及审计范围，即使详细的调查结果保密。几十年来，上市公司一直在指定审计师，但没有泄露商业秘密。阅读这些报告的董事会委员会应该向公司外部的人负责。萨班斯-奥克斯利法案为检查员创建了一个检查员。该协议没有类似的内容，国会应该决定如何填补这一空白。

注：本专栏中表达的观点仅代表作者的观点，并不一定反映 CoinDesk, Inc. 或其所有者和关联公司的观点。

随着加密货币资金压缩至约 4%，多样化的 RWA 稳定币维持了 5-7% 的实际信贷收益率。 GENIUS 将收益率推向链下； TAM 在 3 年内增长到 $4B。