澳大利亚正在加强对人工智能的审查,OpenAI、Anthropic、微软和谷歌的代表面临议会调查的质询。听证会是在 OpenAI 今年早些时候透露他们的技术侵犯了澳大利亚政府机构之后举行的。新南威尔士大学人工智能研究所所长 Sue Keay 加入“彭博社:亚洲贸易”讨论安全问题、监管以及澳大利亚是否有可能错过人工智能的好处。
Open AI 首席战略官 Jason Quan 将于今天与 Anthropic、微软和谷歌的代表一起在澳大利亚议会调查中作证。此前,Open AI 今年早些时候透露,他们的技术入侵了澳大利亚政府机构。 Open AI 表示,该公司已成立澳大利亚特别工作组,并为政府提供资金和技术支持。据称,工作组预计将在年底前提出建议。
那么现在加入我们的是新南威尔士大学人工智能研究所所长 Sue Case。非常高兴您能和我们在一起。这场辩论,无论是谈论数据中心的推出,还是有关人工智能安全和主权的一些更存在的问题,都确实在全国范围内达到了白热化程度。您认为在这种情况下,政府的政策、监管和护栏是否已经脱缰?
我们很难对不在澳大利亚的公司施加强制条件。虽然美国没有设置呃重要的护栏,但正如你刚才提到的,这很困难,解决方案似乎是这些公司自己会在未来某个确定的时间给我们一份报告,呃,并提出作为防御,呃,如果我们购买他们的产品,然后,你知道,并允许他们在我们的土地上训练,那么我们可能会尽早进入。但是,你知道,归根结底,澳大利亚是五眼联盟的合作伙伴。我认为要求我们尽早访问这些模型并不是没有道理的。我们需要陆上能力来测试这些模型。我认为我们需要利用政府的购买力。政府是澳大利亚人工智能的最大买家,以确保这些公司遵守强制性条件。因此,这意味着必须强制报告任何此类违规行为,这样我们就不会等待三个月才能查明是否发生了违规行为。
从安全的角度来看,就这项技术的进步而言,你是否担心已经有点晚了。你会听到来自科技巨头本身的每个人的意见,他们可能会建议这些最新型号需要放慢速度。你会听到比尔·盖茨等人说,这里的风险是巨大的。
是的,我认为存在很大的风险。然而,我不确定现在是否为时已晚。如果你以中国为例,你会发现它确实对人工智能进行了强有力的监管,而且似乎并不太担心自己在技术优势的竞赛中落败。澳大利亚面临的挑战是,我们没有建立足够的能力来确保我们的许多系统都是基于我们自己的人工智能堆栈构建的,而不是目前我们的许多系统都是基于美国专有技术构建的。我认为这是一个很大的风险,特别是对于我们的金融系统等领域。呃,所以,你知道,我认为我们需要建立和开发我们自己的呃,主权领域特定的人工智能模型,这样我们就可以降低这种风险。
是的。我想多谈谈主权人工智能的想法。正在提出的模型之一是,征税是根据计算能力支付的,我想是根据这些在澳大利亚运营的全球和美国前沿巨头的货币投入来支付的。您认为这是一个可行的模式,可以盈利且有益吗?
如果我们要接受这项对澳大利亚人工智能基础设施和数据中心开发的投资,那么我认为这实际上是至关重要的,因为我们很可能接受这项投资,然后在开发这些数据中心的初始建设支出之后看不到任何回报,因为重要的是谁拥有这些数据中心内的计算。如果澳大利亚不拥有这种计算能力,或者不征收税收来获得一定的利益,那么我们在自然资源方面经常会遇到这样的情况:我们允许其他国家的其他公司开采该资源,然后却看不到什么回报。所以我认为就像我们看到预留汽油税的实施一样。我认为我们肯定还需要征收某种税收,以确保澳大利亚人从澳大利亚数据中心开发的巨额投资中受益。这需要以预留计算能力供澳大利亚使用的形式,但同样重要的是,对人员的投资以及我们构建自己的人工智能堆栈所需的能力的开发。
我想谈谈你提出的最后一点,因为澳大利亚没有很多技术创新,对吗?我们从地下挖东西,呃,我们无法与硅谷之类的公司相比。你认为这是一个误会吗?你如何改变这种文化?因为我知道您在机器人技术方面也拥有深厚的历史和经验,而且您说过,澳大利亚实际上拥有很多此类技术。我想,是什么阻碍了其中一些本地公司脱颖而出?
不幸的是,我认为总体而言,澳大利亚缺乏雄心和政策支持,无法看到科技行业真正蓬勃发展。所以我们知道我们有才华。如果你看看人工智能,澳大利亚研究人员在顶级人工智能期刊上发表的文章实际上是人均平均水平的六倍,而且我们的发表速度高于中国和美国研究人员,因此我们知道我们正在培养顶尖人才。有很多澳大利亚人才为许多转移到美国的公司提供动力。因此,如果我们真的要为公司在澳大利亚发展创造更有利的条件。我认为我们能做的事情真的没有限制。但不幸的是,政策设置意味着,呃,你知道,即使公司确实做出了在澳大利亚创业的艰难决定,当他们在收入达到 10 至 1 亿澳元时开始规模化时,他们往往会被外国公司收购。因此,除非我们真正做出一些坚定的决定,让人才继续留在澳大利亚,否则我们永远不会真正获得这项投资的好处以及我们有能力在澳大利亚培养的人才
岸,以便我们可以开发自己的技术。
新南威尔士大学人工智能研究所所长 Sue Kay 加入了我们。我们将于下午 2:00 听取来自 Open AI 的 Jason Quang 的发言。当地时间,只有几个小时的时间。如果您在悉尼观看,我们每周二上午 10:40 播出《Australia Ahead》,在香港则上午 8:40 播出。我们将全天对澳大利亚议会调查进行更多现场报道,不仅来自 Open AI 的代表,其他科技巨头也将在稍后作证。这是布隆伯格。