安大略省渥太华,2026 年 11 月 9 日 /CNW/ -- 以下国家元首、政府首脑和首席执行官于 2026 年 11 月 9 日星期一签署了该宣言:

国家元首和政府首脑:巴林、加拿大、芬兰、法国、挪威、荷兰。公司:Anthropic、Black Forest Labs、Cohere、Domyn、Hugging Face、微软、Mistral AI、OpenAI、Sakana AI、Synthesia 民间社会:LawZero (Yoshua Bengio)、SaferAI (Henry Papadatos)、AI Safety Connect (Nicolas Miailhe)、Ifri (Laure de Roucy-Rochegonde)

该声明仍接受新的认可并正在更新。

“我们重申,我们在构建安全、可靠、有用且可供所有人广泛使用的先进人工智能方面有着共同的利益和共同的责任。这些技术的负责任的开发和可靠的人工智能系统的采用代表了我们各国经济、科学和社会进步的前所未有的驱动力。

我们的目标是为安全采用奠定必要的基础。前沿模式的发展、部署和影响超越国界,因此其机遇和风险本质上是全球性的。我们都有责任保护我们的社会,同时促进人工智能的研究、创新和更广泛的应用。保护公民、企业和机构,同时营造有利于研究、创新和广泛采用这些技术的环境是我们的集体责任。任何行为体,无论是国家、公司还是国际组织,都无法单独管理所有这些风险。在这方面,政策制定者、研究人员和人工智能公司的持续努力为采取行动的具体合作奠定了基础,包括通过广岛进程、首尔人工智能峰会边境安全承诺、七国集团埃维昂人工智能会议、9月23日举行的联合国安理会人工智能会议以及“控制边境人工智能模型呼吁”。

今天的讨论强调了三个基本共识领域:需要一个清晰、可理解和可预测的监管框架;在透明度、事件报告和风险管理方面立即取得切实成果的紧迫性;以及执行严格的评估标准的绝对必要性。

该宣言反映了我们做出重大贡献并加速实施这些优先事项的承诺。

为了实现这一共同愿景,我们今天承诺建立一个基于三项重大战略承诺的结构化合作框架:

首先,政策制定者、研究人员和开发人员致力于在现有框架的基础上建立一个用于前沿模型评估和风险管理的共同框架。

该框架将得到通用技术标准、评估工具和方法的支持,这些标准、评估工具和方法与前沿模型能力的进步保持同步,特别注重减轻危险的滥用,包括在网络和化生放核领域,以及因自主性增强或模型失调(包括失去控制)而产生的风险。在这方面,我们致力于加强技术合作,并认识到包括国际先进人工智能测量、评估和科学网络(NAAIMES)在内的现有网络在使评估方法和结果更具可比性和为不同地区国家所获取方面可以发挥的作用。

此外,我们同意以标准化格式发布我们评估的非敏感结果,以确保可比性,同时还创建一个可公开访问的共享存储库。这可能包括红队协议、基准测试工具、风险评估、压力测试结果。

其次,我们确认人工智能生态系统中所有参与者根据其在该生态系统中的角色而承担责任和问责的原则。

我们承诺确保在整个模型生命周期中严格遵守国家主管当局制定或认可的严格安全标准,并在这些当局的监督下并进行可信、有能力和独立的第三方评估,以培养所有利益相关者之间必要的信任,并促进人工智能的更广泛采用。可以使用明确的激励措施来鼓励从设计阶段到整个生命周期优先考虑安全和安保;

政策制定者:

认识到需要确保法律框架明确发生大规模损害时的责任和问责,以保护受影响者的利益,包括跨境损害,以便为人工智能公司的经济发展提供法律确定性。

前沿模型开发商:

承诺披露模型的功能、局限性和已知风险,并在适当且与风险相称的情况下,支持合格的独立评估人员对模型进行评估,适当时并与现有实践和安排保持一致。开发人员还承诺实施故障安全机制,以在其控制范围内关闭模型操作,包括在训练和内部使用期间(例如限制、暂停或关闭);

承认消除或规避保障措施(包括废除)所带来的风险,以及解决该风险的重要性,同时保留开放式重量开发对研究、创新和安全目的的好处;

认识到内部治理必须要​​求持续的风险管理实践、对紧急能力的实时监控、严格的内部红队以及保护内部研究人员的透明报告线的重要性。开发人员致力于建立一个清晰的治理结构,具有明确的职责、充足的资源和独立的监督。

第三,政策制定者、研究人员和开发人员致力于信息共享、报告和预警系统。

在包括网络安全安排在内的现有相关事件响应安排的基础上部署快速预警系统对于防止级联系统性风险和针对新出现的威胁制定集体应对措施至关重要,从而支持及时解决问题并限制其后果和现实世界影响。

我们认识到加强现有报告安排的价值,以协调事件分类并及时分享有关严重网络和人工智能控制事件以及其他严重危害的重大先兆信号的信息,无论是在公司与政府之间、政府之间还是人工智能公司之间,以及探索合作机制是否有帮助以及其范围可能有多大。

政策制定者承诺提供安全和保密的渠道,包括员工和其他相关利益相关者在内的举报人可以以合理的理由提出对系统性风险的担忧,而不必担心遭到法律或专业报复。”

该文件也可在 https://pm.gc.ca 上获取

查看原始内容:http://www.newswire.ca/en/releases/archive/November2026/09/c8626.html