AI专家呼吁中等强国建安全护栏，加拿大或领导

在闭门讨论中，AI政策制定者、顾问和倡导者表示，由加拿大等“中等强国”牵头构建AI安全护栏至关重要。他们担心美国并非AI安全领域的“良好行为者”，而中美之间的AI军备竞赛使两者缺乏设限动力。

周四，多个政府关联AI政策组织的领袖齐聚渥太华英国高级专员公署，讨论第二届国际AI安全报告。该报告由超过100名AI专家撰写，由加拿大“AI教父”Yoshua Bengio监督，发现随着AI能力快速提升，风险管理缺口可能导致危害。

Bengio在开场视频发言中定下基调：“在这场竞赛中，加拿大等国家可能收获巨大，但损失也巨大——尤其是如果这些先进技术被用于不安全、恶意或经济统治。安全是真正受益的唯一途径，加拿大及其盟友可继续在塑造全球更安全AI轨迹中扮演关键角色。”

会议讨论源于总理Mark Carney今年早些时候在达沃斯的演讲，他呼吁中等强国联合制衡大国。但一名政策顾问指出，该演讲后续缺乏实质性跟进。中等强国可指出日益强大的AI模型带来的困境，并建立预防“持久伤害”的安全机制。

该顾问补充：“如果Carney现在站起来说我们要暂停AI能力发展，什么都不会发生。我们没有能力做那种声明，因此必须建立中等强国联盟以确保我们能做到。”

相比之下，美国可能像上周阻止Anthropic发布模型那样完全叫停，并可能领先中等强国制定标准。CNBC报道，Anthropic和Google DeepMind的CEO本周在法国G7峰会上呼吁美国领导AI安全联盟，Carney对此表示同意。

然而，另一名AI政策倡导者透露，近期赴加州与OpenAI、Anthropic、Google、Meta和X.ai等前沿AI公司员工交流发现，许多人“非常担忧”AI发展速度，并希望“中等强国站出来”。他们担心美国政府不是可靠、良好的行为者，需要在国内外进行监管，这些从业者表示：“我们需要中等强国帮我们达到正确位置。”