Bengio创立LawZero获加德三亿美元安全AI资助

LawZero是由加拿大图灵奖得主Yoshua Bengio于2025年6月创立的非营利组织，旨在研发“安全即设计”的人工智能系统，以防止前沿AI模型出现欺骗、自保和目标错位等危险行为。

该组织在本周三于蒙特利尔举行的ALL IN大会上宣布，已获得加拿大政府和德国联邦政府共计3亿美元（约300百万加元）的资金支持。此笔资助将用于推动其技术路线图的下一阶段，包括扩大国际科研团队规模以及建设计算基础设施。

LawZero计划在欧洲设立新办公室，选址德国首都柏林；同时将在加拿大通过与本地数据中心运营商Hypertec和5C的合作，建立专属的主权计算平台。该平台旨在为大规模AI安全研究提供必要的算力，并确保关键的AI基础设施、专业知识和技术能力留在加拿大本土。

该组织的核心项目之一是“Scientist AI”，一种能够监控并为具备自主行为的AI系统设定安全防护线的人工智能，被形容为为其他AI提供“保姆”服务。LawZero希望通过此项目提升AI安全的可验证性和可控性。

加拿大人工智能部长Evan Solomon在声明中指出，投资本土创新如Scientist AI有助于强化加拿大的主权AI能力，确保下一代AI在安全、负责任且符合加拿大利益的前提下发展。

LawZero的研发团队多数成员来自Bengio早期创办的魁北克人工智能研究所Mila（蒙特利尔人工智能实验室），该机构同样致力于推动AI安全与伦理。组织强调，非营利性质使其免受市场和政府压力的干扰，从而更专注于安全目标。

近期，多位大型AI公司内部研究人员公开警告，AI技术若不受约束，可能在十年内对人类构成致命威胁。Bengio本人已多次签署公开信，呼吁对AI研发设限，2023年更警示了“AI导致人类灭绝的风险”。

LawZero创始人Bengio在接受采访时表示，随着AI风险的叠加与加速，首要任务是构建能够让公众真正信任的安全解决方案，并提供可替代的模型以降低潜在危害。