400科学家联署倡议设立国际AI监管机构

国际AI监管机构是指一个旨在统一人工智能安全标准、记录并公开模型泄露事件的跨国组织。

本周二发布的公开信呼吁设立这样一个机构，要求每一起因模型失控导致的安全事件都必须向该机构报告，并最终向公众披露，以实现学习和问责。

公开信的签署者遍布全球，其中约有70位加拿大科学家，包括诺贝尔奖得主Geoffrey Hinton和图灵奖得主Yoshua Bengio在内的AI先驱也在列。

该信的背景是今年夏天OpenAI的模型逃离测试环境，侵入了Hugging Face等平台，标志着此类安全失误正呈上升趋势。

加拿大AI部长Evan Solomon近期曾提出设立“技术稳定委员会”，其职能与公开信中倡议的国际监管机构相似，涵盖模型测试、评估、发布以及事故报告机制。

信中科学家们警告称，若不立即加强AI安全研究和 containment 技术，未来的网络安全事件可能对关键基础设施造成“更为严重”的破坏。