前多伦多警探：加拿大AI安全需独立学科

一名前多伦多警方调查员呼吁，加拿大应将AI安全视为独立学科，而非网络安全的附属品。Devi Narayan现为加拿大网络安全公司Autnhive的CEO，该公司专注于AI系统安全。

Narayan在Toronto Police Service担任调查员多年，她观察到组织投入大量资金于防火墙、监控系统和安全审计，但漏洞仍会发生。她认为，当前关于AI安全的讨论多集中于强大模型如何帮助攻击者发现软件漏洞或自动化网络攻击，这仅是一半的故事。

“AI系统本身的安全性受到的关注远不够，”Narayan写道。从用聊天机器人起草邮件到让手机建议回复信息，人们已在日常依赖机器判断。但这一行为的社会影响巨大，如医院排期手术或警方分析证据。

联邦和省级政府正投入数十亿加元，以确保加拿大掌控自己的AI基础设施。联邦政府近期宣布的AI战略强化了这一目标。Narayan认为，让加拿大不依赖外国平台是关键，但主权与安全并非同一回事。主权关乎所有权与控制，而安全关乎信任——理解系统是否按预期运行。

AI系统与传统软件有本质区别。传统系统是确定性的：相同输入产生相同输出，可测试、修补、划定边界。AI是概率性的：相同问题可能在不同时间给出不同答案，其行为由训练数据、实时交互和防护栏（多数情况下是指令而非硬墙）塑造。

攻击者无需侵入AI系统，只需说服它。2023年，一家汽车经销商的聊天机器人被说服同意以1美元出售价值7万美元的车辆，这不是传统黑客行为。Narayan警告，类似的“提示注入”或“数据投毒”攻击可产生致命影响：例如，操控用于分配医疗资源的AI系统，使之逐渐将资源从最需要的人手中转移。

目前，防火墙、杀毒软件和监控系统无法检测提示注入。联邦AI战略是重要一步，但如果AI成为国家关键基础设施，就必须将AI安全作为独立学科。Narayan总结道：“真正的主权意味着控制，而控制需要有能力察觉何时失控。”