育空诊所快速采用AI工具 专家吁谨慎

育空地区的一些诊所在数月前就开始使用人工智能（AI）工具，而据当地卫生部门称，这些工具已成为医护人员的重要辅助。但另一方面，也有人认为政府在没有完全理解对患者潜在影响的情况下，过早地接纳了AI。

两款AI工具已在当地投入使用：Heidi，它可以聆听医患对话并自动生成文字记录和关键要点；以及Spotlight，它能利用这些临床笔记自动填充转诊表格和其他文书。这两种服务只有在患者同意的情况下才能使用，并且医生每次问诊前需向患者确认。

育空政府综合健康服务总监Alethea Stobbe表示，她已听到医生对诊所内AI工具运行的积极反馈。但AI采纳咨询公司创始人Marcus Castillo质疑，为什么在缺乏关于AI在诊所使用的政策指南之前就采纳了这些工具。“如果你不知道如何正确使用AI工具，尤其是在如此敏感的领域，你一定会犯错。”

Spotlight的创始人Chirag Jadhwani告诉CBC，他创建该工具的目标正是帮助医生避免犯错。他在育空政府工作期间，收到了远在孟买的家人传来的噩耗——他的祖母因转诊延迟和文件错误而去世。这促使他寻找解决方案。“我辞去工作，开始打电话给医院、危机热线，所有在医疗系统中进行转诊和管理转诊的人。”他发现，在育空地区的步行诊所，医生要为一个患者完成转诊文件包平均需要四次就诊，以及三小时文书工作。于是，Jadhwani与由“AI教父”Geoffrey Hinton共同创立的研究机构Vector合作设计了软件。“现在，点击两下，一份草稿就准备好待审。”

Stobbe表示，这帮助填补了育空医疗系统的一个关键缺口——该地区严重依赖可能不熟悉境内及境外转诊选项的临时医生和护士。她说，目前多达60%的医生定期使用AI抄录工具Heidi，90%使用Spotlight。这两款工具已在整个加拿大使用，Spotlight已在安大略省、卑诗省、美国两个州和英格兰的诊所部署。

由Heidi收集的育空数据存储在魁北克的服务器上，10天后自动删除。Spotlight将服务器放在诊所内，并通过虚拟专用网络运行，而非第三方云存储。

今年5月，安大略省审计长Shelley Spence发布了一份报告，发现面向医生的AI工具提供了不正确或不完整的信息，或出现“幻觉”。报告还发现评估和测试流程存在重大缺陷。Stobbe承认，育空医生看到过Heidi生成虚假信息，但当她要求工具不要做假设、仅使用临床就诊中讨论的信息后，错误率显著下降。她表示政府在部署软件前完成了隐私影响和安全威胁风险评估。审计报告还指出安省的采购流程存在问题，可能导致选择AI工具“产生不准确或有偏见的医疗记录”或“缺乏充分保护个人健康信息的供应商”。

育空政府的采购流程绕过了对不同AI供应商的评估，去年直接向Heidi和Spotlight下了订单。这种做法只能在特殊情况（如紧急情况或合同低于一定成本门槛）下使用。卫生部门未回应CBC的进一步信息请求。Spence为安省提出了多项建议，例如在实施AI系统前进行强制性现场演示以确认有效性，以及进行强制性培训以确保用户了解风险。“我们不是说停止进步，”Spence说，“我们只是说，在环境周围设置控制措施，确保我们不会因为某些不奏效的东西而失控。”在育空，评估阶段自去年引入工具以来一直涉及真实患者。一份关于该推广的报告现已完成，但育空政府尚未公布。

“临床医生的太多时间都花在了重复性任务上，”温哥华家庭医生Puneet Seth博士说，他自称是早期采用抄录工具的人。“医疗系统已经非常紧张。”今年4月，加拿大总理Carney宣布削减加拿大健康拨款（用于支付省和地区医疗系统），并削减应急治疗基金等项目。西安大略大学生物伦理学副教授Ken Kirkwood担心，AI可能被用来为医疗削减提供理由。“当政府没有充分资助医疗时，可能会出现看似的好处和必要性实际上是人为制造的情况。”Stobbe表示，医生应审查AI生成的笔记和文书的准确性，并对任何错误负责。但Kirkwood担心这将责任转嫁给了已经超负荷工作的医生。他认为AI工具在投入使用前应像其他药物或医疗设备一样进行严格的测试。Jadhwani表示，他的公司为确保患者安全和保密付出了大量努力。“但毫无疑问，使用Spotlight这样的工具存在风险——它毕竟是软件，可能会犯错。我们的目标是，与其花三四个小时做文书工作，不如将其缩短到10分钟。”