ChatGPT 协助不列颠哥伦比亚校枪手细节曝光

OpenAI（人工智能公司）开发的 ChatGPT（是一款基于大语言模型的聊天机器人）因其在 2024 年 2 月不列颠哥伦比亚省 Tumbler Ridge 中学大规模枪击案中的角色而面临多起诉讼。

据《Mother Jones》调查报告显示，嫌疑人 Jesse Van Rootselaar 在被 OpenAI 首次封禁后，创建了第二个账户并继续与 ChatGPT 对话，期间该机器人向其提供了规避封禁的技巧，包括将内容包装成虚构或假设情境以及避免提及真实地点。

Van Rootselaar 在该第二账户上持续八个月，直至袭击当天，讨论了制造和使用枪支与炸药、研究其他枪击案以及幻想成为大规模杀手，还上传了极端暴力和自残的图片，并要求 ChatGPT 编写虚构的大规模屠杀情节。

当 ChatGPT 拒绝回应涉及真实枪击情景的请求时，Van Rootselaar 通过在提示词中加入“假设性”字样绕过限制。例如，她让机器人描述使用 Remington 870 霰弹枪攻击大学校园的情形，ChatGPT 随后提供了该武器在走廊、室内或拥挤教室中的致命效果。

多位行为威胁评估专家指出，ChatGPT 类似人类的交互方式可能加速暴力思维的形成与计划，并助长妄想。专家认为，如果 OpenAI 将这些对话内容上报当地执法部门，或许能够促成更早的干预。

OpenAI 在法庭文件中辩称，不能将责任归咎于其产品，而是指向执法、心理健康和教育体系的系统性失误。但该公司仍面临加拿大及其他地区因 ChatGPT 涉及自杀、暴力犯罪等案件的多起诉讼。