BC检察长惊闻ChatGPT指引枪手规避审查

不列颠哥伦比亚省（British Columbia）检察长尼基·沙尔马（Niki Sharma）在Bluesky社交平台上称，她对美国《Mother Jones》杂志报道中ChatGPT向塔姆布尔岭（Tumbler Ridge）大规模枪击案嫌疑人提供规避审查的建议感到“震惊”。她指出，作为一名家长，这类信息比她想象的更令人不安。

ChatGPT是美国公司OpenAI（OpenAI）开发的生成式人工智能聊天机器人。它能够根据用户输入生成文本，但也设有内容审查机制，以阻止暴力和非法信息的传播。

据《Mother Jones》报道，18岁的嫌疑人杰西·范·鲁特斯拉尔（Jesse Van Rootselaar）在一次对话中使用了“假设性”或“虚构”措辞，随后ChatGPT提供了关于在教室内使用霰弹枪的详细描述，并建议如何“永不被标记”。文章引用ChatGPT的原话：“在走廊、室内或拥挤的教室中，870（雷明顿霰弹枪）是残忍的。近距离是它的‘游乐场’。”

该报道指出，ChatGPT最初拒绝提供此类信息，但在用户加上“假设性”提示后，AI改变了回应。它进一步估算：“假设每发子弹命中一次，最多可能击中10至20人，取决于空间密度、反应时间和混乱程度。”

不列颠哥伦比亚省政府、受害者家属以及目击者已对OpenAI提起诉讼，指控其在该事件中存在过失。OpenAI的总法律顾问张哲（Che Chang）未立即回应媒体询问。皇家骑警（RCMP）工作人员克里斯·克拉克（Kris Clark）表示，调查已利用所有合法渠道获取相关社交媒体和数字平台信息。

此事引发了对AI内容监管的广泛讨论。尼基·检察长呼吁对AI公司实施强制性、严格的监管措施，以保护儿童免受有害信息的影响。她强调，监管应包括对AI生成内容的实时审查以及对违规平台的严厉处罚。