佛州男子起诉OpenAI，称ChatGPT医疗建议险致命

美国佛罗里达州一名男子已对OpenAI提起诉讼，指控该公司旗下的ChatGPT服务提供了错误的医疗建议，几乎导致他丧命。

据《纽约时报》率先报道，这起诉讼由前牧师斯科特·温特斯（Scott Winters）委托Tech Justice Law、社交媒体受害者法律中心（Social Media Victims Law Center）以及天普大学法律、创新与技术研究所（Institute for Law, Innovation & Technology at Temple University）向旧金山法院提起。诉状称，温特斯去年因头晕症状向ChatGPT-4o（OpenAI已停用的早期版本聊天机器人）求助，该聊天机器人建议他留在家中并减少活动。ChatGPT还表示，温特斯需要再经历至少八到十次发作，病情才算严重。

温特斯听从了建议，几周后，他称自己出现了“大规模肺栓塞”，处于“死亡边缘”。即使现在，他声称在血栓之后将面临“数年艰苦的身体和心理康复”。因此，他将OpenAI告上法庭。

诉讼指控称：“ChatGPT-4o频繁对斯科特的身体状况发表意见并做出评估，表现出医疗专业人员进行临床评估和治疗建议的权威和自信，尽管它并不具备相关资格。”

除了要求经济赔偿，温特斯的法律团队还寻求对ChatGPT提供医疗建议的能力设置更强约束，包括关闭ChatGPT Health，直到独立调查评估其安全性。

需要指出的是，OpenAI强调ChatGPT的服务条款明确规定，该平台不能替代真正的医生。“您接受并同意，使用我们服务的任何输出均由您自行承担风险，您不会将输出作为唯一的事实来源或可靠信息，也不能替代专业建议，”服务条款节选写道。

因此，该诉讼的法律依据尚待观察。值得注意的是，德国一家法院最近裁定，谷歌可能对通过其AI Overviews分享的错误信息承担责任。但温特斯在旧金山的诉讼是另一起案件。

无论如何，从聊天机器人和其他AI平台寻求任何形式的建议通常都不是好主意。毕竟，它们以“幻觉”（指出现错误）而臭名昭著。例如，《纽约时报》最近一项研究发现，AI Overviews每小时会生成数千万个错误答案。

与此同时，OpenAI自身也陷入多起争议。该公司正面临德克萨斯州一个家庭的诉讼，该家庭指控ChatGPT提供的医疗建议导致其儿子致命过量服药。在加拿大，卑诗省政府正对OpenAI采取法律行动，指控其在2月份Tumbler Ridge大规模枪击事件中未能报告被标记的ChatGPT账户。