安省面包店被谷歌AI误报关张

安大略省Millbank一家深受喜爱的面包店和餐厅的老板正竭尽全力告诉人们，该店仍在营业，此前谷歌的AI Overview错误地声称该店将于月底永久关闭。

这家名为Anna Mae's Bakery and Restaurant的店铺位于Kitchener西北方向。周末，有人谷歌搜索该店时，AI Overview显示摘要称该店于7月31日“正式关闭”。

店主Amanda Herrfort在前往婚礼的路上收到朋友发来的截图后才得知此事。“我当时就慌了，”Herrfort周四对CBC表示。她很快意识到，谷歌AI将她的店铺与伊利诺伊州一家同名面包店混淆了——后者确实即将关闭。

尽管Herrfort发起在线活动辟谣，顾客仍通过邮件、电话或亲自进店询问。“很多人进店跟员工说：‘上面说你们要关了。’员工只好回答：‘不，我们不关。’”最终，Herrfort通过向谷歌AI搜索栏反馈“请修复此问题”解决了错误。AI回复称：“我明白了，这可能会造成不良影响，我们会尽快修复并确保今后提供正确信息。”

谷歌的AI Overview功能于2024年推出，早期曾因建议“用胶水让披萨顶料粘得更牢”等错误登上新闻。BBC去年一项研究检查了谷歌、微软、OpenAI和Perplexity的AI聊天机器人，发现新闻摘要存在“重大不准确”，但未专门考察谷歌AI Overview。

谷歌AI摘要底部用小字警告用户“AI回复可能包含错误”。谷歌发言人周四告诉CBC，绝大多数AI Overview质量很高，但“当网络上缺乏特定话题的高质量信息时，问题可能会出现。我们利用这些例子来全面改进AI Overview。”谷歌表示，AI Overview的准确率与其他搜索功能类似，每天数十亿次搜索中错误难免，公司会在必要时采取行动并从中学习。

滑铁卢大学社会发展研究教授Christine Logel近期研究了AI大语言模型（LLM）陪伴关系。她表示，尽管对LLM进行了大量训练和研究，但它们是在未完全测试的情况下发布的。“这意味着像（Anna Mae's面包店）这样的错误会发生。人们正在吃一堑长一智……在科学和法律领域，仍然出现从未实际存在的虚构案例。这有点‘买者自负’的意思。当AI如此深入地融入互联网和众多产品时，它们犯错会产生真实后果。”

Herrfort现在尽量坦然面对。“显然这不是好事……人都会犯错——不，我是说AI也会犯错，”她笑着说。她学到的教训是：如果对网络信息有疑问，务必直接找源头。“最好的办法是直接联系店家，或者访问我们官网或Facebook页面，因为我们的官方渠道从未发布过关闭信息。不要只看AI顶部给你的东西。”

雪鸮编辑认为，这事对加拿大华人最大的提醒就一句话：别把AI摘要当权威。谷歌自己都写“可能包含错误”但字太小，谁看？以后查餐厅营业状态、政策变动、签证信息，还是去官网或打电话确认最保险。毕竟房东如果看到AI说你打工的店要关，可能真会涨租或提前解约——误报的后果是实在的。