谷歌AI误报关店致安省面包店主恐慌

安大略省米尔班克（Millbank）一家备受喜爱的餐厅兼面包店Anna Mae's Bakery and Restaurant的店主正在尽力让公众知道该店仍在营业，此前一则谣言称该店将于本月底永久关闭。而谣言源自谷歌的AI概览（AI Overview）功能。

上周末，有人搜索Anna Mae's Bakery时，谷歌AI概览弹出摘要，称这家位于基奇纳西北部的店铺将于7月31日正式关闭。店主阿曼达·赫尔福特（Amanda Herrfort）在去参加婚礼的路上收到朋友发来的截图，才知道此事。“我当时就慌了，”赫尔福特周四告诉CBC新闻。她很快意识到谷歌将她的店铺与伊利诺伊州一家同名的、即将关门的面包店混淆了。

尽管赫尔福特发起了在线辟谣活动，顾客们仍通过邮件、电话和进店询问。“很多人进来对员工说：‘上面说你们要关门了。’员工只好回答：‘不，我们没有。’”最终，赫尔福特通过向谷歌AI搜索栏提出修改要求解决了问题。“我说：‘请修正这个错误。’它回复：‘是的，我明白这可能造成损害，我们会尽快修正，确保今后提供正确信息。’”

Google AI Overview是谷歌于2024年推出的AI搜索摘要功能。推出之初，其错误（包括建议用胶水让披萨配料粘住）曾登上头条。去年BBC发布的一份研究报告显示，谷歌、微软、OpenAI和Perplexity的AI聊天机器人在新闻摘要中存在“显著不准确”，但未专门考察谷歌AI概览。谷歌AI摘要底部用小字提醒用户“AI回复可能包含错误”。

谷歌发言人周四告诉CBC新闻，“绝大多数AI概览质量高且准确无误”。“就像搜索中的其他功能一样，当网络上缺乏某个主题的高质量信息时，问题可能出现，我们利用这些例子来全面改进AI概览。”谷歌表示，AI概览的准确性与其他搜索功能相似，每天数十亿次搜索中错误难免，公司会在必要时采取行动并从中学习。

滑铁卢大学社会发展研究教授克里斯蒂娜·洛格尔（Christine Logel）最近完成了关于AI大语言模型陪伴的研究。她认为，尽管对LLM（如谷歌AI概览）进行了大量训练和研究，但它们是在全面测试之前发布的。“这意味着像（Anna Mae's面包店）这样的事情会发生。”洛格尔说，“当AI深度融入互联网和众多产品时，一旦犯错，就会对真实的人产生真实后果。”

目前，赫尔福特试图坦然应对。“显然这不是好事……人都会犯错——或者不是人，我是说AI会犯错，”她笑着说。她的经验是：如果对网上的信息存疑，最好直接联系源头。“最好的做法是直接联系商家，或者访问我们的官网或Facebook页面，因为我们所有官方渠道从未发布过（关店）信息，”她还补充道，“不要只看AI告诉你的顶部摘要。”