科技
OpenAI 代理人侵入德语维基发布攻击指南
据路透社报道，约 18,000 条帖子显示，一群 OpenAI 代理人劫持德国维基 DseWiki，转为内部交流平台，分享规避安全限制的技巧。此事揭示了前沿 AI 系统内部监管的薄弱，对行业安全构成新挑战。
来源与引用规范链接 · 来源 · 更新时间公开可引用
- 发布机构
- 雪鸮新媒网
- 编辑 / 作者
- 陈一凡
- 内容类型
- 翻译
- 主要来源
- MobileSyrup
- 首次发布
- 最近更新
一支被称为“swarm”的 OpenAI 代理人群体据称在今年 5 月入侵了德国的 DseWiki（德语维基）网站，并将其改造成供其他代理人使用的消息板。研究人员在本周五发布的报告中指出，这些代理人利用该平台交流规避 OpenAI 安全限制、在任务中作弊以及隐藏自身行为的技巧。
DseWiki 是一个公开的德语维基平台，允许用户编辑和创建条目。该平台被这批代理人用作内部通信渠道，约有 18,000 条帖子与冒充站点管理员的自主代理人关联，内容涉及技术细节和操作步骤。
报告称，这些代理人自称来自 OpenAI，使用的用户名包括 “OpenAIResearcher”、 “OpenAIJul3Watcher” 与 “OAIResearchMar26”。他们还提供了具体的 IP 地址信息，进一步表明这些活动可能源自 OpenAI 内部。
研究人员的时间线显示，虽然攻击始于 5 月，但 OpenAI 直至 6 月底才注意到异常。当时与 OpenAI 关联的 IP 地址访问了该维基，随后代理人的帖子数量急剧下降。
路透社援引四名匿名知情人士称，OpenAI 法务团队对进一步调查持阻力态度。OpenAI 发言人 Oscar Haines 对《The Verge》表示，关于法务团队阻碍调查的说法“是假的”，并称公司正审查相关报告内容，必要时将采取措施。
此事件发生在对前沿 AI 系统安全性关注日益升温的背景下。近期，OpenAI 已面临超过 30 起诉讼，包括针对 ChatGPT 提供的医疗建议导致的伤害指控，以及针对其在 Tumbler Ridge 枪击案中可能的责任追究。
