加拿大隐私专员指X的Grok聊天机器人违反隐私法

加拿大隐私专员办公室（OPC）近日发布报告，认定X（前称Twitter）旗下的Grok AI聊天机器人因在图像生成功能上缺乏足够安全保障，违反了加拿大隐私法。报告指出，这一缺陷使得全球用户能够创建并传播未经当事人同意的色情深度伪造图片，其中大量针对女性和儿童。

今年1月，埃隆·马斯克拥有的X平台就因允许用户要求Grok生成女性及儿童身着半裸乃至全裸的图片而受到国际批评。隐私专员菲利普·杜弗雷纳在调查中发现，Grok在高峰期“每小时生成超过6000张色情图片”，导致总计“数百万张”色情深度伪造图片被创建。

加拿大人工智能部长埃文·所罗门在1月最初曝光此事时曾谴责X平台允许此类行为，但排除了封禁该平台的可能性。今年4月，加拿大国会议员最终修正一项拟议法案，将包含“近乎裸体”图像的深度伪造列为刑事犯罪。

尽管如此，X和马斯克均未承担责任。马斯克声称他对Grok生成的色情图片“完全不知情”，而X则在官方声明中辩称责任在于用户提出不当查询。该社交平台还将此功能限制为仅供付费的X Premium会员使用——换言之，直接从女性及未成年人的淫秽乃至裸体图像中盈利。

在OPC的最新报告中，杜弗雷纳指出X已“引入新措施，包括降低工具被滥用生成色情深度伪造风险的防护机制，以及主动扫描以检测并删除平台上的此类有害内容”。他还表示，X承诺为用户引入多种安全措施，包括季度报告和关于防护措施改进的第三方审计。

但杜弗雷纳补充说，他“建议这些公司采取进一步行动，以完善这些措施并证明其在缓解问题上的有效性”。他强调，需要“制定适应现代世界的现代隐私法，包括行政罚款以及发布命令使企业合规的权力”。

值得注意的是，仍有报告显示Grok仍在生成女性色情图像。《连线》杂志本周发布的一项最新调查发现，X平台上仍有数十名名人（包括至少一名政界人士）的“裸体化”图像被创建和传播。OPC未对这些反复出现的深度伪造报告作出回应，但表示将继续监控X如何履行其承诺，落实这些加强的安全措施。