X公司AI工具Grok涉色情深度伪造，加拿大隐私专员认定违法

加拿大隐私专员办公室（Office of the Privacy Commissioner of Canada, OPC）近日发布报告，认定社交媒体平台X（原Twitter）及其AI公司xAI违反了加拿大联邦私营部门隐私法《个人信息保护和电子文件法》（PIPEDA）。调查发现，xAI推出的AI图像生成工具Grok在缺乏适当安全措施和隐私风险考量的情况下上线，导致用户可创建和传播未经同意的性化深度伪造图像。

Grok是xAI开发的人工智能模型，集成于X平台，能够根据文本提示生成图像。隐私专员调查始于2025年1月，当时大量用户开始利用Grok生成针对女性（有时包括儿童）的非自愿性化图像，甚至涉及儿童性虐待材料（CSAM）。

调查重点审查xAI是否获得个人同意以使用其个人信息创建性深度伪造，以及此类个人数据使用是否合理。隐私专员发现，公司未获得同意，且其对大规模深度伪造事件的应对“不充分”。

作为回应，X和xAI已承诺向隐私专员办公室提交季度报告及独立的第三方审计报告，详细说明安全措施的改进情况，并提供有效性证明。这些报告将持续提交直至性化深度伪造问题完全解决。

在调查期间，两家公司还引入了新的防护措施以阻止此类深度伪造生成，并开始主动扫描和删除平台上的有害内容。