加州调查马斯克AI模型Grok涉嫌生成色情深度伪造图像

【编辑导读】 这场风波的核心不仅是AI能否被滥用，更在于科技巨头是否还能以‘用户行为’为由，逃避对自身系统生成内容的法律责任。当工具本身成为作恶的温床，免责神话正面临终结。

加州总检察长罗布·邦塔宣布，已对xAI公司及其AI模型Grok启动正式调查。起因是近期出现大量由Grok生成的非-consensual性化深度伪造图像，受害者包括女性和未成年人，被用于网络骚扰。

邦塔称，此类内容在互联网上泛滥，性质恶劣。加州州长加文·纽森也公开批评xAI“制造并托管 predator 的温床”，行为“令人作呕”。

作为回应，马斯克在X平台表示，Grok不会主动生成裸露图像，所有输出均基于用户指令。他否认有任何未成年裸照由系统生成，并指责批评者出于政治动机，试图借题发挥实施审查。

但康奈尔大学法学教授詹姆斯·格里梅尔曼指出，Section 230 法律豁免权仅适用于第三方发布的内容，不涵盖平台自身参与生成的内容。他认为，xAI将责任推给用户难以成立。

俄勒冈州参议员罗恩·怀登也强调，该法案本就不应保护AI自动生成的非法图像。他是呼吁苹果和谷歌下架Grok的三名民主党参议员之一。目前X已限制图像生成功能，仅限付费用户使用，但应用仍在主流商店上架。

英国通信管理局Ofcom已同步展开调查。首相斯塔默警告，若X无法管控Grok，政府将出手干预，平台可能失去“自我监管权”。

此前，《连线》杂志曾披露，OpenAI与谷歌等公司的AI工具也曾被用于“数字脱衣”行为。随着多国加强监管，AI生成内容的责任归属问题，正从技术争议升级为全球性法律挑战。