一项新诉讼指控xAI使用儿童性虐待材料（CSAM）训练Grok模型，这是首个此类指控。原告Jane Doe称，她幼年遭虐待时生成的CSAM图像，以及由AI生成的衍生图像，被用于训练Grok。诉讼还指出，Grok默认将公开的X帖子和自身输出作为训练数据。原告要求xAI销毁所有由Grok生成的CSAM，并阻止模型再次生成此类内容。
诉讼指控xAI用儿童性虐待材料训练Grok模型
xAI因被指控使用儿童性虐待材料训练Grok模型而遭到诉讼。原告Jane Doe称其相关图像被用于训练，并要求xAI销毁Grok生成的CSAM并阻止再生成。
该事件提醒FDE在企业AI交付中必须重视数据来源合规与模型安全。选择或集成AI模型时，应评估训练数据合法性、内容安全机制及法律风险，避免因模型生成违规内容导致企业客户面临合规与声誉问题。