1月17日消息，据报道，在聊天机器人Grok被持续指控可生成未经同意的色情相关不良内容之后，美国加州总检察长罗布·邦塔办公室向xAI发出一份“终止”函，要求后者立即整改。邦塔在信中明确，xAI必须防止Grok生成任何未经当事人请求的不良图像，或涉及未成年人的相关内容。信函指出，如继续允许此类内容生成或传播，将构成违反加州多项法律，包括深度伪造色情内容、儿童性虐待影像、非法录制以及不正当商业行为相关法规。xAI被要求在1月20日下午5点前完成整改。
此前，X平台曾于本周表示，已对Grok功能进行限制。但报道指出，X应用和Grok应用仍可生成不良图像。在发出停止函前，邦塔已公开宣布调查xAI在网上生成并发布未经同意的露骨性内容。（广角观察）
