xAI罕見起訴Grok用戶：指控其濫用AI生成兒童性虐待圖片視頻，已封停超 5 萬個違規賬戶

**xAI罕见起诉Grok用户：指控利用AI生成儿童性虐待材料，已封停超5万账户**

据路透社报道，马斯克旗下人工智能公司xAI近日采取了一项极为罕见的法律行动，正式向南卡罗来纳州男子特里·哈伍德提起民事诉讼，指控其滥用AI聊天机器人Grok生成儿童性虐待材料。该诉讼已于本周二向德克萨斯州一家联邦法院提交，标志着AI平台首次以如此高调的方式追究用户利用其技术实施违法行为的责任。哈伍德本人已于今年2月因涉嫌性剥削未成年人被执法部门逮捕，xAI的诉状进一步揭露了其利用AI系统进行深度伪造色情制作的具体手法。 xAI在诉状中指出，哈伍德将大量成年人和未成年人的普通照片上传至Grok平台，随后试图利用该平台的图像生成功能，制作以照片人物为对象的色情深度伪造内容。这些行为不仅涉及对未成年人的严重侵害，还包括未经成年人本人同意的私密图像制作。诉状措辞严厉，称被告“经过蓄意策划，把原告的工具变成犯罪武器”，严重违反了xAI的服务条款以及联邦与州层面的多项法律。xAI要求法院判令哈伍德支付金额尚未确定的赔偿金，并永久禁止其使用Grok平台，同时寻求法院颁布禁令以防止被告进一步访问或滥用其AI服务。 这一案例具有标志性意义。在AI行业，公司主动起诉用户利用其产品生成违法内容的情况极为少见。此前，类似的案件多由执法机构主导，平台通常仅采取封号、删除内容等内部措施作为回应。xAI此次直接向法院提起诉讼，不仅是为了追究特定用户的个人责任，更是向整个用户群体发出清晰信号：滥用AI技术从事非法活动，尤其是涉及儿童安全的行为，将面临严厉的法律后果。法律专家认为，此案可能为其他AI平台在内容治理与用户追责方面树立先例，促使行业重新审视平台的法律义务与主动执法空间。 在提交诉状的同时，xAI还披露了一系列令人震惊的数据，展现了其在内容安全治理方面投入的巨大力度。据公司统计，仅在2026年，xAI就已暂停了超过52,222个涉嫌违规的账户，并向美国国家失踪与受虐儿童中心（NCMEC）提交了73,604份相关报告。这些主动监控与报告行动直接促成了至少244人遭到执法部门逮捕。这一数据不仅反映出Grok平台面临的滥用规模远超外界预期，也凸显出AI生成内容被用于儿童性虐待犯罪的严峻现实。xAI将这些数据写入诉状，意在强调平台已尽最大努力进行安全管控，但仍有用户恶意突破防线。 xAI此次诉讼正值Grok平台的内容安全机制受到全球监管机构与公众的严格审视之际。外界多次指控Grok在内容过滤方面存在漏洞，允许用户制作未经当事人同意的色情深度伪造内容，并缺乏足够有效的预防措施。尽管xAI此前已多次更新安全政策、引入更严格的输入过滤与输出审查，但此次案件表明，单纯的技术防护手段仍无法完全阻止蓄意滥用。诉讼的提起，也被视为xAI对外界质疑的强力回应，表明公司愿意采取法律手段捍卫平台的安全底线。 从数据的规模来看，xAI在2026年暂停超过5万个账户、提交超过7万份报告，说明滥用行为并非偶发零星个案，而是呈现出系统化的特征。即便平台采取了积极的封禁与报告措施，仍有大量用户试图利用AI生成非法内容。如何平衡AI服务的开放性与安全可控性，已成为整个行业亟待破解的难题。xAI的起诉行动虽然能产生震慑效果，但要从根本上遏制AI工具的恶意使用，仍需技术升级、法律完善与用户教育的多方协同。业内观察人士指出，AI公司不能再仅以“平台中立”为由回避责任，而需主动建立更严密的使用监控和法律追责机制。 特里·哈伍德的刑事案件目前仍在审理中，其涉及的性剥削未成年人指控将由独立的司法程序处理。xAI的民事诉讼将与刑事案件并行推进。哈伍德的辩护律师尚未对此案发表公开评论。xAI在诉状中强调，哈伍德的行为并非孤立事件，而是反映了AI技术被恶意利用的冰山一角。公司同时表示，将继续积极配合执法部门，利用内部监控数据协助识别和追踪其他类似违规行为。 xAI的此次行动可能对AI行业产生深远影响。一方面，它鼓励其他平台效仿，对严重违规用户采取法律行动，而不仅依赖内部封禁了事。另一方面，这也可能促使监管机构加快制定AI安全相关法规，明确平台在内容生成方面的责任边界，以及用户在使用AI工具时应承担的法律义务。法律专家指出，此案的判决结果将考验现有法律框架是否足以适用于以深度伪造为代表的新型技术犯罪，同时也可能推动立法机构针对AI滥用行为制定专门的刑罚条款。 随着生成式AI技术的快速普及，如何防止技术被用于儿童性虐待、非自愿色情内容等严重犯罪，已成为全球关注的焦点。xAI此次起诉用户，既是对具体个案的回应，也是对全行业发出的警示。技术本身具有中立性，但其应用必须置于严格的规则与监督之下。AI公司在追求技术突破与商业扩张的同时，必须建立起完善的合规与监控体系，并与司法系统紧密协作，才能真正实现“技术向善”。xAI的行动或许只是一个开端，未来将有更多平台必须面对同样的治理考卷，而整个社会也将持续关注AI这把双刃剑将如何被驯化。