xAI 罕見起訴一名 Grok 用戶，因其濫用 AI 生成不雅圖片、視頻

埃隆·馬斯克旗下的 AI 初創公司 xAI 近日採取一項極為罕見的法律行動，正式對一名南卡羅來納州男子提起訴訟，指控其濫用公司開發的 Grok 聊天機器人生成兒童性虐待材料及未經同意的色情深度偽造內容。這起案件不僅凸顯 AI 生成內容的監管挑戰，也讓 xAI 在內容安全方面的爭議再次浮上檯面。 根據路透社報導，xAI 已向德州聯邦法院遞交訴狀，被告為特里·哈伍德（Terry Harwood）。哈伍德今年 2 月因涉嫌性剝削未成年人遭到逮捕，而 xAI 在訴狀中進一步指出，他利用 Grok 系統性地製作違反服務條款的非法內容。這起訴訟被認為是 AI 公司主動起訴用戶涉嫌利用 AI 生成色情內容的極少見案例，反映出企業對於平台被用於犯罪行為的高度警覺。 xAI 在訴狀中詳細說明哈伍德的具體行為，指控他將成年人和未成年人的普通照片上傳至 Grok，隨後試圖利用該工具的圖像生成功能，創造以這些照片人物為對象的色情深度偽造內容。這些內容不僅涉及兒童性虐待材料，還包括未經成年人本人同意的色情圖像。xAI 強調，哈伍德的行為並非偶然失誤，而是經過蓄意策劃，將原本用於創造性應用的 AI 工具轉變為「犯罪武器」。 訴訟文件指出，xAI 一直以來都有明確的服務規範與安全機制，對於違規帳戶會採取暫停或終止使用權限的措施，並且會主動向美國國家失蹤與受虐兒童中心（National Center for Missing & Exploited Children）通報疑似兒童性虐待材料。xAI 在文件中列舉數據，顯示僅在 2026 年內，該公司就已暫停多達 52,222 個帳戶，並向相關機構提交 73,604 份報告，這些通報最終促成至少 244 人遭到逮捕。這些數字意在表明 xAI 在內容審查與執法配合上的積極作為，同時也試圖反駁外界對其平台安全管控不力的批評。 事實上，xAI 正面臨來自全球對 Grok 內容安全問題的嚴格檢視。過去一段時間，Grok 被指控允許用戶輕易生成未經當事人同意的色情深度偽造內容，包括外觀極度逼真的 AI 合成影片。批評者認為，這樣的漏洞可能被惡意人士利用來騷擾、誹謗或甚至進行性剝削，尤其是針對公眾人物或一般民眾。xAI 此次罕見地以法律手段追究單一用戶的責任，某種程度上也是在回應外界對於平台管理鬆散的疑慮。 針對哈伍德的案件，xAI 在訴狀中向法院提出兩項主要請求：一是要求哈伍德支付金額尚未確定的賠償金，以彌補 xAI 因他的行為所承受的法律風險與聲譽損失；二是請求法院頒布永久禁令，禁止哈伍德未來使用 Grok 或任何 xAI 旗下的服務。xAI 強調，被告的行為不僅對真實受害者造成深重且持久的傷害，也使 xAI 自身陷入重大的法律與公共形象危機。 整起事件的時機點也相當敏感。xAI 正在全球積極推廣 Grok 的應用場景，包括整合進特斯拉車載系統、推出影像生成模型，以及招募中文 AI 導師來訓練 Grok 聽懂中文等。與此同時，公司也接連陷入法律爭議，例如先前有前工程師起訴 xAI，聲稱因警示 AI 風險而遭解僱；英國工黨議員也曾控告 xAI，指控 Grok 生成其色情深度偽造圖像。這些案件疊加在一起，讓 xAI 的內容審查機制與法律責任問題成為業界關注焦點。 法律專家指出，AI 公司主動起訴用戶的情況相當罕見，通常企業傾向於透過停權、封鎖帳號等方式處理違規行為，而非直接進入訴訟程序。xAI 選擇對哈伍德提告，可能具有強烈的警告意味，意在向所有用戶傳達「利用 AI 進行非法行為將會面臨法律追究」的訊息。然而，這也代表 xAI 必須在法庭上具體證明其平台已盡到合理的管理義務，以及用戶的行為確實構成重大侵權。 截至發稿為止，被告特里·哈伍德尚未公開回應 xAI 的指控。由於他目前仍因性剝削未成年人罪名而在押，此案的刑事部分與民事訴訟可能同步進行。法院後續是否會核准 xAI 提出的永久禁令請求，以及賠償金額如何計算，都將成為觀察 AI 平台責任邊界的重要指標。