xAI 罕見起訴一名 Grok 用戶，因其濫用 AI 生成不雅圖片、視頻

埃隆·馬斯克旗下的 AI 初創公司 xAI 近日採取一項極為罕見的法律行動，正式對一名南卡羅來納州男子提起訴訟，指控其濫用公司開發的 Grok 聊天機器人生成兒童性虐待材料及未經同意的色情深度偽造內容。這起案件不僅凸顯 AI 生成內容的監管挑戰，也讓 xAI 在內容安全方面的爭議再次浮上檯面。根據路透社報導，xAI 已向德州聯邦法院遞交訴狀，被告為特里·哈伍德（Terry Harwood）。哈伍德今年 2 月因涉嫌性剝削未成年人遭到逮捕，而 xAI 在訴狀中進一步指出，他利用 Grok 系統性地製作違反服務條款的非法內容。

這起訴訟被認為是 AI 公司主動起訴用戶涉嫌利用 AI 生成色情內容的極少見案例，反映出企業對於平台被用於犯罪行為的高度警覺。xAI 在訴狀中詳細說明哈伍德的具體行為，指控他將成年人和未成年人的普通照片上傳至 Grok，隨後試圖利用該工具的圖像生成功能，創造以這些照片人物為對象的色情深度偽造內容。這些內容不僅涉及兒童性虐待材料，還包括未經成年人本人同意的色情圖像。xAI 強調，哈伍德的行為並非偶然失誤，而是經過蓄意策劃，將原本用於創造性應用的 AI 工具轉變為「犯罪武器」。

訴訟文件指出，xAI 一直以來都有明確的服務規範與安全機制，對於違規帳戶會採取暫停或終止使用權限的措施，並且會主動向美國國家失蹤與受虐兒童中心（National Center for Missing & Exploited Children）通報疑似兒童性虐待材料。xAI 在文件中列舉數據，顯示僅在 2026 年內，該公司就已暫停多達 52,222 個帳戶，並向相關機構提交 73,604 份報告，這些通報最終促成至少 244 人遭到逮捕。這些數字意在表明 xAI 在內容審查與執法配合上的積極作為，同時也試圖反駁外界對其平台安全管控不力的批評。

事實上，xAI 正面臨來自全球對 Grok 內容安全問題的嚴格檢視。過去一段時間，Grok 被指控允許用戶輕易生成未經當事人同意的色情深度偽造內容，包括外觀極度逼真的 AI 合成影片。批評者認為，這樣的漏洞可能被惡意人士利用來騷擾、誹謗或甚至進行性剝削，尤其是針對公眾人物或一般民眾。xAI 此次罕見地以法律手段追究單一用戶的責任，某種程度上也是在回應外界對於平台管理鬆散的疑慮。

針對哈伍德的案件，xAI 在訴狀中向法院提出兩項主要請求：一是要求哈伍德支付金額尚未確定的賠償金，以彌補 xAI 因他的行為所承受的法律風險與聲譽損失；二是請求法院頒布永久禁令，禁止哈伍德未來使用 Grok 或任何 xAI 旗下的服務。xAI 強調，被告的行為不僅對真實受害者造成深重且持久的傷害，也使 xAI 自身陷入重大的法律與公共形象危機。整起事件的時機點也相當敏感。xAI 正在全球積極推廣 Grok 的應用場景，包括整合進特斯拉車載系統、推出影像生成模型，以及招募中文 AI 導師來訓練 Grok 聽懂中文等。

與此同時，公司也接連陷入法律爭議，例如先前有前工程師起訴 xAI，聲稱因警示 AI 風險而遭解僱；英國工黨議員也曾控告 xAI，指控 Grok 生成其色情深度偽造圖像。這些案件疊加在一起，讓 xAI 的內容審查機制與法律責任問題成為業界關注焦點。法律專家指出，AI 公司主動起訴用戶的情況相當罕見，通常企業傾向於透過停權、封鎖帳號等方式處理違規行為，而非直接進入訴訟程序。xAI 選擇對哈伍德提告，可能具有強烈的警告意味，意在向所有用戶傳達「利用 AI 進行非法行為將會面臨法律追究」的訊息。然而，這也代表 xAI 必須在法庭上具體證明其平台已盡到合理的管理義務，以及用戶的行為確實構成重大侵權。

截至發稿為止，被告特里·哈伍德尚未公開回應 xAI 的指控。由於他目前仍因性剝削未成年人罪名而在押，此案的刑事部分與民事訴訟可能同步進行。法院後續是否會核准 xAI 提出的永久禁令請求，以及賠償金額如何計算，都將成為觀察 AI 平台責任邊界的重要指標。