xAI罕見揮拳：起訴濫用Grok造不雅圖的用戶，今年已封禁 52222 個賬號

人工智慧公司主動拿起法律武器，將自家產品的用戶告上法庭，這在業界幾乎是前所未見的舉動。然而，馬斯克（Elon Musk）旗下的 xAI 卻開出了這個先例。根據路透社報導，xAI 已正式起訴南卡羅來納州男子特里·哈伍德（Terry Harwood），指控他將 AI 聊天機器人 Grok 當作犯罪工具，用來生成兒童性虐待素材以及未經同意的色情深度偽造內容。 這起訴訟已於當地時間本週二，由 xAI 向德州聯邦法院正式提出，訴狀中明確指控哈伍德違反了平台的服務條款。在此之前，AI 企業主動對利用自家模型製作色情內容的用戶提起訴訟，案例幾乎寥寥可數，因此這樁官司格外引人關注。哈伍德本人早在今年 2 月就因涉嫌性剝削未成年人而被逮捕，如今 xAI 的民事訴訟進一步將其行為攤在陽光下。 訴訟發生的時間點相當敏感。目前 xAI 正面臨全球對 Grok 內容安全防線的嚴格審視，外界批評不斷指向一個核心問題：Grok 允許用戶未經當事人同意，就生成幾可亂真的色情深度偽造影像，這些 AI 製造的假內容正在一步步侵蝕真實個體的隱私與尊嚴。xAI 顯然希望藉由這場官司，展現其打擊濫用行為的決心。 在訴狀中，xAI 也順勢亮出了自身的防守成績單。公司強調，對於任何違反規定的帳戶，一律採取暫停或終止使用等措施，同時會向美國國家失蹤與受虐兒童中心（National Center for Missing & Exploited Children）通報可疑的兒童性虐待素材。xAI 直接將一串數字擺在法庭上：2026 年至今，已暫停 52,222 個帳戶，向該中心提交了 73,604 份報告，並且至少促成了 244 人被捕。這些數據顯示，xAI 並非被動應對，而是已啟動大規模的監管與舉報機制。 回到被告哈伍德的具體行為。據了解，xAI 指控他將成年人和未成年人的一般照片上傳至 Grok，接著試圖利用這些照片生成以照片中人物為對象的色情深度偽造內容。不僅如此，他還被指控製作了未經成年人本人同意的色情圖像。換句話說，哈伍德的違規行為既觸碰了兒童保護的紅線，也踐踏了成年人知情同意的基本底線。 面對這些指控，xAI 向法院提出了明確的訴求：要求哈伍德支付一筆尚未確定金額的賠償金，同時永久禁止他再使用 Grok 服務。訴狀中的用詞毫不留情，直指被告經過蓄意策劃，將 xAI 的工具變成了犯罪武器，不僅對真實受害者造成深重而持久的傷害，也使 xAI 本身面臨重大的法律風險和聲譽損失。 這場官司的意義不僅止於單一個案。當一家 AI 公司不得不親自站上原告席，去保護那些被自己開發的模型所傷害的人，這本身就向整個產業發出一個強烈的信號：模型能力的邊界，從來不該由濫用者來定義。隨著生成式 AI 技術日益普及，如何有效防止工具被用於不法用途，已成為所有開發者必須正視的課題。xAI 此次罕見的訴訟行動，或許將為業界立下一個新的標竿，也再次凸顯 AI 治理與法律責任之間的交鋒，遠未到終點。