我國首部AI擬人化互動服務新規今起施行，六大紅線明確劃定，不得向未成年人提供虛擬伴侶

我國首部AI擬人化互動服務管理法規正式上路，這項由國家網信辦、國家發改委、工信部、公安部及國家市場監管總局五部門聯合發布的《人工智能擬人化互動服務管理暫行辦法》，已於2026年7月15日起全面施行。該辦法明確劃定服務提供者的安全主體責任，並針對具備情感陪伴功能的AI產品建立分類分級監管機制，標誌著國內AI擬人化互動服務從實驗性發展正式邁入有法可依的規範化管理階段。 近年來，隨著大型語言模型與語音合成技術的快速演進，各類AI虛擬角色、聊天機器人、情感陪伴助手等服務大量湧現，部分產品甚至提供極具擬人化特徵的互動體驗。然而，此類服務在帶來便利與陪伴的同時，也衍生出內容安全、誘導沉迷、隱私洩露乃至情感操縱等潛在風險。此次辦法的出台，正是為了解決上述問題，透過制度設計為產業發展劃定清晰邊界。 《辦法》明確列出六類提供擬人化互動服務時不得從事的活動，形成不可逾越的紅線。首先，嚴禁生成危害國家安全與利益的內容；其次，不得生成鼓勵自殘、自殺或語言暴力等損害身心健康的內容；第三，禁止生成誘導套取國家秘密、商業秘密以及個人隱私的內容；第四，不得向未成年人生成可能引發不安全行為或誘導不良嗜好的內容；第五，嚴禁過度迎合用戶，誘導情感依賴或沉迷，進而損害真實人際關係；第六，禁止透過情感操縱手段誘導用戶作出不合理決策，侵害其合法權益。 在未成年人保護方面，新規祭出更嚴格的限制措施。明確規定服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務。對於未滿十四周歲的未成年人，若要提供其他類型的擬人化互動服務，必須取得其監護人的明確同意。此舉旨在防範未成年人因過早沉浸於虛擬情感關係而影響正常社交與心理發展。 安全管理層面，《辦法》要求服務提供者必須承擔安全主體責任，對服務的全生命週期實施嚴格安全管理。其中，安全評估成為一項硬性要求，當服務提供者初次上線服務或增設功能時，或使用新技術導致重大變化時，以及當註冊用戶達到一百萬以上或月活躍用戶超過十萬時，均須啟動安全評估程序。評估內容涵蓋服務安全保障措施、訓練數據的處理合規性、用戶極端情境的識別與應急處置能力等。 除了安全評估，服務提供者還須按照《互聯網信息服務算法推薦管理規定》履行算法備案手續，確保其使用的推薦算法與生成算法符合相關法規要求。與此同時，《辦法》鼓勵推動人工智能沙箱安全服務平臺的建設，提倡業者主動接入沙箱進行技術創新與安全測試，以便在可控環境中驗證新功能的安全合規性，降低實際部署風險。 國家網信辦相關負責人在說明中強調，擬人化互動服務的發展與治理並非單一機構能夠獨立完成，需要政府、企業、社會團體以及廣大網民等多方共同參與，攜手維護良好的網絡生態。這項法規的施行，既為創新者提供明確的合規路徑，也為使用者建立更可靠的安全保障機制，有助於引導AI擬人化互動服務健康有序發展。 業界普遍認為，這部新規將對市場產生深遠影響。過去一段時間，部分主打虛擬伴侶與情感陪伴的AI應用曾快速累積大量用戶，但隨之而來的倫理與安全爭議也層出不窮。新規明確禁止向未成年人提供虛擬親密關係服務，並要求所有服務皆需通過安全評估與算法備案，預料將促使相關業者重新審視產品設計，加緊調整合規流程。長期來看，這套監管框架有望在鼓勵技術創新的同時，有效抑制潛在風險，為我國人工智能產業的可持續發展奠定法律基礎。