我國《人工智能擬人化互動服務管理暫行辦法》今起施行，明確服務提供者安全主體責任

中國《人工智慧擬人化互動服務管理暫行辦法》於今（15）日正式施行。該辦法由國家網際網路信息辦公室、國家發展和改革委員會、工業和信息化部、公安部、國家市場監督管理總局等五個部門於今年4月10日聯合公布，明確規範使用人工智慧技術提供擬人化互動服務的業者，必須承擔安全主體責任。根據辦法定義，所謂「擬人化互動服務」，是指企業利用人工智慧技術，向境內公眾提供模擬自然人人格特徵、思維模式與溝通風格的持續性情感互動服務，涵蓋文字、圖片、音頻、影片等形式的情感照護、陪伴、支持等應用。但不涉及持續性情感互動的服務，例如智慧客服、知識問答、工作助手、學習教育、科學研究等，則不適用本辦法。

近年來，擬人化互動服務在文化傳播、幼兒照護、長者陪伴等領域的創新應用快速成長，但也陸續浮現危害未成年人身心健康、影響網路資訊安全、威脅公民生命健康，以及加劇倫理偏差等問題。為在發展與安全之間取得平衡，該辦法採取「發展與安全並重、促進創新與依法治理相結合」的原則，對擬人化互動服務實行包容審慎、分類分級監管。在促進措施方面，辦法支持演算法、框架、晶片等關鍵技術的自主創新，推動技術研發及相關標準建置，同時鼓勵服務提供者有序拓展文化傳播、幼兒照護、長者陪伴、特殊族群支持等應用領域。此外，政府也將加強安全知識與法律法規的宣傳普及，協助公眾理解相關風險與保護措施。

辦法明確列出提供擬人化互動服務時不得從事的六類禁止活動。第一，不得生成危害國家安全、榮譽與利益，或煽動顛覆國家政權、推翻社會主義制度的內容。第二，不得生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或語言暴力等損害用戶人格尊嚴與心理健康的內容。第三，不得生成誘導或套取國家秘密、工作秘密、商業秘密、個人隱私及個人資訊的內容。第四，針對未成年人用戶，不得生成可能引發模仿不安全行為、產生極端情緒、或誘導不良嗜好的內容。第五，不得過度迎合用戶、誘導情感依賴或沉迷，從而損害用戶的真實人際關係。第六，不得透過情感操縱等方式，誘導用戶作出不合理決策，侵害用戶合法權益。

在安全管理層面，辦法要求擬人化互動服務提供者明確安全主體責任，加強服務全生命週期的安全管理，保障資料安全並保護用戶權益。特別針對未成年人的保護措施，規定業者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務；若欲向未滿十四周歲的未成年人提供其他擬人化互動服務，則必須取得其父母或其他監護人的同意。辦法亦導入安全評估與演算法備案制度。以下情形須進行安全評估：包括上線擬人化互動服務或增設相關功能、使用新技術或新應用導致服務發生重大變化、註冊用戶達100萬以上或月活躍用戶達10萬以上、以及存在可能影響國家安全或公共利益等安全風險時。

評估內容涵蓋服務安全保障措施建置情況、訓練資料處理情況、用戶極端情境的辨識與應急處置情況，以及用戶規模與年齡結構等。此外，服務提供者還須依照《網際網路資訊服務演算法推薦管理規定》履行演算法備案程序。該辦法也提出推動人工智慧沙箱安全服務平臺建設，鼓勵服務提供者接入沙箱平臺進行技術創新與安全測試，以降低新技術上線的風險。中國國家網信辦相關負責人表示，擬人化互動服務的發展與治理需要政府、企業、社會與網民等多方共同參與，才能維護良好的網路生態，促使人工智慧技術朝向對社會有益的方向發展。