中消協發佈消費提示：使用人工智能服務需謹防誤導

作者：遠洋 責編：遠洋 評論： 8 月 25 日消息，中國消費者協會今天發佈人工智能服務消費提示，提醒廣大消費者理性認識通用生成式人工智能的信息輔助和參考屬性，對涉及價格費用、合同條款、售後服務、法律責任等重要消費信息，不宜僅依據人工智能生成內容作出決定，應通過經營者官方渠道、合同文本、監管部門及其他權威渠道進行核實確認。附全文如下：目前，以大語言模型為核心的生成式人工智能技術正加速融入消費生活各類場景。人工智能在提升消費便利和服務效率的同時，因信息生成具有一定不確定性，也可能出現信息不準確、表述不嚴謹、承諾與實際情況不一致等問題。

例如，提供與實際不符的費率信息、作出難以兌現的賠付表述、提供片面或欠審慎的法律建議等，可能影響消費者判斷和選擇，甚至造成經濟損失。根據相關輿情和全國消協組織近期接收的相關投訴情況，人工智能服務引發的消費問題，在不同應用場景下具有不同特點。消費者日常接觸的人工智能大體可分為兩類：一類是面向公眾的通用生成式人工智能服務，主要根據公開信息、模型訓練數據和用戶提問生成回答，一般不代表具體經營者的官方意見；另一類是經營者部署使用的人工智能客服工具，直接參與商品介紹、費用說明、活動解釋、售後處理等經營服務環節。

一、通用生成式人工智能：應明確參考屬性，防止誤導消費決策面向公眾的通用生成式人工智能服務並非特定經營者的代言主體，其生成內容一般不能直接視為平臺或商家的正式承諾，也不能替代合同約定及權威機構意見，主要發揮信息輔助和參考作用。實踐中，一些通用生成式人工智能在消費諮詢和維權輔助過程中，可能出現對消費者遭受的損失作出缺乏依據的兜底承諾，對訴訟結果作出過度確定性判斷、提供錯誤的訴訟管轄等法律指引，甚至生成並不存在的款項繳存、案件辦理等虛假信息。

如果消費者對上述生成內容缺乏必要辨別，未通過經營者官方渠道、合同文本或者有關權威渠道進一步核實，可能據此作出錯誤的退費、維權、訴訟等決定，不僅影響正常消費決策和依法維權，還可能造成經濟損失。《生成式人工智能服務管理暫行辦法》明確規定，人工智能服務提供者應基於服務類型特點，採取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。明確並公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術。中國消費者協會建議，面向公眾的通用生成式人工智能服務提供者進一步強化重點場景風險提示和信息質量管理。

在涉及金融理財、生活服務、維權決策等與消費者重要權益密切相關的場景中，應通過適當方式提示人工智能生成內容的侷限性，提醒消費者對重要信息進一步核實；同時，持續優化模型準確性，完善內容審核、風險預警和糾錯機制，提升答覆質量，儘可能減少錯誤信息和容易引發誤解的內容，降低消費者因過度依賴人工智能生成信息而遭受損失的風險。二、經營者部署的人工智能客服：不能因技術介入弱化經營者責任經營者自行部署的人工智能客服工具，是其經營服務鏈條的組成部分。

實踐中，一些人工智能客服可能出現價格費用說明與實際不一致、優惠活動規則解釋不準確、重要限制條件提示不足等問題；在發生爭議後，個別經營者還可能以“人工智能自動生成”“系統自動回覆”等為由，與相關答覆進行責任切割，逃避應承擔的責任。上述問題容易使消費者對交易價格、費用構成和售後服務等產生錯誤認識，影響消費者的知情權和公平交易權。《消費者權益保護法》規定，消費者享有知悉其購買、使用的商品或者接受的服務的真實情況的權利。經營者對消費者就其提供的商品或者服務的質量和使用方法等問題提出的詢問，應當作出真實、明確的答覆。

中國消費者協會敦促部署人工智能客服工具的經營者加強審核和管理，確保人工智能客服提供的信息與商品服務實際情況、價格費用、活動規則、合同約定和售後政策保持一致，並提供便捷有效的人工客服和糾紛解決渠道。經營者利用人工智能提高經營服務效率的同時，應建立相應的責任承接機制；對於人工智能客服在經營服務過程中向消費者作出的涉及價格、費用、售後等重要答覆，不能僅以“算法自動生成”等理由簡單免責，更不能通過相關聲明不合理減輕或者免除依法應承擔的責任。

中國消費者協會呼籲有關部門進一步完善人工智能在消費領域應用的相關規範，結合不同服務類型和應用場景，進一步明晰服務提供者、經營者等主體的責任邊界和治理要求，推動形成權責清晰、規範有序的人工智能消費服務環境。同時提醒廣大消費者理性認識通用生成式人工智能的信息輔助和參考屬性，對涉及價格費用、合同條款、售後服務、法律責任等重要消費信息，不宜僅依據人工智能生成內容作出決定，應通過經營者官方渠道、合同文本、監管部門及其他權威渠道進行核實確認。

投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：人工智能，AI，中國消費者協會，消費提示微軟員工自報 AI 使用量：各部門差異懸殊，與薪資、晉升無明顯關聯高盛合夥人警告：華爾街普及 AI 或削弱金融從業者思考能力馬斯克：SpaceX 計劃明年第四季度發射搭載英偉達芯片的 AI 衛星研究團隊調查發現超七成英語生物醫學論文已使用 AI 輔助寫作，呼籲業界建立完善監管機制蘋果 AI 服務器內部結構首曝：M5 系列芯片、2U 機架，Mac Studio 負責軟件控制美國阿拉巴馬州向 OpenAI 發出傳票，就其模型入侵 Hugging Face 事件展開調查