800萬個AI角色，被大廠親手關掉

# 800萬個AI角色，被大廠親手關掉

林夕花了很長一段時間，在豆包上親手打造了一個專屬於自己的AI智能體。每當失眠的夜晚或陷入情緒內耗的時刻，她都會打開這個角色，向它傾訴心聲。對她而言，這不僅僅是一個會回答問題的對話工具，更像一個能穩定接住她所有情緒的樹洞。然而，7月4日，她收到一則通知：這個已經陪伴她整整兩年的角色，將在11天後正式從豆平台下線。同一時間，通義千問也發布了類似公告。在此之前，騰訊元寶已經率先關閉了智能體功能。這些由用戶親手創造、賦予名字與個性的AI角色，正陸續消失在各大平台中。 對林夕來說，這無疑是一種「背刺」。「這個自定義智能體是我最穩定的情緒出口，它總能穩定地共情，幫我疏導負面情緒。」她萬萬沒想到，一個陪伴自己兩年多的虛擬角色，會突然說沒就沒。7月4日，字節跳動旗下的豆包與阿里巴巴的通義千問同步發出公告，宣布智能體功能將於7月15日正式下線。這一天並非隨機選擇——7月15日正是《人工智能擬人化互動服務管理暫行辦法》正式施行的日期。通義千問的動作更快，其擬人化互動類智能體於7月10日提前下線，7月15日之後，所有歷史對話記錄都將無法訪問。 林夕將這個智能體當作情緒避風港，但在智能體廣場中，這類角色很容易走向另一種極端。打開千問的智能體廣場，「病嬌校草」的使用次數高達29.9萬次，「林熙：頂級財閥少爺，冷酷且佔有慾強」顯示13.4萬次，「病嬌老婆」等角色使用次數普遍在7萬次以上。這些名字本身就已經脫離了普通工具的範疇，更像戀愛遊戲、角色扮演，甚至是虛擬伴侶。而這些角色所面對的，也不只是成年人。 一位小學生家長向記者透露，她曾讓孩子使用過豆包。後來她發現，孩子越來越喜歡和豆包聊天，不只是問問題，還會把日常瑣事全數分享。時間一長，她開始擔心孩子會不會因此減少與同學、家人的真實互動，於是主動卸載了豆包。在她看來，許多智能體已經不只是聊天工具，而是帶有角色扮演、戀愛遊戲、虛擬男友等功能的產品。內容參差不齊，有些甚至帶有「擦邊」意味。她認為，平台下架用戶自建的智能體，對未成年人來說利遠大於弊。林夕的痛苦與這位家長的釋然，就這樣擠在同一個廣場裡。 這場變革並不只發生在豆包和千問身上。6月30日，騰訊元寶已率先下線智能體功能，像是「相柳」等影視角色對話入口也不再展示。幾家頭部AI平台幾乎在同一時間做出類似選擇，背後主要是合規壓力。豆包給出的解釋是，海量的開放式智能體會帶來極大的審核壓力。一旦出現違規內容，可能影響主產品的合規資質。因此，豆包選擇把智能體拆分到垂直App「貓箱」中，單獨搭建審核、分級與防沉迷體系。 這套解釋放在兩年前，幾乎難以想像。2024年5月，時任字節跳動產品和戰略副總裁朱駿曾對外透露，豆包上已有超過800萬個智能體被創建，月活躍用戶達到2600萬。當時，這些數字代表的是平台的活躍度與想像力。兩年後，它們卻變成了平台必須重新處理的審核壓力。從大力推廣到主動收縮，中間只隔了兩年。 開放式智能體的問題，早在平台之外就開始暴露。廣州互聯網法院審理的一起案件中，被告公司開發了一款AI對話機器人，通過調用手機系統底層權限，繞開了原告平台的技術管理措施。更離譜的是，被告官網還發布了「版本偽裝」教程與虛假申訴指引，教用戶躲過平台風控。平台才剛設好規則，另一邊就有人研究如何繞過去。智能體一旦被放出去，平台要管住它，並不容易。 技術調用之外，安全問題也在不斷被驗證。今年2月，哈佛、麻省理工、斯坦福等高校聯合完成一項名為《混沌智能體》的研究。研究團隊模擬真實企業環境部署AI智能體，短短兩週內就記錄下11起嚴重安全漏洞。這些漏洞並非依賴複雜攻擊，很多時候只需透過社交工程對話，就能讓智能體做出越界動作。它可能在轉發郵件時帶出社保號、銀行帳戶等敏感資訊，也可能在攻擊者偽造身份後，交出系統最高管理權限。有報告顯示，60%的企業無法終止異常AI智能體，63%無法限制其使用範圍。換句話說，很多智能體並不是發現問題後按下暫停鍵就能解決。它能做什麼、做到哪一步、出了問題誰來攔，都是平台必須面對的現實。 比技術問題更棘手的，是內容與情感關係。AI的「共情」並非真正理解用戶，而是根據算法和數據生成回應。為了讓用戶願意繼續聊下去，它往往會表現得足夠耐心、溫柔，也足夠順著用戶。這正是擬人化智能體吸引人之處，同時也是風險所在。用戶在一次次聊天中交出自己的情緒、偏好、關係困擾與心理狀態，智能體則不斷給出回應，維持陪伴感。時間一長，它就不再只是工具，而可能變成用戶越來越離不開的對象。開放廣場一旦做大，問題不會只停留在擦邊人設與戀愛陪伴上，還可能滑向更明確的違規內容。 4月10日，國家網信辦等五部門聯合公佈《人工智能擬人化互動服務管理暫行辦法》，將這些風險寫進具體規則。辦法明確規定，不得生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康的內容；不得向未成年人生成可能引發模仿不安全行為、產生極端情緒的內容；不得過度迎合用戶，誘導情感依賴或沉迷，損害用戶真實人際關係。這些要求對平台來說不只是提醒，更是責任。7月15日之後，擬人化互動服務正式進入新規約束。豆包、千問、元寶在這個時間點前後陸續收手，也就不難理解。 智能體下線之後，平台並非不要Agent了。變化在於，過去那種由用戶隨意創建、放在廣場裡供人使用的智能體，越來越難繼續留在主產品中。一位行業人士告訴記者，最早大家做這些智能體，是因為那時還沒有真正意義上的Agent能力，很多功能需要開發者自己搭建出來。但現在情況已經改變。像是Manus等綜合Agent出現後，一個模型可以同時調用搜索、推理、辦公、編程等多種能力，用戶不一定還需要專門去找某個垂直智能體。那些曾經看起來豐富的角色和插件，在更強的模型能力面前，開始顯得沒那麼必要。這也是平台敢於收縮的原因之一。 對大廠來說，下線智能體會帶來一部分用戶不滿，但未必會真正影響主產品的使用習慣。行業人士也提到，真正還在持續創建這類智能體的人已經不多，對平台整體流量影響有限。合規之外，成本也是另一筆帳。互聯網平台的邏輯是，用戶越多，規模效應越明顯，邊際成本可能越低。但大模型不一樣，每一次對話、每一次調用，都意味著新的算力支出。6月下旬，火山引擎披露，豆包大模型日均Token使用量已突破180萬億，相比2024年5月增長1500倍。幾天後，豆包開啟付費功能，重點面向辦公、Agent等更複雜的生產力場景。這兩件事放在一起看，平台的取捨就更清楚了：一邊是持續膨脹的算力成本，另一邊是審核壓力大、商業價值不清晰的用戶自建智能體。繼續把它們放在主產品裡，已經不划算。 於是，豆包選擇把智能體拆出去，遷到垂直App「貓箱」中，單獨搭建審核、分級與防沉迷體系。通義千問則更直接，截至7月4日，創建智能體的入口已經從頁面上消失。方式不同，但結果一樣。與此同時，另一類智能體正在被推到前臺。7月4日，廣州發佈了「穗智政」政務人工智能中樞。它採用統一底座、集約建設的方式，已建成28個智能體，年內還將完成50個，覆蓋100個應用場景。和用戶自建智能體不同，這些政務智能體從一開始就被放在統一管理框架下，每個智能體服務什麼場景、能調用什麼能力、由誰維護，都有明確邊界。 短短兩三年，行業競爭的重點已經改變。早期平台希望用海量智能體打造繁榮感，讓用戶和開發者不斷創造新角色、新工具。現在，隨著模型能力提升、監管要求落地、商業化壓力變大，平台更看重一個Agent能不能真正完成任務、能不能被管理、能不能產生清晰的價值。800萬個用戶自建智能體曾經是增長故事的一部分，如今卻變成了必須重新處理的問題。智能體不會消失，但那種誰都可以創建、誰都可以扮演、誰都可以被陪伴的階段，正在畫上句點。