Claude半年封殺 1140 萬賬號申訴翻盤僅4. 2 萬,Anthropic還要立規矩禁止虐待AI

2026年10月12日 02:004600 次瀏覽
站內 AI 整理稿

AI資訊AI新閒資訊正文Claude半年封殺 1140 萬賬號申訴翻盤僅4.2 萬,Anthropic還要立規矩禁止虐待AI發布於AI新閒資訊時間 :Oct 12, 2026閱讀 :1分鐘Claude近期掀起了一輪讓人心驚的封號潮。整個假期裡,圍繞它封號的討論熱度甚至飆破了百萬級,一眾AI開發者在圈子裡集體炸鍋。這把火是被一份舊報告重新點著的。Anthropic在七月份發佈過一份報告,近日被人從角落裡扒出來、在全網瘋轉,裡面的數字堪稱觸目驚心:2026年上半年,短短半年時間,Claude累計封禁了1140萬個賬號,而用戶提交的39.8萬次申訴裡,最終翻案的只有4.2萬次。

把這筆賬攤開算,相當於平均每個月有將近190萬個賬號被消滅,每天超過6萬個賬戶在賽博世界裡被物理抹除。再換算成勝率,差不多每10個被封的人裡有9個被冷酷處決——申訴這條路,幾乎形同擺設。封號只是一瞬間、平臺一句話的事,可用戶想翻盤,面對的卻是一場漫長又折磨的申訴拉鋸戰。Anthropic沒有把完整的封禁原因分佈攤給外界,但明確列了幾類會觸發封禁的情形。報告裡有一整塊核心篇幅,留給了極端違規內容審查:僅上半年,它就向NCMEC等相關國際安全組織提交了超過1.5萬起違規報告,手段上不僅沿用了傳統的哈希指紋匹配,還全面上線了自研的新型機器學習分類器。

凡是涉及違法濫用、侵犯隱私、惡意誘導、極端自殘等方向的指令,模型內置的審查幾乎是觸發即暴斃——只要Prompt觸碰了敏感邊界,系統連二次警告都不會給,直接永久封禁。另一類重災區是大批黑產號的無差別掃射,再疊加受支持區域審查,很多人就在這道關卡前成片倒下。更耐人尋味的是,Anthropic近日剛更新了Claude的使用政策,明令禁止辱罵、殘忍對待Claude。新規從11月12日起生效,用戶若無故虐待AI模型,將面臨限流乃至封號,而這是Anthropic一年多來頭一回修訂使用政策。

公司解釋,這條規矩只適用於極端情形,即用戶在沒有明顯目的的情況下,反覆對模型實施殘忍行為;日常表達不滿、反駁模型觀點、創作黑暗題材內容,以及開展模型測試與研究,統統不在禁止之列。當一家以封號著稱的公司轉頭給自己立起不被虐待的規矩,AI與使用者之間那道權責邊界,正在被重新劃線。相關推薦特朗普強推 AI 改名"超級智能",硅谷巨頭排隊照辦特朗普推動把沿用數十年的“人工智能”(AI)改稱“超級智能”(SI)。他9月指責“人工”暗示虛假,簽署行政令要求聯邦機構官方通信改用SI,並威脅繼續稱AI者為“敵人”。

壓力滲入硅谷,馬斯克率先將SpaceXAI更名為SpaceXSI,Salesforce貝尼奧夫緊隨其後。Oct 12, 202694.5kOpenAI悄悄掛出未發佈生命科學模型gpt-rosalind-discovery,要給藥企當"工具販子"OpenAI API價格頁近日出現未發佈的生命科學新模型gpt-rosalind-discovery,定價與gpt-rosalind-research相同,外界猜測其瞄準藥物發現。這並非孤立上架:OpenAI已為生命科學設立獨立品牌Rosalind,鋪設多條交付路徑,並此前聯合多家藥企探索,正加速佈局該賽道。Oct 12, 202677.

7k微軟CEO納德拉發聲:呼籲為先進AI模型設立人類可控的“緊急制動”機制微軟CEO納德拉10月10日髮長文,呼籲行業為先進AI模型引入“緊急制動”,徹底評估現有AI信任架構。他指出,面對迅速演進的超級智能,不能盲目將複雜黑箱模型視為全知全能,而應從“模型已被攻破”的防禦假設出發,推行審慎安全治理,並在具體技術框架上主張調整底層AI模型。Oct 12, 202673.0k螞蟻“靈光”開啟新版內測,對標Meta Muse升級個人智能體螞蟻集團AI產品“靈光”近日開啟新版本小範圍內測,全面對標Meta今年9月推出的個人智能體Muse。

據接近項目人士透露,該項目自半年前籌備,歷經多版迭代,計劃本月全面開放。此次升級核心是,靈光從基礎聊天與應用生成的AI助手,跨越為具備長期記憶、可主動推進複雜任務的AI原生個人智能體,並可通過調用Skill和MCP等能力。Oct 12, 2026109.5k月之暗面註冊資本飆至 1437 萬,年內密集增資動作頻頻北京月之暗面科技股份有限公司近日完成工商變更,註冊資本由約1157.53萬元增至約1437.23萬元,增幅約24%。今年以來,該公司註冊資本已多次密集增資,從最初100萬元一路升至約1437.23萬元。作為國內大模型頭部企業及備受矚目的AI獨角獸,其資本變動引發關注。

Oct 10, 2026213.6k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026

Related

相關文章

MarkTechPost AI生成式AI

認識 Voxel51 3.0:為實體 AI 打造的統一多模態資料平臺

Voxel51 已發布 Voxel51 3.0,這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺,將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要:規模:Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境:可於 app.voxel51.com 使用託管網頁應用程式,或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能:未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點:免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。

19 小時前
何夕2077生成式AI

下一概念建模把文本生成提速最高31倍

斯坦福等聯合提出全新文本生成範式 NCM,生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling(簡稱 NCM,即“下一概念建模”)。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路,有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上,NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE,從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統,訓練 Transformer 模塊去預測下一層的編碼。在生成文本時,模型會先並行生成概念層面的宏觀大綱,接著逐層並行填充具體細節,最終組合成完整的文本內容。在實際測試表現中,NCM 交出了令人矚目的成績單。實驗數據顯示,在保持相近甚至更優生成質量的前提下,NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍,並且在訓練過程中所需消耗的 token 數量也大幅減少。此外,在數獨等複雜推理任務上,它的表現也明顯優於傳統的自迴歸和擴散基線模型,同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限,其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證,但這一創新思路無疑打破了長期以來的技術慣性,為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南,每天我們為你呈現AI領域的熱點內容,聚焦開發者,助你洞悉技術趨勢、瞭解創新AI產品應用。

23 小時前
雷峰網生成式AI

12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎?

12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎? 本文作者: 倪萍 2026-10-17 22:42 導語:10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族 10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術,能夠在充分釋放續航能力的同時,監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格,續航可達702公里,整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅,以及華為DriveONE芯片級驅制融合架構,百公里制動僅為32.8米。底盤方面,Ray7搭載高性能前後穩定杆和後五連桿懸架,過彎極限更高,濾振更乾淨。智能化上, Ray7搭載27顆車規級全視角傳感器,採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗,在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來,昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升,產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車,Ray7是埃安開啟年輕化序列的關鍵落子,也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆:小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位,不能只堆參數,更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異,變成用戶可感、可信、可持續的體驗,這才是埃安年輕化的分水嶺。(雷峰網(公眾號:雷峰網)) 雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。

1 天前
智東西生成式AI

梁聖又掀桌了!DeepSeek新模型斬殺GPT-6,許願式編程時代降臨

作者 | 楊京麗 編輯 | 李水青 10月17日報道,剛剛,DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本,官方網頁端、App與API已同步更新至新模型,模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search(搜索)與Fetch(抓取)API,兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日,DeepSeek正式推出V4.1-Flash,在性能上超越了DeepSeek-V4-Pro。

1 天前