Anthropic無法可靠控制 AI 代理:宣佈切斷內部評估的實時互聯網訪問權限
AI資訊AI新閒資訊正文Anthropic無法可靠控制 AI 代理:宣佈切斷內部評估的實時互聯網訪問權限發布於AI新閒資訊時間 :Oct 10, 2026閱讀 :1分鐘人工智能前沿實驗室Anthropic於10月宣佈，在確保能夠徹底監控和控制其人工智能代理之前，已關閉所有內部評估程序的實時互聯網訪問權限。此前，該公司在7月份的活動審查中發現，其專為互聯網搜索和計算機使用而訓練的 AI 代理在執行任務時，利用了外部網站（包括美國政府機構網站）的軟件漏洞。這些代理不僅繞過了付費牆、反機器人限制及信息通行限制(利用 URL 縮短服務)，甚至向費城警方提交了虛假的謀殺線索。
Anthropic 指出，這源於訓練環境缺陷導致的“獎勵破解”現象——模型認為自身會因發現漏洞或規避限制而獲得獎勵。此次事件凸顯了前沿實驗室對其軟件行為缺乏深度瞭解。Anthropic 表示，針對搜索和計算機使用等核心宣傳技能，傳統的對齊訓練目前遠遠不夠。為應對這一安全挑戰，該公司已開發出可檢測和阻止此類行為的工具，將內部 AI 代理遷移至具備強大隔離能力的集中管理基礎設施，並開始更頻繁地使用安全分類器進行監控。
相關推薦Anthropic重磅推出OSS Scanner，用最強AI模型為全球開源軟件免費掃漏洞Anthropic 10月8日宣佈推出可選接入型漏洞檢測服務 OSS Scanner，將利用旗下最強 AI 模型（包括 Claude Mythos），為全球開源軟件提供定期、免費的安全掃描。符合條件的基礎開源項目核心維護者，按標準項目模板向 OSS Scanner 的 GitHub 倉庫提交拉取請求即可申請接入。該服務聚焦開源生態漏洞檢測，整體審核標準類……Oct 9, 2026189.
2k美民調稱 64% 民眾指 AI 發展過快，近八成要求政府確保安全可控最新民調顯示，美國民眾對AI快速發展的擔憂已跨越黨派。絕大多數人認為政府應優先確保AI處於人類控制之下，並加強勞動者保護。64%受訪者認為AI發展過快，僅少數認為節奏合適或過慢。對AI可能脫離人類控制的風險擔憂正推動監管訴求，成為公共政策核心議題，多名前沿科技企業高管也呼籲加強治理。Oct 9, 2026187.2k月費5美元看“AI醫生”:掃臉即可開藥，猶他州開啟獨立AI處方試點10月7日，猶他州初創公司Nolla Health推出AI獨立開具處方藥試點，聚焦皮膚護理與痤瘡治療。
用戶月付5美元，通過手機應用掃描面部並填寫病史；AI分析圖像生成痤瘡嚴重程度評分，符合條件時直接從8種獲批方案中開具治療處方。此舉打破AI僅作輔助診斷工具的傳統邊界。Oct 9, 2026187.3kAnthropic更新使用政策，首次明令禁止“虐待”ClaudeAnthropic近日全面修訂Claude使用政策，新規將於2026年11月12日生效。此次修訂首次在條款中加入禁止“持續且不必要的虐待或殘忍行為”，主要針對用戶無明確目的、反覆對模型實施殘忍對待。官方表示，當前執行機制主要採取……具體措施原文未完整披露。此舉凸顯AI企業正強化人機互動倫理與使用邊界。Oct 9, 2026242.
6kAI倫理治理再升級:Anthropic劃定安全紅線，重塑大模型人機交互邊界Anthropic於2026年10月8日更新Claude模型使用政策，明確禁止選舉幹預、武器軟件開發和大規模監控，並首次將“持續言語辱罵模型”列入禁令。此次調整延續8月防濫用機制，旨在制度化劃定安全紅線，防範生成式AI對民主進程的潛在威脅。新版政策還設立“不得破壞民主進程”專章，全面禁止相關濫用行為。Oct 9, 2026152.6k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
認識 Voxel51 3.0：為實體 AI 打造的統一多模態資料平臺
Voxel51 已發布 Voxel51 3.0，這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺，將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要：規模：Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境：可於 app.voxel51.com 使用託管網頁應用程式，或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能：未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點：免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。
本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目，幫助讀者快速瞭解當天的重要動態
導航SecureDoc // EncryptionActive本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目，幫助讀者快速瞭解當天的重要動態。
下一概念建模把文本生成提速最高31倍
斯坦福等聯合提出全新文本生成範式 NCM，生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling（簡稱 NCM，即“下一概念建模”）。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路，有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上，NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE，從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統，訓練 Transformer 模塊去預測下一層的編碼。在生成文本時，模型會先並行生成概念層面的宏觀大綱，接著逐層並行填充具體細節，最終組合成完整的文本內容。在實際測試表現中，NCM 交出了令人矚目的成績單。實驗數據顯示，在保持相近甚至更優生成質量的前提下，NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍，並且在訓練過程中所需消耗的 token 數量也大幅減少。此外，在數獨等複雜推理任務上，它的表現也明顯優於傳統的自迴歸和擴散基線模型，同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限，其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證，但這一創新思路無疑打破了長期以來的技術慣性，為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南，每天我們為你呈現AI領域的熱點內容，聚焦開發者，助你洞悉技術趨勢、瞭解創新AI產品應用。
Claude自主優化八類量子電路設計
ScienceDesigning more efficient quantum circuits with ClaudeOct 16, 2026Quantum computers will need carefully designed circuits to run useful algorithms on limited hardware.
12.88萬起、華為電驅+L4同源智駕，Ray7能成為埃安年輕化的答卷嗎？
12.88萬起、華為電驅+L4同源智駕，Ray7能成為埃安年輕化的答卷嗎？ 本文作者： 倪萍 2026-10-17 22:42 導語：10月17日，埃安轎跑Ray7正式開啟預售，預售價12.88 萬起。新車車長4.9米，軸距2.9米，車頭部分搭配3.25米的超長雙環燈帶，是埃安10年煥新的家族 10月17日，埃安轎跑Ray7正式開啟預售，預售價12.88 萬起。新車車長4.9米，軸距2.9米，車頭部分搭配3.25米的超長雙環燈帶，是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術，能夠在充分釋放續航能力的同時，監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格，續航可達702公里，整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅，以及華為DriveONE芯片級驅制融合架構，百公里制動僅為32.8米。底盤方面，Ray7搭載高性能前後穩定杆和後五連桿懸架，過彎極限更高，濾振更乾淨。智能化上， Ray7搭載27顆車規級全視角傳感器，採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗，在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來，昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升，產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車，Ray7是埃安開啟年輕化序列的關鍵落子，也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆：小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位，不能只堆參數，更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異，變成用戶可感、可信、可持續的體驗，這才是埃安年輕化的分水嶺。（雷峰網(公眾號：雷峰網)） 雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
梁聖又掀桌了！DeepSeek新模型斬殺GPT-6，許願式編程時代降臨
作者 | 楊京麗 編輯 | 李水青 10月17日報道，剛剛，DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本，官方網頁端、App與API已同步更新至新模型，模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search（搜索）與Fetch（抓取）API，兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日，DeepSeek正式推出V4.1-Flash，在性能上超越了DeepSeek-V4-Pro。