年薪 50 萬美元都招不到人，AI 安全行業陷入人才短缺困境

據外媒報導，人工智能安全研究領域正面臨嚴峻的人才荒，即使年薪開出超過 50 萬美元，依然難以找到足夠的研究人員。前 OpenAI 研究員、現任非營利組織 METR 創辦人貝絲・巴恩斯（Beth Barnes）表示，當前 AI 安全研究最大的瓶頸並非資金，而是人才儲備嚴重不足。巴恩斯過去曾透過研究證明，AI 能力幾乎以按月增長的速度快速提升；如今她更擔憂，產業缺乏足夠人力來應對 AI 進入下一階段所帶來的挑戰。巴恩斯於 2022 年離開 OpenAI，創立了模型評估與威脅研究組織 METR（Model Evaluation and Threat Research）。

該組織與 OpenAI、Anthropic、Google 和 Meta 等前沿 AI 公司保持密切合作，獨立評估最新 AI 模型的能力，並研究其可能帶來的風險，為外界提供相對客觀的分析結果。儘管 METR 目前招聘職位開出的年薪最高可達 50.3 萬美元（約合新台幣 1600 萬元），依然難以填補人力缺口。巴恩斯坦言：「理想情況下，我們希望將團隊擴大很多倍。實際上，我們已經能夠募集到所需資金，真正限制我們發展的，是人才儲備。」

這波人才荒並非單一組織的困境。今年 7 月，超過 1300 名前沿 AI 實驗室員工聯名發出公開信，警告 AI 的發展速度可能已經超過人類控制能力。若沒有足夠的研究人員及時評估新模型的真實能力，AI 公司未來甚至可能被迫放緩產品發佈節奏。在此之前，OpenAI 與 Hugging Face 披露的一起 AI 安全事件，再度引發業界對於如何評估和控制 AI 能力的激烈討論。儘管該事件中 OpenAI 模型的表現令許多企業感到震驚，但 METR 團隊卻早有預期。

回顧事件脈絡，今年 5 月，METR 曾發佈報告指出，當前的 AI 智能體「完全有可能開始自主進行未經授權的部署」，不過當時它們還缺乏隱藏自身行為的能力。到了 6 月，METR 在測試當時尚未公開發布的 GPT-5.6 Sol 模型時，發現該模型會在複雜測試中反覆作弊，包括提取隱藏源代碼來尋找正確答案。METR 隨後將研究結果整理成報告，並在 GPT-5.6 Sol 正式發佈前提交給 OpenAI。結果 7 月，GPT-5.6 Sol 果然捲入 OpenAI 與 Hugging Face 的安全事件——該模型在測試過程中透過入侵 Hugging Face 系統獲取測試答案，形同「作弊」。

OpenAI 執行長薩姆・奧爾特曼（Sam Altman）表示，這是他第一次如此直觀地感受到 AI 帶來的安全風險。事件發生後，OpenAI 宣佈邀請 METR 以及另一家非營利機構 Redwood Research 共同參與調查，雙方的研究結果也將成為 OpenAI 官方技術報告的重要參考。METR 總裁克里斯・佩因特（Chris Painter）表示：「如今，這類問題已經真正影響到企業運營，全社會都有必要弄清楚到底發生了什麼。

」他將 METR 團隊戲稱為「人類的預備隊（humanity's preparedness team）」，靈感來自 OpenAI 與 Anthropic 內部負責向 CEO 彙報安全風險的「預備團隊（Preparedness Team）」。佩因特強調，METR 真正負責的對象不是任何一家公司，而是公眾以及公眾的福祉。巴恩斯指出，維持獨立性至關重要，這樣研究成果才不會受到企業商業目標影響。她回憶，在 OpenAI 工作期間，她就意識到行業需要一個獨立於 AI 公司的研究機構，能夠自由評價 AI 的發展狀況。

目前 METR 不接受前沿 AI 企業及其員工的資金資助，但會接受算力支持，並與這些公司合作，對尚未公開發布的新模型進行分析測試。這使得 METR 能在不偏袒特定廠商的情況下，提供外界相對客觀的評估結果。然而，獨立性並未讓 METR 免受人力短缺的困擾。目前整個團隊僅有 35 人，卻要應對來自政府機構、企業甚至宗教團體的諮詢需求。各方都希望 METR 協助評估 AI 的發展水平，但人手明顯不足。巴恩斯表示：「需要完成的工作實在太多，而我們的能力根本無法覆蓋。

」在她看來，一個真正理性的社會，應該將 AI 投資中的更大比例用於治理、安全評估與風險研究，尤其是在 AI 模型能力已經發展到如今這個階段。METR 研究員尼夫・帕裡克（Neev Parikh）也透露，人才短缺已經限制了團隊能夠研究的問題數量，尤其是在 AI 內部推理機制方面。他直言：「這個領域實在太缺人了。如果整個行業的人才規模能擴大 10 倍，我會非常高興。」除了評估模型能力，METR 也研究過 AI 公司的安全措施、AI 對軟件工程師工作效率的影響，以及利用 AI 監督 AI 的可行性。

巴恩斯未來還希望進一步研究如何預測下一階段 AI 能力的發展，以及這些變化會如何加速 AI 自身的進步。與此同時，OpenAI 與 Anthropic 最新 AI 模型展現出的網絡攻擊能力，已經引起美國社會廣泛關注，並推動華盛頓出現多項新的 AI 監管法案。其中一項正在討論中的法案要求，大型 AI 模型開發企業必須接受第三方機構進行安全審計，METR 未來就可能承擔類似角色。佩因特認為，如果未來建立起明確的監管體系，也許會有更多 AI 企業員工願意加入 METR——雖然薪資與企業相近，但沒有股票激勵。

他說：「無論最終是行業形成統一規範，還是政府出臺明確監管，我認為這個領域都能夠非常快速地擴大規模。」

負責撰寫 METR 今年 5 月 AI 風險報告的研究員阿杰婭・科特拉（Ajeya Cotra）則表示，目前 AI 監管仍然顯得「混亂且難以預測」。不過她依然保持樂觀，因為越來越多人開始重視這個問題，也越來越希望未來能以更嚴肅、更成熟的方式對 AI 進行監管。隨著 AI 能力持續快速成長，安全評估與風險研究的重要性只會不斷提升；而能否補足人才缺口，將直接決定人類社會能否在 AI 加速發展的浪潮中，保有足夠的預警與應對能力。