評測漂移被量化

2026年8月30日 00:00
站內 AI 整理稿

AI 模型評測分數長期以來被視為衡量模型能力的重要依據,無論是學術研究單位還是一般開發者,多半以排行榜上的數字作為挑選模型的參考基準。然而近期「評測漂移」這個現象在 AI 社群中引發愈來愈多討論,許多人開始質疑:這些分數是否真的穩定可靠?如今,有一位 Reddit 使用者嘗試以更系統性的方式回答這個問題,將模型評測在時間維度上的變動具體量化,為這項爭論提供了寶貴的數據基礎。根據這位 Reddit 作者發布的模型波動統計,研究總計分析了 31,352 個小時的資料分布,涵蓋範圍相當廣泛。

這項分析並非僅針對單一模型或少數幾次測試,而是長期、連續地追蹤模型評測結果的變化,試圖從大量時間序列資料中找出規律。這樣的研究規模,使得觀察結果具有一定的代表性,也讓「評測漂移」不再只是零星個案的抱怨,而是能夠被統計數據支持的真實現象。從統計結果來看,模型評測分數並非固定不變,而是在不同時間尺度下呈現明顯起伏。若是將觀察區間設定在單日以內,模型評分的波動幅度大約為 2.8 分。這個數字乍看之下不算太大,卻已經足以讓某些排名接近的模型互換位置,也意味著即便是在同一天之內,不同時間點進行的評測也可能得到不盡相同的結果。更值得注意的是跨日層級的變化。

根據這份統計,當比較區間從單日拉長到跨日層級時,波動幅度進一步擴大至 8.4 分。相較於單日內的波動,跨日波動幾乎是三倍之多。這顯示時間因素對評測結果的影響並非線性增加,而是隨著比較區間拉長而顯著放大,模型評測的穩定性因此備受考驗。在所有觀察到的案例中,Gemini 3.1 Flash Lite 的評測分數變化特別引人注目。數據顯示,這款模型的評測分數一度下滑 32%,跌幅相當劇烈。這個案例具體說明了即使是同一款模型,在不同的時間點進行評測,也可能得到差異極大的結果。而這樣的大幅波動,過去往往被歸因於模型更新、測試環境改變或資料集調整,現在則被這份統計數據明確標示為「評測漂移」的一環。

這項量化的意義在於,過去關於模型評測不穩定的討論,多半停留在個別開發者的主觀經驗描述。有些使用者可能曾經發現,前一天還排名領先的模型,隔天再測分數就下滑不少,卻難以判斷這是正常變動還是異常狀況。如今有了長時間跨度的統計資料,至少可以明確知道:評測結果本來就會波動,而且波動的幅度會隨著比較時間拉長而擴大。進一步來看,這份數據也對現行的模型評測方式提出隱含的挑戰。目前市面上許多排行榜都是以單次評測或短期間的平均分數來排名,但若評測本身存在如此明顯的時間變異,那麼單憑一次分數就斷言哪個模型比較優秀,可能過於輕率。尤其在分數差距小於 8.4 分的情況下,排名先後恐怕缺乏統計上的顯著意義。

對於開發者而言,這項發現同樣具有實務參考價值。在選擇模型時,若只參考某一時間點的分數,可能會因為評測漂移而做出不夠準確的判斷。更穩妥的做法,或許是參考多次評測的分布範圍,或是將評測時間點納入考量,而非直接將單一分數視為模型能力的絕對指標。當然,這份統計資料並未進一步解釋評測漂移背後的根本成因。究竟波動來自模型本身的行為變化,還是測試環境、隨機種子、硬體差異等外部因素,仍有待後續研究釐清。但至少可以確定的是,評測結果隨時間變動已經是普遍存在的現象,並非特定模型或特定測試的偶然問題。隨著 AI 模型迭代速度愈來愈快,評測機制的可信度也愈來愈受到關注。

評測漂移的量化,某種程度上像是為這項爭議畫出了一條可供參考的基準線:從今以後,人們在看待模型評測分數時,或許應該將其視為一個會浮動的範圍,而非固定的定值。這位 Reddit 作者的統計雖然只是民間自發性的研究,卻為整個 AI 社群重新思考評測標準提供了具體的討論起點。

Related

相關文章

全球首發:萬拿NOVA21靈巧手,拓展靈巧操作研究邊界

10月15日,在2026香港秋季電子產品展上,萬拿機器人全球首發NOVA21靈巧手。面向機器人科研與開發團隊,萬拿NOVA21採用21自由度全主動旋轉直驅設計,集靈巧、力量、精準與觸覺感知於一體,為多指協同、物品姿態調整與複雜操作策略研究提供執行與感知能力。21自由度全主動旋轉直驅,支持多指協同NOVA21採用擬人化佈局,整手尺寸為195×105×71mm,接近人手大小。拇指擁有5個主動自由度,其餘四指各擁有4個主動自由度。NOVA21的21個主動自由度均採用旋轉直驅,支持全手各指的主動控制與姿態調整。

3 天前

首款韜定律邏輯摺疊芯片量產,麒麟9050讓華為旗艦手機玩出什麼新花樣?

電路折起來,旗艦手機的創新空間也被打開。三年前,麒麟芯片迴歸。三年後,問題已經變成回來之後,還能走多遠?全新基於韜定律的麒麟9050系列給出了一個新的工程答案。作為華為首款採用邏輯摺疊技術的麒麟芯片,麒麟9050 Pro通過跨層重新設計電路,縮短數據傳輸距離,尋找芯片持續升級的空間,也為搭載韜定律芯片的華為手機提供了更強大的算力基礎。

3 天前

賓大茅佳源:從單次演示到 83% 真機泛化,破解具身智能數據困局|IROS 2026

剖析視覺與動作脫節,引入 TR 指標與自適應引導,重構具身泛化機制。作者丨張璐 編輯丨岑峰 在機械臂的實機測試中,不少團隊都遇到過類似的困擾:為了讓機器人學會抓取某個馬克杯,往往需要人類抓著機械臂錄入上百條示範軌跡。然而只要把杯子換成未見過的款式,或者稍微改變物體的擺放位置,策略的成功率就會急劇下降。

4 天前
何夕2077研究與前沿

AFCE把未來物理效果當成預測目標

Computer Science > Robotics arXiv:2610.13212 (cs) [Submitted on 9 Oct 2026 (v1), last revised 12 Oct 2026 (this version, v2)] Title:Beyond Actions: Learning Future Operation Targets for Vision-Language-Action Models Auth。

5 天前

45分鐘小定8000臺,智己LS6這次成了?

這一次,智己能走出「叫好不叫座」嗎?作者 | 王瑞昊編輯 | 李雨晨9月10日,全新一代智己LS6正式開啟預售,預售價20.99萬元起,並將於9月23日正式上市。預售開啟45分鐘,小訂突破8000臺。這是智己“Next·2028戰略”下的首款20萬級純電SUV,也是LS6迭代到第四代的產品。

1 週前