Neon 開源 4B 模型：文檔搜索能力超 GPT-5.6 Sol，成本僅為 1/100

Neon 與 Castform 聯手發表開源 4B 參數模型，宣稱在文檔搜索任務上不僅超越 OpenAI 的 GPT-5.6 Sol，成本更僅為其百分之一，為 AI 智能體領域帶來高效且經濟的新選擇。 Neon 於 8 月 6 日透過官方部落格宣布，與 AI 語音智能體開發商 Castform 合作，共同推出一套專為檢索模型設計的訓練方案。這項合作的核心成果是一個僅有 4B 參數的開源模型，經過強化學習後訓練，在特定搜索任務中展現出驚人的準確度，足以與 OpenAI 的 GPT-5.6 Sol 模型匹敵，但運算成本卻大幅降低至後者的百分之一。 Neon 本身是一款完全託管的無伺服器 PostgreSQL 資料庫服務，其架構將運算與儲存分離，支援自動擴展、按需縮容至零，並提供類似 Git 的資料庫分支功能。這樣的設計非常適合現代雲端原生應用以及 AI 智能體的開發環境，讓開發者能夠更靈活地管理數據與查詢。 合作夥伴 Castform 則專注於為企業與開發者打造 AI 語音智能體與模型訓練平台。該平台透過高度擬真的語音互動與自動化工作流程，協助企業處理日常通話、銷售追蹤以及客戶支援等任務，是許多企業導入 AI 客服與自動化營運的關鍵工具。 Neon 團隊在博文中指出，一個優秀的 AI 智能體必須具備兩項關鍵能力：第一是透過工具準確找到正確的上下文數據，第二是能夠判斷在何種情境下該使用哪一種模型進行搜索與回應。這兩項能力決定了智能體能否在複雜的任務中提供可靠且即時的結果。 為了實現這兩項能力，Neon 與 Castform 聯手運用強化學習技術，對一個 4B 參數的基礎模型進行後訓練（post-training）。這個過程著重於提升模型在文檔檢索與路由判斷上的表現，而非單純追求參數數量或廣泛的語言理解能力。 經過強化學習後訓練的 4B 模型，在標準化的文檔搜索評測中，其準確率與 OpenAI 的 GPT-5.6 Sol 模型相當，甚至在某些測試項目上表現更優。然而，更重要的是，該模型的運算成本僅為 GPT-5.6 Sol 的百分之一，這對於需要大量部署搜索智能體的企業而言，具有極大的吸引力。 成本優勢主要來自於模型參數量級的精簡。4B 參數相較於 GPT-5.6 Sol 的規模小得多，因此在推理與部署時所需的硬體資源與運算時間都大幅減少，同時還能維持高水準的搜索準確度。這意味著開發者可以在不犧牲效能的前提下，大幅降低營運成本。 Neon 選擇將此模型開源，也為 AI 社群提供了一個高性價比的檢索解決方案。開發者可以自由下載、修改並整合該模型至自己的應用中，特別是在需要大量文檔查詢、內部知識庫搜索或智能客服系統的場景中，這個模型都能發揮作用。 此外，這項成果也展示了強化學習在模型後訓練階段的潛力。不同於傳統的預訓練與微調方法，強化學習能讓模型在特定的任務導向環境中，透過與環境的互動與獎勵機制，逐步優化決策與檢索策略，從而達到更精準的表現。 對於企業來說，能夠以極低的成本獲得接近頂尖模型的搜索能力，意味著可以更快速地將 AI 智能體導入業務流程，而不必擔心高昂的 API 費用或硬體建置成本。這也讓更多中小型開發團隊有機會利用先進的 AI 技術來提升生產力。 Neon 與 Castform 表示，這項開源模型只是雙方合作的第一步，未來將持續探索更高效的訓練方案，並進一步優化模型在語音智能體與數據庫查詢間的協作能力。隨著 AI 智能體應用日益普及，這類低成本、高效能的檢索模型預料將成為市場上的重要選項。