推出 Ettin Reranker 系列模型
重點摘要
我們發布了六個新的 Ettin Reranker 系列模型，這些模型基於 Ettin ModernBERT 編碼器，並採用蒸餾配方訓練，分別有從 1700 萬到 10 億參數的不同規模。這些模型屬於 CrossEncoder 類型，專為「
## Ettin Reranker 系列模型正式推出：小而強的檢索排序新選擇
日前，Hugging Face 部落格上公布了全新的 Ettin Reranker 系列模型，由作者 Tom Aarsen 發表。這一系列一共包含六個不同大小的 CrossEncoder 重排序器，參數量從 1700 萬到 10 億不等，分別為 17M、32M、68M、150M、400M 與 1B 版本。這些模型全都建立在 Ettin ModernBERT 編碼器之上，並且在各自尺寸級別中達到了最先進的水準。更重要的是，團隊同時開放了訓練資料與完整的訓練配方，讓研究人員與開發者可以深入了解其背後的技術細節。
## 重點整理：輕量級重排序器與完整開源支援
Ettin Reranker 的核心亮點在於它採用 **蒸餾訓練（distillation）** 方式，以 mixedbread-ai/mxbai-rerank-large-v2 模型的分數為目標，在精心挑選的資料子集上進行點對點均方誤差（pointwise MSE）最佳化。這使得小模型能夠學習大模型的排序能力，同時保持較低的運算成本。所有模型皆支援高達 8,000 token 的上下文長度，得益於 ModernBERT 的長上下文預訓練，特別適合需要對長文件進行重排序的場景。
## 背景脈絡：為什麼需要重排序器？
在檢索增強生成（RAG）或資訊檢索系統中，傳統做法是先透過嵌入模型（embedding model）將查詢與文件分別編碼成向量，再計算相似度。這種方法的優點是速度快，能夠一次比對整個資料庫，但缺點是查詢與文件之間沒有真實的交互注意（cross-attention），排序品質有限。重排序器（又稱點對式交叉編碼器）則不同：它會將查詢與每一篇候選文件組合成一對，送入 Transformer 層中讓兩者充分互動，進而給出更精確的相關性分數。然而，這種精確度是以效率為代價的——每個查詢-文件對都需要執行一次模型。因此，業界普遍採用「先檢索、再排序」的兩階段流程：先用快速的嵌入模型從整個語料庫中篩選出前 K 個候選，再用重排序器對這 K 個結果進行精細排序，兼顧速度與準確性。
## 使用方法與架構優勢：三行程式碼即可整合
對於開發者而言，Ettin Reranker 的使用門檻極低。只需安裝 Sentence Transformers 套件後，透過三行程式碼就能載入模型並進行預測。例如：
```python
from sentence_transformers import CrossEncoder
model = CrossEncoder("cross-encoder/ettin-reranker-32m-v1")
scores = model.predict([("查詢", "文件內容")])
```
此外，還提供 `rank` 方法，可直接對查詢與候選文件清單進行排序，返回排序後的索引與分數。由於模型支援 8K token 上下文，在處理長文件（如合約、論文）時極具優勢。官方建議在載入時啟用 Flash Attention 2 與 bfloat16 精確度，能在各種序列長度下獲得 1.7 倍到 8.3 倍不等的加速效果。
## 訓練方法與資料透明度：從資料到配方全面公開
不同於許多僅釋出模型權重的專案，Ettin Reranker 系列提供了完整的訓練配方。訓練資料由兩部分混和而成：一部分來自 lightonai/embeddings-pre-training，另一部分則是從 lightonai/embeddings-fine-tuning 中經過重排序後的子集。團隊使用 mixedbread-ai/mxbai-rerank
Related
相關文章
Liquid AI Introduces LFM2.5-Embedding-350M and LFM2.5-ColBERT-350M: Dense Bi-Encoder and Late-Interaction Models for Fast Multilingual Search Across 11 Languages
This week, Liquid AI released two new retrieval models. They are LFM2.5-ColBERT-350M and LFM2.5-Embedding-350M. Both hold 350M parameters. Both are the first bidirectional members of the LFM family. They build on LFM2.5-350M-Base, released in March. The pair targets fast multilingual and cross-lingual search across 11 languages. Their footprint is small enough to run almost anywhere. Both are available now on Hugging Face under the LFM Open License v1.0. LFM2.5 Retrievers The two models share one backbone but represent text differently. LFM2.5-Embedding-350M is a dense bi-encoder. It turns each document into a single vector. Pick it when you want the fastest search and the smallest, cheapest index. LFM2.5-ColBERT-350M is a late-interaction model. It converts each token into a vector rather
Perplexity Launches Brain, a Self-Improving Memory System That Builds a Context Graph of an Agent’s Work and Learns Overnight
Most AI memory remembers the user. It stores your preferences, your tastes, and your role. Perplexity is taking a different path. Today, Perplexity launched Brain, a self-improving memory system for its agent product, Computer. Brain does not focus on remembering you. It remembers what the agent did. That reframes what memory in AI is for. What is Perplexity‘s Brain Brain is a self-improving memory system. It builds a context graph of the work Computer performs. At set intervals, such as overnight, Brain reviews that graph. It then teaches itself how to do the work better. The idea is straightforward. The more work you do, the more efficient Brain makes your Computer. Brain is rolling out today to Perplexity Max and Enterprise Max subscribers in Research Preview. Two Axes of AI Memory Perp
智譜新高，MiniMax承壓，“大模型雙雄”命運殊途
這篇消息聚焦「智譜新高，MiniMax承壓，“大模型雙雄”命運殊途」。原始導語提到：大模型在被市場重新定價 從 AI 情報角度來看，這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。
華為昇騰 0 Day 支持智譜 GLM-5.2 模型，提供全面推理優化
華為昇騰 AI 宣佈在智譜開源 GLM-5.2 大模型當天即完成深度推理優化。通過 MOE 大融合算子、通信計算融合、高併發調度等七項關鍵技術，顯著提升編程和長程任務的處理效率，現已支持 A3 系列產品部署。#AI 大模型# #國產算力#
企業AI轉型再添利器：青雲科技算力雲接入 MiniMax-M3 模型
企業AI落地面臨高效低成本難題。青雲科技旗下基石智算平臺接入國產開源大模型MiniMax-M3，提供新算力支持。MiniMax-M3以卓越上下文處理能力等三大核心技術見長，依託自研架構，助企業便捷部署AI業務。
阿里開源統一科學大模型 LOGOS，僅用五十六分之一參數超越微軟
阿里 ATH-Token Foundry 聯閤中國人民大學高瓴人工智能學院開源科學基礎模型 LOGOS。該模型採用統一科學語法與純序列建模範式，在六大科學任務上匹配或超越傳統專用方法。其中 LOGOS-1B 僅 1B 參數，即展現出極高效率，性能超越參數量達 8×7B 的微軟模型。