MarkTechPost AI生成式AI

建構完整的 Langfuse 可觀測性與評估管道:追蹤、提示管理、評分與實驗

2026年5月24日 23:03

重點摘要

在本教學中,我們實作 Langfuse(開源 LLM 工程平臺)管道,涵蓋追蹤、提示管理、評分、資料集與實驗。我們建立一個完整工作流程,可搭配真實 OpenAI 金鑰或確定性模擬 LLM 執行,讓您無需仰賴付費模型即可瞭解每個主要 Langfuse 功能。

站內 AI 整理稿

這篇教學實作了完整的 Langfuse 開源 LLM 工程平台管線,涵蓋追蹤(tracing)、提示管理(prompt management)、評分(scoring)、資料集與實驗(datasets & experiments)等核心功能。開發者可透過單一工作流程,同時處理可觀測性與評估需求,大幅簡化 LLM 應用的監控與迭代流程。

Langfuse 是專為 LLM 工程打造的开源平台,近年來因應大型語言模型部署後的除錯與最佳化需求而受到關注。傳統的監控工具難以直接對應提示版本、回應品質評分與實驗比對,這套管線正好補足這塊缺口。

對 AI 開發者而言,這套管線能減少不同工具間的切換成本,並提供從開發到生產的一貫可觀測性。企業團隊也能藉此統一提示管理與評分標準,避免各自為政導致模型行為難以追蹤。

讀者可關注後續的實際部署教學,例如如何在現有專案中整合 Langfuse SDK,以及如何設定確定性模擬 LLM 來進行低成本測試。此外,官方文件與社群討論區是學習進階實驗設計與自訂評分邏輯的下一步資源。

值得一提的是,摘要特別指出該工作流程支援真實 OpenAI 金鑰或確定性模擬 LLM,後者無需付費即可進行反覆測試。這對預算有限的團隊或早期原型開發階段格外實用,能有效降低實驗門檻。

Related

相關文章

鈦媒體生成式AI

Edge AI Daily 早報(6月19日)

AI Engineer World's Fair 2026規模再創新高,標誌AI工程從幕後走向舞臺中央。行業面臨結構性調整:楊立昆警示OpenAI年虧210億美元揭示商業模式脆弱性,Transformer之父轉投OpenAI反映人才爭奪白熱化。Anthropic多線佈局——語音支持七種語言、加入碳清除聯盟、落子首爾辦事處,展現生態擴張野心。監管壓力加劇,意大利依據DMA調查蘋果iCloud,巴西開放iOS側載佣金降至5%,蘋果圍牆花園持續崩塌。

3 小時前
智東西生成式AI

谷歌時隔6年再發智能音箱,Gemini上桌,售價不到700元

智東西 編譯 | 劉煜 編輯 | 陳駿達 智東西6月18日消息,谷歌昨日宣佈,其首款搭載居家版Gemini語音助手的智能音箱(Google Home Speaker)已開啟預售,將於當地時間6月25日正式上市,售價為99.99美元(約合人民幣677.03元)。在此之前,谷歌已有6年沒有推出過獨立智能音箱產品。 谷歌這款智能音箱外觀近似球形,風格類似亞馬遜新一代Echo音箱與蘋果舊款音箱HomePod Mini。 ▲谷歌智能音箱(圖源:谷歌官網) 使用音箱時,用戶只需通過口令“Hey Google”或“OK Google”喚醒Gemini,就可以繼續下達相應指令。這與谷歌舊款音箱、智能顯示屏等喚醒語音助手的方式相同。此外,用戶只要按照日常說話習慣下達命令,Gemini便能理解用戶意圖,相比之前大大提升溝通效率。 一、加強短時對話記憶,會員可與Gemini不限次數對話 谷歌此次推出的全新音箱升級諸多功能。其中,音箱搭載的Gemini語音助手擁有10款全新擬人化語音音色,用戶可以根據喜好自行選擇聲線。音箱還可支持用戶一次性下達多條語音指令,即使指令未能說對、說完整,用戶中途改口Gemini也能識別。 Gemini還具備多鏈路推理能力,落地到實際生活場景中比較實用。例如,用戶問:“我支持的足球隊下場比賽天氣如何?”Gemini收到指令後,會自動查詢賽事時間、舉辦地點,同時匹配相應時段天氣,再給出答覆。 同時,Gemini加強了短時對話記憶,能承接上下文實現連續對話功能。即使用戶連續追問、甚至串聯多項任務、不重複交代前置條件,該語音助手也能實現來回連貫交流。 ▲谷歌Gemini對話場景(圖源:谷歌官網) 不僅如此,Gemini搭配的連續對話功能,能讓應答後的音箱麥克風保持短暫收音,用戶無需重複喊“OK Google”就能繼續提問。該功能現已全面支持所有Gemini原生適配的語言,包括

23 小時前

微軟,考慮接入DeepSeek

這篇消息聚焦「微軟,考慮接入DeepSeek」。原始導語提到:Copilot Cowork轉為按量計費。 從 AI 情報角度來看,這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。

23 小時前