英國監管機構警示：醫療 AI 轉錄工具頻繁出錯，威脅患者安全
作者：遠洋 責編：遠洋 評論： 8 月 31 日消息，據英國衛報報道，英國國家醫療服務體系（NHS）的一家監管機構警告稱，用於傾聽並轉錄患者與醫生問診內容的 AI 技術可能給患者帶來風險，因為這類工具可能錯誤識別藥物名稱和疾病名稱。在一起案例中，一名女性患者因為 AI 醫療記錄工具錯誤總結她與醫生的對話而受到嚴重驚嚇。AI 生成的總結稱，她患有“脫髓鞘”，即可能導致多發性硬化症的嚴重神經損傷。這名患者本人也是 NHS 醫療專業人員。她對 AI 工具記錄的 MRI 檢查結果提出質疑後，醫院才發現記錄有誤，並將其更正為本應記錄的“無脫髓鞘”。
“最終這個錯誤得到了糾正，但因為 AI 給出了錯誤診斷，然後又告訴我這只是一個拼寫錯誤，這對我來說是一次非常痛苦的經歷。”這名不願透露姓名的女性說。注意到，英國患者權益機構 Healthwatch England 近日披露了這一案例以及其他 AI 醫療記錄工具出現的錯誤，以說明這種正在 NHS 快速推廣的技術可能對患者安全構成威脅。Healthwatch 表示，如果這些錯誤沒有被及時發現，就可能被錄入患者的醫療檔案，並進一步影響患者接受的治療。另一起案例中，一款 AI 醫療記錄工具將全科醫生開具的藥物與另一種名稱相似的藥物混淆。最終發現這一錯誤的同樣不是醫生，而是患者本人。
還有一次，AI 生成的總結信沒有提及醫院專科醫生曾告訴患者，需要向自己的全科醫生申請續開治療偏頭痛的處方。這一遺漏可能導致患者無法正常獲得所需藥物。Healthwatch 作為 NHS 法定患者權益代表機構表示，該機構已經聽到了“多名患者發現錯誤、而醫療專業人員卻沒有發現這些錯誤”的案例。Healthwatch 指出：“如果患者沒有發現這些錯誤，這些不準確的信息可能會一直留在他們的醫療記錄中。”英國政府針對英格蘭 NHS 制定的 10 年醫療規劃，希望通過 AI 醫療記錄工具“讓醫務人員擺脫目前繁重的文書和行政工作，從而騰出更多時間提供醫療服務並專注於患者”。
AI 醫療記錄工具也是 NHS 計劃進行的一項重大轉型的核心技術之一，旨在推動 NHS 從傳統的模擬化醫療服務轉向數字化服務。Healthwatch 一名發言人表示：“醫療服務從來都不可能做到零錯誤。但我們的調查結果表明，現在迫切需要明確，患者應該如何報告 AI 醫療記錄工具或使用這些工具的醫療專業人員所犯的錯誤，以及如何糾正這些錯誤。”英國患者協會首席執行官 Rachel Power 表示：“患者對這項技術的信任和信心，取決於良好的溝通以及真正意義上的患者合作，而目前這兩方面都存在缺失。
”Healthwatch 還表示，英國藥品和保健產品監管機構（MHRA）決定不將 AI 醫療記錄工具歸類為醫療器械，這一點“令人擔憂”。這意味著英格蘭目前不會建立覆蓋全境的監管機制，以確保這些工具使用安全並且有效。目前，英格蘭的全科醫生和醫院醫生已經在使用 27 種不同的 AI 醫療記錄工具。此前，政府大臣已經被警告，如果 AI 出現醫療錯誤，NHS 以及相關醫務人員可能面臨訴訟。近期，AI 的準確性問題也再次受到關注。英國羅瑟勒姆地區的一些患者向當地 Healthwatch 投訴稱，部分全科診所使用的 AI 前臺接待系統無法正確理解他們濃重的約克郡口音。
倫敦全科醫生 Shier Ziser Dawood 博士去年還曾在一家權威醫學期刊上撰文警告稱，AI 醫療記錄工具對全科醫生來說可能是一把“雙刃劍”。她回憶稱，一款 AI 醫療記錄工具記錄說，她曾告訴一名患者“繼續服用 Prozac（百憂解）”，但實際上，她既沒有給這名患者開過這種藥，也沒有與患者討論過這種藥物。這就是所謂的“AI 幻覺”現象，即 AI 醫療記錄工具在生成記錄時提及了問診過程中根本沒有出現過的內容。Dawood 警告稱，醫生仍然需要檢查 AI 生成的全部問診記錄，以確認其中不存在錯誤，因此這些 AI 工具目前並沒有真正節省醫生的時間。
Dawood 在《英國全科醫學雜誌》撰文指出，NHS 管理層認為 AI 醫療記錄工具將使全科醫生無需再在問診過程中手寫或錄入筆記，因此未來全科醫生可能被要求每天額外接診兩名患者。但與此同時，NHS 全科醫生目前的單次問診時間已經處於全球較短水平。瑞典烏普薩拉大學醫療 AI 應用專家 Charlotte Blease 博士表示：“AI 確實會犯錯，而且已經在犯錯。”她的研究發現，使用環境語音技術記錄問診內容的全科醫生認為，在以下情況下，AI 更容易出現錯誤：問診過程中有不止一名患者或陪同人員；患者病史較為複雜；以及患者的第一語言不是英語。
不過，Blease 也指出：“事實是，沒有 AI 的情況下，醫生同樣會犯錯。而且，AI 介入後，錯誤率當然也有可能更高。”Blease 表示，在她去年對 1003 名英國全科醫生進行的調查中，超過一半的受訪者認為，他們使用環境式 AI 生成的醫療記錄比自己親自記錄的內容更加準確。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：AI，人工智能Stability AI 完成 7600 萬美元 B 輪融資：EA 與三大音樂娛樂企業均參投《人類簡史》作者赫拉利：現在就應抵制賦予 AI 權利入侵 Hugging Face 事件後，OpenAI 放緩模型訓練並加強安全監控OpenAI 前高管：相信 AI 能治癒所有疾病，但光靠大模型遠遠不夠整活網頁 Your AI Slop Bores Me 上線：真人扮演 AI 回答用戶提問美參議員致信 OpenAI、Meta、Anthropic 公司 CEO，要求其暫停 AI 開發
Related
相關文章
小米穿戴 8 月更新內容公佈，小米手環 9 等迎多項優化
作者：浩渺 責編：浩渺 評論： 感謝網友 順勢而為 的線索投遞！8 月 31 日消息，今日，小米集團手機部副總裁、可穿戴部總經理張雷分享了小米穿戴 8 月的更新內容。據其介紹，本月多款設備都推送了 OTA 更新，小米手環 9、小米手環 10、REDMI Watch 5、REDMI Watch6 等設備都有不同程度的體驗優化。
AI時代，還需要工匠精神嗎？
AI時代的高效率量產與傳統工匠精神並非互斥，反而能互補，AI擅長標準化任務，而人類在創新與客製化領域的經驗直覺仍難以取代。工匠精神的內涵正轉變為結合科技理解與品質堅持，未來的工匠可能是能駕馭AI工具的複合型人才，使工匠精神獲得新定義與價值。
首發｜星邑空間完成數億元A輪融資，一家商業航天測運控公司的八年長跑與「重生」
星邑空間宣布完成數億元人民幣A輪融資，這家專注於商業航天測運控領域的企業，在歷經八年的技術積累與市場考驗後，迎來關鍵性的資金挹注。本輪融資的完成，不僅是資本市場對其技術路線與商業模式的高度認可，更標誌著這家低調的「航天服務商」正式邁入新的發展階段，為其後續的規模化擴張與技術升級注入強勁動能。 成立於八年前的星邑空間，是國內少數專注於航天器測運控及軟硬體應用服務的商業公司。不同於外界熟悉的火箭發射與衛星製造，測運控被視為航天產業的「神經中樞」，負責衛星發射入軌後的狀態監測、軌道控制、數據接收與任務管理。
使用 Sentence Transformers 訓練與微調多向量嵌入模型
Sentence Transformers 是一個 Python 函式庫，可用於訓練和使用嵌入模型與重排序模型，應用範圍涵蓋檢索增強生成、語意搜尋、語意文本相似度等。其 v6.0 更新新增了第四種模型類型 MultiVectorEncoder，支援 ColBERT 風格的晚期互動檢索，並提供完整的訓練流程。本文將示範如何利用它微調多向量模型，讓模型在你的資料上表現優於通用檢索器；此方法也能從零訓練出效能強大的全新多向量模型。以下內容均在 pi 上執行。
王虹合作者獲獎！科學探索獎2026年度獲獎名單公佈
科學探索獎2026年度獲獎名單揭曉，共有50位學者獲獎，分布於全國13個城市的30所高校、醫院及科研機構，涵蓋多個基礎科學與前沿技術領域。其中，與知名學者王虹有合作關係的研究人員也入列，顯示該獎項對跨領域協作與原創研究的重視。