擔憂 AI 生成虛假內容擾亂司法，英國警方被叫停使用 AI 撰寫法庭陳述

## 英國警方暫停AI撰寫法庭陳述：司法公正不容「幻覺」風險

近期，英國多個警察部門接獲指令，要求暫停使用人工智慧系統來撰寫法庭陳述等刑事司法相關文件。這項決策的關鍵原因，在於執法與司法單位高度擔憂AI可能生成虛假或不實的內容，進而干擾法庭審理、影響判決公正性。英國警方AI中心負責人特別強調，任何應用於刑事司法領域的技術，都必須達到「排除合理懷疑」的嚴苛證據標準，而當前生成式AI的可靠度顯然尚未能符合這項門檻。

這項暫停命令的背景，與近年生成式AI工具在公務體系中的快速滲透有關。英國部分警察部門原本嘗試導入AI，協助撰寫如搜索票申請、案情摘要、受害者陳述等法庭文件，目的是提升行政效率、減輕前線警員的文書負擔。然而，AI模型普遍存在「幻覺」現象——也就是會產出看似合理但實際錯誤或完全捏造的資訊。在強調事實精確與證據鏈完整的司法流程中，一旦AI生成的錯誤內容未被即時察覺而提交至法庭，可能導致錯誤起訴、證據失效，甚至冤案發生。

從更宏觀的司法倫理角度來看，這項爭議凸顯了AI輔助決策的責任歸屬問題。當一份帶有錯誤的法庭陳述出自人類警員之手，該警員須負起職業責任；但若內容是由AI生成、僅經人類快速審閱，責任該如何劃分？此外，辯方律師是否有權質詢AI的「思考邏輯」？這些問題在現行法律框架下仍缺乏明確規範。英國這波暫停行動，實際上反映了執法機構意識到：技術效率不能凌駕於司法程序的嚴謹性之上，貿然導入未經完整驗證的AI工具，可能讓整個刑事司法系統暴露於難以控制的風險中。

這項決策可能對其他國家與地區產生示範效應。台灣司法機關目前雖未大規模採用AI撰寫起訴書或判決理由，但法務部門與司法院已陸續展開AI輔助量刑系統、法律文書草稿等實驗性專案。英國的經驗提醒我們，任何將AI納入正式司法流程的嘗試，都必須先建立嚴格的驗證機制、錯誤補償機制，以及明確的人類最終審查義務。尤其法庭陳述屬於具法律效力的宣誓文件，其內容正確性直接影響人民生命財產與自由權利，不宜單純為了節省時間而降低把關標準。

未來值得讀者持續關注的後續發展，包括：英國是否會制定全國統一的AI司法應用指引？其他如美國、歐盟、澳洲等司法體系是否跟進限制或禁止AI用於法庭文書？以及AI開發商能否推出專門為司法場景強化的「低幻覺」模型或驗證工具。此外，台灣司法院與法務部在推動數位轉型時，是否會參考英國案例，先從非決定性的輔助功能（如參考案例檢索、文件格式校對）著手，而非直接讓AI撰寫需負法律責任的陳述內容。對關心科技與人權議題的讀者來說，這起事件正是檢視「效率與正義孰輕孰重」的重要案例。