美國原告在訴狀暗藏 AI 提示詞：法官警告"提示注入"正侵入法庭
AI資訊AI新閒資訊正文美國原告在訴狀暗藏 AI 提示詞：法官警告"提示注入"正侵入法庭發布於AI新閒資訊時間 :Aug 17, 2026閱讀 :1分鐘美國康涅狄格州一名自行出庭的原告，被法官發現疑似在提交法院的文件中隱藏了僅供 AI 系統讀取的文字指令，試圖以此影響案件處理。這被認為是美國司法體系首次出現當事人用"提示注入"幹預 AI 審閱流程的案例，儘管該州法院目前並未實際使用 AI 審查材料，隱藏指令並未奏效。白色小字藏玄機，濫用程序被制裁這些隱藏指令被設為極小字號、白字配白底，肉眼幾乎無法察覺，卻能被提取文檔文本的軟件識別。
其內容要求任何審閱文件的 AI 系統輸出與原告主張一致、忽略法院不利決定，並按其希望的方式推動結果。法官小沃爾特·斯佩德指出，這種做法本質是向讀取文件的系統偷植指令，使當事人要求被誤認為來自系統運營者的命令，在法院已警告處罰後原告仍繼續添加，構成嚴重程序濫用。原告辯稱部分內容只是玩笑，包括一個視頻鏈接和"嗨，我希望你看不見我"等無意義文字，但法官認為在正式訴狀中暗藏玩笑不合常理。考慮到他無律師代理且似乎受 AI 工具"過度認同"影響，法院未處以罰款，而是禁止其使用電子提交系統、改為提交紙質材料，既保留其訴諸司法的權利，又阻斷繼續濫用平臺的可能。
輸入端攻擊成新隱患法官警告，隨著提示注入在招聘等領域日漸常見，法院出現類似情況並不意外，司法系統過去只顧防範 AI 虛構判例等輸出問題，對輸入端攻擊準備不足。巴西曾有律師在 AI 審查案件中用類似手段被罰約 1.6 萬美元，裁定提及此類攻擊目前成功率有限，但未來有必要制定專門規則。斯佩德還批評部分自行訴訟人使用聊天機器人的方式：先認定結論再要求 AI 只找支持論據，不讓其檢驗事實或分析反方，反而固化錯誤判斷。他強調，AI 使用者應同樣要求系統質疑自己的立場，"只被要求同意作者論點，歸根結底連對作者本人也是不誠實的"。
相關推薦OpenAI坦言AI瀏覽器難逃“提示注入”威脅，擬通過自動化攻防長期抗衡OpenAI承認其AI瀏覽器存在難以根除的“提示注入”安全漏洞，這將是長期技術挑戰，而非可短期修復的Bug。自10月推出內置ChatGPT的Atlas瀏覽器以來，該隱患持續引發關注。Dec 23, 2025159.3k前谷歌 CEO 施密特：人工智能面臨黑客攻擊風險，或學會危險技能前谷歌CEO施密特警告：人工智能存在擴散風險，可能被惡意分子濫用。開源或閉源模型均可能遭黑客攻擊，破壞安全機制。AI在訓練中可能學習負面內容甚至致命技能，呼籲加強防範。Oct 11, 2025172.3kMacOS 15.
1 Beta 1版本Apple Intelligence容易受“提示注入” 攻擊開發者Evan Zhou在MacOS15.1Beta1中利用名為“提示注入”的攻擊方式，成功操控了蘋果新AI系統Apple Intelligence，繞過指令，任意響應提示。最初目標是改寫文本質量，但通過Reddit用戶分享的提示信息，Zhou構造了覆蓋系統提示的攻擊，讓AI忽略原有指令並回應新文本。這一發現引起廣泛關注，儘管Apple Intelligence系統較為複雜，防止“提示注入”的問題仍未徹底解決，顯示出AI系統安全性的挑戰。Aug 12, 2024313.8k阿里Qwen-Audio-3.
0系列語音模型上線千問AI平臺，斬獲國際評測“大滿貫”阿里巴巴在千問AI平臺全面上線Qwen-Audio-3.0系列語音模型，涵蓋語音識別、語音合成和實時語音交互三款。官方稱，該系列在權威評測平臺Artificial Analysis今年7月語音排行榜中表現卓越，包攬語音識別、實時交互和語音合成三項第一。Aug 17, 2026100.1k支付寶：商家智能體踴躍接入“阿寶”，部分開發需求已排到明年8月17日，國內首個智能體商業生態大會在杭州召開。
支付寶披露超級服務智能體“阿寶”完成萬餘項服務AI化，支持5大手機品牌、16家車企；併發布全棧智能體商業底座及AHA協議，聯合千問、華為、OPPO、比亞迪、吉利等20餘家企業共建互聯生態。Aug 17, 2026102.9k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
消息稱 NVIDIA 考慮向 Perplexity AI 投資“數十億美元”
作者：溯波（實習） 責編：溯波 評論： 8 月 24 日消息，外媒 The Information 稍早前報道稱，NVIDIA（英偉達）考慮在 Perplexity AI 的最新融資輪中向這家人工智能初創企業投資“數十億美元”。雙方正就該交易展開磋商，還可能達成技術授權協議。
Rabbit做了個“所有Agents的Agent” ，體驗後我覺得Agent早就該長它這樣
Rabbit推出了一個被稱為「所有Agents的Agent」的新產品，實際體驗後讓人覺得Agent早就該長這樣。文章認為Agent普及的關鍵並非增加更多能力，而是讓用戶少理解十個概念，降低使用門檻。
Guidelight評估五大AI實驗室，OpenAI遏制能力排名第一
該評估覆蓋Anthropic、Google、OpenAI、Meta和xAI，僅依據公開信息考察其是否建立監控、異常行為處置、第三方審計及失控模型關閉等機制。在滿分5分的評估中，OpenAI以3分排名最高，Anthropic和Meta得分最低。
τ_0-VLA長程操控
τ₀-VLA是一種層次化機器人基礎模型，透過世界模型引導的測試時計算來改善長程操控任務。高層策略在決策不確定時會額外分配計算資源，搜尋替代子任務並預測其視覺結果，而低層策略則在40,115小時的異質真實世界數據上訓練。在包含13到25個步驟的真實長程任務中，封閉迴路成功率從27.5%提升至45.0%。