得不到就強攻?曝 OpenAI 智能體曾嘗試“暴力破解”聯合國機構網站

首頁 > 智能時代>人工智能 得不到就強攻?曝 OpenAI 智能體曾嘗試“暴力破解”聯合國機構網站 2026/9/28 8:30:40 作者:清源 責編:清源 評論: 9 月 28 日消息,據外媒 The Verge 今天(28 日)凌晨報道,安全研究人員羅文 · 霍華德-瓊斯稱,今年 4 月至 6 月,OpenAI 智能體對聯合國貿易和發展會議(UNCTAD)的統計網站發起了超過 16000 次掃描。這起事件還沒有嚴重到 Hugging Face 遭黑客攻擊或近期美國政府網站遇襲的程度,卻再次引發了一個令人擔憂的問題:AI 智能體為了完成任務,會突破通常的行為邊界。
霍華德-瓊斯稱,這些智能體很可能承擔了通過 UNCTADstat API 獲取生產能力指數(PCI)公開數據的任務。但智能體或無法直接調用 API,同時受 HTTP 工具本身的限制,也難以從 UNCTADstat 提取所需數據。據悉,智能體最終找到了繞過限制、從網站獲取數據的方法,過程中仍出現了一些錯誤。隨後,AI 的做法從尋找變通方案轉向掩飾行為。智能體誤以為這些錯誤來自一個並不存在的過濾器,認為請求遭到該過濾器攔截,因此開始隱藏自己的行為。據瞭解,最終,智能體發現可以利用谷歌的跨站腳本學習工具 XSS Game 來實現目標。為了獲取聯合國數據,這些智能體隨後採取了越來越激進的手段。
投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:OpenAI,聯合國聯合國:不必等風險完全釐清,各國應提前管控 AI 智能體聯合國報告:清潔空氣每投入 1 美元可帶來 15 美元回報聯合國兒童基金會 21 國調查:近 20% 聯網兒童 1 年內曾遭受網絡性侵害聯合國報告:全球變暖超過 1.5℃ 已經不可避免聯合國大學報告:精簡 AI 指令中“謝謝”等禮貌用語,可讓 ChatGPT 能耗降低 25%聯合國環境署:2050 年全球製冷需求恐超當下 3 倍,可持續方案勢在必行
Related
相關文章
CopilotKit Releases OpenBot 1.0: An MIT-Licensed, Self-Hostable AI Coworker With Built-In Governance
Most AI coworker products are vendor locked. They pick the model, host the data, and write the rules. CopilotKit is taking the opposite route. OpenBot 1.0, was released November 9th, an MIT-licensed, self-hostable agent workspace.
AWS Releases AWS Emulator: A Local Copy of 200+ AWS Services Built by AI Agents
AWS has released AWS Emulator, a local emulator of the AWS APIs. You run it on a laptop, a dev server or in CI. The AWS CLI and SDKs talk to it instead of AWS. No AWS account is needed, and there is no service fee.
B2A崛起!Agent 14大應用與Infra賽道一文看懂
編譯 | 江宇 編輯 | 漠影 11月12日消息,近日,硅谷知名風投機構a16z官網刊文《Welcome to the B2A Economy》(歡迎來到B2A經濟時代),提出新判斷:AI Agent正在成為互聯網的主要用戶,企業未來不僅要爭奪人類消費者,還要爭奪AI Agent帶來的流量和訂單。
千億美元AI雲市場,算力軍備競賽之後拼什麼?
作者 | 三北 編輯 | 漠影 近日,一位智算雲企業的工作人員告訴,最近半年,客戶的需求點發生了顯著變化:過去他們問“一張卡多少錢、能租多久”,現在問題變成了“一百萬Token花多少錢、任務能不能穩定跑完”。 問題的變化,折射出AI基礎設施的一次重要升級。 全球AI雲市場仍在高速擴張。知名行研機構Gartner預計,到2030年AI雲市場將達到2670億美元(約合人民幣1.78萬億元),其中新雲(NeoCloud)廠商有望拿下其中20%的份額,後者也是一個3500億元人民幣級別的市場。
亞馬遜雲科技宣佈在華三大能力升級,進一步完善Agentic AI全棧技術能力
作者 | ZeR0 編輯 | 漠影 11月12日報道,昨日,亞馬遜雲科技宣佈,在全球領先、可信賴、懂行業和本地化四大核心優勢的基礎上,進一步升級在華的技術能力、安全能力和本地化支持。 此次升級將進一步完善Agentic AI全棧技術能力、強化AI安全防護能力,並通過面向客戶的多層次技術協作、開發方法賦能與人才培養強化本地化支持,助力企業推動AI Agent從概念驗證走向規模化應用,將AI創新轉化為實際業務價值。
OpenAI第三季度營收突破100億美元,環比增長近50%
強勁的市場需求以及近期AI模型的推出,被認為是推動營收回升的主要因素。與此同時,其調整後營業利潤率從第二季度的-150%收窄至第三季度的-109%,盈利狀況有所改善。此前,OpenAI第一季度和第二季度營收增長率據稱均約為18%。儘管公司擁有超過10億用戶,但其中相當一部分可能是免費用戶或低價訂閱用戶,企業級市場表現仍落後於競爭對手Anthropic。