OpenAI 推出青少年版 ChatGPT,多名兒童安全專家質疑安全機制透明度

作者:清源 責編:清源 評論: 8 月 23 日消息,OpenAI 本週推出了 ChatGPT 青少年版,專門面向年輕用戶,並通過年齡識別機制限制部分功能。對此,外媒 Engadget 採訪了多名兒童安全專家,他們對 ChatGPT 青少年版的評價並不一致。但所有人都認為,在向家長和年輕人推薦之前,這套系統還需要接受大量獨立測試,OpenAI 必須更加透明地說明安全機制究竟如何運作。為家庭提供娛樂和科技產品建議的 Common Sense Media 公司 AI 與數字評估負責人羅比 · 託尼認為:“OpenAI 這次做出了一些非常重要的承諾,但必須拿出證據,證明這些安全承諾和功能真的有效。
”兒童網絡安全倡議組織 Fairplay 執行董事喬什 · 戈林的態度更加嚴厲:“從紙面上看,OpenAI 公佈的一些措施確實像是在朝正確方向前進,但繼續深挖後,仍然有很多值得擔憂的地方,其中就包括沒有問責機制。社交媒體已經證明,在保護兒童的問題上,僅僅相信企業並不管用,OpenAI 也已經出現過同樣的問題。在那之前,OpenAI 本就有針對自殺、暴力和吸毒的內容限制,但這些限制要麼不起作用,要麼會隨著時間推移逐漸失效。”二人都懷疑,OpenAI 的自動年齡識別系統能否穩定識別青少年,並切換到 ChatGPT 青少年版。
託尼指出:“OpenAI 沒有公佈這套系統的效果數據,誤報率和漏報率都不為人知,自動系統遠不可能識別 ChatGPT 上的所有青少年。回想 OpenAI 此前計劃推出部分色情內容功能時,當時有報道說的,最終沒有推出的一個原因,就是年齡估算技術無法準確識別足夠多的青少年。”託尼還認為,青少年幾乎肯定會嘗試繞過年齡識別,尋找更加出人意料的規避辦法。OpenAI 做出的最具體承諾,恰恰也是專家最懷疑能否落實的一項。OpenAI 青少年與家庭事務負責人勞倫 · 喬納斯曾回應稱,“所有被標記的內容都會先由 OpenAI 全職員工審核,之後才會通知家長。我們的目標是在用戶發出提示後一小時內通知家長。
”她又明確指出,OpenAI 確實擁有足夠的人手和處理能力,可以保證所有被標記內容經過人工審核,並在一小時內通知家長。託尼對此提出質疑:“這道工序仍然依賴自動化決策,那麼問題來了:負責篩選內容、再把內容交給人工審核員的自動分類器,到底值不值得信任?”戈林也表示:“我希望看到一些硬數據,比如每天到底有多少對話被標記和審核、負責審核的人有多少,以及每次審核平均花多長時間。很難想象 OpenAI 招到了夠多的人,而且能夠認真審查每一段可能存在危險的對話。”三名專家還一致認為,必須由家長和孩子主動綁定 ChatGPT 賬戶的機制,削弱了這項功能的實際效果。
戈林指出:“絕大多數家長根本不會去使用家長監督工具,其中一個原因,就是這些工具往往被設計得很難找到,也很難操作。”其認為,更有效的辦法是默認開啟,並在產品設計階段就把保護機制做進去:“一開始就採用最嚴格的保護設置,例如默認設置使用時間限制,再讓家長決定是否修改,而不是把責任交給家長,要求他們自己去設置限制。” 投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:OpenAI,ChatGPTOpenAI 下調 GPT-5.
6 Sol 模型價格,API 與 Credit 費用降幅超 20%Mac 版 ChatGPT 可控制“信息”應用,古爾曼稱恐觸及蘋果 Siri AI 的設備優勢ChatGPT 突發全球大規模服務中斷,OpenAI 稱正在修復不再僅限 API 密鑰:Codex 中的 GPT‑5.6 Sol 百萬上下文能力已可通過 ChatGPT 賬號使用7 月環比增 32%,弗萊爾稱 OpenAI 企業 AI 業務收入已超消費者業務不再依賴截圖記錄活動:Mac 版 ChatGPT 新增 Computer History AI 功能
Related
相關文章
認識 Voxel51 3.0:為實體 AI 打造的統一多模態資料平臺
Voxel51 已發布 Voxel51 3.0,這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺,將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要:規模:Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境:可於 app.voxel51.com 使用託管網頁應用程式,或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能:未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點:免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。
本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目,幫助讀者快速瞭解當天的重要動態
導航SecureDoc // EncryptionActive本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目,幫助讀者快速瞭解當天的重要動態。
下一概念建模把文本生成提速最高31倍
斯坦福等聯合提出全新文本生成範式 NCM,生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling(簡稱 NCM,即“下一概念建模”)。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路,有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上,NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE,從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統,訓練 Transformer 模塊去預測下一層的編碼。在生成文本時,模型會先並行生成概念層面的宏觀大綱,接著逐層並行填充具體細節,最終組合成完整的文本內容。在實際測試表現中,NCM 交出了令人矚目的成績單。實驗數據顯示,在保持相近甚至更優生成質量的前提下,NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍,並且在訓練過程中所需消耗的 token 數量也大幅減少。此外,在數獨等複雜推理任務上,它的表現也明顯優於傳統的自迴歸和擴散基線模型,同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限,其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證,但這一創新思路無疑打破了長期以來的技術慣性,為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南,每天我們為你呈現AI領域的熱點內容,聚焦開發者,助你洞悉技術趨勢、瞭解創新AI產品應用。
Claude自主優化八類量子電路設計
ScienceDesigning more efficient quantum circuits with ClaudeOct 16, 2026Quantum computers will need carefully designed circuits to run useful algorithms on limited hardware.
12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎?
12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎? 本文作者: 倪萍 2026-10-17 22:42 導語:10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族 10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術,能夠在充分釋放續航能力的同時,監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格,續航可達702公里,整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅,以及華為DriveONE芯片級驅制融合架構,百公里制動僅為32.8米。底盤方面,Ray7搭載高性能前後穩定杆和後五連桿懸架,過彎極限更高,濾振更乾淨。智能化上, Ray7搭載27顆車規級全視角傳感器,採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗,在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來,昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升,產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車,Ray7是埃安開啟年輕化序列的關鍵落子,也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆:小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位,不能只堆參數,更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異,變成用戶可感、可信、可持續的體驗,這才是埃安年輕化的分水嶺。(雷峰網(公眾號:雷峰網)) 雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。
梁聖又掀桌了!DeepSeek新模型斬殺GPT-6,許願式編程時代降臨
作者 | 楊京麗 編輯 | 李水青 10月17日報道,剛剛,DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本,官方網頁端、App與API已同步更新至新模型,模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search(搜索)與Fetch(抓取)API,兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日,DeepSeek正式推出V4.1-Flash,在性能上超越了DeepSeek-V4-Pro。