OpenAI 推出青少年版 ChatGPT，多名兒童安全專家質疑安全機制透明度

作者：清源 責編：清源 評論： 8 月 23 日消息，OpenAI 本週推出了 ChatGPT 青少年版，專門面向年輕用戶，並通過年齡識別機制限制部分功能。對此，外媒 Engadget 採訪了多名兒童安全專家，他們對 ChatGPT 青少年版的評價並不一致。但所有人都認為，在向家長和年輕人推薦之前，這套系統還需要接受大量獨立測試，OpenAI 必須更加透明地說明安全機制究竟如何運作。為家庭提供娛樂和科技產品建議的 Common Sense Media 公司 AI 與數字評估負責人羅比 · 託尼認為：“OpenAI 這次做出了一些非常重要的承諾，但必須拿出證據，證明這些安全承諾和功能真的有效。

”兒童網絡安全倡議組織 Fairplay 執行董事喬什 · 戈林的態度更加嚴厲：“從紙面上看，OpenAI 公佈的一些措施確實像是在朝正確方向前進，但繼續深挖後，仍然有很多值得擔憂的地方，其中就包括沒有問責機制。社交媒體已經證明，在保護兒童的問題上，僅僅相信企業並不管用，OpenAI 也已經出現過同樣的問題。在那之前，OpenAI 本就有針對自殺、暴力和吸毒的內容限制，但這些限制要麼不起作用，要麼會隨著時間推移逐漸失效。”二人都懷疑，OpenAI 的自動年齡識別系統能否穩定識別青少年，並切換到 ChatGPT 青少年版。

託尼指出：“OpenAI 沒有公佈這套系統的效果數據，誤報率和漏報率都不為人知，自動系統遠不可能識別 ChatGPT 上的所有青少年。回想 OpenAI 此前計劃推出部分色情內容功能時，當時有報道說的，最終沒有推出的一個原因，就是年齡估算技術無法準確識別足夠多的青少年。”託尼還認為，青少年幾乎肯定會嘗試繞過年齡識別，尋找更加出人意料的規避辦法。OpenAI 做出的最具體承諾，恰恰也是專家最懷疑能否落實的一項。OpenAI 青少年與家庭事務負責人勞倫 · 喬納斯曾回應稱，“所有被標記的內容都會先由 OpenAI 全職員工審核，之後才會通知家長。我們的目標是在用戶發出提示後一小時內通知家長。

”她又明確指出，OpenAI 確實擁有足夠的人手和處理能力，可以保證所有被標記內容經過人工審核，並在一小時內通知家長。託尼對此提出質疑：“這道工序仍然依賴自動化決策，那麼問題來了：負責篩選內容、再把內容交給人工審核員的自動分類器，到底值不值得信任？”戈林也表示：“我希望看到一些硬數據，比如每天到底有多少對話被標記和審核、負責審核的人有多少，以及每次審核平均花多長時間。很難想象 OpenAI 招到了夠多的人，而且能夠認真審查每一段可能存在危險的對話。”三名專家還一致認為，必須由家長和孩子主動綁定 ChatGPT 賬戶的機制，削弱了這項功能的實際效果。

戈林指出：“絕大多數家長根本不會去使用家長監督工具，其中一個原因，就是這些工具往往被設計得很難找到，也很難操作。”其認為，更有效的辦法是默認開啟，並在產品設計階段就把保護機制做進去：“一開始就採用最嚴格的保護設置，例如默認設置使用時間限制，再讓家長決定是否修改，而不是把責任交給家長，要求他們自己去設置限制。” 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：OpenAI，ChatGPTOpenAI 下調 GPT-5.

6 Sol 模型價格，API 與 Credit 費用降幅超 20%Mac 版 ChatGPT 可控制“信息”應用，古爾曼稱恐觸及蘋果 Siri AI 的設備優勢ChatGPT 突發全球大規模服務中斷，OpenAI 稱正在修復不再僅限 API 密鑰：Codex 中的 GPT‑5.6 Sol 百萬上下文能力已可通過 ChatGPT 賬號使用7 月環比增 32%，弗萊爾稱 OpenAI 企業 AI 業務收入已超消費者業務不再依賴截圖記錄活動：Mac 版 ChatGPT 新增 Computer History AI 功能