OpenAI擴大ChatGPT家長通知，青少年暴力違規將觸發提醒

OpenAI 於近日宣布擴大 ChatGPT 的家長通知功能，當青少年用戶因違反暴力威脅或網路霸凌相關政策而遭到封號時，已綁定帳號的父母或監護人將自動收到系統發送的提醒。這項更新旨在強化平台對未成年人的保護機制，讓家庭能夠更即時掌握子女在 AI 對話中的高風險行為。 在此之前，OpenAI 已經推出家長控制功能，允許家長或監護人將未成年子女的 ChatGPT 帳號與自己的帳號進行關聯。透過這項功能，家長可以設定每日使用時間限制、減少敏感內容的出現，並在系統偵測到可能涉及自殘風險的對話內容時，直接收到警示通知。此次升級則在此基礎上，進一步將通知範圍擴大到可能對他人造成傷害的行為。 新通知機制的觸發條件，主要是當青少年用戶因為在對話中出現明顯的暴力威脅、煽動攻擊或網路霸凌等違規情節，而被 OpenAI 的審查系統判定為嚴重違規並予以封號時，系統會自動向已關聯的家長或監護人發出通知。這項設計讓家庭成員能夠在事態惡化前獲得資訊，並有機會進行必要的溝通與介入。 這套強化安全機制的開發，是 OpenAI 與專注於網路暴力監測的機構 Moonshot 共同合作的成果。Moonshot 在相關聲明中指出，當青少年在數位平台上出現嚴重的風險行為時，若能及時通知家長，將有助於家庭在早期階段採取適當的介入措施，避免情況進一步惡化。雙方共同認為，技術工具與家庭監督的結合，是提升未成年人網路安全的重要路徑。 OpenAI 此次強化安全措施，也與近年來 AI 使用風險所引發的社會爭議有直接關聯。2025 年發生在加拿大的槍擊事件調查報告中，發現嫌疑人曾在案發前使用 ChatGPT 進行相關查詢，這項發現引發了外界對 AI 語言模型可能被濫用於暴力行為的廣泛討論。事件發生後，OpenAI 公開承諾將加強安全機制，並持續檢討產品在敏感議題上的防護能力。 除了擴大違規通知範圍，OpenAI 也在家長控制頁面中新增了「學習模式」功能。該模式會透過引導性提問，鼓勵學生自行思考與探索問題的解答，而非直接由 ChatGPT 提供完整答案。這項設計的目的是幫助青少年在學習過程中培養獨立思考能力，同時避免過度依賴 AI 工具直接取得結果。 另一方面，針對青少年長時間使用 ChatGPT 的現象，系統也加入了休息提醒機制。當系統偵測到帳號的使用時長達到一定門檻時，會自動彈出提醒，建議使用者稍作休息。這項功能同樣適用於所有已綁定家長控制的帳號，家長也可以透過後台查看子女的使用時間記錄。 隨著 ChatGPT 逐漸進入教育、課業輔導與日常資訊查詢等場景，未成年人的安全使用問題已成為 AI 產業關注的核心議題之一。OpenAI 透過持續擴大家長通知範圍、強化違規偵測、引入學習模式與休息提醒，逐步建構更完整的青少年保護機制。這些工具不僅讓家長能夠更有效地監督子女的 AI 使用行為，也為業界樹立了更嚴謹的安全設計標準。 根據 OpenAI 的說法，目前這些功能已陸續向全球用戶推送，家長可以透過帳號設定中的「家庭管理」選項進行綁定與調整。未來 OpenAI 也將持續根據實際使用回饋與安全研究進展，進一步優化相關機制，以應對不斷變化的數位風險環境。