OpenAI：若青少年因使用 ChatGPT 網暴他人而被封號，系統將告知家長

OpenAI 近日宣布擴大 ChatGPT 的家長通知功能，未來當青少年使用者因違反暴力威脅或網路霸凌相關政策而遭到帳號封鎖時，系統會自動向已綁定帳號的父母或監護人發出提醒。這項更新旨在強化平台對未成年用戶的安全防護，讓家長能夠更即時掌握子女在人工智慧對話工具上的不當行為。 根據外媒 Engadget 於本月 18 日的報導，OpenAI 早在去年便推出了家長控制機制，允許父母將未成年子女的 ChatGPT 帳號與自己的帳號進行關聯。透過這項功能，家長可以設定每日禁用時段、減少敏感內容的顯示，同時在系統偵測到子女可能出現自殘傾向時，也能收到警示通知。如今，這套通知系統的範圍進一步延伸，涵蓋了青少年可能對他人造成傷害的風險情境。 具體而言，當青少年在使用 ChatGPT 的過程中，因發布涉及暴力威脅或網路霸凌的內容而違反平台使用政策，導致帳號被停用時，已完成帳號關聯的家長將會收到一封標題為「重要更新」的通知。點擊通知中的「了解更多」按鈕後，頁面會清楚說明該帳號因為違反「暴力行為」相關的使用政策而被暫時或永久停用。這項設計讓家長在第一時間就能了解子女帳號異常的原因，而不必等到孩子自行告知或事態惡化後才得知。 這項新功能並非 OpenAI 獨力完成，而是與專注於網路暴力監測與應對的機構 Moonshot 共同開發。Moonshot 創辦人維迪婭・拉馬林甘（Vidhya Ramalingam）在受訪時表示，當青少年出現嚴重風險行為時，及時通知父母，並讓他們進一步了解具體情況，是幫助家庭及早介入、尋求適當援助的關鍵第一步。她強調，要讓年輕人更安全地使用 ChatGPT，未來還需要配合更多保護措施，而非僅靠單一通知功能就能解決所有問題。 OpenAI 此次的更新，反映出人工智慧公司在面對未成年用戶保護議題上的持續調整。隨著 ChatGPT 在青少年群體中的滲透率逐漸上升，如何平衡自由對話與安全管控，成為各大科技平台必須正視的挑戰。過去一年，OpenAI 已陸續導入內容過濾、年齡驗證、以及家長儀表板等機制，但網路霸凌與暴力內容的監控仍是難題。透過與 Moonshot 這類專業機構合作，OpenAI 希望能夠更精準地辨識高風險行為，並在適當的時機觸發家長的介入。 從家長的視角來看，這項功能不僅是事後的通知，更是一種預防性的溝通橋樑。許多青少年在網路上可能因為一時衝動或同儕壓力而做出不當發言，若沒有及時引導，可能導致更嚴重的後果。OpenAI 的設計讓家長有機會在帳號被封鎖的當下就與孩子進行對話，了解事件原委，並協助孩子理解網路行為的邊界。同時，系統也在通知中提供相關資源與求助管道，幫助家庭進一步處理潛在的危機。 值得注意的是，這項通知功能僅適用於已經完成帳號關聯的家庭。若家長尚未將子女的帳號與自己的帳號綁定，則不會收到任何警示。因此，OpenAI 也鼓勵家長主動啟用此項設定，以便充分發揮安全防護網的效果。此外，系統並不會揭露青少年帳號內的所有對話內容，僅在違反特定政策時才會觸發通知，這在一定程度上兼顧了隱私保護與安全監控。 Moonshot 創辦人維迪婭・拉馬林甘進一步指出，及時通知父母只是整體解決方案中的一環。她認為，科技公司還應開發更多教育性的工具，幫助青少年理解網路暴力的危害，並提供正向的溝通引導。同時，平台也應持續優化內容審查機制，減少誤判或漏判的情況。OpenAI 方面則表示，未來將根據家長與專家的回饋，持續調整通知的觸發條件與呈現方式，讓這項功能更加貼近實際需求。 整體而言，OpenAI 此次擴大家長通知功能，是在青少年安全防護領域邁出的重要一步。從最初的自殘傾向警示，到現在涵蓋對他人的暴力威脅與網路霸凌，顯示出平台對於不同風險類型的全面關注。隨著人工智慧技術的快速演進，如何讓工具在提供學習與娛樂價值的同時，也能保護心智尚未成熟的年輕使用者，將是所有科技公司共同的課題。OpenAI 與 Moonshot 的合作，或許能為業界提供一個值得參考的實務案例。