Meta AI 上線新功能：如果青少年討論自殺或自殘相關話題，將自動通報家長

Meta 於當地時間週四（16 日）宣布，旗下人工智慧聊天機器人 Meta AI 將新增一項安全機制：當青少年用戶在對話中提及自殺或自殘等相關話題時，系統會自動向家長發出警報。這項功能旨在進一步強化對未成年使用者的保護，讓家長能更即時掌握孩子的心理狀態。 除了通知家長，Meta 也正在開發緊急求助功能。一旦對話內容顯示青少年可能正處於自殺風險中，系統將直接聯繫當地的緊急服務機構，以便在關鍵時刻提供即時援助。這套機制背後仰賴專門設計的 AI 模型，能夠辨識出青少年明確表達自我傷害意圖的對話片段。 Meta 強調，為了避免誤判造成家長的過度驚慌，目前所有被 AI 標記的對話都會先經過人工審核，確認後才會決定是否發出警報。公司說明：「我們理解家長收到警報時可能會非常不安。因此，在識別能力持續改進的期間，每段被標記的對話都會由真人再次檢視。如果青少年的真實意圖無法明確判斷，我們會採取更謹慎的做法，也就是通知家長。雖然家長有時可能會收到最終證明無須擔憂的警報，但我們認為現階段應該從較嚴格的標準開始，並持續觀察實際效果，確保尺度合適。」

這項新功能初期將提供給美國、英國、澳洲與加拿大等國家的家長，這些地區的家長只要啟用了 Instagram 的家長監督功能，即可收到相關通知。Meta 預計在今年年底前將此功能推廣至全球所有適用市場。 事實上，Instagram 過去已經支援在青少年反覆搜尋自殺或自殘相關詞彙時通知家長，而此次 Meta AI 的新機制則進一步擴大了預警範圍。現在，家長不僅能得知孩子是否主動搜尋敏感內容，還能掌握孩子與 AI 聊天時是否觸及危險話題。此外，家長也能查看青少年在過去一週內與 Meta AI 討論過哪些主題，進一步了解孩子的心理動向。 Meta 同步將「限制內容」設定延伸至 Meta AI 當中。家長啟用此功能後，青少年無論是在 Instagram 還是與 Meta AI 對話，都會受到更嚴格的內容過濾。原本 Meta AI 就不會與青少年討論性、戀愛或飲酒等話題，而新增的限制將使聊天機器人拒絕更多類型的提問，進一步降低接觸不當內容的風險。 針對所有年齡層的使用者，Meta 也表示，只要 Meta AI 的對話內容顯示任何用戶可能處於自殺危險中，就會啟動緊急服務聯繫機制。這項措施並非全新做法；此前 Facebook 與 Instagram 在發現用戶發佈可能表明存在自殺風險的內容時，就已經能夠採取相同步驟，聯繫相關緊急機構。此次將同樣的保護機制擴展至 AI 對話場景，可望更全面地覆蓋用戶暴露風險的各種管道。 總體而言，Meta 此次推出的功能反映了社交平台在青少年心理健康保護上的持續投入，透過 AI 技術與人工審核的雙重把關，試圖在隱私與安全之間取得平衡。隨著年底全球上線，這項機制將影響數以百萬計的家庭，也將持續考驗 Meta 在辨識準確度與用戶信任之間的取捨能力。