Character.AI 因數據和未成年人保護問題在意大利被罰 15.8 萬歐元

義大利數據保護局（Garante per la Protezione dei Dati Personali）於當地時間7月9日宣布，對美國人工智慧公司Character Technologies處以15.8萬歐元（依現行匯率約合新台幣550萬元或人民幣122.8萬元）罰款。該公司旗下經營生成式AI聊天服務Character.AI，用戶可在平台上與AI生成的虛擬角色進行對話互動。義大利監管機關指出，這家企業在數據保護與未成年人安全方面存在多項違規。 根據義大利數據保護局發布的調查結果，Character Technologies至少違反了歐盟《一般資料保護規則》（GDPR）中的數項要求。具體違規行為包括向用戶提供的資訊不夠完整透明、數據保護影響評估（DPIA）有所延遲，以及未能及時指定在歐盟境內的代表人。這些問題導致該公司未能落實歐盟對於個人資料處理的基本規範。 更引起關注的是未成年人保護機制的嚴重缺失。義大利監管機關表示，直到2025年底之前，Character.AI平台並未採取有效措施阻止未成年使用者接觸開放式聊天功能。這項功能允許任何人與AI角色進行不受限制的對話，可能讓未成年用戶暴露在不當內容或潛在風險之中。此外，該平台在年齡驗證程序上亦存在關鍵漏洞，無法確實區分使用者是否已達法定年齡。 除了年齡驗證不足，Character Technologies也未能建立完善的防範機制，無法阻止已被封禁的未成年人再次嘗試註冊新帳號。這種情況使得封鎖措施形同虛設，無法真正保護兒童與青少年免受不合適內容的影響。義大利數據保護局要求該公司必須立即修正這些問題，具體措施包括確保年齡驗證系統正確運作，建立有效的封禁用戶再註冊攔截機制，以及將未成年用戶的個人資料預設為私密模式，以限制資料被公開或擴散。 Character.AI是一款讓使用者能與AI虛擬角色進行即時對話的服務，用戶可以自行創建角色或與他人設計的角色互動，涵蓋娛樂、學習、心理陪伴等多種場景。這類生成式AI產品在全球迅速崛起，但伴隨而來的兒童保護與資料隱私爭議也日益增加。義大利數據保護局近年來對多家科技公司開罰，涉及Google、Meta、OpenAI等企業，顯示出歐盟對於數位服務的監管力道持續加強。 此次罰款金額雖然相對不高，但反映出監管機關對於AI服務中未成年人保護標準的嚴格態度。義大利數據保護局強調，任何在歐盟境內提供服務的數位平台，都必須遵守當地法規，尤其是涉及未成年人資料處理時，必須採取最高等級的保護措施。Character Technologies被要求在限期內完成整改，否則可能面臨更嚴厲的後續處分。 目前Character Technologies尚未對外發布正式回應。業界分析認為，這項裁決可能對其他同類生成式AI聊天服務產生警示作用，促使業者重新審視年齡驗證與內容過濾機制。歐盟正在推動《人工智慧法案》（AI Act），未來對於高風險AI系統的監管將進一步明確，未成年保護將是合規重點之一。 從市場角度來看，Character.AI這類以情感互動為核心的AI服務，用戶群體中包含大量青少年，如何在吸引使用者與履行法律責任之間取得平衡，成為業者必須面對的課題。義大利監管機關的裁決同時也提醒其他開發類似產品的公司，若缺乏有效的年齡驗證與家長同意機制，很可能會遭遇類似的法律風險。 值得注意的是，義大利數據保護局在裁決中特別要求Character Technologies必須「默認」將未成年人的個人資料設置為私密模式。這代表平台不得預設公開未成年用戶的個人檔案、對話記錄或其他相關資料，而應將隱私保護視為基本預設值，而非讓用戶自行選擇。這與歐盟GDPR中「數據保護設計」（Data Protection by Design）的原則一致，要求從系統設計階段就納入隱私保護。 整體而言，此次罰款不僅針對單一事件，更反映出歐盟監管機構對於生成式AI時代下兒童保護議題的高度重視。隨著AI聊天機器人日益普及，如何防止未成年人接觸有害內容、確保其資料安全，已成為各國監管機關關注的焦點。Character.AI的案件很可能成為後續類似裁決的參考案例，推動業界加速導入更嚴謹的年齡驗證、內容過濾與家長監護機制。