螞蟻集團副總裁陳亮：智能體越強，信任風險越不容忽視

在世界人工智慧大會上，螞蟻集團副總裁陳亮針對當前人工智慧快速發展所衍生的信任議題，提出了明確的警示。他指出，隨著智能體逐漸成為AI時代的新型操作系統，其能力越強大，背後潛藏的信任風險也越不容忽視。這番談話引發了與會者對於AI安全與治理的廣泛討論。 陳亮在演講中表示，智能體正從單純的對話助手進化為能夠獨立規劃、執行複雜任務的自主系統，其角色類似於過去個人電腦時代的作業系統。當這些智能體被廣泛應用於金融、醫療、政務等關鍵領域時，它們所處理的數據敏感度與決策影響力都大幅提升，任何系統層級的漏洞或設計缺陷都可能造成不可挽回的後果。 他進一步說明，智能體在執行多重任務時，主要面臨三大信任挑戰：首先是數據安全問題，智能體需要存取大量個人或企業資訊，若缺乏足夠的保護機制，資料外洩與濫用風險將急遽升高；其次是決策透明度，當智能體的運作邏輯難以被理解或追蹤時，使用者難以判斷其行為是否合理，也難以防範錯誤或偏見；最後是行為可控性，當多個智能體協同運作時，個別智能體的行為可能超出預期，導致系統整體失控。 陳亮強調，這些問題若未能妥善處置，將直接影響整體生態系統的可信度，甚至可能阻礙人工智慧技術的長期發展。他認為，業界不能再以事後補救的方式來處理安全漏洞，而應從系統設計的源頭就進行全面規劃。 為因應多智能體協同運作所衍生的安全需求，螞蟻集團提出了「原生安全」與「可信互聯」兩大發展方向。陳亮解釋，「原生安全」指的是將安全機制內建於系統基礎架構中，而非附加在應用層；「可信互聯」則聚焦於確保不同智能體之間的通訊與協作能夠在可控且可驗證的環境中進行，避免資訊被竄改或偽造。 在具體實作上，陳亮透露，螞蟻集團透過旗下的 LingDevice OS 等運行底座，將安全能力直接下沉至作業系統層級。這意味著，無論上層運行何種智能體應用，底層的作業系統都能自動執行身分驗證、資料加密、行為稽核等安全措施，從根本上降低潛在風險。 這種從底層設計出發的防護機制，能夠更有效地為多智能體之間的高效協作提供保障。陳亮舉例，當兩個來自不同機構的智能體需要共享數據或協同決策時，LingDevice OS 可以在不暴露原始資料的情況下，透過安全運算環境完成任務，同時留下可供審計的完整紀錄。 陳亮也提醒，技術只是信任的一部分，要建立可信賴的AI生態系統，還需要法規、標準與社會共識的配合。他呼籲產業界、學術界與監管機構共同參與討論，制定可落地的信任框架，才能讓AI應用的發展更為穩健可靠。 世界人工智慧大會作為全球AI領域的重要交流平台，今年吸引了來自各國的頂尖學者與企業領袖。陳亮的發言反映了大型科技公司在平衡技術創新與風險管控之間的現實挑戰，也凸顯了隨著智能體應用逐漸普及，信任議題將成為下一階段人工智慧發展的核心命題之一。 業界觀察人士指出，螞蟻集團將安全機制內嵌於作業系統層級的做法，類似於手機或電腦作業系統的內建防護，但對於高度動態與自主的智能體環境而言，難度更高。若這套方案能夠成功落地，將為其他企業提供重要參考。 目前，螞蟻集團已在多個內部場景中測試 LingDevice OS 的信任基礎設施，並計劃與合作夥伴展開試點。陳亮最後表示，信任不是一蹴而就的結果，而是必須從每一次互動、每一個設計環節逐步累積。唯有從源頭開始重視風險，才能讓智能體真正成為人類可靠的數位夥伴。