300萬粉女神全是AI合成，偽造孤兒院，跨國「假慈善」一夜塌房

坐擁300萬粉絲的澳洲網紅Lily Jay，近日被踢爆是一場精心策劃的AI詐騙。這個在Instagram上擁有近300萬追蹤者的帳號，過去一年多來不斷發布「行善」影片，包括在非洲興建孤兒院、發放物資給加薩難民，甚至宣稱自己蓋了一座清真寺。然而，經過調查，這些感人畫面大半是AI生成的假象，連孤兒院本身都是憑空捏造。 鏡頭裡，一名戴著頭巾的金髮女子笑靨如花，身旁圍繞著一群非洲孩童，每人手裡舉著一根棒棒糖。她對著鏡頭歡呼：「感謝真主，孤兒院開張了！」這段影片在社群平台上獲得數百萬次觀看，許多穆斯林粉絲深受感動，紛紛捐款支持「Lily Jay基金會」的慈善工作。然而，那個宣布孤兒院開張的女子，根本不是真正的Lily Jay，而是AI合成的虛擬形象。 調查發現，這個帳號從頭到尾都是虛構的。帳號主人從未踏足非洲，也沒有建立任何實際的慈善機構。所謂的「孤兒院開幕典禮」，其實是將一段真實的非洲社區活動影像，透過AI換臉技術將一名陌生女子替換成網紅本人，再配上後製的基金會橫幅。類似的造假手法還出現在「分送麵包給加薩難民」「探望烏干達孤兒」等影片中，所有場景都是挪用他人影片或AI生成的背景。 更令人震驚的是，這個帳號還偽造了獎盃、感謝狀，甚至編造出「難民媽媽寫信致謝」的故事。這些內容搭配上精心設計的伊斯蘭教元素，成功吸引大量穆斯林用戶的信任與共鳴。許多粉絲在留言區表達感謝，甚至有人表示「這是我們見過最真誠的慈善家」。根據社群平台的分析，該帳號的互動率遠高於一般網紅，顯示其受歡迎程度極高。 這場騙局之所以能持續運作一年多，關鍵在於AI技術的成熟運用。除了換臉與生成背景，該帳號還利用AI生成的音訊與文字，偽造與粉絲的對話紀錄，營造出網紅本人親自回覆的假象。此外，帳號也定期發布「捐款進度報告」，附上偽造的銀行轉帳截圖與收據，進一步強化可信度。 然而，隨著一位獨立調查記者深入追查，這座虛構的慈善帝國逐漸露出破綻。記者發現，帳號中提到的「烏干達孤兒院」地址，實際上是當地一間廢棄的學校；而所謂的「加薩物資發放」影片，則被發現是從另一位慈善工作者的真實紀錄中盜用的。更關鍵的是，帳號從未公開任何可驗證的財務報表或第三方稽核報告。 當記者向Instagram平台檢舉後，該帳號隨即被標記為「可疑內容」，但平台並未立即下架，理由是「尚未違反社群規範」。這起事件引發了外界對社群平台監管機制的強烈質疑。許多曾經捐款的粉絲在得知真相後感到憤怒與背叛，他們表示「不只是損失金錢，更是對善良的踐踏」。 目前，澳洲警方已介入調查，初步懷疑這是一起跨國詐騙案，幕後可能涉及組織犯罪集團。由於該帳號的收款帳戶設在海外，加上AI技術的匿名性，追查難度相當高。專家指出，這類「AI慈善騙局」未來只會愈來愈多，因為生成式AI讓造假成本大幅降低，卻能騙取大量金錢與情感。 這起事件也凸顯了數位時代的信任危機。在AI技術日益成熟的今天，眼見不再為憑，一段看似真實的影片，可能只是演算法生成的虛構場景。對社群平台而言，如何建立更嚴格的內容驗證機制，成為迫在眉睫的課題。而對一般用戶來說，在點擊「捐款」按鈕之前，多一分查證、少一分盲信，或許才是最有效的自保之道。