從“大腳怪”視頻博客到算法生成的人物形象，超逼真的人工智能內容正在重新定義數字創作者的邊界。這些影響者是完全虛擬的角色，通過生成式人工智能工具模擬人類的外貌、聲音和行為。他們發布生活方式內容、與粉絲互動，甚至獲得品牌代言——而這一切都無需在物理世界中真實存在。
隨著這些技術日益普及、生成內容愈發逼真，專家警告稱，我們正邁入一個虛構與現實之間界限愈加模糊的新時代。
合成創造力的崛起
佐治亞理工學院的專家指出，人工智能超寫實主義——即以驚人精度模仿人類情感、語音和外貌的內容——既是一項技術奇跡，也是一項社會挑戰。
“人工智能并不具備人類意義上的情感，但它懂得如何模仿帶有情感的言語，”交互計算學院的馬克·里德爾教授表示。
“一旦我們意識到人工智能在模仿我們，就不難理解它們為何能創造出聽起來真實可信的內容。”
里德爾指出，視頻創作的民主化是一個重大轉變。“人工智能視頻生成工具以及繞過傳統內容渠道、直接向社交媒體發布內容的能力，已經打開了閘門，”他說。
近期的例子包括像“無名香腸”這樣的合成影響者，這個數字動畫角色通過短視頻舞蹈和品牌合作，在多個社交媒體平臺上吸引了超過3000萬粉絲。在Character.AI等平臺上，用戶與數百萬個旨在模擬對話和個性特征的虛擬角色互動。這些人工智能生成的形象正在重塑受眾在Instagram、TikTok等社交媒體平臺上與內容、營銷和身份互動的方式。
心理健康與現實鴻溝
交互計算學院的蒙穆·德·喬杜里教授警告稱，超現實的人工智能內容可能扭曲用戶對現實的認知，尤其是在易受影響的人群中。
“這種扭曲可能加劇焦慮，惡化身體形象和自我比較問題，并導致認知信任——即我們對他人口中真實事物的基本信任——受到更廣泛的侵蝕，”她說。
她的研究表明，社交媒體已經模糊了真實自我表達和表演性身份之間的界限。超現實的人工智能內容——從深度偽造到引發情感共鳴的合成角色——進一步削弱了用戶辨別真實或可信內容的能力。青少年和面臨心理健康挑戰的人群可能尤其容易受到影響。
“經歷壓力或社交孤立的人可能更容易相信深度偽造內容，”德·喬杜里解釋道。“這類內容往往會強化現有信念，或填補社交連接中的空白。”
人工智能內容挑戰了我們對真實性、信任和數字身份的理解。它也引發了關于同意、錯誤信息以及與合成角色互動的心理影響的疑問。她指出，Z世代用戶通常通過情感共鳴而非事實準確性來評判人工智能內容，而年長用戶可能完全難以識別合成內容的跡象。
平臺、說服與錯誤信息
里德爾強調，人工智能敘事工具可通過“敘事傳輸”——一種受眾沉浸于故事中從而降低對其真實性質疑的心理現象——來影響公眾輿論。
“講故事是一種 persuasive 的溝通方式，”他說。“我們的大腦對故事的敏感程度，足以繞過批判性思維。”
近期事件凸顯了這一不斷變化的局面。2025年，泰勒·斯威夫特和湯姆·漢克斯等公眾人物的深度偽造內容激增，僅前四個月就發生超過179起事件——超過了2024年全年。這些深度偽造內容從幽默模仿到欺詐和露骨內容不等，引發了關于身份濫用和錯誤信息的倫理與法律擔憂。
里德爾指出，視頻錯誤信息歷來更難制作，但現在更容易生成，且更可能針對小眾受眾量身定制。
社交媒體公司面臨越來越大的采取行動的壓力。德·喬杜里認為，標注人工智能生成的內容是必要的，但還不夠。
“平臺必須投資于以用戶為中心的設計、數字素養干預措施，以及關于算法如何推送此類內容的透明度，”她說。
在心理健康社區中，風險尤其高，因為真實性和生活經驗至關重要。“用戶在遇到合成內容卻沒有明確人工來源提示時，常常感到不知所措或被欺騙，”她補充道。
全球化人工智能時代的治理
吉米和羅莎琳·卡特公共政策學院的米爾頓·穆勒教授認為，在去中心化的數字生態系統中，監管可能無效甚至適得其反。
“生成式人工智能是全球化和分布式數字生態系統的一部分，”穆勒說。“那么，你所說的監管機構是哪一個？它又如何獲得控制輸出所需的影響力？”
盡管歐盟的人工智能法案強制要求標注并處以高額罰款，但美國的努力仍然零散。聯邦通信委員會已將自動電話中使用人工智能生成的聲音定為非法，違規實體將面臨罰款，多個州正在推動對政治深度偽造內容進行水印處理和刑事處罰。但專家警告稱，第一修正案的保護使執法復雜化。
穆勒提醒，政府已經在將人工智能用作地緣政治工具，這可能破壞全球合作并導致戰略升級。“政府不是在自由交換數據和建立共同規則，而是在主張數字主權，”他說。
他主張通過去中心化治理、公共辯論和媒體素養來解決人工智能生成的錯誤信息，而不是集中監管或自動控制，并強調內容審核應以開放流程為指導，并在事后應用現有法律補救措施。
隨著人工智能生成的內容變得越來越復雜和廣泛，研究人員表示，挑戰不僅在于技術保障，還在于社會如何適應。佐治亞理工學院的專家強調透明度、跨學科合作和公眾參與的必要性。他們表示，超現實媒體的未來將取決于平臺、政策制定者和用戶如何應對其風險與可能性。
精選文章：