（記者 劉惠敏 王叡 張俊達）當視頻通話中的“親人”聲淚俱下地借錢，當“老同學”在手機屏幕上急切地求助轉賬k8凱發天生贏家一觸即發！，當短視頻裡的“明星”正在傾情推薦神藥，你是否會懷疑自己的眼睛？

　　今年2月，最高人民法院披露，2021年至2025年，全國法院一審新收詐騙刑事案件增長81.2%凱發k8國際娛樂官網首選，其中利用AI換臉、深度偽造等前沿科技實施的智能化詐騙也呈現高發多發趨勢。AI技術這把雙刃劍，正在成為詐騙分子手中的“新式武器”情取內衣。

　　如今，AI數字人主播在電商和短視頻平台已屢見不鮮。商家只需花費數千甚至數百元，就能擁有一個能夠24小時直播的員工，能根據用戶反饋實時調整話術，達到“以假亂真”的效果情取內衣。

　　這本是降本增效的技術應用，但技術的濫用正在從線上走向線下，從娛樂走向犯罪。有不法分子利用實時換臉、聲音合成等技術，冒充親友進行視頻通話詐騙，真假難辨、防不勝防，讓科技成了精準詐騙的工具。

　　記者在各類電商和社交平台搜索“AI換臉”“聲音克隆”等關鍵詞時凱發k8國際娛樂官網首選，部分結果已被平台屏蔽，部分社交平台還會跳轉提醒用戶使用需“合法合規、注意辨別”“切勿輕信、謹防詐騙”，但一旦更換相似的關鍵詞，仍能搜索到大量標注了“活體認證”“實時換臉”等標簽信息的商品。

　　記者進一步調查發現，AI換臉與聲音克隆技術的價格從個位數到千元不等，多是由賣家代為售賣海外AI換臉軟件安裝包，並提供包月或買斷服務。一位賣家向記者表示，可以支付288元一次買斷軟件技術獲得某款AI換臉軟件的永久代理權，記者自己也可以貼牌代理。也有賣家低價大量售賣軟件安裝包和教程，1元即可購得打包好的“完整教程”。從調查情況來看，這些賣家往往不在平台直接交易，而是引導買家添加微信、通過網盤傳輸資料，在平台監管以外完成進一步交易凱發k8國際娛樂官網首選，相關服務顯然已形成成熟的灰色產業鏈。

　　此前多地司法機關公布相關案情顯示天生贏家 一觸即發，詐騙分子在社交平台廣泛搜集消費者或其親友公開發布的清晰面部視頻、語音片段，用于AI模型訓練，再利用深度合成技術，合成足以以假亂真的視頻或音頻。結合一些精心設計的緊急情境，不法分子直接與消費者取得聯系，要求向指定賬戶轉賬。

　　AI換臉技術還被用于侵入計算機信息系統。在2025年7月武漢警方偵破的一起案件中情取內衣，犯罪嫌疑人通過AI換臉技術篡改企業法定代表人信息，對企業進行非法控制。

　　面對日益猖獗的AI詐騙凱發k8國際娛樂官網首選，反制舉措正在提速上線月，國家互聯網信息辦公室等四部門聯合發布的《人工智能生成合成內容標識辦法》施行，要求AI生成內容必須添加標識。這為網絡內容治理提供了明確依據，有效規範AI生成內容傳播秩序，限制了部分未合規標識的AI視頻傳播。

　　記者調研發現，部分運營商和手機廠商已開始在系統層面植入AI反詐檢測技術，支持視頻通話時實時檢測AI換臉技術。中國移動自主研發的AI換臉鑑偽核心技術可以對偽造圖像存在的局部模糊失真情取內衣、邊緣銳化、通道分布異常等特征，通過深度學習模型進行分類鑑別，實時鑑偽準確率超95%。以總部位于深圳的榮耀公司為例，其2024年推出的系統內置了“AI換臉檢測”功能，能夠在視頻通話過程中實時分析畫面要素凱發k8國際娛樂官網首選。

　　這類技術的原理是什麼？榮耀方面向記者解釋：當用戶與好友視頻通話時，系統可在滿足特定條件的情況下，自動檢測對方人臉是否存在換臉風險。檢測到風險時，屏幕會顯示提示；用戶也可主動確認檢測，系統實時分析並反饋結果。

　　這一技術路徑的關鍵在于“端側”，即所有檢測在手機本地完成，無需上傳雲端，又實現實時響應。原理上，它通過分析視頻通話中的畫面要素，包括像素點、紋理細節、幀率異常等，捕捉AI合成難以完美復刻的物理破綻。

　　技術只是防護的一部分。研究顯示，在復雜場景下，現有AI檢測器的準確率可能從90%驟降至60%。不法分子還可通過本地運行開源模型、修改原始素材等方式規避平台審查。因此，在技術防禦之外，法律懲戒和公眾意識的提升同樣關鍵情取內衣。

　　今年全國兩會上，多位代表委員關注AI治理。全國人大代表、美的集團副總裁鐘錚明確呼籲治理AIGC虛假營銷和數字人違規直播亂象。廣東省江門市科恆實業股份有限公司鋰電材料事業部主任研發工程師丁雪梅針對談及AI換臉侵權背後的“維權難”問題，建議推動各大平台建立AI侵權“一鍵投訴”功能。針對利用AI換臉造謠誹謗、偽造音視頻侵害名譽、肖像等行為，平台可設立專門受理通道。四川省律師協會會長李世亮代表呼籲最高人民法院盡快出台相關司法解釋，細化“AI換臉”侵權的認定標準、平台責任、精神損害賠償等規則。

　　對普通消費者而言，防範AI詐騙需要牢記幾個原則：涉及轉賬凱發k8國際首頁登錄。，即便看到實時視頻凱發k8國際娛樂官網首選，也要通過通訊錄中留存的號碼二次核實；不隨意在社交平台洩露人臉、聲音等敏感信息；遇到所謂“緊急情況”，務必放緩節奏，切勿衝動操作。

　　而對整個社會而言，AI換臉的治理注定是一場“大合唱”而非“獨角戲”。全國人大代表黃勇強調，技術企業要履行主體責任，堅守科技向善的底線，主動落實數據安全和內容審核義務凱發國際官網首頁，。網信、公安等部門則需加強聯合監管凱發k8國際娛樂官網首選，對利用AI換臉等人工智能技術實施的違法犯罪行為依法打擊。