上傳一張靜態(tài)照片，即可生成動態(tài)視頻；只需幾秒語音，就能克隆聲音……這不是科幻電影，而是發(fā)生在身邊的真實事件，“AI換臉”正成為侵權(quán)違法的重災區(qū)。
近期，為規(guī)范應用人臉識別技術(shù)處理人臉信息活動、保護個人信息權(quán)益，國家互聯(lián)網(wǎng)信息辦公室、公安部聯(lián)合公布《人臉識別技術(shù)應用安全管理辦法》，對應用人臉識別技術(shù)處理人臉信息的基本要求和處理規(guī)則、人臉識別技術(shù)應用安全規(guī)范、監(jiān)督管理職責等作出了規(guī)定。辦法將于2025年6月1日起施行。
人臉識別技術(shù)應用與人臉信息安全緊密相關(guān)。人臉識別具有唯一性、不可更改性、不可匿名性，一旦泄露，極易對個人的人身和財產(chǎn)安全造成危害，還可能威脅公共安全。
AI詐騙形式多樣
換臉、變聲、對口型
貴州省黔東南苗族侗族自治州凱里市公安局反詐中心負責人吳西福介紹，一家科技公司的負責人郭先生有一天接到好友打來的視頻電話，說自己正在外地投標，需要幾百萬元保證金，想用郭先生的公司賬戶走一下賬。不久后，好友說已經(jīng)把錢轉(zhuǎn)到郭先生的賬戶并截圖證明。郭先生覺得通過視頻能看到好友本人，便沒等收到轉(zhuǎn)賬成功的通知就給好友轉(zhuǎn)了錢。后來，郭先生遲遲沒收到轉(zhuǎn)款，聯(lián)系好友時才發(fā)現(xiàn)自己被騙。
寧夏回族自治區(qū)銀川市某公司部門經(jīng)理張先生接到“老板”視頻電話，對方稱因情況緊急，急需轉(zhuǎn)賬匯款。在視頻中確認是“老板”后，張先生放下了戒心，十幾分鐘內(nèi)將20萬元轉(zhuǎn)入指定賬戶。直到下午當面匯報工作時，張先生才發(fā)現(xiàn)上當受騙。
這些案件都是典型的AI詐騙。“你以為在和朋友親人視頻聊天，其實是騙子使用的‘AI換臉’技術(shù)，讓別人的嘴能夠‘對口型’。”寧夏回族自治區(qū)公安廳刑偵總隊副總隊長、反詐中心負責人吳克剛介紹，如今，“AI換臉”技術(shù)不僅限于靜態(tài)照片的活化，還能在即時視頻通信中實時換臉。雖然需要采集大量不同角度的照片進行模型訓練，但一旦成功，便可以假亂真。過去，公民個人身份證號、手機號以及家人信息需要重點防范，現(xiàn)在，人臉、聲音、指紋等同樣要避免泄露。
新型AI詐騙主要有以下類型：語音合成詐騙，不法分子利用AI技術(shù)，合成受害人親友或熟人的聲音，讓受害人誤以為是親友或熟人需要幫助，進而實施電話詐騙；圖像生成詐騙，不法分子通過AI技術(shù)，生成虛假的照片或視頻，制造出受害人親友緊急且合理的情景，從而獲取個人信息，騙取錢財；智能客服詐騙，不法分子利用AI技術(shù)，制作智能客服系統(tǒng)，通過語音或文字同受害人交流，誘騙受害人提供個人信息或進行轉(zhuǎn)賬操作；AI情感詐騙，不法分子運用AI訓練面向網(wǎng)聊的大語言模型，通過偽造場景、聲音與受害人建立情感關(guān)系，進而獲取個人信息。
吳西福介紹，共享屏幕等新型詐騙也要注意。不法分子以“提升信用卡額度”“航班延誤退費”“贈送禮品”等為借口，向個人發(fā)送短信或撥打電話，誘導受害人下載指定軟件，并開啟軟件的“共享屏幕”功能，就可以“實時監(jiān)控”受害人手機、電腦屏幕，同步獲取個人銀行賬戶、口令、驗證碼等重要信息，從而盜取銀行卡資金。
AI詐騙危害廣泛
造成經(jīng)濟損失、心理創(chuàng)傷
相較于電信詐騙、網(wǎng)絡詐騙，新型AI詐騙的受害者身份更廣泛、多元，成功率更高，更難以追蹤。
警方梳理后發(fā)現(xiàn)，新型AI詐騙有以下危害：造成經(jīng)濟損失，新型AI詐騙具有針對性強、高度逼真等特征，普通群眾短時間內(nèi)難以分辨，很容易上當受騙、遭受經(jīng)濟損失，甚至會給家庭帶來沉重的經(jīng)濟負擔；發(fā)生信息泄露，新型AI詐騙往往能獲取受害人的個人信息，包括身份證號、銀行賬戶、人臉、指紋等，進而濫用這些信息從事非法活動，導致受害人信息泄露，身份被盜用，引發(fā)潛在的法律風險；造成心理創(chuàng)傷，遭受新型AI詐騙，除了面臨經(jīng)濟損失，受害人還可能產(chǎn)生焦慮、自責、抑郁等情緒，造成嚴重的心理創(chuàng)傷；危害社會治安，如果新型AI詐騙案件變多，容易讓群眾對社會產(chǎn)生不信任感，甚至造成恐慌情緒，有些受害者也因無法承擔損失，走上違法犯罪道路。
新型AI詐騙案件增加，偵破難度加大，對公安機關(guān)來說也是挑戰(zhàn)。吳西福說，只有不斷提升民警的專業(yè)素質(zhì)和偵查能力，加強對新型電信網(wǎng)絡詐騙犯罪的研究，才能創(chuàng)新偵查手段和方法，提高打擊效能。要加強與其他地區(qū)公安機關(guān)的協(xié)作配合，建立健全跨區(qū)域警務合作機制，形成打擊合力。
有效防范AI詐騙
保護個人信息、學習識別方法
新型AI詐騙花樣頻出，偽裝性越來越強，該如何防范？
吳克剛給出了兩條防騙建議：視頻通話時，讓對方做出指定動作，比如眨眼3次、摸摸鼻子，或者讓對方用手指或其他遮擋物在臉前晃動，如畫面出現(xiàn)延遲或者異常扭曲等不自然的微小變化，那對方很可能正在使用“AI換臉”技術(shù)。在與對方的溝通中，也可以問一些只有對方知道的問題，比如生日、電話號碼、喜好等，來驗證對方身份的真實性。
我們也應該提高安全防范意識，防止個人臉部信息被非法獲取利用。貴州警方提示，不輕信他人，不貪圖小便宜。妥善保管個人信息，把好個人信息保護的第一道關(guān)。在非必要情況下，不向陌生人提供身份證號碼、工作單位、家庭住址、職務等重要信息，不將身份證照片或號碼保存在手機中，盡可能避免將人臉、照片、聲音、指紋等留存到網(wǎng)站和小程序上。在日常生活中，加強對人臉、聲音、指紋等生物特征數(shù)據(jù)的安全防護，做好個人手機、電腦等終端設(shè)備的軟硬件安全管理，不登錄來路不明的網(wǎng)站，以免感染木馬病毒。另外，對可能進行聲音、圖像甚至視頻和定位等信息采集的應用，做好授權(quán)管理，不輕易給他人收集個人信息的機會，也能在一定程度遠離“AI換臉”詐騙。
此外，公安機關(guān)也要創(chuàng)新線上線下反詐宣傳，打造全方位反詐宣傳矩陣。一方面，利用線上平臺，深入挖掘本地發(fā)生的電信網(wǎng)絡詐騙典型案例，結(jié)合地區(qū)特色、民俗以及當下流行的網(wǎng)絡文化，拍攝制作風格獨特、通俗易懂的反詐宣傳短視頻。通過短視頻的形式還原詐騙分子的話術(shù)、作案流程以及背后的犯罪邏輯，幫助群眾提高反詐意識。
推動反詐宣傳進校園、進社區(qū)、進企業(yè)，將反詐宣傳與群眾喜愛的文化娛樂活動緊密結(jié)合，打造出一系列具有貼近性的反詐宣傳場景。堅持精準施策，針對不同群體、行業(yè)和地區(qū)特點，開展有針對性的宣傳，做到有的放矢，切實增強群眾防騙意識和識騙能力。
警方也警告不法分子：通過“AI換臉”進行視頻合成、實施詐騙的行為，是利用新技術(shù)進行的詐騙，與傳統(tǒng)詐騙行為沒有本質(zhì)區(qū)別。對于構(gòu)成詐騙罪的，將依照我國刑法第二百六十六條的規(guī)定追究刑事責任；對于為利用“AI換臉”實施詐騙行為提供技術(shù)支持、幫助的，將根據(jù)反電信網(wǎng)絡詐騙法的規(guī)定進行行政處罰，構(gòu)成犯罪的，還要追究刑事責任。
《 人民日報 》（ 2025年04月08日 13 版）