隨著人工智能生成技術(shù)快速普及，利用AI換臉、擬聲冒充熟人、領(lǐng)導或客服實施詐騙的風險持續(xù)受到關(guān)注。新型電詐手法更隱蔽、傳播更快，也對個人信息保護和平臺治理提出更高要求。

近期，AI換臉、AI擬聲被用于電信網(wǎng)絡(luò)詐騙的風險持續(xù)引發(fā)社會關(guān)注。不法分子通過公開社交平臺、短視頻賬號、通訊錄信息等渠道收集個人照片、聲音片段和關(guān)系鏈，再借助生成式人工智能工具制作具有迷惑性的音視頻內(nèi)容，以“緊急借款”“賬戶異常”“代辦業(yè)務(wù)”“領(lǐng)導指示”等名義誘導轉(zhuǎn)賬。與傳統(tǒng)詐騙相比，此類手法更容易利用熟人信任，受害人往往在短時間內(nèi)難以判斷真?zhèn)巍?/p>

值得警惕的是，AI合成內(nèi)容并不一定需要長時間素材。部分公開照片、短視頻語音片段或會議錄音，都可能被不法分子拼接、仿制并用于詐騙場景。一旦詐騙分子準確掌握受害人的職業(yè)、家庭關(guān)系、出行狀態(tài)等信息，騙局就會呈現(xiàn)更強的“定制化”特征。因此，個人信息過度公開、社交賬號權(quán)限設(shè)置過寬、隨意參加人臉采集活動等行為，都可能增加被利用的風險。

反詐人士提醒，遇到熟人通過視頻、語音提出轉(zhuǎn)賬、代付、提供驗證碼等要求時，不應(yīng)僅憑畫面或聲音作出判斷，應(yīng)通過原有電話、線下見面、共同聯(lián)系人復核等方式確認身份。對于聲稱“正在開會不方便接電話”“情況緊急馬上轉(zhuǎn)賬”“不能告訴別人”的請求，更要保持警惕。企業(yè)和單位也應(yīng)完善財務(wù)審批流程，避免單一指令觸發(fā)大額轉(zhuǎn)賬，減少被冒充領(lǐng)導詐騙的空間。

從治理角度看，AI換臉詐騙不僅是個體防范問題，也涉及平臺審核、技術(shù)標識、數(shù)據(jù)保護和違法成本。相關(guān)平臺應(yīng)加強對深度合成內(nèi)容的識別提示，壓實賬號實名、異常傳播和高風險交易場景的風控責任；技術(shù)服務(wù)提供方也應(yīng)落實合成內(nèi)容標識和濫用防控機制。對公眾而言，提升數(shù)字素養(yǎng)、減少敏感信息暴露、及時舉報可疑賬號，是降低風險的重要環(huán)節(jié)。

業(yè)內(nèi)人士認為，人工智能技術(shù)本身具有積極應(yīng)用價值，但一旦被用于詐騙、誹謗、侵權(quán)和非法牟利，就會沖擊社會信任基礎(chǔ)。面對不斷翻新的電詐手法，社會各方需要在技術(shù)創(chuàng)新和安全治理之間取得平衡，既保護正常應(yīng)用，也嚴厲打擊違法濫用。更多熱門資訊，歡迎持續(xù)關(guān)注單詞乎。