中國移動展區(qū)，工作人員介紹AI換臉與實時鑒偽技術(shù)。
如何快速識別AI換臉變聲詐騙，深度鑒偽讓AI換臉詐騙無處遁形。如何為“一老一小”構(gòu)建安全通信環(huán)境，AI技術(shù)強(qiáng)力反制電信詐騙。昨日，2024年國家網(wǎng)絡(luò)安全宣傳周正式拉開序幕，網(wǎng)絡(luò)安全博覽會也同步舉行。記者現(xiàn)場采訪多位業(yè)內(nèi)行家，探營博覽會數(shù)據(jù)安全、個人信息保護(hù)、網(wǎng)絡(luò)安全產(chǎn)品與服務(wù)等展區(qū)，了解網(wǎng)絡(luò)新技術(shù)新應(yīng)用，看“黑科技”如何筑牢網(wǎng)絡(luò)安全屏障。
文/廣州日報全媒體記者葉作林、侯翔宇
圖/廣州日報全媒體記者楊耀燁、莫偉濃、吳子良
人臉“移花接木”李鬼變李逵
人工智能技術(shù)帶來了發(fā)展和機(jī)遇，也帶來了風(fēng)險和挑戰(zhàn)。如今，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為已不少見。早在去年，中國互聯(lián)網(wǎng)協(xié)會便曾發(fā)文提示“AI換臉”新騙局。
在天融信科技集團(tuán)股份有限公司展位，助理總裁張博向記者詳細(xì)展示了AI換臉過程和原理，并對如何防范AI換臉詐騙提出建議。展位前，攝像頭正捕捉一名工作人員的面部變化，與此同時，出現(xiàn)在屏幕上的卻是另一張臉，兩者表情變化幾近一致?！爸恍枰斎胍粡堈骒o態(tài)圖片，借助人工智能技術(shù)，便可以實時‘移花接木’?！?/p>
他進(jìn)一步介紹，AI換臉的3大步驟原理：面部識別追蹤、面部特征提取、面部變化融合。“整體的原理是通過計算機(jī)深度學(xué)習(xí)，精準(zhǔn)識別人臉圖像，然后提取眼睛、鼻子、嘴巴等重要的面部特征，把這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換和融合?！?/p>
如今“AI換臉”技術(shù)已經(jīng)比較成熟，甚至能夠?qū)崿F(xiàn)視頻通話的實時換臉，雖然單憑肉眼很難分辨，不過張博指出，只要稍加留心，“AI換臉”還是有明顯破綻，“馬腳”就在面部輪廓和光線。“如果接收到視頻信息、視頻通話，要仔細(xì)觀察對方的面部輪廓是否存在異常的模糊，光線是否正常?！睆埐┱f道，“如果有必要的話，可以要求對方快速大幅度地抬頭、點頭，轉(zhuǎn)頭，然后來仔細(xì)觀察這個過程當(dāng)中，面部輪廓是否有異常模糊?！?/p>
不過張博指出，防止網(wǎng)絡(luò)詐騙還是要從上游入手，首先要防止個人信息的過度外泄。“需要采集面部信息的場景，市民群眾還是需要額外留心網(wǎng)絡(luò)環(huán)境和周圍環(huán)境?！痹谟龅揭伤艫I換臉的場景中，可以選擇通過更加直接的方式，比如說給當(dāng)事人打個電話，確認(rèn)對方身份是否真實。
用“魔法”打敗“魔法” 深度鑒偽5秒辨真假
“AI換臉”逐漸成為一種新型的詐騙手段，偽造的內(nèi)容難以被肉眼分辨出來。如何精準(zhǔn)識別“AI換臉”成為一個亟待解決的問題。
在中國移動展位的現(xiàn)場，一個AI換臉視頻被實時鑒偽技術(shù)精準(zhǔn)識別為偽造，整個過程僅需5秒左右。深度合成換臉實時鑒偽體驗區(qū)吸引了許多觀眾的圍觀，紛紛上手體驗深度驗鑒偽技術(shù)?！拔覀兿仁悄M詐騙分子AI換臉的過程，再去反向?qū)W習(xí)技術(shù)，進(jìn)而升級迭代反制系統(tǒng)?！敝袊苿有畔踩c管理運行中心副經(jīng)理王曉晴介紹，中國移動在實名入網(wǎng)業(yè)務(wù)上開展了試點應(yīng)用，基于鑒偽技術(shù)可實時檢測實名驗證過程中的AI人臉，主動防范AI換臉線上開卡、補(bǔ)卡等風(fēng)險發(fā)生，鑒偽的精確率達(dá)90%以上。
“一旦辨別為AI人臉就會彈窗警告，提醒相關(guān)用戶存在的風(fēng)險?！蓖鯐郧绫硎?，深度鑒偽技術(shù)還將在5G新通話等業(yè)務(wù)場景中試點應(yīng)用，對新通話內(nèi)容進(jìn)行偽造檢測、內(nèi)容有害檢測等，及時發(fā)現(xiàn)涉詐有害風(fēng)險，有效防范涉詐等違法違規(guī)事件。
不僅如此，深度鑒偽技術(shù)還可為多業(yè)務(wù)場景賦能，包括金融行業(yè)中人臉認(rèn)證環(huán)節(jié)檢測AI人臉、互聯(lián)網(wǎng)行業(yè)進(jìn)行AI人臉檢測及有害內(nèi)容審核等。王曉晴表示，我們希望通過技術(shù)優(yōu)化迭代能夠賦能各行各業(yè)的發(fā)展，也能為AI技術(shù)發(fā)展筑起一道安全的銅墻鐵壁。
精準(zhǔn)識別25種騙局 讓“一老一小”安心通話
老年人和未成年人獲得信息的渠道相對較為單一，對各種騙術(shù)了解不多，容易成為詐騙分子“下手”的對象。如何為“一老一小”構(gòu)建安全通訊環(huán)境？通過通訊技術(shù)手段攔截電信網(wǎng)絡(luò)詐騙電話或許是一種新的嘗試。
記者在中國移動展位看到，一位觀眾體驗名為羲和·防詐衛(wèi)士的全場景防詐服務(wù)，運用這一服務(wù)遠(yuǎn)程臨時停機(jī)用戶家人的手機(jī)，防止詐騙電話繼續(xù)轟炸?！爱?dāng)‘一老一小’接到詐騙電話轟炸時，用戶可以給他的家人進(jìn)行遠(yuǎn)程微停機(jī)——停機(jī)期間無法上網(wǎng)、沒有通話功能，讓騙子無從下手?！蓖鯐郧缃榻B，該項服務(wù)通過AI自動檢測到用戶家人接聽疑似詐騙電話時，將自動向用戶及家人發(fā)送必達(dá)通知，實現(xiàn)識別預(yù)警。若家人處于通話中并未看到提醒消息，用戶可向家人發(fā)送語音預(yù)警，直接在當(dāng)前來電中插播語音提醒。同時用戶可以遠(yuǎn)程臨時停機(jī)家人的手機(jī)，防止詐騙電話繼續(xù)轟炸。
“該系統(tǒng)是融合號、卡、消息、通話、大數(shù)據(jù)、AI、防詐險等資源稟賦和特色能力，一站式提供智能識詐、智能預(yù)警、智家聯(lián)動的全場景防詐服務(wù)。”王曉晴表示，這一服務(wù)提供25種騙局套路文本的識別，目前準(zhǔn)確率達(dá)到99%。
如何識別“換臉騙局”
如果接收到視頻信息、視頻通話，要仔細(xì)觀察對方的面部輪廓是否存在異常的模糊，光線是否正常。
如果有必要的話，可以要求對方快速大幅度地抬頭、點頭，轉(zhuǎn)頭，然后來仔細(xì)觀察這個過程當(dāng)中，面部輪廓是否有異常模糊。
防止網(wǎng)絡(luò)詐騙還是要從上游入手，首先要防止個人信息的過度外泄。
在遇到疑似AI換臉的場景中，可以選擇通過更加直接的方式，比如說給當(dāng)事人打個電話，確認(rèn)對方身份是否真實。
(編輯： 吳嘉祺)
