隨著人工智能技術(shù)的進(jìn)步，一些不法分子開(kāi)始利用AI技術(shù)融合他人面孔和聲音，制造非常逼真的合成圖像來(lái)實(shí)施新型網(wǎng)絡(luò)詐騙，這類(lèi)騙局常常會(huì)在短時(shí)間內(nèi)給被害人造成較大損失。那么，我們應(yīng)該如何識(shí)別和防范新型詐騙？
有人偷了你的臉！當(dāng)AI詐騙遇上虛擬數(shù)字人“天妤”。視頻來(lái)源：最高人民檢察院公號(hào)
警惕“AI換臉”新型詐騙
記者調(diào)查發(fā)現(xiàn)，最近多地出現(xiàn)的AI換臉詐騙案件，均具備定制性、迷惑性等特征。
其中，香港警方近期披露一起涉案金額高達(dá)2億港元的多人AI換臉詐騙案尤為典型。據(jù)媒體報(bào)道，某公司職員受邀參加公司“多人視頻會(huì)議”時(shí)，先后將2億港元分別轉(zhuǎn)賬到5個(gè)本地銀行賬戶(hù)內(nèi)。據(jù)警方調(diào)查，這場(chǎng)視頻會(huì)議中除了受害者外，其余均為AI換臉后的詐騙人員。
不少業(yè)內(nèi)專(zhuān)家表示，隨著文生視頻大模型Sora等多模態(tài)人工智能的探索和出現(xiàn)，人們可能陷入“眼見(jiàn)也不一定為實(shí)”的困局。“一直以來(lái)，銀行等部門(mén)將實(shí)時(shí)視頻用做檢驗(yàn)身份的手段之一，如今其可靠性將面臨巨大挑戰(zhàn)。”中國(guó)行政法學(xué)研究會(huì)常務(wù)理事、華東政法大學(xué)教授沈福俊說(shuō)，“隨著人工智能技術(shù)的迭代升級(jí)，這類(lèi)違法行為還可能演變出更多形態(tài)。”
沈福俊坦言，對(duì)此類(lèi)AI換臉和AI擬聲的惡性詐騙案件，若只依靠傳統(tǒng)監(jiān)管手段已不能防堵，監(jiān)管部門(mén)在提升自我科技能力儲(chǔ)備的同時(shí)，有必要引入新興技術(shù)，探索用AI技術(shù)監(jiān)管AI的可能。
Sora可根據(jù)文本內(nèi)容生成逼真視頻。圖片來(lái)源：Sora/OpenAI
“AI換臉”的技術(shù)原理是什么
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)委會(huì)專(zhuān)家薛智慧介紹，“AI換臉”過(guò)程主要包括人臉識(shí)別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個(gè)關(guān)鍵步驟。
首先通過(guò)視頻的采集，追蹤定位圖片里人的面部；第二步，做一個(gè)面部特征點(diǎn)的采集和提取，主要包括嘴、鼻子跟眼睛的特征；第三步就是把這張?jiān)嫉恼掌鲆粋€(gè)變換跟融合。
其背后最核心的包括為三個(gè)部分，首先，利用深度學(xué)習(xí)算法精準(zhǔn)地識(shí)別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征。其次，將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換、融合。最后，通過(guò)背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假“換臉”視頻。
如何識(shí)別和防范新型詐騙
遇到這種類(lèi)型的詐騙，普通人該怎么識(shí)別和防范呢？四川網(wǎng)警的網(wǎng)絡(luò)安全專(zhuān)家張警官在線(xiàn)支招：一提高反詐意識(shí)；二是涉及資金往來(lái)應(yīng)多途徑核對(duì)，在視頻過(guò)程中可以要求對(duì)方做掐臉、捏鼻子等特定的動(dòng)作，觀察視頻有沒(méi)有穿模或異常變形，以此來(lái)識(shí)別是否為AI偽造的視頻；三是通過(guò)電話(huà)、微信等多渠道多方式確認(rèn)；四是在轉(zhuǎn)賬時(shí)，可以將到賬時(shí)間設(shè)定為2小時(shí)到賬或者24小時(shí)到賬，以預(yù)留處理時(shí)間。
掐臉、捏鼻子這一招引起了大家的熱議。“超級(jí)頭腦”創(chuàng)始人張澤偉說(shuō)：“隨著技術(shù)的發(fā)展，它的這些漏洞都會(huì)被修復(fù)掉。對(duì)AI的訓(xùn)練日趨成熟后，可能掐臉、捏鼻子AI也會(huì)做了，建議變成捏成“豬鼻子”等一些AI不易做到的動(dòng)作。或者制定一些只有屬于家人才知道的暗號(hào)，這是最保險(xiǎn)的。”
張警官尤其談到，要注意個(gè)人信息和隱私數(shù)據(jù)的保護(hù)。AI換臉或者聲音合成技術(shù)，前提是要搜集受害人的聲音和圖片視頻資料。日常生活中要保護(hù)好個(gè)人隱私安全，使用正規(guī)軟件，防止自己的聊天信息、身份信息泄露，同時(shí)我們要盡可能減少社交媒體上自己的照片和聲音曝光。張警官還向大家再次推薦：一定要下載國(guó)家反詐中心app，那里面有非常多的案例供大家借鑒。
（來(lái)源：中國(guó)科技網(wǎng)綜合自央視新聞客戶(hù)端、新華每日電訊、閃電新聞、封面新聞、科技日?qǐng)?bào)）
