AI火了，騙子也來了！

近日，兩起利用AI換臉實施詐騙的案例引發(fā)關(guān)注。繼包頭警方發(fā)布“福州市某科技公司法人代表郭先生10分鐘內(nèi)被人用AI換臉詐騙430萬元”后，5月25日，安徽警方也通過當?shù)孛襟w披露了一起類似案件，詐騙分子使用了一段9秒鐘的智能AI換臉視頻，佯裝“熟人”，導致安慶經(jīng)開區(qū)的何先生被詐騙245萬。

短時間內(nèi)曝光的兩起AI換臉詐騙案，對今年以來持續(xù)火爆的AI技術(shù)發(fā)展無疑是一種警醒：未來令人“防不勝防”的AI換臉詐騙會否大規(guī)模爆發(fā)？又應如何防范這類詐騙？

(資料圖片僅供參考)

5月25日，新京報貝殼財經(jīng)記者采訪反詐民警以及行業(yè)專家發(fā)現(xiàn)，目前使用AI換臉詐騙的案例并不多，同時在上述兩起詐騙案中受害者均是先入為主認為發(fā)來視頻的是朋友的社交賬號才有了后續(xù)“AI換臉”的登場，因此源頭上應先防止自己賬號被盜用、警惕他人社交賬號真?zhèn)?。此外，AI技術(shù)的發(fā)展也確實降低了AI換臉的門檻，客觀上降低了AI換臉詐騙的成本。

兩起AI換臉詐騙有何共同點？針對性詐騙，賬號被盜是問題關(guān)鍵

可以發(fā)現(xiàn)，在上述詐騙案例中，詐騙分子對受害者和其好友的身份、日常話術(shù)均有深刻了解，才能完成詐騙。此外，在偽造好友身份這一環(huán)，通過AI偽造視頻只是增加可信性，但消息確實是從“好友”的微信號發(fā)來，才造成了受害者深信不疑。

電信專家付亮表示，在何先生的案例中，首先出現(xiàn)微信直接聯(lián)系，然后轉(zhuǎn)QQ號碼直連，轉(zhuǎn)賬也未通過微信或QQ（繞開了騰訊的安全判定），“假冒QQ好友的詐騙手法快30年了，都沒有用到AI，互聯(lián)網(wǎng)快速發(fā)展，更多防護意識較弱的人成為網(wǎng)民，快捷的電子轉(zhuǎn)賬也為騙子提供了便利。兩起案例中都是盜用賬號詐騙，AI換臉只是輔助。”

民間互聯(lián)網(wǎng)安全組織網(wǎng)絡尖刀創(chuàng)始人曲子龍告訴新京報貝殼財經(jīng)記者，此類AI換臉的詐騙手段都是定向針對性詐騙，而非傳統(tǒng)意義上“廣撒網(wǎng)，打打電話”的電信詐騙，往往干的也都是“大單”。源頭上需要防止賬號被盜用，不要輕易加陌生人，“也要防止其他人用小號加你，過一段時間改成你親友，然后再實施詐騙。”

AI換臉詐騙不會大規(guī)模出現(xiàn)，有哪些方法可以識別對方是AI換臉？

5月25日，某沿海城市反詐專班民警對新京報貝殼財經(jīng)記者表示，目前并未發(fā)現(xiàn)當?shù)赜惺褂肁I冒充熟人作案的案例，主要是這種詐騙方式手段特殊，需要特定人群、還需要人臉數(shù)據(jù)等，要素比較多，因此不會大規(guī)模出現(xiàn)。

實際上，AI換臉技術(shù)早在2017年就已在網(wǎng)上流行，不論是使用女明星的臉替換成人影星的色情影片，還是為了娛樂使用自己的臉替換電影形象曾流行一時的App“ZAO”，使用的都是同一類技術(shù)。

如何識別對方是AI換臉？曲子龍表示，AI換臉目前在連續(xù)動作的實時渲染方面還是會存在技術(shù)缺陷，比如在說話的時候嘴部動作、眼部動作，如果仔細看都會存在一定的“不和諧”情況，如丟幀、嘴巴時大時小等問題。

有專家提示稱，“AI假臉”的紋理特征存在破綻。例如，偽造后的視頻人物的眼睛或牙齒輪廓細節(jié)容易不一致；兩只眼睛瞳孔的顏色不一樣或瞳孔中心反射的細節(jié)不一樣；很多偽造視頻由于視頻分辨率低于原始視頻，偽造出來的視頻牙齒邊緣過于整齊等。

不過，一個現(xiàn)實問題是，隨著AI技術(shù)的進步，AI換臉的門檻確實也越來越低?！耙郧癆I換臉還需要一兩百張圖片，現(xiàn)在不同角度的照片，一般5到8張就可以生成很不錯的模型了?！鼻育堈f。

曲子龍?zhí)寡?，“AI發(fā)展太快，想要防止臉被盜用太難了，尤其是一些公眾人物、明星、網(wǎng)紅，他們的照片很好獲取。像微博、抖音、朋友圈，或者干脆去偷拍你幾張高清照片，都能通過AI建模實現(xiàn)換臉?！?/p>

付亮對新京報貝殼財經(jīng)記者表示，對于此類詐騙手法，主要要防范騙子通過微信或 QQ 假冒熟人（親戚、朋友、客戶）詐騙。一方面，有資金往來，應先電話確認；此外，把錢打到陌生賬戶，要反復確認；最后，一定切記，對面和你聊天的不一定是本人，可能是假冒的，甚至可能是機器人，不要輕易相信。

記者聯(lián)系郵箱：luoyidan@xjbnews.com