AI換臉新型詐騙來襲

雙“法”齊下破解AI詐騙難題

這幾天,AI換臉詐騙的話題引發社會關注。

(資料圖)

包頭警方近日發布一起利用AI實施電信詐騙的典型案例。有騙子通過AI換臉和擬聲技術佯裝好友,對福州市某科技公司法人代表郭先生實施詐騙,在視頻聊天“核實”對方身份后,郭先生10分鐘內被騙子騙走430萬元。

那么,如何判斷AI詐騙,有哪些方法和手段可以防范AI詐騙?5月底,科技日報記者采訪了相關專家。

AI換臉詐騙讓人難以分辨

AI詐騙就是利用AI技術,模仿、偽造他人的聲音、面孔、視頻等信息,進行欺騙、敲詐、勒索等的犯罪活動。北京郵電大學信息與通信工程學院副教授路兆銘告訴科技日報記者,騙子會通過撥打騷擾電話等方式,錄音提取詐騙對象及其重要關系人的聲音特征,再利用AI技術進行語音合成,使詐騙對象放松警惕,進而用偽造的聲音實施詐騙。

“而人臉效果更易取得對方信任,騙子用AI技術換臉,可以偽裝成任何人。”路兆銘表示,騙子會利用AI技術,將他人的臉換成指定人的臉,冒充詐騙對象的親人、朋友,通過合成視頻或照片的方式來“以假亂真”,擾亂詐騙對象的視線,進而實施詐騙。

安天移動安全副總經理彭智俊在接受科技日報記者采訪時表示,由于AI詐騙具有高度逼真、難以追蹤、針對性強、手段多樣的特點,受害者往往難以分辨真假,從而降低警惕。同時,犯罪分子隱匿在網絡的陰暗角落,這也給警方偵破帶來困難。

問題治理關鍵在“法”

面對AI技術濫用風險,如何整治AI詐騙,防止AI作惡?

關鍵在一個“法”字。這個“法”既包括科學技術方法的應用,也包括剛性治理的法律法規。

在科學技術方面,打擊電信網絡詐騙的科技裝備發展迅速。例如,由廈門市美亞柏科信息股份有限公司研發的“AI-3300慧眼視頻圖像鑒真工作站”,不僅能鑒定利用傳統偽造手段篡改的影像,而且對利用深度偽造技術進行了換臉、美顏、生成人臉、同圖或異圖復制篡改的影像也能夠進行鑒定,可以為公安、司法行業提供技術支持。

而在法律法規方面,2022年12月,《互聯網信息服務深度合成管理規定》發布,對人臉生成、替換、操控,合成人聲、仿聲等都進行了明確約束。該項規定發布實施后,此前一款主打AI換臉的App在被監管部門約談后進行下架處理,處理原因為“如此換臉侵犯了公民的肖像權”。

需注意不自然的細節

“對于普通百姓而言,AI詐騙也不是完全‘防不勝防’,這需要大家有甄別的‘慧眼’。”彭智俊告訴科技日報記者,雖然AI生成的語音和表情已經相當逼真,但仍然可能存在一些不自然的細節。具體細節包括AI生成語音的節奏、音高變化和AI生成圖像的面部表情過渡等,這些細節均與原始視頻有較大的差別。

進行判斷與甄別的技巧有很多。彭智俊表示,在視頻通話的過程中,用戶可以讓對方展現全身特征,再觀察人臉是否出現消失或特殊變化,以檢測是否存在面部置換的可能性。用戶還可以讓對方用一張白紙在臉前緩慢晃動,觀察是否出現閃爍現象,以此判斷是否可能存在換臉現象。

“無論多厲害的騙局,歸根結底都是用欺詐的手段獲取對方信任,以謀取公私財物。對于個人來說,多方驗證、確認身份,才能避免和防范騙局的發生。”路兆銘表示,尤其是在涉及金錢、財產和隱私等重要事項時,更要小心謹慎,可要求對方提供更多證據、進行更多交流,并核實其身份和回答的準確性,以排除AI技術欺騙的可能。

公眾在平時要有警惕高風險行為的意識。對于緊急轉賬、提供大額保證金或其他不尋常要求,要保持警惕,并仔細核實真實性。路兆銘提醒,不要被高額回報或緊迫情況迷惑。在不能確定真實身份時,要格外留意、不要著急匯款,避免上當受騙,同時,建議將到賬時間設定為“2小時到賬”或“24小時到賬”,以預留處理時間。

關鍵詞：