通過AI換臉和擬聲技術,10分鐘騙430萬元;AI虛擬人在聊天中篩選出受害者,人工接力實施詐騙……近期,多起宣稱利用AI技術實施詐騙的案件引發關注。

“新華視點”記者近日與公安部門核實確認,“AI詐騙全國爆發”的消息不實,目前此類詐騙發案占比很低。但公安機關已注意到此犯罪新手法,將加大力度會同有關部門開展技術反制和宣傳防范。

(資料圖片僅供參考)

專家表示,隨著AI技術加速迭代,由于使用邊界不清晰,涉詐風險正在積聚,需要高度警惕。

“換臉”式詐騙引發焦慮:你會被親友的臉騙到嗎?

近日,內蒙古包頭警方通報一起利用AI實施詐騙的案件,福州市某公司法人代表郭先生10分鐘內被騙430萬元。據通報,騙子通過AI換臉和擬聲技術,佯裝熟人實施詐騙。

該案披露后,不少報道稱需警惕“AI詐騙潮”到來,并曝光多起類似案件。如江蘇常州的小劉被騙子冒充其同學發語音、打視頻電話,小劉看到“真人”后信以為真,“借”了6000元給騙子。

那么,“AI詐騙潮”是否真的到來了?

記者調查了解到,AI在技術上確實能做到換臉、擬音,但被用來進行“廣撒網”式詐騙需要具備很多條件。

一位被列入公安部專家庫的民警告訴記者,這類詐騙如果得手必須做到:收集到被換臉對象的個人身份信息、大量人臉圖片、語音素材,通過AI生成以假亂真的音視頻;竊取被換臉對象的微信號;充分掌握詐騙對象個人身份信息,熟悉其與被換臉對象的社會關系,綜合作案成本很高。

他認為:“相關報道對一些案件的典型細節描述不夠準確。AI涉詐案件仍屬零星發案狀態。”他說,成熟的類型化詐騙犯罪往往具有在全國多地集中爆發的特點,但當前沒有成規模的AI詐騙類案件發生。

公安機關研判,近期網上“AI換臉換聲詐騙在全國爆發”傳言不實,全國此類案件發生不到10起,但該動向值得高度關注。網上一鍵換臉功能的App、小程序有技術濫用風險,需要加強技術防范反制等工作。

AI進入快速迭代期,涉詐犯罪風險正在積聚

“當前AI技術發展來到螺旋式上升的拐點,未來幾年技術迭代將會按月計算。”香港科技大學(廣州)協理副校長、人工智能學域主任熊輝說。

工信部信息顯示,伴隨AI技術快速發展,合成技術門檻持續降低,逐漸向低算力、小樣本學習方向演進,利用手機終端即可完成,對算力和數據的要求下降明顯。同時,隨著AI大模型的技術加持,正逐步由面部合成向全身、3D合成發展,效果更加逼真。

國家開發投資集團特級專家、廈門美亞柏科AI研發中心總經理趙建強表示,AI技術正加速向網絡詐騙、虛假信息、色情等領域滲透。如在一些網絡平臺上假冒明星、公眾人物生成視頻圖像,吸引網民。此外,AI技術也可能被用來規模化地實施違法犯罪,如批量、自動維護網絡賬號,發送虛假信息,模擬人工在線聊天等。

值得關注的是,當前AI技術不再是實驗室的半成品,引發熱議的“換臉”“擬音”技術已有較成熟的開源軟件,使用門檻低。

記者注意到,網絡上不乏AI換臉教程。在國內某知名App上輸入“換臉”,彈出的高頻檢索記錄顯示有“換臉軟件”“換臉App免費”“換臉視頻怎么做”“換臉算法”等。一條名為“史上最強AI換臉軟件正式上線了!技術門檻大大降低”的鏈接,介紹了一款換臉軟件,通過視頻演示教程,手把手教授如何使用。

“老話說‘眼見為實’,但今后眼睛看到的也不一定是真實的。”北京市天元律師事務所合伙人楊虎城表示,未來涉及AI合成技術的詐騙、敲詐勒索等違法犯罪和肖像、名譽等民事侵權問題可能逐步顯現。

“從現有案例看,這些技術已被不法分子利用。如假冒明星換臉直播、一鍵脫衣、造謠、制作色情視頻等。雖然AI詐騙案件未成氣候,但這一趨勢值得關注,必須提早防范。”一位反詐民警說。

工信部相關負責人表示,隨著AI技術的不斷發展,通過少量圖片、音頻信息合成特定視頻,利用人工智能模型批量設計詐騙腳本等成為可能,客觀上降低了電信網絡詐騙的實施難度,AI類新型犯罪爆發可能性進一步提升。

盡快完善相關法規制度,為AI技術發展立規劃線

中國移動信息安全中心品質管理處副處長周晶告訴記者,近年來,國際國內各界在積極探索深度合成技術的有效治理路徑,研判AI技術給社會帶來的風險和潛在威脅,正設法將AI技術發展納入一定規則中,做到安全可控。

業內人士建議,要加強AI反制技術研究,“以AI制AI”。一些科技公司正加強對圖像、聲音偽造技術的反制研究,在公安、金融的視頻認證場景已有應用。有一線民警建議,要加強AI安全技術應用研發,將AI技術應用于犯罪識別、預警、對抗中,實現以“白”AI對抗“黑”AI。

其次,加強源頭治理和行業引導,及時更新、完善相關法律、標準、規則,為AI技術發展保駕護航。

“數據是AI犯罪的源頭,保護好公民的個人隱私數據安全,就能在最大程度上降低AI違法犯罪的能力。”熊輝說。

中國互聯網協會監管支撐部主任郝智超建議,AI技術發展還要有相關法律法規來劃紅線、踩剎車。需進一步加強對個人隱私數據泄露問題的關注,明確信息監管紅線,對AI技術的研發、傳播、使用做到有規可循,并根據技術發展實際情況,及時完善對技術服務商行為的規范引導。

此外,還要有針對性地加強反詐宣傳。熊輝表示,未來AI可根據大數據創造出無比接近真實的“真實”。“要通過不斷的教育改變大眾觀念,讓人知道眼見不一定為實,有圖不一定有真相,提升對網絡信息的辨識力。”他說。

公安部有關負責人表示,當前,詐騙集團利用區塊鏈、虛擬貨幣、遠程操控、共享屏幕等新技術新業態,不斷更新升級犯罪工具,與公安機關在通訊網絡和轉賬洗錢等方面的攻防對抗不斷加劇升級。公安機關會同相關部門與詐騙分子斗智斗勇,不斷研究調整打擊防范措施,確保始終保持主動權。

工信部表示,下一步,將強化監管執法,積極會同網信、公安等部門,督促企業健全完善深度合成信息管理及技術保障措施;鼓勵技術攻關,凝聚產學研用各方力量,提升深度合成風險技術防范能力;加強行業自律,建立健全深度合成技術相關行業標準、行業準則和自律管理制度,督促指導深度合成服務提供者和技術支持者制定完善業務規范、依法開展業務和接受社會監督。(新華社廣州6月8日電 記者毛鑫、王成、熊豐、高亢)

關鍵詞：