人工智慧生成的影片突破了臉部辨識系統！許多地方的微信/QQ/市場監管平台遭到黑人產業的大規模濫用

◆江蘇省宜正市最近破獲了一起重大新型網路犯罪案件。犯罪集團利用人工智慧產生動態臉部視頻,突破臉部辨識系統,然後實施各種犯罪。

◆犯罪集團將人工智慧生成的動態臉部影片儲存在電腦上,並在電腦上下載可以篡改和更換系統攝影機的軟體。當平台進行臉部辨識認證時,它會用預先儲存在電腦上的動態臉部影片取代螢幕前的即時影像,從而突破“臉部掃描”認證防線。

◆調查實驗表明,犯罪嫌疑人篡改平台運作機制,透過偽造臉部影片強制非法控制電腦資訊系統,符合非法控制電腦資訊系統犯罪的構成要件。此外,該案背後還有許多相關犯罪,包括洩露公民個人資訊、竊取網路帳戶、虛假商業註冊、電信網路詐欺等。

他們利用人工智慧生成視頻,突破臉部辨識系統,犯下各種罪行。不久前,江蘇省宜正市破獲了一起重大新型網路犯罪案件。涉案團夥規模龐大,業務重疊。有些人購買身分證照片來提供臉部訊息,有些人使用人工智慧技術批量產生動態臉部視頻,有些人使用動態視頻突破臉部身份驗證系統、竊取帳戶並篡改工業和商業註冊。。撕毀了數位時代身份驗證系統中的危險差距。

人工智慧生成的影片欺騙臉部辨識系統

2023年11月29日,田先生向宜正市公安局報告,其親屬利用人工智慧產生動態臉部視頻,欺騙臉部辨識系統,竊取QQ遊戲帳號。第二天,公安機關對此案展開調查。隨後,公安機關在上海、廣東、雲南等地相繼逮捕劉、陳、張等中間人,並針對山西核心技術團夥成員馬、範、燕進行集中逮捕。嫌疑人被捕後,如實承認了犯罪事實。

經調查發現,自2020年7月起,馬武武招募親屬範武武、嚴武武擔任技術人員。三人利用技術軟體批量合成動態臉部視頻,破解了QQ、微信、市場監管平台等多地的人臉辨識系統,並利用平台“人臉掃描”驗證的特點,進行了微訊號解鎖、QQ手機號碼更改、企業微信註冊等工作業務,例如營業執照變更。

劉等人扮演了商業中介的角色。他們在網路上發布廣告,聲稱可以提供突破性的臉部辨識系統驗證服務。接受訂單後,他們將業務轉讓給馬穆穆的團夥,每筆訂單賺取20元至200元的差價。該團夥還長期獲取照片身份資訊並拍攝臉部照片以產生動態臉部影片。

大量人工智慧生成的動態臉部影片被用來實施各種犯罪。2020年至2023年12月,他利用馬某團夥提供的人工智慧生成動態面部視頻,突破面部驗證系統,更改綁定到他人QQ帳戶的手機號碼,然後竊取他人QQ帳戶中的遊戲幣、設備等虛擬物品進行貨幣化。他嚐到了甜蜜的滋味,於2023年11月至12月聘請好友李參與犯罪。

除了竊取遊戲帳戶外,動態臉部影片還被用來篡改工業和商業註冊以及其他犯罪活動。Song Moumou等人原本是工商代理人。由於公司法定代表人失去聯繫和死亡,他們經常無法更改公司的工商數據。在意外接觸到這項非法服務“利用人工智慧產生動態臉部影片突破臉部辨識系統”後,宋武武等人發現可以利用它工作並從中獲利,於是他們開始產生以利潤為驅動力的異常想法。自2022年起,宋武武等人利用馬武武團伙的非法服務,非法向客戶提供線上工商業系統資料變更、修改等服務,並收取費用。

那麼犯罪集團如何利用人工智慧產生動態臉部影片來突破臉部辨識系統呢？他們將人工智慧產生的動態臉部影片儲存在電腦上,下載具有篡改和更換電腦上系統攝影機功能的軟體,當平台進行臉部辨識認證時,將螢幕前的即時影像替換為預先儲存在電腦上的合成臉部視頻,以規避臉部驗證並完成識別認證。

調查實驗解決司法識別問題

2025年3月至7月,這一系列案件相繼移交益正市檢察院審查起訴。案件處理團隊在司法識別新型網路犯罪方面面臨困難:利用人工智慧技術產生動態臉部視頻,突破臉部辨識系統。如何描述這種行為？

為了恢復馬穆穆等人利用人工智慧技術突破電腦資訊系統安全的技術邏輯,益正市檢察院指導公安機關使用相同的人工智慧軟體進行調查實驗,審查拍攝、合成和上傳動態臉部視訊材料的整個過程,並確定犯罪者利用科技犯罪的客觀操作路徑。結果顯示,馬英九等人篡改平台運作機制,透過偽造臉部影片強制非法控制電腦資訊系統,未能執行刪除、修改、新增電腦資訊系統功能等破壞性操作,符合非法控制電腦資訊系統犯罪的構成要件。

負責此案的檢察官認為,“利用人工智慧產生動態臉部影片突破臉部辨識系統”並非單一的犯罪行為,背後還有許多其他非法犯罪行為,如洩露公民個人資訊、竊取網路帳號、虛假商業註冊、電信網路詐欺等。隨後,宜正市檢察院向公安機關發出補充調查綱要,指導公安機關深入調查轉售公民個人資訊的人員以及更改工商業系統資料的經營者。公安機關共逮捕涉嫌非法取得電腦資訊系統資料、侵害公民個人資訊、詐欺的74人,涉及非法所得總額超過723萬元。

經查,馬、範、燕共非法獲利547。8萬元以上,其中馬非法獲利328。68萬元以上,範、燕各收受贓物109。56萬元以上；劉等人非法獲利3萬多元；他非法獲利近27萬元,他的團夥非法獲利6萬多元；宋非法獲利1。7萬多元。