據央視新聞訊息，近日，湖南省長沙市雨花區人民法院審理了一起“不法者利用AI技術生成的人臉偽造影片盜刷銀行卡”案件大學。一名大學生在非法網站購買了“AI人臉偽造影片”技術，在不到四個月的時間裡，盜刷銀行卡5萬餘元。
大學生利用“AI人臉偽造影片”盜刷5萬餘元
不久前，臨近畢業的大學生吳某沒有選擇正規渠道去就業，而是盯上了網路黑灰產業大學。他透過第三方非法網站購買了一項“能將靜態人臉照片轉化為可透過某銀行支付平臺人臉識別驗證的AI動態影片”的技術。自以為獲得了“法寶”的吳某隨後立即在各聊天平臺釋出廣告，吸引詐騙團伙“下單”。
長沙市雨花區人民法院刑事審判庭副庭長 蘭毅：被告人透過境外某聊天軟體尋找並加入黑灰產業聊天群后，在群內釋出接單資訊，之後會有上線將獲取到的被害人姓名、身份證號碼、手機號碼、照片、支付平臺驗證碼等個人資訊傳送給被告人，被告人再透過獲取的手機號檢視被害人是否在第三方平臺進行註冊，如有註冊，則把獲取的被害人照片上傳到第三方網站，透過該網站轉換成AI動態人臉影片大學。
在該犯罪鏈條中，詐騙團伙通常冒充短影片平臺客服或者遊戲主播，以關閉自動扣費、贈送遊戲裝備為誘餌，誘導受害人下載控制軟體，從而獲取其個人資訊大學。吳某在接收到這些資訊後，再透過第三方網站利用AI技術製作被害人的人臉動態影片。
展開全文
蘭毅：利用轉換的AI動態人臉影片及驗證碼資訊，重置被害人的支付密碼大學。之後，再將被害人的某第三方支付平臺付款碼傳送給“洗錢車隊”，由“洗錢車隊”透過掃碼的方式將被害人在第三方支付平臺所繫結的銀行賬戶資金予以轉移。轉移成功後，“洗錢車隊”將盜取的資金按照一定的比例透過虛擬貨幣的形式返還給被告人。
據法官介紹，吳某所在的犯罪團伙分工極其明確，為了防止上中下游任何一個環節的人員在獲取到有利資訊後退群獨享，他們還制定了一套保障機制大學。
蘭毅：被告人在進入黑灰產聊天群之前需先繳納一定數額的虛擬貨幣作為擔保，然後才能在群裡接單大學。
就這樣，在不到四個月的時間內，三名被害人的銀行賬戶先後被盜刷共計5萬餘元大學。經過審理，湖南省長沙市雨花區人民法院綜合考慮吳某具有自首情節，認罪悔罪表現及對被害人的經濟賠償等情況，最終判處吳某有期徒刑一年十個月，並處罰金3000元。目前，該案件判決已生效。
人臉照片經AI處理能透過支付平臺面部認證
透過AI技術，將照片處理生成一段動態的影片，是如何透過銀行支付系統人臉識別驗證的？眨眼、張嘴、轉頭等這些指令的隨機組合，難道就恰好都和影片中人臉的表情動作對得上嗎？來看記者調查大學。
記者來到一家網路技術研究機構，技術人員將一張普通人臉照片匯入某軟體系統後，僅需幾分鐘時間，便生成了一段人臉動態影片大學。在影片中，記者看到，人臉可以根據技術人員事先輸入的指令進行轉頭、眨眼等各種動作。
網路安全技術人員 李洋：比如夜間休息時，不法分子就可以遠端控制他的手機，拿到他的相簿許可權和其中的生活照片大學。拿到這些照片之後，不法分子就透過偽造影片工具，生成一段一段的影片。比如平臺認證時需要的眨眼、點頭等各種動作影片它都可以生成。
技術人員介紹，這還僅僅是最基礎的第一個步驟，如果想讓影片中的人臉根據隨機指令組合做出即時反應，則需要一種叫“虛擬相機”的配套軟體大學。為避免版權問題，技術人員將一張卡通人臉照片匯入系統中，記者看到，經過後臺技術處理，這張照片透過AI生成了動態影片，影片中的卡通人臉可以隨著技術人員控制上、下、左、右以及眨眼、張嘴等不同的按鈕操作，即時做出相應的表情動作。
李洋：只要開啟相機，它就預設不開啟系統自帶的相機，直接呼叫虛擬相機，然後把懸浮窗調出來，支付系統需要什麼動作時，你就去點對應的動作就可以了大學。
李洋：他們會提前錄製好眨眼、搖頭等動作大學。在系統認證時，他們根據系統提示，選擇對應動作的按鈕。比如系統認證時讓你搖頭，就點選相機懸浮框上的搖頭按鈕，對應的影片也會進行搖頭動作，是這樣的工作原理。
技術人員介紹，隨著目前系統技術的不斷升級改造，許多政府以及金融類的應用平臺除了要驗證人臉面部特徵以及五官等資訊之外，還會驗證微表情以及環境光線等，儘量確保是本人在真實的環境下進行的人臉識別驗證，而非AI技術合成大學。但同時，專家也提醒大家，在遇到一些不明來歷的應用軟體採集人臉資訊時，還是要提高警惕。
李洋：這些App（應用軟體）也會進行人臉認證的偽操作介面，誤導個人進行影片錄製，將點頭、眨眼等動作錄製下來，達到活體影片的影片原件大學。因此它比AI生成的影片逼真度要高得多。
記者調查發現，目前在某些網站上，“一鍵換臉”“AI克隆”已經形成一條從低價公開教程到網盤隱蔽交易的產業鏈條大學。但專家表示，大家也無需因此過於恐慌，目前政府以及金融等應用平臺通常採用的是“人臉識別+手機驗證+身份資訊”等多重驗證方式，只要確保自己手機不交給不明人員操作或不被非法遠端控制，這些措施是能夠保證基本的安全性的。
AI合成技術應用需法治護航
常有人說“技術本身無所謂好壞，關鍵看用這項技術的人是出於什麼目的”大學。在AI合成技術發展如此迅速的今天，我們在享受技術成果的同時，更需要相關配套法律來保駕護航。
相關法律專家表示，“AI人臉偽造影片”詐騙相比傳統電詐，最大的特點就是技術偽裝更強，鏈條更隱蔽，證據滅失更快大學。在實際操作中，很多詐騙影片或語音由境外伺服器生成，使用虛擬號碼、境外社交軟體、動態IP，很難快速鎖定幕後真實身份。
中國政法大學網路法學研究所所長 李懷勝：就要求相關企業，包括銀行，不斷採取風控應對措施，採取交叉識別等多元化認證手段，不能迷戀某一種特定的風控手段，這樣的話很容易被犯罪分子攻破大學。另外一方面也提示我們，在日常的網路活動中，要格外珍視個人資訊，包括人臉識別資訊在內的相關個人資訊。
據瞭解，目前我國已出臺《中華人民共和國網路安全法》《中華人民共和國個人資訊保護法》《人工智慧生成合成內容標識辦法》等，相關法律法規與監管制度體系正持續健全大學。
李懷勝：按照《中華人民共和國個人資訊保護法》規定，包括人臉識別資訊在內的其他個人資訊，資訊使用遵循最重要的個人知情同意原則大學。也就是說，在利用他人相關資訊，為他人提供服務的過程中，一定要讓被採集個人資訊的相關主體獲得知情同意。比如單位門禁系統、商場人臉識別系統，如果濫用個人生物識別資訊，可能會承擔相應的法律責任。
同時專家提醒大家，需不斷提高個人資訊保護的安全意識，提升防範能力大學。對於非核心業務如進小區、取快遞等，如果提供手機號也能完成驗證的情況下，儘量避免“刷臉”。如果在涉及類似資金交易等場景下，儘量開啟“人臉+密碼”或“人臉+簡訊”的多重驗證，增加安全屏障。
編輯 李憶林子
