經(jīng)濟(jì)觀察報(bào) 記者 老盈盈

在AI（人工智能）技術(shù)快速發(fā)展的背景下，各式各樣的“深度偽造”（Deepfake）隨時(shí)可能在日常生活中出現(xiàn)，讓人防不勝防。

近期，螞蟻數(shù)字科技（下稱“螞蟻數(shù)科”）的產(chǎn)品技術(shù)人士在對算法進(jìn)行優(yōu)化時(shí)發(fā)現(xiàn)了一些不法分子新的欺詐手段。不法分子首先布下“釣魚”陷阱，以銀行的身份向被攻擊對象發(fā)送短信或郵件鏈接，引導(dǎo)他們到其網(wǎng)站進(jìn)行交易。等被攻擊對象不慎點(diǎn)擊進(jìn)入釣魚網(wǎng)站，提交了自己的姓名、身份證號、電話號碼、短信驗(yàn)證碼和支付密碼后，這些不法分子就像拿到了“萬能鑰匙”，立刻用這些信息登錄被攻擊對象的手機(jī)銀行，同時(shí)利用被攻擊對象的照片生成高度逼真的AI深度偽造圖像或視頻，再通過注入式攻擊（通過注入惡意代碼）來劫持被攻擊對象的手機(jī)攝像頭，隨后用預(yù)錄的圖像或視頻，篡改或替代物理攝像頭的自拍，繞過活體檢測這道防線進(jìn)行驗(yàn)證，以此實(shí)施欺詐等非法活動(dòng)。如此一來，在身份驗(yàn)證通過后，不法分子就可以轉(zhuǎn)移被攻擊對象的資金，甚至還會(huì)用被攻擊對象的信息申請貸款，而被攻擊對象卻可能渾然不知。

但“魔高一尺，道高一丈”，在11月3日至4日的香港金融科技周上，“AI對抗AI”的展位里藏著一場看不見硝煙的攻防戰(zhàn)。在螞蟻數(shù)科展出的宣傳片中，多組機(jī)械臂在實(shí)驗(yàn)室中24小時(shí)連軸轉(zhuǎn)、模擬身份欺詐攻擊，識別圖像真?zhèn)?。一組配備手機(jī)攝像頭的機(jī)械臂不停伸縮、對焦，反復(fù)識別著眼前的圖片；另一組機(jī)械臂則精準(zhǔn)地舉起圖片，穩(wěn)穩(wěn)遞到攝像頭前。計(jì)算機(jī)實(shí)時(shí)記下每一次識別的結(jié)果，再把這些數(shù)據(jù)喂給人工智能算法，讓它在一次次實(shí)戰(zhàn)中快速成長，以更好地識別出不同AI欺詐的破綻。

這不是科幻電影里的機(jī)器人覺醒，而是一場與非法人工智能的長期攻防拉鋸戰(zhàn)。當(dāng)不法分子的攻擊升級至新的層級，金融機(jī)構(gòu)的反擊必須同步攀升至更高維度，二者在攻防博弈中形成持續(xù)循環(huán)。

AI深度偽造形式 老盈盈/攝

AI如何反擊AI

在螞蟻數(shù)科的展臺(tái)前，一個(gè)名為“深度偽造生成”的互動(dòng)模塊吸引了不少參觀者。只需拍下一張自拍，系統(tǒng)瞬間就能生成十幾張“孿生照片”，其中只有一至兩張是真實(shí)人像，其余均由AI生成。這些照片只有少數(shù)因?yàn)榘l(fā)型或光線變化等較為明顯的破綻，能通過肉眼識別真?zhèn)危蟛糠侄家蚋叨缺普娑y以分辨。

經(jīng)濟(jì)觀察報(bào)記者從采訪中了解到，全球有數(shù)百萬不法分子正在投身AI欺詐等非法活動(dòng)，這些人具備快速學(xué)習(xí)的能力，能及時(shí)吃透新技術(shù)。更為重要的是，此類非法活動(dòng)能帶來超高“回報(bào)”，只要投入一到兩名資深技術(shù)人員發(fā)起攻擊，成功盜刷銀行賬戶一次，就有可能卷走上百萬元甚至更多。

螞蟻數(shù)科的一位產(chǎn)品技術(shù)人士對經(jīng)濟(jì)觀察報(bào)記者表示，上述注入式攻擊是目前比較新的一種攻擊手段，以往的欺詐則多是呈現(xiàn)式攻擊，例如用照片、視頻、普通面具或三維頭部面具等偽造物，直接對著攝像頭呈現(xiàn)，以繞過活體檢測。以前，這種攻擊方式通常是用圖像或視頻處理軟件進(jìn)行相應(yīng)修改操作，而如今則基本借助類似美顏但更高級的生成工具通過AI生成，主要表現(xiàn)形式為用一張臉換成另一張臉、將靜態(tài)圖片轉(zhuǎn)換為視頻、改變面部特征、拼接兩張臉等。

面對這種升級版攻擊，金融科技公司已布下了“防御網(wǎng)”。上述產(chǎn)品技術(shù)人士表示，他們會(huì)深入研究不法分子的各類欺詐手段，模擬其操作邏輯，利用專業(yè)設(shè)備偽造人臉、指紋等樣本，進(jìn)而開展針對性攻防演練。他們認(rèn)為，唯有精準(zhǔn)洞悉不法分子的作案套路，才能構(gòu)建更有效的防御體系。

金融壹賬通一位產(chǎn)品技術(shù)人士對經(jīng)濟(jì)觀察報(bào)記者表示，他們的算法會(huì)先分析圖像是否由AI工具生成或者被篡改，重點(diǎn)分析其是否存在算法痕跡。AI工具處理圖像時(shí)會(huì)產(chǎn)生技術(shù)印記，這種痕跡類似用Photoshop（圖像處理軟件）、美圖秀秀修圖后留下的代碼殘留。

他們發(fā)現(xiàn)，哪怕AI生成的素材看起來和真人、真實(shí)場景高度一致，但只要檢測到AI工具的使用痕跡，就可以被判定為虛假并攔截。同時(shí)，算法還會(huì)校驗(yàn)畫面背景的一致性，若檢測到視頻背景重復(fù)或圖像背景與真實(shí)場景邏輯不符，也會(huì)判定為可疑。

但上述兩位產(chǎn)品技術(shù)人士也發(fā)現(xiàn)，面對注入式攻擊，純算法已經(jīng)無法完全防范，需要從算法、終端、身份網(wǎng)絡(luò)等多維度進(jìn)行防范。比如，除了從圖像層面對臉部進(jìn)行識別，判斷是否屬于AI生成或者篡改，還需要從系統(tǒng)層面在事前檢測用戶的手機(jī)有沒有被注入式攻擊。

此外，AI欺詐的“戰(zhàn)場”還從圖像延伸到了聲音。金融壹賬通產(chǎn)品技術(shù)人士稱，正常情況下，人們不會(huì)選擇在馬路等嘈雜或公開環(huán)境中進(jìn)行信息認(rèn)證，而會(huì)選擇安靜的場所；同時(shí)，因?yàn)閼敉猸h(huán)境風(fēng)險(xiǎn)較高，部分銀行甚至不認(rèn)可在戶外拍攝的自拍照。

上述人士亦稱，一些不法分子常集中在同一辦公場所內(nèi)輪流通話，通話中會(huì)夾雜多人說話、設(shè)備運(yùn)作等雜音，這種環(huán)境下產(chǎn)生的聲音特征是可以被識別的，算法會(huì)把這類異常背景音標(biāo)記為高風(fēng)險(xiǎn)通話。此外，算法還可以模擬測謊邏輯，通過語調(diào)波動(dòng)、語速變化判斷說話人是否在說謊，如果用戶有一定的歷史語音數(shù)據(jù)，下次通話時(shí)可以實(shí)時(shí)對比，以驗(yàn)證身份的一致性。

 落地場景應(yīng)用

據(jù)上述技術(shù)人士介紹，AI反詐技術(shù)的落地場景覆蓋所有需電子身份認(rèn)證的領(lǐng)域，包括銀行、保險(xiǎn)、證券、政務(wù)服務(wù)、電商等。該技術(shù)可以理解為一個(gè)SaaS（軟件即服務(wù)）產(chǎn)品，可靈活集成到各類應(yīng)用程序中，比如嵌入到手機(jī)銀行系統(tǒng)后，就能為其提供全流程的反詐監(jiān)控服務(wù)。當(dāng)然，銀行作為資金集中度較高的行業(yè)和欺詐重災(zāi)區(qū)，也是技術(shù)落地較多的場景。

近期，香港特區(qū)政府從監(jiān)管的層面，面向銀行機(jī)構(gòu)，為其提供可進(jìn)行模擬AI欺詐攻防測試的計(jì)劃，助力其對抗深度偽造詐騙。

10月中旬，香港金融管理局（下稱“香港金管局”）公布了第二期生成式人工智能沙盒參與者名單，新一期沙盒計(jì)劃標(biāo)志著業(yè)界從探索AI的可能性，邁向推動(dòng)安全可靠的AI應(yīng)用。

香港金管局表示，在超過60個(gè)建議方案中，來自20家銀行和14家技術(shù)合作伙伴的27個(gè)案例獲邀進(jìn)入第二期生成式人工智能沙盒。第二期沙盒計(jì)劃聚焦加強(qiáng)AI治理，多個(gè)案例采用“以AI對抗AI”策略，例如運(yùn)用AI對AI生成內(nèi)容進(jìn)行自動(dòng)化質(zhì)量檢測，針對與日俱增的深度偽造詐騙風(fēng)險(xiǎn)，為開發(fā)創(chuàng)新防御機(jī)制提供試驗(yàn)場。部分參與者將運(yùn)用AI進(jìn)行模擬攻防測試，鞏固系統(tǒng)以抵御更精密的數(shù)碼詐騙手法。

螞蟻數(shù)科和金融壹賬通均在此次參與者名單中。上述產(chǎn)品技術(shù)人員稱，沙盒并非實(shí)體實(shí)驗(yàn)室，而是搭建在云端的“虛擬測試環(huán)境”。由監(jiān)管機(jī)構(gòu)主導(dǎo)，邀請銀行等機(jī)構(gòu)接入測試環(huán)境中，進(jìn)行案例演示與效果驗(yàn)證。監(jiān)管機(jī)構(gòu)鼓勵(lì)銀行應(yīng)用新技術(shù)，通過沙盒環(huán)境論證技術(shù)真實(shí)性與實(shí)用性，既給行業(yè)提供了可信案例，也展示了技術(shù)合規(guī)性，增強(qiáng)市場對新技術(shù)的信心，入選機(jī)構(gòu)還可借此證明技術(shù)經(jīng)監(jiān)管認(rèn)可。

中銀香港也在第二期沙盒名單中。中銀香港一位個(gè)人金融業(yè)務(wù)人士對經(jīng)濟(jì)觀察報(bào)記者表示，他們在個(gè)人金融領(lǐng)域搭建了一套AI反詐體系，該體系由內(nèi)部技術(shù)部門參與研發(fā)，核心是將AI反詐模型與傳統(tǒng)數(shù)據(jù)模型深度融合，通過對用戶個(gè)人交易進(jìn)行實(shí)時(shí)監(jiān)控與動(dòng)態(tài)風(fēng)險(xiǎn)評估，精準(zhǔn)判斷每筆交易是否存在欺詐隱患。

該名個(gè)人金融業(yè)務(wù)人士同時(shí)表示，中銀香港線上開戶有20萬港元轉(zhuǎn)賬額度限制，且暫無法使用投資賬戶，日常轉(zhuǎn)賬則不受影響，若想解除所有限制，儲(chǔ)戶需到線下分行完成身份信息驗(yàn)證。他們了解到，部分詐騙案件中存在不法分子盜取個(gè)人信息，偽冒客戶本人致電銀行要求解除賬戶限制的情況。

該名人士亦稱，中銀香港的AI模型訓(xùn)練依托內(nèi)部歷史數(shù)據(jù)，此前曾計(jì)劃與外部公司合作，但出于信息安全考慮，相關(guān)合作未能推進(jìn)。目前，香港金管局正牽頭搭建跨銀行間的詐騙數(shù)據(jù)交流平臺(tái)，該平臺(tái)會(huì)匯總并同步各銀行的相關(guān)詐騙數(shù)據(jù)，銀行可通過平臺(tái)查詢獲取這些信息。

在銀行場景之外，AI反欺詐技術(shù)也已拓展至政府和民生場景，如香港居民常用的“智方便”App（手機(jī)應(yīng)用程序）。經(jīng)濟(jì)觀察報(bào)記者從采訪中了解到，“智方便”是香港特區(qū)政府推出的電子身份認(rèn)證平臺(tái)，提供身份驗(yàn)證、自動(dòng)填表、個(gè)性化提示及數(shù)碼簽署等核心功能，支持市民通過生物認(rèn)證登錄政府及公私營機(jī)構(gòu)在線服務(wù)，服務(wù)范圍涵蓋稅務(wù)、醫(yī)療、教育、交通等民生領(lǐng)域。在使用該平臺(tái)的服務(wù)前，用戶需要進(jìn)行面容或指紋等生物識別及身份證掃描認(rèn)證，這個(gè)環(huán)節(jié)則需要AI防御系統(tǒng)，以確保是真人操作。

對此，一位匯豐香港對公業(yè)務(wù)人員對經(jīng)濟(jì)觀察報(bào)記者表示，他們即將面向中小型企業(yè)推出一款新的企業(yè)服務(wù)，此項(xiàng)服務(wù)主要為香港中小型企業(yè)提供量身定制的專項(xiàng)信貸方案，以及創(chuàng)投債務(wù)融資。這項(xiàng)服務(wù)接入了上述“智方便”App，通過其生物識別功能來驗(yàn)證開戶企業(yè)主信息的真實(shí)性。 

日常訓(xùn)練AI攻防

上述多位銀行和金融科技機(jī)構(gòu)的人士對記者表示，對于AI模擬應(yīng)用，他們更注重日常針對性地訓(xùn)練與知識學(xué)習(xí)，使其在后續(xù)遭遇詐騙、洗錢等場景時(shí)，能夠快速作出響應(yīng)。

上述中銀香港的業(yè)務(wù)人士表示，中銀香港的個(gè)人金融業(yè)務(wù)，每日能產(chǎn)生數(shù)百萬條個(gè)人金融交易數(shù)據(jù)，為AI模型提供豐富的訓(xùn)練樣本。他們通常會(huì)接收各類案件報(bào)告，提取其中不法分子的相關(guān)信息，包括其賬戶及用于轉(zhuǎn)賬驗(yàn)證的關(guān)聯(lián)賬戶，并全部列入黑名單，若這些賬戶再次啟用，會(huì)直接進(jìn)行管控；同時(shí)，他們也會(huì)受理香港金管局移交的舉報(bào)線索，針對同一類型的詐騙行為，會(huì)進(jìn)行歸類并納入數(shù)據(jù)庫，供AI通過大數(shù)據(jù)學(xué)習(xí)以往各類詐騙模式與特征；未來，希望AI能依托這些學(xué)習(xí)成果，對每一筆轉(zhuǎn)賬同步開展風(fēng)險(xiǎn)評估，精準(zhǔn)識別疑似詐騙的交易行為，進(jìn)而實(shí)現(xiàn)交易凍結(jié)或向客戶發(fā)送風(fēng)險(xiǎn)提醒的功能。

入選香港金管局第二期沙盒計(jì)劃的金融科技公司Dyna.AI的產(chǎn)品人士亦對經(jīng)濟(jì)觀察報(bào)記者表示，在日常反詐訓(xùn)練工作中，他們會(huì)以打標(biāo)數(shù)據(jù)為基礎(chǔ)開展模型訓(xùn)練。所謂打標(biāo)數(shù)據(jù)，是指銀行內(nèi)部專家按合規(guī)要求，人工分析篩選出的可疑交易并確認(rèn)后上報(bào)監(jiān)管的數(shù)據(jù)。因?yàn)橄嚓P(guān)數(shù)據(jù)均需遵循嚴(yán)格的合規(guī)要求，不能流出銀行系統(tǒng)，他們的團(tuán)隊(duì)會(huì)派技術(shù)人員駐場，在銀行系統(tǒng)內(nèi)搭建模型。若需采集用戶人臉等樣本數(shù)據(jù)，則需先經(jīng)用戶授權(quán)銀行，再由銀行授權(quán)團(tuán)隊(duì)在其內(nèi)部開展相關(guān)工作。

上述Dyna.AI產(chǎn)品人士同時(shí)稱，傳統(tǒng)預(yù)設(shè)的規(guī)則易出現(xiàn)大量漏報(bào)、誤報(bào)的問題，若系統(tǒng)只會(huì)機(jī)械執(zhí)行這些明確的規(guī)則，遇到新的欺詐手段，若未提前添加對應(yīng)規(guī)則，就會(huì)漏報(bào)、誤報(bào)。在這種情況下，他們需要技術(shù)人員逐一核對數(shù)據(jù)，確認(rèn)為真實(shí)可疑的交易再上報(bào)監(jiān)管。

該名人士亦稱，他們的訓(xùn)練一方面會(huì)借助歷史打標(biāo)數(shù)據(jù)優(yōu)化現(xiàn)有規(guī)則，彌補(bǔ)系統(tǒng)漏洞，另一方面也會(huì)讓模型通過學(xué)習(xí)這些數(shù)據(jù)，剔除以往常見的誤報(bào)情況，最終輸出精準(zhǔn)的上報(bào)數(shù)據(jù)。原本的系統(tǒng)未必能精準(zhǔn)地識別現(xiàn)有規(guī)則的相關(guān)內(nèi)容，但經(jīng)過針對性的訓(xùn)練后，它會(huì)更聚焦于防欺詐相關(guān)場景，進(jìn)而識別出目前尚未被抓取、未歸入系統(tǒng)的不法分子關(guān)聯(lián)信息。

（作者 老盈盈）