報(bào)告作者：
中國(guó)工商銀行金融科技研究院安全攻防實(shí)驗(yàn)室
2023年02月
目錄
一、序言
二、2022數(shù)說黑產(chǎn)
三、2022網(wǎng)絡(luò)金融黑產(chǎn)攻擊手法演變趨勢(shì)
1、黑產(chǎn)云化升級(jí)，“云手機(jī)”成為黑產(chǎn)作案新武器
2、“反催收”黑產(chǎn)野蠻生長(zhǎng)，碰瓷式逃廢債成金融行業(yè)新挑戰(zhàn)
3、隱藏在身邊的洗錢，“慢充”或被利用成為黑產(chǎn)洗錢新途徑
4、生物識(shí)別受到黑產(chǎn)關(guān)注，新型認(rèn)證并非固若金湯
5、 AI覺醒，自然語(yǔ)言預(yù)訓(xùn)練大模型成黑產(chǎn)新絕招
四、2022黑產(chǎn)防護(hù)對(duì)抗實(shí)踐與思考
1、 框架研究，構(gòu)建黑產(chǎn)防護(hù)全景視圖
2、隊(duì)伍建設(shè)，打造對(duì)抗黑產(chǎn)的專職“業(yè)務(wù)藍(lán)軍”
3、標(biāo)準(zhǔn)先行，建設(shè)行業(yè)身份認(rèn)證體系
4、相得益彰，人工智能賦能傳統(tǒng)安全防護(hù)
5、 技術(shù)革命，大模型引發(fā)金融反欺詐新思考
五、結(jié)束語(yǔ)
多年來，金融機(jī)構(gòu)在反欺詐等黑產(chǎn)對(duì)抗工作上的投入不斷增加，面對(duì)黑產(chǎn)不斷的花樣翻新，金融機(jī)構(gòu)的防護(hù)難度也不斷攀升。中國(guó)工商銀行作為金融行業(yè)的先行者，持續(xù)關(guān)注黑產(chǎn)發(fā)展，其下屬金融科技研究院安全攻防實(shí)驗(yàn)室（以下簡(jiǎn)稱“實(shí)驗(yàn)室”）多年來持續(xù)面向社會(huì)發(fā)布黑產(chǎn)動(dòng)向及防護(hù)技術(shù)的研究報(bào)告，從黑產(chǎn)攻防技術(shù)研究、黑產(chǎn)團(tuán)伙溯源反制、智能柔性風(fēng)控等多維度開展了黑產(chǎn)的對(duì)抗防護(hù)工作。在2023年的開年之際，實(shí)驗(yàn)室繼續(xù)從金融安全從業(yè)者的角度，為大家?guī)?022年黑產(chǎn)的趨勢(shì)與變化，希望能夠?yàn)槿鐣?huì)帶來黑產(chǎn)防護(hù)的新思路。
為了數(shù)字化展示一年來的黑產(chǎn)趨勢(shì)變化，實(shí)驗(yàn)室結(jié)合黑產(chǎn)數(shù)據(jù)分析，從黑產(chǎn)的詐騙類型、傳播趨勢(shì)、攻擊類型等方面對(duì)2022年黑產(chǎn)形勢(shì)進(jìn)行總結(jié)分析。2022年全國(guó)公安機(jī)關(guān)持續(xù)加強(qiáng)針對(duì)黑產(chǎn)團(tuán)伙的打擊，結(jié)合“云劍”、“凈邊”等一系列專項(xiàng)行動(dòng)，對(duì)黑產(chǎn)進(jìn)行了有效遏制，截至11月底，全國(guó)共破獲電信網(wǎng)絡(luò)詐騙案件39.1萬(wàn)起，立案數(shù)同比下降17.3%，造成財(cái)產(chǎn)損失數(shù)額同比下降1.3%[1]。各類欺詐事件數(shù)量較2021年有較大幅度下降。2022年針對(duì)金融行業(yè)的黑產(chǎn)攻擊目標(biāo)主要包含兩大類，一是對(duì)個(gè)人用戶的資金欺詐，二是對(duì)金融企業(yè)的薅羊毛、活動(dòng)作弊。針對(duì)個(gè)人用戶的資金欺詐方面：根據(jù)相關(guān)數(shù)據(jù)統(tǒng)計(jì)，去年針對(duì)普通個(gè)人用戶的欺詐類型仍以虛假兼職、交友詐騙、身份冒充、金融理財(cái)為主，分別占所有類型的29.5%、25.6%、12.5%和10.7%，占所有舉報(bào)類型的70%以上，且此四類詐騙危害結(jié)果也較高，涉案金額占所有類型涉案總額的95%以上。相較2021年，虛假兼職及交友詐騙占比變化不大，但身份冒充類案件數(shù)量在2022年有所上升，由2021年的第四位（9.4%），上升到第三位（12.5%）。圖1：2022年個(gè)人用戶相關(guān)欺詐案件數(shù)量及金額占比情況[2] 針對(duì)金融企業(yè)的欺詐方面，黑產(chǎn)對(duì)銀行業(yè)務(wù)的關(guān)注度在2022年持續(xù)攀高，銀行業(yè)欺詐事件整體呈高發(fā)態(tài)勢(shì)，從針對(duì)銀行業(yè)攻擊消息數(shù)量的統(tǒng)計(jì)中可以看出，針對(duì)銀行業(yè)的攻擊多集中發(fā)生在下半年，與這期間銀行業(yè)務(wù)活動(dòng)較多、整體營(yíng)銷力度較大有關(guān)。圖2：2022年銀行業(yè)攻擊消息數(shù)量[3] 由于不同業(yè)務(wù)類型的攻擊成本不同，因此黑產(chǎn)針對(duì)不同類型營(yíng)銷活動(dòng)的關(guān)注度也呈現(xiàn)出不同分布，其中用戶注冊(cè)、搶優(yōu)惠券等業(yè)務(wù)由于容易受到云手機(jī)、自動(dòng)化腳本、接碼平臺(tái)的攻擊，攻擊損耗[4]比較低，整體遭受的攻擊最為嚴(yán)重，分別占比54.49%和32.57%，總占比近九成。答題、助力等活動(dòng)由于需要真人參與作弊，詐騙成本較高，因此總體攻擊占比較小。圖3:2022年銀行業(yè)受攻擊的活動(dòng)類型占比[5]從針對(duì)金融行業(yè)攻擊的黑產(chǎn)IP分布來看，黑產(chǎn)IP主要集中在部分重點(diǎn)地區(qū)，以江蘇、浙江、遼寧、福建、安徽五地為主，黑產(chǎn)IP數(shù)量占比超過70%。圖4：針對(duì)金融行業(yè)網(wǎng)絡(luò)攻擊的IP資源所在地[6]從黑產(chǎn)使用的工具來分析，2022年黑產(chǎn)使用工具主要分為三類：開發(fā)者工具、自研類工具和輔助通訊類工具。開發(fā)者工具，主要包括開源類應(yīng)用、模擬器、測(cè)試包等應(yīng)用；自研類工具多為從業(yè)者定向使用的工具，如洗錢-免簽、跑分平臺(tái)等特殊應(yīng)用；輔助類工具是指物料提供環(huán)節(jié)使用的應(yīng)用，如GOIP、遠(yuǎn)控類等應(yīng)用。從數(shù)據(jù)統(tǒng)計(jì)中可以看出，2022年度黑產(chǎn)各類工具傳播量整體呈增長(zhǎng)趨勢(shì)，黑產(chǎn)工具傳播量在3月、7至8月、11月出現(xiàn)3個(gè)明顯峰值，這與暑期、“雙11”等電商推出促銷活動(dòng)強(qiáng)相關(guān)，說明重點(diǎn)活動(dòng)期間，黑產(chǎn)活躍性也同步增強(qiáng)。圖5：2022年黑產(chǎn)APP傳播月度趨勢(shì)[7]
2022網(wǎng)絡(luò)金融黑產(chǎn)攻擊手法演變趨勢(shì)
隨著新一輪科技革命和產(chǎn)業(yè)變革的深入發(fā)展，數(shù)字化轉(zhuǎn)型已經(jīng)成為當(dāng)前銀行業(yè)提升服務(wù)效能的主流趨勢(shì)，然而伴隨著企業(yè)數(shù)字化轉(zhuǎn)型，企業(yè)業(yè)務(wù)的邊界愈發(fā)模糊，黑產(chǎn)的攻擊手段也愈發(fā)多元化。為了進(jìn)一步提升整個(gè)行業(yè)的黑產(chǎn)防護(hù)水平，實(shí)驗(yàn)室選取了年內(nèi)黑產(chǎn)研究對(duì)抗中最典型、最具代表性的黑產(chǎn)攻擊手法，為大家進(jìn)行介紹，希望全社會(huì)共同關(guān)注，實(shí)現(xiàn)對(duì)相關(guān)手法的預(yù)防：1、黑產(chǎn)云化升級(jí)，“云手機(jī)”成為黑產(chǎn)作案新武器隨著云計(jì)算、云服務(wù)等新技術(shù)在互聯(lián)網(wǎng)的應(yīng)用和發(fā)展，黑產(chǎn)也逐步將攻擊技術(shù)向云化發(fā)展。年內(nèi)實(shí)驗(yàn)室監(jiān)測(cè)到，使用云手機(jī)進(jìn)行作案已經(jīng)逐漸成為新的趨勢(shì)，相比于傳統(tǒng)的“手機(jī)農(nóng)場(chǎng)”，云手機(jī)高性能、易維護(hù)、可擴(kuò)展的特性使其在黑色產(chǎn)業(yè)鏈中呈現(xiàn)快速傳播的趨勢(shì)。
- “云手機(jī)” 歷經(jīng)四代技術(shù)發(fā)展
“云手機(jī)”是指構(gòu)建在云計(jì)算能力之上的云端仿真手機(jī)，除了無(wú)法插入SIM卡、撥打電話之外，基本上具有真實(shí)手機(jī)的所有功能。根據(jù)實(shí)現(xiàn)原理，“云手機(jī)”大致經(jīng)歷了四代的發(fā)展，包括真機(jī)云手機(jī)、模擬器云手機(jī)、容器云手機(jī)、ARM陣列云手機(jī)。相較于前幾代云真機(jī)，2022年最新一代基于ARM陣列的“云手機(jī)”在功能、性能方面的表現(xiàn)無(wú)限接近真機(jī)，可基于云技術(shù)提供監(jiān)控和遷移能力，穩(wěn)定性表現(xiàn)優(yōu)秀，除此之外也具備極強(qiáng)的拓展性。
黑產(chǎn)在云手機(jī)技術(shù)的基礎(chǔ)上，開發(fā)了“黑產(chǎn)專用云手機(jī)”，集成了HOOK攻擊框架、自動(dòng)化操作、虛擬定位、虛擬相機(jī)、一鍵改機(jī)等一系列黑產(chǎn)常用功能及組件，實(shí)現(xiàn)了BTaaS（黑產(chǎn)工具即服務(wù)），并逐漸替代真機(jī)成為了黑產(chǎn)首選設(shè)備資源，目前已應(yīng)用到多類黑產(chǎn)活動(dòng)中，主要包括群控、定位偽造、改機(jī)、協(xié)議破解、人臉識(shí)別繞過等場(chǎng)景。
群控場(chǎng)景：云手機(jī)場(chǎng)景下，黑產(chǎn)可實(shí)現(xiàn)低成本、高性能的設(shè)備模擬，利用群控功能同時(shí)操作大量設(shè)備，借助腳本工具完成批量注冊(cè)、自動(dòng)領(lǐng)券、商品秒殺、自動(dòng)下單等功能。定位偽造場(chǎng)景：商家在業(yè)務(wù)推廣活動(dòng)中，往往會(huì)部署基于地理位置的風(fēng)控策略，避免黑產(chǎn)進(jìn)行跨地域薅羊毛，黑產(chǎn)專用云手機(jī)通過集成虛擬定位功能，使得黑產(chǎn)可快速偽造地理位置，從而突破商家的風(fēng)控限制。改機(jī)場(chǎng)景：商家在業(yè)務(wù)推廣活動(dòng)中，往往會(huì)限制單臺(tái)設(shè)備的活動(dòng)參與次數(shù)，黑產(chǎn)可利用云手機(jī)的改機(jī)組件，快速修改IMEI等硬件參數(shù)，仿冒大量全新設(shè)備重復(fù)參與活動(dòng)領(lǐng)取補(bǔ)貼，薅取商家羊毛。協(xié)議破解場(chǎng)景：黑產(chǎn)利用黑產(chǎn)云手機(jī)中嵌入的HOOK框架、ROOT隱藏等工具，開展針對(duì)APP防護(hù)協(xié)議的攻擊及破解，繞過證書鋼釘、報(bào)文簽名等安全防護(hù)手段，實(shí)現(xiàn)針對(duì)業(yè)務(wù)接口的攻擊。人臉識(shí)別繞過場(chǎng)景：黑產(chǎn)通過誘騙用戶在其手機(jī)中安裝云相機(jī)APP，安裝后可將用戶手機(jī)的視頻流實(shí)時(shí)推送至黑產(chǎn)掌握的云手機(jī)中，在黑產(chǎn)使用云手機(jī)進(jìn)行人臉識(shí)別流程時(shí)，通過欺詐話術(shù)要求用戶配合進(jìn)行動(dòng)作活檢，即可實(shí)時(shí)繞過人臉識(shí)別。此類攻擊手法具有隱蔽性強(qiáng)、仿真度高的特點(diǎn)，迅速成為人臉識(shí)別攻擊中最難被防護(hù)的一種攻擊手法。黑產(chǎn)利用云手機(jī)進(jìn)行作案，大幅度降低了黑產(chǎn)的作案成本，也使得傳統(tǒng)基于單一設(shè)備特征進(jìn)行風(fēng)控的防護(hù)方式逐漸失效，增加了金融行業(yè)反欺詐風(fēng)控的難度，因此需要加強(qiáng)對(duì)云手機(jī)類設(shè)備識(shí)別的建模研究。2、“反催收”黑產(chǎn)野蠻生長(zhǎng)，碰瓷式逃廢債成金融行業(yè)新挑戰(zhàn)2022年名為“反催收”的黑產(chǎn)模式開始廣泛傳播，通過互聯(lián)網(wǎng)平臺(tái)向惡意欠款人提供服務(wù)，利用金融服務(wù)行業(yè)一貫對(duì)于服務(wù)質(zhì)量的高標(biāo)準(zhǔn)要求，以偽造證據(jù)、虛假惡意投訴等手法進(jìn)行勒索，向金融機(jī)構(gòu)施加壓力，達(dá)到減免貸款的目的。
- 短視頻平臺(tái)快速傳播，從“教學(xué)”到“服務(wù)”一條龍
“反催收”黑產(chǎn)一般通過互聯(lián)網(wǎng)平臺(tái)招攬客源，活躍于各個(gè)短視頻平臺(tái)、社交平臺(tái)、投訴平臺(tái)等，期間黑產(chǎn)會(huì)雇用大批專職或兼職的代理、中介人員，仿冒律師法務(wù)、財(cái)務(wù)顧問，甚至是“上岸”的過來人，來游說客戶進(jìn)行“逃廢債”行為。此類黑產(chǎn)往往擺出正義的姿態(tài)，視頻中充斥著對(duì)催收、貸款方的指責(zé)。
當(dāng)有客戶聯(lián)系反催收黑產(chǎn)后，反催收黑產(chǎn)會(huì)收取客戶高昂的手續(xù)費(fèi)作為傭金，隨后提供套路化的逃廢債教程，包括教唆并協(xié)助用戶偽造虛假材料，如疾病證明、死亡證明、多頭債務(wù)等一系列內(nèi)容，通過虛假證明要求銀行進(jìn)行分期免息或本金減免。圖8：短視頻平臺(tái)相關(guān)視頻內(nèi)容此外，針對(duì)銀行的催收電話，反催收黑產(chǎn)會(huì)教導(dǎo)客戶“專業(yè)應(yīng)對(duì)話術(shù)”，包括挑釁或誘導(dǎo)催收人員使用過激言語(yǔ)，然后再憑借這些言語(yǔ)錄音威脅舉報(bào)銀行惡意催收，或者向監(jiān)管部門投訴，迫使銀行接受用戶提出的不合理?xiàng)l件。
- 榨取價(jià)值，反催收對(duì)借款人進(jìn)行二次收割
除了通過高昂的手續(xù)費(fèi)對(duì)借款人進(jìn)行收割外，反催收黑產(chǎn)的獲利鏈條也在進(jìn)一步延伸。反催收黑產(chǎn)通過倒賣借款人的個(gè)人信息和數(shù)據(jù)，二次榨取借款人的剩余價(jià)值，例如將借款人的信息提供給高利貸、以貸養(yǎng)貸的中介等，做到一石多鳥，甚至將隱私信息轉(zhuǎn)賣給下游黑產(chǎn)，對(duì)客戶進(jìn)行定向詐騙，最大化利用客戶價(jià)值。
此類手法為銀行的貸后管理帶來了挑戰(zhàn)，由于存在舉證難、處置難、聯(lián)系難等方面的難題，增加了銀行通過司法途徑對(duì)此類攻擊進(jìn)行打擊的難度。此外，從反催收參與者的角度來說，其個(gè)人信息和數(shù)據(jù)有可能流入黑產(chǎn)鏈條并被用于后續(xù)欺詐，導(dǎo)致個(gè)人資金的損失。針對(duì)此類行為，銀保監(jiān)會(huì)高度重視，已明確表示要堅(jiān)決打擊惡意逃廢債行為，加強(qiáng)對(duì)違法違規(guī)網(wǎng)絡(luò)群組的治理。3、隱藏在身邊的洗錢，“慢充”或被利用成為黑產(chǎn)洗錢新途徑2021年“跑分平臺(tái)”二維碼洗錢成為黑產(chǎn)洗錢的主流趨勢(shì)，這類趨勢(shì)在國(guó)家打擊治理洗錢違法犯罪三年行動(dòng)計(jì)劃等專項(xiàng)治理行動(dòng)得到了有效遏制。在這種情況下，2022年一種更為隱蔽的“慢充”洗錢手法開始逐漸流行。
- 72小時(shí)到賬，話費(fèi)、電費(fèi)充值均成洗錢新途徑
“8折話費(fèi)慢充，72小時(shí)內(nèi)到賬”，這類價(jià)格明顯低于市場(chǎng)價(jià)且延遲到賬的慢充服務(wù)在各類電商平臺(tái)中都可見到，此類業(yè)務(wù)最早出現(xiàn)時(shí)是一種類似團(tuán)購(gòu)的手法，通過“以量換價(jià)”實(shí)現(xiàn)優(yōu)惠，近年來此類活動(dòng)方式被黑產(chǎn)盯上，成為黑產(chǎn)薅羊毛套現(xiàn)、洗錢的新手法。
所謂慢充洗錢是指利用話費(fèi)、電費(fèi)等充值服務(wù)幫助不法分子轉(zhuǎn)移非法所得，以賭博網(wǎng)站為例，這種新型黑產(chǎn)洗錢的途徑為：黑產(chǎn)以遠(yuǎn)低于市場(chǎng)價(jià)格的折扣來吸引客戶；客戶下單后，店家會(huì)將訂單發(fā)給慢充中臺(tái)，慢充中臺(tái)收集大量訂單后發(fā)送給上游通道商，當(dāng)賭徒在賭博網(wǎng)站購(gòu)買籌碼時(shí)，通道商將充值訂單反饋給賭博網(wǎng)站，由賭徒進(jìn)行話費(fèi)充值，從而洗白賭資等非法所得。慢充洗錢的手法不局限于話費(fèi)充值場(chǎng)景，游戲點(diǎn)券充值、禮品卡充值等場(chǎng)景也都存在被利用的情況，甚至電費(fèi)等被認(rèn)為安全系數(shù)較高的生活繳費(fèi)類業(yè)務(wù)也被黑產(chǎn)用于洗錢。除了形式多變，此類手法中資金流的隱蔽性也增加了識(shí)別和防護(hù)的難度,隱蔽性主要體現(xiàn)在三個(gè)方面：一是對(duì)電商平臺(tái)來說，消費(fèi)者資金來源清白，店鋪不存在明顯的違規(guī)行為，無(wú)法設(shè)定有效的攔截特征；二是對(duì)于支付平臺(tái)及運(yùn)營(yíng)商來說，賭客支付合理金額進(jìn)行話費(fèi)充值，與正常用戶無(wú)異；三是賭客與博彩平臺(tái)間無(wú)直接交易，通過非法結(jié)算平臺(tái)“對(duì)敲”完成賭資充值，交易鏈條難以溯源。4、生物識(shí)別受到黑產(chǎn)關(guān)注，新型認(rèn)證并非固若金湯數(shù)字化轉(zhuǎn)型浪潮下，生物識(shí)別技術(shù)憑借其簡(jiǎn)單易用、便捷高效的優(yōu)勢(shì)，正在逐步取代介質(zhì)驗(yàn)簽等操作繁瑣但安全等級(jí)更高的傳統(tǒng)認(rèn)證手段，廣泛應(yīng)用于互聯(lián)網(wǎng)金融交易及支付業(yè)務(wù)中。雖然理論上每個(gè)人的生物特征是唯一的，但在其作為身份認(rèn)證手段的應(yīng)用過程中，仍面臨著多種攻擊威脅。
隨著元宇宙概念的興起，計(jì)算機(jī)視覺、虛擬現(xiàn)實(shí)等人工智能生成算法已在多個(gè)領(lǐng)域廣泛應(yīng)用，包括AI換臉在內(nèi)的技術(shù)使得虛擬和現(xiàn)實(shí)之間的界限正在逐漸消融，此類算法一旦被惡意利用，將會(huì)造成嚴(yán)重的安全威脅。
不法分子將AI換臉技術(shù)進(jìn)行了封裝，形成了“深度偽造”（DeepFake）攻擊工具。2022年5月，黑產(chǎn)通過此工具偽造馬斯克及多位幣圈名人的訪談視頻，謊稱某個(gè)加密貨幣交易平臺(tái)每天可以帶來30%的基礎(chǔ)收益，誘騙投資者購(gòu)買，詐騙總額高達(dá)3000萬(wàn)美元（約人民幣2億元），造成了巨大的資金損失。深度偽造技術(shù)的原理是通過生成對(duì)抗網(wǎng)絡(luò)或深度神經(jīng)網(wǎng)絡(luò)等人工智能算法，實(shí)現(xiàn)人臉的嫁接與替換，達(dá)到以假亂真的效果。這類技術(shù)看似高深莫測(cè)，離我們很遠(yuǎn)，但隨著深度偽造工具在黑產(chǎn)渠道售賣，沒有專業(yè)背景和海量數(shù)據(jù)集的黑產(chǎn)從業(yè)者也可以在幾天內(nèi)制作以假亂真的偽造視頻，大大降低了換臉視頻制作的技術(shù)門檻，金融行業(yè)也面臨深度偽造欺詐攻擊的風(fēng)險(xiǎn)。目前國(guó)家監(jiān)管部門已對(duì)此類風(fēng)險(xiǎn)進(jìn)行關(guān)注，2022年1月國(guó)家網(wǎng)信辦發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》，對(duì)深度合成技術(shù)的應(yīng)用和服務(wù)提供商進(jìn)行了規(guī)定和要求，深度合成技術(shù)應(yīng)用的合規(guī)合法性需要業(yè)界共同重視。
除了圖像視頻維度的深度偽造，語(yǔ)音聲紋維度的合成偽造技術(shù)也是業(yè)界關(guān)注的熱點(diǎn)，在學(xué)術(shù)領(lǐng)域已有比較成熟的研究成果。2022年，清華大學(xué)人機(jī)語(yǔ)音交互實(shí)驗(yàn)室提出了一種基于“對(duì)抗互信息學(xué)習(xí)特征解耦”的零樣本語(yǔ)音轉(zhuǎn)換模型，模型將內(nèi)容、音色、韻律和音高等音頻特征解耦，運(yùn)用梯度反轉(zhuǎn)層的對(duì)抗性分類器，基于目標(biāo)人的一小段語(yǔ)音信息，即可合成目標(biāo)人的任意語(yǔ)音。
目前利用語(yǔ)音合成仿冒親友進(jìn)行詐騙的手法已在黑產(chǎn)圈有所討論，但相關(guān)技術(shù)是否已成為一種有效的攻擊手段還需要進(jìn)一步研判分析。隨著語(yǔ)音合成技術(shù)的不斷發(fā)展成熟，學(xué)術(shù)界和產(chǎn)業(yè)界需要積極探索合成語(yǔ)音相關(guān)檢測(cè)方法，做到未雨綢繆，防患于未然。5、AI覺醒，自然語(yǔ)言預(yù)訓(xùn)練大模型成黑產(chǎn)新絕招2022年底，微軟人工智能實(shí)驗(yàn)室OpenAI發(fā)布了新一代預(yù)訓(xùn)練語(yǔ)言模型ChatGPT，一時(shí)間引爆國(guó)內(nèi)外社交媒體，對(duì)人工智能技術(shù)發(fā)展產(chǎn)生了革命性、顛覆性的影響。ChatGPT是一種受限制的自回歸語(yǔ)言模型，屬于AI大模型技術(shù)領(lǐng)域的一個(gè)分支，其核心原理是通過預(yù)訓(xùn)練學(xué)習(xí)生成的億級(jí)參數(shù)的超大規(guī)模神經(jīng)網(wǎng)絡(luò)模型，實(shí)現(xiàn)從海量數(shù)據(jù)中獲取知識(shí)，泛化應(yīng)用于多種人工智能學(xué)習(xí)任務(wù)中。與傳統(tǒng)印象中略顯“機(jī)械”的對(duì)話機(jī)器人不同，ChatGPT不僅可用于聊天、搜索和翻譯，還能寫文章、調(diào)代碼，其技術(shù)應(yīng)用和場(chǎng)景規(guī)劃在各行各業(yè)引發(fā)了廣泛討論，在安全圈也引起了廣泛關(guān)注，近期我們關(guān)注到，境外已出現(xiàn)部分關(guān)于黑產(chǎn)使用ChatGPT進(jìn)行欺詐的討論甚至惡意利用，將對(duì)現(xiàn)有黑產(chǎn)防護(hù)策略提出嚴(yán)峻挑戰(zhàn)，需要提前關(guān)注、提前預(yù)防。
- 殺豬盤也變智能化，“賣茶姑娘”竟是機(jī)器“芯”
在Telegram等國(guó)外社交平臺(tái)上，黑產(chǎn)團(tuán)伙開始售賣利用逆向ChatGPT接口實(shí)現(xiàn)的微信機(jī)器人，并宣稱其可以用于電信詐騙活動(dòng)?；谠捫g(shù)本的傳統(tǒng)聊天機(jī)器人只能按照關(guān)鍵詞與受害者聊天，若關(guān)鍵詞不在話術(shù)本內(nèi)，往往答非所問,極易被識(shí)破，而利用ChatGPT構(gòu)建的聊天機(jī)器人可結(jié)合上下文語(yǔ)境和情感自動(dòng)完成和受騙用戶的對(duì)話，實(shí)驗(yàn)室以大眾熟知的“賣茶小妹”殺豬盤為例進(jìn)行了測(cè)試，ChatGPT能夠生成非常有效的欺詐話術(shù)，與真實(shí)的欺詐劇本難分伯仲，一般人難以從交流中識(shí)別出其機(jī)器人的身份，如果在欺詐鏈條中被使用，將大大壓縮電信詐騙的人力成本，進(jìn)一步擴(kuò)大危害面。
- 自動(dòng)編碼惡意程序，腳本小子也可化身黑客“大神”
以往制作免殺木馬進(jìn)行欺詐是高端黑客的專利，專業(yè)技術(shù)帶來的高門檻讓很多底層黑產(chǎn)從業(yè)者望洋興嘆，防病毒軟件的火眼金睛導(dǎo)致基于木馬的欺詐在這幾年中也鮮有出現(xiàn)。ChatGPT的興起使得黑產(chǎn)“小白”也可制作免殺代碼及惡意載荷進(jìn)行黑產(chǎn)攻擊，繞過殺毒軟件的檢測(cè)，在用戶毫無(wú)感知的情況下執(zhí)行反向shell等惡意腳本，控制用戶終端進(jìn)而實(shí)現(xiàn)資金竊取。根據(jù)實(shí)驗(yàn)室觀測(cè)，部分黑客論壇、暗網(wǎng)中已出現(xiàn)利用ChatGPT生成的即拿即用的攻擊代碼示例，可搜索目標(biāo)終端中12種常見文件類型，并將有價(jià)值的文件自動(dòng)壓縮上傳至黑產(chǎn)指定服務(wù)器。盡管目前代碼實(shí)現(xiàn)的功能較為基礎(chǔ)，但隨著相關(guān)技術(shù)在復(fù)雜黑產(chǎn)網(wǎng)絡(luò)中傳播，不排除黑客通過多輪交互訓(xùn)練，提升ChatGPT生成惡意代碼攻擊效果的可能。
2022黑產(chǎn)防護(hù)對(duì)抗實(shí)踐與思考
隨著企業(yè)與黑產(chǎn)多年來的對(duì)抗發(fā)展與迭代，目前黑產(chǎn)的攻與企業(yè)的防已經(jīng)進(jìn)入深層膠著狀態(tài)，難以依賴某一種新技術(shù)實(shí)現(xiàn)對(duì)黑產(chǎn)的降維打擊，業(yè)務(wù)安全領(lǐng)域沒有“銀彈”已經(jīng)逐漸成為企業(yè)共識(shí)。企業(yè)需要體系化地開展黑產(chǎn)防護(hù)框架建設(shè)，從機(jī)制上實(shí)現(xiàn)黑產(chǎn)檢測(cè)與防護(hù)，確保業(yè)務(wù)、研發(fā)、運(yùn)營(yíng)人員的全方位深度參與，實(shí)現(xiàn)全生命周期的黑產(chǎn)對(duì)抗聯(lián)動(dòng)。為此，工商銀行下屬金融科技研究院安全攻防實(shí)驗(yàn)室結(jié)合自身實(shí)踐經(jīng)驗(yàn)積極思考，從新維度、新視角給出對(duì)黑產(chǎn)的體系化防護(hù)方案與建議。1、框架研究，構(gòu)建黑產(chǎn)防護(hù)全景視圖隨著業(yè)務(wù)安全風(fēng)險(xiǎn)與黑客攻防的白熱化，實(shí)驗(yàn)室積極探索反黑產(chǎn)全景作戰(zhàn)思路，解決當(dāng)前業(yè)務(wù)風(fēng)險(xiǎn)看不到、摸不準(zhǔn)的難題。傳統(tǒng)管理模式下，一方面業(yè)務(wù)創(chuàng)新人員不具備黑產(chǎn)對(duì)抗的背景，難以完整有效地識(shí)別新業(yè)務(wù)的相關(guān)風(fēng)險(xiǎn)，在一些存量業(yè)務(wù)的“風(fēng)險(xiǎn)回頭看”中也難以進(jìn)行有效梳理；另一方面業(yè)務(wù)安全風(fēng)險(xiǎn)防控面臨金融業(yè)務(wù)種類繁多、分支復(fù)雜、場(chǎng)景拓展迭代快的挑戰(zhàn)，安全人員難以有效對(duì)全量業(yè)務(wù)進(jìn)行風(fēng)險(xiǎn)挖掘。因此需要通過構(gòu)建金融黑產(chǎn)攻擊及防護(hù)框架，與金融業(yè)務(wù)場(chǎng)景關(guān)聯(lián)，形成業(yè)務(wù)黑產(chǎn)防護(hù)全景視圖，實(shí)現(xiàn)企業(yè)層對(duì)黑產(chǎn)風(fēng)險(xiǎn)的全面掌控。實(shí)驗(yàn)室借鑒ATT&CK、D3FEND的框架思路，結(jié)合知識(shí)圖譜、圖神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)，在業(yè)務(wù)安全架構(gòu)基礎(chǔ)上，探索建設(shè)業(yè)務(wù)風(fēng)險(xiǎn)的識(shí)別與防御的智能化全景圖。一是梳理黑產(chǎn)針對(duì)金融業(yè)務(wù)的攻擊手法、技術(shù)及鏈條，形成金融黑產(chǎn)攻擊風(fēng)險(xiǎn)庫(kù)；二是梳理業(yè)務(wù)場(chǎng)景及業(yè)務(wù)流程，從賬號(hào)管理、身份認(rèn)證、活動(dòng)營(yíng)銷、業(yè)務(wù)交易等多個(gè)維度梳理形成金融業(yè)務(wù)安全防護(hù)與規(guī)避措施庫(kù)；三是結(jié)合金融業(yè)務(wù)架構(gòu)資產(chǎn)，運(yùn)用知識(shí)圖譜、圖神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)，實(shí)現(xiàn)業(yè)務(wù)風(fēng)險(xiǎn)全視圖的智能繪制展現(xiàn)，快速定位各個(gè)業(yè)務(wù)場(chǎng)景中的風(fēng)險(xiǎn)薄弱環(huán)節(jié)，最終打造金融業(yè)務(wù)黑產(chǎn)對(duì)抗全景圖，為業(yè)務(wù)安全人員提供貫穿業(yè)務(wù)全生命周期的風(fēng)險(xiǎn)分析和策略設(shè)計(jì)指導(dǎo)。圖12：業(yè)務(wù)安全防護(hù)全景視圖2、隊(duì)伍建設(shè)，打造對(duì)抗黑產(chǎn)的專職“業(yè)務(wù)藍(lán)軍”隨著數(shù)字金融業(yè)務(wù)創(chuàng)新的快速發(fā)展，黑產(chǎn)針對(duì)業(yè)務(wù)產(chǎn)品的攻擊日益嚴(yán)峻，線上業(yè)務(wù)的黑產(chǎn)防控重要性也愈加凸顯，互聯(lián)網(wǎng)頭部企業(yè)的解決之道是成立專職的“業(yè)務(wù)藍(lán)軍”隊(duì)伍，作為業(yè)務(wù)產(chǎn)品常態(tài)化運(yùn)營(yíng)的重要組成部分。與傳統(tǒng)藍(lán)軍側(cè)重于網(wǎng)絡(luò)及服務(wù)器入侵、數(shù)據(jù)竊取的攻防對(duì)抗不同，業(yè)務(wù)藍(lán)軍側(cè)重于業(yè)務(wù)產(chǎn)品及活動(dòng)的攻防對(duì)抗，重點(diǎn)關(guān)注黑產(chǎn)通過攻擊業(yè)務(wù)流程造成的資金竊取、不當(dāng)獲利等相關(guān)風(fēng)險(xiǎn)。業(yè)務(wù)藍(lán)軍與傳統(tǒng)藍(lán)軍的關(guān)注點(diǎn)與技術(shù)棧都存在較大差異，業(yè)務(wù)黑產(chǎn)對(duì)抗已進(jìn)入做精、做專的階段，傳統(tǒng)藍(lán)軍以兼職模式開展業(yè)務(wù)黑產(chǎn)對(duì)抗，已很難適應(yīng)數(shù)字化金融業(yè)務(wù)快速發(fā)展的趨勢(shì)；同時(shí)，相較于傳統(tǒng)的業(yè)務(wù)反欺詐風(fēng)控團(tuán)隊(duì)，業(yè)務(wù)藍(lán)軍更多關(guān)注技術(shù)層面的黑產(chǎn)欺詐對(duì)抗，包括黑產(chǎn)攻擊技術(shù)趨勢(shì)的跟蹤與復(fù)現(xiàn)、黑產(chǎn)工具的逆向剖析，并從技術(shù)視角對(duì)黑客的各類攻擊手法進(jìn)行對(duì)抗反制。互聯(lián)網(wǎng)頭部企業(yè)的大型事業(yè)群“業(yè)務(wù)藍(lán)軍”規(guī)模達(dá)到300-400人，全面負(fù)責(zé)與業(yè)務(wù)黑產(chǎn)對(duì)抗的相關(guān)工作，涵蓋反欺詐策略設(shè)計(jì)、黑產(chǎn)情報(bào)監(jiān)控、黑產(chǎn)技術(shù)對(duì)抗、風(fēng)控模型優(yōu)化、黑產(chǎn)溯源反制等工作；包括工行在內(nèi)的金融企業(yè)也在探索業(yè)務(wù)藍(lán)軍的建設(shè)，一般由開發(fā)部門、業(yè)務(wù)部門或安全部門的人員構(gòu)成虛擬化團(tuán)隊(duì)開展黑產(chǎn)對(duì)抗工作。在當(dāng)前數(shù)字金融業(yè)務(wù)創(chuàng)新及運(yùn)營(yíng)快速發(fā)展的大背景下，金融企業(yè)需要盡快探索組建專業(yè)化的“業(yè)務(wù)藍(lán)軍”專職隊(duì)伍，以有效應(yīng)對(duì)黑色產(chǎn)業(yè)鏈攻擊，確保數(shù)字化轉(zhuǎn)型穩(wěn)步推進(jìn)。3、標(biāo)準(zhǔn)先行，建設(shè)行業(yè)身份認(rèn)證體系隨著金融行業(yè)線上化場(chǎng)景不斷增多，不同機(jī)構(gòu)及業(yè)務(wù)場(chǎng)景中使用的身份認(rèn)證方式也愈發(fā)紛繁復(fù)雜，在面臨黑產(chǎn)攻擊時(shí)各自為戰(zhàn)，認(rèn)證強(qiáng)度與效果參差不齊。建立一套體系化、標(biāo)準(zhǔn)化的數(shù)字金融交易驗(yàn)證體系，做好金融行業(yè)各交易環(huán)節(jié)的安全標(biāo)準(zhǔn)控制，具有十分重要的意義。近兩年實(shí)驗(yàn)室已經(jīng)探索了一套較為成熟和行之有效的手法，參考NIST數(shù)字身份指南等標(biāo)準(zhǔn)，設(shè)計(jì)了專用的交易安全基線，解決了業(yè)務(wù)易用性和安全難以平衡的問題。在此基礎(chǔ)上，實(shí)驗(yàn)室積極參加國(guó)家數(shù)字身份和金融交易相關(guān)的行業(yè)技術(shù)規(guī)范建設(shè)，相關(guān)規(guī)范明確了交易驗(yàn)證技術(shù)、交易驗(yàn)證動(dòng)態(tài)策略及交易風(fēng)險(xiǎn)智能評(píng)估等方面的要求，針對(duì)不同業(yè)務(wù)場(chǎng)景及風(fēng)險(xiǎn)等級(jí)，匹配不同防護(hù)強(qiáng)度的驗(yàn)證技術(shù)，并對(duì)交易全流程進(jìn)行風(fēng)險(xiǎn)評(píng)判。在確保金融服務(wù)便捷性、高效性的同時(shí)，把握交易的安全性，保障業(yè)務(wù)與安全的平衡。圖13：交易身份認(rèn)證標(biāo)準(zhǔn)4、相得益彰，人工智能賦能傳統(tǒng)安全防護(hù)基于網(wǎng)絡(luò)、設(shè)備等維度的傳統(tǒng)黑產(chǎn)防護(hù)策略具有穩(wěn)定可靠的特性，在金融行業(yè)廣泛運(yùn)用。隨著黑產(chǎn)對(duì)抗周期不斷縮短，攻擊手段迭代速度不斷加快，傳統(tǒng)安全防護(hù)策略的局限性愈發(fā)明顯。多年來，實(shí)驗(yàn)室積極運(yùn)用人工智能技術(shù)，在黑產(chǎn)情報(bào)識(shí)別、團(tuán)伙關(guān)聯(lián)溯源、欺詐賬戶識(shí)別等課題中開展了大量的探索和應(yīng)用。今年，針對(duì)人臉識(shí)別的定制ROM攻擊成為一種新興的黑產(chǎn)攻擊手法，目前業(yè)界普遍使用基于設(shè)備指紋黑名單的方式進(jìn)行防護(hù)，但由于其存在機(jī)型易篡改、特征較隱蔽等特點(diǎn)，防護(hù)往往處于被動(dòng)局面。人工智能算法模型雖可提升針對(duì)不同機(jī)型的識(shí)別泛化能力，但模型識(shí)別效果和精度依賴于數(shù)據(jù)采集的全面性和特征提取的專業(yè)性。為了解決上述問題，實(shí)驗(yàn)室結(jié)合傳統(tǒng)設(shè)備指紋采集要素全、唯一標(biāo)識(shí)性高的優(yōu)勢(shì)，基于設(shè)備指紋采集的設(shè)備信息，使用人工智能算法開展針對(duì)定制ROM攻擊的識(shí)別模型研究。結(jié)合捕獲到的黑客常用作案機(jī)型信息，提取了超過60個(gè)維度的設(shè)備特征，利用XGBoost人工智能算法實(shí)現(xiàn)了有效識(shí)別，模型精確率達(dá)到97.88%，實(shí)現(xiàn)對(duì)黑產(chǎn)攻擊的精準(zhǔn)打擊。5、技術(shù)革命，大模型引發(fā)金融反欺詐新思考2022年8月，在美國(guó)拉斯維加斯舉辦的信息安全行業(yè)頂級(jí)會(huì)議blackhat USA 2022中，以GPT-3為代表的預(yù)訓(xùn)練生成大模型已在安全防護(hù)領(lǐng)域發(fā)揮了巨大作用，可幫助安全運(yùn)維人員快速進(jìn)行可疑指令分析和垃圾郵件檢測(cè)，大大提升了攻擊識(shí)別響應(yīng)效率。近期火爆全網(wǎng)的ChatGPT在惡意代碼識(shí)別、代碼漏洞檢測(cè)等多個(gè)傳統(tǒng)安全防護(hù)領(lǐng)域也展現(xiàn)除了驚人的效果，隨著全球頂級(jí)人工智能企業(yè)的不斷投入，大模型將成為未來人工智能的發(fā)展方向，并為安全防護(hù)提供全新的革命。在大模型賦能傳統(tǒng)安全防護(hù)體系的基礎(chǔ)上，實(shí)驗(yàn)室積極思考，探索大模型在金融反欺詐領(lǐng)域的應(yīng)用。針對(duì)反欺詐風(fēng)控領(lǐng)域面臨的小樣本挑戰(zhàn)，大模型具有在預(yù)訓(xùn)練過程中全面獲取海量知識(shí)的優(yōu)點(diǎn)，為解決標(biāo)簽缺失場(chǎng)景下的欺詐檢測(cè)、未知黑產(chǎn)攻擊識(shí)別等問題，提供了新的思路和方法。
目前國(guó)內(nèi)已對(duì)大模型技術(shù)進(jìn)行積極布局和探索，為進(jìn)一步提升人工智能在黑產(chǎn)防護(hù)領(lǐng)域的成效，建議國(guó)家層面考慮在大模型建設(shè)過程中關(guān)注其在反欺詐領(lǐng)域的應(yīng)用及落地；金融行業(yè)可作為有生力量參與到大模型體系的建設(shè)中，共同促進(jìn)技術(shù)發(fā)展和資源節(jié)約，最終實(shí)現(xiàn)大模型在金融反欺詐領(lǐng)域的有效應(yīng)用。
在數(shù)字化轉(zhuǎn)型的大背景中，安全與發(fā)展是金融行業(yè)的“一體之兩翼、驅(qū)動(dòng)之雙輪”，在網(wǎng)絡(luò)黑產(chǎn)日益體系化、隱蔽化、智能化的發(fā)展趨勢(shì)下，企業(yè)如何實(shí)現(xiàn)業(yè)務(wù)安全的閉環(huán)顯得愈發(fā)重要，不斷新增的黑產(chǎn)威脅已經(jīng)成為金融行業(yè)不容忽視的挑戰(zhàn)。工商銀行充分發(fā)揮多年來與黑產(chǎn)作戰(zhàn)的一線經(jīng)驗(yàn)，持續(xù)積極布局黑產(chǎn)防護(hù)生態(tài)建設(shè)，目前已經(jīng)總結(jié)出一套覆蓋業(yè)務(wù)全流程、各階段的風(fēng)險(xiǎn)黑產(chǎn)對(duì)抗方法論，未來工商銀行將持續(xù)踐行大行擔(dān)當(dāng)，向社會(huì)發(fā)布更多與黑產(chǎn)對(duì)抗相關(guān)的專題報(bào)告與成果，與金融同業(yè)攜手筑牢數(shù)字化轉(zhuǎn)型的安全基石，共同加固抵御網(wǎng)絡(luò)黑產(chǎn)的安全長(zhǎng)城，做好客戶身邊“可信賴的銀行”。
注釋：
[1]數(shù)據(jù)來源：中國(guó)新聞網(wǎng)
[2]數(shù)據(jù)來源：360安全
[3]數(shù)據(jù)來源：永安在線
[4]攻擊損耗指攻擊成本與黑產(chǎn)收益的比值
[5]數(shù)據(jù)來源：永安在線
[6]數(shù)據(jù)來源：石溪科技
[7]數(shù)據(jù)來源：360安全
[8]來自論文《Speech Representation Disentanglement with Adversarial Mutual Information Learning for One-shot Voice Conversion》
文章來源：中國(guó)工商銀行
