安全資訊

文 | 國家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心 司成祥；軍事科學(xué)院系統(tǒng)工程研究院 任保全；北京長亭未來科技有限公司 朱文雷 龔杰

信息技術(shù)的飛速發(fā)展使軟件系統(tǒng)的復(fù)雜性與規(guī)模呈指數(shù)級(jí)增長，而傳統(tǒng)的漏洞挖掘方法在效率、覆蓋率和適應(yīng)性上的局限性日益凸顯。近年來，人工智能（AI）技術(shù)的飛速發(fā)展，為漏洞挖掘領(lǐng)域帶來了革命性突破，顯著提升了漏洞檢測的智能化水平。本文從技術(shù)原理、應(yīng)用實(shí)踐及挑戰(zhàn)三個(gè)維度，結(jié)合實(shí)際案例，探討AI在漏洞挖掘中的價(jià)值、前景與未來趨勢，為漏洞挖掘技術(shù)的研究與實(shí)踐提供參考。

一、人工智能在漏洞挖掘中的優(yōu)勢和主要方法

漏洞挖掘通常是指通過一定的方法和工具，在軟件的源代碼、二進(jìn)制或運(yùn)行環(huán)境中尋找可能被惡意利用的缺陷或安全弱點(diǎn)。AI是一種讓機(jī)器模仿人類的智能來執(zhí)行任務(wù)的技術(shù)總稱。近年來，隨著以大語言模型技術(shù)為代表的生成式人工智能技術(shù)的飛速發(fā)展，AI技術(shù)在圖像識(shí)別、自然語言處理等領(lǐng)域取得了突破性成果。下面主要介紹兩者的契合點(diǎn)和關(guān)鍵技術(shù)。

（一）傳統(tǒng)漏洞挖掘的不足與人工智能的賦能優(yōu)勢

傳統(tǒng)漏洞挖掘技術(shù)主要依賴模糊測試（Fuzz Testing）、符號(hào)執(zhí)行（Symbolic Execution）和靜態(tài)代碼分析（Static Analysis）等。這些技術(shù)依賴專家經(jīng)驗(yàn)和預(yù)定義規(guī)則，面對日益龐大的代碼規(guī)模和復(fù)雜的漏洞場景，存在覆蓋率不足、誤報(bào)率高以及對人工依賴性強(qiáng)等問題。

AI的主要分支之一是機(jī)器學(xué)習(xí)。機(jī)器學(xué)習(xí)通過大量數(shù)據(jù)訓(xùn)練模型，從歷史樣本中學(xué)習(xí)規(guī)律，并對新樣本進(jìn)行預(yù)測。將人工智能應(yīng)用于漏洞挖掘，主要是利用機(jī)器學(xué)習(xí)算法自動(dòng)學(xué)習(xí)“安全代碼”和“存在漏洞的代碼”之間的差異，將漏洞挖掘問題轉(zhuǎn)化為程序分類或聚類問題。簡單來說，AI模型可以從大量已有的漏洞和安全代碼樣本中提取特征模式，從而自動(dòng)識(shí)別未知代碼中的潛在漏洞。

在漏洞挖掘中應(yīng)用AI技術(shù)具有多重優(yōu)勢。首先，機(jī)器學(xué)習(xí)模型能夠總結(jié)出人類難以手工編寫的復(fù)雜規(guī)則，發(fā)現(xiàn)隱藏漏洞模式，從而提高檢出率；其次，AI技術(shù)可自動(dòng)化、快速地處理海量代碼，減少人工干預(yù)，提高整體效率；最后，深度學(xué)習(xí)等技術(shù)能夠自動(dòng)提取代碼特征，解析代碼邏輯與上下文關(guān)系，降低對安全專家經(jīng)驗(yàn)的依賴。當(dāng)然，AI技術(shù)也并非萬能，如何獲取高質(zhì)量的訓(xùn)練數(shù)據(jù)、使模型真正理解程序語義以及確保模型結(jié)果的可信度，仍是需要進(jìn)一步解決的問題。

（二）人工智能在漏洞挖掘中的關(guān)鍵技術(shù)

當(dāng)前，AI在漏洞挖掘領(lǐng)域已展現(xiàn)出多種技術(shù)應(yīng)用途徑，包括靜態(tài)分析與動(dòng)態(tài)分析相結(jié)合的智能代碼審計(jì)、基于機(jī)器學(xué)習(xí)的漏洞檢測模型，以及自然語言處理技術(shù)在代碼語義分析中的應(yīng)用等。

1. 靜態(tài)分析與人工智能的結(jié)合

靜態(tài)分析是在不運(yùn)行程序的情況下，通過掃描源代碼或二進(jìn)制文件來發(fā)現(xiàn)潛在漏洞的方法，常見手段包括源代碼掃描、控制流與數(shù)據(jù)流分析、污點(diǎn)分析、符號(hào)執(zhí)行等。傳統(tǒng)方法雖然能夠較為全面地覆蓋代碼路徑，但通常存在誤報(bào)率高且對復(fù)雜邏輯敏感等問題。引入AI技術(shù)后，靜態(tài)分析的效率和準(zhǔn)確性得到了明顯提升。

例如，在機(jī)器學(xué)習(xí)輔助的污點(diǎn)分析方面，傳統(tǒng)污點(diǎn)分析往往會(huì)發(fā)出許多不是真正漏洞的警告。通過構(gòu)建機(jī)器學(xué)習(xí)模型對污點(diǎn)分析的結(jié)果進(jìn)行二次篩選，模型可從大量真實(shí)漏洞與假陽性案例中學(xué)習(xí)差異，進(jìn)而識(shí)別更可能存在安全隱患的代碼模式，從而顯著降低誤報(bào)率，提高分析人員的工作效率。

此外，機(jī)器學(xué)習(xí)模型在代碼屬性特征的提取和分類方面也表現(xiàn)出優(yōu)勢。靜態(tài)分析過程中需要將代碼的多種屬性提取并向量化，隨后利用決策樹、支持向量機(jī)、神經(jīng)網(wǎng)絡(luò)等模型進(jìn)行分類或回歸預(yù)測。例如，可以通過提取每個(gè)函數(shù)的控制流復(fù)雜度、調(diào)用關(guān)系等指標(biāo)，訓(xùn)練分類模型以判斷函數(shù)是否存在緩沖區(qū)溢出等漏洞；或者利用邏輯回歸模型，根據(jù)代碼度量預(yù)測某模塊中可能存在的漏洞數(shù)量。這類基于靜態(tài)特征的模型能夠快速掃描整個(gè)代碼庫，幫助安全人員定位可疑區(qū)域以便進(jìn)一步審計(jì)。

機(jī)器學(xué)習(xí)還可以優(yōu)化符號(hào)執(zhí)行。符號(hào)執(zhí)行通過用符號(hào)變量替代實(shí)際值來探索程序路徑，能發(fā)現(xiàn)復(fù)雜條件下的漏洞，但在面對大型程序時(shí)常常面臨路徑爆炸等問題。結(jié)合機(jī)器學(xué)習(xí)后，可在符號(hào)執(zhí)行前預(yù)測哪些函數(shù)或路徑更可能含有漏洞，從而優(yōu)先對這些高風(fēng)險(xiǎn)區(qū)域進(jìn)行符號(hào)執(zhí)行。例如，可以訓(xùn)練模型，根據(jù)函數(shù)的代碼特征預(yù)測其是否存在漏洞，當(dāng)模型給出高風(fēng)險(xiǎn)評(píng)分時(shí)，再進(jìn)行深入的符號(hào)執(zhí)行。這種智能引導(dǎo)方式有助于減少無效路徑的探索，從而提高符號(hào)執(zhí)行的整體效率。

需要注意的是，靜態(tài)分析中AI應(yīng)用的效果高度依賴于良好的特征設(shè)計(jì)。必須設(shè)計(jì)與安全漏洞緊密相關(guān)的特征，才能發(fā)揮模型的最大效能。雖然深度學(xué)習(xí)的引入在一定程度上能夠自動(dòng)學(xué)習(xí)特征，但在特征不足或樣本有限的情況下，仍需融合專家知識(shí)來設(shè)計(jì)特定的特征。

2. 動(dòng)態(tài)分析與人工智能的結(jié)合

動(dòng)態(tài)分析是通過實(shí)際運(yùn)行程序或模擬執(zhí)行來發(fā)現(xiàn)漏洞的方法，包括模糊測試、動(dòng)態(tài)污點(diǎn)跟蹤和運(yùn)行時(shí)監(jiān)測等。動(dòng)態(tài)分析擅長發(fā)現(xiàn)程序運(yùn)行時(shí)才會(huì)顯現(xiàn)的問題，例如內(nèi)存越界、空指針引用等。然而，傳統(tǒng)測試通常較為盲目或基于簡單變異策略，需要長時(shí)間才能觸達(dá)深層次的漏洞。引入AI技術(shù)后，動(dòng)態(tài)測試的效率得到了有效提升。

在智能模糊測試（Smart Fuzzing）方面，經(jīng)典模糊測試工具通常通過隨機(jī)或基于簡單規(guī)則變異輸入數(shù)據(jù)來測試程序，效率有限。引入機(jī)器學(xué)習(xí)后，模糊測試工具可以根據(jù)以往探索到的程序行為動(dòng)態(tài)調(diào)整輸入生成策略。同時(shí)學(xué)習(xí)已知漏洞的觸發(fā)條件，從而有針對性地產(chǎn)生更易觸發(fā)漏洞的輸入，使得模糊測試不再完全“模糊”，而是基于“經(jīng)驗(yàn)”探測程序的薄弱點(diǎn)，大幅提高了模糊測試的漏洞發(fā)現(xiàn)能力。

在動(dòng)態(tài)執(zhí)行監(jiān)測與異常檢測方面，通過訓(xùn)練模型學(xué)習(xí)程序在正常運(yùn)行時(shí)的行為，可以實(shí)現(xiàn)對異常行為的檢測。一旦實(shí)際執(zhí)行偏離正常范圍，即可判定可能存在漏洞被觸發(fā)。這類異常檢測模型不僅可用于區(qū)分模糊測試產(chǎn)生的崩潰是否具有安全意義（即區(qū)分普通崩潰和真正可利用的漏洞），還可以用于在生產(chǎn)環(huán)境中實(shí)時(shí)監(jiān)控并檢測利用漏洞的攻擊行為。

除了調(diào)整模糊測試的輸入之外，強(qiáng)化學(xué)習(xí)代理還可應(yīng)用于更廣泛的漏洞挖掘流程控制。例如，通過訓(xùn)練一個(gè)強(qiáng)化學(xué)習(xí)（Reinforcement Learning，RL）智能體，使其針對應(yīng)用執(zhí)行一系列操作（類似于滲透測試的步驟），并以成功觸發(fā)異?；蚵┒醋鳛楠?jiǎng)勵(lì)。這類模擬攻擊路徑自主探索漏洞觸發(fā)條件的方法雖然尚處于起步階段，但已展示出讓AI主動(dòng)探索漏洞的潛力。

綜上所述，動(dòng)態(tài)分析與靜態(tài)分析各有所長，當(dāng)前流行的做法是將兩者結(jié)合，形成“靜態(tài)+動(dòng)態(tài)+AI”三位一體的漏洞挖掘框架。靜態(tài)分析提供全局的代碼視圖，動(dòng)態(tài)分析則提供真實(shí)執(zhí)行反饋，而AI技術(shù)貫穿其中，提供智能決策支持。通過先利用靜態(tài)分析篩查可疑點(diǎn)，再通過動(dòng)態(tài)模糊測試進(jìn)行驗(yàn)證，并在整個(gè)過程中借助機(jī)器學(xué)習(xí)模型不斷優(yōu)化策略，構(gòu)建出高效的漏洞挖掘流水線。

3. 機(jī)器學(xué)習(xí)在漏洞檢測中的分類與回歸方法

在漏洞挖掘中應(yīng)用機(jī)器學(xué)習(xí)時(shí)，常見的任務(wù)為分類或回歸問題。例如：“這段代碼是否存在漏洞？”屬于二分類問題；“這個(gè)軟件包含多少個(gè)漏洞？”則可以視為回歸預(yù)測。根據(jù)不同的任務(wù)需求，選擇適當(dāng)?shù)臋C(jī)器學(xué)習(xí)算法非常關(guān)鍵。

分類模型用于判斷某個(gè)對象是否屬于“有漏洞”類別。典型模型包括樸素貝葉斯（NB）、支持向量機(jī)（SVM）、決策樹/隨機(jī)森林（DT/RF）、神經(jīng)網(wǎng)絡(luò)等。這些模型都有各自的優(yōu)勢，在實(shí)際應(yīng)用中，通常會(huì)將多種模型結(jié)合使用，例如先用快速的模型進(jìn)行粗分類，再用復(fù)雜模型進(jìn)行精細(xì)篩選，以在性能和準(zhǔn)確率之間取得平衡。

回歸模型用于預(yù)測一個(gè)連續(xù)值指標(biāo)，例如漏洞數(shù)量、漏洞嚴(yán)重程度評(píng)分等，包括線性回歸、邏輯回歸，甚至深度學(xué)習(xí)中的回歸網(wǎng)絡(luò)等。這些模型在漏洞優(yōu)先級(jí)排序和風(fēng)險(xiǎn)評(píng)估中作用顯著。例如，訓(xùn)練一個(gè)線性模型，根據(jù)項(xiàng)目的代碼規(guī)模、開發(fā)歷史等特征，預(yù)測其尚未發(fā)現(xiàn)的漏洞數(shù)量，從而幫助制定測試計(jì)劃。又如，利用邏輯回歸模型，估計(jì)某個(gè)漏洞被利用的概率，從而進(jìn)行風(fēng)險(xiǎn)排序。有研究嘗試通過機(jī)器學(xué)習(xí)綜合多種因素（漏洞位置、影響范圍、利用難度等）給出風(fēng)險(xiǎn)評(píng)分，輔助安全團(tuán)隊(duì)優(yōu)先修復(fù)高危漏洞。

無論是分類問題還是回歸問題，模型都需要特征工程支持。除了傳統(tǒng)的代碼度量特征，越來越多的漏洞分析工作開始引入程序語法、語義信息作為特征。例如，提取函數(shù)調(diào)用圖、數(shù)據(jù)流圖中的統(tǒng)計(jì)量，或提取代碼片段的詞向量表示等。自然語言處理（NLP）技術(shù)在這里大有用武之地，可以將源代碼文本轉(zhuǎn)化為向量特征供機(jī)器學(xué)習(xí)算法使用。

4. NLP與代碼語義分析在漏洞挖掘中的應(yīng)用

近年來，NLP技術(shù)開始被運(yùn)用到代碼和漏洞分析中，因?yàn)樵创a本質(zhì)上是一種特殊的“語言”，其含有語法和語義結(jié)構(gòu)。主要包括以下幾種實(shí)踐。

源代碼向量化表征。借鑒NLP的詞嵌入思想，將源代碼轉(zhuǎn)換為計(jì)算機(jī)可學(xué)習(xí)的向量表示。一種簡單做法是把源代碼當(dāng)作序列文本，用詞嵌入（word embedding）技術(shù)將代碼符號(hào)映射為向量，再輸入神經(jīng)網(wǎng)絡(luò)分類器。此外，更高級(jí)的做法是構(gòu)造抽象語法樹（AST）或控制流圖等結(jié)構(gòu)，再通過圖嵌入或圖神經(jīng)網(wǎng)絡(luò)（GNN）將其表示為向量。通過這些方法，代碼的語法結(jié)構(gòu)和一定程度的語義關(guān)系被保留在向量中，供模型學(xué)習(xí)。

自動(dòng)特征提取。深度學(xué)習(xí)擅長自動(dòng)提取特征，在代碼分析中，研究人員可以用深度學(xué)習(xí)模型直接從原始代碼中學(xué)習(xí)漏洞相關(guān)特征，減少人工的參與。例如，使用長短期記憶網(wǎng)絡(luò)（LSTM）遍歷代碼token序列，讓模型自主識(shí)別可能存在的潛在漏洞的語法模式或變量關(guān)系。同時(shí)，也可以利用卷積神經(jīng)網(wǎng)絡(luò)（CNN）在AST的鄰接矩陣上進(jìn)行卷積，自動(dòng)捕獲“危險(xiǎn)模式”，類似于讓模型自己總結(jié)漏洞的語言模式。實(shí)踐表明，深度學(xué)習(xí)能夠發(fā)現(xiàn)許多人工難以想到的特征組合，尤其對復(fù)雜漏洞（如多步邏輯錯(cuò)誤）的檢測效果更好。

安全補(bǔ)丁和漏洞描述分析。NLP還可以用于分析歷史安全補(bǔ)丁的文本、漏洞報(bào)告的描述等，從中抽取漏洞模式信息。例如，通過對大量漏洞補(bǔ)丁前后的代碼差異進(jìn)行文本對比，訓(xùn)練模型識(shí)別補(bǔ)丁修改的地方（如檢查長度、增加驗(yàn)證等），利用這些知識(shí)幫助檢測未修補(bǔ)的相似漏洞。再如，將漏洞數(shù)據(jù)庫中的自然語言描述輸入大型語言模型，讓其提取出漏洞觸發(fā)條件、影響函數(shù)等關(guān)鍵信息，輔助靜態(tài)掃描工具進(jìn)行針對性檢查。這種“從文字中學(xué)習(xí)漏洞知識(shí)”的方式，實(shí)際上是將安全專家的經(jīng)驗(yàn)以數(shù)據(jù)驅(qū)動(dòng)形式傳遞給AI。

代碼評(píng)論和文檔分析。某些特殊的評(píng)論或文檔中可能潛藏危險(xiǎn)代碼，NLP模型可以解析這些人類的語言內(nèi)容，從側(cè)面提示可能的漏洞位置。此外，對開源項(xiàng)目的問題描述和提交記錄進(jìn)行情感分析，也可以有效識(shí)別高頻出現(xiàn)問題的模塊，從而引導(dǎo)漏洞挖掘方向。

綜上所述，NLP技術(shù)使得AI能夠更深入地理解代碼語義，這對于挖掘依賴邏輯語義的漏洞（如認(rèn)證繞過、加密不當(dāng)）非常重要。隨著大模型在編程語言上的預(yù)訓(xùn)練取得進(jìn)展（例如OpenAI的Codex、CodeBERT模型），利用NLP助力漏洞挖掘的效果會(huì)進(jìn)一步提升?？梢灶A(yù)見，NLP與代碼安全的融合將成為未來AI漏洞挖掘領(lǐng)域的重要趨勢之一。

二、人工智能在漏洞挖掘中的應(yīng)用實(shí)踐和主要挑戰(zhàn)

大型科技企業(yè)、開源項(xiàng)目和學(xué)術(shù)研究在AI應(yīng)用于漏洞挖掘方面已取得一些可喜的進(jìn)展，開始邁向?qū)β┒吹?/span>“發(fā)現(xiàn)－修復(fù)”全流程自動(dòng)化的目標(biāo)。

（一）人工智能在漏洞挖掘中的應(yīng)用實(shí)踐

AI在漏洞挖掘中的應(yīng)用已開始落地，涌現(xiàn)出一些工具和平臺(tái)。商業(yè)掃描器如靜態(tài)應(yīng)用安全測試（SAST）工具和動(dòng)態(tài)應(yīng)用安全測試（DAST）工具已嘗試引入AI，從而減少誤報(bào)并提高掃描深度。DeepCode是業(yè)界知名的基于機(jī)器學(xué)習(xí)的代碼審核工具，能夠通過訓(xùn)練所得規(guī)則檢測代碼中的錯(cuò)誤和安全漏洞，并提供修復(fù)建議。微軟、谷歌、英特爾等公司也在其開發(fā)者工具鏈中加入了AI掃描功能，同時(shí)提供模糊測試平臺(tái)和漏洞檢測平臺(tái)。在國內(nèi)，源自清華系的華清未央推出了“機(jī)器語言大模型”（Machine Language Model，MLM），主打智能化的軟件逆向分析，以發(fā)現(xiàn)其中的安全風(fēng)險(xiǎn)。

與此同時(shí)，AI智能體驅(qū)動(dòng)的漏洞挖掘系統(tǒng)也開始初露鋒芒。2024年11月，谷歌旗下的安全團(tuán)隊(duì)Project Zero宣布，其構(gòu)建的AI漏洞挖掘代理系統(tǒng)“BigSleep”首次在真實(shí)大型軟件中發(fā)現(xiàn)了一個(gè)此前未知的安全漏洞，該漏洞已潛伏了二十年之久。此案例表明，AI在補(bǔ)充現(xiàn)有漏洞挖掘手段的短板方面具有巨大的潛力。

AI在漏洞領(lǐng)域的應(yīng)用不僅限于漏洞發(fā)現(xiàn)，還開始延伸至自動(dòng)修復(fù)領(lǐng)域。一個(gè)典型案例是GitHub Copilot結(jié)合CodeQL推出的“代碼掃描自動(dòng)修復(fù)”功能。2023年11月，GitHub宣布，CodeQL掃描發(fā)現(xiàn)漏洞后，可以調(diào)用大型語言模型（Copilot的后端GPT模型）自動(dòng)生成修復(fù)代碼，并通過拉取請求直接提供給開發(fā)者參考與合并。GitHub聲稱，在初步測試中，該功能可自動(dòng)修復(fù)約三分之二的常見漏洞警報(bào)。2025年初，谷歌也發(fā)布了名為Jules的AI編碼助手，專注于自動(dòng)修復(fù)漏洞的能力。Jules基于谷歌最新的大型模型Gemini 2.0，能夠無縫集成到GitHub工作流中，用于分析復(fù)雜代碼庫，提出跨多個(gè)文件的綜合修復(fù)方案。與Copilot偏重單一問題的改動(dòng)不同，Jules定位為更自主的代理，可以批量修復(fù)系統(tǒng)中的多處相關(guān)漏洞，更像一個(gè)AI工程師而非簡單工具。在試用過程中研究人員發(fā)現(xiàn)，Jules能夠?qū)⒁恍┓爆嵉拇a重構(gòu)任務(wù)從原來耗時(shí)一周的時(shí)間，縮短到幾分鐘完成。

上述案例表明，盡管AI在漏洞挖掘中的應(yīng)用尚處于起步階段且效果有限，但隨著技術(shù)的不斷進(jìn)步，未來開發(fā)者或許只需一鍵掃描，AI即可給出修復(fù)補(bǔ)丁，從而大幅縮短從漏洞發(fā)現(xiàn)到修補(bǔ)的時(shí)間窗口。這將對提升軟件生態(tài)整體安全水平產(chǎn)生深遠(yuǎn)的影響。

（二）人工智能在漏洞挖掘中的挑戰(zhàn)與限制

雖然AI在漏洞挖掘中展現(xiàn)了巨大潛力，但當(dāng)前仍存在很多局限和挑戰(zhàn)，需要理性認(rèn)識(shí)并進(jìn)行科學(xué)權(quán)衡。

一是存在檢測準(zhǔn)確性與誤報(bào)問題。機(jī)器學(xué)習(xí)模型并非完美，可能會(huì)產(chǎn)生誤報(bào)（將安全代碼誤判為漏洞）和漏報(bào)（將漏洞代碼誤判為安全）。尤其在靜態(tài)分析場景下，模型可能因訓(xùn)練數(shù)據(jù)偏差，將某些安全慣用寫法錯(cuò)誤地標(biāo)記為危險(xiǎn)，增加開發(fā)者的負(fù)擔(dān)。此外，如果模型訓(xùn)練不當(dāng)，也可能引入新的誤報(bào)類型。許多深度學(xué)習(xí)模型屬于“黑箱”，當(dāng)它們報(bào)告某行代碼存在漏洞時(shí)，往往缺乏可解釋的原因，難以說服開發(fā)者接受修復(fù)建議。因此，需要在模型復(fù)雜度和可解釋性之間做好權(quán)衡。

二是要加強(qiáng)泛化能力提升跨項(xiàng)目適用性。當(dāng)前，大多數(shù)AI漏洞檢測模型仍局限于單一語言或單一項(xiàng)目訓(xùn)練。一個(gè)機(jī)器學(xué)習(xí)模型通常只能對它見過的數(shù)據(jù)類型表現(xiàn)良好，在跨語言、跨域泛化方面尚未突破。將模型應(yīng)用到全新項(xiàng)目或編程語言時(shí)，效果可能急劇下降。例如，跨項(xiàng)目的漏洞挖掘是一項(xiàng)挑戰(zhàn)性的課題，即不同項(xiàng)目可能使用不同的語言、框架、編碼規(guī)范，甚至漏洞分布特性也不同。為解決這一問題，需要更多研究，如開發(fā)能夠映射不同語言語義到統(tǒng)一表示的技術(shù)，或者通過遷移學(xué)習(xí)、領(lǐng)域自適應(yīng)等方法，使模型在新環(huán)境下保持良好的性能。

三是容易受到數(shù)據(jù)集質(zhì)量與偏差的影響。機(jī)器學(xué)習(xí)的成敗，很大程度取決于訓(xùn)練數(shù)據(jù)的質(zhì)量。漏洞數(shù)據(jù)具有稀疏且不均衡的特點(diǎn)——在海量代碼中，真正有漏洞的僅為少數(shù)。此外，公開的漏洞數(shù)據(jù)大多偏重某些類型（如緩沖區(qū)溢出、SQL注入等常見漏洞），而邏輯缺陷、設(shè)計(jì)缺陷等類型的數(shù)據(jù)較少。這導(dǎo)致模型訓(xùn)練時(shí)容易聚焦于頻繁出現(xiàn)的模式，對于罕見但危害巨大的漏洞則無能為力。數(shù)據(jù)偏差還可能來自標(biāo)注錯(cuò)誤或漏標(biāo)，一些非漏洞樣本中可能潛藏漏洞，如果被誤標(biāo)為安全樣本進(jìn)行訓(xùn)練，會(huì)對模型產(chǎn)生誤導(dǎo)。因此，提高數(shù)據(jù)集質(zhì)量需要社區(qū)的協(xié)作：一方面，不斷匯總新的漏洞樣本，平衡各類漏洞比例，清洗標(biāo)簽錯(cuò)誤，并生成足夠的負(fù)樣本（安全代碼），避免模型過擬合。另一方面，合成數(shù)據(jù)也是一個(gè)方向，例如通過代碼混淆和變異技術(shù)自動(dòng)生成帶漏洞的樣本，豐富模型的學(xué)習(xí)數(shù)據(jù)。

四是要權(quán)衡計(jì)算資源與時(shí)間成本。訓(xùn)練和運(yùn)行AI模型，尤其深度學(xué)習(xí)模型，對計(jì)算資源和訓(xùn)練時(shí)間的要求較高。同時(shí)，目前一些AI掃描工具在大型項(xiàng)目上的運(yùn)行仍較緩慢，有時(shí)需要離線批處理，無法實(shí)時(shí)反饋，嚴(yán)重影響開發(fā)者的使用感受。這限制了AI工具在快速迭代開發(fā)中的采用。為了降低成本，研究者正在探索更高效的模型結(jié)構(gòu)，并應(yīng)用蒸餾、剪枝等模型壓縮技術(shù)，讓模型在保持準(zhǔn)確率的同時(shí)加快推理速度。另外一種思路是結(jié)合云服務(wù)，將重計(jì)算任務(wù)放到云端集中處理，客戶端只獲取最終結(jié)果。但對于敏感代碼，將數(shù)據(jù)上傳云端也帶來了數(shù)據(jù)安全的顧慮。如何在性能和資源之間取得平衡，是AI漏洞挖掘落地必須解決的問題。

五是存在對抗攻擊風(fēng)險(xiǎn)。對抗樣本攻擊是近年來機(jī)器學(xué)習(xí)領(lǐng)域關(guān)注的重點(diǎn)，攻擊者可以通過對輸入數(shù)據(jù)進(jìn)行微小改動(dòng)來欺騙模型。在漏洞挖掘場景中，攻擊者或惡意開發(fā)者有可能編寫“對抗性代碼”繞過AI檢測。例如，通過改變變量命名或插入無關(guān)代碼等方式，使惡意代碼看起來與已知漏洞樣本不相似，從而瞞過模型的檢測。尤其隨著技術(shù)的發(fā)展，當(dāng)防御方普遍借助AI掃描時(shí)，攻擊者必然會(huì)研究其檢測模式并進(jìn)行針對性規(guī)避。此外，還有數(shù)據(jù)中毒攻擊的風(fēng)險(xiǎn)，如果AI模型在線學(xué)習(xí)或依賴社區(qū)提供的數(shù)據(jù)，攻擊者可以提交特制的代碼，誘使模型對某些漏洞“視而不見”或產(chǎn)生誤判。為防范這些風(fēng)險(xiǎn)，安全AI模型需要融入對抗防御機(jī)制，例如在訓(xùn)練過程中加入對抗樣本增強(qiáng)魯棒性，或?qū)δＰ洼敵龅牟淮_定性進(jìn)行分析，以識(shí)別可能被誤導(dǎo)的情況。

除了上述挑戰(zhàn)，AI在漏洞挖掘中的應(yīng)用還面臨合規(guī)要求、責(zé)任界定、開發(fā)者的接受程度等問題?？傮w來看，AI在漏洞挖掘中的應(yīng)用仍處于輔助增強(qiáng)階段，遠(yuǎn)未達(dá)到完全自動(dòng)化和無人值守的程度。因此，要正視其局限性，在實(shí)踐中不斷完善和改進(jìn)，將其與傳統(tǒng)方法結(jié)合形成互補(bǔ)，發(fā)揮AI的最大價(jià)值。

三、結(jié) 語

展望未來，人工智能在漏洞挖掘領(lǐng)域有多項(xiàng)值得期待的發(fā)展方向。隨著算力提升和算法進(jìn)步，AI模型將在代碼理解上達(dá)到新的高度，這將使AI能夠發(fā)現(xiàn)更加復(fù)雜、跨模塊的漏洞。AI的參與將提升開發(fā)流程中的智能化安全管控能力，推動(dòng)DevSecOps理念的落地；AI驅(qū)動(dòng)的自動(dòng)化漏洞修復(fù)與自愈技術(shù)將更加完善，甚至發(fā)展出自主修復(fù)能力。

從攻防視角來看，AI將成為未來網(wǎng)絡(luò)空間軍備競賽的重要組成部分：一方面，防御者將利用AI筑起更高的壁壘；另一方面，攻擊者也會(huì)開發(fā)AI尋找漏洞并發(fā)動(dòng)攻擊。未來的安全領(lǐng)域很可能出現(xiàn)“AI vs AI”的場景，攻防雙方的智能化差異或?qū)⒅苯記Q定網(wǎng)絡(luò)空間沖突的勝負(fù)走向。

總體而言，AI在漏洞挖掘中的應(yīng)用已從理論探索邁入實(shí)踐落地階段，在一定程度上已經(jīng)改變了漏洞挖掘的游戲規(guī)則。作為“效率倍增器”，AI的價(jià)值日益凸顯，正朝著更加自動(dòng)化、智能化和主動(dòng)防御的方向發(fā)展。可以預(yù)見，隨著技術(shù)的不斷積累，AI或?qū)⒊蔀榘踩I(lǐng)域的核心支柱，大幅提升對抗漏洞和未知威脅的能力。然而，我們也清醒地認(rèn)識(shí)到，現(xiàn)階段AI并不能完全替代人類專家。模型的局限性、數(shù)據(jù)的不足以及對抗威脅的存在，意味著AI工具仍需在人類監(jiān)督下使用。未來，隨著模型能力的提升與開發(fā)流程的深度集成，AI有望實(shí)現(xiàn)從漏洞發(fā)現(xiàn)到修復(fù)的閉環(huán)，推動(dòng)軟件安全從“被動(dòng)應(yīng)對”轉(zhuǎn)向“主動(dòng)防御”。在這一進(jìn)程中，技術(shù)創(chuàng)新、數(shù)據(jù)質(zhì)量、倫理規(guī)范與人才培養(yǎng)缺一不可。唯有持續(xù)探索與協(xié)作，方能構(gòu)建更安全的數(shù)字生態(tài)。

（本文刊登于《中國信息安全》雜志2025年第2期）