01

AI 崛起：技術(shù)雙刃劍下的安全暗戰(zhàn)

隨著 AI 技術(shù)的快速發(fā)展，網(wǎng)絡(luò)安全面臨的威脅日益復(fù)雜化，攻擊手段不僅更高效、隱蔽，還催生了新型的「AI 黑客」形態(tài)，因此引發(fā)了各類新型網(wǎng)絡(luò)安全危機。

首先是生成式 AI 正重塑網(wǎng)絡(luò)詐騙的「精準度」。

簡單而言，就是將傳統(tǒng)的釣魚攻擊智能化，比如在更精準的場景中，攻擊者會利用公開社交數(shù)據(jù)訓練 AI 模型，批量生成個性化釣魚郵件，模仿特定用戶的寫作風格或語言習慣，實施「定制化」詐騙，繞過傳統(tǒng)垃圾郵件過濾器，大幅提升攻擊成功率。

接著是最為大眾所熟知的深度偽造（Deepfake）與身份冒用。在 AI 技術(shù)成熟之前，傳統(tǒng)的「變臉詐騙攻擊」，即 BEC 詐騙，全稱為「Business Email Compromise」，具體為攻擊者通過將郵件發(fā)件人偽裝成你的領(lǐng)導(dǎo)、同事或商業(yè)伙伴，以此騙取商業(yè)信息或錢財、或者獲取其他重要資料。

如今，「變臉」真的發(fā)生了。AI 生成的換臉、變聲技術(shù)可偽造公眾人物或親友身份，用于詐騙、輿論操控甚至政治干預(yù)。就在兩個月前，上海某企業(yè)財務(wù)總監(jiān)接到來自「董事長」的視頻會議邀請，對方通過 AI 換臉仿聲稱需緊急支付「境外合作保證金」，該總監(jiān)依指示轉(zhuǎn) 380 萬元至指定賬戶，后識破系境外詐騙團伙利用深度偽造技術(shù)作案。

第三則是自動化攻擊與漏洞利用。AI 技術(shù)的進步讓大量場景向智能化、自動化演進，網(wǎng)絡(luò)攻擊自然也是如此。攻擊者可借助 AI 自動掃描系統(tǒng)漏洞、生成動態(tài)攻擊代碼，并對目標實施無差別快速攻擊，比如 AI 驅(qū)動的「零日攻擊」在發(fā)現(xiàn)漏洞后會立即編寫并執(zhí)行惡意程序，傳統(tǒng)防御系統(tǒng)難以實時響應(yīng)。

就在今年春節(jié)，DeepSeek 官網(wǎng)遭遇 3.2Tbps 超大規(guī)模 DDoS 攻擊，黑客同步通過 API 滲透注入對抗樣本，篡改模型權(quán)重導(dǎo)致核心服務(wù)癱瘓 48 小時，直接經(jīng)濟損失超數(shù)千萬美元，事后溯源發(fā)現(xiàn)美國 NSA 長期潛伏的滲透痕跡。

數(shù)據(jù)污染和模型漏洞同樣也是一種新威脅。攻擊者通過在 AI 訓練數(shù)據(jù)中植入虛假信息（即數(shù)據(jù)投毒），或利用模型自身缺陷，誘導(dǎo) AI 輸出錯誤結(jié)果——這會對關(guān)鍵領(lǐng)域造成直接的安全威脅，甚至可能引發(fā)連鎖災(zāi)難性后果，例如自動駕駛系統(tǒng)因?qū)箻颖菊`判「禁止通行」為「限速標志」，或醫(yī)療 AI 將良性腫瘤誤判為惡性。

02

AI 還需 AI 治

面對 AI 驅(qū)動的網(wǎng)絡(luò)安全新威脅，傳統(tǒng)防護模式已顯乏力。那么，我們又有哪些應(yīng)對之策呢？

不難發(fā)現(xiàn)，目前的業(yè)內(nèi)共識已指向「以 AI 對抗 AI」——這不僅是技術(shù)手段的升級，更是安全范式的轉(zhuǎn)變。

現(xiàn)有的嘗試大致分為三大類，分別是 AI 模型的安全防護技術(shù)、行業(yè)級的防御應(yīng)用以及更宏觀層面的政府與國際協(xié)作。

AI 模型安全防護技術(shù)的關(guān)鍵在于模型的內(nèi)生安全加固。

以大型語言模型（LLM）的「越獄」漏洞為例，其安全防護機制常因通用型越獄提示策略失效——攻擊者通過系統(tǒng)性繞過模型內(nèi)置保護層，誘導(dǎo) AI 生成暴力、歧視或違法內(nèi)容。為防止 LLM 的「越獄」，各家模型公司都做出了嘗試，比如 Anthropic 就于今年二月發(fā)布了「憲法分類器」。

此處的「憲法」指的是不可違背的自然語言規(guī)則，作為一種在合成數(shù)據(jù)上訓練的保障措施，通過規(guī)定允許和限制的內(nèi)容，實時監(jiān)測輸入輸出內(nèi)容，在基準條件的測試中，其 Claude3.5 模型在分類器保護下，對高級越獄嘗試的成功阻止率從 14% 提升至 95%，顯著降低了 AI 的「越獄」風險。

而除了基于模型、更通用的防御手段外，行業(yè)級的防御應(yīng)用同樣值得關(guān)注，其垂直領(lǐng)域的場景化防護正成為關(guān)鍵突破點：金融行業(yè)通過 AI 風控模型與多模態(tài)數(shù)據(jù)分析構(gòu)建反欺詐壁壘，開源生態(tài)借助智能化漏洞獵捕技術(shù)實現(xiàn)零日威脅的快速響應(yīng)，而企業(yè)敏感信息保護則依托 AI 驅(qū)動的動態(tài)管控體系。

例如，思科在新加坡國際網(wǎng)絡(luò)周展示的方案，可實時攔截員工向 ChatGPT 提交的敏感數(shù)據(jù)查詢請求，并自動生成合規(guī)審計報告優(yōu)化管理閉環(huán)。

在宏觀層面上，政府與國際的跨區(qū)域協(xié)作也正加速推進。新加坡網(wǎng)絡(luò)安全局發(fā)布《人工智能系統(tǒng)安全指南》，通過強制本地化部署與數(shù)據(jù)加密機制約束生成式 AI 濫用，特別針對釣魚攻擊中 AI 偽造身份的識別建立防護標準；美英加三國同步啟動「AI 網(wǎng)絡(luò)代理計劃」，聚焦可信系統(tǒng)研發(fā)與 APT 攻擊的實時評估，通過聯(lián)合安全認證體系強化集體防御能力。

那么，哪些方法能最大限度地用 AI 來應(yīng)對 AI 時代的網(wǎng)絡(luò)安全挑戰(zhàn)呢？

「未來需要 AI 安全智能中樞并圍繞中樞構(gòu)建新體系?！乖诘诙梦錆h網(wǎng)絡(luò)安全創(chuàng)新論壇上，青藤云安全創(chuàng)始人張福曾在分享中強調(diào)以 AI 對抗 AI 方為未來網(wǎng)絡(luò)安全防御體系的核心，「3 年內(nèi)，AI 將會顛覆現(xiàn)有的安全行業(yè)，和所有的 2B 行業(yè)。產(chǎn)品將會重新構(gòu)建，實現(xiàn)前所有未有的效率和能力的提升。未來產(chǎn)品是給 AI 用的，而不是給人用的?！?/p>

在一眾方案中，Security Copilot 的模式顯然對「未來產(chǎn)品是給 AI 用的」提供了很好的示范：一年前，微軟推出了智能 Microsoft Security Copilot 副駕駛來幫助安全團隊迅速準確地檢測、調(diào)查和響應(yīng)安全事件；一個月前，又再次發(fā)布了用于在釣魚攻擊、數(shù)據(jù)安全和身份管理等關(guān)鍵領(lǐng)域自動協(xié)助的 AI 智能體。

微軟新增六個自研 AI 智能體以擴展 Security Copilot 功能。其中三個用于輔助網(wǎng)絡(luò)安全人員篩選警報：釣魚分類智能體審查釣魚警報、過濾誤報；另兩個分析 Purview 通知，檢測員工未經(jīng)授權(quán)使用業(yè)務(wù)數(shù)據(jù)的情況。

條件訪問優(yōu)化智能體與 Microsoft Entra 協(xié)作，指出不安全的用戶訪問規(guī)則，并生成一鍵修復(fù)方案供管理員執(zhí)行。漏洞修復(fù)智能體和設(shè)備管理工具 Intune 集成，助力快速定位易受攻擊的終端，應(yīng)用操作系統(tǒng)補丁。威脅情報簡報智能體生成可能威脅組織系統(tǒng)的網(wǎng)絡(luò)安全威脅報告。

03

無相：L4 級高階智能體的保駕護航

無獨有偶，在國內(nèi)，為了實現(xiàn)真正意義上「自動駕駛」級別的安全防護，青藤云安全推出了 全棧式安全智能體「無相」 。作為全球首個實現(xiàn)從「輔助型 AI」向「自主智能體」（Autopilot）跨越的安全 AI 產(chǎn)品，其核心突破在于顛覆傳統(tǒng)工具的「被動響應(yīng)」模式，使其自主、自動且智能。

通過融合機器學習、知識圖譜與自動化決策技術(shù)，「無相」可獨立完成威脅檢測、影響評估到響應(yīng)處置的全流程閉環(huán)，實現(xiàn)真正意義上的自主決策與目標驅(qū)動。其「Agentic AI 架構(gòu)」設(shè)計模擬人類安全團隊的協(xié)作邏輯：以「大腦」整合網(wǎng)絡(luò)安全知識庫支撐規(guī)劃能力，「眼睛」細粒度感知網(wǎng)絡(luò)環(huán)境動態(tài)，「手腳」靈活調(diào)用多樣化的安全工具鏈，并通過多智能體協(xié)作形成信息共享的高效研判網(wǎng)絡(luò)，分工合作、共享信息。

在技術(shù)實現(xiàn)上，「無相」采用「ReAct 模式」（Act-Observe-Think-Act 循環(huán)）與「Plan AI + Action AI 雙引擎架構(gòu)」，確保復(fù)雜任務(wù)中的動態(tài)糾偏能力。當工具調(diào)用異常時，系統(tǒng)可自主切換備用方案而非中斷流程，例如在 APT 攻擊分析中，Plan AI 作為「組織者」拆解任務(wù)目標，Action AI 作為「調(diào)查專家」執(zhí)行日志解析與威脅建模，二者基于實時共享的知識圖譜實現(xiàn)并行推進。

功能模塊層面，「無相」構(gòu)建了完整的自主決策生態(tài)： 智能體人設(shè)模擬安全分析師的反思迭代思維，動態(tài)優(yōu)化決策路徑； 工具調(diào)用整合主機安全日志查詢、網(wǎng)絡(luò)威脅情報檢索及 LLM 驅(qū)動的惡意代碼分析； 環(huán)境感知實時捕獲主機資產(chǎn)與網(wǎng)絡(luò)信息；知識圖譜動態(tài)存儲實體關(guān)聯(lián)，輔助決策；多智能體協(xié)作通過任務(wù)分拆與信息共享，并行執(zhí)行任務(wù)。

目前「無相」在告警研判、溯源分析以及輸出安全報告這三大核心應(yīng)用場景中的表現(xiàn)最為出色。

傳統(tǒng)安全運營中，海量告警的真?zhèn)握鐒e耗時費力。以一次本地提權(quán)告警為例：無相的告警研判智能體自動解析威脅特征，調(diào)用進程權(quán)限分析、父進程溯源、程序簽名驗證等工具鏈，最終判定為誤報——全程無需人工介入。在青藤現(xiàn)有告警測試中，該系統(tǒng)已實現(xiàn) 100% 告警覆蓋率與 99.99% 研判準確率，并將人工工作量削減超 95%。

面對真實威脅如 Webshell 攻擊，智能體通過代碼特征提取、文件權(quán)限分析等跨維度關(guān)聯(lián)，秒級確認攻擊有效性。傳統(tǒng)需多部門協(xié)作、耗時數(shù)日的深度溯源（如上傳播徑還原、橫向影響評估），現(xiàn)由系統(tǒng)自動串聯(lián)主機日志、網(wǎng)絡(luò)流量、行為基線等數(shù)據(jù)流，生成完整攻擊鏈報告，將響應(yīng)周期從「天」壓縮至「分鐘」。

「我們的核心是將 AI 和人的合作關(guān)系扭轉(zhuǎn)了，可以把 AI 作為一個人來合作，實現(xiàn)從 L2 到 L4 的跨越，即從輔助駕駛向高階自動駕駛跨越?！骨嗵俾?lián)創(chuàng)兼產(chǎn)品副總裁胡俊分享道，「隨著 AI 能適配的場景更多，決策的成功率更高，逐漸能夠承擔更多的責任，這樣人和 AI 之間的責任分工就會有變化?！?/p>

在溯源分析這個場景中，首先是 Webshell 告警觸發(fā)「無相 AI」驅(qū)動的多智能體安全團隊協(xié)同溯源：「研判專家」基于告警定位 one.jsp 文件，生成文件內(nèi)容分析、作者溯源、同目錄排查及進程追蹤等并行任務(wù)，由「安全調(diào)查員」智能體調(diào)用文件日志工具，快速鎖定 java（12606）進程為寫入源，該進程及關(guān)聯(lián)主機 10.108.108.23（通過訪問日志發(fā)現(xiàn)高頻交互）相繼納入調(diào)查。

智能體通過威脅圖譜動態(tài)擴展線索，從單一文件逐層深挖至進程、主機，研判專家匯總?cè)蝿?wù)結(jié)果綜合判定風險。此過程將人工需數(shù)小時至數(shù)天的排查壓縮至幾十分鐘，以超越人類高級安全專家的精準度還原攻擊全鏈路，無死角追蹤橫向移動路徑，紅隊評估也顯示難以規(guī)避其地毯式調(diào)查。

「大模型比人工好是因為它能徹查邊邊角角，而非憑經(jīng)驗排除可能性低的情況?！购〗忉尩?，「這樣相當于廣度和深度都更好?！?/p>

在完成復(fù)雜攻擊場景的調(diào)查后，整理告警與調(diào)查線索并生成報告往往耗時費力。而 AI 可實現(xiàn)一鍵式總結(jié)，以可視化時間線的形式清晰呈現(xiàn)攻擊過程，如同電影般連貫展示關(guān)鍵節(jié)點——系統(tǒng)會自動梳理關(guān)鍵證據(jù)生成攻擊鏈的關(guān)鍵幀，并結(jié)合環(huán)境上下文信息，最終生成動態(tài)的攻擊鏈路圖譜，讓整個攻擊軌跡以直觀、立體的方式呈現(xiàn)。

04

結(jié)語

很顯然，AI 技術(shù)的發(fā)展為網(wǎng)絡(luò)安全帶來雙重挑戰(zhàn)。

一方面，攻擊者利用 AI 實現(xiàn)攻擊的自動化、個性化和隱蔽化；另一方面，防御方需加速技術(shù)創(chuàng)新，通過 AI 增強檢測與響應(yīng)能力。未來，攻防雙方的 AI 技術(shù)競賽將決定網(wǎng)絡(luò)安全的整體態(tài)勢，而安全智能體的完善將是平衡風險與發(fā)展的關(guān)鍵。

而安全智能體「無相」在安全架構(gòu)與認知層面都帶來了新的變化。

「無相」本質(zhì)上是改變了對 AI 的使用方式，其突破性在于將多維數(shù)據(jù)感知、防護策略生成與決策可解釋性熔鑄為有機整體——從過往將 AI 作為工具使用的模式轉(zhuǎn)變?yōu)榻o AI 賦能使其能自主且自動地工作。

通過關(guān)聯(lián)分析日志、文本、流量等異構(gòu)數(shù)據(jù)，系統(tǒng)能在攻擊者構(gòu)建完整攻擊鏈前捕捉 APT 活動的蛛絲馬跡。更關(guān)鍵的是，其決策過程的可視化推理解釋，讓傳統(tǒng)工具「知其然不知其所以然」的黑盒告警成為歷史——安全團隊不僅能看見威脅，更能理解威脅的演化邏輯。

這個革新的本質(zhì)是安全思維從「亡羊補牢」到「未雨綢繆」的范式躍遷，是對攻防博弈規(guī)則的重新定義。

「無相」如同擁有數(shù)字直覺的獵手：通過實時建模內(nèi)存操作等微觀行為特征，它能從海量噪聲中揪出潛伏的自定義木馬；動態(tài)攻擊面管理引擎持續(xù)評估資產(chǎn)風險權(quán)重，確保防護資源精準投向關(guān)鍵系統(tǒng)；而威脅情報的智能消化機制，則將日均萬條告警轉(zhuǎn)化為可行動的防御指令，甚至預(yù)測攻擊變種的演化方向——當傳統(tǒng)方案還在疲于應(yīng)對已發(fā)生的入侵時，「無相」已在對攻擊者的下一步落子進行預(yù)判封堵。

「AI 智能中樞系統(tǒng)（高階安全智能體）的誕生，將會徹底重塑網(wǎng)絡(luò)安全的格局。而我們唯一需要做的，就是徹底抓住這個機會?！箯埜５馈?/p>