01

AI 崛起：技術(shù)雙刃劍下的安全暗戰(zhàn)

隨著 AI 技術(shù)的快速發(fā)展，網(wǎng)絡(luò)安全面臨的威脅日益復(fù)雜化，攻擊手段不僅更高效、隱蔽，還催生了新型的「AI 黑客」形態(tài)，因此引發(fā)了各類新型網(wǎng)絡(luò)安全危機(jī)。

首先是生成式 AI 正重塑網(wǎng)絡(luò)詐騙的「精準(zhǔn)度」。

簡(jiǎn)單而言，就是將傳統(tǒng)的釣魚攻擊智能化，比如在更精準(zhǔn)的場(chǎng)景中，攻擊者會(huì)利用公開社交數(shù)據(jù)訓(xùn)練 AI 模型，批量生成個(gè)性化釣魚郵件，模仿特定用戶的寫作風(fēng)格或語(yǔ)言習(xí)慣，實(shí)施「定制化」詐騙，繞過(guò)傳統(tǒng)垃圾郵件過(guò)濾器，大幅提升攻擊成功率。

接著是最為大眾所熟知的深度偽造（Deepfake）與身份冒用。在 AI 技術(shù)成熟之前，傳統(tǒng)的「變臉詐騙攻擊」，即 BEC 詐騙，全稱為「Business Email Compromise」，具體為攻擊者通過(guò)將郵件發(fā)件人偽裝成你的領(lǐng)導(dǎo)、同事或商業(yè)伙伴，以此騙取商業(yè)信息或錢財(cái)、或者獲取其他重要資料。

如今，「變臉」真的發(fā)生了。AI 生成的換臉、變聲技術(shù)可偽造公眾人物或親友身份，用于詐騙、輿論操控甚至政治干預(yù)。就在兩個(gè)月前，上海某企業(yè)財(cái)務(wù)總監(jiān)接到來(lái)自「董事長(zhǎng)」的視頻會(huì)議邀請(qǐng)，對(duì)方通過(guò) AI 換臉?lè)侣暦Q需緊急支付「境外合作保證金」，該總監(jiān)依指示轉(zhuǎn) 380 萬(wàn)元至指定賬戶，后識(shí)破系境外詐騙團(tuán)伙利用深度偽造技術(shù)作案。

第三則是自動(dòng)化攻擊與漏洞利用。AI 技術(shù)的進(jìn)步讓大量場(chǎng)景向智能化、自動(dòng)化演進(jìn)，網(wǎng)絡(luò)攻擊自然也是如此。攻擊者可借助 AI 自動(dòng)掃描系統(tǒng)漏洞、生成動(dòng)態(tài)攻擊代碼，并對(duì)目標(biāo)實(shí)施無(wú)差別快速攻擊，比如 AI 驅(qū)動(dòng)的「零日攻擊」在發(fā)現(xiàn)漏洞后會(huì)立即編寫并執(zhí)行惡意程序，傳統(tǒng)防御系統(tǒng)難以實(shí)時(shí)響應(yīng)。

就在今年春節(jié)，DeepSeek 官網(wǎng)遭遇 3.2Tbps 超大規(guī)模 DDoS 攻擊，黑客同步通過(guò) API 滲透注入對(duì)抗樣本，篡改模型權(quán)重導(dǎo)致核心服務(wù)癱瘓 48 小時(shí)，直接經(jīng)濟(jì)損失超數(shù)千萬(wàn)美元，事后溯源發(fā)現(xiàn)美國(guó) NSA 長(zhǎng)期潛伏的滲透痕跡。

數(shù)據(jù)污染和模型漏洞同樣也是一種新威脅。攻擊者通過(guò)在 AI 訓(xùn)練數(shù)據(jù)中植入虛假信息（即數(shù)據(jù)投毒），或利用模型自身缺陷，誘導(dǎo) AI 輸出錯(cuò)誤結(jié)果——這會(huì)對(duì)關(guān)鍵領(lǐng)域造成直接的安全威脅，甚至可能引發(fā)連鎖災(zāi)難性后果，例如自動(dòng)駕駛系統(tǒng)因?qū)箻颖菊`判「禁止通行」為「限速標(biāo)志」，或醫(yī)療 AI 將良性腫瘤誤判為惡性。

02

AI 還需 AI 治

面對(duì) AI 驅(qū)動(dòng)的網(wǎng)絡(luò)安全新威脅，傳統(tǒng)防護(hù)模式已顯乏力。那么，我們又有哪些應(yīng)對(duì)之策呢？

不難發(fā)現(xiàn)，目前的業(yè)內(nèi)共識(shí)已指向「以 AI 對(duì)抗 AI」——這不僅是技術(shù)手段的升級(jí)，更是安全范式的轉(zhuǎn)變。

現(xiàn)有的嘗試大致分為三大類，分別是 AI 模型的安全防護(hù)技術(shù)、行業(yè)級(jí)的防御應(yīng)用以及更宏觀層面的政府與國(guó)際協(xié)作。

AI 模型安全防護(hù)技術(shù)的關(guān)鍵在于模型的內(nèi)生安全加固。

以大型語(yǔ)言模型（LLM）的「越獄」漏洞為例，其安全防護(hù)機(jī)制常因通用型越獄提示策略失效——攻擊者通過(guò)系統(tǒng)性繞過(guò)模型內(nèi)置保護(hù)層，誘導(dǎo) AI 生成暴力、歧視或違法內(nèi)容。為防止 LLM 的「越獄」，各家模型公司都做出了嘗試，比如 Anthropic 就于今年二月發(fā)布了「憲法分類器」。

此處的「憲法」指的是不可違背的自然語(yǔ)言規(guī)則，作為一種在合成數(shù)據(jù)上訓(xùn)練的保障措施，通過(guò)規(guī)定允許和限制的內(nèi)容，實(shí)時(shí)監(jiān)測(cè)輸入輸出內(nèi)容，在基準(zhǔn)條件的測(cè)試中，其 Claude3.5 模型在分類器保護(hù)下，對(duì)高級(jí)越獄嘗試的成功阻止率從 14% 提升至 95%，顯著降低了 AI 的「越獄」風(fēng)險(xiǎn)。

而除了基于模型、更通用的防御手段外，行業(yè)級(jí)的防御應(yīng)用同樣值得關(guān)注，其垂直領(lǐng)域的場(chǎng)景化防護(hù)正成為關(guān)鍵突破點(diǎn)：金融行業(yè)通過(guò) AI 風(fēng)控模型與多模態(tài)數(shù)據(jù)分析構(gòu)建反欺詐壁壘，開源生態(tài)借助智能化漏洞獵捕技術(shù)實(shí)現(xiàn)零日威脅的快速響應(yīng)，而企業(yè)敏感信息保護(hù)則依托 AI 驅(qū)動(dòng)的動(dòng)態(tài)管控體系。

例如，思科在新加坡國(guó)際網(wǎng)絡(luò)周展示的方案，可實(shí)時(shí)攔截員工向 ChatGPT 提交的敏感數(shù)據(jù)查詢請(qǐng)求，并自動(dòng)生成合規(guī)審計(jì)報(bào)告優(yōu)化管理閉環(huán)。

在宏觀層面上，政府與國(guó)際的跨區(qū)域協(xié)作也正加速推進(jìn)。新加坡網(wǎng)絡(luò)安全局發(fā)布《人工智能系統(tǒng)安全指南》，通過(guò)強(qiáng)制本地化部署與數(shù)據(jù)加密機(jī)制約束生成式 AI 濫用，特別針對(duì)釣魚攻擊中 AI 偽造身份的識(shí)別建立防護(hù)標(biāo)準(zhǔn)；美英加三國(guó)同步啟動(dòng)「AI 網(wǎng)絡(luò)代理計(jì)劃」，聚焦可信系統(tǒng)研發(fā)與 APT 攻擊的實(shí)時(shí)評(píng)估，通過(guò)聯(lián)合安全認(rèn)證體系強(qiáng)化集體防御能力。

那么，哪些方法能最大限度地用 AI 來(lái)應(yīng)對(duì) AI 時(shí)代的網(wǎng)絡(luò)安全挑戰(zhàn)呢？

「未來(lái)需要 AI 安全智能中樞并圍繞中樞構(gòu)建新體系?！乖诘诙梦錆h網(wǎng)絡(luò)安全創(chuàng)新論壇上，青藤云安全創(chuàng)始人張福曾在分享中強(qiáng)調(diào)以 AI 對(duì)抗 AI 方為未來(lái)網(wǎng)絡(luò)安全防御體系的核心，「3 年內(nèi)，AI 將會(huì)顛覆現(xiàn)有的安全行業(yè)，和所有的 2B 行業(yè)。產(chǎn)品將會(huì)重新構(gòu)建，實(shí)現(xiàn)前所有未有的效率和能力的提升。未來(lái)產(chǎn)品是給 AI 用的，而不是給人用的?！?/p>

在一眾方案中，Security Copilot 的模式顯然對(duì)「未來(lái)產(chǎn)品是給 AI 用的」提供了很好的示范：一年前，微軟推出了智能 Microsoft Security Copilot 副駕駛來(lái)幫助安全團(tuán)隊(duì)迅速準(zhǔn)確地檢測(cè)、調(diào)查和響應(yīng)安全事件；一個(gè)月前，又再次發(fā)布了用于在釣魚攻擊、數(shù)據(jù)安全和身份管理等關(guān)鍵領(lǐng)域自動(dòng)協(xié)助的 AI 智能體。

微軟新增六個(gè)自研 AI 智能體以擴(kuò)展 Security Copilot 功能。其中三個(gè)用于輔助網(wǎng)絡(luò)安全人員篩選警報(bào)：釣魚分類智能體審查釣魚警報(bào)、過(guò)濾誤報(bào)；另兩個(gè)分析 Purview 通知，檢測(cè)員工未經(jīng)授權(quán)使用業(yè)務(wù)數(shù)據(jù)的情況。

條件訪問(wèn)優(yōu)化智能體與 Microsoft Entra 協(xié)作，指出不安全的用戶訪問(wèn)規(guī)則，并生成一鍵修復(fù)方案供管理員執(zhí)行。漏洞修復(fù)智能體和設(shè)備管理工具 Intune 集成，助力快速定位易受攻擊的終端，應(yīng)用操作系統(tǒng)補(bǔ)丁。威脅情報(bào)簡(jiǎn)報(bào)智能體生成可能威脅組織系統(tǒng)的網(wǎng)絡(luò)安全威脅報(bào)告。

03

無(wú)相：L4 級(jí)高階智能體的保駕護(hù)航

無(wú)獨(dú)有偶，在國(guó)內(nèi)，為了實(shí)現(xiàn)真正意義上「自動(dòng)駕駛」級(jí)別的安全防護(hù)，青藤云安全推出了 全棧式安全智能體「無(wú)相」 。作為全球首個(gè)實(shí)現(xiàn)從「輔助型 AI」向「自主智能體」（Autopilot）跨越的安全 AI 產(chǎn)品，其核心突破在于顛覆傳統(tǒng)工具的「被動(dòng)響應(yīng)」模式，使其自主、自動(dòng)且智能。

通過(guò)融合機(jī)器學(xué)習(xí)、知識(shí)圖譜與自動(dòng)化決策技術(shù)，「無(wú)相」可獨(dú)立完成威脅檢測(cè)、影響評(píng)估到響應(yīng)處置的全流程閉環(huán)，實(shí)現(xiàn)真正意義上的自主決策與目標(biāo)驅(qū)動(dòng)。其「Agentic AI 架構(gòu)」設(shè)計(jì)模擬人類安全團(tuán)隊(duì)的協(xié)作邏輯：以「大腦」整合網(wǎng)絡(luò)安全知識(shí)庫(kù)支撐規(guī)劃能力，「眼睛」細(xì)粒度感知網(wǎng)絡(luò)環(huán)境動(dòng)態(tài)，「手腳」靈活調(diào)用多樣化的安全工具鏈，并通過(guò)多智能體協(xié)作形成信息共享的高效研判網(wǎng)絡(luò)，分工合作、共享信息。

在技術(shù)實(shí)現(xiàn)上，「無(wú)相」采用「ReAct 模式」（Act-Observe-Think-Act 循環(huán)）與「Plan AI + Action AI 雙引擎架構(gòu)」，確保復(fù)雜任務(wù)中的動(dòng)態(tài)糾偏能力。當(dāng)工具調(diào)用異常時(shí)，系統(tǒng)可自主切換備用方案而非中斷流程，例如在 APT 攻擊分析中，Plan AI 作為「組織者」拆解任務(wù)目標(biāo)，Action AI 作為「調(diào)查專家」執(zhí)行日志解析與威脅建模，二者基于實(shí)時(shí)共享的知識(shí)圖譜實(shí)現(xiàn)并行推進(jìn)。

功能模塊層面，「無(wú)相」構(gòu)建了完整的自主決策生態(tài)： 智能體人設(shè)模擬安全分析師的反思迭代思維，動(dòng)態(tài)優(yōu)化決策路徑； 工具調(diào)用整合主機(jī)安全日志查詢、網(wǎng)絡(luò)威脅情報(bào)檢索及 LLM 驅(qū)動(dòng)的惡意代碼分析； 環(huán)境感知實(shí)時(shí)捕獲主機(jī)資產(chǎn)與網(wǎng)絡(luò)信息；知識(shí)圖譜動(dòng)態(tài)存儲(chǔ)實(shí)體關(guān)聯(lián)，輔助決策；多智能體協(xié)作通過(guò)任務(wù)分拆與信息共享，并行執(zhí)行任務(wù)。

目前「無(wú)相」在告警研判、溯源分析以及輸出安全報(bào)告這三大核心應(yīng)用場(chǎng)景中的表現(xiàn)最為出色。

傳統(tǒng)安全運(yùn)營(yíng)中，海量告警的真?zhèn)握鐒e耗時(shí)費(fèi)力。以一次本地提權(quán)告警為例：無(wú)相的告警研判智能體自動(dòng)解析威脅特征，調(diào)用進(jìn)程權(quán)限分析、父進(jìn)程溯源、程序簽名驗(yàn)證等工具鏈，最終判定為誤報(bào)——全程無(wú)需人工介入。在青藤現(xiàn)有告警測(cè)試中，該系統(tǒng)已實(shí)現(xiàn) 100% 告警覆蓋率與 99.99% 研判準(zhǔn)確率，并將人工工作量削減超 95%。

面對(duì)真實(shí)威脅如 Webshell 攻擊，智能體通過(guò)代碼特征提取、文件權(quán)限分析等跨維度關(guān)聯(lián)，秒級(jí)確認(rèn)攻擊有效性。傳統(tǒng)需多部門協(xié)作、耗時(shí)數(shù)日的深度溯源（如上傳播徑還原、橫向影響評(píng)估），現(xiàn)由系統(tǒng)自動(dòng)串聯(lián)主機(jī)日志、網(wǎng)絡(luò)流量、行為基線等數(shù)據(jù)流，生成完整攻擊鏈報(bào)告，將響應(yīng)周期從「天」壓縮至「分鐘」。

「我們的核心是將 AI 和人的合作關(guān)系扭轉(zhuǎn)了，可以把 AI 作為一個(gè)人來(lái)合作，實(shí)現(xiàn)從 L2 到 L4 的跨越，即從輔助駕駛向高階自動(dòng)駕駛跨越?！骨嗵俾?lián)創(chuàng)兼產(chǎn)品副總裁胡俊分享道，「隨著 AI 能適配的場(chǎng)景更多，決策的成功率更高，逐漸能夠承擔(dān)更多的責(zé)任，這樣人和 AI 之間的責(zé)任分工就會(huì)有變化?！?/p>

在溯源分析這個(gè)場(chǎng)景中，首先是 Webshell 告警觸發(fā)「無(wú)相 AI」驅(qū)動(dòng)的多智能體安全團(tuán)隊(duì)協(xié)同溯源：「研判專家」基于告警定位 one.jsp 文件，生成文件內(nèi)容分析、作者溯源、同目錄排查及進(jìn)程追蹤等并行任務(wù)，由「安全調(diào)查員」智能體調(diào)用文件日志工具，快速鎖定 java（12606）進(jìn)程為寫入源，該進(jìn)程及關(guān)聯(lián)主機(jī) 10.108.108.23（通過(guò)訪問(wèn)日志發(fā)現(xiàn)高頻交互）相繼納入調(diào)查。

智能體通過(guò)威脅圖譜動(dòng)態(tài)擴(kuò)展線索，從單一文件逐層深挖至進(jìn)程、主機(jī)，研判專家匯總?cè)蝿?wù)結(jié)果綜合判定風(fēng)險(xiǎn)。此過(guò)程將人工需數(shù)小時(shí)至數(shù)天的排查壓縮至幾十分鐘，以超越人類高級(jí)安全專家的精準(zhǔn)度還原攻擊全鏈路，無(wú)死角追蹤橫向移動(dòng)路徑，紅隊(duì)評(píng)估也顯示難以規(guī)避其地毯式調(diào)查。

「大模型比人工好是因?yàn)樗軓夭檫呥吔墙牵菓{經(jīng)驗(yàn)排除可能性低的情況。」胡俊解釋道，「這樣相當(dāng)于廣度和深度都更好?！?/p>

在完成復(fù)雜攻擊場(chǎng)景的調(diào)查后，整理告警與調(diào)查線索并生成報(bào)告往往耗時(shí)費(fèi)力。而 AI 可實(shí)現(xiàn)一鍵式總結(jié)，以可視化時(shí)間線的形式清晰呈現(xiàn)攻擊過(guò)程，如同電影般連貫展示關(guān)鍵節(jié)點(diǎn)——系統(tǒng)會(huì)自動(dòng)梳理關(guān)鍵證據(jù)生成攻擊鏈的關(guān)鍵幀，并結(jié)合環(huán)境上下文信息，最終生成動(dòng)態(tài)的攻擊鏈路圖譜，讓整個(gè)攻擊軌跡以直觀、立體的方式呈現(xiàn)。

04

結(jié)語(yǔ)

很顯然，AI 技術(shù)的發(fā)展為網(wǎng)絡(luò)安全帶來(lái)雙重挑戰(zhàn)。

一方面，攻擊者利用 AI 實(shí)現(xiàn)攻擊的自動(dòng)化、個(gè)性化和隱蔽化；另一方面，防御方需加速技術(shù)創(chuàng)新，通過(guò) AI 增強(qiáng)檢測(cè)與響應(yīng)能力。未來(lái)，攻防雙方的 AI 技術(shù)競(jìng)賽將決定網(wǎng)絡(luò)安全的整體態(tài)勢(shì)，而安全智能體的完善將是平衡風(fēng)險(xiǎn)與發(fā)展的關(guān)鍵。

而安全智能體「無(wú)相」在安全架構(gòu)與認(rèn)知層面都帶來(lái)了新的變化。

「無(wú)相」本質(zhì)上是改變了對(duì) AI 的使用方式，其突破性在于將多維數(shù)據(jù)感知、防護(hù)策略生成與決策可解釋性熔鑄為有機(jī)整體——從過(guò)往將 AI 作為工具使用的模式轉(zhuǎn)變?yōu)榻o AI 賦能使其能自主且自動(dòng)地工作。

通過(guò)關(guān)聯(lián)分析日志、文本、流量等異構(gòu)數(shù)據(jù)，系統(tǒng)能在攻擊者構(gòu)建完整攻擊鏈前捕捉 APT 活動(dòng)的蛛絲馬跡。更關(guān)鍵的是，其決策過(guò)程的可視化推理解釋，讓傳統(tǒng)工具「知其然不知其所以然」的黑盒告警成為歷史——安全團(tuán)隊(duì)不僅能看見威脅，更能理解威脅的演化邏輯。

這個(gè)革新的本質(zhì)是安全思維從「亡羊補(bǔ)牢」到「未雨綢繆」的范式躍遷，是對(duì)攻防博弈規(guī)則的重新定義。

「無(wú)相」如同擁有數(shù)字直覺的獵手：通過(guò)實(shí)時(shí)建模內(nèi)存操作等微觀行為特征，它能從海量噪聲中揪出潛伏的自定義木馬；動(dòng)態(tài)攻擊面管理引擎持續(xù)評(píng)估資產(chǎn)風(fēng)險(xiǎn)權(quán)重，確保防護(hù)資源精準(zhǔn)投向關(guān)鍵系統(tǒng)；而威脅情報(bào)的智能消化機(jī)制，則將日均萬(wàn)條告警轉(zhuǎn)化為可行動(dòng)的防御指令，甚至預(yù)測(cè)攻擊變種的演化方向——當(dāng)傳統(tǒng)方案還在疲于應(yīng)對(duì)已發(fā)生的入侵時(shí)，「無(wú)相」已在對(duì)攻擊者的下一步落子進(jìn)行預(yù)判封堵。

「AI 智能中樞系統(tǒng)（高階安全智能體）的誕生，將會(huì)徹底重塑網(wǎng)絡(luò)安全的格局。而我們唯一需要做的，就是徹底抓住這個(gè)機(jī)會(huì)?！箯埜５?。