欧美中文字幕第一页-欧美中文字幕一区-欧美中文字幕一区二区三区-欧美中文字幕在线-欧美中文字幕在线播放-欧美中文字幕在线视频

黑客已經(jīng)有40多種攻擊大模型的手段,如何用AI對抗AI?

我是創(chuàng)始人李巖:很抱歉!給自己產(chǎn)品做個廣告,點擊進來看看。  

黑客已經(jīng)有40多種攻擊大模型的手段,如何用AI對抗AI?

當普通用戶驚訝于最新的GPT-4o和Gemini 1.5 Pro多模態(tài)AI助手的強大能力時。

嗅覺靈敏的黑客們也已經(jīng)借助生成式AI開啟了新的“狂歡”。

今年初,黑客攻擊了一個美國的AI基礎(chǔ)設(shè)施平臺,并將GPU用于挖比特幣獲益。

“黑客已經(jīng)慢慢增加或轉(zhuǎn)移攻擊目標,除了傳統(tǒng)資產(chǎn), 保護企業(yè)的資產(chǎn)演進為保護企業(yè)的AI中心。”亞信安全高級副總裁陳奮同時提醒, “個人和家庭安全,也從原來的終端演進為保護包括智能家居和智能網(wǎng)聯(lián)汽車在內(nèi)的家庭AI中心。”

網(wǎng)絡(luò)安全的攻防已經(jīng)從人和人之間的對抗,升級為AI和AI的對抗, 只有AI驅(qū)動的網(wǎng)絡(luò)安全防護檢測技術(shù)才能識別AI驅(qū)動的黑客攻擊技術(shù)。

安全大模型應(yīng)運而生。

近期舉辦的以“安全AI未來”為主題的C3安全大會·2024上, 亞信安全發(fā)布了網(wǎng)絡(luò)安全行業(yè)領(lǐng)域自研大模型——信立方 ,能夠用于網(wǎng)絡(luò)安全行業(yè)的精準問答、復(fù)雜的告警日志解讀、深度的網(wǎng)絡(luò)安全事件分析等專用場景。

未來網(wǎng)絡(luò)安全公司和黑客的AI攻防賽將會如何??

黑客用AI攻擊,效率高,基礎(chǔ)設(shè)施成新目標

ChatGPT發(fā)布后,全球的黑客們的網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)犯罪也隨之升級。

過去, 一個黑客生產(chǎn)一個攻擊病毒需要數(shù)月時間。現(xiàn)在,通過生成式AI的工具,可能幾個小時,甚至幾分鐘就能生成一個攻擊病毒 ,效率大幅提升。

陳奮同時發(fā)現(xiàn),“大模型對于編程語言的理解也非常強,攻擊者可以利用大模型迅速發(fā)現(xiàn)軟件的漏洞,漏洞是黑客攻擊系統(tǒng)的核武器。”

那些“商業(yè)嗅覺”靈敏的黑客,已經(jīng)用AI攻擊獲利。

比如,有黑客利用AI算法,快速在視頻中做人臉的深度偽造,新型的網(wǎng)絡(luò)詐騙犯罪隨之涌現(xiàn)。

還有,黑客的攻擊目標除了傳統(tǒng)資產(chǎn),還盯上了高價值的以GPU為基礎(chǔ)的AI算力基礎(chǔ)設(shè)施和大模型,這是網(wǎng)絡(luò)安全領(lǐng)域出現(xiàn)的新變化。

黑客已經(jīng)有40多種攻擊大模型的手段,如何用AI對抗AI?

“去年短短一年時間,針對大模型的攻擊手段已經(jīng)涌現(xiàn)出40種不同的類型。”陳奮表示。

針對大模型的攻擊,影響巨大。

陳奮和團隊在實驗室中搭建了Llama2的環(huán)境,模擬去年發(fā)現(xiàn)的海綿樣本攻擊,大致原理是通過向大模型發(fā)布特殊的樣本,讓大模型的算力消耗急劇上升,原來短時間能做出響應(yīng)的需求,現(xiàn)在可能需要大量時間去計算。

讓原來幾秒就可以返回結(jié)果的大模型,受到攻擊后60秒以上才能返回結(jié)果 ,慢了20倍以上。

“如果未來核心應(yīng)用都是大模型驅(qū)動的AI原生應(yīng)用,基本上就會癱瘓。” 陳奮同時說,“這只是一個相對比較基礎(chǔ)的攻擊事例,針對大模型的攻擊很快會到來。”

整個網(wǎng)絡(luò)安全行業(yè)增在革新,全球安全公司都在行動。

微軟在今年5月份正式商用了Security Copilot,并聲稱在未來要投入千億美金。谷歌去年發(fā)布了網(wǎng)絡(luò)安全專有大模型,已經(jīng)應(yīng)用到云安全能力中心中。?

如何用AI對抗AI?

亞信安全沒有搶著第一時間發(fā)布安全大模型,近期才發(fā)布了信立方。

“沒有第一時間發(fā)布,是因為 我們在思考大模型能否變成我們產(chǎn)品的原生能力。 我們希望把底層通用框架建設(shè)好,MaaS服務(wù)平臺,模型級服務(wù)平臺,再疊加上層的智能體框架。”陳奮分享,“我們發(fā)布的信立方更多是從原生的角度思考如何與各個產(chǎn)業(yè)整合,而不是簡單去做運維效率的提升或者運維的解析。”

“隨著信立方的發(fā)布,這個目標已經(jīng)基本達成,MaaS服務(wù)和多智能體應(yīng)用已經(jīng)向亞信安全全線產(chǎn)品進行開放,所有的安全產(chǎn)品能夠快速集成大模型的能力,構(gòu)建網(wǎng)絡(luò)安全智能體應(yīng)用。”陳奮進一步表示。

亞信安全的MaaS服務(wù)平臺提供了豐富的API接口和Agent框架,集成了數(shù)十種的場景,包括安全日志告警分析,安全態(tài)勢的智能分析,安全運營數(shù)字人小信同學(xué)等。

信立方大模型發(fā)布的同時,亞信安全也提出了“信計劃”(XPLAN)暨安全為AI(Security for AI)和AI為安全(AI for Security)。

黑客已經(jīng)有40多種攻擊大模型的手段,如何用AI對抗AI?

“安全為AI”包含了全新研發(fā)的保護算力云基礎(chǔ)設(shè)施安全、大模型應(yīng)用安全防護、大模型紅藍對抗測試等服務(wù);“AI為安全”聚焦網(wǎng)絡(luò)安全行業(yè)垂直大模型的研發(fā)及運行于其上的智能體和安全應(yīng)用。

黑客已經(jīng)有40多種攻擊大模型的手段,如何用AI對抗AI?

雷峰網(wǎng) (公眾號:雷峰網(wǎng)) 了解到, 信計劃分為兩大部分:

第一部分是專注給算力基礎(chǔ)設(shè)施,給大模型提供安全解決方案。

陳奮透露,“針對AI算力基礎(chǔ)設(shè)施的安全,目前落地了東數(shù)西算成都的節(jié)點,以及算力云的安全保護。我們還在跟進國家東數(shù)西算算力節(jié)點安全項目。”

第二部分,是和大模型生態(tài)公司合作,為他們提供大模型安全的紅隊測試、大模型安全防護的產(chǎn)品。

紅隊測試指的是在大模型上線前,紅隊專家通過提示安全、應(yīng)用安全測試、Agent安全、MaaS服務(wù)平臺安全等八個方向,對大模型進行紅隊安全檢查。

OpenAI每次發(fā)布全新版本大模型前,都會找頂尖紅隊進行測試,幫他發(fā)現(xiàn)大模型安全風(fēng)險。

黑客已經(jīng)有40多種攻擊大模型的手段,如何用AI對抗AI?

那AI到底如何保護包括云基礎(chǔ)設(shè)施在內(nèi)的AI算力基礎(chǔ)設(shè)施安全?

針對AI基礎(chǔ)設(shè)施的攻擊原理和傳統(tǒng)的攻擊類似, 會用到一些算力算法的漏洞。

“防護的難度沒有出現(xiàn)指數(shù)級增加,只是需要我們在防護規(guī)則上能夠適配這一場景,能夠識別出威脅。” 陳奮對雷峰網(wǎng)表示,“有些檢測算法用傳統(tǒng)的模型,有些算法需要安全大模型,所以我們采用混合調(diào)度架構(gòu)更加靈活。”

面向AI基礎(chǔ)設(shè)施安全,亞信安全也推出了全棧一體化解決方案。

陳奮介紹,AI算力基礎(chǔ)設(shè)施的底層硬件是GPU服務(wù)器,不能用傳統(tǒng)虛擬化技術(shù)做算力資源池,大部分算力平臺是基于K8S云原生化的平臺把算力放到云原生資源池里面進行調(diào)度,亞信安全今年推出全棧一體化云安全覆蓋的范圍。

亞信安全的算力云安全保護整體解決方案,在適配算力云特點的基礎(chǔ)上,覆蓋了從云底層安全、云工作負載安全到云原生應(yīng)用安全等全棧一體化云安全能力。

AI時代的安全更需要產(chǎn)業(yè)鏈合作

C3安全大會·2024上,美的集團首席信息安全官兼軟件工程院院長劉向陽透露,“我們做安全運營時,安全日志每天80億條,僅告警就有20萬條,很難用人力處理。引入安全大模型后,把安全告警需要人工研判的數(shù)量從20萬條降到了100~200條,這就是人工能夠處理的程度了。”

看到安全大模型顯著效果的同時,也要意識到只做大模型的安全,解決不了大模型安全的問題。

“之前我們做云安全就有體會,整個供應(yīng)鏈,包括數(shù)據(jù)方面,很多企業(yè)都不愿意將數(shù)據(jù)放到公共算力上。 到大模型時代也一樣,僅僅把大模型安全做好沒用。”亞信安全高級副總裁兼CDO吳湘寧說, “現(xiàn)在大家都還在探索大模型生態(tài)安全的建設(shè),可以明確的是整個生態(tài)鏈打開后,很多技術(shù)使用場景都會發(fā)生改變。”

亞信安全會從4個層面和生態(tài)合作伙伴合作,打造更具競爭力的AI安全解決方案。

大模型算法層面,“我們認為在行業(yè)場景,閉源大模型的能力比開源模型更好,我們堅持閉源和開源兩條相合作路線。”陳奮說,“亞信安全做了一層專家混合模式調(diào)度模式,可以根據(jù)用戶的需求場景和預(yù)算靈活選擇用開源還是閉源模型。”

算力生態(tài)層面,亞信安全和算力公司合作,租用算力節(jié)點。反過來云計算提供商也可以買亞信安全的算力云安全解決方案。

“我們還和清華大學(xué)和中科院深度合作,亞信安全&清華大學(xué)智能產(chǎn)業(yè)研究院聯(lián)合研發(fā)行動升級計劃也在C3安全大會上發(fā)布。”陳奮指出,企業(yè)在應(yīng)用場景做得更好,比較深度算法的優(yōu)化,需要發(fā)揮科研者的力量。

黑客已經(jīng)有40多種攻擊大模型的手段,如何用AI對抗AI?

在國際合作方面,亞信安全也會發(fā)揮優(yōu)勢,把國際一流的技術(shù)引入國內(nèi)。

“安全最終保護的是網(wǎng)絡(luò)和操作系統(tǒng),大模型本質(zhì)上就是未來的操作系統(tǒng)。” 吳湘寧說,“亞信會持續(xù)在這兩個領(lǐng)域方向重點投入。”

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見 轉(zhuǎn)載須知 。

隨意打賞

提交建議
微信掃一掃,分享給好友吧。
主站蜘蛛池模板: 妖精视频一区二区三区 | 国产精品美女一级在线观看 | 一级淫片免费看 | 精品国产成人系列 | 综合亚洲网 | 天天综合射| 国产精品久久久久影院 | 国产草比| 免费看欧美理论片在线 | 九九热线有精品视频99 | 精品国产一二三区在线影院 | 全部免费毛片在线 | 成人免费视频视频在线观看 免费 | 96精品视频在线播放免费观看 | 老子影院午夜伦手机不卡6080 | 亚洲在线视频 | 综合在线视频精品专区 | 不卡一二区 | 99热这里只有精品在线 | 亚洲精品专区一区二区三区 | 自拍 欧美 在线 综合 另类 | 日韩亚洲精品不卡在线 | 99色视频在线观看 | 久久99久久精品97久久综合 | 国产成人精品一区二区免费 | 免费不卡| 亚洲区欧美中文字幕久久 | 国产福利网站 | 国产在线观看不卡 | 亚洲国产精品日韩在线观看 | 日韩欧美在线一级一中文字暮 | 亚洲精品乱码久久久久 | 日韩欧美亚洲国产一区二区三区 | 亚洲精品一区二区三区婷婷 | 奇米888第四色 | yellow中文字幕久久网 | 国产高清对白国产露脸91 | 四虎最新免费观看网址 | 国产99视频精品免视看7 | 青青青爽线在线视频观看 | 日产国产精品久久久久久 |