報告稱英偉達人工智能軟件可被輕易破解 存在泄露用戶隱私的風險
6 月 9 日消息,據英國《 金融 時報》報道,英偉達人工智能軟件“NeMo” 可被輕易繞過安全限制,并且有可能泄露用戶隱私。
圖源:英偉達
報道稱,NeMo 是一款面向企業客戶的軟件,可結合企業用戶數據與大語言模型,以此回答用戶的問題。其應用場景包括客服和回答簡單醫療問題等。加州信息安全公司 Robust 在報告中表示,惡意使用者能輕易繞開 NeMo 內部的 AI 系統安全限制。Robust 的研究員僅耗費幾小時,便繞開了這些語言模型的使用限制。
圖源:英偉達
IT之家注意到,在其中一項測試中,研究人員要求 NeMo 用字母“J”替代“I”,這使得 NeMo 公布了數據庫中的用戶個人信息。此外,研究人員還發現,盡管已將 NeMo 設定為僅能為用戶提供擇業建議,但通過引導式提問使 NeMo 討論了好萊塢演員的健康情況和普法戰爭等話題。這意味著系統內阻止 AI 討論特定話題的限制已經失效。
圖源:英偉達
英偉達副總裁喬納森科恩表示,NeMo 架構只是為了幫助打造符合開發者所定義的主題的聊天機器人,其以開源軟件的形式發布給開發者。目前,這些漏洞已被修復。科恩拒絕透露有多少企業使用 NeMo 架構,但強調英偉達沒有收到其他關于漏洞的報告。
【來源: IT之家 】