作者：派拓網(wǎng)絡(luò)產(chǎn)品管理副總裁Elad Koren
今年4月，Anthropic首席信息安全官（CISO）做出了一項令人震驚的預(yù)測：在未來一年內(nèi)，持有企業(yè)認(rèn)證的AI虛擬員工將開始投入到企業(yè)運營中。這些智能體不僅將協(xié)助完成工作，還會成為員工隊伍的成員。
圖源：Andrey_Popov
企業(yè)這樣做的原因也很明顯：AI智能體能夠擴大自動化的規(guī)模、降低運營成本，并且連續(xù)工作。Salesforce已將這一愿景變?yōu)楝F(xiàn)實——于近期推出了AI“數(shù)字同事”。預(yù)計未來兩年AI智能體部署量將增長327%，但從網(wǎng)絡(luò)安全角度來看，這一演進帶來了創(chuàng)新與風(fēng)險并存的復(fù)雜局面。企業(yè)不僅授予軟件系統(tǒng)訪問權(quán)限，更是在賦予其身份、自主權(quán)和決策能力。這將徹底改變企業(yè)的安全策略。
具有自主權(quán)且經(jīng)過認(rèn)證的AI智能體易受攻擊
需要明確的是，這些AI智能體并非傳統(tǒng)意義上的工具。與傳統(tǒng)自動化或服務(wù)賬戶不同，這些智能體以認(rèn)證用戶的身份使用企業(yè)資質(zhì)進行操作、做出決策、與系統(tǒng)和數(shù)據(jù)互動，甚至在某些情況下執(zhí)行敏感任務(wù)。這意味著它們將擁有與人類員工相同的訪問權(quán)限，并因此可能帶來相同的安全風(fēng)險。
但與人類不同，AI智能體無法理解背景、意圖和后果。它們可能被提示注入或?qū)剐暂斎氲燃夹g(shù)欺騙、操縱或脅迫。長期以來，我們都認(rèn)為人類是整條安全鏈中最薄弱的環(huán)節(jié)，我們的心理弱點會被釣魚攻擊和社會工程學(xué)計劃所利用。但AI智能體是一個更脆弱的目標(biāo)——它們會直接接受表面信息、不會求助，并且以機器的速度運行。一旦被入侵，它們可能成為埋藏在企業(yè)環(huán)境深處的一個持久而巨大的隱患。
重新思考AI時代的安全問題
登錄、密碼和訪問/權(quán)限級別等傳統(tǒng)安全工具圍繞人類行為設(shè)計。AI員工讓這些工具失去了作用，數(shù)量遠(yuǎn)超人類用戶的非人類身份正在成為云環(huán)境中的主導(dǎo)力量。
隨著云投資持續(xù)呈爆發(fā)式增長（AI被認(rèn)為是最大的推動力），并且越來越多的AI智能體被部署到云端，企業(yè)需要轉(zhuǎn)向新一代AI安全工具，才能對AI去蕪存菁，尤其是要解決以下問題：
·AI代理在企業(yè)內(nèi)部將擁有何種程度的自主權(quán)和權(quán)限？
·如何監(jiān)控特權(quán)活動并檢測異常行為？
·智能體是否會被提示注入或?qū)剐暂斎肜没蚱平猓?
·智能體的訓(xùn)練數(shù)據(jù)來自何處？
AI智能體可能成為新一代企業(yè)內(nèi)部威脅
AI為應(yīng)用堆棧帶來了未經(jīng)驗證的新組件，包括基礎(chǔ)設(shè)施、模型、數(shù)據(jù)集、工具和插件。而隨著代理的引入，AI創(chuàng)新達(dá)到了空前的速度。不同于大語言模型（LLM），智能體能夠自主推理、采取行動，并與其他智能體進行協(xié)調(diào)。AI智能體將被授予持續(xù)的訪問權(quán)限，它們不會休息和休假，而且可以大規(guī)模地部署到多個部門。這增加了企業(yè)環(huán)境的復(fù)雜性，并帶來了新的安全風(fēng)險。如果智能體被“策反”，其在數(shù)分鐘內(nèi)就能造成惡意內(nèi)部人員數(shù)月才能造成的破壞。
AI員工的風(fēng)險可能很快就會接近甚至超越內(nèi)部人員，成為最危險的威脅來源。OWASP近期發(fā)布的《AI智能體威脅和應(yīng)對之策》重點介紹了提示注入、工具濫用、身份冒充等新型威脅。值得注意的是，Unit 42最新研究發(fā)現(xiàn)，提示注入仍是最強大和最靈活的攻擊途徑之一，能夠盜取數(shù)據(jù)、濫用工具和篡改代理行為。
一直以來，網(wǎng)安防御體系都是圍繞人類構(gòu)建的。如今，企業(yè)需要對以其員工名義行動的機器采取同樣甚至更嚴(yán)格的措施。
派拓網(wǎng)絡(luò)Prisma AIRS讓企業(yè)放心采用AI
派拓網(wǎng)絡(luò)推出的Prisma人工智能運行時安全（AIRS）專為幫助企業(yè)發(fā)現(xiàn)、評估和保護其環(huán)境中的每一個AI應(yīng)用、模型、數(shù)據(jù)集和智能體而設(shè)計。通過采用Prisma AIRS，企業(yè)可獲得一個具有以下功能的綜合平臺：
·AI模型掃描：通過掃描模型漏洞確保AI模型使用的安全。保護AI生態(tài)系統(tǒng)免受模型篡改、惡意腳本和反序列化攻擊等風(fēng)險。
·AI安全態(tài)勢管理：深入了解與AI生態(tài)系統(tǒng)相關(guān)的安全態(tài)勢風(fēng)險，例如權(quán)限過多、敏感數(shù)據(jù)暴露、平臺配置錯誤、訪問配置錯誤等。
·AI紅隊測試：在攻擊者發(fā)現(xiàn)之前，發(fā)現(xiàn)潛在的漏洞問題和隱藏風(fēng)險。派拓網(wǎng)絡(luò)的紅隊測試智能體能夠?qū)I應(yīng)用和模型進行自動滲透測試，從而對AI部署進行壓力測試，并像真正的攻擊者一樣不斷學(xué)習(xí)和調(diào)整。
·運行時安全：保護基于大語言模型（LLM）的AI應(yīng)用、模型和數(shù)據(jù)免受運行時威脅，例如提示注入、惡意代碼、有毒內(nèi)容、敏感數(shù)據(jù)泄露、資源過載、幻覺等。
·AI智能體安全：保護智能體（包括基于無代碼/低代碼平臺開發(fā)的智能體）免受新型智能體威脅，例如身份冒充、內(nèi)存操縱和工具濫用等。
AI正在重塑攻擊模式和企業(yè)的運營方式，而Prisma AIRS能夠做出同樣快速的響應(yīng)，使企業(yè)放心使用未來的AI技術(shù)。
點擊了解派拓網(wǎng)絡(luò)Prisma AIRS這個全面的AI安全平臺如何保護企業(yè)的AI應(yīng)用、智能體、模型和數(shù)據(jù)。
