新浪科技訊 8月7日下午消息，數(shù)字在ISC.AI 2025未來峰會上，安全安全360數(shù)字安全集團(tuán)總裁胡振泉指出：“隨著大模型技術(shù)加速落地與智能體的集團(tuán)基因規(guī)模化應(yīng)用，AI安全風(fēng)險也正呈現(xiàn)出‘內(nèi)憂外患’的總裁復(fù)雜態(tài)勢。”
他指出，存大超傳疇從內(nèi)部來看，缺陷AI存在與生俱來的復(fù)雜“四大基因缺陷”：一切皆可編程、一切皆可模仿、度遠(yuǎn)一切皆可生成、統(tǒng)范一切皆可調(diào)度。數(shù)字從外部來看，安全安全一方面，集團(tuán)基因針對AI系統(tǒng)的總裁攻擊將變成大國博弈的關(guān)鍵；另一方面，黑灰產(chǎn)利用AI批量制造攻擊武器，存大超傳疇甚至部署“黑客智能體”，缺陷傳統(tǒng)安全防御體系難以應(yīng)對。
“這些風(fēng)險交織，使得AI安全的復(fù)雜程度遠(yuǎn)超傳統(tǒng)范疇”。胡振泉強(qiáng)調(diào)，AI安全既涵蓋網(wǎng)絡(luò)、數(shù)據(jù)等傳統(tǒng)安全問題，也涉及AI內(nèi)容安全、應(yīng)用安全及未來場景安全。廣大政企機(jī)構(gòu)在AI落地過程中面臨的安全挑戰(zhàn)，已遠(yuǎn)遠(yuǎn)超出網(wǎng)絡(luò)與數(shù)據(jù)安全的原有邊界，亟需一套系統(tǒng)性的創(chuàng)新解決方案。
據(jù)他介紹，360提出的“以模制模”新思路，利用人工智能技術(shù)自身優(yōu)勢對抗AI安全風(fēng)險，并打磨出360大模型安全衛(wèi)士，通過四大安全智能體形成閉環(huán)防護(hù)體系。
其中，內(nèi)容安全智能體作為AI內(nèi)容“守門人”，通過幻覺抑制、安全風(fēng)控等專用模型，實時審核輸入輸出內(nèi)容，攔截違法違規(guī)信息，抑制虛假生成，為黨政軍企等場景筑牢內(nèi)容安全防線。
AI Agent安全智能體聚焦智能體執(zhí)行安全，通過異常行為識別、權(quán)限管控及人工審核，防范數(shù)據(jù)泄露與越權(quán)操作，確保 AI“行動能力” 可控。
軟件安全智能體掃描AI軟件漏洞與配置缺陷，排查開源組件風(fēng)險，從源頭保障AI系統(tǒng)供應(yīng)鏈安全。
安全風(fēng)險評估智能體：以實戰(zhàn)化模擬攻擊（如注入攻擊、數(shù)據(jù)竊取）提前暴露系統(tǒng)短板，幫助客戶發(fā)現(xiàn)多項關(guān)鍵隱患。（文猛）
海量資訊、精準(zhǔn)解讀，盡在新浪財經(jīng)APP 責(zé)任編輯：楊賜
相關(guān)文章
精彩導(dǎo)讀
熱門資訊
關(guān)注我們
