新浪科技訊 8月7日下午消息，數字在ISC.AI 2025未來峰會上，安全安全360數字安全集團總裁胡振泉指出：“隨著大模型技術加速落地與智能體的集團基因規模化應用，AI安全風險也正呈現出‘內憂外患’的總裁復雜態勢?！?/p>

　　他指出，存大超傳疇從內部來看，缺陷AI存在與生俱來的復雜“四大基因缺陷”：一切皆可編程、一切皆可模仿、度遠一切皆可生成、統范一切皆可調度。數字從外部來看，安全安全一方面，集團基因針對AI系統的總裁攻擊將變成大國博弈的關鍵；另一方面，黑灰產利用AI批量制造攻擊武器，存大超傳疇甚至部署“黑客智能體”，缺陷傳統安全防御體系難以應對。

　　“這些風險交織，使得AI安全的復雜程度遠超傳統范疇”。胡振泉強調，AI安全既涵蓋網絡、數據等傳統安全問題，也涉及AI內容安全、應用安全及未來場景安全。廣大政企機構在AI落地過程中面臨的安全挑戰，已遠遠超出網絡與數據安全的原有邊界，亟需一套系統性的創新解決方案。

　　據他介紹，360提出的“以模制模”新思路，利用人工智能技術自身優勢對抗AI安全風險，并打磨出360大模型安全衛士，通過四大安全智能體形成閉環防護體系。

　　其中，內容安全智能體作為AI內容“守門人”，通過幻覺抑制、安全風控等專用模型，實時審核輸入輸出內容，攔截違法違規信息，抑制虛假生成，為黨政軍企等場景筑牢內容安全防線。

　　AI Agent安全智能體聚焦智能體執行安全，通過異常行為識別、權限管控及人工審核，防范數據泄露與越權操作，確保 AI“行動能力” 可控。

　　軟件安全智能體掃描AI軟件漏洞與配置缺陷，排查開源組件風險，從源頭保障AI系統供應鏈安全。

　　安全風險評估智能體：以實戰化模擬攻擊（如注入攻擊、數據竊?。┨崆氨┞断到y短板，幫助客戶發現多項關鍵隱患。（文猛）

海量資訊、精準解讀，盡在新浪財經APP

責任編輯：楊賜