可信 Agentic AI：网络安全与系统综述——威胁态势、防御架构及开放挑战

arXiv:2609.13731v1 公告类型：新发布 摘要：AI 正经历从被动式基础模型向自主、目标驱动的 agentic AI 系统（Agent 化 AI 系统）转型，通过耦合递归式认知推理循环、持久化记忆架构、实时工具执行层以及多智能体协作拓扑，带来了前所未有的能力。然而，当概率性神经核心获得跨文件系统、网络与云基础设施的执行权限时，经典的安全边界随之瓦解：自然语言同时充当输入数据、内部控制代码与通信协议，暴露出图灵完备的影响范围（blast radius），使得不可信数据等同于可执行指令。本综述为可信 agentic AI 构建了一套全面的系统安全参考框架，综合了 206 项基础研究与监管标准。我们将通用智能体架构形式化为有状态的五元组（5-tuple），并建立了涵盖安全性（security）、可靠性（safety）、隐私、可解释性、公平性与问责性的六维可信度分类体系。我们系统分析了执行内循环与交互平面上的威胁面，构建了融合 Dual-LLM 隔离、基于能力的访问控制（Capability-Based Access Control）、内核 eBPF 探针与沙箱化运行时的多层零信任纵深防御架构，梳理了标准化的评估 benchmark，并将技术控制措施与国际 AI 治理框架进行了映射。