返回资讯列表
高扇出 Agent 沙箱的内存压缩技术

高扇出 Agent 沙箱的内存压缩技术

2026年9月12日作者:AI铺子编辑部
行业动态

11294v1 公告类型:新发布 摘要:高扇出(high-fanout)的 Agent 工作负载正造成日益严重的内存瓶颈,因为单个任务可能衍生出大量并发沙箱会话

arXiv:2609.11294v1 公告类型:新发布 摘要:高扇出(high-fanout)的 Agent 工作负载正造成日益严重的内存瓶颈,因为单个任务可能衍生出大量并发沙箱会话。然而,这些沙箱远非相互独立:它们源自同一共享模板,并执行相关的轨迹,从而暴露出相当可观的模板相对(template-relative)冗余与跨沙箱内存冗余。传统的内存压缩技术在这类场景中存在三个根本维度上的错配:如何压缩——因为它们无法利用非完全相同沙箱页面之间的相似性;压缩什么——因为它们通过保守的页面选择来控制缺页中断开销;以及何时压缩——因为压缩要么由内存压力触发,要么在执行时完全不了解 Agent 的执行阶段。 我们提出 AgentZip——首个专为 AI Agent 沙箱设计的内存压缩系统。AgentZip 引入了可同时利用模板相对冗余与跨沙箱冗余的压缩机制。它将压缩范围扩大到任何具有收益表示形式的页面,并将开销控制从压缩时的页面选择转移到恢复时的预取(prefetching)。此外,它还将开销较高的压缩操作与 LLM 的等待时段对齐,以避免干扰前台的工具执行。在各类 LLM 训练与推理工作负载上,AgentZip 最多可将沙箱占用的内存降低 8.7 倍,而 Linux 配置下的降幅仅为 2.1 倍。恢复预取与感知 Agent 执行阶段的调度,将激进压缩带来的性能下降从最高 3.1 倍降至 1.40 倍,同时几乎完整保留了其节省内存的收益。
来源:arXiv cs.AI | 查看原文

本文内容仅供参考,不构成任何投资或使用建议。AI铺子不对文章内容的准确性承担责任。 详情请参阅免责声明