面向 Agentic AI 系统的 Value-Preserving 架构

arXiv:2609.03920v1 公告类型: new 摘要: 自主式 AI 与基于 LLM 的多智能体系统（MAS）的兴起，为自动化复杂任务带来了前所未有的机遇，同时也引发了关于基本人本价值（如隐私、公平性和安全性）保护的关键关切。尽管软件工程传统上侧重于功能正确性，但将 LLM 和 AI agent 引入复杂社会技术系统，加剧了负责任软件工程与稳健价值对齐的需求。在 MAS 中，架构设计决策——如协调机制、通信协议和系统拓扑——在塑造系统行为及其产生的结果方面发挥着核心作用。本文认为，架构选择不仅影响 MAS 的功能与性能，还能促进面向价值的系统行为。因此，我们研究了不同架构设计如何支持不同的人本价值，并讨论了以下价值保护型架构模式：（i）采用联邦拓扑的隐私感知架构，（ii）促进多元主义与多样性的分布式架构，以及（iii）用于检测和缓解不公平性的 guard-agent 架构。最后，我们介绍了代表性用例，以说明所提出架构在真实场景中的应用。通过将架构设计与人本价值相联系，本工作为可信 MAS 设计的统一架构模式与指南奠定了基础。