LLM Agent 社会的金融脆弱性：协调失灵与稳定机制

arXiv:2609.30940v1 公告类型：new 摘要：个体层面的保护性决策可能导致本可避免的集体性失败。随着大语言模型（LLM）Agent 在金融决策中承担越来越重要的角色，金融 AI 安全因此不仅必须在单个 Agent 层面加以考量，也必须在其共同构成的系统层面加以评估。我们通过 FRAIL 研究这一问题——这是一个受控实验框架，将 LLM Agent 置于三种动态金融环境中——银行挤兑、债务滚动与奖励型众筹——在这些环境中，Agent 的决策会改变其他 Agent 所面临的金融条件。在七款领先的 LLM 上，我们发现了普遍的集体脆弱性，即便没有任何 Agent 被指示去破坏系统稳定：77% 的基线银行挤兑回合和 83% 的债务滚动回合以失败告终。随后，我们比较了三种交互机制：基于补偿承诺的机制、集中式承诺协议，以及由参与者主导的联盟。三种机制都改善了总体结果，但没有任何一种机制在所有金融结构中表现最优。在这些机制中，成功的稳定化呈现出共同的时间模式：广泛的承诺在防御行为形成自我强化之前早早建立。我们的研究结果表明，个体能力出色的 Agent 并不会自动形成安全的金融系统，这凸显出系统性评估与交互设计是金融 AI 安全的核心问题。代码见 https://anonymous.4open.science/r/FinFrail-CF26。