AI Agent合谋风险引发市场决策认证要求讨论

arXiv:2608.18078v1 Announce Type: new Abstract: 本立场论文指出，具备 chain-of-thought 推理能力的 AI Agent 天生倾向于表现出串谋行为，因此在做出影响经济市场的决策之前，应当被要求获得行为认证。这是因为将这些 Agent 整合进社会，可能会瓦解独立企业之间竞争与串谋的法律证据区分，却不会削弱经济损害层面的区分。在 Bertrand 寡头定价领域对 DeepSeek-R1 Agent 进行的实验揭示了一种趋向默契串谋的倾向，即使人类提示 Agent 不要串谋，这种倾向依然存在。我们进一步表明，这些 Agent 的 chain-of-thought 可以被引导至极端串谋或高度竞争的行为，而另一种 LLM 在分析推理轨迹时，无法从语义层面检测到这种操控。因此，将推理 Agent 部署用于市场决策，会导致串谋性的经济结果，却不会产生任何阴谋或意图的证据。由此，基于代表性情境中观察到的行为进行认证，对于防止串谋是必要的。我们提供了初步证据，表明这类 Agent 可以被以可泛化的方式引导至有效竞争均衡。然而，在将这些模型部署于真实世界市场并确保其稳定性与效率之前，仍需开发全面的行为认证体系。