Agentic AI 自适应推理：不过度思考，也不欠思考

arXiv:2608.26442v1 公告类型：new

摘要：近期 Large Language Models（LLMs）的研究表明，增加推理时间的思考量能够提升复杂任务上的表现。然而，许多现有方法依赖于固定或预分配的推理控制机制，例如固定的 token 预算、执行前的难度预估，或激活空间干预，且通常仅在独立的 reasoning benchmark 上进行评估，而非完整的 agentic workflow。这些假设在 agentic AI 系统中可能并不成立——在该类系统中，推理需求会通过规划、工具调用、记忆检索以及 agent 间交互而动态演变。因此，推理可能变得过度或不足，导致不必要的计算开销、延迟增加、规划漂移、过度工具调用，或解决方案不完整。我们认为，下一代 agentic AI 面临的核心挑战并非语言模型应该进行多少推理，而是如何根据不断演化的任务需求来分配推理资源。我们将 over-reasoning 和 under-reasoning 界定为推理资源错配的反复出现的失效模式，并在 MATH-500 及 GAIA 公开验证 benchmark 上对其进行评估。通过工具决策延迟、token 消耗、token 上限耗尽情况以及答案正确性等指标，我们的结果表明，被归类为 over-reasoning 的案例伴随着更高的计算成本，却未带来成比例的准确率提升；而被归类为 under-reasoning 的案例则始终与错误或不完整的解决方案相关联。这些发现为未来 agentic AI 自适应推理机制的研究提供了动力。