伦理 LLM 辅助研究：负责任委托、验证与认知价值的框架

arXiv:2608.23644v1 发布类型：new

摘要：Large language models（LLM）正逐渐成为科学研究的常规工具，辅助文献综述、假设开发、编程和形式化推理。它们的使用引发了一个核心的认识论问题：当科学推理的部分环节被委托给人工系统时，哪些条件必须保留在人类控制之下，由此产生的知识主张才能保持认识论上的合法性和可归责的作者身份？本文构建了一个规范性和概念性框架，用于分析此类委托行为。科学推理被视为一个分布式过程，其中贡献的来源可能在人类与机器之间变化，而将其纳入科学记录的责任仍由人类承担。该框架区分了内容来源 $O(g)$、人类验证的完成度 $V(g)$、责任分配 $R(g)$、可归责的人类所有权 $M(g)$ 以及认识论结果 $E(g)$。这些构念将主张的来源与其检验过程、该检验的认识论结果以及与之相关的人类责任分离开来。核心命题是：LLM 辅助研究的伦理边界主要由充分的验证和可归责的人类所有权决定，而非由机器参与程度本身决定。在此基础上，本文提出了认识论审计（epistemic audit）的概念：一种关于委托、验证、来源和责任的结构化记录，旨在使 AI 辅助推理具有透明性和可审查性。由此形成的框架为区分科学研究中负责任的认知委托与认识论责任的转移或漠视，提供了一套形式化的术语体系。