低资源 LLM 训练：以任务级自然语言先验作为学习信号

arXiv:2609.02244v1 公告类型：new 摘要：大语言模型（LLM）在低资源训练数据存在歧义或不完整时往往表现不佳。任务级自然语言先验可以在这些场景下提供有用的指导，但现有方法通常将这些先验视为输入上下文，而非训练过程中的学习信号。我们提出 Prior-Guided Tuning（PGT），一种将自然语言先验作为低资源 LLM 训练的辅助学习信号的训练视角。在此视角下，我们引入 Contrastive Prior Steering（CPS），该方法保持原始监督目标不变，同时添加正负先验条件辅助损失，以鼓励任务一致的学习，并抑制看似合理但具有误导性的替代方案。在 AmbiMath、Jigsaw 和 MNLI/HANS 上的实验表明，CPS 始终优于普通微调（plain fine-tuning）和 prompt 微调。在 AmbiMath 上，CPS 达到 97.6% 的平均精确匹配准确率。在 Jigsaw 上，CPS 将平均 Macro F1 较标准微调提升 9.5 个百分点，且仅使用 1/10 的实验训练数据就略优于全数据普通微调。在 HANS 上，CPS 将非蕴含准确率分别提升 8.3 和 5.2 个百分点（对应 LLaMA 3.1 8B 和 Qwen 2.5 7B），同时保持与领域内 MNLI 准确率相当的水平。这些结果支持我们的核心主张：任务级自然语言先验可以作为辅助学习信号，为低资源 LLM 训练提供有效指导。我们的代码和数据将公开发布。