无需配对数据，组合领域与语言LoRA实现遥感MLLM跨语言迁移

arXiv:2609.26097v1 公告类型：新发布 摘要：遥感（RS）多模态大语言模型（MLLM）目前仅在英文上进行训练与评估，而纯文本指令数据已覆盖超过 100 种语言。我们提出 MODL（Mutually Orthogonal Domain-Language composition，互正交域-语言组合），这是一种无需任何多语言遥感样本即可为英文 RS MLLM 增加新语言的方法：在域 LoRA（基于英文 RS 影像训练）与语言 LoRA（仅基于文本训练）联合学习的过程中，通过单一损失项约束二者在训练的每一层、每一步都保持互正交。该约束是此方法的核心机制。缺少这一约束时，同样的训练虽然能正确回答 RS 问题，但输出仍为英文，同时会抹掉基础模型大部分多语言文本能力，并且在三个随机种子中有一个会出现发散；从免训练合并到已有正交变体在内的 16 种替代方案，也以同样方式失败。MODL 则在所有种子的所有失败情形上均实现修复：回答正确且使用目标语言的比例达到 56-71%，而最优替代方案仅为 27%，多数方案低于 8%；文本能力维持在未训练基础模型的水平；在西班牙语上超过 Qwen2.5-VL-7B，且全程使用零多语言-多模态数据。单个五语言适配器可在三个种子上完整保留英语、西班牙语和越南语的能力；非拉丁文字仍是一个待突破的边界。