AMDKernelVault：面向 AMD GPU 内核优化的大规模数据集与 Agent 训练

arXiv:2609.12471v1 公告类型：新发布 摘要：我们推出 AMDKernelVault，这是一个面向最新 AMD CDNA GPU 的开放 HIP 与 Triton kernel 语料库及训练框架。现有的基于 LLM 的 kernel agent 大多以 CUDA/NVIDIA 为中心，且往往依赖反复调用前沿 LLM 来完成生成、反思与优化。为填补这一空白，我们开发了 HIPKernelGen 和 TritonKernelGen 两条 agent 驱动的流水线，可将 PyTorch 参考实现转换为 HIP 或 Triton kernel，在 ROCm 下编译并验证候选版本，并在 AMD 硬件上进行延迟分析（latency profiling）。该语料库包含 62,153 个经执行验证的 HIP kernel 样本、2,377 条扎根于生产实践的 ROCm Libraries QA 条目，以及 39,893 个 Triton kernel。我们还通过对 Qwen3-8B 进行监督微调（supervised fine-tuning）与执行感知强化学习（execution-aware reinforcement learning），展示了该语料库的实用价值。在固定评估预算下，该模型在 PyTorch-to-HIP（34.0% Pass@1）、TritonBench-G（33.2% Corr@3）和 ROCmBench（41.94% Corr@3）上取得了对比模型中最高的正确率，但在编译或速度指标上并非全面领先。语料库及相关文档见 https://huggingface.co/datasets/amd/AIG-Datasets，配套的训练与 kernel 生成代码见 https://github.com/AMD-AGI/hip_kernel_llm_lab。