字节开源Axion 1.0 三阶段训出强Agent
时间:2026年11月21日,字节跳动与美国多所高校联合发布开放智能体基础模型Axion 1.0,模型、数据与训练代码全部开源。
地点:美国(杜克大学、马里兰大学帕克分校、纽约州立大学布法罗分校与字节跳动联合研究)
人物:Yuqi Jia、Yunjie Tian、Jiayu Zheng等论文作者,ByteDance研究团队
事件详情:Axion 1.0仅用三阶段训练(两轮监督微调加一轮强化学习)即达到与OpenAI和Anthropic顶尖商用模型相当的水平,无需专门中间训练、直接偏好优化或在线策略蒸馏。论文已提交至arXiv(编号2611.03233),训练代码发布于GitHub(bytedance/axion1_0),35B复现检查点及122B权重以Apache 2.0开源。Humanity's Last Exam(HLE)基准上,35B版本得52.2%,122B版本得59.0%;FrontierScience Research上分别得56.7%与66.7%。SEAL-0基准上,35B以62.2%超过122B的58.6%。
背景:智能体训练通常需要复杂嵌套的多阶段流程,包括中间训练、DPO、在线策略蒸馏等,开发者常难以判断哪一步真正有效且复现成本高昂。Axion 1.0主张数据质量和任务构建比管道复杂度更重要。首轮微调用10,819条数学与科学推理轨迹,模型在不借助外部工具时解题;次轮引入7,544条工具使用轨迹(约3.12亿token), grounding于NASA Exoplanet Archive、OpenAlex、UniProt等真实数据库。强化学习采用异步GRPO,让模型调用网页搜索、页面访问、学术检索和Python,并按最终答案及验证过的中间进展给奖励。
影响:该研究为资源有限的团队提供了可复现的Agent训练范式。35B版本总参数350亿,激活参数约30亿,仅用约90 GPU小时;122B版本总参数1220亿,激活参数约100亿,约用240 GPU小时完成两轮微调(强化学习算力未计入)。基础设施采用FSDP加专家并行加上下文并行、Token-In-Token-Out和Rollout Routing Replay机制,确保MoE专家路由在rollout与训练阶段一致。但论文明确将数字界定为检查点对比,要验证哪些环节可删,还需同等预算下的控制重训实验。
总结:Axion 1.0证明简单训练配方也能达到商用模型水平,其完全开放的姿态降低了Agent研究门槛。但三阶段足够的结论仍需更多验证,训练团队只有在同等预算下完成控制重训后,才有依据从生产流程中正式删减环节。
参考来源:
arXiv: Axion 1.0 Open Agent Foundation Models Simplified
https://arxiv.org/abs/2611.03233
GitHub: bytedance/axion1_0
https://github.com/bytedance/axion1_0
DEV Community: Axion 1.0 technical breakdown
https://dev.to/prabhakar_chaudhary_7afe4/axion-10-how-bytedance-built-a-fully-open-agent-foundation-model-with-just-18k-training-examples-2n4n
ic.work: 三阶段训练跑出高分,哪些环节可删仍待验证
https://www.ic.work/article/axion-1-0-three-stage-agent-training-shows-promise
Hugging Face Papers: Axion 1.0
https://huggingface.co/papers/2611.03233
The Decoder: Bytedance argues most AI training phases are unnecessary
https://the-decoder.com/bytedance-argues-most-ai-training-phases-are-unnecessary-and-backs-it-up-with-a-competitive-open-model/
机器之心: 训练一个强大的智能体,究竟有多简单
https://www.jiqizhixin.com/articles/2026-11-17-4
网易: 字节跳动等推出Axion 1.0
https://www.163.com/dy/article/LBUQF7420511AQHO.html








