腾讯混元 Hy4 preview 今日发布

Hy4 preview 是腾讯混元于 2026 年 8 月 28 日发布并开源的新一代旗舰大语言模型，采用 MoE 混合专家架构，总参数 770B、单次推理激活 49B，配套 MTP 投机解码层（10B 总参/0.7B 激活）。上下文长度从 Hy3 的 256K 一举扩展至 1M tokens，词表 12 万。架构方面：共 78 层 Transformer，其中第 1 层为 Dense FFN，其余 77 层为 MoE，每层 256 个路由专家加 1 个共享专家，每 token 激活 top-8 路由+1 个共享，使用 Gated DSA + IndexCache 跨层稀疏索引。模型权重与训练代码以 Apache 2.0 许可证开源，推理 API 定价为输入 6 元/百万 tokens、输出 18 元/百万 tokens、缓存命中 0.3 元/百万 tokens。腾讯内部 163 名专家对 203 个工程任务盲测结果：Hy4 preview 均分 2.99/4，略优于 GLM 5.3（2.92/4.00）和 Kimi K3（2.94/4.00）。目前已开源，在腾讯云 TokenHub、OpenRouter 上线，并可在 WorkBuddy、CodeBuddy、元宝、ima 等产品上体验。