小红书dots3-note预览版 今日发布

dots3-note preview是字节跳动旗下小红书的dots模型实验室于2026年8月14日正式开源的多模态混合专家大模型（MoE），总参数2800亿、激活参数160亿，支持512K超长上下文窗口，是dots3系列首个开放权重版本，也是国内头部内容平台首次开源自研大模型底座，标志着内容平台正式迈入自建并开放AI底座新阶段。

dots3-note的核心定位是长程复杂推理与智能体场景。它采用MoE架构（256路由专家+1共享专家，Top-8激活），280B总参数提供充足的知识容量，但每次推理仅激活16B参数，推理成本接近16B密集模型，实现旗舰级知识容量、中型模型部署成本。512K超长上下文可一次处理整本书籍或大型代码库，大幅降低跨多文档、长流程任务的上下文切换开销。

该模型支持文本、图像、视频、音频四模态统一输入，采用MoE ViT+稠密音频编码器的原生多模态架构。其中TEMPO强化学习训练专为长时程Agent任务设计，解决了传统RL在任务轨迹过长、奖励信号过于稀疏时无法准确归因的难题。内置Self-Critiquing机制可在出错时自动修正并将规则写入动态记忆，实现跨步骤知识累积。

dots3-note已在华为昇腾平台实现Day-0适配（Atlas 800A3/900A3），提供vLLM-Ascend、MTP投机解码、FUSED_MC2等完整部署方案。开源协议采用Apache 2.0，权重与代码全量开源，允许商业使用。Hugging Face下载量发布当日即破百次，海外开发者社区反应迅速。