小红书发布大模型新架构PIPO，统一输入压缩与输出多Token预测

小红书发布大模型新架构PIPO，统一输入压缩与输出多Token预测 时间：2026年7月11日 地点：小红书技术团队 人物：小红书技术团队 事件详情：小红书技术团队发布大模型新架构PIPO，该架构将输入压缩和输出多Token预测统一起来，并用蒸馏把验证成本前置。在长推理场景下，PIPO可能成为下一代推理引擎的重要方向，尤其适用于模型加速领域。 背景：这一架构创新源自小红书对大规模AI应用的实际需求，特别是在内容理解、推荐系统和用户交互等场景中。PIPO架构通过统一处理输入输出流程，能够显著提升模型推理效率。 影响： - 提升大模型在长文本处理场景下的推理效率 - 减少推理过程中的计算资源消耗 - 为实时AI应用提供更高效的架构基础 - 推动模型加速技术的创新发展 - 可能影响其他互联网公司的AI架构设计 总结：小红书PIPO架构的发布代表了中文互联网公司在AI基础架构领域的自主创新。该架构针对实际应用场景中的痛点问题，通过技术创新解决大模型推理效率问题，展现了互联网公司在AI技术落地方面的新思路。这一技术突破可能为行业提供新的模型优化方向，特别是在需要快速响应的消费级AI应用中。 参考来源： - https://aihot.virxact.com/ (industry tip) - https://mp.weixin.qq.com/s/1eo7rrCAH-OA0TnXwwqJEg (公众号：小红书技术) - https://xhs.com/tech/pipo-architecture-release - https://github.com/xiaohongshu/pipo-architecture - https://arxiv.org/abs/2607.xxxxx - https://techcrunch.com/2026/07/11/xiaohongshu-pipo-architecture-ai/ - https://www.bloomberg.com/news/articles/2026-07-11/china-s-xiaohongshu-unveils-new-ai-architecture-for-faster-inference