时间:2026年7月22日
地点:上海(中国)
人物:小红书(RedNote)引擎架构团队、OSDI 2026论文评审委员会
事件详情:当地时间2026年7月22日,全球顶级系统会议OSDI 2026正式公布小红书引擎架构团队发表的论文《The Clustering Strikes Back: Building Cost-Effective and High-Performance ANNS at Scale with HELMSMAN》。论文提出了面向全闪存服务器的高性能向量近似最近邻检索(ANNS)系统——HELMSMAN。该系统结合定制化的用户态存储栈、分层学习式搜索剪枝以及GPU加速的分布式索引构建流水线,能够在严格保障毫秒级延迟的前提下,将原本依赖海量DRAM的向量检索服务迁移到NVMe SSD阵列之上。在小红书实际搜推广业务中,HELMSMAN仅用约40台全闪存服务器就稳定承接了过去约35000个CPU核心和约350TB DRAM才能承载的在线高吞吐低延迟向量检索负载,硬件成本节省超过90%,相对现有DRAM-SSD方案DiskANN和SPANN获得2-16倍的吞吐提升,最高达到纯内存部署85%的吞吐能力,同时满足毫秒级延迟要求。此外,10B规模索引可在数小时内完成重建,为高频模型更新提供了工程化能力。
背景:向量近似最近邻搜索(ANNS)是搜索、推荐、广告、内容安全、RAG等系统最核心的基础能力之一,过去为了满足5-10毫秒级SLA并稳定长尾延迟,业界主要依赖大规模in-DRAM图索引(如HNSW)。小红书线上向量数据规模近年保持接近年翻倍增长,纯内存向量检索部署已经达到PB级DRAM占用,带来每年数百万美元级别的硬件支出。同时,DRAM内存价格受AI算力需求推动持续上涨,传统in-memory路线已不再是经济可持续的路径。OSDI与SOSP并称为计算机系统领域两大最高水平会议,由USENIX主办,论文接受率极低,本次HELMSMAN入选代表了工业界一线实战经验获得国际学术顶会的高度认可。
影响:
- 对小红书及同类内容平台而言,HELMSMAN将PB级DRAM的向量检索基础设施替换为NVMe SSD硬件,硬件支出可节省90%以上,相当于直接释放数亿美元的CapEx空间,并为后续业务扩张留出充足的内存容量预算。
- 对AI基础设施行业而言,论文系统化证明了"全闪存+GPU加速构建+用户态存储栈"取代纯内存路线的工程可行性,将推动业界重新审视向量检索的成本模型,使得RAG、推荐系统、内容安全等以向量数据库为核心的下游应用获得更低的TCO。
- 对系统学术研究而言,HELMSMAN补齐了"低成本近内存ANNS"这一长期缺位的拼图,OSDI 2026评审委员会认为该工作在工业界实战规模下同时证明了硬件成本节省和性能提升,为后续"传统内存杀手"研究打开了新方向。
- 对中小开发者与开源社区而言,论文配套开源了完整代码仓库(github.com/Red-EAD/helmsman),让中小团队也能复用小红书大规模生产环境下的工程经验,加速整个向量检索生态的去DRAM化转型。
总结:作为中国互联网公司面向全球系统顶会贡献的又一代表性工作,HELMSMAN不仅用40台全闪存机替代了35000核CPU和350TB DRAM,更重新定义了大规模向量检索的成本与性能平衡。论文的开源化也意味着"小红书式"向量基础设施将不再是大平台的专属优势,而是成为整个AI行业可复用的开源底座。在AI模型和企业对算力渴求不断升级、内存价格持续走高的产业背景下,HELMSMAN的出现恰逢其时,为向量数据库、AI搜索、内容推荐系统的下一轮成本下降提供了一条已被顶级会议验证的工程路径。
参考来源:
- https://arxiv.org/abs/2606.13145
- https://github.com/Red-EAD/helmsman
- https://baijiahao.baidu.com/s?id=1871385872314702684
- https://weibo.com/7621278794/R9ZXSaz45
- https://mp.weixin.qq.com/s/WCYE6itbTBPU0Q_3BfQxkA
- https://www.usenix.org/conference/osdi26









