TurboVec 今日发布

TurboVec 是一款由 Rust 编写的向量索引库，基于 Google Research 发布的 TurboQuant 算法，提供 Python 绑定。它能够在 4GB 内存内完成 1000 万文档向量的索引与检索，相比 FAISS 的 IndexPQFastScan 在多种配置下平均快 3.4 倍，同时内存占用大幅降低。TurboVec 的核心设计围绕「数据遗忘」的量化器展开，无需单独的模型训练阶段，向量添加即被索引，索引随数据增长自动演进。

TurboVec 在搜索性能上做了大量底层优化。针对 ARM 架构使用 NEON SDOT/SMMLA 指令，针对 x86 架构使用 AVX-512 VNNI 和 vpermb 指令，并保留 AVX2 和标量回退方案，确保在各种硬件上都有可用实现。它支持增量持久化：sync() 方法只写入自上次同步以来的变更内容，单次 fsync 即可完成，无论索引规模多大，更新操作的延迟都保持在毫秒级。

在隐私敏感或网络隔离的场景中，TurboVec 可以完全本地运行，不依赖任何托管服务，数据不会离开用户的机器或 VPC。结合任意开源 embedding 模型，就能搭建一套完全空气隔离的 RAG 系统。安装方式为 pip install turbovec，API 设计简洁，与常见的向量数据库使用习惯一致。对于需要构建高密度、低资源占用向量检索系统的团队，TurboVec 提供了一个值得关注的技术选型。