开源项目|turbovec:基于 TurboQuant 的 Rust 向量索引,单节点 1.5k stars/day

今日 GitHub Trending 出乎意料的明星项目:RyanCodrai/turbovec(+1554 stars today,Python + Rust)。这是基于最新 TurboQuant 量化技术的向量索引库,单节点就能跑出工业级性能

TurboQuant 是什么?

TurboQuant 是 2025 年底出现的一种超低比特向量量化技术,能把 float32 的 1024 维向量压缩到 2-3 bit 仍保持高检索精度。理论基础是「通过正交变换把信息集中到少数维度」。

turbovec 的性能

  • 索引构建:1000 万 1024-d 向量,单节点 8 分钟(HNSW 约 60 分钟)
  • 查询延迟p99 < 5ms(HNSW 约 30-50ms)
  • 内存占用:1000 万向量 1.2GB(HNSW 约 8GB)
  • Recall@10:0.97(同精度下 HNSW 0.95)

用法

pip install turbovec
import turbovec as tv

index = tv.Index(dimension=1024, precision=「3bit」)
index.add(vectors)  # numpy array
results = index.search(query, k=10)

适合谁

  • RAG 系统:索引 1 亿+ 文档,单节点 16GB 内存
  • 推荐系统:用户/物品向量检索
  • 多模态搜索:图像/视频嵌入
  • 个人项目:之前要花几千块买 Pinecone,现在单机能跑

局限

  • 目前只支持 cosine / euclidean 距离(不支持内积最大值)
  • 不支持向量删除(只能重建)
  • Python binding 还有 GIL,极致性能要直接调 Rust

GitHub:RyanCodrai/turbovec(+7.3k stars)

Leave a Comment