向量库选型——pgvector、Milvus、托管服务怎么选？

[雾里记梦]

向量库怎么选，先别急着追最强。问自己三个问题就够了：

数据量多大？查询量多大？团队会不会运维？

如果只是小项目、内部工具、数据量不大，pgvector 很香。它和 PostgreSQL 在一起，部署简单，团队也容易理解。

如果数据量更大、检索性能要求高、后面要做更复杂的向量检索，Milvus 这类专门向量库更合适，但运维成本也会上来。

如果团队人少，不想自己管服务，可以先用托管方案。贵一点，但省时间，尤其适合验证产品。

我不建议一开始就把架构做得很重。很多 RAG 项目真正卡住的不是向量库性能，而是文档质量、切分策略、embedding 选择和评测方法。

先用最简单的方案跑通，再根据瓶颈升级。不要为了一个还没验证的知识库，上来就背一套复杂运维。

[雾里记梦]

向量库怎么选，先别急着追最强。问自己三个问题就够了：

数据量多大？查询量多大？团队会不会运维？

如果只是小项目、内部工具、数据量不大，pgvector 很香。它和 PostgreSQL 在一起，部署简单，团队也容易理解。

如果数据量更大、检索性能要求高、后面要做更复杂的向量检索，Milvus 这类专门向量库更合适，但运维成本也会上来。

如果团队人少，不想自己管服务，可以先用托管方案。贵一点，但省时间，尤其适合验证产品。

我不建议一开始就把架构做得很重。很多 RAG 项目真正卡住的不是向量库性能，而是文档质量、切分策略、embedding 选择和评测方法。

先用最简单的方案跑通，再根据瓶颈升级。不要为了一个还没验证的知识库，上来就背一套复杂运维。

[花影渡口]

显存只有 8G 能跑什么模型？主要用于代码辅助。

[深念眼界]

GPU 租赁比自购划算，除非你 24 小时跑任务。

[dragonfly]

知识库更新频率也是个问题，我们做了增量索引方案。

[未眠少年]

ChromaDB 在小数据量下够用，数据量大了建议换 Milvus。