为什么需要向量数据库？

做 RAG（检索增强生成）应用绕不开向量检索。选错数据库，百万级文档查询延迟从 5ms 飙到 500ms，直接影响用户体验。本文基于我在生产环境中对三款主流开源向量数据库的实际测试，给出选型建议。

测试环境

机器：8 核 32GB 内存，NVMe SSD
数据集：1536 维 OpenAI embeddings，100 万条
测试项：写入速度、查询延迟（Top-10）、内存占用

核心数据对比

指标	Milvus 2.5	Qdrant 1.12	Chroma 0.6
单条写入	0.8ms	0.5ms	2.1ms
批量写入(10k)	1.2s	0.9s	8.5s
查询延迟 p50	3.2ms	2.8ms	12ms
查询延迟 p99	8.1ms	6.5ms	45ms
内存占用(100万条)	6.8GB	4.2GB	12.1GB

实际代码示例

Qdrant — 最适合快速上手

from qdrant_client import QdrantClient
from qdrant_client.models import VectorParams, Distance

client = QdrantClient(host="localhost", port=6333)

# 创建集合
client.create_collection(
    collection_name="documents",
    vectors_config=VectorParams(size=1536, distance=Distance.COSINE)
)

# 插入向量
client.upsert(
    collection_name="documents",
    points=[{"id": 1, "vector": embedding, "payload": {"text": "文档内容"}}]
)

# 查询
results = client.search(
    collection_name="documents",
    query_vector=query_embedding,
    limit=10
)

Milvus — 大规模场景首选

from pymilvus import connections, Collection, FieldSchema, CollectionSchema, DataType

connections.connect("default", host="localhost", port="19530")

fields = [
    FieldSchema("id", DataType.INT64, is_primary=True, auto_id=True),
    FieldSchema("embedding", DataType.FLOAT_VECTOR, dim=1536),
    FieldSchema("text", DataType.VARCHAR, max_length=65535)
]
schema = CollectionSchema(fields)
collection = Collection("documents", schema)

# 创建 IVF_SQ8 索引（比 HNSW 省 40% 内存）
collection.create_index(
    field_name="embedding",
    index_params={"index_type": "IVF_SQ8", "metric_type": "COSINE", "params": {"nlist": 1024}}
)

选型建议

小团队/原型验证 → Chroma

零配置，Python 原生，嵌入 LangChain 最方便
缺点：内存效率差，不适合百万级数据

中等规模(10万-500万) → Qdrant

Rust 实现，性能优异，内存占用最低
REST + gRPC 双协议，Docker 一键部署
内置过滤功能强大，支持 payload 过滤 + 向量搜索组合

大规模生产(500万+) → Milvus

分布式架构，支持水平扩展
丰富的索引类型（IVF_FLAT、HNSW、IVF_SQ8、DISKANN）
社区版免费，Zilliz Cloud 提供托管服务

踩坑提醒

Chroma 的持久化问题：默认用 SQLite 做持久化，重启后第一次查询极慢（冷加载索引），生产环境建议用 PersistentClient 并预热
Milvus 的 etcd 依赖：standalone 模式也要跑 etcd，资源开销比想象中大
Qdrant 的磁盘索引：开启 on_disk 参数后查询延迟增加约 2 倍，但内存占用降 60%，需要权衡

我的选择

最终生产环境选了 Qdrant。原因：团队 5 人以下，数据量在 200 万左右，Qdrant 的运维最简单（单二进制文件），性能完全够用。如果数据量突破千万，会迁移到 Milvus 的分布式方案。

—

大家在项目中用的是哪个向量数据库？有没有遇到什么坑？欢迎分享你的选型经验。