在大模型落地RAG（检索增强生成）的过程中，向量数据库的选型始终是开发者绕不开的关键决策。如果希望系统“轻装上阵”，避免复杂的运维与硬件配置负担，那么ChromaDB绝对值得重点考察。这款基于Rust编写的向量数据库，天生兼具轻量级与高效能的特性，非常适合中小规模项目。
先来梳理它的核心亮点：开源、轻量、快速上手——这几个标签已经足够吸引人。ChromaDB对CPU资源要求不高，性能优势主要体现在内存利用效率上，特别适合执行向量搜索与全文检索任务。这意味着什么？对于中小型项目而言，无需折腾繁琐的配置，就能获得嵌入式文档管理、语义查询、嵌入搜索、多模态检测以及元数据过滤等完整功能，实用性极强。
那么具体该如何使用？下面直接通过实操流程演示，你会发现比想象中更简单。
1. 安装ChromaDB库
只需一行命令：
pip install chromadb2. 创建客户端
根据你的应用场景，有三种初始化方式可选：
import chromadb
# 方式一：非持久化客户端（数据仅存储在内存中，程序结束后即清除）
client = chromadb.Client()
# 方式二：持久化客户端（数据自动保存到本地磁盘）
client = chromadb.PersistentClient(path="/chroma/myCollection")
# 方式三：HTTP模式（连接远程Chroma服务）
client = chromadb.HttpClient(host='localhost', port=8000)3. 创建集合（类似于数据库中的表）
集合是存储向量的容器，创建时可以指定嵌入函数和元数据：
from datetime import datetime
collection = client.create_collection(
name="my_collection",
embedding_function=emb_fn, # 指定嵌入函数，若不填写则使用默认模型
metadata={
"description": "my first Chroma collection",
"created": str(datetime.now())
}
)name为必填参数；embedding_function可选，若未配置，写入数据时会自动调用默认的嵌入模型；metadata用于描述集合自身的属性（如索引方式），属于可选信息。
4. 数据写入
这是最核心的写入操作：
collection.add(
ids=["id1", "id2", "id3", ...],
embeddings=[[1.1, 2.3, 3.2], [4.5, 6.9, 4.4], [1.1, 2.3, 3.2], ...],
documents=["doc1", "doc2", "doc3", ...],
metadatas=[{"chapter": 3, "verse": 16}, {"chapter": 3, "verse": 5}, {"chapter": 29, "verse": 11}, ...],
)各参数含义清晰明了：
ids：每个文本块的唯一标识符。embeddings：如果文本已完成向量化，可直接传入向量。若未提供，系统会利用默认嵌入函数自动计算。documents：原始文本内容。metadatas：描述文本块的元数据，采用键值对形式，方便后续精准过滤。
5. 查询——一个完整实例
光说不练无意义，来看一个完整的相似度查询场景：
import chromadb
# 初始化持久化客户端（数据存储至本地）
chroma_client = chromadb.PersistentClient(path="./chroma_data")
# 获取或创建集合
collection = chroma_client.get_or_create_collection(name="my_documents")
# 准备待添加的数据
documents = [
"一只柯基在蹦蹦跳跳",
"一只小狗在奔跑",
"一只鸟在飞",
"汽车在高速公路上行驶",
"苹果是一种水果"
]
ids = ["id1", "id2", "id3", "id4", "id5"]
metadatas = [{"type": "动物"}, {"type": "动物"}, {"type": "动物"}, {"type": "交通工具"}, {"type": "植物"}]
# 写入数据
collection.add(
documents=documents,
metadatas=metadatas,
ids=ids
)
# 执行语义相似性查询：寻找与“蹦蹦跳跳的小狗”最相似的文档
results = collection.query(
query_texts=["蹦蹦跳跳的小狗"],
n_results=3
)
# 输出结果
print("最相似的文档：", results['documents'])
print("对应的ID：", results['ids'])
print("相似度距离：", results['distances']) # 距离越小，语义越接近执行结果如下：
- "一只小狗在奔跑" (id2) - 距离：0.312 —— 最相似
- "一只鸟在飞" (id3) - 距离：0.764 —— 中等相似
- "一只柯基在蹦蹦跳跳" (id1) - 距离：0.782 —— 相似度相对最低
可以看出，ChromaDB的查询逻辑非常直观——通过语义匹配文本，相似度排序靠前的自然是最贴近查询意图的结果。
当然，市面上优秀的向量数据库远不止这一款。像Qdrant、Milvus、FAISS等，各具独特优势。具体选型，核心还是要看应用场景：如果你需要处理超大规模多模态检索、搭建AI搜索引擎，并且需要深度集成LangChain或LlamaIndex，那么支持十亿级向量规模的Milvus可能更适合。但如果项目体量适中，追求快速上手、低成本运维，ChromaDB无疑是一个极其舒适的选择。