VectorDBBench 实战从 pip install 到可对比的报告向量数据库基准测试一次讲透【免费下载链接】VectorDBBenchBenchmark for vector databases.项目地址: https://gitcode.com/gh_mirrors/ve/VectorDBBench向量数据库选型经常卡在同一个问题上文档都写很快厂商报告都很好看但各家维度、数据量、并发设定不一样没法横向比最后只能拍脑袋。VectorDBBench 是开源的向量数据库基准测试工具把多个候选库放在同一份公开数据、同一组用例、同一并发下跑产出 QPS、延迟、召回率和成本效率可互相比的报告。数据来自 SIFT、GIST、Cohere、OpenAI 等公开数据集结果谁都能复现。能测什么40 后端与六类用例内置 40 多个后端从 Milvus、Qdrant、pgvector、ClickHouse 这类开源到 Zilliz Cloud、Pinecone、AWS OpenSearch 这类云服务。后端按 pip extra 拆分不装对应客户端页面里就不会出现该项。用例分六类容量能装多少、搜索性能5 万到 1 亿向量规模、过滤搜索整数与标签条件、全文检索BM25MS MARCO 与 HotpotQA 数据、流式写入持续插入下的并发搜索、云服务用例插入吞吐、冷启动延迟、多租户路由。针对云数据库另有 Qp$每美元查询量指标。安装与启动两条命令打开测试页需要 Python 3.11 及以上基础包默认带 PyMilvuspip install vectordb-bench测其他后端补装对应 extra例如pip install vectordb-bench[qdrant]。然后init_bench启动可视化页面。也可以不走页面直接在命令行执行vectordbbench子命令批量回归时更省事。选数据库、配连接、提交任务① 勾选要测的库可多选每个库会弹出连接表单填 URL、用户名、密码。注意db_label它用来区分同一系统的不同实例建议把实例规格如 8C32G写进去方便事后追溯。② 选测试用例可一次勾多个每个用例弹出自己的参数表单索引类型、m、ef-construction 等。③ 填 task label 提交。两条约束同一 label 会覆盖之前的结果同一时间只能跑一个任务。报告怎么看盯四个数做选型决策结果出来后不用全看指标怎么读最大 QPS吞吐上限延迟并发上升时曲线陡变处即瓶颈召回率速度换的成本掉得多说明索引参数要调Qp$每美元查询量云服务成本对比用并发图的价值在拐点QPS 不再涨、延迟翻倍的那一档就是生产上能实际顶的并发量。用云服务时看 Qp$场景里有持续灌数据就看流式测试固定速率插入的同时跑搜索QPS 掉多少就是写入负载的代价。进阶用自己的数据测业务数据的维度或分布跟公开数据集对不上时可以自带数据custom 页面支持上传本地 Parquet 数据集train、test、neighbors 三个文件自定义维度、规模、距离度量也能自建索引参数用例保存后回到 run_test 页选用。一个细节查询向量数建议控制在千级。并发进程越多每进程要拷贝的查询越多内存压力会明显上来。避坑清单网络不稳、磁盘不够别跑千万级向量的用例数据集下载和建索引都要时间白等。db_label 与 task label 别复用结果互相覆盖就找不回来了。大并发测试前确认客户端机器内存不够会直接扭曲数据。云服务别只看 QPS成本效率看 Qp$ 更有代表性。拿两三个候选跑一遍标准性能用例再按场景补过滤搜索或流式用例半天就能拿到一个能拿出来解释的选型结论。【免费下载链接】VectorDBBenchBenchmark for vector databases.项目地址: https://gitcode.com/gh_mirrors/ve/VectorDBBench创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考