1、PostgreSQLPostgreSQL中文社区中文社区聚焦云端创新 汇聚智慧共享陆元飞Relyt-V:基于:基于PostgreSQL的云原生向量的云原生向量数据库数据库PostgreSQLPostgreSQL中文社区中文社区向量向量数据库场景数据库场景Relyt-VRelyt-V揭秘揭秘0303极致极致性能性能0404讲师介绍讲师介绍01010202PostgreSQLPostgreSQL中文社区中文社区目录contentscontents01讲师介绍PostgreSQLPostgreSQL中文社区中文社区PostgreSQLPostgreSQL中文社区中文社区 华为主任工程师,负责华为ta
2、urus数据库1.0一致性存储负责人。阿里云高级技术专家,Analyticdb向量版负责人,完成Analyticdb向量版从0到1的研发工作,并在顶级数据库会议VLDB发表paper:AnalyticDB-V:A hybrid analytical engine towards query fusion for structured and unstructured data,产品在城市大脑,图片搜索,个性化推荐,大语言模型等场景得到广泛应用。质变科技核心初创成员,Relyt实时和向量负责人。完成Relyt存储的架构设计和核心模块研发,完成Relyt-V从0到1的构建。讲师讲师介绍介绍02向量
3、数据库场景PostgreSQLPostgreSQL中文社区中文社区PostgreSQLPostgreSQL中文社区中文社区向量数据库应用向量数据库应用场景场景RelytRelytEmbedding modelData sourceData sourceEmbedding modelVector DatabaseVector DatabaseApplicatonApplicatonLLMPostgreSQLPostgreSQL中文社区中文社区 视频 图像向量+结构化指标Relyt查询最相似top5向量若相似,返回匹配的记录的结构化指标若不相似,则插入记录到Relyt中大模型每日查询量:2亿每天写
4、入量:3000万平均QPS:6000峰值TPS:200085%Mxxxxx98%Relyt召回率Mxxxxx4,800Relyt写入TPS2,000 4,000Mxxxxx13,200Relyt 查询QPSMxxxxx7天历史数据自动删除Relyt数据管理手动删除历史数据图搜场景图搜场景-某某SaaSSaaS客户客户PostgreSQLPostgreSQL中文社区中文社区RAGRAG场景场景-某海外某海外TopTop级级APPAPPRelytLLM/BERTRerankLLM/BERTQuestionVectorKeywordsquestion/prompt/context融合查询稀疏向量低延
5、迟弹性升降配每日查询量:百万次平均RT:100ms数据规模:千亿BM25DocumentChunkDense VectorSparse VectorLLMMulti-Path RecallAnswer03Relyt-V揭秘PostgreSQLPostgreSQL中文社区中文社区PostgreSQLPostgreSQL中文社区中文社区向量数据库的客户需求向量数据库的客户需求层次层次 维度高,可达10w维 实时增删改查 多条件任意组合 99%以上召回 100w+TPS写入 1w+QPS 查询 参数自调优 按需计费,弹性伸缩 生态集成PostgreSQLPostgreSQL中文社区中文社区基于基于P
6、ostgreSQLPostgreSQL的向量的向量数据库架构演进数据库架构演进 单机PostgreSQL 支持HNSW索引 索引立即可见 支持PQ编码 单机PostgreSQL HNSW索引删除更新 多版本自动PQ编码 自定义距离插件化 基于CBO融合查询 Serverless化,秒级弹性,按需计费 索引构建服务化 sparse vector支持 全文检索支持 生态集成,ChatGPT Plugins,LlamdaIndex,Langchain,dify.ai 支持 支持分布式架构 基于聚类的分布式裁剪 支持F16半精度浮点数 索引并行构建 多分区并行查询 limit下推优化 GP7的存算分离