《阿里云AI搜索:Agentic RAG技术实践.pdf》由会员分享,可在线阅读,更多相关《阿里云AI搜索:Agentic RAG技术实践.pdf(41页珍藏版)》请在三个皮匠报告上搜索。
1、 阿里云AI搜索Agentic RAG技术实践演讲人:邢少敏阿里云AI搜索简介Agentic RAG关键技术解读Agentic RAG产品落地AI搜索未来方向01阿里云阿里云AIAI搜索简介搜索简介第一章节高性能搜索引擎以场景为核心的语义搜索基于大模型的AI搜索搜索引擎性能&稳定性 支撑阿里集团上千业务,日均PV百亿 双十一QPS百万,实时数据更新TPS百万 千亿数据毫秒级响应 可用性5个920082020NLP+搜索场景化搜索20202022 内置NLP模型、排序模型,提供搜索基线效果,并支持场景级轻量化定制 提供面向不同行业的算法标准模版,支持行业语义搜索最佳实践LLM+搜索 文本+稠密向
2、量+稀疏向量混合检索 多模态、跨模态RAG Graph RAG Agent RAGAgent RAG、Graph RAG20232025自研演进Elastic战略合作2017开源演进云上托管&运维2019Elasticsearch 6.x/7.xLogstash、Beats云托管高性能读写分离架构智能弹性扩缩自研监控报警服务性价比&引擎增强2021Elasticsearch 7.10索引构建Indexing Service实现写入加速自研存储引擎Openstore海量低成本存储Serverless2022Elasticsearch 7.16智能混合存储服务Analyticsearch查询引擎T
3、imestream时序增强AI搜索20248.x向量性能增强、引入RRF、稀疏向量等LLM+搜索RAG问答AI Assistant阿里云AI搜索技术演进阿里云AI搜索技术演进-高性能搜索引擎管控系统在线集群索引系统数据源配置实例创建表结构配置集群N集群1BSAdminMerger 0(索引整理)Builder 0(索引构建)QRS 0(查询节点)Searcher 0(数据节点)QRS 1QRS NSearcher 1Searcher NP0P1PNSearcher 1Searcher NSearcher 0Processor 0(数据改写)Merger 1Merger NBuilder 1Bu
4、ilder NProcessor 1Processor N全量索引增量索引实时数据集群运维索引重建变更历史实例管理配置变更索引回滚监控报警OSSHDFSPaimonMaxComputeAPI 实时数据查询请求日常运维在线部分Qrs:接收用户查询、查询分发、收集整合结果Searcher:搜索查询的执行者,倒排索引召回、统计、条件过滤、文档打分、排序、摘要生成等离线部分数据处理服务索引构建服务管控部分运维管控插件部分通过开发插件,对原始文档、查询Query、召回、算分、排序、摘要进行灵活定制完整的搜索服务由:在线部分、离线部分、管控部分、插件部分 构成,其中包括了查询流、数据流、控制流。阿里云AI
5、搜索技术演进-高性能搜索引擎Havneask 读写分离Processor 0Processor nProcessorSwift(ProcessedDoc)BS Admin服务发现Qrs 0Qrs mSearcher 0Searcher 0分布式文件系统Searcher 1Searcher 1Searcher nSearcher nHA Adminp0p1pnTable 0Cluster 0Cluster nHapeHa toolsSwift toolsBs tools查询链路数据链路实时数据OnlineOnlineOfflineOffline独立索引构建流程,高效数据导入多版本索引管理,互不干
6、扰存算分离,远端、本地、内存多级缓存多集群互备,更加可靠Broker 0 Broker n Index DataIndex DataBuilder 0Builder nBuilderMerger 0Merger nMergerTable nHDFS文件OSS文件MaxComputeSwift(实时数据)读写分离读写分离Havenask 读写统一更高时效性保证,read-your-writes轻量的表管理,支持DDL多集群互备读写统一读写统一Broker 0 HA AdminSearcher 0Follower nSearcher 0LeaderBroker 1Broker nSwiftAdmi