《张颖峰-2025的RAGFlow——推理、记忆、多模态.pdf》由会员分享,可在线阅读,更多相关《张颖峰-2025的RAGFlow——推理、记忆、多模态.pdf(42页珍藏版)》请在三个皮匠报告上搜索。
1、ML-SummitML-Summitwww.cpp-www.ml-summit.orgwww.gosim.orgwww.pm-summit.orgML-SummitML-SummitML-SummitML-SummitML-SummitML-Summit张张颖颖峰峰 英英飞飞流流联联合合创创始始人人兼兼 C CE EO O英飞流联合创始人,连续创业者,先后负责多年Infrastructure研发,涵盖搜索引擎,数据库内核,云计算基础架构和大数据架构等,从事多年人工智能核心算法研发,包括广告和推荐引擎和计算机视觉。先后主导并参与多家大型企业数字化转型,支撑过日活千万,日均两亿搜索动态请求的互联网
2、业务。演演讲讲主主题题:2 20 02 25 5的的R RA AG GF Fl lo oww推推理理、记记忆忆、多多模模态态ML-SummitML-Summit2025 全球机器学习技术大会2025?年的 RAGFlow推理、记忆、多模态张颖峰InfiniFlowML-SummitML-SummitRAG回顾与展望20262024202420232025摘要能力RAGLLMAI普世化长上下文翻译能力开源LLM语义可控性增强幻觉降低多模态外挂记忆体重排序混合搜索数据清洗模型知识图谱开源模型能力追上OpenAI多模态成本内卷AgenticReasoningReasoningMASML-Summit
3、ML-Summit录录推理篇记忆篇多模态RAG总结ML-SummitML-Summit推理篇01ML-SummitML-SummitNave?RAG?+?RLM?=?Reasoning?SearchQuestionReadReasoningAnswer需要根据内部数据成推理链ML-SummitML-SummitAgentic?ReasoningReasoningQuestionSub?questionSearchAnswerReason?in?DocumentsSub?questionSub?questionSearchSearchIterationML-SummitML-Summit系列Ag
4、entic?Reasoning Search o1 津 Agentic Reasoning 微软 PIKE-RAG LevelRAG 系列 Deep ResearchML-SummitML-SummitAgentic?ReasoningRAGFlowReasoningQuestionSub?questionWeb?SearchAnswerSub?questionSub?questionRAGGraphRAGIterationML-SummitML-SummitAgentic?ReasoningDemoML-SummitML-SummitAgentic?ReasoningDemoML-Summi
5、tML-Summit改进MCTSQuestion?ReasoningSub?QuestionReasoningAnswerSub?QuestionReasoningAnswerRetrievalAnswerRetrievalSummaryRetrievalSummarySummaryML-SummitML-Summit核与挑战 推理的核迭代式反思 只靠 LLM 好么LLM 做 Plan 很多缺点 如何终迭代?Agent实现的2种构型 依靠 LLM 评估推理链质量 依靠 RL微调,通过奖励函数学习到跟环境交互的正确姿势 多观察,多动,少思考Agentic 的价值ML-SummitML-Summi
6、tRAG?+?RL Search R1 R1 Searcher ReSearch DeepResearcherQRetrievalPolicy?LLMo1o2o3Reward?ModelReference?LLMr1r2r3Group?ComputationA1A2A3KL成搜索查询和推理步骤Rollouts成答案和真实答案致成答案符合推理格式ML-SummitML-Summit记忆篇02ML-SummitML-SummitMemory?与 Agent检索提问Reasoner回答内容Memory搜索思考输出ML-SummitML-SummitMemory?和 RAG?的区别与联系 动态记忆管理