基于大语言模型的AI+Agent架构及金融行业实践-周健.pdf

1、基于大语言模型的AI Agent架构及金融行业实践周健2024.8.17企业数智化发展趋势企业数智化发展趋势商商业业化化成成熟熟度度时时间间2 20 02 22 2.1 11 12 20 02 23 3.2 22 20 02 23 3.8 82 20 02 23 3.5 5L Ll la amma a3 3G GP PT T 4 4o oG GP PT T4 4G GP PT T4 4G GP PT T 3 3.5 5S So or ra aG Ge emmi in ni i2 20 02 23 3.1 1 1 12 20 02 24 4.2 2闭闭源源模模型型（文文本本）开开源源模模型型（文

2、文本本）多多模模态态模模型型实实时时模模型型L Ll la amma a2 2C Cl la au ud de e 3 3G GP PT T 4 4o o2 20 02 24 4.5 5Q Qw we en n2 2Q Qw we en nQ Qw we en n V VL L大模型的发展趋势：文本、多模态、实时，开源、闭源，商业化成熟度模型的智能化水平与使用成本的演进趋势数据作为 信信息息媒媒介介信信息息获获取取效效率率 提升信信息息（感感知知）系系统统将数据转化成 知知识识表表达达大模型带来 推推理理能能力力 提升？数据与 真真实实环环境境交交互互具备 任任务务拆拆解解与与实实现现 能力模

3、模型型（知知识识）系系统统行行动动（实实现现）系系统统新拐点 和 新范式 正在形成，通用人工智能的发展 将带来人类社会发展的巨大飞跃Gartner：A New Market Is Emerging Business Orchestration and Automation TechnologiesAI AgentAI Agent在企业数智化中的定位在企业数智化中的定位AI Agent：基于大语言模型的自治智能体从从人人机机协协同同模模式式角角度度从从A Ag ge en nt t组组成成结结构构角角度度p初级形态：把AI嵌入到人的工作中p中级形态：AI作为人的辅助工具p高级形态：AI作为主要工

4、具，Agent对人的依赖性在降低，且越来越像真人。人的大部分用于繁琐日常工作的技能被AI取代，而人机协同又让个体以前90%的弱技能被瞬间强化pAgent具备角色识别，规划及任务拆解、记忆及知识沉淀、工具/技能使用、执行动作等能力p采用更加高效的CUI交互模式从从技技术术架架构构演演进进角角度度p对话式编程时代，我们相信新的更优雅的基于大语言模型的软件架构必将诞生pSPQA架构是一种全新的软件架构，区别于以前静态、有限输入、电路式的软件架构nState+Policy：用于感知环境状态、组织策略nQuestions+Action：拆解问题任务、组织行动用用户户A Au ut to on no om

5、mo ou us s A Ag ge en nt tS St ta at te e+P Po ol li ic cy yQ Qu ue es st ti io on ns sA Ac ct ti io on n感感知知交交互互实实现现L LL LMMToos/SkillsDocQAText2S QLText2C hartText2ReportSemantic Searchmore skillsAPIRPARPCJ DBC/ODBCS NMP.moreGartner：智能体组件（Action，Insight，Reference）大模型产业生态&澜码科技独特的 产业生态位大模型产业生态由 基础设施

6、基础设施、大模型大模型、以及面向业务和使用需求的 应用层应用层 构成，各个要素环环相扣，共同构建和实现 新质生产力新质生产力。算算力力芯芯片片云云服服务务平平台台生生产产力力提提升升业业务务流流程程自自动动化化生生产产效效率率提提升升基基础础设设施施层层大大语语言言模模型型模模型型层层2 2C C 应应用用层层2 2B B 业业务务层层A AI I A Ag ge en nt t专专家家知知识识业业务务数数据据文文本本问问答答创创意意生生成成FireflySora1 1、需需要要突突破破大大模模型型准准确确率率问问题题2 2、需需要要结结合合企企业业数数据据进进行行训训练练和和开开发发3 3、