大模型在金融知识和作业密集型场景的挑战和实践-姜睿思.pdf

1、在金融知识和作业密集场景的挑战和实践演讲人：姜睿思大模型姜睿思，纽约州立大学硕士、上海交通大学博士。研究领域为人工智能、量化交易、供应链金融。姜睿思博士先后领导了全链路营销模型的设计与优化、风控评分卡及反欺诈策略优化、智能坐席辅助系统、AI建模平台等项目。在人工智能赋能智慧金融、大数据治理、AI模型在风险管理和营销的创新应用、传统金融机构数字化转型等方向上，姜睿思博士有着丰富理论与实践经验。姜睿思博士大模型应用效益闭环CONTENT大模型近期发展介绍大模型在金融知识和作业密集场景的挑战和实践大模型应用效益闭环CONTENT大模型近期发展介绍大模型在金融知识和作业密集场景的挑战和实践AI大模型时

2、代大模型能力树search-gptgpt4o-minisora音乐音效gpt4o数据分析能力claude 3 sonnetgemini 1.5 pro2M上下文gemini 1.5 flash音频模型V2A语音助手Llama 3.1chameleon其他云计算脑机生物模型国外AI巨头近期发布近期大模型的发展方向基座大模型垂类大模型小微模型多模态模型模型效果模型性能资源占用上下文长度内容审核语音接入其他应用调用价格应用类模型优化类模型类大模型应用效益闭环CONTENT大模型近期发展介绍大模型在金融知识和作业密集场景的挑战和实践大模型应用之AgentAgent定义：引导智能实现结果的手段或工具a

3、means or instrument by which a guiding intelligence achieves a result特性：自主性、交互性、反应性和适应性司内大模型应用面向提升业务效果和客户体验的应用面向司内作业提质提效的应用Prompt，微调，训练，推理，RAG，Tools调用等客服，外呼，助手，数据分析等方向技术场景（金融科技）大模型应用场景分类作业密集（智能客服Agent）知识密集（如ChatBI）减少操作，提升效率提升准确度，提升体验提高搜索效率检索未知企业数字化转型与大模型应用数据 VS 知识狄仁杰算法ALGORITHM数据DATA算力COMPUTILITY脚印蹄

4、印猎手可搜集数据 知识知识 已搜集数据企业知识定义流程、制度、规范业务知识、运营、营销、风控数据库表、技术/产品文档人、分工、组织、团体健身、交通、聚餐、下午茶规章制度业务运营组织建设企业文化技术基础知识密集型应用ChatBI（Chat-based Business Intelligence）是一种基于聊天界面的商业智能系统，它允许用户通过自然语言与系统进行交互，获取所需的业务数据和洞察。核心功能包括：数据分析与可视化ChatBI能够处理和展示复杂的数据集，帮助用户快速获取关键信息。自然语言处理（NLP）使ChatBI能够理解和处理用户的自然语言查询。机器学习通过分析历史数据和用户行为，Cha

5、tBI能够提供个性化的建议和预测。ChatBI应用场景客户服务与支持客户服务的辅助工具，提供即时的查询响应和问题解决内部沟通与协作通过集成到企业内部通讯平台、提高团队协作效率决策支持系统报表查询，实时的数据分析和业务洞察，辅助、决策生产监控实时监控生产线状态，及时发现并报告生产问题预测性维护预测设备故障，减少停机时间，提高生产效率个性化营销通过分析客户历史购买数据、提供个性化的产品推荐或预测风险司内应用场景数据分析数据展示实时大屏移动报表拖拽分析生成报告高性能数据获取数据接入文件数据数据库DBAPI接口自助轻量数仓开放对接数据应用数据应用数据门户移动应用决策引擎自助取数平台管理ChatBIAI

6、智能问答自然语言问答一键可视化多轮查询多系统互通智能分析助手ChatBI产品功能ChatBI核心能力Exact Match Accuracy(EM)：精确匹配准确率Execution Accuracy(EX)：执行准确率Valid Efficiency Score(VES)：有效效率得分基于大模型的Prompt优化：关键词提取、实体检索、上下文检索、列筛选、表选择、列选择、候选生成、修订。基于模板、规则seq2seq框架的编码解码优化多任务槽位填充大模型出现前大模型出现后Text2SQL核心能力1核心能力2效果评估ChatBI关键结果SQL复杂度（行数）总SQL查询数占比SQL生成准确率100