爱分析:2024大模型应用实践报告(39页).pdf

编号:160951 PDF  DOCX 39页 6.45MB 下载积分:VIP专享
下载报告请您先登录!

爱分析:2024大模型应用实践报告(39页).pdf

1、 2|2024 爱分析大模型应用实践报告 报告编委报告编委 报告指导人报告指导人 张扬 爱分析 联合创始人&首席分析师 报告执笔人报告执笔人 李进宝 爱分析 高级分析师 外部专家(按姓氏拼音排序)外部专家(按姓氏拼音排序)林庆治 飞算科技 首席数据官 吕鑫 滴普科技 大模型产品总监 张皎 拓尔思 金融和产业大脑产品中心运营总监 3|2024 爱分析大模型应用实践报告 特别鸣谢特别鸣谢(按拼音排序)(按拼音排序)4|2024 爱分析大模型应用实践报告 目录目录 1.报告综述!2.市场洞察!#3.数据分析市场!$4.知识库/智能客服市场!%&结语!%$关于爱分析!#(产品服务!#法律声明!#%5|

2、2024 爱分析大模型应用实践报告 报告综述报告综述|2024 爱分析 大模型应用实践报告 1 1.1.报告综述报告综述 人工智能大模型,是指通过在海量数据上依托强大算力资源进行训练后能完成大量不同下游任务的模型。大模型以其在模型精度和泛化能力等多个指标上超越传统 AI 模型的表现,以及赋能千行百业的巨大潜力,成为当今世界各国人工智能技术发展的核心方向。大模型经过近一年半的高速发展,已在政府、医院、学校、企业等各类需求群体中建立初步认知。其中一部分需求群体设立专项预算、开放业务场景,对大模型进行试点应用。通过试点应用,需求群体加深了对大模型能力和价值的认同感,进而普遍希望在未来继续增加相关预算

3、,将大模型与实际业务进行更深入、更广泛的融合。大模型应用百花齐放,其中数据分析和知识库/智能客服是企业在 2024 年关注度最高的是两个应用场景,成为企业落地大模型的重要抓手。调研数据显示,准备在 2024 年应用大模型的企业中,有 78%计划在数据分析场景落地,有 70%计划在知识库/智能客服场景落地。基于此,本报告将重点研究数据分析和知识库/智能客服两个特定市场。图表 1:2024 年大模型重点应用场景|2024 爱分析 大模型应用实践报告 2 市场洞察市场洞察|2024 爱分析 大模型应用实践报告 3 2.2.市场洞察市场洞察 通过对近百家大型企业的调研,爱分析归纳出大模型落地应用过程中

4、普遍存在的挑战,它们遍布规划、立项、选型、实施和运营等全流程。本报告将选取三个重点挑战进行论述并提出解决方案。挑战挑战 1 1:大模型:大模型项目未与企业保持战略一致性项目未与企业保持战略一致性 一般情况下,大模型通常是由上至下推动的,由董事长或 CEO 等企业一把手宣布大模型必须落地的任务。该任务无论分配到哪个团队,都会启动一个以大模型为主题的项目,并展开一系列汇报工作。在汇报过程中,企业一把手询问的首个问题往往是大模型项目与公司战略的关联。但是,在大多数汇报中,项目负责人的回答仅局限于大模型技术和应用,例如“大模型+知识库”赋予一线员工的能力提升、“大模型+数据分析”提高了业务人员使用数据

5、的便捷性等。这些价值与企业战略间并无必然联系,即大模型项目与企业战略之间没有必然联系,进而导致大模型项目难以顺利过审。某大型化学用品公司 CIO 向总经理汇报 2024 年度 IT 项目规划和预算情况,但汇报并不顺利,重点问题在于大模型项目的业务价值没有打动总经理。因此,爱分析建议首先要解决如何保持大模型项目与企业战略一致性的问题。实际上,多数企业在 2023 年年末至 2024 年年初期间会做 2024 年企业战略规划,其中必然涉及到战略目标设定以及战略解码的过程。爱分析认为,大模型项目必须在战略解码的过程中找到自身的核心定位,或者说确定其与战略的紧密联系,这对于项目的顺利进行至关重要。下图

6、为一个常见的战略解码过程,涵盖了从整体公司级战略到管理层设定的 KPI 目标,再到业务执行层的每个项目。无论是采用战略地图或者其他形式,都可以帮助企业进行战略解码的工作。其主要作用是在整个战略解码的过程中,尤其是在最终的执行层(项目)中,真正找到符合企业自身情况的战略对齐,从而提升大模型项目的价值。|2024 爱分析 大模型应用实践报告 4 图表 2:战略解码过程示意图 某金融机构在每年年底和第二年年初时,需要对整个十四五规划进行全方位回顾。在考虑十四五规划时,一个颇为关键的战略是自主可控,这也被明确写入公司的十四五信息化战略规划之中。因此,大模型项目负责人就是从十四五战略规划中出发,从中挑选

7、出适合的项目。该金融机构最终选中的落地项目是“大模型+运维”,选择原因其实是它比较好地解释了自主可控。这里的自主可控不局限于外资软件或基础设施,更多的是对外部供应商的自主可控。在此过程中,大模型与运维的联合价值显得尤为重要,因为可以对金融机构现有自身内部能力进行强化,也就是大模型可以提升公司内部运维人员的技能,例如通过知识库、BI 以及其他能力赋能内部运营的人员。运维人员在这个过程中,可以减少对云厂商或外资硬件服务器厂商等存在的高度依赖,从而以更好的程度体现出自主可控性。该项目从立项到实施都较为顺利,因为在项目之初便将整个公司的十四五战略规划中的自主可控性纳入其中,是一个非常优秀且值得借鉴的金

8、融机构案例。挑战挑战 2 2:大模型业务收益难:大模型业务收益难设定设定 大模型项目负责人在设定业务收益时,头绪繁多,但缺乏找到行之有效的收益项。当前常见的大模型业务收益主要包括提升企业/品牌形象、减少资本支出和运营支出、业务收入增加、提升客户满意度、|2024 爱分析 大模型应用实践报告 5 提升员工人均产出、缩短流程时间、加快新产品上市节奏等。如果大模型项目负责人追求“多多益善”,而不是“有的放矢”,企业内部往往难以就业务收益达成共识,进而导致项目推进困难。爱分析将提供一种易于操作且可行性较强的业务收益设定方式。在设定大模型业务收益时,需要从顶层开始进行考虑。这种策略的优势是从管理层出发,

9、历经部门领导,直至执行团队,这是实现大模型落地的最佳路径。其背后原因在于,大模型本身需要获得来自管理层的大力支持,以及在公司范围内推动这项工作,那么针对管理层的大模型的应用赋能,或探讨如何使这个模型为管理层带来价值,无疑是更为有效的切入点。某主机厂计划在 2024 年落地大模型,在应用场景上曾经过多次内部筛选,首先以面向管理层的场景作为首个目标。例如,在每月的经分会上,依托完全基于大模型生成的报表进行经分会的召开,报表主要展示了一些核心的日常经营指标。再例如,由于该主机厂规模较大,对于管理层而言,年终述职报告便显得尤为必要,大多数领导可能需要花费长达一个月甚至更长的时间来撰写这份报告。因此,大

10、模型项目团队根据日常运营分析中的一些核心基础数据生成报告帮助领导减轻年终报告的负担。由此可见,即便都是进行数据分析,在面向管理层时整体的业务收益会更易得到认可。挑战挑战 3 3:提升数据分析结果的准确率提升数据分析结果的准确率 数据分析是很多企业在 2023 和 2024 年落地大模型应用的首要场景,但生成结果的准确率较低,困扰着大模型项目负责人。导致该困境的主要原因之一在于大模型数据分析是基于语言交互的方式,无法限制用户的提问方式,因此理解问题和生成结果的难度偏高。以下通过一些来自用户的真实问题具体说明。n 含义清晰的单任务问题最简单。例如“最近 7 天 xx 产品的订单总量是多少?”这个问

11、题大模型理解起来比较轻松,因为这是一个单任务,并且订单量、产品、时间等指标比较明确。|2024 爱分析 大模型应用实践报告 6 n 含义模糊的单任务问题对于大模型而言,难度也不大。例如“xx 产品今年累计卖了多少?”大模型开始发挥优势,因为大模型擅长将模糊语义对齐标准语义。n 一些涉及多表数据处理的问题,开始给大模型增加难度。例如“今年 xx 品牌在国内和国外的整体销量是多少”国内外销量经常存在两张表,两个销量的字段都定义为 sales_count,如果对每个 sales_count 都做标注的情况下,针对两张表做 union all 或者做关联的时候会导致生成的 SQL 结果不准确。这种情况

12、采取的解决方案,是把所有数据通过数据模型打宽或预打宽,通过语义理解然后对齐到相应的指标字段。n 不限制问题长度的复杂问题带来更大挑战。例如“xx 品牌最近 3 个月国内销量最好的产品是哪一款?每个产品平均每月销量是多少?”大模型需要先查询过去某品牌三个月每个产品的销量,再基于查询的结果找到排序最好的几款产品,然后根据第二步任务结果找到排序最好的产品,计算平均每月的销量。n 复杂且需要调用专业算法的问题最为困难。例如“华北地区 xx 的效率月环比为什么下降了?”大模型不仅要查上个月的数据,还要针对前一个月的环比数据作计算,并且判断是否下降。在此基础上,还要调用归因能力,归因的算法能力不是大模型本

13、身所具备的,所以要通过插件化的方式让大模型去调度,把之前的结果做参数解析填充到对应插件里,并生成最终的结果。将上述每个问题的难点进行总结,影响生成结果准确性的原因主要在于语义对齐和任务多样性两个方面。语义对齐是指对齐用户口语化的查询和指标字段、维度字段、甚至是其它 API 的输入参数。任务多样性是指用户在提一个复杂问题或者目标时,大模型肯定无法直接执行,因此需要把目标或复杂任务拆解成多个子任务后,每个子任务做协同执行,再完成用户最终的提问需求。针对语义对齐的问题,可以通过语义增强配置的方式来解决。用户在提问时并不一定准确知道什么场景下该问什么指标,而是进行场景描述。因此要把企业的业务数据做指标

14、语义化相关的生成和配置,|2024 爱分析 大模型应用实践报告 7 包括指标名称、业务口径、应用场景等。针对用户提问,基于相似度和索引找到对应指标。针对任务多样性,可以通过引入 Agent 方式来解决。Agent 具备规划拆解能力,并且在此之后通过调用插件执行子任务。比如,Agent 基于指标查询会把指标、维度和时间三要素解析出来,填充到标准化的接口。Agent 还会调用归因、预测、异常检测等算法。|2024 爱分析 大模型应用实践报告 8 数据分析市场数据分析市场|2024 爱分析 大模型应用实践报告 9 3.3.数据分析市场数据分析市场 数据分析有两个落地要点,一是如何借助大模型实现更准确

15、的意图理解和 SQL 生成,二是如何借助大模型实现深度分析。实现这两个要点,才能推动到大模型数据分析从“可用”到“好用”。第一第一个个落地落地要点要点是如何是如何借助大模型实现更准确的意图理解和借助大模型实现更准确的意图理解和 SQLSQL 生成。生成。传统的取数过程中,用户需要明确掌握 SQL 语言和相应的数据库结构来提取所需信息。随着 NL2SQL 技术兴起,用户只需使用自然语言描述需求,由后端系统将其转换为适当的 SQL 语句,简化了查询过程。但 NL2SQL 技术仍有缺陷,其自然语言处理能力较弱,在处理模糊查询和复杂意图查询方面存在挑战。例如,NL2SQL 技术难以解决像“我想查询公司

16、内部有多少本科以上学历的员工”这种问题,该模型可以准确识别“本科”一词,但难以理解“本科以上”这四个字。大模型为 NL2SQL 带来了更强大意图理解能力,在处理模糊、多义或复杂的用户查询时,系统可以更准确地识别用户的真实需求。当然,在大模型出现之前,市场上也存在解决以上问题的方法。这是主要依靠项目化的方法,通过不断的配置和人工微调的方式来解决查询模板无法处理的问句。该方法导致项目交付周期长、成本投入大,并且长期需要运维人员持续维护。为为保证准确率,目前主要采用限定查询边界的解决思路。保证准确率,目前主要采用限定查询边界的解决思路。具体而言,有两种实现路径。一是基于指标平台,这一点与前面提到的语

17、义层颇为相似,是把常见的指标先基于宽表进行计算,如果再运用自然语言查询指标,其精确度会相对较高且基本上具备可控性。这种方式能够在一定程度上降低幻觉现象。二是将大模型与宽表或语义层相结合,运用宽表和数据源来构建语义层,继而在该语义层上进行相应的匹配和查询。这类模式的具体操作方式是,先去精准地匹配到语义层,如果未能实现精准匹配,一般会通过一个亿级别的小模型先去精准地匹配到宽表,然后基于宽表再用大模型去做理解。第二第二个个落地落地要点要点是如何借助大模型实现深度分析。是如何借助大模型实现深度分析。取数可以视为分析的前置动作,也可以视为浅层分析。其属于描述性分析,用于回答“发生了什么?”,核心要求是呈

18、现全面、准确、实时、可视化的|2024 爱分析 大模型应用实践报告 10 数据。除此之外,企业还需要诊断性、预测性和处方性数据分析。诊断性分析用于回答“为什么会发生”,核心要求是能够深入了解问题的根本原因。预测性分析用于回答“未来可能发生什么”,核心要求是通过历史数据来预测未来。处方性分析用于回答“现在我应该做什么”,核心要求基于数据和分析技术提出具体建议。诊断性、预测性和处方性数据分析需要用相关性分析、预测性分析、因果推断等分析方法来具体实现。企业对对话式分析的期待不局限于取数,而是希望它在深度分析方面可以发挥更大价值。企业需要和企业需要和具备训练或微调大模型能力具备训练或微调大模型能力的厂

19、商进行合作的厂商进行合作。企业可以直接用基础大模型进行相关性分析和预测性分析,但效果欠佳。需要厂商对基础大模型进行训练或微调,一是强化其各项数据分析的能力,二是提升多轮对话能力,因为深度分析时往往需要用户与系统的多次交互才能获得最终结果。当前,通过大模型实现因果推断难度较大,对厂商而言不属于必要能力项。|2024 爱分析 大模型应用实践报告 11 案例案例 1 1:大模型广泛赋能该集团多个工种,全面强化供应链敏捷性大模型广泛赋能该集团多个工种,全面强化供应链敏捷性 鞋服、箱包等快时尚行业的核心成功要素之一在于打造敏捷供应链。面对快速变化的消费者需求,敏捷供应链可以做到及时洞察和满足。除此之外,

20、敏捷供应链还可以通过对库存的精细化管理,减轻企业的库存和现金流压力。但随着快时尚企业规模增加,品牌、品类、门店、员工、流程越来越多,企业供应链的敏捷性受到挑战。如今,使用数字化、智能化手段解决“规模化扩张与供应链迟钝”这个发展难题已成为越来越多快时尚企业的共识。01.01.某时尚集团走在快时尚行业数字化转型前沿,某时尚集团走在快时尚行业数字化转型前沿,“如何拥抱大模型如何拥抱大模型”成成为企业发展新思考为企业发展新思考 某时尚集团业务涵盖鞋类、运动和服饰三大业务。作为一家大型实体经济企业,该集团已形成纵向一体化经营模式,覆盖商品企划、产品研发、生产制造、市场营销、物流仓储、零售分销等完整供应链

21、环节。该集团拥有数个研发生产基地,数十个自有仓库,在全国拥有自营门店上万家。相较于非自营模式的友商,该集团对供应链敏捷性有更强需求和更高要求。近年来,该集团启动数字化转型战略,以大数据赋能产业链,进行线上线下全渠道拓展融合,致力于为消费者提供更高性价比的产品和服务。数字化转型战略的前三年,该集团的数字化工作主要在完善业务系统和构建数据仓库两个方面。自 2021 年以来,该集团联合数据智能服务商滴普科技,双方在数据基础设施构建、业务实践等层面进行深度合作。双方将原有的多个数仓整合为统一数仓,有效地统一了业务口径,大幅缩减了开发运维工作量。以及,依托滴普科技智能湖仓平台 FastData,该集团实

22、现海量、多模数据入湖和存储、湖仓数据应用、数据全链路追踪、数据智能化运维等多项功能,降低企业的运营成本。同时,基于智能湖仓平台 FastData的建设,双方继续探索业务垂直领域的数据智能模型创新服务,共同打造 BI 产品。该 BI 产品|2024 爱分析 大模型应用实践报告 12 可将包含时间、空间、库存、销量、补货等多重维度的 300 多个指标数据在同一个界面直接、实时、动态地呈现出来,让数据在动态中驱动业务价值。该集团与滴普科技不定期进行技术交流,双方分享数字化、智能化技术发展趋势以及应用可行性。2022 年底大模型技术崭露头角,成为该集团与滴普科技技术交流会上的热门话题。双方认为大模型不

23、同于传统 AI,它的能力不局限于解决一些单点问题,而是可以嵌入到供应链全流程,对设计研发、采购、生产、门店等环节进行全方位赋能。该集团高管与科技中心领导对大模型技术的价值比较认可,允许通过一系列项目进行大模型应用探索。0 02 2.该集团希望大模型赋能门店和商品智能化运营,让数据反哺业务该集团希望大模型赋能门店和商品智能化运营,让数据反哺业务 该集团科技中心负责人来自业务部门,拥有 30 余年业务经验。他基于业务、IT 双重视角,快速定位大模型在该集团有哪些兼具可行性和高价值的场景。他认为应将大模型赋能门店和商品智能化运营,把“琳琅满目”的数据充分利用,反哺业务发展。该集团在门店和商品运营方面

24、存在如下痛点:n 传统 BI 工具的局限性:传统的 BI 工具难以有效处理和分析大规模、多维度的数据集。并且,它们在洞察生成、数据动态展示和复杂决策支持方面效果欠佳。n 高运营成本和资源消耗:在没有智能化工具支持的情况下,企业可能需要大量人力和时间来管理和分析数据,这不仅增加了运营成本,还可能导致资源的浪费。此外,由于数据处理和分析的低效率,企业可能无法充分利用数据作为新的生产力。n 决策传递速度慢:随着市场竞争的加剧和消费者需求的多样化,企业需要快速响应市场变化并作出决策。之前的数据分析结果主要服务于领导层,难以快速传递到门店店长等一线业务决策人手中。|2024 爱分析 大模型应用实践报告

25、13 同时,双方认为大模型在文生图方面的应用比较成熟,与鞋服研发设计场景高度契合。双方决定能将文生图大模型用于赋能设计师,来提升研发设计效率,实现对消费者需求和潮流元素的快速响应。0 03 3.滴普科技提供大模型端到端解决方案,致力于该集团商品运营、门店运营和研发设计全面优滴普科技提供大模型端到端解决方案,致力于该集团商品运营、门店运营和研发设计全面优化化 滴普科技提供大模型端到端解决方案,包括基础大模型 Deepexi、智能体运营平台 FastAGI、训推一体机 Fast5000E 三个大模型产品,并为企业大模型训练提供高质量的数据准备、模型训练、调优、部署及推理服务。滴普科技计划使用大模型

26、端到端解决方案服务该集团商品运营、门店运营和研发设计三个场景,具体实现路径如下:n 在商品运营场景,滴普科技将利用大模型升级 BI 产品。在双方共创的 BI 产品中引入大模型技术后,该 BI 产品开始具备多轮智能对话能力,能够根据业务人员需求,围绕任何一个SKU 对海量数据进行多维度复杂计算复盘,帮助决策者在极短时间阅读、理解和洞察商品全生命周期的运营历程,为商品的订货、补货、配货、调货等提供智能决策支持。并且,该 BI 产品可以新增品类洞察、店铺洞察,让洞察维度细化到每个城市、每个店铺、每个尺码,实现单款商品、单店、单天数据的全方位洞察,而后连接起智能补货、智能调货、智能订货、智能铺货等系统

27、,助力该集团实现商品的科学决策。n 在门店运营场景,滴普科技将利用大模型打造新款数仓机器人。该机器人将基于 FastAGI打造,能够通过类似聊天盒(chatbox)的界面实现门店经营业务的多轮交互式分析,并且支持对接钉钉等手机 APP。该机器人的核心能力源自滴普科技为该集团训练的企业大模型以及前期为该集团建设的数据湖,能够实现复杂场景的门店运营分析决策。此外,该机|2024 爱分析 大模型应用实践报告 14 器人还具备 text-to-SQL/API 的能力,这意味着它可以将自然语言查询转换为 SQL 查询或 API 请求,使得非技术背景的业务人员也能轻松地与之交互。n 在研发设计场景,滴普科

28、技将引入文生图大模型赋能设计师。文生图大模型主要用于生成运动鞋、高跟鞋的线稿和配色,辅助设计师更快完成工作。并且,生成内容可以支持部门部分重绘、局部修改等功能。0 04 4.该集团的补货速度、库存周转等指标显著提升,并计划该集团的补货速度、库存周转等指标显著提升,并计划 20242024 年将电商场景纳入大模型落地年将电商场景纳入大模型落地范围范围 该集团和滴普科技具有深厚的信任基础、行业 Know-how、技术积累和大模型落地共识,大模型项目进展迅速,如今均已落地应用。在商品运营场景,大模型给货品运营专家提供供应链专业知识和数据,并且可以执行货品配补调等业务操作。在门店运营场景,大模型帮助门

29、店店长获取自己权限内需要的数据和智能决策支持。在研发设计场景,大模型可以快速生成运动鞋、高跟鞋的线稿和配色,辅助设计师更快完成工作,并且具备部分重绘和局部修改等功能。该集团在线下门店实现大模型价值之后,计划于 2024 年将线上电商场景纳入大模型落地范围,比如电商锁库场景。具体而言,该集团将减少对电商运营专家的依赖,而是基于企业大模型快速生成锁定目标、锁定数量、锁定时间等一系列电商锁库策略。届时,该集团将在更大范围内提升供应链敏捷性。|2024 爱分析 大模型应用实践报告 15 案例案例 2 2:AIAI 赋能国有银行理财经理,业务收益提升赋能国有银行理财经理,业务收益提升 3030 倍倍 银

30、行竞争激烈,充分释放存量客户复购潜力成为关注焦点。但是,银行销售理财产品比较依赖理财经理个人经验,导致在目标客户定位和营销执行过程中出现一系列问题,即使国有银行也不能避免。01.01.业绩压力与营销资源出现矛盾,某国有银行的存量客户复购潜力难以释放业绩压力与营销资源出现矛盾,某国有银行的存量客户复购潜力难以释放 某国有银行重点分行主要有三项业务,分别为销售投资型产品的个人金融业务、放贷的消费金融业务以及信用卡业务。三项业务发展较为独立,其中个人金融业务有 1000 多万个客户。银行竞争激烈,充分释放存量客户复购潜力是业绩增长重点。一直以来,销售理财产品依赖理财经理个人经验,导致在目标客户定位和

31、营销执行过程中出现低质、低率、高风险的情况,需要改进。n 低质:响应率偏低,平均不到 1%。n 低效:理财经理有 400 多人,每月只能联系大约 2 万个客户。而存量客户有 1000 多万,符合销售条件的也有数百万,随机式或经验法则的销售方式,无法及时发现以及满足有需求的客户,最后导致销售机会的丧失与客户流失,客户陷入“睡眠”与“流失”状态。n 高风险:过度打扰客户,可能引起投诉。客户投诉较多时,监管部门会中止外呼渠道。0 02 2.飞算科技分析该银行业务流程,发现各环节均存在明显痛点飞算科技分析该银行业务流程,发现各环节均存在明显痛点 飞算科技对该银行业务流程进行全面分析,发现三个业务环节均

32、存在痛点,且至今均未得到妥善解决。|2024 爱分析 大模型应用实践报告 16 图表 3:业务流程及各环节痛点 第一个业务环节是第一个业务环节是“获得长名单获得长名单”,业务内容为业务人员向 IT 人员提出分析需求,获取长名单。业务痛点主要有四项:一是业务人员无分析能力,依赖 IT 人员;二是 IT 人员容易出现理解偏差;三是 IT 人员反馈周期长;四是双方沟通效果差,返工比较多。该银行尝试使用总行大数据平台来改进,但效果欠佳。一是业务人员仍然不能参与其中,业务与 IT 的“沟通鸿沟”仍然存在。二是总行数据没有考虑分行的个性化需求,反而更加用不起来。该环节的业务现状便是比较原始的形态,业务人员

33、提需求,IT 人员手工取数。第二个业务环节是第二个业务环节是“获得短名单获得短名单”,业务人员根据经验判定高潜力客户,形成短名单。业务痛点则是:业务人员依赖经验法则,定位不准,效果差。该银行尝试外聘算法专家进行 AI 建模来改进,但效果欠佳。一是专家成本高。二是建模周期长,不能满足业务团队的时效性需求。该环节的业务现状便是专家建模小范围使用,经验法则仍是主力。第三个业务环节是第三个业务环节是“建联与销售建联与销售”,业务人员联系客户,推荐理财产品。业务痛点则是:依赖人工方式,效率欠佳。该银行尝试使用传统营销系统来改进,解决了一些问题,但也带来了新|2024 爱分析 大模型应用实践报告 17 的

34、问题。一是营销闭环没有打通,依赖人工执行,不能自动化营销。二是无法做到跨渠道资源整合与客户沟通策略优化。该环节的业务现状便是暂且使用传统营销系统。0 03 3.飞算科技借助自动化、人工智能和大模型技术,为该银行输出端到端解决方案飞算科技借助自动化、人工智能和大模型技术,为该银行输出端到端解决方案 飞算为该银行输出端到端解决方案,该解决方案由三部分组成。第一部分是大模型+BI 增强分析,用来解决客户洞悉问题;第二部分是自动化建模,用来解决短名单精准度问题;第三部分是自动化营销,用来解决营销效率和资源优化问题。图表 4:飞算科技解决方案概览 解决方案第一部分由飞算科技的解决方案第一部分由飞算科技的

35、 AI.InsightAI.Insight 来实现。来实现。该产品具备自动生成客户画像功能以及趋势分析、归因分析、差异分析等功能。AI.Insight 是小模型跟大模型的综合运用产物。小模型负责分析和推荐,大模型负责交互和决策生成。AI.Insight 可以为“获得长名单”业务环节带来智能交互、智能洞察两个预期效果。n 智能交互 自然语言交互:产品与理财经理能够使用自然语言和语义搜索任何问题。答案将以见解、报告和推荐的仪表板的形式展现。|2024 爱分析 大模型应用实践报告 18 智能图表推荐:通过智能图表推荐引擎展示合适的图表,并支持理财经理灵活切换图表。n 智能洞察 异常分析:自动对数据进

36、行时序异常检测、因果关联、波动归因等原因分析,并给出结论性描述。多维分析:对数据洞察点进行 Auto OLAP 分析,支持上卷、钻取、切片、切块等多维度分析。客户特征分析:基于数据洞察点进行客户特征分析,定位异常客户群体。解决方案第二部分由飞算科技的解决方案第二部分由飞算科技的 AI.ModelerAI.Modeler 来实现。来实现。AI.Modeler 是一个面向数据加工和模型开发的全自动化数据建模平台,涵盖数据建模领域的分析、清洗、衍生、选择、迭代、上线等整个建模生命周期。AI.Modeler 可以为“获得短名单”业务环节带来精准定位、使用门槛低两个预期效果。n 精准定位:生成存量客户短

37、名单,精准营销,提升转化率。n 使用门槛低:AI.Modeler 标准版适用于产品与理财经理等业务人员。业务人员一键启动,即可实现 30 分钟、4 步骤、全流程、全自动建模,效果媲美专业建模人员。解决方案第三部分由飞算科技的自动化营销平台来实现。解决方案第三部分由飞算科技的自动化营销平台来实现。自动化营销平台支持营销闭环打通、营销策略优化、营销资源管理以及活动设计/执行/追踪等需求。自动化营销平台可以为“建联与销售”业务环节带来营销策略优化、营销资源管理、活动设计、活动执行等预期效果。|2024 爱分析 大模型应用实践报告 19 n 营销策略优化:联动 AI.Insight 形成客户洞察,联动

38、 AI.Modeler 获得精准短名单。助力产品经理和理财经理制定有效的营销策略。n 营销资源管理:银行产品经理可通过营销资源管理功能,让资源效益最大化。n 活动设计:流程化设计概念,产品经理可以使用图形化拖、拉、拽的操作形式快速建立营销活动流程。n 活动执行:支持产品经理进行实时与批量调度,设定活动的预期执行时间区间,执行周期频率等,方便自动化执行。0 04 4.飞算科技和该银行以第二个业务环节为合作切入点,业务收益显著飞算科技和该银行以第二个业务环节为合作切入点,业务收益显著 该银行第二个业务环节痛点最为严重,双方将其作为首要解决的问题。该银行要求在实际业务环境中测试飞算科技解决方案,看到

39、实际效果后再正式采购。2022 年 6 月 10 日至 30 日,飞算科技进行了 POC,通过真实客户触达后统计营销结果进行线下验证,验证结果如下。图表 5:线下验证结果|2024 爱分析 大模型应用实践报告 20 飞算科技解决方案响应率是 2.48%,银行传统经验法则方式的响应率是 0.31%,响应率是传统方式的 8 倍。飞算解决方案平均购买金额是 185 万,传统方式平均购买金额是 50 多万,飞算解决方案平均购买金额是传统方式的 3.6 倍。总体而言,业务收益提升将近 30 倍。该银行对此测试结果高度满意,已正式采购飞算科技 AI.Modeler 产品。双方正在谈沟通客户画像、事件营销、

40、营销自动化事宜,推进 POC。|2024 爱分析 大模型应用实践报告 21 知识库知识库/智能客服市场智能客服市场|2024 爱分析 大模型应用实践报告 22 4.4.知识库知识库/智能客服智能客服市场市场 知识库/智能客服有两个落地要点,一是需要借助大模型降低知识库冷启动时间,二是需要借助大模型实现用户体验的全流程赋能。第一个第一个落地落地要点是要点是需要需要借助大模型降低知识库冷启动时间。借助大模型降低知识库冷启动时间。知识库构建环节是搭建智能客服体系的重要环节,对该环节赋能具有较高业务价值。当前,知识构建工作比较依赖话术师,他们负责整理问答对和扩写相似问,此过程比较依赖他们的个人经验。一

41、个话术师整理一类知识库通常需要耗费大约 1-3 个月的时间。知识构建效率偏低会直接导致知识库冷启动时间比较长。企业需要借助大模型的理解能力和生成能力压缩知识库冷启动时间。引入大模型之后,首先做知识域的自动分类。第二是进行知识点的实体和关系的自动抽取,本质是基于大模型做预处理,降低对人工的依赖程度。第三是进行问答对拆分和相似问扩写。第二个落地要点是第二个落地要点是需要需要借助大模型实现用户体验的全流程赋能。借助大模型实现用户体验的全流程赋能。大模型和客服流程结合点众多,全流程赋能才能充分发挥大模型效用。以投诉类客服为例,一般包括电话接入、投诉受理、投诉处理、定责结案和诉后分析等五个环节,在“电话

42、接入”环节,可以基于客户信息实现智能派单;在“投诉受理”环节,可以自动生成纪要和话术;在“投诉处理”环节,可以自动生成投诉解决方案和回复话术;在“定责结案”环节,可以自动生成定责建议;在“诉后分析”环节,可以支持对话交互式数据分析和自动生成优化策略。|2024 爱分析 大模型应用实践报告 23 案例案例 3 3:某股份制银行利用大模型等数智技术赋能消费者权益保护全流程,降诉效某股份制银行利用大模型等数智技术赋能消费者权益保护全流程,降诉效果显著果显著 消费者权益保护是金融监管机构对银行等金融机构的重要监督和考核事项,涵盖消费者和金融机构接触全流程,例如消保审查、投诉管理等。2023 年是中国金

43、融消费者权益保护工作变革的重要节点,金融消保由“一行两会”分别监管转变为国家金融监督管理总局统筹管理,是我国金融消保监管机制的一次重要升级革新,更加强调构建多层次、全口径的金融消费者权益保护格局。在此背景下,银行产生了明确的降诉需求。数字化、智能化技术是实现银行降诉需求的有效路径。其中,大模型技术为降诉带来了诸多新思考和新解决方案。01.01.某性股份制银行高度重视消费某性股份制银行高度重视消费者权益保护工作,希望进一步完善消保工作机制者权益保护工作,希望进一步完善消保工作机制 某全国性股份制商业银行坚持以客户为中心,高度重视消费者权益保护工作,构建消费者权益保护职能部门牵头、相关部门分工负责

44、的工作体系,强化消保部门赋权与资源保障。该银行稳步推进消保管理体制建设,制定或修订多项消保相关工作制度,不断健全消保审查、内部培训、监督检查、考核评价等各项消保工作机制,切实保护消费者个人信息安全。该银行消保中心已建设完成消保事前审核系统、投诉处理工单系统,消保事前审核系统用于对产品/服务进入市场前的消保审查,投诉处理工单系统用于对事后投诉处理进行线上化流转和记录。2023 年,该银行认为消保中心消保工作机制存在以下痛点,需要升级改进。n 事前消保审查权威性不足,缺乏审查意见未采纳事项的刚性控制流程,难以跟踪审查意见的执行落实;|2024 爱分析 大模型应用实践报告 24 n 事前消保审查专业

45、性不足,缺少规范化统一化审查标准,且极度依赖审查人员的专业知识与业务经验,“一事一策”现象严重;n 投诉数据的处理分析能力较弱,目前投诉处理与分析工作大量依赖人工处理后,投诉处理效率低,且难以结合行内业务需求进行深入分析,预警能力与业务赋能能力较差;n 投诉处理监控能力弱,缺乏投诉处理全流程的把控,如时限管控和资源合理分配机制等;n 消保相关数据比较分散,打通事前-事中-事后消保系统,,客户-产品-投诉数据未得到有效串联,难以构建客户精细画像,实现产品服务全生命周期监控,或进行营销触点分析,不利于数据的统一管理与整合且利用率低;02.02.拓尔思依托丰富的银行消保项目经验和领先的金融行业大模型

46、,获得该银行青睐拓尔思依托丰富的银行消保项目经验和领先的金融行业大模型,获得该银行青睐 拓尔思信息技术股份有限公司(简称“拓尔思”)成立于 1993 年,是一家人工智能、大数据和数据安全产品及服务提供商。拓尔思的数智产品与服务已被国内外 10000 余家企业级用户使用,主要集中在企业数字化转型、数字政府、网络内容安全、融媒体、金融科技和开源情报等领域。在消费者权益保护领域,拓尔思具备丰富的银行消保项目经验。在消费者权益保护领域,拓尔思具备丰富的银行消保项目经验。拓尔思已服务多家全国性股份制商业银行和头部城商行的消保需求,皆在提升客户体验和降低投诉方面取得显著效果。并且,拓尔思积极探索大模型技术

47、和应用,已推出金融行业大模型。并且,拓尔思积极探索大模型技术和应用,已推出金融行业大模型。拓尔思基于自有的 110 亿+金融主题数据、4000+投诉分析因子、1500+消保审查知识、百亿级产业指标数据、30 亿+产业要素明细数据、2 亿+产业动态本体、500+以上标引维度、10000+知识标引规则、10 万+产业标签作为专业训练数据,打造了金融行业大模型,主要功能覆盖研报生成、风控舆情、智能客服、智能消保审查、自动业务批处理等业务场景。03.03.拓尔思基于大模型技术构建消保智能解决方案,为消保全流程提质增效拓尔思基于大模型技术构建消保智能解决方案,为消保全流程提质增效|2024 爱分析 大模

48、型应用实践报告 25 拓尔思的总体思路是运用多模态识别、NLP、LLM 技术和 AI agent 框架,优化现有审查机制、投诉处理机制、营销模式、内部消保工作机制,推动覆盖消保中心的“全客户、全渠道、全产品”的数字化转型,实现消费者权益保护的全程监控管理。对外满足最新监管要求,提高消保管控的规范化和标准化水平;对内赋能业务辅助决策,全方面把控信用卡业务/产品/活动生命周期各个关口。在消保审查方面,拓尔思构建了智能消保审查平台,实现产品、宣传材料的线上化、自动化、在消保审查方面,拓尔思构建了智能消保审查平台,实现产品、宣传材料的线上化、自动化、智能化审查。智能化审查。为有效提升审查效率,拓尔思帮

49、助行方构建消保审查平台,实现审查自评估、送审、审查、反馈、归档全流程线上管理,同时不断完善消保审查因子体系和智能审查功能。智能审查因子体系主要得益于拓尔思丰富的银行消保项目经验。智能审查因子体系有六个组成部分,包括宣传文本问题、规则制度不合理、产品开发设计问题、申请材料问题、业务流程不当、营销材料问题以及个保问题。拓尔思将智能审查因子体系与大模型结合,实现审查意见自动推荐。基于多模态识别和 AI Agent 框架,构建智能化辅助审查工具。结合审查因子体系和消保知识库(包括相关政策规定、禁用词敏感词及优秀案例积累),实现潜在风险的自动识别和对应法规条款的自动提示。并利用大模型自动生成审查意见,推

50、荐优秀相似案例为参考,辅助审查人员开展审查,能有效解决基层审查能力不足的问题,行方审查速度和审查准确性得到大幅提升。在消保投诉处理方面,拓尔思实现了全流程数智化赋能。在消保投诉处理方面,拓尔思实现了全流程数智化赋能。消保投诉处理流程主要有五个环节,分别为电话接入、投诉受理(客服)、投诉处理(投诉处理专员)、定责结案和诉后分析。拓尔思构建投诉处理分析智能 Agent 实现全流程赋能,致力于专业、快速地解决消费者投诉,第一时间识别客户投诉反映的苗头性、潜在性问题,推动投诉工作由“被动处理”向“主动预防”转变。|2024 爱分析 大模型应用实践报告 26 n 在在“电话接入电话接入”环节基于客户信息

51、实现智能派单,环节基于客户信息实现智能派单,“好钢花在刀刃上好钢花在刀刃上”。在电话接入环节,建立投诉事前预警机制,分层分级及时预防投诉发生。系统可以实时抽取基本信息、客户情绪、投诉原因等客户信息,基于此进行客户风险分级,然后将投诉处理难度较高的客户与资深客服进行匹配,实现客服资源的优化配置。n 在在“投诉受理投诉受理”环节自动生成纪要和话术,并自动勾选分类标签,加速投诉受理。环节自动生成纪要和话术,并自动勾选分类标签,加速投诉受理。传统方式下,客服在听取客户投诉的过程中,需要人工提取要点并记录,如投诉的产品是什么?投诉的业务线是什么?客户的诉求是什么?当客服对投诉内容不了解,还需要转接其他客

52、服。并且,客服人员在结束通话后需要手动勾选投诉的分类标签。传统的投诉受理过程用时较长,可能加深消费者的不满情绪。拓尔思在投诉受理环节,运用 ASR 技术实现自动记录客户投诉内容,利用自然语言处理(NLP)技术构建智能投诉分类模型,实现自动分类,加速投诉受理。n 在在“投诉处理投诉处理”环节自动生成投诉解决方案和回复话术,提升投诉处理效率,解决投诉处环节自动生成投诉解决方案和回复话术,提升投诉处理效率,解决投诉处理人工标准不统一问题。理人工标准不统一问题。同时,拓尔思利用生成式人工智能(AIGC)技术自动生成投诉解决方案和回复话术,并推荐过往相似案例,辅助投诉处理专员可以更快、更好地处理投诉。n

53、 在在“定责结案定责结案”环节自动生成定责建议,辅助定责。环节自动生成定责建议,辅助定责。在定责结案环节,系统可以根据相似历史投诉案例生成定责建议,辅助定责。定责目的为明确是否银行责任以及责任单位与责任人。此外,有效的定责也有助于业务发现问题业务、问题单位,有针对性地进行整改优化。n 在在“诉后分析诉后分析”环节支持对话交互式数据分析和自动生成优化策略,优化消保管理。环节支持对话交互式数据分析和自动生成优化策略,优化消保管理。诉后分析主要是为管理者提供全局视野,拓尔思将投诉内容及相关信息数据化、结构化、标准化,用户可以与系统对话进行多项可视化分析。并且,系统可以自动生成产品整改意见和|2024

54、 爱分析 大模型应用实践报告 27 服务整改意见。同时,系统支持监管报表自动生成和报送,避免消保部门需要在监管报送工作中投入大量人力进行手工导出和整合。04.04.该银行客户投诉显著下降,在股份制银行中的排名持续改善该银行客户投诉显著下降,在股份制银行中的排名持续改善 该项目取得两项显著成果。一是消保审查机制高效运转,风险隐患有效遏制。二是投诉治理成效初显,消费者满意度趋势向好。消保审查:消保审查机制高效运转,风险隐患有效遏制。消保审查:消保审查机制高效运转,风险隐患有效遏制。将面向消费者推出的产品和服务全部纳入消保审查范围。从监管法律法规与消费者视角出发,以新技术为核心,在产品和服务推出市场

55、前,及时发现并更正可能损害消费者合法权益的问题隐患,真正发挥出消保审查风险预防作用。系统上线至今,累计开展消保审查 10 万余笔,提出实质性审查意见 3 万余条,平均每笔审查时间 2 小时,秒批率约 20%,提升审查质效。投诉处理:投诉治理成效初显,消费者满意度趋势向好。投诉处理:投诉治理成效初显,消费者满意度趋势向好。一方面,该银行从全量客户投诉数据中,结合语义智能分析模型,输出投诉热点、激增投诉、客户关切的重点问题,辅助业务开展专项精准治理。另一方面,利用面向产品、审查、投诉、渠道等多维度深度分析引擎,将投诉治理重点逐渐从事后处置延伸到事前防控,实现客户体验和风险产品的跟踪、关联、预测,推

56、动客户投诉前置化解。系统上线至今,该银行客户投诉显著下降(较上一年下降超 20%),监管转办投诉量在股份制银行中的排名持续改善。|2024 爱分析 大模型应用实践报告 28 结语结语|2024 爱分析 大模型应用实践报告 29!结语结语#本报告探讨了大模型落地过程中普遍存在的一些挑战,以及在数据分析和智能客服两大热门场景中的落地要点。我们致力于推动企业落地大模型的进程,期待看到大模型在千行百业实现更广泛、更深入的落地。未来,随着大模型技术的不断发展和完善,我们对其在更广泛领域的应用充满信心。特别值得一提的是,近期 OpenAI 公布的文生视频大模型 Sora,以其惊人的效果引起了社会各界的广泛

57、关注。虽然目前尚未开放使用,但 Sora 所展示的潜力无疑为大模型的应用开辟了新的可能性。我们期待着 Sora等新产品、新技术未来在各行业中发挥的巨大作用,相信其将为商业界带来翻天覆地的改变。|2024 爱分析 大模型应用实践报告 30 关于爱分析关于爱分析 爱分析致力于成为中国领先的数字化市场专业服务平台,为企业用户提供数字化规划与落地全流程服务。爱分析以咨询为牵引,依托实践经验、专家建议和方法论工具,为企业提供最适配的解决方案和落地服务,帮助企业提高项目成功率、优化投资收益,以及控制风险。爱分析深耕数字化市场 10 余年,在央国企、金融、消费品、制造等行业积累诸多标杆案例和丰富实践经验。|

58、2024 爱分析 大模型应用实践报告 31 产品服务产品服务 咨询?咨询匹配?企业培训?规划咨询?商选型咨询?业务落地咨询?需求分析?定向招募专家?workshop 交流?培训主题设定?爱分析专家?外部招募专家?研究报告?活动?媒体?数字化实践报告?商全景报告?市场洞察报告?络研讨会?业峰论坛?数字化会?数字化业资讯?专家访谈?专家分享实录?|2024 爱分析 大模型应用实践报告 32 法律声明法律声明 此报告为爱分析制作,报告中文字、图片、表格著作权为爱分析所有,部分文字、图片、表格采集于公开信息,著作权为原著者所有。未经爱分析事先书面明文批准,任何组织和个人不得更改或以任何方式传送、复印或派发此报告的材料、内容及其复印本予任何其它人。此报告所载资料的来源及观点的出处皆被爱分析认为可靠,但爱分析不能担保其准确性或完整性,报告中的信息或所表达观点不构成投资建议,报告内容仅供参考。爱分析不对因使用此报告的材料而引致的损失而负上任何责任,除非法律法规有明确规定。客户并不能仅依靠此报告而取代行使独立判断。北京爱分析科技有限公司 2024 版权所有。保留一切权利。|2024 爱分析 大模型应用实践报告 33 34|2021 爱分析 数据智能平台实践报告

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(爱分析:2024大模型应用实践报告(39页).pdf)为本站 (可乐要加(贾)冰) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
客服
商务合作
小程序
服务号
会员动态
会员动态 会员动态:

wei**n_... 升级为至尊VIP 185**12... 升级为标准VIP

mi**c 升级为至尊VIP z** 升级为至尊VIP

bla**12... 升级为至尊VIP bla**12... 升级为标准VIP

191**37... 升级为至尊VIP wei**n_... 升级为至尊VIP

181**63... 升级为至尊VIP wei**n_... 升级为标准VIP

wei**n_... 升级为至尊VIP wei**n_... 升级为至尊VIP

ROS**LL 升级为标准VIP 138**15... 升级为至尊VIP

wei**n_... 升级为标准VIP 138**35... 升级为至尊VIP

156**19... 升级为至尊VIP 156**02... 升级为至尊VIP

177**17... 升级为标准VIP wei**n_... 升级为标准VIP

187**23... 升级为高级VIP 139**79... 升级为至尊VIP

wei**n_... 升级为标准VIP 173**43... 升级为高级VIP

wei**n_... 升级为标准VIP 风**... 升级为至尊VIP

188**96... 升级为高级VIP 138**87... 升级为标准VIP

摇**... 升级为高级VIP wei**n_... 升级为至尊VIP

wei**n_... 升级为高级VIP wei**n_... 升级为高级VIP

137**24... 升级为至尊VIP wei**n_... 升级为高级VIP

wei**n_... 升级为高级VIP wei**n_... 升级为至尊VIP

wei**n_... 升级为高级VIP wei**n_... 升级为标准VIP

wei**n_... 升级为标准VIP wei**n_... 升级为至尊VIP

wei**n_... 升级为标准VIP wei**n_... 升级为至尊VIP

158**10... 升级为标准VIP 186**81... 升级为高级VIP

wei**n_... 升级为至尊VIP 131**84... 升级为高级VIP

wei**n_... 升级为高级VIP wei**n_... 升级为高级VIP

郭** 升级为至尊VIP wei**n_... 升级为高级VIP

wei**n_... 升级为高级VIP wei**n_... 升级为标准VIP

彭**... 升级为高级VIP wei**n_... 升级为至尊VIP

137**80... 升级为至尊VIP wei**n_... 升级为高级VIP

173**26... 升级为高级VIP 186**02... 升级为至尊VIP

138**63... 升级为标准VIP 微**... 升级为标准VIP

wei**n_... 升级为至尊VIP 何**... 升级为至尊VIP

wei**n_... 升级为高级VIP 吴**... 升级为至尊VIP

木**c 升级为至尊VIP 微**... 升级为标准VIP

wei**n_... 升级为至尊VIP 微**... 升级为至尊VIP

大**... 升级为高级VIP wei**n_... 升级为至尊VIP

wei**n_... 升级为至尊VIP 136**87... 升级为标准VIP

wei**n_... 升级为高级VIP wei**n_... 升级为至尊VIP

wei**n_... 升级为高级VIP 137**85... 升级为标准VIP

wei**n_... 升级为高级VIP wei**n_... 升级为至尊VIP

135**81... 升级为至尊VIP wei**n_... 升级为高级VIP

137**39... 升级为高级VIP 185**26... 升级为至尊VIP

wei**n_... 升级为高级VIP jxf**yz 升级为至尊VIP

wei**n_... 升级为标准VIP wei**n_... 升级为标准VIP

wei**n_... 升级为标准VIP wei**n_... 升级为至尊VIP

185**63... 升级为至尊VIP 152**78... 升级为标准VIP

wei**n_... 升级为至尊VIP 182**56... 升级为至尊VIP

185**34... 升级为至尊VIP 185**34... 升级为标准VIP

178**05... 升级为高级VIP gd**xy 升级为至尊VIP

wei**n_... 升级为至尊VIP 186**33... 升级为至尊VIP

186**48... 升级为高级VIP 杨**C... 升级为标准VIP