《A5_AI中台如何帮助企业落地AI_Agent_陈小康_16708914.pdf》由会员分享,可在线阅读,更多相关《A5_AI中台如何帮助企业落地AI_Agent_陈小康_16708914.pdf(27页珍藏版)》请在三个皮匠报告上搜索。
1、AI中台如何帮助企业落地AI Agent陈小康汉得信息 研发中心总经理企业级Agent需要更准确地做交互与处理、需要权限控制,复杂,必须要中台支撑目录企业落地AI应用为什么需要AI中台企业级AI Agent有什么能力要求企业级AI Agent如何落地与应用企业落地AI应用为什么需要AI中台企业落地AI应用的一些问题l 一般个人已会用大模型等工具,但是如何将大模型、AI应用到企业中?有哪些合适的业务场景?做什么?做什么?l 如何去实现AI业务场景,并且能及时响应反馈去快速调整?怎么做?怎么做?l 应用了一些Agent平台,但是实际使用时执行不稳定,很难上生产!l 应用了一些Agent平台,但是不
2、知道怎么实现企业很多的需要限制数据、限制访问的场景!如何实际应用?如何实际应用?企业应用AI建议嵌入AI到企业业务中将大模型作为导师。对个人做细致的、针对性的指导将大模型作为导师。对个人做细致的、针对性的指导比如给出各类专业知识与参考,如某个需求的代码实现、某个程序报错如何解决;比如碰到某些个人疑问,请大模型给指导,如要怎么减肥、要怎么健身等将大模型作为助手。帮助做文档类工作等将大模型作为助手。帮助做文档类工作等比如优化文章、编写邮件、生成流程图等;比如写PPT、写周报等作为创作工具。帮助生成图、调整图,生成音频、视频作为创作工具。帮助生成图、调整图,生成音频、视频比如帮助个人画商品宣传图、给
3、商品调整图片环境等个人能较方便的用大模型提升效率:个人能较方便的用大模型提升效率:直接应用豆包、Kimi(搜索)、Gamma、即梦等模型或工具企业应用大模型、应用企业应用大模型、应用AI能做什么能做什么游戏游戏+AI+AI:如智慧NPC;原图生成、情节生成、NPC对话生成金融金融+AI+AI:金融问答;量化交易通用应用通用应用+AI+AI:主要是主要是AgentAgent智能体智能体OA助手/门户助手,比如预定会议室、各种个人申请客服系统+智能对话,涉及RAG问答、查订单、转人工员工话术培训业务流转,如指令式创建采购申请单、创建报价单代码插件,包含代码RAG问答、代码补全、代码优化等HR+AI
4、HR+AI:生成JD;政策问答;自动筛选简历制造制造+AI+AI:故障知识库;生成设备故障排查报告;库存优化营销营销+AI+AI:智慧导购;生成千人千面的促销邮件;识别电销商机并存储;自动筛选客户线索并生成跟进方案建议应用建议应用+AI+AI 模式模式在现有业务中嵌入在现有业务中嵌入AIAI功能以优化效率,聚焦如何降本、增效功能以优化效率,聚焦如何降本、增效企业AI Agent的落地难度大企业怎样落地?如何低门槛、高效率?企业怎样落地?如何低门槛、高效率?l大模型如何使用?大模型如何使用?-提示词工程、RAG、微调。有门槛l大模型的应用边界?大模型的应用边界?-用大模型还是机器学习-意图识别、
5、提取关键信息、生成代码等。用模型原子能力,有门槛l如何开发、快速调整?如何开发、快速调整?-如果从0开始开发,有门槛,并且实现和调整都慢(效率低)企业需要一个成熟AI中台去落地AI Agent专属云空间专属云空间火山|华为|AWS|企业本地硬件企业本地硬件/算力算力公有云公有云火山|华为|AWS|百度|腾讯|阿里私有部署大模型私有部署大模型公共大模型公共大模型DeepSeek|豆包|OpenAI|Kimi|通义|智谱|文心汉得汉得 AIAI 中台中台模型管理模型管理AIAI应用开发应用开发AgentAgent编排编排配置工具配置工具运营工具运营工具对接配置模型评估数据训练模型组合模型微调限额管
6、理界面配置多语转换用户权限Agent融合发布管理组件管理能力编排引导约束操作卡片权限集成数据同步流程集成企业词典Prompt标签管理向量库敏感词数据集交互评价反应优化应用分析Agent监控审计追踪模型监控筋斗云筋斗云AI AI PaaSPaaSH H-CopilotCopilot开箱通用助开箱通用助手手Chat BIChat BIAIAI知识库知识库AIAI应用导航应用导航渠道智能伴侣消费者玩伴智慧导购智能报价助手智能推荐投标助手文案创作终端管家销售助手商机助手汉得汉得 智能体智能体AGENTAGENT超级工厂超级工厂营销域营销域销售陪练成本智能分析智能对账智能报账助手合规智能专家查账助手智能
7、总账智能核单收款助手税务助手资金预测财务域财务域经营预测库存优化大师联运规划专家智能物流调度智能询比价智能物控投标助手智能报关订舱助手智能盘点供方管家供应链域供应链域智能排仓交期智能快答质量追溯助手智能来料质检智能排产研发选件调度助手产线管家设备专家智能巡检交期管家制造域制造域良率大师其他其他数据清洗助手智能招聘智能排班智能风险管家智能大屏智能筛人IT管家基础设施层基础设施层大模型&算力中台层中台层工具工具&基础能力基础能力应用层应用层业务场景智能体AI中台不仅仅是一个工具集合,更是一个系统化的基础平台,通过提供基础能力与应用、集中管理、配置化和低代码开发等方式,帮助高效地构建和应用AI能力,
8、推动业务智能化发展企业级AI Agent有什么能力要求l 应用了一些Agent平台,但是实际使用时执行不稳定,很难上生产!l 应用了一些Agent平台,但是不知道怎么实现企业很多的需要限制数据、限制访问的场景!如何实际应用?如何实际应用?什么是Agent?AgentAgent记忆记忆行动行动工具工具规划规划短期记忆长期记忆反思自我矫正思维链子目标的分解搜索/RAGComputer Use时间图片处理API数据库处理脚本执行交互交互-操作卡片交互交互-打开页面/报表交互交互-输出/输入能感知环境的情况,执行规划、判断,去采取行动,实现目标。以目标为导向,一步步完成闭环。交互交互-通知/通知处理静
9、态规划一个动态规划Agent示例#目标:生成一个科幻故事#要求:1、根据用户输入,先生成一个故事大纲2、输出故事大纲后,需要判断故事大纲是否是科幻故事,需要输出判断结果3、如果故事大纲不是科幻故事,则一定要求用户补充一些能使故事大纲为科幻故事的故事信息4、只有判断故事大纲为科幻故事后,才可以执行生成故事#已执行情况:-#增量执行信息#Tool能力:1、create_outline:生成或调整故事大纲2、create_story:根据大纲创建故事3、h-exe-llm:内置大模型执行,生成文本,一般不会输出结果4、h-input:内置输入tool1、根据输入的修仙信息生成故事大纲2、判断不是科幻
10、故事,要求补充3、补充输入“枪械+子弹时间”信息4、判断不是科幻故事,继续要求补充5、补充输入”主人公调整为张宇,他通过科学研究,偶然发现一种穿越多维时空的办法,通过来回穿越,拯救国家、救赎自己的故事”6、判断是科幻故事7、最终生成故事几种基础Agent模式WorkFlow自主Agent多Agent基础Workflow 静态定义,步骤和流程相对固定。稳定性强,流程可控 可依次执行各步骤任务 无动态规划能力,缺乏动态决策 可定义Agent人设(角色)、执行逻辑 根据人设、执行逻辑,结合大模型,自主拆解目标、动态规划执行路径。灵活性强 根据规划,自主选择与执行可用工具、流程 稳定性不够,可能执行路
11、径、选择工具错误 可多个Agent通过协作(竞争或合作)完成任务,每个Agent可独立感知环境、规划行动并与其他Agent交互 每个Agent类似工具可被其他Agent调用,被调用的Agent可以主动发起行动,继续和其他Agent协商、竞争或互补 适合非线性、动态化任务,通过分布式智能突破复杂性问题,但需要更高的设计与协调成本。稳定性差,更难控制稳定性企业级Agent应当具备的能力业务流程节点开始结束AutoAgent交互节点循环节点执行/插件节点1.配置Agent目标和要求2.配置有哪些Tool(Agent)3.配置可调用哪些子Agent4.配置交接回调5.配置输入、输出护栏1.规划引擎:根
12、据当前执行情况自动找到下一步事项并执行,可能是交接、可能是执行Tool、可能是结束2.执行Tool时的入参获取:动态得到入参3.Trace记录:记录每一步事项的执行情况,包括是被谁驱动、交接,入参、出参4.判断如何自动结束1、一定要有业务流程调用能力:企业用Agent去引导、推动做业务,自动做业务,需要能打开页面、看报表、调接口2、一定要有交互能力:企业处理需要准确,通过交互去跟用户进行确认、引导用户。并且通过交互去简化操作3、一定要能限制用户可访问的数据、可操作的功能:个人Agent一般不会考虑权限,但是企业级一定要限制数据、操作权限,以免越权看到数据或者处理了本不能处理的数据业务流程内置交
13、互执行/插件4、需要更多的可执行/插件能力,并可自定义能力:只有可执行的能力越多,企业级可实现的场景才能越多,点形成线、面才能有闭环价值5、要支持静态+动态规划的融合执行,稳定+灵活一些典型能力示例交互+业务流程能力:可直接嵌入企业业务系统功能的页面一些典型能力示例交互能力:用可操作的卡片做交互,支持指令交互,支持复用目标系统的数据作为选择列表一些典型能力示例权限限制:复用目标系统的数据与数据权限,限制交互时可访问到的数据几种基础Agent模式企业级Agent模式建议WorkFlow自主Agent多Agent基础Workflow 静态定义,步骤和流程相对固定。稳定性强,流程可控 可依次执行各步
14、骤任务 无动态规划能力,缺乏动态决策高级Workflow(单Agent应用)支持配置静态去应用自主Agent、调用子Agent+其他节点融合的流程,兼顾稳定+灵活 可跟用户进行交互,直接操作和通过指令操作卡片、打开页面/报表、通知用户等 具备意图识别能力,根据用户意图去启动其他流程、调整流程路径 具备动态路由能力,可根据动态数据选择下一步骤 循环执行;异步执行 可定义Agent人设(角色)、执行逻辑 根据人设、执行逻辑,结合大模型,自主拆解目标、动态规划执行路径。灵活性强 根据规划,自主选择与执行可用工具、流程 稳定性不够,可能执行路径、选择工具错误 可多个Agent通过协作(竞争或合作)完成
15、任务,每个Agent可独立感知环境、规划行动并与其他Agent交互 每个Agent类似工具可被其他Agent调用,被调用的Agent可以主动发起行动,继续和其他Agent协商、竞争或互补 适合非线性、动态化任务,通过分布式智能突破复杂性问题,但需要更高的设计与协调成本。稳定性差,更难控制稳定性多Agent应用 根据用户指令,可动态引导使用对应Agent 复用单Agent自主调用子Agent的能力,实现应用分配Agent范围内的Agent动态交接协作+企业级AI Agent如何落地与应用汉得智能体应用的应用流程-智能体(单)采购员事项提醒Agent2、设置记忆:负责类别为XXX、XXX2的物料1
16、、设置定时任务:每天8:30每天15:30开始结束采购事项梳理维护采购订单#你是一个专业采购员,你熟悉每天需要重点处理哪些事情#目标:查询各种数据,列出采购员要关注的事项#要求:1、你需要查物料安全库存信息2、你需要查财务对采购单的前10条未付款情况3、你需要查未确认交货日期的前10条采购订单4、其他需要结合你自己的经验和具备的能力看要查哪些数据5、整理和分析这些数据,最后发出提醒给采购员判断是否提醒下采购单通知确认是否下单是否确认否执行进入个人应用首页个人或管理员为对应人员设置执行个人直接打开应用智能体工作台查看提醒进入智能体工作台查看Agent通知:你需要关注如下:1、低库存预警XXX2、
17、待审批付款XXX3、紧急订单追踪XXX查看待办:进入详情应用会话页处理“是/否 下单”进入企业应用库,建单智能体汉得智能体应用的应用流程-智能体(多)采购员管理Agent2、设置记忆:负责类别为XXX、XXX2的物料3、设置执行触发词:帮忙汇总近7天采购数据1、设置定时任务:每天8:30每天15:30执行进入应用首页个人或管理员为对应人员设置执行个人直接打开应用进入企业应用库,建多智能体分配已有Agent或创建新Agent,并分配:1.采购订单查询Agent2.采购订单创建Agent3.采购订单维护Agent4.采购订单审批Agent5.采购员事项提醒Agent设置执行人设、逻辑执行流转根据分
18、配的Agent、执行指令和执行人设、逻辑,做执行引导:我是你的采购管理助手,请确认你具体是要执行什么:1.采购订单查询2.采购事项提醒过程中,可在某些Agent运行时跳转执行其他Agent应用入口-智能体工作台个人智能体列表企业个人有权限的Agent通知、代办 会话列表通知、会话详情汉得智能体应用基础场景业务场景类型业务场景类型说明说明场景示例场景示例门户助手/OA助手识别用户意图,获取目标事项和交互指令中的关键参数,调用系统接口进行业务查询/处理、打开页面/打开报表,实现一些权限控制不严格的场景如预定会议室、查询员工等预定会议室快速查询员工智能导航:智能打开各系统应用功能智能客服根据用户的不
19、同意图自动判断去查RAG、同LLM对话、调系统接口、转人工,实现更灵活、自然的客服交互产品支持、售后客服智慧导购ChatBI/AI For BI根据用户查询要求,跟用户进行多轮交互,明确用户要查询的目标,再根据具体最终查询要求生成动态结果图表。可多轮交互动态生成BI图表业绩查询收入查询业务处理辅助识别用户的操作处理意图,通过不同的编排节点去引导用户一步步往下处理,过程中应用OCR、语音识别、文档提炼等AI能力做辅助处理,使用户可更低门槛、更智能的处理、流转业务电销记录提取、尽调报告提取。AI提取并存储融合到业务辅助提取会议纪要电子单据自动识别+自动录入到系统等。单据智能识别和处理同启信宝进行交
20、互,查询多类数据、应用LLM做自动分析同高德地图进行智能交互,查周边美食融合LLM做美食推荐、当前地点天气分析等算法助手生成数据处理代码,执行做预测/根因分析等预测/根因分析/数据求解(通过生成代码)系统交互式处理识别用户的操作处理意图,识别交互过程中的关键参数值,调用各种内/外部系统接口做业务处理,使用户可方便的跨多系统做业务,可更快的处理、流转业务供应链-交互式创建采购订单等业务单据维护场景制造-车间维修引导等多角色流转场景同飞书等渠道进行智能交互,查看飞书日程+预定飞书会议等同汇联易进行智能交互,创建差旅申请等算法助手示例-良品率提升#你是一个光伏行业的算法专家,你擅长根据提供的数据去开
21、发预测模型和计算最佳参数值,去提升正A率。1、你会根据你在光伏行业的算法经验,根据提供的因子,先用特征工程找到影响正A率的影响因子,最终自动找最影响正A率的一些因子2、你会先清除提供数据中的异常数据,填充一些空值数据#因子包括如下:表面张力,浸润性,COD,电导率,PH值,堆积直径,包络外径,出刃率个,出刃高度,破断拉力,槽距,开槽角度,槽距小,槽距大,直径,单槽角度小,单槽角度大,槽深小,槽深大,硬度,R角小,R角大,实际槽数,大头跳动,小头跳动,线径,片厚#请编写相关的Python代码来找到最影响的因子,可以用多种算法来做,最后找到最优的算法汉得企业级AI中台向量库管理连接管理集合管理向量
22、检索基础配置Prompt模版企业术语库敏感词库文档模版标签管理敏感词日志知识图谱管理连接管理本体类型图谱模型图谱管理Agent编排意图识别企业业务集成插件使用/管理权限数据词典(含权限)操作卡片模型集成模型组合配额管理公有模型/自定义模型对接AI应用企业应用库智能体工作台个人应用中心Agent分配/引导应用配置使用/管理权限参数/词槽识别能力编排机器学习训练任务算法组件模型训练/推理数据集管理算力资源模型管理/评估数据标注模型训练模型推理服务监控Agent运行监控应用会话监控用户输入监控内容提取日志运维应用使用分析应用交互反馈AI知识库知识库RAG反馈优化RAG评估文档库文档权限三方文档同步应
23、用导航应用导航Agent应用链接词典ChatBI指标/主题术语数模模型数据权限AI助手应用应用模型服务集成开发环境模型使用监控配置工具模型管理AI应用开发运营工具通用助手汉得AI中台应用目标汉得AI中台通用大模型企业智能数字大脑智能知识库RAG业务知识库代码知识库知识图谱 行业|专业垂直训练模型锂电硅业装备整车物流合同排产设备费控企业私有模型核心业务能力企业个性标准私有数据企业术语业务运营智能体IT建设智能体l 数据统计分析类AGENT/ChatBIl 业务操作类AGENTl 智能计算/决策类AGENTl 销售/服务类AGENTl 代码智能辅助l ERP替换/解耦/升级智能分析l 程序逻辑智能
24、分析l 自然语言自动转换生成程序个性规则 引导推动自动自动从规则驱动到智能驱动的范式升级,通过自主决策、动态适应和主动协作,重构企业运营的核心逻辑提升效率,被动响应-主动干预,从传统的”人工触发操作”升级为”Agent主动引导、干预”汉得AI中台应用模式-复用各系统能力与权限,将业务AI化企业AI中台应用系统入口系统1接口1功能1系统n接口n功能nDevPaaS开发平台iPaaS集成平台aPaaS低代码平台AI中台业务流1统一门户业务流N提供集成统一接口提供低代码功能页面提供系统功能页面单点集成单点集成单点集成智能体应用:所有系统的交互入口企业知识助手:企业的专有知识问答通识导师 助手:员工的
25、通识知识指导提供辅助对话问答/内容提取权限数据同步引导/推动/自动业务汉得AI中台助力企业高效、实际落地AI Agent企业AI中台应用系统入口DevPaaS开发平台iPaaS集成平台aPaaS低代码平台AI中台统一入口,可嵌入各业务系统。可用性多Agent应用单Agent应用智能体工作台内置通用助手配置&编排能力开箱即用,高效培养企业AI土壤高效落地与调整AI应用知识库ChatBI应用导航业务交互,Agent主动性,业务准确性Agent通知Agent待办Agent会话详情多Agent支持复杂场景。可用性可对接业务流程,可交互。可用性插件化、自定义能力。可扩展性静态流程与动态规划结合。业务稳定性与灵活性兼顾数据权限、访问权限控制。可用性谢谢观看1.以上分享内容均基于行业交流目的,不涉及任何商业合作背书或销售意图;2.文中提及的企业名称、品牌标识及技术术语仅为客观描述或假设性引用,其知识产权归属原权利人所有;3.本材料中涉及的技术参数、案例描述及行业数据仅代表嘉宾个人/机构观点,与主办方立场无关,亦不构成任何形式的商业建议或承诺。