2024年ArchSummit全球架构师峰会-深圳站嘉宾演讲PPT合集（共49套打包）

AI-First Software DevelopmentScott Shaw,APAC CTO,Thoughtworks 2024 Thoughtworks|Confidential 2 2024 Thoughtworks|Confidential AI-First Software DevelopmentAI-First Software DevelopmentScott ShawAPAC Regional CTO 2024 Thoughtworks|Confidential McKinsey predicts McKinsey predicts software engineering software engineering will be the business will be the business function most function most impacted by impacted by Generative AIGenerative AI4 2024 Thoughtworks|Confidential Can we finally just Can weEngineering Platforms in PracticeScott Shaw,APAC CTO,Thoughtworks2 2024 ThoughtworksWhy are we still talking about platforms in 2024?2024 Thoughtworks“Platform Engineering provides a curated set of tools,capabilities and processes packaged for easy consumption by developers and end users.It will increase end users productivity and reduce the burden on development teams.”Gartner,2023https:/ 2024 Thoughtworks 2024 ThoughtworksIndustry-wide focus on engineering productivityNot really 2024 ThoughtAI AI 编程颠覆编程颠覆 IT IT 生产力生产力丁宇阿里云云原生应用平台负责人 云原生应用架构演进云原生应用架构演进互联网分布式架构微服务Serverless 架构服务化/模块化/免运维企业级应用架构单体应用云原生技术带来生产力飞跃云原生技术带来生产力飞跃应用研发应用研发生命周期生命周期设计业务需求产品需求设计开发+自测集成+验证灰度+生产发布线上运维开发交付运维企业对技术红利的追求是无止境的程序员产能和软件研发效率程序员产能和软件研发效率成为企业竞争发展的瓶颈之一设计、研发侧过去十多年没有发生根本性变化，如何提效？容运用最小企业架构构建业务平台丁杰Thoughtworks 中国区企业架构与云事业部 总监咨询师业务平台应该承载什么能力业务平台应该承载什么能力、发挥什么价值发挥什么价值？令人失望的平台令人失望的平台“我们现在系统用得挺好的，你先让其他部门先用吧？”“你们这次就把以前功能全部重做了一遍，还做漏了一些功能，还没有以前好用！”“我们也在用企业架构的方法，但是知识体系非常庞大、非常重，大家常常陷入争议难有定论。”“我们需要大量的时间梳理流程、确认需求，产出很多但成果缓慢，一直这么下去我可能都不在了。”运用企业架构的建从安全角度，看AGI到来的可能性朱雀安全 付山阳曾任：平安银行信息安全部总经理曾任：腾讯云安全负责人曾任：yy安全通信公司技术合伙人曾任：开源网安副总裁&合伙人信息安全行业经验19+19+年在国内外主流信息安全会议发表主旨演讲11次。制定信通院安全标准和OWASP安全项目共 5 5 项申请并授予发明专利1313项 2018 年 带领平安口袋银行团队获得“亚洲银行家中国区最佳安全项目奖”，安全性指标国内第一安全性指标国内第一 2016年，GEEKPWN黑客比赛上，全球首次全球首次远程入侵人形机器人NAO 2019 全球安全开源组织 Owasp-区块链安全 t知乎数据库降本增效实战代晓磊/知乎数据库架构负责人0101 降本增效概述降本增效概述0202 常用数据库降本增效方案常用数据库降本增效方案0303 知乎数据库降本增效实战知乎数据库降本增效实战0404 总结和展望总结和展望01 数据库降本增效概述01 数据库降本增效概述01 数据库降本增效概述02 常用数据库降本增效方案02 常用数据库降本增效方案02 常用数据库降本增效方案02 常用数据库降本增效方案02 常用数据库降本增效方案02 常用数据库降本增效方案03 知乎数据库降本增效实战03 知乎数据库降本增效实战03 知乎数据库降本增效实战 实例备份策全链路监控在根因分析和业务监控中的应用群核科技（酷家乐）云原生观测与SRE技术专家/何碧宏何碧宏何碧宏 目前为群核科技（酷家乐）云原生观测与SRE团队负责人、技术专家，稳定性委员会成员，参与 SRE、公司SaaS系统稳定性保障工作。此前在诺基亚工作十年，参与过诺基亚DevOps平台的架构和搭建。讲师介绍演讲提纲群核科技（酷家乐）SaaS系统及云原生观测系统（Tetris）简介全链路系统监控Why-大型微服务系统遇到的问题How-基于调用链与图数据库构建实时全链路系统监控全链路系统监控在警报风暴根因分析、全链路优化、变更影响分析中的应用弹性可伸缩海量工作流引擎建设实践腾讯 架构师/叶彬目录背景工作流引擎技术选型高可用架构落地实践落地场景与取得效果下一步计划与思考一、背景什么是工作流即工作流程的计算模型，为完成一个业务目标，所需要经历的一系列步骤，通常用流程图来表示日志下载规则加载规则匹配开始结束（业界通常用BPMN流程图来描述一个工作流）示例：服务器硬件故障自动诊断流程，日志下载 规则库加载 策略匹配非工作流模式下系统实现class LogsLoadTask void handle()doLogsLoad();rulesLoadTask.handle();非工作流模式下，原始需求：日志下载 规则库加载 大模型在融合通信中的应用实践网易云信 周梁伟关于我们AI 内容检测智能风控实名核验安全加固安全咨询服务即时通讯视频云短信轻舟微服务轻舟中间件七鱼智能客服智能洞察私域增长数据开发与治理平台有数BI大数据基础平台指标平台ChatBI全栈低代码开发平台智能开发助理软件资产市场融合网易二十余年数字化与智能化技术积累和经验沉淀，面向娱乐、社交、零售、金融以及游戏等行业，提供数字内容风控、融合通信和云原生 PaaS、服务营销一体化、全链路数据开发治理及分析、应用智能开发等解决方案，已累计服务超过百万家企业客户。目录01 云信Pa字节跳动观测智能化之路服务端观测平台负责人/孔罗星Dev Infra-APM/服务端观测平台负责人个人&团队介绍13年APM领域经验，21年加入字节后开始负责服务端观测平台团队面向整个字节内部开发者提供观测平台，与多个团队协同构建Metrics/Traces/Logs/Events等数据埋点&加工链路&存储，并基于此提供一站式的监控、报警、日志、链路追踪、根因分析等产品化能力What、Why服务端一站式智能观测平台业务和架构配合团队KitexHertzJet RPCMesh日常排障、性能分析架构治理优化稳定性、容灾、大促成本优化服务场景APM as a Service微服务/基网易云音乐智能监控探索与实践网易云音乐/宋东辉 浙江大学硕士毕业之后，加入支付宝，参与蚂蚁端稳定性 Sapienz 项目建设，数字内容治理项目核心成员，双12大促主要质量负责人之一。2021年加入网易云音乐，负责云音乐大数据质量和效能建设，发起并牵头多方共建DataOps项目和智能监控项目。网易云音乐/宋东辉资深测试开发工程师目目 录录Contents1 1、背景简介背景简介2 2、方案介绍、方案介绍3 3、落地效果、落地效果4 4、未来展望、未来展望1 1、背景简介、背景简介1.11.1、云音乐大数据治理现状、云音乐大数据治理现状大数据的框架大数vivo日活千万级的活动平台设计之道vivo互联网架构师/康雄01 平台介绍02 架构演进03 多业务中心04 AI探索落地05 未来展望目录CONTENS以SaaS+PaaS服务 、能同时支撑五大用户群（广告主、线下、游戏CP、线上运营、中小企业）的综合运营平台广告营销智慧零售vivo开发者APP运营活动企业客户为200+游戏CP提供平台支撑代理线下运营支撑公司各大APP运营为广告提供创意工具为外部企业提供能力接入vivo活动平台业务概览业务体量3500W+PV全年活动场次2W+全年搭建H5页面12W+平台用户4000+产品形态产品形态活动样例领券类领券类答题类答题类抽奖类抽奖成本优先的技术架构Shopee海量商品系统的治理挑战和应对之策/张俊杰关于我关于我 目前负责商品系统商品系统后端研发的工作张俊杰张俊杰 2019年加入Shopee 减肥并不难减肥并不难，关键在于找到关键在于找到正确的方法并实践正确的方法并实践。减肥是一个持续的过程减肥是一个持续的过程，我们可以我们可以借鉴他人借鉴他人的经验的经验，避免走弯路避免走弯路，并增强信心并增强信心。目录目录1 海量商品系统的海量商品系统的背景和背景和挑战挑战2 海量商品系统的应对海量商品系统的应对-缓存篇缓存篇3 海量商品系统的应对海量商品系统的高弹性、高性能SMS网关突变流量应对实战阿里云 云通信架构师/张松然困知勉行 出自论语2011年加入京东，2019年进入阿里云，一直工作在网关实时通信方向，先后负责过 APP、SMS 网关的开发，专注于云原生高可用架构演进，目前担任融合通信方向的架构师。目录目录0101 SMSSMS通信的不断演变通信的不断演变0202 架构重塑架构重塑0303 性能之巅性能之巅0404 未来展望未来展望PartPart 1.1.SMSSMS通信的不断演变通信的不断演变挑战：突变流量如何确认SMS网关稳定高效？SMS短信网关是通信网络中负责收发短信的核心系统5 5万级万级并发量大并发量大K8s上的数据库私有云之旅：KubeBlocks架构设计与实践曹伟丨 云猿生数据创始人/CEO前阿里云数据库总经理（研究员），阿里云RDS的架构师，云原生数据库PolarDB创始人。中国计算机学会数据库专委会、开源专委会执行专委，获得 2020 年中国电子学会科技进步一等奖，在 SIGMOD、VLDB、ICDE、FAST、USENIX ATC 等数据库与存储国际顶级学术会议发表论文 20 余篇。云猿生数据创始人/CEO演讲者：曹伟内容大纲 公共云公共云、私有云私有云，K8sK8s和数据库的和数据库的演进演进趋势趋势 数据库私有云平台案例数据库私有云平台案例 dbPaaSdbPaaS的挑大模型时代数据库技术创新自我介绍个人著作大数据架构详解获得 2017 电子工业出版社优秀作者奖公众号大数据和云计算技术百度智能云数据库产品总架构师数据库与大模型01DB4AI：向量数据库02AI4DB：数据库运维应用03目 录4数据库与大模型数据库行业发展史概览基础设施应用场景数据库1950s大型机1970s小型机1990sPC机+局域网2000s数据中心+互联网2015云+端+4G2023GPU+AI国防科学研究大型商业应用企业信息化ERP/CRM/财务企业BI个人办公个人娱乐媒体搜索电子商务社交新媒体移动App云计算物联网在线办公、教育娱乐、短视频AI原生应用JasperMidjo 2024 富士康科技集团 著作權所有。集团智慧制造转型之路集团智慧制造转型之路52521 1/1/2 2/5252 2024 富士康科技集团 著作權所有。目录目录52523 3/1.1.集团简介集团简介2.2.集团智造转型的战略及目标集团智造转型的战略及目标3.3.集团集团智造转型的挑战及解决之道智造转型的挑战及解决之道4.4.共同引领智慧制造新航向共同引领智慧制造新航向3/2024 富士康科技集团 著作權所有。携携手手 全球标竿客全球标竿客户户 共同创共同创造造 全方位智慧生活全方位智慧生活长长 期期稳稳 定定发发 展展 科科 技技国国 际际愿景及宗旨愿景及宗旨4eBay Risk Real Time Feature StoreJie LiSenior ManagereBay Payments&RiskRisk RulesBLOCKDO NOTHINGREMEDYRisk CheckAI Models(Tree+DNN)Sync/AsyncAI ModelTrainingAI Model SimulationRisk Rule SimulationAI ModelReal Time InferenceAI Model Batch InferenceRisk Rule Real Time InferenceOnlineOfflineeBay Risk Real TimeFeature StoreAgendaRequirements from AI ModelsRequirements from Risk RulesTechnical HighlightsRequirements from AI ModelsPoint in Time Value Generation for New Features(Offline)Low Latency电子签章技术在实现数字化转型与绿色发展目标中的关键作用法大大产品研发中心总经理/李琳 21年软件研发与团队管理工作经历，涉及通信、互联网、企业SaaS等多个领域，在互联网技术架构、网络安全、CA与电子签名等方面有丰富的实战经验法大大产品研发中心总经理/李琳 安全高效的电子合同智能签管平台数据来源：数据来源：IDCIDC中国电子签约软件市场份额报告中国电子签约软件市场份额报告行业份额NO.1标杆企业客户超4000家日均签章调用超2000万次超87亿份法大大简介 法大大是安全高效的电子合同智能签管平台，致力为企业、政府和个人提供基如何稳定高效地利用 k8s 集群资源Shopee 云原生技术专家/李鹤我们是谁东南亚，台湾，巴西领先的电子商务平台我们是谁Google Play所有购物 App 中用户总花费时间第一所有购物 App 中平均月活第二所有 App 中最佳品牌第五强大的品牌认知度，持续增长个人简介kubernetes,karmada member2016 今，since v1.4集群管理，编排调度，资源利用率优化GithubID:likakuli订阅号：云原生散修blog:https:/内容简介数据驱动能力增强差异化混部弹性伸缩01020304浪费量化风险量化Insight Store调度重调度基于时区混部差异化SLO混部资源预测CAHPAKubernetes Copyright 版权所有 华院 华院认知智能引擎平台华院认知智能引擎平台落地实践落地实践3ConfidentialCopyright UniDT.com赋能企业数字化、智能化华院使命华院使命让世界更智慧华院愿景华院愿景华院计算技术（上海）股份有限公司（简称“华院计算”），成立于2002年，是中国认知智能技术的开拓者。公司以算法研究、算法创新和算法应用为以算法研究、算法创新和算法应用为核心核心：基于数学应用与计算技术发展，聚焦认知智能技术、创新自研底层算法；聚焦认知智能技术、创新自研底层算法；基于认知智能引擎平台的场景应用，为智能制造、社会zlinzlin(林兆祥）腾讯云CLS日志引擎研发负责人 T13工程师2024-06-14降本九成降本九成，提效十倍提效十倍 统一资源池重塑统一资源池重塑CLS规模红利规模红利1.百PB规模日志业务挑战及应对成本、检索、分析：三大核心能力10倍级提升2.统一资源池重塑云服务规模红利降本九成：IO资源池优化成本近90%提效十倍：算力资源池提升分析能力数十倍技术路线讨论：统一资源池 VS 超大规模集群 VS 弹性扩缩容3.方法论：数据驱动理论模型优化法探索优化理论边界，CLS连续实现10倍级优化的底层逻辑目录1.百百PB规模日志业务挑战及应对规模日志业务挑战及大模型加速走向真运营安恒信息/梁浩目录目录Content安全运营的现状分析0101大模型如何改变安全运营现状0202大模型应用效果总结0303安全运营的现状分析01安全运营普遍需求落实网络安全监测预警和通报制度，建立健全网络安全风险评估和应急机制，有效识别和消除安全隐患，落实管理和技术举措，保障安全策略动态有效性、满足安全合规需求。识别、评估和管理所面临的安全风险，并采取必要的措施并采取必要的措施来降低风险。通过网络安全运维，防范各种网络安全威胁，确保网络的安全性和可用性，使网络系统的安全性得到持续维护和提升。在一些江 蚂蚁集团 2024/06Lowcode x AI云凤蝶的思考与实践纲.AI 对 Lowcode 业的冲击.业界变化趋势洞察三.云凤蝶产品与技术实践四.总结与展望AI 辅助编程速发展对话式应成百花放编辑态+AI=辅助提效运时+AI=?垂直业务+AI=?运时+AI=?垂直业务+AI=?提示词程微调multi agentRAGCursor:AI 辅助编程CodeRabbit/Ellipsis:AI 代码 reviewAI 辅助编程速发展、AI 对 LowCode 业的冲击Devin/SWE-agent:AI 程序员清华开源 ChatDev：AI 游戏公司、AI 对 LowCode 业的冲击V0:对话式前端成marblism:对话式全栈应成（React/NodeJS）galileo:对话式设计稿成对话3+1，全方位打造 AI 时代最受企业欢迎的超级员工沈斌沈斌 众安银行首席架构师个人简介个人简介众安银行首席架构师，兼技术委员会主席众安银行首席架构师，兼技术委员会主席，超过 15 年互联网从业经验，长期从事架构和技术管理工作，擅长领域包括人工智能企业应用、微服务架构、敏捷流程实践等。曾就职于 eBay，以及国内知名互联网医疗独角兽公司。MJuSDMJuSDMJuSDMJuSDMAbout ZAStrengthening of digital finance product suiteJan 22SFC Type 1(Dealing in Securities)license obtainedMar 20Official launch ofMay 20HK Digital Life I引擎veRTC场景下可云边通信实践字节跳动/游望秋纲veRTC云边协同场景 veRTC云边协同的特点和挑战 veRTC可云边通信架构介绍veRTC业务场景直播连视频会议互动课堂游戏语云游戏物联veRTCReal Time Communication实时视频特点全球范围内的实时视频互动veRTC全球化架构全球实时视频云1.边缘全球下沉，户就近接2.全球实时流媒体传输3.全球实时信令传输4.边缘计算，云边协同1.户就近接，进推流4.户就近接边缘从云端获取流信息，进拉流2.业务逻辑边缘本地处理3.信令数据从边同步到云端在云端进全球同步5.媒体流传输边缘服务器云端数据中边缘就近接大模型时代的工业质检方法论腾讯云工业质检产品负责人 王刚 2024.06初心：腾讯优图的AI积累，如何在工业视觉场景产生价值？15+行业解决方案90+腾讯明星产品业务线接入1000+全球专利30亿+次/天 日均服务调用量专注人脸人体、工业AI、图像识别、OCR等视觉AI领域的前沿研究和落地应用2014年11月2020年12月2015年4月2017年3月2017年3月2017年4月2017年8月2018年4月2018年10月2019年9月2020年5月2021年1月上海市科技进步二等奖开源移动端推理框架TNN时序动作分析DBG算法在ActivityNet上获得世界第一在国际权威人脸检测数据集Wider Face、FDDB上亿级流量挑战下的高可用架构设计与实践亿级流量挑战下的高可用架构设计与实践携程门票携程门票目录目录01.系统概述系统概述02.营销活动的特点营销活动的特点03.交易系统在大流量下的架构应对策略交易系统在大流量下的架构应对策略04.如何让高可用具备如何让高可用具备“可持续性可持续性”？05.总结总结背景|设计原则|目标及范围熟知的大流量场景稳|准|快|海外访问性能优化架构健康度治理|稳定性保障体系参与过的大流量场景参与过的大流量场景系统概述系统概述秒杀秒杀/活动活动抢菜疫情疫情 抢菜抢菜双双1111门票门票/演唱会演唱会节假日宁德核电基于大模型的AI讲师开发实践人工智能实验室负责人/王澍1、不是供应商；2、不能现场演示；3、不是计算机背景。为什么这么做？为什么没成功？目录以GPT为代表人工智能技术，可以为核电做什么？核电这样复杂成熟保守的领域，如何引入大模型？核电从业者AIGC基础薄弱，如何迎接挑战？1.以GPT为代表人工智能技术，可以为核电做什么？大模型开发与应用实践宽泛地说：1、“替”人们做曾经做过的事。2、“帮”人们做之前做不了的事。具体说呢：？本着第一性原理来思考这件事 在探索和解决问题时回归到最基本、不可简化的事实，鼓励从零思模型融付类企业ToC应探索与落地平安壹钱包 王良OPEN AI chatGPTWhats APPinstagramTikTok电话机TwitterChat GPT2个9个2.5年3.5年5.5年16年75 年100000000+2个户破亿80%到 2026 年，接成式 AI 或模型的企业前期调研确定未来AI模型未来的前景是明确的AI必然会重构世界确定现在要想不掉队就必须现在进不确定落地选择什么场景？解决什么需求？降本增效还是扩收益？什么技术？开源闭源？。找落地场景找落地场景的思路从最熟悉的领域让AI学习最优秀员的能，再让它辅助其他员，实现降本增效“本”进 “本”出不要求全，将任务拆解，先解决任务，大模型场景下智算平台的设计与优化实践肖松2024.06.14不同时期对智算平台的需求2引言客户客户B B我的模型跑起来耗时长，能加速吗？我的模型跑起来耗时长，能加速吗？客户客户A A我资源比较少，几十卡的规模，如何提升卡的利用率？我资源比较少，几十卡的规模，如何提升卡的利用率？客户客户C C我想跑大模型，需要多少资源？网络如何构建？多长时间能跑完？我想跑大模型，需要多少资源？网络如何构建？多长时间能跑完？客户客户D D国产卡怎么用？能否与国产卡怎么用？能否与 NVNV 卡一起使用？卡一起使用？20182024目录0101大模型时代，智 2024 Thoughtworks 大模型时代的AI能力工程化肖然肖然 ArchSummit 2024 2024 Thoughtworks|Confidential 2 2024 Thoughtworks 3李开复在2023年3月19日发布Project AI 2.0时谈到AI 1.0和AI 2.0的关键变化Source：量子位AI应用的成本越低，AI应用的范围越大AI 进入2.0时代当具备跨领域知识的基础模型出现之后，微调适应不同领域任务的AI模型的成本极低海量数据标注海量数据标注VSVS自监督学习自监督学习单一领域任务单一领域任务VSVS基础模型基础模型（跨领域知识的跨领域知识的）高成本模型训练高成本模型训练VSVS低成本模型微调低成本模飞桨框架技术创新之路百度杰出架构师/胡晓光目录动静统一自动并行飞桨框架关键技术飞桨框架总体设计飞桨框架总体设计人工智能技术栈模型层模型层框架层框架层芯片层芯片层应用层应用层New Bing百度新搜索MidjourneyChatGPTGeminiTPU深度学习框架核心功能易用的开发接口 数据抽象：Tensor 操作抽象：Operator Python，Numpy 避免了解硬件底层开发接口，如Cuda C,cuDNN,cuBlas等自动微分功能 只需要写神经网络的前向，通过链式法则自动计算Loss关于参数的梯度 高阶自动微分 前向自动微分多硬件 隔离硬件差异，如Cuda C,oneAPI,XTDK,BangC等分布式Data Warebase-加速企业数据智能化ProtonBase 技术VP/胡月军目录0101 /企业数字化背景和趋势企业数字化背景和趋势0202 /Why Data Warebase?/Why Data Warebase?0303 /Data/Data WarebaseWarebase 系统架构系统架构0404 /Data Warebase/Data Warebase 关键技术关键技术05/05/企业私域数据智能化探索企业私域数据智能化探索企业数据资产的DIKW模型用于预测、决策并符合价值观的知识智慧智慧有上下文、可被解释的信息知识知识建模后的数据信息信息基本经营的数字化表征数据数据结结构构化化技术实现价值挖掘抽抽象象数据处理历程智能化无极低代码 UI可视化的 AIGC落地与实践苑宗鹤 腾讯高级前端开发工程师介绍无极低代码介绍无极低代码大家眼中的低代码可视化方式拖拽一些PC应用疑问：能做多复杂的系统？只用可视化拖拽够用吗？应用展示应用展示ERPERP进存销系统进存销系统 进货、库存和销售管理系统 配套订单跟踪、采购流程设计、审批流程、复杂报表分析等应用展示应用展示开放平台开放平台/礼包配置礼包配置 一个开放平台，提供给用户管理、运营APP应用的渠道内容 例如：活动、礼包、礼券等，并提供对应的数据看板，展示渠道活动的运营数据应用展示应用展示APPAPP页卡运空白演示Lorem ipsum dolor sit amet,consectetur adipisicing elit.腾讯腾讯AngelPTMAngelPTM大模型训练框架优化与实践大模型训练框架优化与实践支撑混元大模型训练的训练框架支撑混元大模型训练的训练框架薛金宝薛金宝2022024 4.6 631 1大模型发展趋势和训练面临的挑战大模型成为人工智能发展的重要方向大模型成为人工智能发展的重要方向模型参数规模指数级增长生成式大模型突飞猛进，5年时间，模型参数规模增长100万倍，达到万亿量级Scaling Law1：数据越多、模型越大，模型学习能力越强，模型效果越好1OpenAI“Scaling Laws for Neura腾讯云安灯AI大模型应用实践与探索许小川腾讯云安灯什么是腾讯云安灯什么是腾讯云安灯基于ITIL4SaaS源自精益思想丰田生成方式助力企业数字化转型引用来源：互联网；axelos官网已构建 腾讯云 x 伙伴 x 客户 的“协作网络”什么是腾讯云安灯什么是腾讯云安灯什么是腾讯云安灯什么是腾讯云安灯核心模块业务流程管理BPMITSMITOMFSM数据可视管理离线分析在线分析BI看板AI应用提效Chatbot客情感知共性识别知识管理.全渠道接入企业微信内部服务号SlackTGWebWebIM热线.项目实施管理客户支持管理内部协作管理现场调度管理研发过程管理业务场景举例B站容器平台混部和容量管理实践B站资深开发/许龙大纲各类混部场景的实践方案CPU在离线混部：在线+转码、在线+大数据CPU潮汐混部：推搜+大数据GPU常态混部：推理+转码GPU潮汐混部：推理+训练容量管理的实践方案弹性伸缩：VPA和HPA合池：quota管理、算力标准化容量运营与可视化服务器网络存储自建IDC云主机云专线云存储公有云容器运行时镜像仓库k8s组件CNI/CSI资源调度混部框架集群管理容量管理发布平台机器学习平台边缘计算平台批处理平台主站在线业务直播广告电商视频转码离线业务AI训练大数据容器引擎层业务层平台层基础设施层CPU核数：大模型增强下的图智能在金融场景的应用Fabarta图智能解决方案架构师/贾志鹏目录图智能技术在金融领域典型应用图智能技术当前遇到的挑战如何结合大模型技术和图智能技术应对挑战案例分享图智能技术图智能技术一图观万物，一图胜千言一图观万物，一图胜千言什么是图？基于图论以点 (实体)和边 (关系)描述现实世界中个体和个体之间网络关系的数据结构。有哪些图技术？图数据库、图计算引擎、图可视化、图分析什么是图数据库？图数据库是基于实体和关系建模的数据库系统。以点、边为基础存储单元，以高效存储、查询图数据为第一设计原理的数据XAIAI 时代时代 架构先行架构先行赵钰莹赵钰莹InfoQ 极客传媒 副总经理XXXXXXXXXAIGCAIGC 学习地图学习地图&AI AI 大模型技能图谱大模型技能图谱AIAIG GC C 学学习习地地图图XX企业企业 AIGC AIGC 应用程度测评应用程度测评 特别支持：XX企业企业 AIGC AIGC 人才领先的解决方案飞轮人才领先的解决方案飞轮基于人才粮仓模型以及企业 AIGC 成熟度自测结果，极客时间面向企业内 AI 各层级人才，推出了“企业 AIGC 人才领先的解决方案”XXAIGC AIGC 人才能力建设学习地图人才能力建设学习地图下载学习地图XXAIGC AIGC 人才能力建设学习地降本增效利器：快手 CPU&GPU 超大规模在离线混部落地实践快手/容器云技术中心/辛文背景与趋势1 背景与挑战2 利用提升最佳实践CPU混部篇3 利用率提升最佳实践GPU混部篇4 未来规划及展望目录页Contents在离线混部架构搭建CPU在离线混部 CPU潮汐混部计量计费2019202020192020GPU虚拟化与GPU混部AI训练与潮汐混部隔离能力提升20212021 20222022扩量与精细化快手混部生态发展历程快手混部生态发展历程资源合池多场景统一调度全局弹性能力扩量服务画像及AI资源预测20232023 后续后续全局资源效率混部生态启动 快速发展的业务：给资源供给带爆发式增长业务的高可用架构优化之路邓学祥目录目录Contents0 01 1爆发式增长业务的稳定性挑战0 02 2爆发式增长业务的稳定性应对之道0 04 4降爆炸半径自研Service Mesh实现去中心化网关0 03 3异地多活交易单元化技术架构爆发式增长业务的稳定性挑战0 01 1主题主题SUBJECT中间件及基础设施庞大Infrastructure 规模大中间件复杂业务架构复杂X因素多业务子系统多下游二方/三方依赖多变更引发的故障非变更引发的故障稳定性挑战 业务系统神龙架构盘古存储AliOs洛神网络调度日志服务容灾监控服务分布式数据库HSFTairMetaq容器基础设施云资源云操此图片为AI生成2About me 郑岩，from 华为云BP&IT团队山东人深圳4年SAP，9年华为华为云数智使能团队负责人AI+知识 +数据+TA终身学习者通过本次分享，你可以了解到：华为云客服AI“养成之路”华为云客服AI落地过程中，遇到的“三道坎”及解题方法在企业中应用AI大模型的“避坑指南”目录1.探路篇：华为云客服AI助手工作复盘2.避坑篇：在企业内部应用AI大模型的思考5华为云客服业务背景：最重要的客户触点之一，如何持续提升用户体验和问题闭环效率？官网智能客服客户客服坐席SRE1.坐席专员流失率高，经验沉淀困难2.业务复杂、变化快，轻量级大语言模型与AI安全极安云（深圳）科技有限公司郑明AI技术新浪潮：大模型的崛起与挑战巨大的计算资源和能源消耗复杂性对抗性攻击挑挑战轻量级大语言模型：AI安全领域的新动力第一时间内识别潜在的安全威胁更好地理解能力、更精准灵活性和可扩展性132轻量级大语言模型：是AI领域的一个创新方向核心特性：高效性和灵活性技术手段的革新：模型压缩技术、量化技术、剪枝技术、知识蒸馏轻量级大语言模型：定义、特性与技术革新轻量级大语言模型：发展历史与技术突破减少参数量模型压缩量化技术剪枝技术知识蒸馏123入侵检测异常检测与早期EventMesh Function：面向事件流处理的Serverless新火花微众银行 陈广胜01020304050607事件分类事件分类市场和客户反馈事件市场和客户反馈事件金融行业金融行业：市场数据更新、价格波动通知。零售行业零售行业：客户反馈、促销活动反馈。制造行业制造行业：供应商交货、原材料库存更新。安全和合规事安全和合规事件件医疗行业医疗行业：安全报警、记录更新。教育行业教育行业：校园安全报警、进出记录。制造行业制造行业：质量检测结果、合格和不合格产品标记。智能家居智能家居：安全报警、环境监测。预约和排程事件预约和排程事件医疗微众银行大模型助效研发实践AI为主角、人为助手的协作模式微众银行：黄叶飞目录目录研发流程面临的主要问题研发流程面临的主要问题大模型在研发效能上的初步探索大模型在研发效能上的初步探索大模型辅助研发遇到的困难大模型辅助研发遇到的困难Agent离不开的离不开的RAGMulti-Agents实现研发流程提效实现研发流程提效让让AI成为主角的人机交互方式成为主角的人机交互方式研发流程面临的主要问题研发流程面临的主要问题？银行内部研发效率主要体现在其复杂性上：人员、产品、监管事情应接不暇复杂复杂复杂复杂内部研发效率主要体现在其复杂天翼云云网产品事业部研发专家 黄坚大规模智算集群的管理与性能调优实践演讲嘉宾介绍研发方向：研发方向：云原生、AI算力基础设施重点关注：重点关注：AI智算平台研发工作大规模智算集群的性能诊断和调优国产算力生态适配黄坚 天翼云研发专家目录大规模智算集群的痛点问题运维及管理实战思路和方案云骁智算平台及落地实践智算平台未来展望目录大规模智算集群的痛点问题大规模智算集群的痛点问题运维及管理实战思路和方案云骁智算平台及落地实践智算平台未来展望大模型分布式训练Ref:Megatron-LM:Training Multi-Billion Parameter LanguagAI浪潮下架构师的4个关键可迁移技能及提升技巧阿里云 CIO产品线 首席架构师/黄永法我的职业经历与观察我的职业经历与观察7年技术架构师业务架构师至今5年产品解决方案架构师（Specialist）7年解决方案架构师（Presale）我的观察：那些优秀的架构师往往具备很突出的可迁移技能。The LinkedIn research clearly points out that while hiring managers always look for technical skills and job experience,it is the soft skills that drive success.92%of respondents say soft skills are more important than technical skill。(5,165 破局破局 升维升维 革新革新大大模型时代的数字员工模型时代的数字员工重塑业务流程、知识体系和组织范式重塑业务流程、知识体系和组织范式/科大讯飞科大讯飞 黄鹏黄鹏自我介绍（自我介绍（About MeAbout Me）AIAI技术赋能的思考者和实践者。希望让技术赋能的思考者和实践者。希望让AIAI如水般智慧，善利万物，赋能千行百业。如水般智慧，善利万物，赋能千行百业。科大讯飞科大讯飞 企业数字化业务群研发部总监企业数字化业务群研发部总监 黄鹏黄鹏先后参与并主导开发推荐系统、企业级大数先后参与并主导开发推荐系统、企业级大数据平台和