2024 Aicon全球人工智能开发与应用大会·北京站嘉宾演讲PPT合集（共38套打包）

1、大模型推理的显存优化探索演讲人：赵军平蚂蚁集团/异构计算与推理负责人01010202030304040505目录显存需求与挑战围绕显存的更多优化探索优化1:virtualTensor优化KV cache和attn kernel优化2:LayerKV优化TTFT总结自我介绍 赵军平，赵军平，蚂蚁异构计算与推理异构计算与推理负责人 中国计算机协会CCF HPC、存储专委委员，200 中/美技术专利 。

2、大模型在汽车行业的落地实践演讲人：黄高攀阿里云/公共云大模型技术服务高级专家观点声明本次交流的观点仅代表个人在当下的观点个人简介阿里云高级技术专家中科院计算机应用技术博士黄高攀阿里云大模型技术服务高级专家，2012年毕业于中科院自动化所，现负责阿里云汽车能源行业大模型技术服务方向，重点在汽车能源行业开展大模型技术的全流程场景落地服务。在AI/大模型技术服务领域有丰富的场景应用与行业落地经验，先后。

3、AI Agent在边缘云的探索与实践连接物联世界，让AI触手可及演讲人：谢皓火山引擎/边缘智能技术负责人0102030405目录边缘云在智能方向的演进之路边缘智能助力智能体落地边缘云智能体在火山引擎边缘云的实践总结与展望智能体在边缘云落地的问题与挑战边缘云在智能方向的演进之路火山引擎边缘智能简介终端设备现场边缘近场边缘云边缘云中心用户现场1-5ms区域城市5-20ms区域中心城市20-40ms低。

4、通明湖人工智能开发与应用大会探索IDE下的智能研发和研发知识库的建设演讲人：汪晟杰腾讯云AI代码助手 产品负责人个人介绍汪晟杰汪晟杰腾讯云资深技术产品专家腾讯资深技术产品专家，20年工作经验，负责腾讯云开发者AI代码助手产 品，十 多 年 协 作 S a a S、T e a m b i t i o n，和 S A P 云 平 台 SuccessFactors HCM、Sybase 数据库、Pow。

5、使用多模态模型构建适用于 LLM 搜索的数据演讲人：赵晨阳矩阵起源-AI产品研发负责人010102020303040405050606目录引言与背景多模态模型的混合检索架构GPU加速的数据处理与模型优化 LLM辅助的检索结果筛选与优化引导式数据标注与自动化数据洞察未来与展望引言和背景大模型时代企业面对的数据需求和挑战构建一个自动杠杆收购（LBO）智能体，用于从非结构化的10-K文件和收益报告中自。

6、AI产品的商业化探索演讲人：王益为秘塔科技 首席运营官个人简介个人简介秘塔科技首席运营官B站up主（“王一快”）重度文字工作者不会写一行代码目录目录解决什么问题实现路径是什么坚持长期试验解决什么问题失败的案例理论上存在的市场真实存在么？70分的产品+可以卖出去=真实需求什么是伪需求卖的是工作量还是产品？卖的是什么？保持克制能不能让公司活下去，融资或自己造血产品想象力失败的案例引发的思考失败的案例。

7、KidsGPT 在母婴领域的应用与创新演讲人：陈剑孩子王/AI 大模型技术负责人传统销售顾问传统销售顾问 vs AIvs AI智能育儿顾问智能育儿顾问0101KidsGPTKidsGPT的应用场景的应用场景0202打造有情感温度的打造有情感温度的AgentAgent智能体智能体0303 展望与未来展望与未来0404传统销售顾问 vs AI智能育儿顾问（KidsGPT）01201520162017。

8、通明湖人工智能开发与应用大会TOP 252024 年度 AI 最佳实践案例/方案2024 中国技术力量年度榜单中国技术力量年度榜单TOP 102024 年度 AI 最佳技术服务商TOP 102024 年度高价值技术团队TOP 102024 年度数智化先锋企业经过快手科技副总裁大模型团队负责人张迪张迪、360 智脑总裁张向征张向征等六位专家评审六位专家评审的联合评分，最终共 55+项目、企业和团队。

9、彩讯科技股份有限公司多智能体协同调度多智能体协同调度 文字建议文字建议为保证文件兼容性，如无特殊情况，请勿使用其他艺术字体字体正文字号：12通常演示文稿业务汇报文件中的文本较多，12号的字体可以展现更多的内容；且演示文稿的使用场景为桌面端、受众年龄适中，为呈现更好的阅读体验，正文应慎重使用更大字号小标题：18字号标题字号：28使用专有的英文字体可以使版面更加美观，可以让强调的英文&数字细。

10、构建企业级RAG系统的创新实践演讲人：费跃阿里云/PAI 人工智能平台01010202030304040505目录背景介绍模块化RAG架构模块设计和优化企业级RAG能力集成总结背景介绍背景介绍检索增强生成（Retrieval Augmented Generation,RAG）从数据源中检索信息来辅助大语言模型（Large Language Model,LLM）生成答案。RAG的优势：准确性时效性。

11、产品产品 AI AI 化重塑及商业化实践化重塑及商业化实践演讲人：蒲世林像素绽放 PixelBloom（AiPPT.com)联合创始人正在发生正在发生:左右互搏的油车和电车左右互搏的油车和电车破坏性创新破坏性创新 创造新兴市场创造新兴市场 颠覆主流颠覆主流创新者窘境是新物种的机会创新者窘境是新物种的机会所有工作流，都值得用所有工作流，都值得用AIAI再做一遍！再做一遍！破坏性创新破坏性创新 创造。

12、通明湖人工智能开发与应用大会AI时代下，数据库技术于智能化应用的协同发展演讲人：罗云腾讯云数据库副总经理 将数据接入AI成为大模型时代最重要的事新的生产力智能处理器LLM接入AI控掘数据价值绝大部分的非结构化数据没有充分利用(80%)高效接入挖掘价值LLM大模型抹平了工程和算法层面的差距LLM数据算法工程竞争/PK企业企业数据成为企业核心的竞争力向量数据库：企业数据接入大模型的数据枢纽AI应用向。

13、通明湖人工智能开发与应用大会Al+大数据：打造新一代数据开发治理一体化平台演讲人：谭杰轩腾讯云/资产大数据产品经理01010202030304040505目录大数据+AI前沿发展趋势趋势与痛点大数据+AI数据开发治理平台建设思路架构设计WeData一体化建设应用落地分享关键技术落地大数据+AI前沿发展趋势趋势与痛点大模型的机遇与挑战大模型大模型大模型发展的基础是数据挑战挑战。“幻觉”问题01数据。

14、探索多租户下的算力分配与调度优化落地实践演讲人：王天庆计算存储/容器引擎 技术负责人自我介绍高性能存储快速、可靠、大容量数据处理机器学习平台支持模型全生命周期管理云原生基础设施弹性、自动化、混合云架构主要负责的技术方向:贝壳找房容器引擎团队负责人，目前工作聚焦于云原生和AI基础设施的架构设计和建设实施，提供高效可靠的基础设施并帮助大模型在企业内部快速落地。王天庆01010202030304040。

15、通明湖人工智能开发与应用大会大模型驱动的人机协同提效实践演讲人：王初晴01010202030304040505目录背景新一代智能代码助手介绍企业落地经验案例演示未来展望背景大模型在软件研发领域备受关注50+AI智能编码助手各大公司纷纷下场10小时通过大模型开发愤怒的小鸟虚拟AI工程师：Devin AIAI助力研发提效初显产品突破：GitHub找到了一种绝佳的交互方式 在IDE中通过幽灵字符向开发。

16、预训练数据策略的探索与实践演讲：张宇鹏百川智能/预训练数据策略负责0102030405录数据质量数据配代码数据数据合成Take away数据质量01Why data quality import?-Llama vs Phi训练数据量对llama-系列对 phi-系列得益于数据质量的不断探索和优化，Phi系列模型在总计算FLOPS 不到Llama系列1/10 的条件下，达到了更好的模型效果Why 。

17、AgentAgent技术在小爱同学中的应用技术在小爱同学中的应用演讲人：杞坚玮小米 小爱高级算法工程师CONTENTS目 录01智能语音助手的变革02Agent技术在小爱中的成功实践03未来优化方向智能语音助手的变革智能语音助手的变革智能语音助手的核心链路智能语音助手的核心链路理解意图分类与实体识别执行满足话术与功能调用决策任务拆解与接口选择AgentAgent技术为语音助手带来新机遇技术为语音。

18、蔚来座舱多模态大模型的应用实践演讲人：牛建伟蔚来文字建议文字建议为保证文件兼容性，如无特殊情况，请勿使用其他艺术字体字体正文字号：12通常演示文稿业务汇报文件中的文本较多，12号的字体可以展现更多的内容；且演示文稿的使用场景为桌面端、受众年龄适中，为呈现更好的阅读体验，正文应慎重使用更大字号小标题：18字号标题字号：28使用专有的英文字体可以使版面更加美观，可以让强调的英文&数字细节显示。

19、钉钉 AI 助理平台核技术实践演讲：柯杰阿钉钉/AI 开发平台技术负责010203录背景与趋势数字化的挑战与智能化的机遇核技术实践产品、开发、发布与安全实践总结与展望开发模式变的畅想背景与趋势01数字化的挑战与智能化的机遇企业数字化的挑战to C 产品效率提升依赖具个性化定制，定制成本！to B 产品聚焦共性需求量个性化定制智能化带来的机遇具化信息化数字化智能化核技术实践02AI 产品三类场景L。

20、从数据到知识：Data-Centric范式大模型落地实践演讲人：张红兵枫清科技(Fabarta)/AI负责人01010202030304040505目录大模型落地现状和痛点Data-Centric落地范式介绍如何使用Data-Centric助力大模型落地Data-Centric范式案例分享总结与展望大模型落地现状与痛点热度热度时间时间线线2022.112022.112023.6 2023.6 2。

21、如何利用 Agent 解决企业数据分析与洞察的经验探索演讲人：李飞数势科技/AI技术负责人公司和个人介绍公司概况公司概况部分代表客户部分代表客户投资机构投资机构为企业提供基于大模型增强的数据分析数据分析 AI AgentAI Agent、智能指标平台智能指标平台、智能标签平台智能标签平台及智能营销平台智能营销平台，提升企业的数字化决策能力，推动企业数字化升级 2020年，由原京东技术副总裁黎科峰。

22、有用到好用 AI 生产力工具如何放大 AI 能力演讲人：张 涛商汤科技 小浣熊家族 技术负责人0101020203030404目录单点渗透 融入现有系统系统互联 拓展能力边界学会思考 解决复杂问题总结与思考 困难与挑战单点渗透 融入现有系统图难于易 为大于细AI 编程场景的成功渗透大模型的表现与体感之间的差异源于扬长补短的能力使用 解决痛点新的解决问题的体验 减轻压力60%的参与者认为 Chat。

23、如何选择 AI 存储MLPerf Storage 评测工具解读演讲人：张文涛焱融科技/CTO&联合创始人01010202030304040505目录MLPerf Storage BenchmarkMLPerf Storage 测试结果解读AI 业务特点和对存储的挑战如何避免存储成为瓶颈？如何选择 AI 存储？MLPerf Storage BenchmarkMLCommons 是什么组织？。

24、盘古多语言大模型业务落地探索 华为2012文本机器翻译实验室/商恒超提纲机器翻译Lab-业务动机泰语&阿语大模型现状盘古大模型支持多语言（TH/AR）的实现基于RAG的呼叫中心提效基于Agent的个性化营销活动机器翻译Lab-业务动机机器翻译Lab业务与动机传统模型时代传统模型时代：支撑内部（华为云、终端、资料）翻译诉求同声传译大模型时代大模型时代：大模型机器翻译：使用LLM提升翻译能力。

25、医疗健康领域大模型医疗健康领域大模型RAGRAG优化实践优化实践演讲人：夏源百度灵医大模型底座技术负责人CONTENTS目 录01医疗健康领域RAG现状与挑战02RAG医疗领域技术优化03RAG医疗落地实践和应用RAG现状和挑战引言引言RAG技术是否已经“烂大街”？医疗领域RAG技术有什么不一样？RAG技术实际应用的难点和挑战？Naive RAG Naive RAG 技术技术框架框架Query理。

26、AIAI创新应用商业化实践创新应用商业化实践个人介绍个人介绍 赵越，网易有道国际App产品部负责人。2014年硕士毕业于中国科学院大学，研究方向为机器学习和人工智能。2016年开始，成功研发了多款AI应用。包括：有道词典国际版 U-Dictionary，近千万日活，全球数十个国家教育榜#1。多个同传类应用：iRecord，LectMate。前者聚焦英语国家，北美#2，后者聚焦于留学生听课，国内数。

27、AI大模型浪潮下的新型行业应用系统模式和关键实现路径演讲人：周华北京智源人工智能研究院 智能应用负责人0102030405目录AI大模型浪潮推动企业IT系统架构变革以AI大模型为核心的应用系统关键实现路径构建IndustryInstruction行业指令数据集总结MindForge自动化行业指令数据生产技术介绍AI大模型浪潮推动企业IT系统架构变革AI大模型浪潮推动企业IT系统架构变革5以大模型。

28、通明湖人工智能开发与应用大会多模态大模型加速算法与开发实践ZOMI酱华为昇腾生态-技术首席01010202030304040505目录多模态大模型趋势与挑战MindSpeed-MM介绍应用案例趋势与挑战趋势与挑战1.1 多模态算力趋势1.2 多模态算法结构1.1 1.1 多模态趋势多模态趋势AIAI迭代持续带来爆点应用，多模态大模型将带动更多行业变革迭代持续带来爆点应用，多模态大模型将带动更多行。

29、云数据仓库 ByteHouse 架构下的 RAG 技术实践与性能优化演讲人：田昕晖火山引擎/ByteHouse 技术团队目录RAG 相关技术简介高性能向量检索技术全文检索&混合检索GraphRAG 实践Conclusion&DiscussionRAG 相关技术简介Naive RAGHybrid SearchRRF:(Reciprocal Rank Fusion)基于排名重排 同时。

30、商业化产品思考与探索演讲人：徐奕成 /个人事业部/WPS AI 产品总监提醒：分享内容仅代表个人观点，不代表立场。这是一个技术大爆炸的时代资料来源提醒：分享内容仅代表个人观点，不代表立场。技术大爆炸的时代 的 AI商业化产品思考指数级的技术迭代 但 线性的应用落地进展怎样让 AI 技术真正服务于用户的日常办公需求？怎样在提升用户体验的同时，实现商业价值的转化？产品的演进需要技术与用户较长时间的打。

31、从统一数据治理到下一代从统一数据治理到下一代企业级企业级 Data Agent Data Agent 的实的实践与创新践与创新演讲人：史少锋Datastrato/VP of engineering关于我 Datastrato VP of engineering Apache member,Apache Incubator PMC,Mentor of Apache Gravitino,Gluten。

32、听未来：探索 AI 声学硬件与 AI 应的交互新纪元演讲：赟贺声智科技副总裁我们正回归对话式社会01语交互是AI产品的关键形态全球涌现多家AI语公司，语是最本能的沟通段视频来源：Tenyx官Tenyx通过多LLM架构和实时语成技术，提供准确度和可扩展的语代理服务，为企业在实时性且需准确性的应场景中创造安全、灵活的语交互体验。Tenyx曾获$15M融资，并于今年9被Salesforce宣布收购，凭。

33、行业多模态大模型训推加速落地思考演讲人：谢榛阿里云/行业多模态模型负责人，高级算法专家文字建议文字建议为保证文件兼容性，如无特殊情况，请勿使用其他艺术字体字体正文字号：12通常演示文稿业务汇报文件中的文本较多，12号的字体可以展现更多的内容；且演示文稿的使用场景为桌面端、受众年龄适中，为呈现更好的阅读体验，正文应慎重使用更大字号小标题：18字号标题字号：28使用专有的英文字体可以使版面更加美观，。

34、GenAIGenAI时代，时代，从容应对数据驱动的从容应对数据驱动的AIAI带来的带来的I/OI/O挑战挑战演讲人：汤文军Alluxio 资深架构师01010202030304040 0目录AI AI 所带来的的所带来的的IOIO挑战挑战IOIO挑战的解决思路挑战的解决思路AlluxioAlluxio介绍介绍AlluxioAlluxio 技术架构技术架构典型应用场景典型应用场景LLM 性能受算力。

35、通明湖人工智能开发与应用大会鸿蒙生态下的AI助力移动应用开发新范式助力鸿蒙原生应用高效开发演讲人：彭松华为/HarmonyOS开发者技术架构师01010202030304040505目录前言智能代码辅助智能问答万能卡片生成下一步思考AIAI大模型爆发，重新定义软件工程大模型爆发，重新定义软件工程1 1个初级程序员变成个初级程序员变成1 1个资深程序员个资深程序员AIAI降低开发门槛降低开发门槛1。

36、RAG 基本范式的选择与系统设计演讲：尹峰Hugging Face,Machine Learning Engineer0102030405录RAG 简介Semantic Search 到底是在做什么？系统设计KG RAG未来的趋势与挑战RAG 简介01我们为什么需要RAG？为什么需要RAG？LLM的两个问题：再训练成本 世界在改变，现实世界的数据分布在改变（Distribution shift/。

37、从统一数据治理到下一代从统一数据治理到下一代企业级企业级 Data Agent Data Agent 的实的实践与创新践与创新演讲人：史少锋Datastrato/VP of engineering关于我 Datastrato VP of engineering Apache member,Apache Incubator PMC,Mentor of Apache Gravitino,Gluten。

38、通明湖人工智能开发与应用大会走向 Data+AI：TiDB 面向大语言模型应用构建 All-in-One 的数据库演讲人：刘松平凯星辰（北京）科技有限公司 副总裁目录TiDB 面向大语言模型的技术优化面向大语言模型的技术优化平凯数据库平凯数据库（TiDB 企业版企业版）在信创领域的案例在信创领域的案例TiDB 面向大语言模型的技术优化大模型的企业化应用最终面临的是数据挑战数个千亿参数的 LLM 。