李夕瑞-腾讯Angel大模型一站式平台工程实践.pdf

1、李夕瑞 腾讯Angel机器学习平台专家工程师腾讯Angel机器学习平台专家工程师，多年专注于AI工程领域，目前负责Angel大模型一站式平台的架构设计与开发工作，支持腾讯混元大模型、腾讯广告等模型研发、应用场景。演讲主题：腾讯Angel大模型一站式平台工程实践腾讯Angel大模型一站式平台工程实践李李夕夕瑞瑞腾讯Angel机器学习平台专家工程师，Angel大模型一站式平台负责人，10年+机器学习平台研发经验，支持腾讯混元大模型研发、腾讯各产品业务应用混元。腾讯混元大模型产品应用情况Angel机器学习平台构建AI基础设施底座混元一站式平台 LLMOps 实践腾讯混元大模型之路做创新的长期主义者兼

2、顾实用和创新2020-2022推出百亿/千亿广告推荐大模型2023.04混元一站式推出业务精调服务始终坚持把创新成果及时对齐业务需求2021-2022发布万亿混元NLP大模型登顶各大权威榜单，始终处于模型算法探索的最前沿2023.05广告、会议、文档等头部业务接入混元一站式2024.1混元升级高性能MOE模型突破规模和性能的天花板，应对资源紧张成本高企等挑战2024.82024年Q3 发布更快更强更高混元turbo在SuperCLUE中文大模型评测榜单获国内第一 2023.09混元大模型对外发布混元一站式面向业务全面开放2024.6混元多模态MOE模型发布在SuperCLUE-V中文多模态大模

3、型基准8月榜单腾讯混元获国内第一2024.11混元开源内部同宗同源，业界最大、最好 MOE大模型-混元 Large混元大模型腾讯产品应用情况混混元元已已接接入入7 70 00 0+司司内内业业务务，实实现现技技术术与与应应用用同同行行典型业务案例-搜狗输入法智能创作搜搜狗狗输输入入法法 -智智能能创创作作助助手手A AI I帮帮写写提升聊天、朋友圈文案等社媒写作能力A AI I汪汪仔仔创创意意转转化化为为影影响响力力:支持在小红书、大众点评、朋友圈等 20 多个场景。聊聊天天高高情情商商：一键提升沟通魅力，支持节日祝福、请假条、祝酒辞等 100+个意图。智智能能问问题题生生成成：无限联想，迸发

4、思维火花，目前支持 2-15 个字的输入（随意输入）腾讯旗下SaaS协作产品全面接入混元腾讯文档企业微信智能助手腾讯会议全品类文档生成跨品类信息处理“一句话”指令，即可开启智能办公 和高效创作腾讯问卷腾讯电子签腾讯乐享腾讯云AI代码助手AI小助手智能录制实时字幕 翻译让讨论更沉浸，让会议更高效小助手已接入腾讯混元大模型提升产品体验和服务效率邮件内容创作、翻译等典型业务案例-腾讯文档文本创作案案例例：腾腾讯讯文文档档A AI I智智能能助助手手腾腾讯讯文文档档智智能能助助手手：在腾讯文档的doc、表格等各品类中，通过AI提高用户创作效率，提升创作体验文文档档创创作作文文本本编编辑辑表表格格公公式

5、式生生成成支持自然语言生成250+内置函数遵循用户指令，进行各种场景的文本创作对已有内容进行续写、润色、校阅、翻译和总结典型业务案例-腾讯文档文本创作典型业务案例-腾讯会议长文理解案案例例效效果果：腾腾讯讯会会议议A AI I小小助助手手腾腾讯讯会会议议A AI I小小助助手手：是为会议设计的机器人，可在会议前、中、后帮助用户处理问题和指令，旨在简化会议操作并提高会议效率。会会控控入入口口理解用户指令，与会议API交互会会议议总总结结帮助用户高效获取会议内容会会议议问问答答快速精准获取答案关关联联问问题题推推荐荐更好了解会议关联信息典型业务案例-腾讯会议长文理解典型业务案例-微信读书RAG+摘

6、要总结AI大纲AI问书 微微信信读读书书典型业务案例-广告创意生成混元加持AI搜索能力，解锁深度搜索和分析能力高质量时新搜索提供引文让答案可信可溯源，引文数量多、时间新、信源好全面掌握相关资讯，并快速提取要点，迅速定位信息源延伸阅读学习体验轻松拿捏专业文献图文表格资料通过延伸阅读满足用户对周边信息的获取需求，关联问题引导追问阅读学习无缝衔接腾腾讯讯元元宝宝 -A AI I搜搜索索角色对话、剧情互动、剧照cos 探索更多智能体玩法智智能能体体应应用用元宝AI角色对话成为腾讯视频剧集宣发新亮点，不仅实现风格对话，兼具强大的拟人感、记忆感知、情感风格长相思AI角色对话总热度近2亿，“相柳”单角色热度