计算机行业:DeepSeek冲击全球AI产业格局看好国产算力与AI应用-250224(16页).pdf

编号:614308 PDF  PPTX 16页 1.04MB 下载积分:VIP专享
下载报告请您先登录!

计算机行业:DeepSeek冲击全球AI产业格局看好国产算力与AI应用-250224(16页).pdf

1、DeepSeek冲击全球冲击全球AI产业格局,看好国产算力与产业格局,看好国产算力与AI应用应用分析师:李杰登记编号:S05005210700012025年02月24日证券研究报告证券研究报告 增持(维持)增持(维持)目 录一、DeepSeek的算法工程创新二、DeepSeek冲击全球AI产业格局三、看好算力与应用环节2四、投资建议与风险提示gZgWrQnPtQnRtObRcM7NsQqQsQtOfQqQsQiNnPnR8OqQyRvPtOpNuOoMoM一、DeepSeek的算法工程创新3 幻方量化拥有近10年的二级市场量化交易经验,是国内罕见的使用大模型做量化交易的公司;2021年已投资1

2、0亿元配置了超过1万张英伟达A100;2023年5月,AI团队独立,成立DeepSeek,2023年11月,推出了首个开源通用大语言模型DeepSeek LLM,2024年5月,推出了DeepSeek V2,使用了MOE架构,并在架构层面进行了创新,从而大幅提高了推理效率,成本大幅降低,在国内引发价格战。4图图 1 1 DeepSeek发展历程发展历程资料来源:运营在观察、湘财证券研究所 DeepSeek V3论文中提到的550美元成本,是指训练成本,不包括前期实验成本、薪资支出以及服务器购置等成本,与之相比,Claude 3.5 Sonnet的训练成本为几千万美元;根据SemiAnalysi

3、s的分析,DeepSeek的总服务器成本为16.29亿美元/年,总支出为25.73亿美元/年。5图图2 2 DeepSeek总成本估计总成本估计资料来源:SemiAnalysis、湘财证券研究所 得益于训练成本的大幅下降,以及算法的优化,DeepSeek的推理成本也大幅下降;DeepSeek的推理价格大约是GPT-4o的1/30。6图图3 3 DeepSeek与竞品对比与竞品对比资料来源:SemiAnalysis、湘财证券研究所 DeepSeek在算法工程方面作出了大量创新,这些创新大幅降低了训练成本,并取得了优异的训练效果。7技术理论的提出方技术理论的提出方哪些企业在大规模实践哪些企业在大规

4、模实践MoE (混合专家模型)架构1991年首次被麻省理工大学、多伦多大学雅各布斯、诺兰、辛顿三位学者在论文本地专家的自适应混合(Adaptive mixtures of local experts)中提出。2017年谷歌在Transformer模型中最早引入MoE层2023年法国Al创业公司Mistral Al最早大规模开源MoE模型。2024年5月DeepSeek发布V2时较早使用了MoE架构。字节跳动的豆包2024年6月大规模部署MoE模型,阿里的通义2024年3月发布小参数MoE 模型,2025年1月发布大参数MoE模型Qwen2.5-MaxMLA(多头潜在注意力)机制DeepSeek

5、 2024年5月最先在DeepSeek-V2发布的论文中提出。该注意力机制在MHA(Multi-Head Attention)多头注意力机制的基础上进行优化创新。目前仅有DeepSeek在V2/V3两款模型中大规模使用了这一技术FP8(8位浮点数)混合精度训练2022年首次被英伟达、Arm 和英特尔联合提出,它们共同发表了论文深度学习的FP8 格式(FP8 Formats for Deep Leaming)。2023 年微软曾开发开源的FP8-LM FP8混合精度框架2022年-2023年,亚马逊AWS、微软Azure、谷歌云均支持FP8数据格式的模型训练。但由于美国科技公司普遍不缺算力,且F

6、P8训练会增加训练的复杂度,因此这一技术并未被深入探索。传统上,大模型训练使用32位浮点数(FP32)格式来做计算和存储,这能保证精度,但计算速度慢、存储空间占用大。DeepSeek则构建了FP8 混合精度训练框架,根据不同的计算任务和数据特点,动态选择FP8或 FP32 精度来进行计算,把训练速度提高了50%,内存占用降低了40%强化学习训练1961年首次被普林斯顿大学明斯基(Marvin Minsky)在论文迈向人工智能的步骤Steps Toward Artificial Intelligence提出。OpenAI 2024年9月发布o1模型时使用了这一技术强化学习技术在大型科技公司的日常

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(计算机行业:DeepSeek冲击全球AI产业格局看好国产算力与AI应用-250224(16页).pdf)为本站 (海绵宝宝) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
客服
商务合作
小程序
服务号
折叠