Datafun：2025生成式AI实战手册（148页）.pdf

1、扫码关注公众号 免费下载资料页码：1/148扫码关注公众号 免费下载资料页码：2/148目录目录.2Al Agent-大模型时代重要落地方向.3大模型微调方案设计和能力整合.15大模型分布式训练的第四种境界.29面向 2026 年的推荐算法前瞻.53NVIDIA 大语言模型落地的全流程解析.72小布助手闲聊生成式算法.94大模型的高效训练和部署技术卷出新高度！.120扫码关注公众号 免费下载资料页码：3/148Al Agent-大模型时代重要落地方向导读：随着大语言模型的日趋成熟，各类基于大语言模型的 AI Agent 逐渐走入人们的视野。本文将梳理大语言模型 Agent 的相关知识点，并对大

2、模型时代 AIAgent 的重要落地方向进行探讨。今天的介绍会围绕下面五点展开：1.LLM-based Agent 整体架构2.LLM-based Agent 重点&难点问题3.基于大语言模型的用户行为模拟智能体4.基于大语言模型的多智能体软件开发5.LLM-based Agent未 来 方向分享嘉宾陈旭博士 中国人民大学 准聘副教授编辑整理王吉东内容校对李瑶出品社区DataFun01LLM-based Agent 整体架构扫码关注公众号 免费下载资料页码：4/148大语言模型 Agent 的构成，主要分为以下 4 个模块：1.画像模块：主要描述 Agent 的背景信息下面介绍画像模块的主要内

3、容和生成策略。（1）画像内容，主要基于 3 种信息：人口统计信息、个性信息和社交信息。（2）生成策略：主要采用 3 种策略来生成画像内容：手工设计方法：自行通过指定的方式，将用户画像的内容写入大模型的prompt 中；适用于 Agent 数量比较少的情况；大模型生成方法：首先指定少量画像，并将其作为示例，进而使用大语言模型生成更多的画像；适用于大量 Agent 的情况；数据对齐方法：需要根据事先指定的数据集中人物的背景信息作为大语言模型的 prompt，进而做相应的预测。2.记忆模块：主要目的是记录 Agent 行为，并为未来 Agent 决策提供支撑扫码关注公众号 免费下载资料页码：5/14

4、8（1）记忆结构统一记忆：仅考虑短期记忆，不考虑长期记忆；混合记忆：长期记忆和短期记忆相结合（2）记忆形式：主要基于以下 4 种形式语言数据库向量表示列表（3）记忆内容：常见以下 3 种操作：记忆读取记忆写入记忆反思3.规划模块无需反馈的规划：大语言模型在做推理的过程中无需外界环境的反馈。这类规划进一步细分为三种类型：基于单路的推理，仅使用一次大语言模型就可以完整输出推理的步骤；基于多路的推理，借鉴众包的思想，让大语言模型生成多个推理路径，进而确定最佳路径；借用外部的规划器。带有反馈的规划：这种规划方式需要外界环境提供反馈，而大语言模型需要基于环境的反馈进行下一步以及后续的规划。这类规划反馈的

5、提供者来自三个方面：环境反馈、人类反馈和模型反馈。4.动作模块动作目标：有些 Agent 的目标是完成某个任务，有些是交流，有些是探索。扫码关注公众号 免费下载资料页码：6/148动作生成：有些 Agent 是依靠记忆回想生成动作，有些是按照原有计划执行特定的动作。动作空间：有些动作空间是工具的集合，有些是基于大语言模型自身知识，从自我认知的角度考虑整个动作空间。动作影响：包括对环境的影响、对内在状态的影响，以及对未来新动作的影响。以上是 Agent 的整体框架，更多内容可参考下述论文：Lei Wang,Chen Ma,Xueyang Feng,Zeyu Zhang,Hao Yang,Jing

6、sen Zhang,Zhiyuan Chen,Jiakai Tang,Xu Chen,Yankai Lin,Wayne Xin Zhao,ZheweiWei,Ji-Rong Wen:A Survey on Large Language Model based AutonomousAgents.CoRR abs/2308.11432(2023)02LLM-based Agent 重点&难点问题扫码关注公众号 免费下载资料页码：7/148当前大语言模型 Agent 的重点和难点问题主要包括：1.如何提升 Agent 的角色扮演能力Agent 最重要的功能是通过扮演某种角色，来完成特定的任务，或者完