1、成式智能时代的产业成式智能时代的产业迈向通智能迈向通智能中国科学院院、清华学智能研究院名誉院中国科学院院、清华学智能研究院名誉院张 钹张 钹成式智能的应场景成式智能的应场景融:个性化产品设计 市场预测与模拟 财物报告与分析 合成数据成 信评分与贷款审批 智能合同成 增强客服体验制造业:设计与原型制造 优化成流程 定制化产 质量控制 优化供应链 教育培训 营销服务设计、规划设计、规划 .核业务核业务 .服务、营销服务、营销易难该券商,基于模型打造了新代AI中台脑,通过函数调打通券商已有各类服务API,结合检索增强等技术框架,应于开助、客服、ai选股、ai财报、账问答、交易单指令等多种场景。融案例
2、融案例语模型语模型-3 3能与能与1 1缺陷缺陷强的语成能:强的语成能:在开领域开领域能够成多样性成多样性令惊讶的语义连贯的类似类语义连贯的类似类的本强的然语对话能:强的然语对话能:在开领域开领域实现机然语对话强的迁移(举反三)能:强的迁移(举反三)能:在代理任务上训练个模型,通过细调通过细调适配到感兴趣的下游任务 1缺陷:幻觉幻觉 InternalismInternalism(内在主义,唯主义)(内在主义,唯主义)LLM成语与类语成只是为上的相似性,内在机制根本不同外部提(external prompt)内部意图-intention规划、搜索 意图控制下成概率预测(probabilistic
3、 prediction)不知 知-self-awareness质量不可控质量不可控 可控可控不可信不可信 我负责(可信)我负责(可信)不鲁棒(受提词影响)不鲁棒(受提词影响)鲁棒鲁棒基础模型的局限性基础模型的局限性基础模型不同的应模式基础模型不同的应模式微调知识库业基础模型检索机制产业应通基础模型迁移语模型预训练2 检索增强成RAG6 安全与治理3 微调4 知识图谱、向量数据等1 提程5 内部监测与控制基于语模型产品的架构模式基于语模型产品的架构模式新提成新提成 新提1.1.提程提程(Prompt Prompt EgineeringEgineering)复杂推理复杂推理-1 1GPT-3GPT
4、-4o复杂推理复杂推理-2 2GLMGPT-4o2.2.检索增成检索增成确定性的答案确定性的答案GPT-4:美国执业医师资格考试,正确率90%以上问问:名12岁孩因双腿肿胀周由亲带到急诊科。患者昨天注意到尿液中带,.。命特征:体温37.0摄度,脉搏78次/分,.。尿液分析结果如下:蛋质:150mg/dl液:阳性细胞酯酶:阳性.尿管型:12/lpf对这位患者,哪项实验室检查结果最可能出现异常(A)出时间(B)红细胞计数(C)清C3浓度(D)清lgA浓度(E)清类湿因检测答答:(C)清C3浓度3.3.微调微调-领域知识与私有数据领域知识与私有数据答答:根据患者的临床症状,包括近期的上呼吸道感染、肿
5、、尿液中的液和蛋质,这些症状与急性链球菌感染后肾球肾炎(APSGN)相符。急性链球菌感染后肾球肾炎通常与C3平减低有关,因此这位患者清C3浓度很可能出现异常。引:Peter Lee,et al.,The AI revolution in medicine-GPT-4 and beyond,中译本:超越想象的GPT医疗,芦义译,浙江科学技术出版社,2023对选择结果的解释对选择结果的解释4.4.知识图谱与向量数据库知识图谱与向量数据库知识图谱百度知,歌知识图谱,DBpedia,WikidataYAGO,CN-pedia,Freebase,Microsoft Concept Graph,Linke
6、dln知识库,facebook知识库向量数据库Faiss(Facebook AI research),Annoy,PineconeWeaviate,Milvus,阿云,腾讯云,华为云5.5.内部监测与控制内部监测与控制语模型类环境在类的提中不断更新与迭代强化学习强化学习 -Reinforcement LearningReinforcement LearningS.Singh,et al.,Intrinsically Motivated Reinforcement Learning,https:/www.cs.cor