1、图神经网络在推荐系统中的应用与探索郭威华为 诺亚方舟实验室|自我介绍郭威,本科毕业于西安电子科技大学硕士毕业于武汉大学2019年6月入职华为诺亚方舟实验室研究方向:深度学习,用户行为建模、图表征学习等在推荐系统中的应用在国际顶级会议KDD、SIGIR、WWW、ICDE等发表论文10多篇。|诺亚推荐团队研究方向介绍深度学习模型知识图谱/GNN多目标/迁移学习多模态融合推荐列表式推荐/重排序反事实学习/纠偏AutoML广告系统竞价算法基于预训练的IR技术分布式训练及优化2019年至今,团队在KDD/SIGIR/NeuaIPS/AAAI/IJCAI/RecSys等顶会发表论文50+篇DeepFM(I
2、JCAI2017),引用次数1300+,2016-2020年IJCAI论文被引用次数第1;AutoFIS(KDD2020),best paper candidate(top 10)EDCN(DLP-KDD2021),best paper award持续支撑应用市场、游戏中心、信息流、广告、音乐等个性化推荐场景算法及优化01推荐系统和图神经网络推荐系统和图神经网络02图神经网络用于召回图神经网络用于召回0304图图神经网络用于重排神经网络用于重排目录目录 CONTENT图神经网络图神经网络用于用于精排精排|推荐系统和图神经网络01|信息过载和个性化推荐音乐电商信息流社交网络位置服务视频华为应用市
3、场华为游戏中心海量信息使得个性化推荐系统被大量应用推荐系统在华为许多场景被应用广告推荐APPAPP分发华为视频华为音乐华为阅读华为负一屏华为云华为商城华为浏览器|图神经网络用于推荐系统用户画像 相似的人物品属性 相似的物品上下文信息场景信息、浏览轨迹历史行为购买记录、浏览记录.物品(Item)(Item)用户(User)(User)特征(Features)(Features)物品池排序重排序几百万OutputLists几千几百几十典型的商业推荐系统的结构匹配用户用户-用户用户联系联系社交关系社交关系相同属性相同属性物品物品-物品物品联系联系相同的属性相同的属性外部的知识外部的知识用户用户-物品
4、交互物品交互隐式反馈隐式反馈显式反馈显式反馈图神经网络用于召回02|基于图神经网络的召回模型:业界研究工作Pinsage:KDD2018LightGCN:SIGIR2020NGCF:SIGIR2019NIA-GCN:SIGIR2020(诺亚)Multi-GCCF:ICDM2019(诺亚)DGCF:SIGIR2020SGL:SIGIR2021NCL:WWW2022图的引入多图结构优化图对比学习NIA-GCN:邻居交互感知的图卷积网络已有GCN召回模型存在的关键问题:忽略了用户-商品二部图存在的异质性(user和item是两种不同的节点)简单的聚合函数(mean,max,LSTM)在聚合邻居信息时
5、限制了模型的表达能力如下图:左边的两个子图Max函数不能区分,右边的两个子图Mean函数不能区分LSTM函数:不是排列不变的,且难以训练Sun et al.,Neighbor interaction aware graph convolution networks for recommendation,SIGIR 2020.|NIA-GCN:邻居交互感知的图卷积网络Pairwise Neighborhood Aggregation Graph Convolution Layer(PNA):把每个邻居作为中心节点的特征利用邻居间的哈德玛积来捕获邻居间特征交互完整的邻居汇聚以及中心节点-邻居聚合过
6、程|NIA-GCN:邻居交互感知的图卷积网络Parallel-GCNs:preservethe heterogeneous natureCross-Depth Interaction(CDI):for the Final representationNIA-GCN:邻居交互感知的图卷积网络 NIA-GCN outperforms the next best method from 2.9%to 21.8%|GraphSAIL:GCN在召回场景的轻量化Xu et al.,Graphsail:Graph structure aware incremental learning for recomm