基于图神经网络的搜索推荐算法与实践.pdf

1、输入标题 Title 2023 DataFunSummit基于图神经网络的搜索推荐算法与实践基于图神经网络的搜索推荐算法与实践演讲人：楼星雨OPPO拓扑Lab高级机器学习算法工程师输入标题 Title 目录目录图神经网络背景介绍OPPO业务场景实践未来展望C Contentsontents图在推荐系统的应用范式及介绍输入标题 Title 输入标题 Title 图表征学习简介图表征学习经历了因式分解、随机游走随机游走和深度模型深度模型三个阶段万物皆可表征万物皆可表征图神经网络Liu,Xueyi,and Jie Tang.Network representation learning:A macr

2、o and micro view.AI Open 2(2021):43-64.输入标题 Title 基于随机游走的方法从图结构数据上采样序列，将图结构学习任务转化为序列上下文建模的任务，类比于NLP中的Word2Vec方法。因子分解方法（如 LLE，GraRep等）面临的问题：对非线性的拟合能力不足计算复杂度高图游走类方法的优点（如DeepWalk，Node2Vec等）：可解释性强可学习高阶相似信息图游走类方法面临的问题：仅考虑拓扑结构信息静态表征、无法端到端信息缺少参数共享、参数量随节点数量线性增长图游走类Chami,Ines,et al.Machine learning on graphs

3、:A model and comprehensive taxonomy.Journal of Machine Learning Research 23.89(2022):1-64.输入标题 Title 基于谱域的图卷积https:/perraudin.info/gsp.php输入标题 Title 基于谱域的图卷积连接图卷积和图谱滤波的桥梁连接图卷积和图谱滤波的桥梁使用Chebyshev多项式来近似图滤波器连接谱域卷积和空域卷积的桥梁连接谱域卷积和空域卷积的桥梁使用一阶Chebyshev多项式来近似图滤波器感受野正比于图卷积层数https:/tkipf.github.io/graph-convo

4、lutional-networks/输入标题 Title 基于空域的图卷积基于消息传递（Message Passing）范式，降低计算复杂度，扩展成归纳学习任务，对未知节点起到泛化作用Hamilton,Will,Zhitao Ying,and Jure Leskovec.Inductive representation learning on large graphs.Advances in neural information processing systems 30输入标题 Title 图在推荐系统中的价值用户行为数据天然以图的形式存在图直接将不同类型的行为包含起来图直接将不同场景的信息

5、关联起来图中丰富的信息能有效改善目标行为稀疏、冷启动的问题useritemattru1u2u3i1i2i3a1a2u1u2u3i1i2u1u2u3i1i2a1a2i3输入标题 Title 图神经网络在推荐系统中的优势u1u2u3i1i2传统模型u1u2u3i1i2a1a2i3图神经网络模型无邻居聚合u1u2u1u2u3u1u2u3t=T-Nt=T-N+1t=Ti1i2i1i2i1i4iid Training按时间展开节点每个时间点的特征可以不一样邻居聚合不按时间展开u1u2u3i1i2i3a1a2静态视角建模可用信息量建模可用信息量：图神经网络图神经网络 传统模型传统模型u1u2u3i1i2a

6、1a2i3t=T-Nu1u2u3i1i2a2i3a1non-iid Training可聚合前序邻居邻居聚合按时间展开t=T节点每个时间点的特征可以不一样输入标题 Title 输入标题 Title 图在推荐系统中的应用范式场景为主图为辅，从应用方式的角度出发分大类，再根据算法细节分子类图召回路图融合图特征图子网络明文类特征Embedding类特征图特征图子网络明文类特征Embedding类特征图策略图表征图端到端图预训练对比类生成类预测类user-toweritem-toweruser-tower&item-tower特征精炼特征交互行为兴趣挖掘知识图谱社