您现在的位置是：首页 >技术杂谈 >论文阅读：Heterogeneous Graph Contrastive Learning for Recommendation（WSDM ’23）网站首页技术杂谈

论文链接

Motivation：

在推荐系统中，图神经网络在建模图结构数据上已经变成一个强有力的工具。但是现实生活的推荐语义通常涉及异质关系（像用户的社交关系，物品知识关系的依赖），这些都包含丰富的语义信息去提升表征能力的学习。同时，对比自监督学习在推荐系统中也取得了巨大进步。
鉴于此，本文提出异质图对比学习[Heterogeneous Graph Contrastive Learning (HGCL)],它利用在不同角度的对比学习知识迁移把异质关系融合到用户-物品的交互建模中。由于用户和物品的异质关系对用户-物品交互的影响是不同的，所以在HGCL中关于自适应对比增强设计了元网络来做个性化知识转换。

本文所面对的挑战：
1.如何有效的在不同视图中转换异质关系。
2.如何在个性化增强中执行异质关系的对比学习。

Contribute：

1.提出推荐系统中的异质图对比学习，它提供了普遍和通用的框架在一个图对比学习范式中去融合异质边信息进入推荐系统。
2.HGCL通过在对比学习中融合元网络，在特定于用户和特定于物品的知识转换中去自适应增强。
3.在真实生活推荐数据集中做了大量实验，证明了HGCL框架的有效性。

Method：

预定义：
对于用户-物品交互、用户-用户交互（social relation）、物品-物品交互（item relation）分别建立三张图Gui、Guu、Gii和对应的三个邻接矩阵Aui、Auu、Aii。

HGCL包含3大部分：
1.在用户-物品图、用户-用户图和物品-物品图中做异构图内表征的提取和融合。
2.在辅助视图和交互视图中利用元网络建模个性化跨试图关系。
3.在异构关系视图中，对于自适应对比学习做联合参数优化。

一：异质图关系学习

1.异质图Embedding初始化

用户-物品图初始化：传统推荐embedding（Eu、Ei）。

用户-用户图初始化和物品-物品图初始化作者设计了self-gating module，设计想法是不仅可以共享用户-物品交互初始embedding的共同语义，而且也可以在自己图中灵活建模用户-用户、物品-物品的关系。如下所示：

用户-用户图初始化：Euu

物品-物品图初始化：Eii

2.异质消息传播
用户-物品交互图、用户-用户交互图和物品-物品交互图分别进行图卷积，过程同LightGCN

3.异质信息聚合

信息每次迭代都会从异质关系中聚合信息。

f函数是element-wise mean pooling.

最终生成L层的表征与初始化的表征做聚合，形成最终的Eu和Ei。
同理Euu和Eii会聚合L层和初始化的表征，只不过之前没有经过f函数。f函数只把辅助（U-U、I-I）关系融合到交互关系（U-I）中。

二：跨视图元学习

1.提取元知识

元知识是包含丰富内容信息，它作为输入信息去生成对于用户和物品边知识的个性化知识转移函数。

对于用户-用户视图的元知识：用户-物品视图的用户Node、用户-用户视图的用户Node、用户-物品视图的用户Node的所有邻居Node（物品Node）的和。

对于物品-物品视图的元知识：用户-物品视图的物品Node、物品-物品视图的物品Node、用户-物品视图的物品Node的所有邻居Node（用户Node）的和。

2.个性化跨视图转换

利用上述的元知识作为输入信息，经过f1和f2元知识学习器生成参数知识转换网络，下面公式是针对用户-用户视图生成两个定制转换矩阵，作为转换函数的参数。物品-物品视图同理。

f1和f2均是激活函数是PReLU的两层MLP。

所以EMuu是针对用户-用户社交关系视图的定制映射函数转换后的用户信息。

与Eu和Euu做加权和形成最终的EFu。

物品-物品视图同理。

三：用户增强的异质关系对比学习

跨视图对比学习

设计了跨视图对比学习范式去增强异质关系学习

s(·)是cosine similarity function

对于物品也同理。

最终用户和物品的对比学习loss如下：

Model Training

最终Loss

Dataset：

Experiments：

Baseline：

Performance Comparison (RQ1)

Ablation Study (RQ2)

Performance varying Data Sparsity (RQ3)

Hyperparameter Analysis (RQ4)

Qualitative Evaluation

在CIAO数据集上进行了案例研究，来可视化学习到的个性化对比转换矩阵(R16×16)，以反映辅助视图(例如社会关系)和用户-项目交互视图之间的不同影响。