GLocal-K: Global and Local Kernels for Recommender Systems
关键概念
1.user-item rating matrix
rating matrix是推荐系统和协同过滤中的基础概念。
- Users:系统中提供ratings的个体,矩阵中么一行都是一个user
- Items:代表物品(图书、电影等),矩阵中的每一列代表一个item
- Ratings:是users赋给items的值,可以是显式的(比如一个人给电影打了4颗星),或者是隐式的(用户点击网站,表示感兴趣)
2. RBF(radial-basis-function) kernel
像SVM这样的机器学习算法在应用在非线性数据集时候,很难指出正确的kernel。RBF会解决这方面的问题。
当d12为0的时候,RBF kernel是1,也就是X1=X2
σ
\sigma
σ是决定哪些点需要考虑相似度
σ
=
1
\sigma=1
σ=1
K
(
X
1
,
X
2
)
=
e
x
p
(
−
∣
∣
X
1
−
X
2
∣
∣
2
2
)
K(X_1, X_2) = exp(-\frac{{||X_1-X_2||}^2}{2})
K(X1,X2)=exp(−2∣∣X1−X2∣∣2)
可以看到当d12超过4的时候,相似度就为0
同样的
σ
=
0.1
\sigma=0.1
σ=0.1
σ
=
10
\sigma=10
σ=10
根据SVM的C的值选择
γ
\gamma
γ可以实现最好的Bias-Variance Trade off.
参考:
https://towardsdatascience.com/radial-basis-function-rbf-kernel-the-go-to-kernel-acf0d22c798a
3.Kernel Trick
与上面不同的是,这里的kernel trick使用的是有限支持的RBF核
https://blog.csdn.net/qq_42725437/article/details/134631246
GLOCAL-K
下面是总体框架:
GLOCAL-K在两个阶段用了两种kernel,预训练阶段使用有限支持内核,使密集连接更密集,稀疏连接更稀疏,并使用rating matrix进行fine tuning。该任务具有m个项目,n个users。
Pre-training with Local Kernel
Fine-tuning with Global Kernel
实验