机器学习
文章平均质量分 91
obitoquilt
越努力越幸运~
展开
-
Attention Mechanism
Attention MechanismAttention definition:Attention用于计算"相似程度",通常描述如下:将query(Q)query(Q)query(Q)和key−value pairskey-value \ pairskey−value pairs映射到输出上,输出是VVV中所有values的加权,其中权重是由QueryQueryQuery...原创 2019-11-07 20:44:06 · 294 阅读 · 0 评论 -
机器学习面试题
1.统计学习相关知识模型、策略、算法、logistic、SVM、决策树、KNN及各种聚类方法能写出核心伪代码和优化表达式、算法(梯度下降、牛顿法、随机搜索算法(基因、蚁群等))2.hadoop、python3.项目:ctr、搜索、广告、垃圾过滤、安全、推荐系统等4.推荐:各类协同过滤的好与坏5.LDA:共轭分布。6.Top-N推荐问题7.MapReduce模型8...转载 2018-03-17 14:24:23 · 535 阅读 · 1 评论 -
奇异值分解(SVD)原理详解及推导
奇异值分解(SVD)原理详解及推导 转载:http://blog.csdn.net/zhongkejingwang/article/details/43053513 在网上看到有很多文章介绍SVD的,讲的也都不错,但是感觉还是有需要补充的,特别是关于矩阵和映射之间的对应关系。前段时间看了国外的一篇文章...转载 2018-03-24 10:09:28 · 549 阅读 · 0 评论 -
推荐算法 Recommendation
推荐算法 Recommendation@(deepLearning)1.基于内容(Content-based Recommendation): 基于内容的推荐是建立在产品的信息上作出推荐的,而不需要依据用户对项目的评价意见,更多地需要用机器学习的方法从关于内容的特征描述的事例中得到用户的兴趣资料。2.协同过滤(Collaborative Filtering):...原创 2018-04-23 10:35:22 · 541 阅读 · 0 评论 -
sigmoid导函数的取值范围?
sigmoid导函数的取值范围?@(deepLearning)sigmoid 公式: g(z)=11+e−zg(z)=11+e−zg(z)=\frac{1}{1+e^{-z}} 导函数: g′(z)=−(1+e−z)−2×(1+e−z)′=e−z(1+e−z)2=1e−z+1e−z+2∈(0,14]g′(z)=−(1+e−z)−2×(1+e−z)′=e−z...原创 2018-04-23 10:44:01 · 5885 阅读 · 0 评论 -
机器学习的损失函数 loss function
机器学习的损失函数 loss function@(deepLearning)loss function: 作为优化的目标的函数,又称为代价函数(cost function)。 L=∑i=0n−1ℓ(yi,yi^)L=∑i=0n−1ℓ(yi,yi^) L=\sum_{i=0}^{n-1}\ell(y_{i},\hat{y_{i}}) 1.常见的损...原创 2018-04-23 10:50:34 · 711 阅读 · 0 评论 -
L1范数和L2范数的区别
L1范数和L2范数的区别@(deepLearning)范数 norm范数是衡量某个向量空间(或矩阵)中的每个向量以长度或大小。∥x∥p:=(∑i=1n∣xi∣p)1p\left \| x\right \|_p := \left( \sum_{i=1}^{n}\left|x_i\right|^p\right)^{\frac{1}{p}}∥x∥p:=(i=1∑n∣xi∣p)p1...原创 2019-07-15 17:33:11 · 2622 阅读 · 0 评论 -
机器学习中偏差和方差 bias and variance
偏差和方差 bias and variance@(deepLearning)偏差:描述的是预测值的期望与真实值的偏离程度,针对的是一个模型。(拟合能力)方差:描述的是预测值的离散程度,针对的是多个模型。(泛化能力)方差一般会随着训练的样本的增加而减少。...原创 2019-07-16 10:54:07 · 247 阅读 · 0 评论 -
pytorch注意事项和学习笔记
pytorch注意事项和学习笔记查看torch版本:torch.__version__查看cuda版本:torch.version.cudatorch.cuda.is_available() # 判断gpu是否可用tensor和numpy相互转化torch.from_numpy(np_data)torch_data.numpy()CPU和GPU的Tensor之间转换...原创 2019-08-05 15:58:53 · 334 阅读 · 0 评论