- 博客(6)
- 资源 (3)
- 收藏
- 关注
原创 为何sigmoid激活函数要配合sigmoid_cross_entropy_with_logits损失函数使用?
先说答案:为何sigmoid激活函数要配合sigmoid_cross_entropy_with_logits损失函数使用?为了获得一个凸性的损失函数(就创造了这样一个性质良好的函数(PS:还可导哦))。鉴于公式画图啥的略微麻烦,我这里直接用糟糕的笔记来说明具体原因。资料来源于斯坦福机器学习教程。...
2019-02-28 20:26:46 1603 1
原创 Rodrigues旋转公式
物体在三维下的旋转可以用旋转角度来表示,一般情况下可分为两种,1 围绕x, y, z主坐标轴各自旋转yaw, pitch, roll角度而得。2 围绕空间中某一向量旋转一个角度而得,这个一般不是唯一的,我们称这种为旋转向量,向量的模表示绕该向量逆时针旋转的角度。那么正常来说,这两种表示可以互相转换,转换方式依据的Rodrigues旋转公式。PS: opencv-py cv2...
2019-02-28 19:53:05 8423
原创 快速了解ML中的正规方程
目录正规方程特点与用法Python code推导正规方程正规方程干嘛的? 用来直接求解线性模型的最优解的方法,即如果你的拟合函数为(线性模型)对应的损失函数:那么可以直接得到h关于θ的最优解(这就是正规方程)X为训练集特征矩阵,为X的转置,训练集结果(标签)为y。特点与用法无需迭代计算。只适用于线性模型,不适合逻辑回归模型...
2019-02-28 19:25:01 523
原创 什么是 Batch normalization
目录Batch_normalizationBN来源:BN原因:BN做法:BN优缺点:LRN为什么要有LRN 局部响应归一化?LRN公式 :Ref:归一化(normalization)将一批不太标准的数据统一到指定的格式.我们在数据处理时常用的是将一组范围差距较大或者单位不同的数据依据一定规则变化到指定的范围之内。Batch_normalizati...
2019-02-11 13:56:32 57442 4
原创 Embedding小结
目录何为嵌入(嵌套,Embedding)特点神经网络中的Embedding可能的应用Ref 何为嵌入(嵌套,Embedding)嵌入是从离散对象(例如字词)到实数向量的映射。嵌入是一种相对低维的空间,您可以将高维矢量映射到这种低维空间里。通过使用嵌入,可以让在大型输入(比如代表字词的稀疏矢量)上进行机器学习变得更加容易。试想,在N分类任务中,每个标签是由N长...
2019-02-11 13:52:17 1872
原创 PCA
Principal Component Analysis(PCA)算法。降维是对高维数据去除不重要特征与噪声,只保留重要特征的方法,会损失一定信息。目录优点:基本原理PCA推导基于最大化投影后方差基于最小投影距离PCA Code(python)Ref优点:减少变量数量,有利于发现规律。高维空间具有稀疏性,希望数据变得更加稠密,降低计算开销。某种程...
2019-02-11 13:40:22 428
简单软渲染器 (简单模拟了解物体的渲染过程)
2018-01-17
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人