- 博客(3)
- 收藏
- 关注
原创 读书笔记:”Deep Learning by Bengio” 之 Applied Math and Machine Learning Basics (2)
2.5 Norm (范数)我们一般用范数来完成向量到一个非复数的映射,最常见的Lp范数用来表示两个向量之间的距离。欧氏距离(euclidean norm)在机器学习中最常用的,也叫做L2范数,即p=2. 平方L2范数也比较常用, 表示为XTX。对于向量中存在大量非零但接近零的元素的情况,为了更好的区分开0与接近0的非零数,我们用L1范数来衡量,即p=1. 它能很好的表示向量
2018-01-14 23:51:06 184
原创 读书笔记 “Deep Learning by Bengio” 之 Applied Math and Machine Learning Basics (1)
线性代数部分:(很浅显)1. 标量,向量,矩阵,张量标量即单独一个数值,一般以小写字母表示,如a.向量即由一组数值组成,一般以小写字母加粗表示,如a.可由下标表示其中的每个元素。矩阵为二维数组组成,一般以大写字母加粗表示,如A。张量在深度网络中最为常见,指2维以上的数组。python中的numpy库多用于这些数据类型的计算。2. 矩阵与向量乘法(符合结合律)Ax=b
2018-01-11 07:40:12 209
原创 读书笔记:“Deep Learning by Bengio” 之 Introduction
虽然已经用CNN,SDAE,DBN 跑了一些应用,也做了些research写了弱弱的论文,但总觉得有些知识不扎实,有所欠缺。开始抽空将大牛的深度学习书系统的看一遍,并在此记录。第一章的introduction很简单,对深度学习的思想,框架和所属领域关系做了界定,并列举了深度学习发展的三个阶段以及三个主要特点。point 1: 深度学习与机器学习,AI人工智能的关系:point 2:
2018-01-09 10:56:08 257
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人