- 博客(8)
- 收藏
- 关注
RSS订阅原创 L0、L1及L2范数
本文只为了方便下次忘记时方便查看在深度学习中，监督类学习问题其实就是在规则化参数同时最小化误差。最小化误差目的是让模型拟合训练数据，而规则化参数的目的是防止模型过分拟合训练数据。参数太多，会导致模型复杂度上升，容易过拟合，也就是训练误差小，测试误差大。因此，我们需要保证模型足够简单，并在此基础上训练误差小，这样训练得到的参数才能保证测试误差也小，而模型简单就是通过规则函数来实现的。规则化项可以是模型参数向量的范数。如：L0、L1、L2等。一、L0范数与L1范数L0范数是指向量中非0的元素的个数。如
2020-10-27 11:05:32
1887
原创 UGATIT遇到【E-03】RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn问题
【E-03】RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn这个是因为没有将requires_grad设为True，Discriminator_loss = D_loss_A + D_loss_B中的Discriminator_loss默认是requires_grad为false，这个Discriminator_loss其实也是一个张量Tensor类型，将其的requires_grad改
2020-10-21 09:55:16
580
原创 python基础day3
1）dict字典：定义、创建、字典的方法定义：字典的组成：字典是由大括号{ }来包含其数据的，大括号内包含键和其对应的值，一对键和值成为一个项。键和值用冒号:隔开，项和项之间用逗号,号隔开。空字典就是不包含任何项的大括号，像{ }这样就是一个空字典。如：{‘name’: ‘wangyao’, ‘age’: 18} 、{‘host’: ‘hh’, ‘port’: 80}注意：字典的键必须是不...
2019-06-28 00:48:44
118
原创 python基础day2
1）列表：标志、基本操作(创建，append( )，pop( ) ,del( ), 拷贝）、列表相关方法标志：列表的标志是[];例如：member=[“a”,“b”,“c”,1,2,3,“哈哈”]；创建：直接写，如上面的举例，直接写出来便创建成功。append():在列表末尾添加新的对象;pop(索引值):删除列表中下标为几的元素，并且返回这个元素。del member [索引值]：删除...
2019-06-24 16:23:07
139
原创 Python基础day1
1.anaconda环境配置以前就弄好，当时安装时遇到了很多问题没办法解决，一气之下直接重装了电脑就轻松安装好了。2.print和inputinput()函数默认输入的是字符串类型，需要eval()函数将其进行转换。而区别于直接赋值的情况，python会自动识别输入的数据类型。print是输出，什么类型都可以输出，列表、字典、数值都可以。3.变量变量命名规则：（1）变量名必须是数字...
2019-06-21 20:44:10
58
原创 day3 决策树算法梳理
1.信息论基础熵，信息熵便是信息的期望值，公式为：熵只依赖X的分布，和X的取值没有关系，熵是用来度量不确定性，当熵越大，概率说X=xi的不确定性越大，反之越小。联合熵：联合熵是一集变量之间不确定性的衡量手段。两个变量和的联合信息熵定义为条件熵，X给定条件下Y的条件分布的熵对X的数学期望，在机器学习中为选定某个特征后的熵，公式如下：信息增益：信息增益在决策树算法中是用来选择特征的指标...
2019-03-05 21:35:21
370
原创 day2 逻辑回归算法梳理
1.逻辑回归与线性回归的联系与区别联系：逻辑回归的模型 是一个非线性模型，sigmoid函数，又称逻辑回归函数。但是它本质上又是一个线性回归模型，因为除去sigmoid映射函数关系，其他的步骤，算法都是线性回归的。可以说，逻辑回归，都是以线性回归为理论支持的。区别：使用线性回归的输出其值有可能小于0或者大于1,这是不符合实际情况的，逻辑回归的输出正是[0,1]区间。2.逻辑回归的原理面对一...
2019-03-03 21:40:13
216
原创 day1 线性回归算法梳理
1.机器学习的一些概念有监督：通过已有的训练样本去训练得到一个最优模型，再用这个最优模型去将给定数据转化为相应的输出，对输出进行简单的判断来实现分类。无监督：输入数据没有标签，让计算机自己学习分类，找其中的共同点来进行分类。泛化能力：顾名思义，就是学习出来的模型推广到未知数剧上得到合适输出的能力。学习的目的是学到隐含在数据背后的规律，过拟合：模型在训练集中表现过好，但泛化能力差，在测试集中...
2019-02-28 21:40:12
179
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人