机器学习
深度学习等
Deserve_p
这个作者很懒,什么都没留下…
展开
-
[cs231n] Softmax Classifier/ SVM
scores:线性函数:损失函数 Loss function: 交叉熵损失 Cross Entropy Loss原创 2022-04-10 13:00:11 · 875 阅读 · 0 评论 -
动手学深度学习-16.神经网络基础
总结一下:自定义模型如MLP:定义继承nn.Module 的class, 定义用到的层+正向传播函数。当然可以嵌套调用。自定义/访问参数:访问:Sequential函数中,net[0],[1]…开始编号。net[0].state_dict() 来访问参数;也可以直接操作net[0].weight.data[0] = 100自定义初始化参数:传入module ,先判断module类型,再初始化,最后net.apply(fun_init)来应用到网络上。参数共享:对象思维自定义原创 2021-11-02 22:38:05 · 400 阅读 · 0 评论 -
动手学深度学习(pytorch)-总结1
断断续续在b站看了三个星期的《动手学深度学习》,这门课真的是太棒了,特别感谢李沐大神!总结一下目前的一些收获。一、 数据处理一些基本的数据处理,常用pytorch语法torch常用语法:创建张量:torch.arange(n).reshape()torch.zeros((ceng, row, col))torch.tensor(), 怎么创建/辨别二/三维 ?拼接张量:torch.cat((x, y), dim=0/1)基本运算:求幂 x ** y求和但是保持原创 2021-10-31 23:55:35 · 483 阅读 · 0 评论 -
动手学深度学习-10multilayer perception
训练集,验证集,测试集。k-折交叉验证:把数据分为k份,其中一份作为验证集,得到训练精度。循环k次分别将数据用作验证集,取平均值为最后结果。过拟合:训练误差减小,但是泛化误差先减小,后增加。两个误差gap大。解决:模型足够大,再控制模型容量。估计模型容量(比较同类算法模型):模型参数的个数,参数的选择范围。估计数据复杂度:样本个数,每个样本的元素个数,时间,空间结构。 - 模型容量要和数据复杂度匹配,才能避免过拟合和欠拟合。如何控制模型容量?-控制参数取值范围:硬性限制,参数.原创 2021-10-26 23:48:07 · 199 阅读 · 0 评论 -
动手学深度学习—9
python语法X.sum(维度, keepdim=True or False)X.argmax(axis = …)isinstance(a, b) a是不是属于b数据类型x.numel() 返回数组中元素的个数zip(a, b) : a,b都是列表,返回他们对应位置上的元素组成的元组。flatten() 返回一个一维函数enumerate(list) 返回序号和元素值is_tensor() 是tensor返回trueCode Tips矩阵相乘:为了相乘方便,不需要计算原创 2021-10-22 00:05:22 · 60 阅读 · 0 评论 -
机器学习笔记
为什么尽量使用凸函数?凸函数的局部最优解就是全局最优解,因此更容易找到最优解。什么是似然函数?能得到最优参数的函数。梯度下降中,样本量的作用?用梯度下降法,进行参数的更新,算的梯度是所有样本的梯度的平均值。什么时候需要输入偏置项?P174推荐系统改进一:为了解决数据量太大的难题,由原先的求全部电影的特征向量x, 参数为用户的兴趣向量theta,来训练优化用户的兴趣向量theta。变为只得到用户的兴趣向量theta,然后优化电影特征向量x,再反过来优化theta,再优化x...原创 2021-10-05 15:09:38 · 55 阅读 · 0 评论 -
即学笔记-logistic回归
知识点matrix和ndarray数组显示没有区别,但是matrix数据能进行线性代数的一些运算原创 2021-09-20 18:20:57 · 65 阅读 · 0 评论 -
计算机视觉2——生成模型GAN
e原创 2021-04-11 22:33:51 · 144 阅读 · 0 评论 -
计算机视觉2——生成模型VAE
PixelRNN & PixelCNN已知前面的像素值,就能知道生成下一个像素生成某个值的概率。因为此处一定是生成的概率最大的点,所以整个过程就是最大化训练数据的似然。原创 2021-04-09 08:54:53 · 418 阅读 · 0 评论 -
计算机视觉2——卷积网络可视化(理解卷积过程)
可视化第一层的卷积核: 提取基元(纹理)最后一层,输出的向量:原创 2021-04-08 17:54:03 · 262 阅读 · 0 评论 -
计算机视觉2——视觉识别任务
图像分类语义分割目标检测实例分割原创 2021-04-08 09:55:40 · 437 阅读 · 0 评论 -
计算机视觉2——经典网络分析
AlexNet第一层局部响应归一化层,不再用。第二层增加卷积核→增加基元描述能力,描述的信息更多。原创 2021-04-07 20:23:02 · 146 阅读 · 0 评论 -
计算机视觉2——卷积神经网络
什么是卷积定义上将卷积核旋转180度。具有叠加性和平移不变性。交换律,结合律,分配律。边界填充一种方法:在外面零(像素)填充一圈。原创 2021-04-07 10:11:46 · 254 阅读 · 0 评论 -
计算机视觉2-全连接神经网络
全连接神经网络就是把线性分类器级联起来。W1的行数不要求和最终的类别数一样,而是由人为指定,这样的话可以增加模板数,从而达到更加精确的判断。(比如增加马的模板,判断更多情况)但是最终输出的W2则要求和最终的类别数一样。N层全连接神经网络: 除了输入层,所有的层数(包括输出层)。每个输入和每个模板都有关(全连接)。如果没有激活函数max,全连接网络还是一个线性分类器.常用的激活函数Sigmoid: 小于某个值→0;大于某个→1。tanh: 同样→1;→-1。⭐️对称ReLU(max原创 2021-04-03 14:48:15 · 193 阅读 · 0 评论 -
机器学习
ReLU function修正线性单元深度学习: 神经网络随着算力,数据规模,网络规模的增加,才显示出更加优秀的效率。原创 2021-03-27 19:58:36 · 76 阅读 · 0 评论 -
计算机视觉2——图像分类
图像表示二进制图像,灰度图像,彩色图像表示为向量:r,g,b拼起来分类器线性分类器(是神经网络(小范围),支撑向量机(大范围)的基础,能组成强大的非线性模型)define:原创 2021-03-27 10:24:37 · 323 阅读 · 0 评论 -
计算机视觉2——大纲
图像分类根据图像上提取的特征对他进行分类。构建数据集设计,学习分类器输入图像→图像表示→通过分类模型对图像进行分类→得到预测结果→和真实结果比较,通过损失函数得到损失值→通过优化算法优化分类模型参数→再次分类,循环下去真实实践...原创 2021-03-26 16:47:05 · 68 阅读 · 0 评论 -
计算机视觉1——images
图像识别recognizition原创 2021-03-25 08:42:53 · 105 阅读 · 0 评论 -
计算机视觉1——segmentation分割
自底向上逻辑——利用底层相似性无监督如何分成群组?1.分割→聚类 segmentation as clustering相似像素是一类——k均值(learning)原创 2021-03-24 15:09:29 · 316 阅读 · 0 评论 -
计算机视觉1——pixels
Canny算子原创 2021-03-24 10:34:52 · 78 阅读 · 0 评论 -
计算机视觉1——pixels
计算机视觉(本科)Harris角点M矩阵E(u,v) 可以给定:变化这么多M不是正则? 拆分为正则R-¹ [λ1 0 , 0 λ2]R其中R是旋转角度。λ是代表椭圆轴长,越大,梯度变化越快。是不是角点,由M决定。定义R=det(M)-α trace²(M)步骤计算每一个像素点的高斯偏导 Ix, Iy计算每一个像素点的二阶矩矩阵M.计算R阈值r非最大化抑制...原创 2021-03-22 08:55:30 · 432 阅读 · 0 评论