![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
佳hong
这个作者很懒,什么都没留下…
展开
-
深度学习模型调参的一些总结
最近在做分类模型,记录一下调参技巧:1. 学习率,一般0.0001,但如果用了pre-trained模型,设置为0.000012. batch_size,机器允许情况下越大越好,但根据训练数据大小,这个值也不能特别大,一般小数据集推荐128,像ImageNet这种256,512。如果你的batch_size是64,不妨设大一点,会有惊喜。3. 如果是卷积神经网络,中间卷积的通道数channels很重要,有次把64通道改为128,准确率涨了10%左右。4. 训练集是否打乱,即pytorch中t原创 2021-07-14 15:04:05 · 1273 阅读 · 0 评论 -
pytorch,一个网络的输出,为另一个网络的输入,怎么让梯度关联进行联合训练
方法一:from itertools import chainoptim.Adam(params=chain(backbone_net.parameters(), linear_rot_net.parameters(), linear_classify_net.parameters()),作者:Sail链原创 2021-05-09 16:56:32 · 3924 阅读 · 1 评论 -
深度学习的模型压缩笔记
模型压缩,因为巨大的模型能够学习到某个函数,但是用的参数量远远大于了任务所需要的参数量。所以可以降低模型的规模。如采用dropout,模型蒸馏。原创 2021-02-01 22:57:36 · 186 阅读 · 0 评论 -
样条插值的思想做回归
样条插值的思想做回归一、生成数据多项式y=0.2x3+0.5x2−0.8x+3y = 0.2x^3+0.5x^2-0.8x+3y=0.2x3+0.5x2−0.8x+3再加上服从正态分布的噪声 ξ\xiξimport numpyimport matplotlib.pyplot as pltnumpy.random.seed(1)def cal_poly(x): return 0.2 * x ** 3 + 0.5 * x**2 - 0.8 * x + 3#生成100个数据x_da原创 2020-10-06 21:45:30 · 559 阅读 · 0 评论 -
10阶多项式拟合10000个点。点的生成,使用bp思想拟合。Polynomial_fitting
用10阶多项式拟合10000个点import matplotlib.pyplot as pltimport random一、数据生成#首先保证这10000个点x各不相同,从0-20000内随机生成不同的数,除以100,将x值变为0-200num = random.sample(range(1,20000),10000)num_x = []for i in range(10000): num_x.append(num[i] / 100) #y也一样,y的生成不需要不一样nu原创 2020-09-30 09:31:55 · 838 阅读 · 0 评论 -
NLP(一)电影评论情感分析,并在此基础上观察单词的相似性
NPL(一)电影评论情感分析电影评论数据集预处理import sysf = open('reviews.txt')raw_reviews = f.readlines()f.close()f = open('labels.txt')raw_labels = f.readlines()f.close()tokens = list(map(lambda x:set(x.split(" ")), raw_reviews)) #map对右边的参数做左边参数操作vocab = set()fo原创 2020-09-20 08:46:28 · 621 阅读 · 0 评论 -
SVM学习笔记
原创 2020-07-24 21:45:46 · 69 阅读 · 0 评论 -
CNN误差反向传播的一些笔记
原创 2020-07-24 21:39:33 · 143 阅读 · 0 评论 -
pytorch构建LENET分类MNIST
LENET卷积神经网络import torchimport torch.nn as nnimport torch.utils.data as Datafrom torchvision import datasets,transformsimport torchvisionfrom torch.autograd import Variableimport numpy# 加载数据和数据处理transform = transforms.Compose([transforms.ToTensor(原创 2020-07-13 15:15:49 · 682 阅读 · 0 评论 -
pytorch实现多层感知机分类minist数据集及可视化
import torchimport torch.utils.data as Dataimport torch.nn as nnfrom torchvision import datasets,transformsimport torchvisionfrom torch.autograd import Variableimport numpy as npimport matplotlib.pyplot as plt1.加载数据transform=transforms.Compose([t原创 2020-07-08 23:07:35 · 1433 阅读 · 0 评论 -
pytorch实现softmax回归分类minist数据集
import torchimport torch.utils.data as Datafrom torchvision import datasets,transformsimport torchvisionfrom torch.autograd import Variableimport numpy as npimport matplotlib.pyplot as plttorchvision的包的主要功能是实现数据的处理,导入和预览呢,所以如果需要对计算机视觉的相关问题 进行处理,就可原创 2020-07-06 23:00:43 · 2599 阅读 · 0 评论 -
学习使用pytorch构建线性回归模型
import torchimport torch.utils.data as Dataimport torch.nn as nnimport torch.optim as optimimport numpy as np'''nn是neural networks,定义了大量神经网络的层。核心数据结构是Module'''#整一个线性模型:y = w1*x1 + w2*x2 + b#1. 生成数据集num_inputs = 2 #输入参数的数量num_examples = 1000 #要.原创 2020-07-05 12:16:04 · 1060 阅读 · 0 评论 -
pycharm配置pytorch的坑以及解决方案
1.好像不支持python3.8。直接从setting里面安装时不行的,按其它教程(https://blog.csdn.net/lyz21/article/details/104295042)从官网https://pytorch.org/get-started/locally/,拷贝链接用pip下载,一直报找不到版本。后来发现,python3.8的原因,改成python3.7可以了,但会一直连接超时。2.发现要下载的其实是这两个文件:点开下面的两个链接,用下载软件下载了,我下到了e盘,直接pip原创 2020-07-04 22:15:29 · 7497 阅读 · 0 评论 -
手写bp神经网络分类鸾尾花数据集,以及bp的推导
bp的算法的推导:神经网络代码如下:import numpy as npfrom sklearn import datasetsfrom sklearn.model_selection import train_test_splitiris = datasets.load_iris()train_data, test_data, train_label, test_label = train_test_split(iris.data, iris.target, test_原创 2020-06-20 17:37:27 · 770 阅读 · 1 评论 -
简单地 sklearn 用神经网络模型分类鸾尾花数据集
Iris数据集使用方法:https://blog.csdn.net/qq_17336559/article/details/81480629Sklearn神经网络使用方法以及参数说明:https://www.jianshu.com/p/71fde5d90136import numpy as npfrom sklearn import datasetsfrom sklearn.neural_network import MLPClassifierfrom sklearn.model_s原创 2020-06-18 16:52:01 · 2414 阅读 · 1 评论 -
numpy array轴的理解
最近的学习中,发现可以把轴看成是维度,特地分享给大家,方便理解numpy的数组运算。一、一个一维的array,它只有一个维度即维度02.一个二维的array,定义shape时会用(2,n),2表示行,n表示列。如a = np.arange(8).reshape(2,4)[[0 1 2 3][4 5 6 7]]此时轴0对应(2,4)中的2,轴1对应(2,4)中的4。用一个numpy中的函数来检验这个想法:numpy.swapaxes 函数用于交换数组的两个轴a = np..原创 2020-06-10 21:59:01 · 633 阅读 · 0 评论 -
机器学习脑图
最近做的机器学习脑图,分享给大家原创 2020-05-24 19:19:08 · 179 阅读 · 0 评论