zjh12312311的博客

原创 Matlab 报错 错误使用 load尝试将 “data“ 添加到静态工作区。

报错如下：解决方法：原来在 function Ga下面的load语句是load('data.mat');修改后为load('data.mat','data');即将它分配到一个静态变量中，问题解决。

原创 one of the variables needed for gradient computation has been modified by an inplace operation

pytorch 报一下错误：RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: [torch.cuda.FloatTensor [1024, 512, 3, 3]], which is output 26 of BroadcastBackward, is at version 2; expected version 1 instead. Hi

原创 深度学习模型调参的一些总结

最近在做分类模型，记录一下调参技巧：1. 学习率，一般0.0001，但如果用了pre-trained模型，设置为0.000012. batch_size，机器允许情况下越大越好，但根据训练数据大小，这个值也不能特别大，一般小数据集推荐128，像ImageNet这种256，512。如果你的batch_size是64，不妨设大一点，会有惊喜。3. 如果是卷积神经网络，中间卷积的通道数channels很重要，有次把64通道改为128，准确率涨了10%左右。4. 训练集是否打乱，即pytorch中t

原创 图像进行平移旋转等变换要乘的矩阵

该图来自数字图像处理第三版51页，乘以的矩阵前两列分别是对坐标x，y做的变换，第三列是对灰度值做的变换。

原创 Letax IET 模板做表格的一些问题

1. 习惯了用IEEE写，多行表格移到IET模板报错\documentclass{cta-author}\usepackage{amsmath,amssymb,amsfonts}\usepackage{array}\usepackage{booktabs}\usepackage{multirow}\newtheorem{theorem}{Theorem}{}\newtheorem{corollary}{Corollary}{}\newtheorem{remark}{Remark}{}加

原创 pytorch 评估模型参数的方法

import torch from torchstat import stat import torchvision.models as models net = models.vgg11() stat(net,(3,224,224)) # (3,224,224)表示输入图片的尺寸使用 torchstat库结果为：

原创 InstanceNorm2d 通道归一化导致梯度很快消失了，不知道为什么……

InstanceNorm2d 通道归一化，适合做图像风格类的任务但我在操作中，它导致梯度很快消失了，不知道为什么……同样代码改成Batch Normalization梯度良好。有大佬知道为什么吗

原创 pytorch，一个网络的输出，为另一个网络的输入，怎么让梯度关联进行联合训练

方法一：from itertools import chainoptim.Adam(params=chain(backbone_net.parameters(), linear_rot_net.parameters(), linear_classify_net.parameters()),作者：Sail链

原创 import matplotlib.pyplot as plt 报错 from . import _imaging as core ImportError: DLL load failed:

加载matplotlib报错from . import _imaging as core ImportError: DLL load failed:版本问题卸载matplotlib： pip uninstall matplotlib, 再安装不行的话，卸载Pillow: pip uninstall Pillow, 再安装还是不行的话，用pip卸载，用conda安装：pip uninstall Pillowconda install Pillow...

原创 pytorch cifar10可视化的问题

我可视化的图，出现这种问题是因为，我把dataloader里面拿出来的直接可视化了train_dataset = torchvision.datasets.CIFAR10(root='data/', train=True, transform=transforms.Compose( ..

原创 matplotlib 可视化图像明明255，结果出来全为黑色的问题

matplotlib在imshow时，如果接收到的是二维矩阵，会自动帮忙归一化，映射到彩色。如果输入的矩阵里面值都是一样的，归一化会把他们全部变为255，也就是呈现黑色。我尝试使用正态分布赋值，或只有一个为0，其它为255，可以正常显示。解决方法，将数组扩充成3通道图后 imshowtemp = np.expand_dims(img_area_list[j][1],axis=2).repeat(3,axis=2)axes[1][j].imshow(temp)...

原创 python 扩充数组（灰度图扩充到3通道彩图，数组扩充成彩图）

设图像大小为n * n问题为：将 n*n 数组变为 n*n*31. numpy实现：temp = np.expand_dims(img,axis=2).repeat(3,axis=2)2.pytorch实现tensor.repeat() 见https://blog.csdn.net/qq_29695701/article/details/89763168?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7E

原创 加载pytorch DataLoader生成的数据集时出现AttributeError: Can‘t pickle local object ‘create_torchvision_dataset_w

报错如图：解决方法：将 num_workers = 2, 改成num_workers = 0 dataloader = torch.utils.data.DataLoader( train_dataset, batch_size=1, shuffle=True, num_workers=2, pin_memory=gpu )

原创 β分布

β分布Pr(λ)=Γ[α+β]Γ[α]Γ[β]λα−1(1−λ)β−1 Pr(\lambda) = \frac{\Gamma[\alpha+\beta]}{\Gamma[\alpha]\Gamma[\beta]}\lambda^{\alpha-1}(1-\lambda)^{\beta-1}Pr(λ)=Γ[α]Γ[β]Γ[α+β]​λα−1(1−λ)β−1α>0,β>0,0<=λ<=1 \alpha > 0, \beta > 0, 0 <= \lambda &lt

原创 图像直方图均衡

图像直方图的应用import cv2import matplotlib.pyplot as pltimg = cv2.imread('1.png',1)r,g,b = cv2.split(img)print(img.shape)plt.imshow(b)plt.show()img = b(139, 161, 3)# 图像展平img_flatten = img.ravel()print(img_flatten,img_flatten.shape)# 直方图hist = cv

原创 Django创建多个app代码

不能直接复制一个app的文件夹再配置，应该运行下面代码python manage.py startapp app2

原创 Django 项目调试，在浏览器上找不到js，css等文件

使用Django，出现这样的问题：sourse里面根本无这两个文件，甚至static这个文件也没有上传成功，网上很多说配置setting的，如：# setting.py STATIC_URL = 'static/' STATIC_ROOT = os.path.join(BASE_DIR, 'static') 这些也都是配置好的。然而没用。最后我发现：在setting.py里面把DEBUG = False改程DEBUG = True就好了，启用debug模式

原创 JDBC 连接mysql数据库出现 client does not support authen…… update mysql client

找了半天发现是版本的问题，JDBC之前写的，现在使用mysql8.0出现了这样的问题。现在把修改后的列举下来：mysql-5.5.62-winx64.msi链接：https://pan.baidu.com/s/10wLqW3bPx11BIF9Y8vHfbg提取码：418wtomcat lib下的mysql jar文件：mysql-connector-java-8.0.16.jar链接：https://pan.baidu.com/s/1mx57xzXuFM6alAXSW7kXLg...

原创 我终于悟了熵这个东西

接触AI也挺久了，一会儿来个最大熵模型，一会儿来个交叉熵损失函数，一会儿来个DL

原创 读张钹院士《迈向第三代人工智能》，整理的脑图

原创 使用pytorch和sklearn的PCA分别对mnist做降维

1. pytorch，使用 torch.pca_lowrank 函数A，要处理的数据, q要保留的维度，返回（S，V，D）元组，中间的V为降维后的维度代码import torchimport torchvision.datasets as datafrom torch.utils.data import DataLoaderimport torchvision.transforms as Timport matplotlib.pyplot as pltfrom mpl_tool..

原创 pytorch vgg19 加载预训练模型做识别

import torchimport torchvisionimport torchvision.transforms as transformsfrom PIL import Imageimport numpy as nptrans = transforms.Compose([ transforms.Resize([224,224]), transforms.ToTensor(), transforms.Normalize((0.5, 0.5, 0.5), (0.5,.

原创 tensorflow IMDB情感分析

import tensorflow as tfimport osfrom tensorflow import kerasfrom tensorflow.keras import layers, optimizers, datasets# 情感分类batchsz = 128 # 批量大小total_words = 10000 # 词汇表大小 N_vocabmax_review_len = 80 # 句子最大长度 s，大于的句子部分将截断，小于的将填充embedding_len = ...

原创 plt 3d曲面图看极值

import numpy as npimport matplotlib.pyplot as pltdef himmelblau(x): # himmelblau 函数实现，传入参数 x 为 2 个元素的 List return (x[0] ** 2 + x[1] - 11) ** 2 + (x[0] + x[1] ** 2 - 7) ** 2x = np.arange(-6, 6, 0.1) # 可视化的 x 坐标范围为-6~6y = np.arange(-6, 6, 0.1)

原创 numpy，tensorflow2.0数据切片方式总结

原创 pytorch，tensorflow加载本地mnist数据集

1. pytorchimport torchimport torch.nn as nnfrom torchvision import datasets, transformsimport torch.utils.data as Datafrom torch.autograd import Variable# datapath = r"D:\jupyter_data"# 3通道归一化要三个# transform = transforms.Compose([transforms.ToTen

原创 python os.mkdir报错

[WinError 3] 系统找不到指定的路径。: 'w_input\\0'注意os.mkdir只能一层一层的创建，先创建w_input，再创建0文件夹，成功

原创 深度学习的模型压缩笔记

模型压缩，因为巨大的模型能够学习到某个函数，但是用的参数量远远大于了任务所需要的参数量。所以可以降低模型的规模。如采用dropout，模型蒸馏。

原创 关于python3文件操作的笔记，TypeError:must be str, not bytes，格式化写入数组

想向txt文件保存一个数组，尝试用pickle，用如下代码 with open(self.filename, 'a') as file: pickle.dump(list,file,0) 报错TypeError:must be str, not bytes 网上查到原因为：Python3给open函数添加了名为encoding的新参数，而这个新参数的默认值却是‘utf-8’。这样在文件句柄上进行read和write操作时，系统就要求开发者...

原创 numpy线性代数

numpy线性代数import numpy as np#构造矩阵mat = np.mat((np.arange(9)+1).reshape(3,3))print(mat)[[1 2 3] [4 5 6] [7 8 9]]1.求逆使用矩阵求逆，I使用线性代数, invprint(mat.I)[[ 3.15251974e+15 -6.30503948e+15 3.15251974e+15] [-6.30503948e+15 1.26100790e+16 -6.30503

原创 squarewave

numpy绘制方波方波函数∑k=1∞4×sin((2k−1)t)(2k−1)×π \sum_{k=1}^{\infty} \frac{4\times sin((2k-1)t)}{(2k-1) \times \pi}k=1∑∞​(2k−1)×π4×sin((2k−1)t)​import numpy as npimport matplotlib.pyplot as pltk = 4# 步长t = np.linspace(-np.pi, np.pi, 201)k = np.arange

原创 numpy 一些统计学计算函数

一些统计学的计算np.cov协方差矩阵diagonal函数查看对角线上的元素trace函数计算矩阵的迹std()标注差ployfit函数可以用多项式去拟合一系列数据点polyval用于计算多项式值roots函数找出我们拟合的多项式函数什么时候到达0值polyder求导import numpy as npa = [1,3,5,2,7,8,10]l = np.arange(len(a))poly = np.polyfit(l, a, 3) # 3阶p

原创 numpy 数组的修剪和压缩

数组的修剪和压缩import numpy as npa = np.array([1,2,3,4,5,6])print(a)[1 2 3 4 5 6]clip方法返回一个修剪过的数组，也就是将所有比给定最大值还大的元素全部设为给定的最大值，而所有比给定最小值还小的元素全部设为给定的最小值。例如，设定范围1到2对0到4的整数数组进行修剪print(a.clip(2,5))[2 2 3 4 5 5]compress方法返回一个根据给定条件筛选后的数组print(a.comp

原创 numpy 读写文件

常用函数–读写文件import numpy as np# 创建一个单位矩阵a = np.eye(2)print(a)[[1. 0.] [0. 1.]]1.txt文件使用np.savetxt和loadtxtnp.savetxt('eye.txt',a)a = np.loadtxt('eye.txt')print(a)[[1. 0.] [0. 1.]]2.CSV文件逗号分隔值（Comma-Separated Values，CSV，有时也称为字符分隔值，因为分隔字符也可以不是

原创 numpy数组的属性

数组的属性import numpy as npa = np.arange(24).reshape(2,3,4)b = np.arange(24).reshape(3,8)print(a)print(b)[[[ 0 1 2 3] [ 4 5 6 7] [ 8 9 10 11]] [[12 13 14 15] [16 17 18 19] [20 21 22 23]]][[ 0 1 2 3 4 5 6 7] [ 8 9 10 11 12 13

原创 numpy分割数组

分割数组import numpy as npa = np.arange(24).reshape(2,3,4)b = np.arange(24).reshape(3,8)print(a)print(b)[[[ 0 1 2 3] [ 4 5 6 7] [ 8 9 10 11]] [[12 13 14 15] [16 17 18 19] [20 21 22 23]]][[ 0 1 2 3 4 5 6 7] [ 8 9 10 11 12 13 1

原创 numpy数组的组合

数组的组合import numpy as npa = np.arange(6).reshape(2,3)b = a * 2print(a)print(b)[[0 1 2] [3 4 5]][[ 0 2 4] [ 6 8 10]]水平组合使用hstack, 注意传入的是（a,b）print(np.hstack((a,b)))[[ 0 1 2 0 2 4] [ 3 4 5 6 8 10]]使用concatenateprint(np.con

原创 numpy改变数组的维度

改变数组的维度import numpy as npa = np.arange(24).reshape(2,3,4)print(a)[[[ 0 1 2 3] [ 4 5 6 7] [ 8 9 10 11]] [[12 13 14 15] [16 17 18 19] [20 21 22 23]]]ravel flatten函数完成展平的操作flatten函数会请求分配内存来保存结果，而ravel函数只是返回数组的一个视图（view）两种写法print(np

原创 numpy多维数组的切片和索引

多维数组的切片和索引import numpy as npb = np.arange(24)print(b)[ 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23]reshape函数切分的思想，先分两半，对应2，再在每个分3份对应3……a = b.reshape(2,3,4)print(a)[[[ 0 1 2 3] [ 4 5 6 7] [ 8 9 10 11]] [

原创 图像处理常用数据集Kodak24和McMaster，0积分大家拿去

图像处理常用的Kodak24数据集和McMaster数据集。很多地方下载都要积分，本来就是开源数据集，这些人真的好烦。现在0积分大家拿去。Kodak24https://download.csdn.net/download/zjh12312311/14157019McMasterhttps://download.csdn.net/download/zjh12312311/14157022...