MirrorN-CSDN博客

原创关于Python列表解析式以及初始化指定size列表

今天遇到初始化列表的问题，在这里记一点东西。本篇的主要内容：Python中列表解析的方式初始化指定长度的列表的方法关于Python列表解析列表解析可以快速将一个列表通过操作转化为另一个列表（其实不只是list，只要是可迭代对象（iterable）都可以）。如果观察一下列表解析式与对应的for循环，就会发现这两种方式是一样的，例如，我要将某个列表的所有元素都变为二倍：b =[]f...

2018-12-19 15:49:41 2221

原创 TensorFlow模型持久化学习

终于忙完课了，接着写博客哈哈~本篇的主要内容：一个测试持久化用的MNIST识别网络模型对TensorFlow持久化代码做了解释最近在想TensorFlow模型的持久化问题，毕竟每一次训练模型都是有够煎熬的~所以特意学习一下关于模型持久化的内容。这里使用的例子是MNIST数据集的识别，在此之前，我写了一个简单的神经网络来训练识别，共有一个隐藏层，隐藏层有100个结点，完整的代码如下：...

2018-12-18 19:40:23 500 2

原创卷积神经网络（二）：应用简单卷积网络实现MNIST数字识别

卷积神经网络简单实现MNIST数字识别本篇的主要内容：一个两层卷积层的简单卷积网络的TensorFlow的实现网络的结构在这张图里，我把每一层的输入以及输出的结构都标注了，结合阅读代码食用效果更佳。具体代码具体的内容，都写在相应位置的注释中了,可能一下子全部代码都贴出来不太好看，所以我非常贴心的分成了好几个部分：导入包import tensorflow as tffrom ...

2018-11-20 16:23:09 1206 1

原创 tf.nn.conv2d()函数以及padding填充方式介绍

tf.nn.conv2d()函数中填充方式的理解本篇的主要内容：tf.nn.conv2d()函数tf.nn.conv2d()函数中padding的SAME填充方式tf.nn.conv2d()函数tf.nn.conv2d()是TensorFlow中用于创建卷积层的函数，这个函数的调用格式如下：def conv2d(input: Any, filter: Any,...

2018-11-20 15:44:21 8902 7

原创卷积神经网络记录（一）基础知识整理

卷积神经网络记录最近一段时间在学习卷积神经网络的知识，看了很多博客和资料之后，决定自己写一篇记录一下学习地知识，巩固一下所学。1.卷积神经网络与全连接神经网络的异同首先来看卷积神经网络之前的网络的异同，两种神经网络结构对比图如下：在结构上，两种网络看起来不同，实际上还是很相似的。两者都是通过一层一层的节点组织起来的，在训练过程上也是基本一致。两种神经网络的的区别就在于相邻两层的不同节点之...

2018-11-17 20:23:25 30552 13

原创 Matplotlib 记录

Matplotlib 绘图记录在这里记录一下平时使用Matplotlib绘图的时候遇到的一些零散的知识点，以后在遇到类似的问题，就在这里找啦。文章目录Matplotlib 绘图记录Sactter函数格式绘图颜色、线、点的取值如何在图像中标注点在图像中显示网格在图像中绘制一条线段Sactter函数格式scatter(x, y, s=None, maker=None, cm...

2018-11-12 21:50:40 334

原创 MNIST手写数字识别（三）应用优化

本篇的主要内容应用三种优化方式，对之前的模型进行优化介绍一些在程序中用到的函数学习于《TensorFlow实战Google深度学习框架》一书程序相比于第一次的简单逻辑回归模型，这一次的调整了网络结构，添加了一个500个节点的隐藏层，在结构中，设置了动态学习率，添加了正则化项，并使用了滑动平均模型稳定整个模型。整体的结构流程如下：输入数据输入层隐藏层输出层输出数据这次的代码比较长...

2018-11-11 17:07:10 1542

原创 MNIST手写数字识别（二）几种模型优化方式介绍

本篇的主要内容有：动态衰减法设置可变学习率为损失函数添加正则项滑动平均模型介绍为了让MNIST数字识别模型更准确，学习几种常用的模型优化手段：学习率的优化学习率的设置一定程度上也会影响模型的训练，如果学习率过小，那么将会经过很长时间才会收敛到想要的结果，反之，学习率过大则可能会导致不收敛的结果，比如：优化 J(x) = x^{2}，如果设置学习率为 1，那么整个过程：可以看到...

2018-11-08 20:25:28 4581

原创 MNIST 手写数字识别（一）

MNIST 手写数字识别模型建立与优化本篇的主要内容有：TensorFlow 处理MNIST数据集的基本操作建立一个基础的识别模型介绍 SoftmaxSoftmaxSoftmax回归以及交叉熵等MNIST是一个很有名的手写数字识别数据集（基本可以算是“Hello World”级别的了吧），我们要了解的情况是，对于每张图片，存储的方式是一个 28 * 28 的矩阵，但是我们在导入数据进...

2018-11-07 21:43:33 81460 16

原创 Matplotlib面向对象的绘图方式中不同Artist对象的介绍

Matplotlib是一个面向对象的绘图库，在最终图像上所呈现出来的所有元素，都是一个可以控制的对象，那么如何理解绘图的过程呢？可以简单地类比在画布上画图的过程，首先大致的绘制流程：创建Figure对象（相当于在画架上添加画布）为灭一个Figure对象添加一个或者多个Axes对象（在某张画布上划分不同的画图区域）调用Axes对象的方法来创建各种简单类型的Artist对象（在某一个画图区域...

2018-10-30 18:34:06 968

原创 MIT 线性代数导论第二十四讲~二十九讲的概念梳理

最后的这几讲很多是介绍一些概念以及应用和复习总结，所以简单记录下一下，不再详细展开。主要内容有：马尔可夫矩阵以及傅里叶级数的概念实对称矩阵以及正定矩阵的介绍相似矩阵的概念正定矩阵的概念马尔可夫矩阵马尔可夫矩阵（Markov Matrix）：首先是一个 nnn 阶的方阵（其实在之后的几讲中，讨论的都是方阵）方阵中的每个元素都非负每一列元素的和都等于1马尔可夫矩阵有两条...

2018-10-25 10:43:58 315

原创 TensorFlow：基础概念

边学边写，把自己学习的过程记录下来，也算是一种鞭策吧！(。・∀・)ノ首先了解一下TensorFlow中的一些基础概念：基础概念计算图（graph）这是TensorFlow中最为重要的概念，整个TensorFlow是一个通过计算图的形式来进行表述计算的变成系统，每一次计算都是这个图上的一个节点，节点之间的连线是计算之间的依赖关系，数据，或者说Tensor就是沿着这些边 “流动” 的。对...

2018-10-23 17:02:00 296

原创 TensorFlow常量、序列以及随机值生成

TensorFlow 生成常量、序列和随机值生成常量tf.constant()这种形式比较常见，除了这一种生成常量的方式之外，像Numpy一样，TensorFlow也提供了生成集中特殊的常量的函数：tf.zeros(shape, dtype=tf.float32, name=None)三个参数的意思显而易见，返回指定形状的全零张量tf.zeros_like(tensor, dty...

2018-10-22 20:07:25 3646

原创 MIT 线性代数导论第二十二讲：矩阵对角化和幂

本讲的主要内容对角化矩阵的概念以及方法计算矩阵的幂的对角化方法几个例子对角化矩阵、计算矩阵的幂对于一个有 nnn 个不同特征向量（其实就是说所有的特征值均不同）的矩阵 AAA，讲它的 nnn 个特征向量组成一个矩阵 SSS ，如果我们计算 ASASAS 可以有如下过程：AS=A(x1,x2,x3...xn)=(λ1x1,λ2x2,....λnxn)=(x1,x2,x3...xn)(...

2018-10-22 10:32:16 966

原创更换Jupyter Notebook 内核Python版本以及jupyter 使用记录

最近在使用Jupyter Notebok的时候遇到了这个问题，记录一下。参考的博文：jupyter notebook import error但是命令提示符import正常jupyter notebook中已安装的包显示“没有安装此模块”之前遇到的一个问题：在cmd环境下进入Python环境，可以使用Numpy、Scipy等多个包的函数，但是Jupyter Notebook中则无法导入。环...

2018-10-20 16:00:49 32285 9

原创 MIT 线性代数导论第二十一讲：特征值与特征向量

敲黑板，敲黑板。特征向量与特征值在很多地方都有应用，这一将开始讲这一部分的内容，也是线性代数里面很重要的一部分知识了。这一讲的主要内容：特征值、特征向量的概念特征值与特征向量的计算方法特征向量、特征值的概念对于矩阵 AAA 和向量 xxx ，有线性变换： AxAxAx, 如果有 λ\lambdaλ 使得 Ax=λxAx = \lambda xAx=λx成立，则 λ\lambda...

2018-10-20 14:04:43 528

原创 MIT 线性代数导论第十九、二十讲：行列式公式、代数余子式、克拉默法则

这一部分内容没有重要的内容（个人觉得哈，毕竟没有谁会手算行列式之类的吧，所以简单了解一下就好了…反正我已经修过线性代数了哈哈）本讲的主要内容：行列式公式代数余子式的概念以及计算方法三对角线矩阵行列式规律行列式公式利用上一讲里拆分的性质，可以归纳出这个公式，就比如这样：最终公式为：detA=∑±a1αa1βa1γ...a1ω，α,β,γ....ω,perm(1...n)det \...

2018-10-18 09:33:08 810

原创 MIT 线性代数导论第十八讲：行列式及其性质

从这一讲开始新的章节。这一讲主要是一些基础概念性质，所以比较简单。本讲的主要内容：行列式的概念行列式的重要性质行列式的概念以及基本的三个性质行列式是由方阵 AAA 确定的一个标量，记作 detadet \enspace adeta 或者 ∣A∣|A|∣A∣，可以看作是面积或者体积向高维空间的拓展。这里要注意的概念是我们一般意义上的考虑都是考虑方阵的行列式行列式的三个基本性质：...

2018-10-17 09:32:49 754

原创 MIT 线性代数导论第十七讲：正交矩阵和Graham-Shcimidt正交化

本讲的主要内容：正交向量组以及正交基的概念正交矩阵Graham-Schimidt正交化的方法正交向量组、正交基以及正交矩阵再上一讲中，讲到了正交的概念，如果有一系列向量 q1,q2,...qnq_{1},q_{2},...q_{n}q1,q2,...qn，两两正交，那么这一组向量就是一个正交向量组，对于 nnn 维空间的 nnn个正交向量（当然，nnn 维空间也只有最多 nn...

2018-10-16 19:35:41 511

原创 MIT 线性代数导论第十六讲：投影矩阵和最小二乘

本讲的主要内容：简单回顾前一讲中的投影矩阵的概念结合例子具体说明最小二乘证明 ATAA^{T}AATA 是可逆的回顾上一讲的最重要的知识点如下：p=Axp= Axp=AxP=A(ATA)−1ATP=A(A^{T}A)^{-1}A^{T}P=A(ATA)−1ATATAx=ATbA^{T}Ax=A^{T}bATAx=ATb首先定义ppp 是向量投影在向量空间AAA的分向量，P...

2018-10-15 11:09:35 860 1

原创 MIT 线性代数导论第十五讲：子空间投影

本讲的主要内容有：投影的概念为什么要进行投影操作最小二乘法的介绍投影（Projection）首先再二维平面中直观的看一下投影的概念：如图，两个不同向的向量 aaa， bbb，其中 bbb 落在 aaa 的方向上的向量 ppp 就是 bbb 在 aaa 上的投影，其实就是构成一个直角，这跟我们生活中的理解是一样的，从图中，我们有以下的定义和结论：向量 ppp ，它是向量 aaa...

2018-10-14 16:23:06 1014 2

原创 MIT 线性代数导论第十四讲：正交向量和子空间

第十三讲是第一部分（主要是线性代数的基础知识，四个子空间的关系）的复习课，所以没有做记录本讲的主要内容：向量正交的定义以及证明方法子空间正交的概念以及关于行空间、零空间的一些结论向量正交两个向量正交的概念很直观，就是：两个向量的夹角为90°在线性代数中，上述定义可以表述为：对于向量 xxx 和 yyy ，xTy=0x^{T}y = 0xTy=0对于上式的证明，我们可以通过勾股定...

2018-10-13 10:54:16 663

原创实验楼 - Python Numpy 100题实验（九）：几种标准化算法实现

单独把这几道题目拿出来，归为一类吧，都是标准化算法。本讲的主要内容：Z-Score标准化算法Min-Max标准化算法应用L2范式标准化数据使用Z-Score标准化算法对数据进行标准化处理首先给出Z-Score标准化公式：Z=X−mean(X)sd(X)Z=\frac{X-mean(X)}{sd(X)}Z=sd(X)X−mean(X)其实知道了公式就好算了，只是对之前的一些...

2018-10-11 11:20:27 434

原创实验楼 - Python Numpy 100题实验（八）：线性代数函数以及fromfunction函数等

本次的主要内容有：对线性代数函数例如逆矩阵函数，特征值以及特征值向量函数等的应用fromfunction（）函数的使用求解给定矩阵的逆矩阵并验证a = np.random.randint(1, 5, (3,3)) # 注意这样的话要多试几次，因为随机数生成的矩阵可能会是奇异矩阵。。print('Arrray a:')print(a)b = np.linalg.inv(a)pr...

2018-10-11 11:16:36 604

原创 MIT 线性代数导论第十二讲：图和网络

本讲的主要内容：将线性代数与实际问题（图）联系起来首先，在之前的一节中，我们了解了图的基本概念，本讲的例子：如下在这个图中有四个结点，五条边。上面的图可以表示很多实际的问题，例如，如果上图表示电路网，带有箭头的线就表示电流以及方向。由上面的图，我们将它的关联矩阵（Incidence Matrix）写出来：注意关联矩阵的4列分别表示4个结点，行分别表示5条边，其中出点标记为-1，入点...

2018-10-11 09:27:21 1092

原创 Anaconda安装Tensorflow以及Matplotlib 以及错误：RuntimeError: module compiled against API version a but this v

心情久久不能平静下来。。。首先说明一下本人的安装环境：win10 + CPU版本Tensorflow这篇博客对安装的过程只是大致地提一下，主要是记录我自己在安装的过程中遇到的问题，确实总会有几个很烦人的小问题让你自己安装的过程与网上大佬们的博客安装过程不一样。。首先是安装Anaconda以及安装Tensorflow的过程，大家可以参考这篇博客，网上有很多CPU版本Tensorflow的安装教...

2018-10-10 22:10:40 3125 1

原创实验楼 - Python Numpy 100题实验（七）

这一部分主要内容有：对数组缺失值的一些处理numpy.unique()函数一些统计函数的使用找出数组中的缺失值的总数以及所在的位置首先创建一个含有缺失值的数组在进行处理：a = np.random.rand(10, 10)#首先创建数组a[np.random.randint(10, size=5), np.random.randint(10, size=5)] = np.nan...

2018-10-10 15:56:17 855

原创 MIT 线性代数导论第十一讲：矩阵空间、秩1矩阵和小世界图

本讲的主要内容有：矩阵空间的具体概念秩1矩阵的概念以及性质小世界图矩阵空间在之前的一讲中提到了矩阵空间的概念，其实本质上与之前的向量空间是一致的，只是概念的拓展。例如：矩阵空间 MMM 是所有 3×33\times33×3 的矩阵构成的空间，它的子空间有所有的对称矩阵（3×33 \times 33×3）构成的空间以及所有的上三角矩阵（3×33 \times 33×3）构成的空间等等。...

2018-10-10 11:20:57 712

原创 MIT 线性代数导论第九讲：四个基本子空间

本讲的主要内容：四种子空间的概念以及维数、基四种基本子空间首先了解四种基本子空间是什么：列空间（column space），简记为 C(A)C(A)C(A)，由矩阵的列向量生成的空间零空间（null space），简记为 N(A)N(A)N(A)，方程Ax=0Ax=0Ax=0 的解向量生成的空间行空间（row space），简记为 C(AT)C(A^{T})C(AT)（注意...

2018-10-09 15:50:25 516

原创 Anaconda 常用命令

弄了两天的Anaconda，总算是了解了个大概，不过确实这个工具的管理很方便，在这里记录一下常用的命令：关于包的管理更新所有的包一般下载好Anaconda，再继续安装其他的内容前，都会先更新一下所有的包，使用的命令为：conda upgrade --all注意这里是两个短横线查看所有的包conda list安装某个包conda install NAME更新某...

2018-10-08 16:22:03 589

原创 MIT 线性代数导论第九讲：线性相关性、基、维数

本讲的主要内容：向量的线性相关性向量组生成空间向量空间的基、维数向量线性相关性(dependence)概念：对于一组向量 x1,x2,x3...xnx_{1},x_{2},x_{3}...x_{n}x1,x2,x3...xn ，如果存在一种组合使得 c1x1+c2x2+c3x3,...cnxn=0c_{1}x_{1}+c_{2}x_{2}+c_{3}x_{3},...c_{...

2018-10-08 11:16:05 444

原创实验楼 - Python Numpy 100题实验（六）mean(),set_printoptions()函数等

这一部分的主要内容：numpy.mean()排序的一些例子numpy.set_printoptions()对于随机的3*3的二维数组，减去数组的每一行的平均值a = np.random.randint(1, 10, (3,3))print('Array a:')print(a)a =a - a.mean(axis=1, keepdims=True)print('Result ...

2018-10-07 11:38:01 537

原创 MIT 线性代数导论第八讲：Ax=b可解性以及解的结构

本讲的主要内容：Ax=bAx=bAx=b 的求解过程讨论 Ax=bAx=bAx=b 各种情况是否存在解求解过程这一部分使用的例子，这里我直接写成矩阵形式：Ax=b⇔(1222246836810)x=(b1b2b3)Ax=b\Leftrightarrow \begin{pmatrix} 1&amp; 2 &amp; 2 &amp; 2\\ 2&...

2018-10-07 10:51:11 662

原创实验楼 - Python Numpy 100题实验（五）uniform(),bincount()函数等

本篇的主要内容有：numpy.random.uniform()numpy.bincount()numpy.nonzero()numpy.random.choice()numpy.put()给定一个一位随机数组，找出离0.5最近的数字距离最近的点，可以很自然地想到绝对值，首先根据绝对值计算每个数到0.5的距离，然后我们需要求出这个数的序号，可以使用argmax（）函数很简单地求得：...

2018-10-06 17:26:36 440

原创 Jupyter Notebook 修改默认打开的文件夹的位置

初次使用Jupyter Notebook，确实好用啊！！，又好看又好用，不过还是遇到了一个问题，安装好之后，打开Jupyter Notebook 的时候，默认的文件夹的位置是C盘下面的XXX目录，但是我想把文件保存到其他的文件夹下，发现知乎上有这个问题的详细解答，（附上问题链接ipython notebook 如何修改一开始打开的文件夹路径？）在这里记录下解决方法：首先在cmd下使用下面的命令...

2018-10-06 10:39:54 31737 11

原创 MIT 线性代数导论第七讲：Ax=0求解

本讲的主要内容有：计算 Ax=0Ax=0Ax=0 的解（求零空间）理解主变量以及自由变量的概念Ax=0Ax=0Ax=0 的特殊解求解 Ax=0Ax=0Ax=0首先举一个例子，并进行消元过程，消元过程在之前讲到过：A=(1222246836810)⇒(122200240024)⇒([1]22200[2]40000)=UA = \begin{pmatrix}1 &amp; ...

2018-10-06 10:14:51 7563

原创实验楼 - Python Numpy 100题实验（四）linspace()函数等

创建一个5 * 5 的矩阵，其中每行都是1-5a = np.zeros((5, 5), dtype = np.int)a += np.arange(1,6)创建一个长度为 5 的等间隔一维数组，值域范围从0到1，但是不包括 0 和 1a = np.linspace(0 ,1, 6, endpoint=False)[1:]题目有两个要求：长度为5，等间隔不包括起始点0和1首先...

2018-10-04 17:20:38 1958

原创 MIT 线性代数导论第六讲：列空间以及零空间

本讲的主要内容：回顾向量空间以及子空间的知识点使用线性方程组的思想看待列空间问题零空间的概念向量空间以及子空间这里主要是对之前的知识的一点回顾，有一点新问题是对于子空间，交以及并是否仍然是子空间？这里以三维空间 R3R^{3}R3 为例：取 PPP 为三维空间中过原点的一个平面（plane），取 LLL 为三维空间中过原点的一条直线，则根据向量空间以及子空间的定义，可以得知 P...

2018-10-04 11:27:55 505

原创 MIT 线性代数导论第五讲：置换-转置-向量空间

本讲的主要内容有：转置矩阵的概念置换矩阵的概念对称矩阵的概念以及如何求得向量空间的概念以及由矩阵生成向量空间置换矩阵（Permutation Maxtrix）在之前的一讲中介绍了置换矩阵，置换矩阵就是行重新排列的单位矩阵，简记为 PPP ，使用置换矩阵左乘一个矩阵的话，可以实现矩阵的行向量的重新排列，对于 n∗nn * nn∗n 的置换矩阵，共有 n!n!n! 种情况，这些置换矩...

2018-10-03 15:37:39 1079

原创 MIT 线性代数导论第四讲：矩阵的LU分解

这一讲的主要内容有：矩阵转置与逆的顺序问题矩阵AAA 的 LULULU 分解置换矩阵群矩阵转置与逆首先关于矩阵的分解要用到几个定理：对于矩阵 AAA 和矩阵 BBB ：求两个矩阵乘积的逆矩阵只需要交换两个矩阵的逆的顺序并相乘即可，也就是：(AB)X=I,X=B−1A−1(AB)X = I , X = B^{-1}A^{-1}(AB)X=I,X=B−1A−1对于单...

2018-10-02 16:33:20 1668

空空如也

求教！！WPF中TextBox大小只能拖动到一定程度