2020年04月_沐念丶

原创神经网络工具箱torch.nn

torch.nn的核心数据结构是Module，它是一个抽象概念，既可以表示神经网络中的某个层（layer），也可以表示一个包含很多层的神经网络。在实际使用中，最常见的做法是继承nn.Module，撰写自己的网络/层。下面先来看看如何用nn.Module实现自己的全连接层。全连接层，又名仿射层，输出y\textbf{y}y和输入x\textbf{x}x满足y=Wx+b\textbf{y=Wx+b}y...

2020-04-22 23:09:57 395

原创 Pytorch实现线性回归

线性回归是机器学习入门知识，应用十分广泛。线性回归利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的，其表达形式为y=wx+b+ey = wx+b+ey=wx+b+e，eee为误差服从均值为0的正态分布。首先让我们来确认线性回归的损失函数：loss=∑iN12(yi−(wxi+b))2loss = \sum_i^N \frac 1 2 ({y_i-(wx_i+b)})^2l...

2020-04-22 16:19:19 235

原创 tensor内部结构

ensor的数据结构如下图所示。tensor分为头信息区(Tensor)和存储区(Storage)，信息区主要保存着tensor的形状（size）、步长（stride）、数据类型（type）等信息，而真正的数据则保存成连续数组。由于数据动辄成千上万，因此信息区元素占用内存较少，主要内存占用则取决于tensor中元素的数目，也即存储区的大小。一般来说一个tensor有着与之相对应的storage...

2020-04-22 15:12:27 1087

原创 Tensor和Numpy

Tensor和Numpy数组之间具有很高的相似性，彼此之间的互操作也非常简单高效。需要注意的是，Numpy和Tensor共享内存。由于Numpy历史悠久，支持丰富的操作，所以当遇到Tensor不支持的操作时，可先转成Numpy数组，处理后再转回tensor，其转换开销很小。示例代码：from __future__ import print_functionimport torch as t...

2020-04-22 13:55:49 5112

原创创建、操作Tensor(二)

Tensor类型Tensor有不同的数据类型，如下表所示，每种类型分别对应有CPU和GPU版本(HalfTensor除外)。默认的tensor是FloatTensor，可通过t.set_default_tensor_type 来修改默认tensor类型(如果默认类型为GPU tensor，则所有操作都将在GPU上进行)。Tensor的类型对分析内存占用很有帮助。例如对于一个size为(1000,...

2020-04-22 13:31:53 620

原创创建、操作Tensor(一)

Tensor，又名张量，从工程角度来讲，可简单地认为它就是一个数组，且支持高效的科学计算。它可以是一个数（标量）、一维数组（向量）、二维数组（矩阵）和更高维的数组（高阶数据）。Tensor和Numpy的ndarrays类似，但PyTorch的tensor支持GPU加速。创建Tensor函数功能Tensor(*sizes)基础构造函数tensor(data,)类似n...

2020-04-22 10:37:48 2373

转载 Matplotlib中Legend图例位置的设置

legend函数代码块：plt.legend([内容],loc='String or Number',bbox_to_anchor=(n1, n2))StringNumberupper right1upper left2lower left3lower right4right5center left6center right...

2020-04-20 11:01:25 4202

原创强化学习概述

强化学习概述强化学习基本原理强化学习如何解决问题强化学习算法分类强化学习算法基于值函数的强化学习算法基于直接策略搜索的强化学习算法强化学习主要研究方向深度强化学习元强化学习逆向强化学习强化学习的应用典型深度强化学习AIphaGo服务链网元部署自主驾驶强化学习发展方向强化学习基本原理强化学习称为增强学习或再励学习(Reinforcement learning),是AlphaGo、AlphaGo ...

2020-04-02 10:10:10 328

原创 python中@classmethod @staticmethod区别

python中@classmethod @staticmethod区别Python中有3种方式定义类方法：常规方式@classmethod修饰方式@staticmethod修饰方式常规的类方法需要通过self参数隐式的传递当前类对象的实例，见如下代码：class A(object): def f(self, x): print("executing foo(...

2020-04-01 20:31:04 396

ZongXS的博客