- 博客(28)
- 收藏
- 关注
RSS订阅原创 用PyTorch完成手写数字识别
用PyTorch完成手写数字识别数据集为MNISTimport torchimport torch.nn as nnimport torch.nn.functional as Fimport torch.optim as optimfrom torchvision import datasets, transformsimport torchvisionfrom torch.aut...
2019-08-20 18:53:46
2275
2
原创 PyTorch理解更多神经网络优化方法
了解不同优化器所有的优化方法都封装在torch.optim里面，他的设计很灵活，可以扩展为自定义的优化方法。所有的优化方法都是继承了基类optim.Optimizer。并实现了自己的优化步骤。SGD 是最普通的优化器, 也可以说没有加速效果, 而 Momentum 是 SGD 的改良版, 它加入了动量原则. 后面的 RMSprop 又是 Momentum 的升级版. 而 Adam 又是 R...
2019-08-18 18:31:27
229
原创 PyTorch实现L1，L2正则化以及Dropout
了解知道Dropout原理Dropout可以看做是一种模型平均，所谓模型平均，顾名思义，就是把来自不同模型的估计或者预测通过一定的权重平均起来，在一些文献中也称为模型组合，它一般包括组合估计和组合预测。Dropout中哪里体现了“不同模型”；这个奥秘就是我们随机选择忽略隐层节点，在每个批次的训练过程中，由于每次随机忽略的隐层节点都不同，这样就使每次训练的网络都是不一样的，每次训练都可以单做一个...
2019-08-16 19:10:40
1181
1
原创 用PyTorch实现多层网络
用PyTorch实现多层网络一、引入模块，读取数据1.导入数据import torchimport numpy as npfrom torch import nnfrom torch.autograd import Variableimport torch.nn.functional as Fimport matplotlib.pyplot as pltimport pandas...
2019-08-12 22:32:07
437
1
原创 PyTorch基础Task3--PyTorch实现Logistic regression
PyTorch实现Logistic regressionPyTorch基础实现代码用PyTorch类实现Logistic regression,torch.nn.module写网络结构
2019-08-10 21:43:00
258
原创 pytorch基础Task2-设立计算图并自动计算
设立计算图并自动计算一、numpy和pytorch实现梯度下降法设定初始值求取梯度在梯度方向上进行参数的更新使用numpy实现x = 1learning_rate = 0.1epochs = 100y = lambda x : x ** 2 + 2 * x + 1for epoch in range(epochs): dx = 2 * x + 2 ...
2019-08-09 02:53:19
122
原创 PyTorch的基本概念
什么是Pytorch，为什么选择Pytroch？Pytroch的安装配置Python环境准备Python管理器通过命令行安装PyTorchPyTorch基础概念通用代码实现流程(实现一个深度学习的代码流程)...
2019-08-07 15:58:57
662
原创 数据结构(六) 图
图实现有向图、无向图、有权图、无权图的邻接矩阵和邻接表表示方法实现图的深度优先搜索、广度优先搜索实现 Dijkstra 算法、A* 算法实现拓扑排序的 Kahn 算法、DFS 算法...
2019-05-24 19:06:03
141
原创 数据结构(四) 散列表(Hash表)和字符串
散列表(Hash表)实现一个基于链表法解决冲突问题的散列表实现一个 LRU 缓存淘汰算法字符串实现一个字符集，只包含 a～z 这 26 个英文字母的 Trie 树实现朴素的字符串匹配算法...
2019-05-20 07:42:53
416
原创 数据结构(三) 排序查找
排序插入排序//插入排序////直接插入排序#define maxsize 1024 //文件最大长度 typedef int keytype; //设key值为整型 typedef struct //记录类型 { keytype key; //记录关键字 ... //记录其他域 }Retype;typedef struct //文件或表的类型 ...
2019-05-18 01:51:52
189
原创 数据结构(二) 栈、队列、递归
栈1.用数组实现一个顺序栈//用数组实现一个顺序栈#define maxsize 64 //栈的最大容量 typedef struct{ datatype data[maxsize]; //栈的存储空间 int top; //栈顶指针 }sqstack, *sqslink; //顺序栈说明符//置栈空void Clearstack(sqslink s){ s-&...
2019-05-14 22:58:16
135
原创 自然语言处理 第十一期
循环神经网络基础RNN的结构。循环神经网络的提出背景、优缺点。着重学习RNN的反向传播、RNN出现的问题（梯度问题、长期依赖问题）、BPTT算法。双向RNNLSTM、GRU的结构、提出背景、优缺点。4、针对梯度消失（LSTM等其他门控RNN）、梯度爆炸（梯度截断）的解决方案。Text-RNN的原理。利用Text-RNN模型来进行文本分类。一、RNN的结构...
2019-04-27 20:27:01
233
原创 自然语言处理 第十期
卷积神经网络基础卷积运算的定义、动机（稀疏权重、参数共享、等变表示）。一维卷积运算和二维卷积运算。反卷积(tf.nn.conv2d_transpose)池化运算的定义、种类（最大池化、平均池化等）、动机。Text-CNN的原理。利用Text-CNN模型来进行文本分类。一、卷积运算的定义、动机（稀疏权重、参数共享、等变表示）卷积的定义：卷积是对两个实变函数的一种数学运算。卷积...
2019-04-23 23:27:27
665
原创 自然语言处理 第九期
简单神经网络文本表示：从one-hot到word2vec。1.1 词袋模型：离散、高维、稀疏。1.2 分布式表示：连续、低维、稠密。word2vec词向量原理并实践，用来表示文本。文本表示：从one-hot到word2vec文本表示的意思是把字词处理成向量或矩阵，以便计算机能进行处理。文本表示是自然语言处理的开始环节。文本表示分为离散表示和分布式表示。离散表示的代表就是词袋模型，...
2019-04-22 21:12:46
313
原创 自然语言处理 第八期
神经网络基础前馈神经网络、网络层数、输入层、隐藏层、输出层、隐藏单元、激活函数的概念。感知机相关；利用tensorflow等工具定义简单的几层网络（激活函数sigmoid），递归使用链式法则来实现反向传播。激活函数的种类以及各自的提出背景、优缺点。（和线性模型对比，线性模型的局限性，去线性化）深度学习中的正则化（参数范数惩罚：L1正则化、L2正则化；数据集增强；噪声添加；early st...
2019-04-21 22:11:48
349
原创 自然语言处理 第七期
传统机器学习–LDApLSA、共轭先验分布；LDA主题模型原理LDA应用场景LDA优缺点LDA 参数学习使用LDA生成主题特征，在之前特征的基础上加入主题特征进行文本分类一、pLSA、共轭先验分布；LDA主题模型原理LSA（Latent semantic analysis，隐性语义分析）、pLSA（Probabilistic latent semantic analysis，概率...
2019-04-19 17:01:11
498
原创 自然语言处理 第六期
传统机器学习–SVMSVM的原理SVM应用场景SVM优缺点SVM sklearn 参数学习利用SVM模型结合 Tf-idf 算法进行文本分类
2019-04-17 13:13:08
517
原创 自然语言处理 第五期
传统机器学习–朴素贝叶斯朴素贝叶斯的原理朴素贝叶斯应用场景朴素贝叶斯优缺点朴素贝叶斯 sklearn 参数学习利用朴素贝叶斯模型结合 Tf-idf 算法进行文本分类一、朴素贝叶斯的原理基于朴素贝叶斯公式，比较出后验概率的最大值来进行分类，后验概率的计算是由先验概率与类条件概率的乘积得出，先验概率和类条件概率要通过训练数据集得出，即为朴素贝叶斯分类模型，将其保存为中间结果，测试文档...
2019-04-15 13:14:05
436
原创 自然语言处理 第四期
自然语言处理 第四期TF-IDF原理。文本矩阵化，使用词袋模型，以TF-IDF特征值为权重。（可以使用Python中TfidfTransformer库）互信息的原理。使用第二步生成的特征矩阵，利用互信息进行特征筛选。TF-IDF原理TF-IDF是Term Frequency - Inverse Document Frequency的缩写，即“词频-逆文本频率”。它由两部分组成，T...
2019-04-13 19:36:14
702
原创 自然语言处理 第三期
NLP内容基本文本处理技能1.1 分词的概念（分词的正向最大、逆向最大、双向最大匹配法）；1.2 词、字符频率统计；（可以使用Python中的collections.Counter模块，也可以自己寻找其他好用的库）2.1 语言模型中unigram、bigram、trigram的概念；2.2 unigram、bigram频率统计；（可以使用Python中的collections.Cou...
2019-04-11 19:55:22
121
原创 自然语言处理 第二期
数据集下载探索模块：IMDB数据集（英文）和THUCNews数据集（中文）数据集数据集：中、英文数据集各一份THUCNews中文数据集：https://pan.baidu.com/s/1hugrfRu 密码：qfudIMDB英文数据集： IMDB数据集 Sentiment AnalysisIMDB数据集下载和探索模块及指标学习模块THUCNews数据集下载和探索学习召回率、准确率、...
2019-04-09 13:45:41
712
原创 自然语言处理 第一期
NLP之软件安装及环境配置任务：Anaconda 安装Conda 学习Python编辑器安装与学习： jupyter notebook 或者 pycharmTensorflow 库安装与学习参考资料：Anaconda介绍、安装及使用教程(https://zhuanlan.zhihu.com/p/32925500)PyCharm 安装教程（Windows）{http://ww...
2019-04-07 13:09:04
155
原创 MySQL基础（二）
MySQL基础（二）教程链接：https://www.yiibai.com/mysql/create-table.htmlhttp://www.runoob.com/mysql/mysql-handling-duplicates.html一、表操作MySQL表数据类型用SQL语句创建表语句解释设定列类型 、大小、约束设定主键用SQL语句向表中添加数据语句解释多种添加方式（...
2019-04-04 18:33:18
173
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人