机器学习
文章平均质量分 87
本专栏主要对一些常用的机器学习算法的初步学习总结
小朱小朱绝不服输
这个作者很懒,什么都没留下…
展开
-
Keras实现RNN和LSTM做回归预测(python)
学习了RNN和LSTM的理论知识,下面再来使用Keras实现一下这些模型。理论知识:循环神经网络(RNN)LSTM神经网络和GRUKeras实现神经网络:Keras实现全连接神经网络(python)Keras的安装过程:Tensorflow和Keras版本对照及环境安装1. 环境准备import matplotlib.pyplot as pltfrom math import sqrtfrom matplotlib import pyplotimport pandas a原创 2022-01-11 15:34:06 · 11659 阅读 · 18 评论 -
LSTM神经网络和GRU
说到LSTM,无可避免的首先要提到最简单最原始的RNN。在循环神经网络(RNN)中学习了RNN的原理和模型结构,这里再简单回顾一下,引出LSTM模型。一、RNN循环神经网络(Recurrent Neural Network,RNN)是一种用于处理序列数据的神经网络。相比一般的神经网络来说,他能够处理序列变化的数据。比如某个单词的意思会因为上文提到的内容不同而有不同的含义,RNN就能够很好地解决这类问题。二、LSTM神经网络长短时记忆网络(Long Short Term Memory Networ原创 2022-01-11 10:41:27 · 2629 阅读 · 0 评论 -
循环神经网络(RNN)
在之前学习了全连接神经网络(DNN)模型,网络结构都是从输入层到隐含层再到输出层,层与层之间是全连接或部分连接的,但每层之间的节点是无连接的。一、神经网络基础神经网络可以当做是能够拟合任意函数的黑盒子,只要训练数据足够,给定特定的x,就能得到希望的y,结构图如下:将神经网络模型训练好之后,在输入层给定一个x,通过网络之后就能够在输出层得到特定的y,那么既然有了这么强大的模型,为什么还需要RNN(循环神经网络)呢?二、为什么需要RNN(循环神经网络)考虑这样一个问题,如果要预测句子的下一个单词是什么原创 2022-01-10 11:07:20 · 22172 阅读 · 6 评论 -
Keras实现全连接神经网络(python)
在全连接神经网络(DNN)学习了全连接神经网络的原理,然后再使用Keras来实现全连接神经网络,每一步都清晰描述。Kears的安装过程参考:Tensorflow和Keras版本对照及环境安装。Keras中文文档请参考:Keras中文文档。这里使用Keras来实现神经网络,可能会说怎么不用tensorflow呢?其实tensorflow没有那么好用。tensorflow跟另外一个相近的工具theano,它们非常flexible。它完全可以做deep learning以外的事情。学起来是有一些难度的。而原创 2022-01-06 16:11:26 · 9470 阅读 · 3 评论 -
全连接神经网络(DNN)
最近想要学习深度学习模型,没有一上来就先学习CNN、RNN、LSTM,而是先学习全连接神经网络(Fully Connected Neural Network),原因非常简单,上述所说的各种神经网络都是基于全连接神经网络出发的,最基础的原理都是由反向传播而来,所以只要掌握了这节最基本的原理,接下来的各种网络也能学得得心应手。一、全连接神经网络简介全连接神经网络模型是一种多层感知机(MLP),感知机的原理是寻找类别间最合理、最具有鲁棒性的超平面,最具代表的感知机是SVM支持向量机算法。神经网络同时借鉴了感知原创 2022-01-06 15:33:07 · 31538 阅读 · 2 评论 -
Tensorflow和Keras版本对照及环境安装
在安装tensorflow环境的时候,一定要先弄清楚对应的版本对应的情况,不要上来就pip install tensorflow,pip install keras。最后发现全是坑。下面就列一下,tensorflow和keras以及对应的python版本,然后再列一下我成功安装的流程。一、Tensorflow、Keras和python版本对照二者对应版本号如表所示(Keras新版本对Tensorflow老版本不兼容,需注意安装版本号)FrameworkEnv nameDescription原创 2021-12-31 15:31:52 · 37144 阅读 · 8 评论 -
使用Anaconda安装tensorflow,keras(Windows)
主要记载一下在windows上安装tensorflow遇到的问题及安装步骤。不要在原来的环境上安装,因为会重新安装一套库如numpy等,会导致下载多个版本。1. Anaconda安装tensorflow。使用Anaconda创建虚拟环境非常方便,这里安装Anaconda的方法可以参考Windows下Anaconda的下载,安装与使用。在Anaconda Prompt中输入命令,创建conda环境conda create -n tensorflow python=3.6稍等,创建完环境后,原创 2021-12-26 17:25:57 · 6502 阅读 · 5 评论 -
GBRT原理介绍
GBDT有很多简称,有GBT(Gradient Boosting Tree), GTB(Gradient Tree Boosting ), GBRT(Gradient Boosting Regression Tree), MART(Multiple Additive Regression Tree),其实都是指的同一种算法。如集成方法原理介绍中,集成方法主要分为Bagging和Boosting方法,Bagging方法得典型例子是随即森林RF,而Boosting的一个典型例子就是GBDT。1.GBRT原理原创 2020-08-14 14:36:49 · 11270 阅读 · 0 评论 -
贝叶斯优化调参-Bayesian optimiazation原理加实践
随着机器学习用来处理大量数据被广泛使用,超参数调优所需要的空间和过程越来越复杂。传统的网格搜索和随即搜索已经不能满足用户的需求,因此方便快捷的贝叶斯优化调参越来越受程序员青睐。1.贝叶斯优化原理介绍贝叶斯优化用于机器学习调参由J. Snoek(2012)提出,主要思想是,给定优化的目标函数(广义的函数,只需指定输入和输出即可,无需知道内部结构以及数学性质),通过不断地添加样本点来更新目标函数的后验分布(高斯过程,直到后验分布基本贴合于真实分布。简单的说,就是考虑了上一次参数的信息,从而更好的调整当前的参原创 2020-08-13 14:57:04 · 19123 阅读 · 7 评论 -
随机森林RF原理总结
在集成学习原理中知道,集成学习分为两部分Bagging和Boosting。随机森林RF作为Bagging方法的典型例子,以其并行训练的优点在如今处理数据问题上广受欢迎。随机森林,顾名思义,是有多棵树组成的森林,故RF的弱学习器都是决策树。RF=Bagging+DT。下面介绍一下RF的相关知识。Bagging方法就不再介绍,可以回顾集成学习原理。1.决策树(DT)在介绍随机森林前,简单的介绍一下其构成弱学习器决策树DT。决策树是比较经典的机器学习算法,可以用来处理分类问题和回归问题。同时也是集成学习中弱学原创 2020-08-13 10:23:25 · 10281 阅读 · 7 评论 -
集成方法原理总结
集成学习集成方法的目标是把多个使用给定学习算法构建的基估计器的预测结果结合起来,从而获得比单个估计器更好的泛化能力/鲁棒性。简单来说集成学习就是把若干个基学习器通过某种学习算法结合起来,进而达到比单个基学习更好的效果。主要有两个问题:(1)选择若干个基学习器(2)选择某种学习算法首先,选择的基学习器的方法有两种:一种是选择相同的基学习器,如决策树DT、KNN、神经网络。集成学习中使用的都是相同的基学习器。另一种方法是选择不同的基学习器。其次,集成学习的常用的方法有Bagging方法和Boosti原创 2020-08-12 16:18:40 · 3205 阅读 · 0 评论