机器学习
一城山河
这个作者很懒,什么都没留下…
展开
-
机器学习实战(十三):Convolutional Neural Networks
本章,首先介绍CNN从哪里来,构建模块是怎样的,以及如何使用TF实现The Architecture of the Visual Cortex视觉皮层神经元有一块小的局部接受野(receptive field),即只对视野的局部区域视觉刺激做出反应。不同神经元的接受野可能会有重复,一起平铺在整个视觉区域,可能作用于不用方向。CNN由此逐渐形成,LeNet-5除了熟知的全连接层、S形激活函数以外,引入了卷积层和池化层两个新的构建块。为什么用部分连接层而不是全连接层DNN进行图像识别的原因是,全连接层对原创 2020-12-27 23:44:08 · 475 阅读 · 0 评论 -
机器学习实战(十一):Training Deep Neural Nets
深层DNN可能出现的问题:梯度消失、梯度爆炸问题,影响深度神经网络,导致底层训练困难网络庞大,训练缓慢容易overfitting本章将会探讨梯度消失的流行解决方案,训练大模型明显提速的优化器(相对于平坦梯度下降 ),浏览针对大型神经网络的正则化技术。Vanishing/Exploding Gradients Problems第十章中讲到:反向传播算法再输出层反向作用到输入层的过程中传播误差梯度,一旦算法计算出成本函数梯度,就会根据梯度修正每一个参数。DNN受制于不稳定梯度,不同层可能以完全原创 2020-12-26 20:41:10 · 377 阅读 · 0 评论 -
机器学习实战(十):Introduction to Artificial Neural Networks
From Biological to Artificial Neurons生物元这里就不介绍了,主要说下逻辑神经元计算。Logical Computations with Neurons人工神经元:有一个或多个二进制输入和一个二进制输出。一定数量的输入都是激活状态时,人工神经元就会激活输出。如图所示的四种计算,一个神经元至少两个输入被激活时,自身便处于激活状态。等同函数:A是激活的,C是激活的,A是非激活的,C也非激活逻辑与:AB都激活,C激活逻辑或:AB中有一激活,C激活A激活,B非激原创 2020-12-24 16:57:58 · 350 阅读 · 0 评论 -
机器学习实战(九):Up and Running with TensorFlow
首先介绍TensorFlow,它是一个用来数值计算的大型开源软件库,非常适合大型ML。原理:在Python中定义一个用来计算的图,TensorFlow就会将这个图用C++计算出来。TensorFlow优点此处不予介绍。Installation仅针对 hands on Machine Learning这本书:https://blog.csdn.net/qq_40594395/article/details/111161561Creating Your First Graph and Running原创 2020-12-19 21:53:53 · 290 阅读 · 1 评论 -
机器学习实战(八):Dimensionality Reduction
特征过多造成方案难以选定,训练非常缓慢,所以可以选择大量减少特征数量——数据降维数据降维能加速训练,滤掉噪声和不必要细节,有利于数据可视化,但流水线更复杂 ,维护难度更高。本章将介绍两种主要的数据降维方法(投影和流形学习),学习三种数据降维技术(PCA、Kernel PCA、LLE)The Curse of Dimensionality(维度的诅咒)高位超立方体大多数点更接近边界,高位数据集很大可能非常稀疏。即训练集维度越高,过度拟合风险越大,且不能通过增加训练集数量解决。Main Approac原创 2020-12-17 17:46:06 · 940 阅读 · 0 评论 -
TensorBoard入门安装使用排坑
在学习Hands-on Machine Learning with Scikit-Learn and TensorFlow这本书时,关于TensorBoard使用安装时有点小坑,这里记录一下。首先默认安装成功TensorFlow成功的条件下,看这里安装好TensorFlow的同时,TensorBoard也安装好了,可以用pip list看下安装版本。路径更改官方用的路径一直和我们用的不一致,所以这里为了方便,我们就直接新建一个路径用来保存执行文件,我这里用的是:E:/Annconda/log/将F原创 2020-12-17 12:27:39 · 272 阅读 · 0 评论 -
机器学习实战(七):Ensemble Learning and Random Forests
集成学习:聚合一组预测器的预测,通常预测结果比最好的单个预测其要好,聚合的预测器叫做集成。随机森林:训练一组决策树分类器,每一棵树都基于训练集不同的随机子集训练,聚合所有树的预测得票最高的类别作为预测类别。本章将探讨几种最流行的集成方法:bagging、boosting、stacking,也将探索随机森林。Voting Classifiers如图所示,有一些训练好的分类器,每个准确度80%左右,要创造更好的分类器,最简单办法就是聚合每个分类器预测,将得票最高的结果作为预测类别:硬投票分类器此情况原创 2020-12-17 11:00:12 · 454 阅读 · 0 评论 -
Windows平台python 3.6+TensorFlow1.15
Windows 安装 TensorFlow真是一大坑,费了一早晨才安装上。说下步骤:以下步骤均是梯子环境下安装Anacondaanaconda安装要更方便些,如果没有安装看这里安装python 3.6虚拟环境因为我的系统本身是3.8.3的版本:查看:python --version如果卸载再安装旧版本会非常麻烦,所以建一个3.6的虚拟环境就很有必要:conda create --name tensorflow python=3.6激活环境查看虚拟环境是否安装:conda info --env原创 2020-12-14 12:59:31 · 938 阅读 · 0 评论 -
机器学习实战( 六):Decision Trees
决策树也像SVM一样能实现分类与回归(甚至多输出),能拟合复杂数据集。本章将训练、可视化、预测决策树,介绍Scikit-Learn的CART算法,介绍正则化决策树并应用于回归,介绍决策树的部分限制。Training and Visualizing a Decision Tree构建决策树,了解其如何预测(load_iris):from sklearn.datasets import load_irisfrom sklearn.tree import DecisionTreeClassifier原创 2020-12-11 17:01:29 · 377 阅读 · 0 评论 -
机器学习实战(五):Support Vector Machines
支持向量机能够执行线性非线性分类、回归,甚至异常值检测。特别适合中小型复杂数据集分类。Linear SVM Classification先画个图:引数据from sklearn.svm import SVCfrom sklearn import datasetsiris = datasets.load_iris()X = iris["data"][:, (2, 3)] # petal length, petal widthy = iris["target"]setosa_or_vers原创 2020-12-11 09:50:05 · 473 阅读 · 0 评论 -
机器学习实战(四):Training Models
本章要点为理解系统如何工作,这对于快速定位到合适模型、正确算法,合适超参数、高效错误调试与分析都有帮助。对于理解、训练、构建神经网络也至关重要。听过线性回归模型介绍两种不同的训练模型方法:closed-form(闭式方程):直接计算出最适合训练集的模型参数(训练集成本函数最小化参数)。Gradient Descent (GD)梯度下降:逐步调整参数至训练集成本函数最低。梯度下降变体:Batch GD(批量梯度下降), Mini-batch GD(小批量梯度下降), Stochastic GD(随原创 2020-12-07 18:20:31 · 1021 阅读 · 0 评论 -
机器学习实战(三):Classification
第一章讲最常见监督式学习为回归任务,分类任务。MNIST原创 2020-11-30 17:22:23 · 1161 阅读 · 1 评论 -
机器学习实战(二):End-to-End Machine Learning Project
房地产项目步骤:Look at the big picture.(观察大局)Get the data.Discover and visualize the data to gain insights.(从数据探索和可视化得到东健)Prepare the data for Machine Learning algorithms.Select a model and train it.Fine-tune your model.(微调模型)Present your solution.Launch原创 2020-11-28 19:25:10 · 896 阅读 · 0 评论 -
机器学习实战(一):The Machine Learning Landscape
Types of Machine Learning Systemssupervised, unsuper‐vised, semisupervised, and Reinforcement Learningonline ,batch learninginstance-based , model-based learningSupervised/Unsupervised LearningSupervised learning典型:分类任务,预测变量算法:k-Nearest Neighbor原创 2020-11-28 15:13:27 · 313 阅读 · 0 评论