机器学习
TeeEye
自律即自由
展开
-
机器学习 (一): 单变量线性回归
单变量线性回归前言模拟数据代码图示梯度下降误差函数计算偏导数代码调整参数代码图示 (红色虚线为拟合函数)全部代码总结前言线性回归( Linear Regression )是指将一个因变量 yyy 和多个自变量x1,x2...xnx_1, x_2...x_nx1,x2...xn的关系用一个线性方程:y=B+W1x1+W2x2...+W3x3y = B + W_1x_1 + W_2x_2 ...原创 2019-01-31 23:02:41 · 611 阅读 · 0 评论 -
机器学习 (五): 模型评估
机器学习 模型评估交叉验证Baseline 模型数值型baseline分类型baselineROC 曲线Confusion Matrix交叉验证from sklearn.preprocessing import StandardScalerfrom sklearn.pipeline import make_pipelinefrom sklearn.linear_model import L...原创 2019-04-09 19:57:53 · 449 阅读 · 0 评论 -
机器学习 (四): 特征选择
机器学习 特征选择概述Filter 方法根据方差根据协方差根据$\chi^2$Wrapper 方法RFECV总结本博客是 <Machine Learing With Python> 一书 chapter 10 的读书笔记概述特征选择即去掉对模型没有价值的特征, 根据手段不同可分为三类:filter: 字面意思是过滤, 原理是根据统计特征 (方差, 协方差, χ2\chi^2χ...原创 2019-04-09 16:15:55 · 1156 阅读 · 0 评论 -
Pandas (一): 基本操作
Pandas 基本操作数据来源处理 usa.gov 数据统计每个时区的数量统计浏览器信息1880-2010 全美婴儿姓名加载所有数据统计性别趋势统计姓名趋势总结数据来源本系列参考的书目是 用到的数据来自 https://github.com/pydata/pydata-book处理 usa.gov 数据该数据内容是 JSON 对象的集合, 文件的每一行都是一个JSON 对象, 比较膈应没...原创 2019-04-04 15:03:33 · 439 阅读 · 0 评论 -
TensorFlow (八): TFRecord
TFRecord前言Save代码样例Load代码样例总结前言TFRecord 这部分内容困扰了我好几天, 不仅是它的 API 十分晦涩且繁琐, 而且网上的大多数相关教程写的都很抽象, 在看了相关的教材之后才终于有了眉目.TFRecord 的意义在于: 如果你要训练上万张图片, 他们全部塞进内存里可能需要占用数十甚至上百 GB 的空间, 这时候传统的 feed_dict 方式就不能用了, 需要...原创 2019-03-12 22:22:52 · 231 阅读 · 0 评论 -
TensorFlow (七): Estimator
Estimator简介代码自定义 Model简介之前用 TensorFlow 写的神经网络都比较裸, 这次介绍的 Estimator 则是对神经网络的一种封装.代码import tensorflow as tf import numpy as np import tensorflow.contrib.slim as slim import mnist_loader as ml fr...原创 2019-03-11 21:57:42 · 214 阅读 · 0 评论 -
TensorFlow (六): Flags
Flags介绍代码运行截图注意事项介绍TensorFlow 程序需要大量参数, 这些参数因为需要经常调试所以不适合硬编码在代码里, 一个可行的方法是作为命令行参数传入到程序中, 同时在程序中设定一个默认值, tf.flags 就是干这个的代码import tensorflow as tf tf.flags.DEFINE_string('s1', 's1_default', 'desc'...原创 2019-03-07 15:09:16 · 244 阅读 · 0 评论 -
TensorFlow (三):逻辑回归
逻辑回归代码结果代码import tensorflow as tf import numpy as np import matplotlib.pyplot as plt # generate datadata_size = 500x_data = np.random.rand(data_size, 2)noise = np.random.rand(data_size)nois...原创 2019-03-04 13:57:57 · 249 阅读 · 0 评论 -
TensorFlow (五): Slim
SlimSlim 简介代码对比原生 TensorFlowSlim共享参数Slim 简介Slim ( tf.contrib.slim ) 是一个轻量级的 TensorFlow 框架, 封装了 TensorFlow 的大量 API, 在之前学习过程中我自己明显可以感觉到 tf 的代码太啰嗦了, 想要写一个简单的 CNN 就需要写将近 50 行的辅助函数, 和 20 行的网络搭建, 之前使用 Ker...原创 2019-03-06 19:11:30 · 208 阅读 · 0 评论 -
TensorFlow (四): MNIST CNN实现
MNIST CNN实现准备工作mnist_loader.py代码效果图总结准备工作mnist_loader.pydef load_mnist(path, kind='train'): import os import gzip import numpy as np """Load MNIST data from `path`""" labels_pa..原创 2019-03-05 22:11:15 · 205 阅读 · 0 评论 -
TensorFlow (二): 单变量线性回归
TensorFlow 单变量线性回归代码效果图代码import tensorflow as tf import numpy as np import matplotlib.pyplot as plt # generate datadata_size = 100x_data = np.random.rand(data_size) * 0.6 + 0.2noise = np.ran...原创 2019-03-02 15:32:15 · 198 阅读 · 0 评论 -
TensorFlow (一): 基本数据类型 & 操作
基本类型 & 计算过程TensorFlow 的规矩基本类型常量变量Placeholder计算过程一些简便写法图总结TensorFlow 的规矩在我看来, TensorFlow 程序相当于 “程序中的程序”对于一般程序, 如下的代码简洁明了:// c codeconst int a = 1;const int b = 2;int c = a + b; // 代码执行完这一句时,...原创 2019-03-02 14:15:14 · 456 阅读 · 0 评论 -
Keras (一): Fashion MNIST
Keras 一: Fashion MNIST准备工作工程目录mnist_loader.py我的模型fashion.py结果其他模型的对比总结准备工作我自己在学的时候发现使用 tensorflow 提供的 API 来下载数据集时没有网速 (不管有没有梯子), 所以我决定手动下载数据集然后再自行解析.工程目录fashionfashion.pymnilist_loader.pydata...原创 2019-02-26 12:21:56 · 1018 阅读 · 1 评论 -
机器学习 (三): 反向传播数学推导 & 神经网络
反向传播推导 & 神经网络约定推导神经网络实现约定本小节所使用的神经网络如图所示其中一共有三层, 序号分别是 0, 1, 2 (第0层为输入层)输入为向量 xxx 有两个项 x1x_1x1 和 x2x_2x2a(i)a^{(i)}a(i) 表示第 i 层的输出向量, aj(i)a_j^{(i)}aj(i) 表示第 i 层输出向量的第 j 项. 注意 x=a(0)x =...原创 2019-02-28 23:09:56 · 270 阅读 · 0 评论 -
机器学习 (二): 逻辑回归
逻辑回归前言模型参数前向传播后向传播Python实现前言逻辑回归 (logistic regression) 并非是回归算法而是分类算法, 可以视为最简单的神经网络. 和线性回归一样, 逻辑回归是一种基于线性多项式的算法, 因此比较难在现实生活中找到合适的应用场合, 但作为神经网络的基础, 还是有必要掌握的.模型参数设输入数据为 Xn,mX_{n, m}Xn,m 即它的数量为 mmm,...原创 2019-02-15 17:48:47 · 801 阅读 · 0 评论 -
机器学习 (六): Sigmoid 公式推导和理解
Sigmoid推导和理解前言Sigmoid 和损失函数无关Sigmoid 是什么?Sigmoid 的假设Sigmoid 的推导我的理解前言说道逻辑回归就会想到 Sigmoid 函数, 它是一个实数域到 (0,1)(0, 1)(0,1) 的映射, 可以被解释为概率, 但为什么是这个公式?Sigmoid 和损失函数无关首先, 逻辑回归的损失函数为L(X,Y,θ)=−∑i=1ny(i)log(...原创 2019-05-14 10:15:28 · 4482 阅读 · 0 评论