机器学习
chen_holy
“你要是愿意, 我就永远爱你”——王小波《爱你就像爱生命》
展开
-
numpy中的向量和矩阵 ( 关于axis关键字的理解 )
本文目标:证明:1.(3,)表示列向量,[ [1,2,3], [1,2,4 ]] 中 [1,2,3] 是行向量2. axis = 0 表示对行进行操作,axis = 1 表示对列操作ps:(其实只是加深自己的理解233,所以证明的可能不严谨)前期铺垫:什么是行合并?a = np.array([[1,2,4],[2,3,4]])b = np.array([[1,2,4],[2...原创 2019-04-20 17:31:09 · 332 阅读 · 0 评论 -
笔记: 小批量梯度下降参数求解实现
"""小批量梯度下降描述:每次选取小批量数据集来更新计算梯度场景:一元线性回归"""import numpy as npX = 2 * np.random.rand(100, 1)Y = 4 + 3 * X + np.random.randn(100, 1)X = np.c_[np.ones((100, 1)), X]n_epochs = 10000batch_size...原创 2019-04-24 12:17:51 · 476 阅读 · 0 评论 -
笔记 - 推荐系统:协同过滤算法理论
----------------2019.04.30更新-------------------原创 2019-04-29 09:33:15 · 199 阅读 · 0 评论 -
笔记 - 推荐系统:隐语义模型理论
总结:隐语义模型:将要求解的大矩阵分解成求解两个小矩阵疑惑:隐语义模型为啥会有效Rui本身空白的地方(需要求的地方),PuQi能计算出来??隐语义模型特点:不好解释性?...原创 2019-04-29 10:39:12 · 161 阅读 · 0 评论 -
笔记:逻辑回归实践部分
逻辑回归 成绩录取预测案例原创 2019-04-25 17:18:45 · 145 阅读 · 0 评论 -
笔记 - tensorflow小案例:线性回归(小批量随机梯度下降+优化器的使用)
"""线性回归 小批量梯度下降sklearn数据集标准归一化划分训练数据集与测试数据集tensorflownumpy"""import tensorflow as tfimport numpy as npfrom sklearn.preprocessing import StandardScalerfrom sklearn.datasets import fetch_ca...原创 2019-05-08 19:02:46 · 961 阅读 · 0 评论 -
笔记 - tensorflow小案例:线性回归(批量梯度下降策略)
import tensorflow as tfimport numpy as npfrom sklearn.datasets import fetch_california_housingfrom sklearn.preprocessing import StandardScaler# TODO tensorflow 线性回归问题求解 批量梯度下降策略"""思路:导包导数据集...原创 2019-05-06 12:35:25 · 526 阅读 · 0 评论 -
笔记 - tensorflow小案例:Softmax多分类(mnist手写体数据集识别)
通用步骤准备参数定义损失函数定义优化器正式训练"""tf的mnist(手写数字)数据集tf.nn下实现的softmax算法定义输入数据定义参数编写交叉熵损失参数梯度下降优化器处理统计预测的准确率正式训练"""import tensorflow as tffrom tensorflow.examples.tutorials.mnist import in...原创 2019-05-08 21:08:04 · 392 阅读 · 0 评论 -
笔记 - 推荐系统:常见算法对比
原创 2019-05-07 09:04:31 · 323 阅读 · 0 评论 -
笔记 - 线性回归:tensorflow原生实现线性回归梯度下降参数更新过程
手动实现线性回归梯度计算公式"""X:m×n矩阵 -- m行样本n个维度error: 列向量"""gradients = 1/m * tf.matmul(tf.transpose(X), error)基于sklearn fetch_california_housing 数据集import tensorflow as tfimport numpy as npfrom sk...原创 2019-06-10 20:12:07 · 1732 阅读 · 0 评论 -
笔记: 随机梯度下降参数求解实现
"""随机梯度下降描述:每次选取一个样本参与梯度计算场景:一元线性回归"""import numpy as npnp.random.seed(1)X = 2 * np.random.rand(100, 1)X = np.c_[np.ones((100, 1)), X]Y = 4 + 3 * np.random.randn(100, 1)m = 100 # 样本数the...原创 2019-04-24 11:39:45 · 564 阅读 · 0 评论 -
笔记: 批量梯度下降参数求解实现
"""批量梯度下降目前统一的停止策略都是执行n次停止场景:一元线性回归参数求解"""import numpy as np# 定义随机种子,使每次随机的数据都和第一次随机时的数据一致np.random.seed(1)# 构造数据集X = 2 * np.random.rand(100, 1)Y = 4 + 3 * X + np.random.randn(100, 1) # 构...原创 2019-04-24 10:54:25 · 256 阅读 · 0 评论 -
笔记:线性回归理论部分1
原创 2019-04-22 15:08:22 · 143 阅读 · 0 评论 -
笔记:k-means聚类算法 图像压缩理论
再次讨论16色不是说只能用4个bit来表示颜色,而是图片只能用16中颜色构成,在真正保存图片的时候会根据不同的图片类型采用不同的保存机制比如:也是为什么纯颜色的图片质量会比一般图片要小的原因...原创 2019-04-26 17:00:42 · 611 阅读 · 0 评论 -
笔记:K近邻算法理论与实现
numpy实现版本:import numpy as npimport operator# 准备数据集X = np.array([[2,2],[1,1.5],[1,1],[4,3],[4,4]])y =['A','A','A','B','B']def knn_classify(X,y,target,k): # 计算target与X的距离 distances = np...原创 2019-04-22 17:35:10 · 174 阅读 · 0 评论 -
笔记:线性回归理论部分2(误差项分析|最大似然函数|参数估计)
原创 2019-04-22 21:14:08 · 717 阅读 · 0 评论 -
笔记:线性回归理论部分3 (最小二乘表达式)
原创 2019-04-22 21:49:17 · 258 阅读 · 0 评论 -
笔记:线性回归理论部分4 (梯度下降策略)
原创 2019-04-23 07:56:45 · 149 阅读 · 0 评论 -
笔记:逻辑回归理论部分1
原创 2019-04-23 08:28:51 · 153 阅读 · 0 评论 -
笔记:支持向量机(SVM)决策边界求解推导
原创 2019-04-28 17:49:25 · 3969 阅读 · 1 评论 -
numpy学习笔记:矩阵式编程
import numpy as np"""向量编程从普通的代数编程过渡到矩阵编程"""# 比如:X = np.random.randint(0, 10, (10, 1))Y = np.random.randint(0, 10, (10, 1))# 现在要计算最简单的 x0y0 + ... + xnyn# 这里不允许用numpy的sum等函数,只能用矩阵的语法# 乘积和 转化...原创 2019-04-24 10:40:00 · 244 阅读 · 0 评论 -
笔记 - 概率论:随机变量与独立同分布
参考文章总体与样本的理解从整体抽出一个个体,就是对总体X进行一次观察并记录结果。在相同条件下对总体进行n次独立重复观察。将n次观察结果按照试验顺序记为X1,X2,..,XnX1,X2,..,Xn。它们是相互独立的,且都是与X具有相同分布的随机变量。X1,X2,..,XnX1,X2,..,Xn称之为来自总体X的一个简单随机样本随机变量随机变量是指变量的值无法预先确定仅以一定的可能性(...原创 2019-07-09 14:38:44 · 8298 阅读 · 0 评论