![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
machine learning
文章平均质量分 90
高飞小童鞋
喜欢我就关注我呗!
展开
-
Tensorflow学习笔记
注意 1:输出层不需要使用激活函数 2:tf.nn.softmax用于输出层,用于将结果概率化 代价函数: 1:二次代价函数 loss = tf.reduce_mean(tf.square(prediction-y)) 2:对数释然函数,该函数于softmax搭配使用 tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(lab...原创 2018-10-26 22:52:55 · 212 阅读 · 0 评论 -
神经网络算法
正向传播 比较简单,为了更好理解,直接举例子: X4=W14∗X1+W24∗X2+W34∗X3+B4X_4=W_{14}*X_1+W_{24}*X_2+W_{34}*X_3+B_4X4=W14∗X1+W24∗X2+W34∗X3+B4X5=W15∗X1+W25∗X2+W35∗X3+B5X_5=W_{15}*X_1+W_{25}*X_2+W_{35}*X_3+B_5X5=W15∗...原创 2019-06-18 17:15:50 · 2518 阅读 · 0 评论 -
逻辑回归(非线性回归)
逻辑回归是一种分类算法,用于2元分类两种情况,也可以使用‘一对余’的思想来实现多元分类 sigmoid function、logistic function sigmoid function、logistic function都是同一种函数,如下: y=11+e−xy=\dfrac{1}{1+e^{-x}}y=1+e−x1 函数值范围在(0,1),图像如下: 假设函数 hθ(x)=11+e−F...原创 2019-06-20 20:01:20 · 1756 阅读 · 0 评论 -
多元线性回归
当变量中有分类型的变量的时候,需要将分类型的变量转换成数值型的变量。 例如: 比如某衣服有一个颜色特征,特征值为红、绿、蓝三种颜色,该特征为分类型特征,需要把它转化成数值型特征,则把这个衣服颜色需要分为三个特征,分别是红色、绿色、蓝色,则红色衣服对应的特征值为1,0,0;绿色衣服对应的特征值为0,1,0;蓝色衣服对应的特征值为0,0,1。 代码 简单例子 from numpy import gen...原创 2019-06-18 23:58:15 · 186 阅读 · 0 评论 -
KNN(最邻近算法)
分类 属于监督学习、分类算法 算法原理 通过预测点计算距离训练样本点之间的距离,获取前k个最近的距离的训练样本点,通过该k个训练样本点所属分类投票来决定该预测点的种类(k一般取值为奇数)。(距离衡量可以为欧式距离、曼哈顿距离等等,具体看实际情况而定) 代码实现 调用库函数版: from sklearn import neighbors from sklearn import datasets #得...原创 2019-06-02 23:43:50 · 465 阅读 · 0 评论 -
ID3(决策树算法)
python代码的实现如下: from sklearn.feature_extraction import DictVectorizer import csv from sklearn import preprocessing from sklearn import tree from sklearn.externals.six import StringIO allElectronicsDat...原创 2019-06-02 19:26:14 · 1223 阅读 · 1 评论 -
简单线性回归(Simple Linear Regression)
简单线性回归: 有且仅有一个自变量x,一个因变量y,x、y之间有线性关系,并且y是连续型变量。 假设方程为: y=b0+b1xy=b_0+b_1xy=b0+b1x 假设有n个样本(即有n个x,n个y) 算法步骤: 求出x‾\overline{x}xx‾=1n∑i=1nxi\overline{x}=\dfrac{1}{n}\sum_{i=1}^nx_ix=n1i=1∑nxi 求出y‾\o...原创 2019-06-18 20:43:42 · 781 阅读 · 0 评论 -
SVM(支持向量机)
分类 监督学习、分类问题 算法原理 当样本线性可分的时候,寻找能切分样本并且最大间距的一个直线、平面或者超平面。 当样本非线性可分的时候,通过核函数映射到高维空间种,让样本线性可分。 代码实现 样本线性可分的情况: from sklearn import svm x=[[2,0],[1,1],[2,3]]#样本特征 y=[0,0,1]#样本标签 clf = svm.SVC(kernel = "li...原创 2019-06-05 20:14:27 · 239 阅读 · 0 评论 -
Machine Learning入门笔记
machine learning的方式有两种 监督学习 无监督学习 事件问题分为两种: 回归问题 分类问题原创 2019-05-23 00:38:13 · 288 阅读 · 0 评论 -
Kmeans算法(无监督学习、聚类算法)
算法思想 如果你想把多个样本自动学习后分成k类,就可以使用k-means算法。首先随机取里面的k个点作为初始中心点,每个点离哪个中心点距离最近就属于哪一个分类,然后再根据同一类的点求均值得出新的中心点。以上步骤不断迭代到中心点的位置不变或者次数达到某个阈值,算法停止。 代码 import numpy as np #x是数据集,k是种类,maxIt最多循环次数 def kmeans(X, k, m...原创 2019-07-12 13:37:18 · 489 阅读 · 0 评论