机器学习算法基础
xiao黄
缓慢而坚定的生长
感兴趣的方向:复杂网络、社区发现(检测)、图神经网络、深度学习、节点重要性
目前研究方向:故障诊断,AMESim建模等
展开
-
sklearn之逻辑回归
逻辑回归 import numpy as np import matplotlib.pyplot as plt from sklearn.metrics import classification_report # 评估分类结果的指标 from sklearn import preprocessing from sklearn import linear_model # 数据是否需要标准化 sca...原创 2019-12-13 17:08:33 · 262 阅读 · 0 评论 -
标准方程法之岭回归
用标准方程法实现岭回归 import numpy as np from numpy import genfromtxt import matplotlib.pyplot as plt # 导入数据 data = np.genfromtxt("C:\\ML\\chapter-1\\longley.csv",delimiter=",") # 这种方法只能读取数字,不能读取字符,字符会变成nan pr...原创 2019-12-08 19:16:51 · 555 阅读 · 0 评论 -
sklearn之岭回归
岭回归(Ridge Regression) 如果数据的特征比样本点还多,数据特征n,样本个数m,如果n>m,则计算(XTX)的逆矩阵时会出错,因为(XTX)不是满秩矩阵,所以不可逆。(注:XT表示X的转置矩阵) 岭回归是有偏估计 岭回归代价函数这里就不贴了 选取λ值使得: 1.各回归系数的岭估计基本稳定; 2.残差平方和增大不多。 import numpy as np from numpy ...原创 2019-12-03 23:38:00 · 591 阅读 · 0 评论 -
K-近邻算法(KNN)
算法简介 K-近邻算法(KNN)是通过测量不同特征值之间的距离进行分类。 该算法的思路是:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别,其中K通常是不大于20的整数。KNN算法中,所选择的邻居都是已经正确分类的对象。该方法在定类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 算法原理 在训练集数据和标签已知...原创 2019-11-25 17:19:00 · 1505 阅读 · 0 评论 -
机器学习基础——标准方程法
标准方程法 J(x) = ax² + bx + c 优点: 不需要学习率; 不需要迭代; 可以得到全局最优解; 缺点: 需要计算(XTX)-1,-1指的是逆; 时间复杂度大约是O(n³); n是特征数量; 考虑是分子布局还是分母布局 分子布局:分子为列向量或者分母为行向量; 分母布局:分子为行向量或者分母为列向量; import numpy as np import matplotlib.py...原创 2019-11-21 22:44:06 · 389 阅读 · 0 评论 -
机器学习基础——sklearn之多项回归
利用sklearn里的函数对多项式进行拟合 第一幅图是数据图 第二幅图是用一元线性回归拟合的图 第三幅图是用多项式回归拟合出来的 import numpy as np import matplotlib.pyplot as plt from sklearn.linear_model import LinearRegression # 线性回归 from numpy import genfromt...原创 2019-11-20 00:03:28 · 539 阅读 · 0 评论 -
机器学习算法基础——sklearn求二元线性回归
直接调用sklearn里面封装好的函数即可 import numpy as np import matplotlib.pyplot as plt from mpl_toolkits.mplot3d import Axes3D # 可以用来画3D图 from sklearn import linear_model from numpy import genfromtxt # 导入数据 data ...原创 2019-11-18 22:36:52 · 1366 阅读 · 0 评论 -
机器学习基础——梯度下降法之二元线性回归
二元线性回归 import numpy as np import matplotlib.pyplot as plt from numpy import genfromtxt from mpl_toolkits.mplot3d import Axes3D # 可以用来画3D图 # 导入数据 data = genfromtxt(r"C:\\ML\\chapter-1\\Delivery.csv",d...原创 2019-11-16 23:37:14 · 533 阅读 · 0 评论 -
机器学习算法基础——梯度下降法之二元线性回归
import numpy as np import matplotlib.pyplot as plt from numpy import genfromtxt from mpl_toolkits.mplot3d import Axes3D # 可以用来画3D图 # 导入数据 data = genfromtxt(r"C:\\ML\\chapter-1\\Delivery.csv",delimite...原创 2019-11-14 09:43:57 · 756 阅读 · 0 评论 -
机器学习算法基础——sklearn求一元线性回归
一元线性回归包含一个因变量一个自变量; 这两个变量的关系采用一条直线来模拟 y = ax + b from sklearn.linear_model import LinearRegression # 线性回归 import numpy as np import matplotlib.pyplot as plt # 载入数据 data = np.genfromtxt("C:\\ML\\chap...原创 2019-11-13 08:27:57 · 381 阅读 · 0 评论 -
机器学习算法基础——梯度下降法求一元线性回归
import numpy as np import matplotlib.pyplot as plt # 载入数据 data = np.genfromtxt("C:\\ML\\chapter-1\\data.csv",delimiter=",") x_data = data[:,0] y_data = data[:,1] plt.scatter(x_data,y_data) plt.show()...原创 2019-10-30 23:22:46 · 434 阅读 · 0 评论