1. k-means的步骤随机设置K个特征空间内的点作为初始的聚类中心对于其他每个点计算到K个中心的距离，未知的点选择最近的一个聚类中心点作为标记类别接着对着标记的聚类中心之后，重新计算出每个聚类的新中心点（平均值）如果计算得出的新中心点与原中心点一样，那么结束，否则重新进行第二步过程2. apisklearn.cluster.KMeans(n_clusters=8,init=‘...

1. 逻辑回归定义是一种二分类算法， 处理二分类问题的利器线性回归的式子作为输入， 也能得出概率值2. sigmoid函数[0,1]区间的概率值，默认0.5作为阀值3. 逻辑回归的损失函数、优化与现行回归原理相同， 但由于是分类问题， 损失函数不一样， 只能通过梯度下降求解对数似然损失函数cost(hθ(x),y) = -log(hθ(x)) ...

1. 线性回归： 寻找一种能预测的趋势, 线性回归通过一个或者多个自变量（特征值）与因变量（目标值）之间进行建模的回归分析1.1. 线性关系二维：直线关系三维：特征， 目标值， 平面当中1.2. 线性关系定义单个特征y = kx + b 加b是为了对于单个特征的情况更加通用多个特征y = k1房子面积 + k2房子位置 + b1.3. 线性模型f(x)...

1. 信息论的基础 - 香农1.1. 信息熵32支球队，log32=5比特64支球队，log64=6比特“谁是世界杯冠军”的信息量应该比5比特少。香农指出，它的准确信息量应该是：H = -(p1logp1 + p2logp2 + ... + p32log32)H的专业术语称之为信息熵，单位为比特公式：H = -(p1logp1 + p2logp2 + ... + p32log...

1. 准确率estimator.score(): 一般最常见使用的是准确率，即预测结果正确的百分比2. 混淆矩阵在分类任务下，预测结果(Predicted Condition)与正确标记(True Condition)之间存在四种不同的组合，构成混淆矩阵(适用于多分类) （预测结果） 正例 假例（真实结果）正例 ...

1. 朴素贝叶斯算法的前提： 特征独立（有的时候说朴素指的就是“特征独立”）朴素贝叶斯中的“朴素”二字突出了这个算法的简易性。朴素贝叶斯的简易性表现该算法基于一个很朴素的假设：所有的变量都是相互独立的，假设各特征之间相互独立，各特征属性是条件独立的。2. 联合概率P(A,B) = P(A)P(B)3. 条件概率P(A|B) = P(AB) / P(B)特性：P(A1,A2...

实现from sklearn.datasets import load_irisfrom sklearn.model_selection import train_test_splitfrom sklearn.preprocessing import StandardScalerfrom sklearn.neighbors import KNeighborsClassifier# 加载...

1. 链接： https://www.kaggle.com/c/facebook-v-predicting-check-ins/overview2. 实现from sklearn.neighbors import KNeighborsClassifierimport pandas as pdfrom sklearn.model_selection import train_test_spl...

1. scikit-learn优点：封装好，建立模型简单， 预测简单2. scikit-learn缺点：算法的过程，有些参数都在算法api内部优化3. tensorflow封装高低，自己实现线性回归，学习率等等...

1. matplotlib 绘图1.1. 案例一(折线图)import matplotlibimport randomfrom matplotlib import pyplot as plt# 设置字体matplotlib.rc("font",family='MicroSoft YaHei',weight="bold")# x,y的取值x = range(120)y = [ra...