程序猿-凡白的博客

安装face_recognition会报错CMake must be installed to build the following extensions: _dlib_pybind11首先pip install CMake安装完成后下载dlib的wheel下载点击????dlib安装包????如需免费下载请点个赞在评论区留下邮箱哦！...

运动传感器1.访问微信公众平台 https://mp.weixin.qq.com2.查看服务号开发文档3.开始开发>接口测试号申请>进入微信公众帐号测试号申请系统4.扫码登录即可将app ID和appsecret记录下来将微信号记录下来安装HTTP库 requests：pip install requests安装opencvpip install opencv-python编写代码运动检测from playsound import playsoundim

文章目录6.8 算法选择指导**关于在计算的过程中，如何选择合适的算法进行计算，可以参考scikit learn官方给的指导意见：**6.8 算法选择指导关于在计算的过程中，如何选择合适的算法进行计算，可以参考scikit learn官方给的指导意见：...

文章目录6.7 案例：探究用户对物品类别的喜好细分学习目标1 需求2 分析3 完整代码2.1 合并表格6.7 案例：探究用户对物品类别的喜好细分学习目标应用pca和K-means实现用户对物品类别的喜好细分划分数据如下：order_products__prior.csv：订单与商品信息字段：order_id, product_id, add_to_cart_order, reorderedproducts.csv：商品信息字段：product_id, product_name

文章目录6.6 特征降维学习目标1 降维1.1 定义1.2 降维的两种方式2 特征选择2.1 定义2.2 方法2.3 低方差特征过滤2.3.1 API2.3.2 数据计算2.4 **相关系数**2.4.1 皮尔逊相关系数(Pearson Correlation Coefficient)2.4.2 斯皮尔曼相关系数(Rank IC)3 主成分分析3.1 什么是主成分分析(PCA)3.2 API3.3 数据计算4 小结6.6 特征降维学习目标了解降维的定义知道通过低方差过滤实现降维过程知道相关系数实

文章目录6.5 算法优化学习目标1 Canopy算法配合初始聚类1.1 Canopy算法配合初始聚类实现流程1.2 Canopy算法的优缺点2 K-means++3 二分k-means4 k-medoids（k-中心聚类算法）5 Kernel k-means（了解）6 ISODATA（了解）7 Mini Batch K-Means（了解）8 小结6.5 算法优化学习目标知道k-means算法的优缺点知道canopy、K-means++、二分K-means、K-medoids的优化原理了解kern

文章目录6.4 模型评估学习目标1 误差平方和(SSE \\The sum of squares due to error)：2 **“肘”方法 (Elbow method)** — K值确定3 轮廓系数法（Silhouette Coefficient）4 CH系数（Calinski-Harabasz Index）5 小结6.4 模型评估学习目标知道模型评估中的SSE、“肘”部法、SC系数和CH系数的实现原理1 误差平方和(SSE \The sum of squares due to erro

文章目录6.3 聚类算法实现流程学习目标1 k-means聚类步骤2 案例练习3 小结6.3 聚类算法实现流程学习目标掌握K-means聚类的实现步骤k-means其实包含两层内容：​ K : 初始中心点个数（计划聚类数）​ means：求中心点到其他数据点距离的平均值1 k-means聚类步骤1、随机设置K个特征空间内的点作为初始的聚类中心2、对于其他每个点计算到K个中心的距离，未知的点选择最近的一个聚类中心点作为标记类别3、接着对着标记的聚类中心之后，重新计算出每个

6.2 聚类算法api初步使用学习目标知道聚类算法API的使用1 api介绍sklearn.cluster.KMeans(n_clusters=8)参数:n_clusters:开始的聚类中心数量整型，缺省值=8，生成的聚类数，即产生的质心（centroids）数。方法:estimator.fit(x)estimator.predict(x)estimator.fit_predict(x)计算聚类中心并预测每个样本属于哪个类别,相当于先调用fit(x),然后再调

文章目录聚类算法学习目标6.1 聚类算法简介学习目标1 认识聚类算法1.1 聚类算法在现实中的应用1.2 聚类算法的概念1.3 聚类算法与分类算法最大的区别2 小结聚类算法学习目标掌握聚类算法实现过程知道K-means算法原理知道聚类算法中的评估模型说明K-means的优缺点了解聚类中的算法优化方式知道特征降维的实现过程应用Kmeans实现聚类任务6.1 聚类算法简介学习目标知道聚类算法的概念了解聚类算法和分类算法的最大区别1 认识聚类算法使用不同的聚类准则，产生

文章目录5.3 Boosting学习目标1.boosting集成原理1.1 什么是boosting1.2 实现过程：1.训练第一个学习器2.调整数据分布3.训练第二个学习器4.再次调整数据分布5.依次训练学习器，调整数据分布**6.整体过程实现**1.3 api介绍2 GBDT(了解)2.1 梯度的概念(复习)2.2 GBDT执行流程2.3 案例2.4 GBDT主要执行思想3.XGBoost【了解】4 什么是泰勒展开式【拓展】5 小结5.3 Boosting学习目标知道boosting集成原理和实现

文章目录5.2 Bagging学习目标1 Bagging集成原理2 随机森林构造过程3 随机森林api介绍4 随机森林预测案例5 bagging集成优点6 小结5.2 Bagging学习目标知道Bagging集成原理知道随机森林构造过程知道RandomForestClassifier的使用了解baggind集成的优点1 Bagging集成原理目标：把下面的圈和方块进行分类实现过程：1.采样不同数据集2.训练分类器3.平权投票，获取最终结果4.主要实现过程小结2 随机

文章目录集成学习学习目标5.1 集成学习算法简介学习目标1 什么是集成学习2 **复习：机器学习的两个核心任务**3 集成学习中boosting和Bagging4 小结集成学习学习目标了解集成学习中主要解决的两个核心任务知道bagging集成原理知道随机森林决策树的建立过程知道为什么需要随机有放回(Bootstrap)的抽样应用RandomForestClassifie实现随机森林算法知道boosting集成原理知道bagging和boosting的区别了解gbdt实现过程5.1

文章目录4.5 决策树算法api学习目标4.6 案例：泰坦尼克号乘客生存预测学习目标1 案例背景2 步骤分析3 代码实现4 决策树可视化4.1 保存树的结构到dot文件4.2 网站显示结构5 决策树总结6 小结4.5 决策树算法api学习目标知道决策树算法api的具体使用class sklearn.tree.DecisionTreeClassifier(criterion=’gini’, max_depth=None,random_state=None)criterion特征选择标准

文章目录4.4 特征工程-特征提取学习目标1 特征提取1.1 定义1.2 特征提取API2 字典特征提取2.1 应用2.2 流程分析2.3 总结3 文本特征提取3.1 应用3.2 流程分析3.3 jieba分词处理3.4 案例分析3.5 Tf-idf文本特征提取3.5.1 公式3.5.2 案例3.6 Tf-idf的重要性4 小结4.4 特征工程-特征提取学习目标了解什么是特征提取知道字典特征提取操作流程知道文本特征提取操作流程知道tfidf的实现思想什么是特征提取呢？1 特征提取

文章目录4.3 cart剪枝学习目标1 为什么要剪枝2 常用的减枝方法**2.1 预剪枝****2.2** 后剪枝：3 小结4.3 cart剪枝学习目标了解为什么要进行cart剪枝知道常用的cart剪枝方法1 为什么要剪枝图形描述横轴表示在决策树创建过程中树的结点总数，纵轴表示决策树的预测精度。实线显示的是决策树在训练集上的精度，虚线显示的则是在一个独立的测试集上测量出来的精度。随着树的增长，在训练样集上的精度是单调上升的， 然而在独立的测试样例上测出的精度先上升后下降。

文章目录决策树算法学习目标4.1 决策树算法简介学习目标4.2 决策树分类原理学习目标1 熵1.1 概念1.2 案例2 决策树的划分依据一----信息增益2.1 **概念**2.2 案例：3 决策树的划分依据二----信息增益率3.1 概念3.2 案例3.2.1 案例一3.2.2 案例二3.3 为什么使用C4.5要好4 决策树的划分依据三 ----基尼值和基尼指数4.1 概念4.2 案例**5 小结**5.1 常见决策树的启发函数比较**5.1.1 ID3 算法****5.1.2 C4.5算法**5.1.3

文章目录3.5 ROC曲线的绘制学习目标1 曲线绘制1.1 如果概率的序列是（1:0.9,2:0.7,3:0.8,4:0.6,5:0.5,6:0.4）。1.2 如果概率的序列是（1:0.9,2:0.8,3:0.7,4:0.6,5:0.5,6:0.4）1.3 如果概率的序列是（1:0.4,2:0.6,3:0.5,4:0.7,5:0.8,6:0.9）2 意义解释3 小结3.5 ROC曲线的绘制学习目标知道ROC曲线的绘制关于ROC曲线的绘制过程，通过以下举例进行说明假设有6次展示记录，有两次被点

文章目录3.4 分类评估方法学习目标1.分类评估方法1.1 精确率与召回率1.1.1 混淆矩阵1.1.2 精确率(Precision)与召回率(Recall)1.2 F1-score1.3 分类评估报告api2 ROC曲线与AUC指标2.1 TPR与FPR2.2 ROC曲线2.3 AUC指标2.4 AUC计算API0.5~1之间，越接近于1约好3 小结3.4 分类评估方法学习目标了解什么是混淆矩阵知道分类评估中的精确率和召回率知道roc曲线和auc指标1.分类评估方法1.1 精确率与召回率

文章目录3.3 案例：癌症分类预测-良／恶性乳腺癌肿瘤预测学习目标1 背景介绍2 案例分析3 代码实现4 小结3.3 案例：癌症分类预测-良／恶性乳腺癌肿瘤预测学习目标通过肿瘤预测案例，学会如何使用逻辑回归对模型进行训练1 背景介绍数据介绍原始数据的下载地址：https://archive.ics.uci.edu/ml/machine-learning-databases/数据描述（1）699条样本，共11列数据，第一列用语检索的id，后9列分别是与肿瘤相关的医学特征，最后一

文章目录逻辑回归学习目标3.1 逻辑回归介绍学习目标1 逻辑回归的应用场景2 逻辑回归的原理2.1 输入2.2 激活函数3 损失以及优化3.1 损失3.2 优化3.2 逻辑回归api介绍4 小结逻辑回归学习目标知道逻辑回归的损失函数、优化方法知道逻辑回归的应用场景应用LogisticRegression实现逻辑回归预测知道精确率、召回率等指标的区别知道如何解决样本不均衡情况下的评估会绘制ROC曲线图形逻辑回归介绍 | 机器学习算法课程定位、目标3.1 逻辑回归介绍学习目标了解逻

文章目录2.11 模型的保存和加载学习目标1 sklearn模型的保存和加载API2 线性回归的模型保存加载案例3 小结2.11 模型的保存和加载学习目标知道sklearn中模型的保存和加载1 sklearn模型的保存和加载APIfrom sklearn.externals import joblib保存：joblib.dump(estimator, ‘test.pkl’)加载：estimator = joblib.load(‘test.pkl’)2 线性回归的模型保存加载案

文章目录2.10 线性回归的改进-岭回归学习目标1 API2 观察正则化程度的变化，对结果的影响？3 波士顿房价预测4 小结2.10 线性回归的改进-岭回归学习目标知道岭回归api的具体使用1 APIsklearn.linear_model.Ridge(alpha=1.0, fit_intercept=True,solver=“auto”, normalize=False)具有l2正则化的线性回归alpha:正则化力度，也叫 λλ取值：0~1 1~10solver:会根据数

文章目录2.9 正则化线性模型学习目标1 Ridge Regression (岭回归，又名 Tikhonov regularization)2 Lasso Regression(Lasso 回归)3 Elastic Net (弹性网络)4 Early Stopping [了解]5 小结2.9 正则化线性模型学习目标知道正则化中岭回归的线性模型知道正则化中lasso回归的线性模型知道正则化中弹性网络的线性模型了解正则化中early stopping的线性模型Ridge Regressio

文章目录2.8 欠拟合和过拟合学习目标1 定义2 原因以及解决办法3 正则化3.1 什么是正则化3.2 正则化类别4 小结2.8 欠拟合和过拟合学习目标掌握过拟合、欠拟合的概念掌握过拟合、欠拟合产生的原因知道什么是正则化，以及正则化的分类1 定义过拟合：一个假设在训练数据上能够获得比其他假设更好的拟合， 但是在测试数据集上却不能很好地拟合数据，此时认为这个假设出现了过拟合的现象。(模型过于复杂)欠拟合：一个假设在训练数据上不能获得更好的拟合，并且在测试数据集上也不能很好地拟合数据，此

维灾难1 什么是维灾难随着维度的增加，分类器性能逐步上升，到达某点之后，其性能便逐渐下降有一系列的图片，每张图片的内容可能是猫也可能是狗；我们需要构造一个分类器能够对猫、狗自动的分类。首先，要寻找到一些能够描述猫和狗的特征，这样我们的分类算法就可以利用这些特征去识别物体。猫和狗的皮毛颜色可能是一个很好的特征，考虑到红绿蓝构成图像的三基色，因此用图片三基色各自的平均值称得上方便直观。这样就有了一个简单的Fisher分类器：If 0.5*red + 0.3*green + 0.2*blue >

文章目录2.7 案例：波士顿房价预测学习目标1 案例背景介绍2 案例分析3 回归性能评估4 代码实现4.1 正规方程4.2 梯度下降法5 小结2.7 案例：波士顿房价预测学习目标通过案例掌握正规方程和梯度下降法api的使用1 案例背景介绍数据介绍给定的这些特征，是专家们得出的影响房价的结果属性。我们此阶段不需要自己去探究特征是否有用，只需要使用这些特征。到后面量化很多特征需要我们自己去寻找2 案例分析回归当中的数据大小不一致，是否会导致结果影响较大。所以需要做标准化处理。

文章目录2.6 线性回归api再介绍学习目标小结2.6 线性回归api再介绍学习目标了解正规方程的api及常用参数了解梯度下降法api及常用参数sklearn.linear_model.LinearRegression(fit_intercept=True)通过正规方程优化参数fit_intercept：是否计算偏置属性LinearRegression.coef_：回归系数LinearRegression.intercept_：偏置sklearn.linea

文章目录2.5 梯度下降法介绍学习目标1 全梯度下降算法（FG）2 随机梯度下降算法（SG）3 小批量梯度下降算法（mini-batch）4 随机平均梯度下降算法（SAG）5 小结2.5 梯度下降法介绍学习目标知道全梯度下降算法的原理知道随机梯度下降算法的原理知道随机平均梯度下降算法的原理知道小批量梯度下降算法的原理常见的梯度下降算法有：全梯度下降算法(Full gradient descent）,随机梯度下降算法（Stochastic gradient descent）,小批量梯

梯度下降法算法比较和进一步优化常见的梯度下降算法有：全梯度下降算法(Full gradient descent）,随机梯度下降算法（Stochastic gradient descent）,小批量梯度下降算法（Mini-batch gradient descent）,随机平均梯度下降算法（Stochastic average gradient descent）它们都是为了正确地调节权重向量，通过为每个权重计算一个梯度，从而更新权值，使目标函数尽可能最小化。其差别在于样本的使用方式不同。我们

正规方程的另一种推导方式1.损失表示方式总损失定义为：yi为第i个训练样本的真实值h(xi)为第i个训练样本特征值组合预测函数又称最小二乘法2.另一种推导方式把损失函数分开书写：对展开上式进行求导：需要求得求导函数的极小值，即上式求导结果为0，经过化解，得结果为：经过化解为：补充：需要用到的矩阵求导公式：...

文章目录2.4 线性回归的损失和优化学习目标1 损失函数2 优化算法2.1 正规方程2.1.1 什么是正规方程2.1.2 正规方程求解举例2.1.3 正规方程的推导2.2 梯度下降(Gradient Descent)2.2.1 什么是梯度下降2.2.2 梯度的概念2.2.3 梯度下降举例2.2.4 梯度下降**（**Gradient Descent）公式3 梯度下降和正规方程的对比3.1 算法选择依据：4 小结2.4 线性回归的损失和优化学习目标知道线性回归中损失函数知道使用正规方程对损失函数优化

文章目录2.3 数学:求导学习目标1 常见函数的导数2 导数的四则运算3 练习4 矩阵（向量）求导 \[了解\]5 小结2.3 数学:求导学习目标知道常见的求导方法知道导数的四则运算1 常见函数的导数2 导数的四则运算3 练习答案：4 矩阵（向量）求导 [了解]参考链接：https://en.wikipedia.org/wiki/Matrix_calculus#Scalar-by-vector_i

文章目录2.2 线性回归api初步使用学习目标1 线性回归API2 举例2.1 步骤分析2.2 代码过程3 小结2.2 线性回归api初步使用学习目标知道线性回归api的简单使用1 线性回归APIsklearn.linear_model.LinearRegression()LinearRegression.coef_：回归系数2 举例2.1 步骤分析1.获取数据集2.数据基本处理（该案例中省略）3.特征工程（该案例中省略）4.机器学习5.模型评估（该案例中省略）

文章目录线性回归学习目标2.1 线性回归简介学习目标1 线性回归应用场景2 什么是线性回归2.1 定义与公式2.2 线性回归的特征与目标的关系分析3 小结线性回归学习目标掌握线性回归的实现过程应用LinearRegression或SGDRegressor实现回归预测知道回归算法的评估标准及其公式知道过拟合与欠拟合的原因以及解决方法知道岭回归的原理及与线性回归的不同之处应用Ridge实现回归预测应用joblib实现模型的保存与加载线性回归简介 | 机器学习算法课程定位、目标2.1 线

文章目录1.11 案例2：预测facebook签到位置学习目标1 项目描述2 数据集介绍3 步骤分析4 代码实现1.11 案例2：预测facebook签到位置学习目标目标通过Facebook位置预测案例熟练掌握第一章学习内容1 项目描述本次比赛的目的是预测一个人将要签到的地方。 为了本次比赛，Facebook创建了一个虚拟世界，其中包括10公里*10公里共100平方公里的约10万个地方。 对于给定的坐标集，您的任务将根据用户的位置，准确性和时间戳等预测用户下一次的签到位置。 数据被制

文章目录1.10 交叉验证，网格搜索学习目标1 什么是交叉验证(cross validation)1.1 分析1.2 为什么需要交叉验证2 什么是网格搜索(Grid Search)3 交叉验证，网格搜索（模型选择与调优）API：4 鸢尾花案例增加K值调优5 总结1.10 交叉验证，网格搜索学习目标目标知道交叉验证、网格搜索的概念会使用交叉验证、网格搜索优化训练模型1 什么是交叉验证(cross validation)交叉验证：将拿到的训练数据，分为训练和验证集。以下图为例：将数据分成

1.9 k近邻算法总结在案例1中，具体完成内容有：使用可视化加载和探索数据，以确定特征是否能将不同类别分开。通过标准化数字特征并随机抽样到训练集和测试集来准备数据。通过统计学，精确度度量进行构建和评估机器学习模型。k近邻算法总结优点：简单有效重新训练的代价低适合类域交叉样本KNN方法主要靠周围有限的邻近的样本,而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，KNN方法较其他方法更为适合。适合大样本自动分类该算法比较适用于

文章目录1.8 案例：鸢尾花种类预测—流程实现学习目标1 再识K-近邻算法API2 案例：鸢尾花种类预测2.1 数据集介绍2.2 步骤分析2.3 代码过程3 总结????本文代码????1.8 案例：鸢尾花种类预测—流程实现学习目标目标知道KNeighborsClassifier的用法1 再识K-近邻算法APIsklearn.neighbors.KNeighborsClassifier(n_neighbors=5,algorithm=‘auto’)n_neighbors：i

文章目录????[本文数据集dating.txt](https://download.csdn.net/download/qq_41855990/12623594)????????[本文代码](https://download.csdn.net/download/qq_41855990/12623590)????1.7 特征工程-特征预处理学习目标1 什么是特征预处理1.1 特征预处理定义1.2 包含内容(数值型数据的无量纲化)1.3 特征预处理API2 归一化2.1 定义2.2 公式2.3 API2.