L1142456160的博客

详细解释了Logistic Regression的原理，背景和损失函数、优化的目标函数、优化算法-梯度下降。以及包含上述概念的数学推导

本文介绍了动态规划思想应用于解决马尔可夫决策过程求解方法。包括策略迭代和价值迭代。以及在免模型情况下，使用蒙特卡罗和TD方法解决的思想

本文介绍了强化学习基本概念和马尔可夫过程、马尔可夫奖励过程、马尔可夫决策过程的性质、奖励函数、回报、状态价值函数、Q函数以及其差别。

书生.浦语大模型的大致介绍以及开发平台的示例运行介绍

本节是CSW224第一部分的最后一节（semi-supervised node classification），用一部分已知标签的节点去预测剩下的未知标签的节点。注意：半监督与监督学习不同，这里将已经学到的模型泛化到上，仅仅是对原图的剩余节点进行分类，因为在学习模型时，原图的未知标签的节点也可能用于训练。这种被称为，与之相对应的是。对于图神经网络，是可以做到归纳式学习。

本文是我参加Datawhale的CS224W图机器学习时的笔记，第一次学习图机器学习，对node2vec的理解。node2vec也是在DeepWalk和LINE基础上，同样借助自然语言处理领域的词嵌入思想。主要改进了DeepWalk僵硬的随机游走节点选择策略，提供了可以调参的节点选择策略。可以捕捉到节点的同质社群信息和功能角色信息

本文是我参加Datawhale的CS224W图机器学习时的笔记，第一次学习图机器学习，对DeepWalk这篇开山之作的理解。

在这里，我们引入神经网络块的概念。块(block)可以描述单个层或、多个层组成的组件或者整个模型本身。可以通过递归的方式将一些块组合成更大的组件。从编程的角度来看，块由类（class）表示。 它的任何子类都必须定义一个将其输入转换为输出的前向传播函数， 并且必须存储任何必需的参数。 注意，有些块不需要任何参数。 最后，为了计算梯度，块必须具有反向传播函数。 在定义我们自己的块时，由于自动微分（在 2.5节 中引入） 提供了一些后端实现，我们只需要考虑前向传播函数和必需的参数。在构造自定义块之前，我们先回顾一

本文基于DataWhale集成学习第二章：机器学习基础内容和周志华老师的《机器学习》第二章模型评估与选择整合而来，主要介绍了模型评估与选择的目的、方法和步骤。其中训练误差和测试误差、偏差和方差的均衡介绍了有关测试误差的内在关联。估计测试误差介绍了直接估计和间接估计两种方法。在测试误差能够被合理的估计出来以后，我们做特征选择的目标就是：从p个特征中选择m个特征，使得对应的模型的测试误差的估计最小。介绍了最优子集选择和向前逐步选择。以及压缩估计（正则化）和降维（PCA）

回归模型的评估指标有平均绝对值误差、均方误差、均方根误差、R平方值、Huber损失、Log-Cosh损失函数。也称L1损失（MAE）是预测值与真实值之差的绝对值，计算公式如下：MAE=1n∑i=1n∣fi−yi∣=1n∑i=1neiMAE = \frac{1}{n}\sum_{i=1}^n{|f_i-y_i|}=\frac{1}{n}\sum_{i=1}^n{e_i}MAE=n1​i=1∑n​∣fi​−yi​∣=n1​i=1∑n​ei​以下是sklearn中调用MAE的示例代码：均方误差也称L2损

通过paddle paddle提供的基础API搭建一层神经网络，用于识别MNIST数据集，准确率25%，此为极简方案，目的是让同学们快速入手深度学习框架的使用。主要涉及数据处理、模型设计、训练和测试

图像标注工具labelme&labelImg安装介绍

决策树系列算法介绍和实战，未完待续！决策树算法的大致流程如下：注：下图的数据集为后续操作的训练数据集特征是机器学习中自变量的别名。特征选择就是在一系列自变量中选择出对分类最有用的变量。特征选择是一个较大知识领域，主要目的是筛选出对项目目标有帮助的样本属性。在决策树中，特征选择有三大主流方法，分别是信息增益、增益率、基尼系数。其中信息增益和增益率都是由Quinlan创造的。参考西瓜书第十一章特征选择与稀疏学习信息增益参考文章随机事件x,发生概率的对数的相反数。或者随机事件x带给我们的信息量。用I(x)表示，单

本文改编自《阿里云天池大赛赛题解析-机器学习篇》的第一部分工业蒸汽量预测的第四章-模型训练的内容。根据原有内容进行了部分素材的替换和知识点的归纳总结。sklearn模型训练步骤的总结，以及对线性回归、K近邻回归、树回归、随机森林和LightGBM回归的使用介绍

本文改编自《阿里云天池大赛赛题解析-机器学习篇》工业蒸汽量预测的模型验证。进行了部分素材的替换和知识点的归纳总结。新增了周志华-《机器学习》中的模型评估，以及Datawhale8月集成学习中的偏差与方差的均衡。新增了Lasso和岭回归的调用方法

本文主要介绍阿里云天池大数据平台的学习赛——工业蒸汽量预测。文章内容来自《阿里云天池大赛赛题解析》以及我自己的理解。涉及到的技术点包括数据分析、缺失值、异常值的处理、新变量生成、多种数据可视化（KDE、线性回归、直方图、Q-Q图、箱形图）以及特征变量之间的相关性计算、热力图展示因内容较多，此后会不断更新

本文改编自《阿里云天池大赛赛题解析-机器学习篇》工业蒸汽量预测的模型调参。进行了部分素材的替换和知识点的归纳总结。新增了Datawhale8月集成学习中的网格搜索、随机搜索的内容

本篇是《阿里云天池大赛赛题解析-机器学习篇》的第一部分工业蒸汽量预测的第三章-特征工程的内容，并附带了一些知识点的网页链接。内有数据预处理、特征降维等内容。

主要介绍人工智能领域的分支——机器学习。机器学习的大致分类，详细解释了KNN算法的几个重要知识点

一定要手动配置环境变量，不要自动配置在开始-Anaconda-Anaconda Navigator。打不开找了一堆资料后，尝试后也没打开，也正常，对于这种集成度很高的软件安装肯定不会很顺利。同样的一个问题发生可能是由不同的细微原因引起的，有的很简单，有的很复杂。所以我们一定要去发现自己的错误原因。那么去cmd去运行试试吧首先找到anaconda-navigator.exe 位于F:\Anaconda\pkgs\anaconda-navigator-1.10.0-py38_0\Scripts> 当然盘符要

本文是源于Datawhale8月集成学习第一章数学基础的高等数学小节，增加了一些概念的解释链接和部分代码的注释，希望对大家有所帮助

本文改编自Datawhale2021年8月集成学习，加入了一些自己的修改和注解。重点介绍了优化模型；训练均方误差与测试均方误差；偏差-方差的均衡；特征提取；压缩估计；降维