【机器学习】【初始化】

机器学习

2022吴恩达4.4 学习率_哔哩哔哩_bilibili

有更好的可以推荐 ！_ ！

1、Welcome

机器学习很重要，很厉害，应用广泛。

学习算法

2.what is Machine Learning？

2.1机器学习的定义

Field of study that gives computers the ability to learn without being explicitly programmed

百度百科
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。

2.2 监督学习

创造巨大的经济效应

百度百科：
监督学习是指：利用一组已知类别的样本调整分类器的参数，使其达到所要求性能的过程，也称为监督训练或有教师学习。

监督学习是从标记的训练数据来推断一个功能的机器学习任务。训练数据包括一套训练示例。在监督学习中，每个实例都是由一个输入对象（通常为矢量）和一个期望的输出值（也称为监督信号）组成。监督学习算法是分析该训练数据，并产生一个推断的功能，其可以用于映射出新的实例。一个最佳的方案将允许该算法来正确地决定那些看不见的实例的类标签。这就要求学习算法是在一种“合理”的方式从一种从训练数据到看不见的情况下形成。

回归–>预测数字 0~45

卖房子

分类–>0或1或更多 or

乳腺癌检测 猫狗判断

2.3无监督学习

Data only comes with inputs x, but not output labels y.
Algorithm has to find structure in the data.

百度百科：
现实生活中常常会有这样的问题：缺乏足够的先验知识，因此难以人工标注类别或进行人工类别标注的成本太高。很自然地，我们希望计算机能代我们完成这些工作，或至少提供一些帮助。根据类别未知(没有被标记)的训练样本解决模式识别中的各种问题，称之为无监督学习。

聚类算法 ：将未标记的数据放置在不同的集群中

google news 找相似文章

聚类遗传

异常检测(Anomaly detection) 用于检测异常事件

金融领域的欺诈检测

降维(dimensionality reduction) 压缩数据

2.4 Jupter notebooks

最好用，需要系统学习，找个学习视频学习一下。

3.

4. Gradient Descent

4.1梯度下降

梯度下降的算法在机器学习中无处不在

百度百科：

梯度下降是迭代法的一种,可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降（Gradient Descent）是最常采用的方法之一，另一种常用的方法是最小二乘法。在求解损失函数的最小值时，可以通过梯度下降法来一步步的迭代求解，得到最小化的损失函数和模型参数值。反过来，如果我们需要求解损失函数的最大值，这时就需要用梯度上升法来迭代了。在机器学习中，基于基本的梯度下降法发展了两种梯度下降方法，分别为随机梯度下降法和批量梯度下降法。

4.2梯度下降的实现

4.3理解梯度下降

4.4学习率(Alpha)

学习率控制更新模型参数w 和 b时的步长。派生项

4.5用于线性回归的梯度下降

4.6 运行梯度下降