一、监督学习与无监督学习
1、监督学习是指有标签,常用于分类任务和回归任务。
2、无监督学习是指无标签,聚类任务。
二、KNN,K-Nearest Neighbors k最近邻居算法,是一种监督学习算法,常见;另一种常见的还有k——means算法,但它是一种无监督学习算法;
KNN算法实际上是测一个新的值 x 的时候,根据它距离最近的 K 个点是什么类别来判断 x 属于哪个类别。
三、深度学习是机器学习的一个子集,是利用多层神经网络从大量数据中进行学习,可以说成是设计一个很深的网络架构让机器自己学。
深度学习的输入可以是 向量、矩阵(张量)、序列;输出可对应三种不同的任务,回归、分类、生成。比如根据以前的温度预测明天的温度,输入的是向量,是典型的回归任务;分类任务的输入也可以是图片(张量),句子(序列)。生成任务即是结构化的输出,如chatgpt。
深度学习的基本步骤
1、定义一个函数(模型)
2、定义一个合适的损失函数,loss的值为预测值与真实值的差
3、根据损失对模型进行优化(optimization)
梯度下降法来对模型进行参数调优