DataWhale夏令营深度学习Task1笔记

1. 概述

机器学习（Machine Learning, ML）是指机器通过算法来寻找一个函数，从而完成特定任务的过程。深度学习（Deep Learning, DL）则是机器学习的一个分支，利用多层神经网络自动学习数据特征。机器学习可用于解决多种问题，如语音识别、图像识别和棋类游戏。

2. 机器学习的类型

• 回归（Regression）：任务是预测一个数值输出。例子：根据历史数据预测未来某一时间的PM2.5数值。
• 分类（Classification）：任务是从多个预定义类别中选择一个作为输出。例子：邮箱中的垃圾邮件分类。
• 结构化学习（Structured Learning）：任务是生成有结构的输出，如生成图像或文章。

3. 案例学习：视频点击次数预测

目标：通过历史数据预测某视频频道的次日观看次数。
步骤：

1. 模型构建：假设一个带有未知参数的函数，如 y=b+wx1y=b+wx1​，其中 yy 为预测的观看次数，x1x1​ 为前一天的观看次数，bb 和 ww 是需要通过数据训练获得的未知参数。
2. 损失函数定义：计算预测值与实际值之间的误差，用损失函数 L(b,w)L(b,w) 表示模型的性能。常见的损失函数包括平均绝对误差（MAE）和均方误差（MSE）。
3. 优化：通过梯度下降法找到使损失函数最小的参数值 w∗w∗ 和 b∗b∗，即最佳模型参数。

4. 优化方法：梯度下降

• 梯度下降：通过计算损失函数相对于参数的导数来调整参数，以最小化损失。每次迭代参数更新的步伐由梯度和学习率共同决定。
• 局部最小值与全局最小值：梯度下降有时可能停在一个局部最小值而非全局最小值，但实际上，局部最小值问题在深度学习中并不是主要问题。

5. 案例总结

在例子中，优化后获得的参数 w∗=0.97w∗=0.97，b∗=100b∗=100 能够较准确地预测视频的观看次数。在训练数据上误差为480，而在未见过的数据上误差为0.58，显示了模型的有效性。