【学习笔记】动手学深度学习1

动手学深度学习笔记1

关于本书数字：

• 标量可以看作0维张量
• 向量可以看作1维张量
• 矩阵可以看作2维张量
• 张量可以看作一个多维数组

关于本书函数和运算符

• 指示函数是定义在某集合X上的函数，表示其中有哪些元素属于子集A。
• 点乘，首先保证矩阵的结构相同，再把对应位置的数值相乘。
• 集合的基数，是指集合元素的个数（也成为集合的势）
• Lp正则
• L2正则

正则化：对某一问题加以先验的限制或约束以达到某种特定目的的一种手段或操作。在算法中使用正则化的目的是防止模型出现过拟合*。

• 点积：即内积

1.1日常生活中的机器学习

概念定义

• 参数：可以看作旋钮，可以转动它来调整程序的行为。
• 模型：任一调整参数的程序后。
• 模型族：通过操作参数生成不同程序（输入-输出映射）的集合。
• 学习算法：使用数据集来选择参数的元程序
• 学习：在机器学习中，学习（learning）是一个模型的训练过程。

训练过程通常包含以下步骤：

1. 从一个随机初始化参数的模型开始，这个模型基本毫不智能。
2. 获取一些数据样本
3. 调整参数，使模型在样本中表现的更好
4. 重复2，3，直到模型的结果令人满意。