一、英语词汇
2-5
a := b ----> assignment 赋值 将b的值赋值给a
a = b truth assertion 真假判断
derivative term 导数项
α : learning rate 学习率
gradient descent : 梯度下降 ------> simultaneous update : 同步更新
partial derivatives and derivatives : 导数和偏导数
negative slope 负斜率
slanting 倾斜的 使倾斜
2-6
tangent : 切线
slope : 斜率
converge : 收敛
diverge : 发散
multivariate calculus : 多元微积分
plug : 展开
convex function : 凸函数
batch gradient descent 以batch为单位的梯度下降法
3-2
by convention 按照惯例
matrices matrix 矩阵
scalar 标量 vector 向量
3 by 2 matrix 3x2矩阵
one quarter times six is 1.5 四分之一乘以6等于1.5
division 除法
evaluate 考虑
3-4
linear algebra library 线性代数函数库
take advantage of 利用
parallel computation 并行计算
be capable of 能的
multiple call 多个调度
multiple process 多进程
3-5
commutative property of multiplication of real number 实数乘法的交换律
the associative property of real number multiplication 数乘的结合律
terminology 术语
identity matrix 单位阵
Singular matrix 奇异矩阵
matrix transpose 矩阵转置
4-1
multiple variables 多元变量
multiple features 多特征量
feature scaling 特征缩放 ---> 将特征的范围缩放,使梯度下降地更快
mean normalization 均值归一化
4-4
iteration 迭代
4-5
cubic model 三次模型
polynomial regression
4-6 正规方程
normal equation 正规方程 -----> 求解参数θ最优值的好方法
4-7 正规方程在矩阵不可逆的情况
singular matrix 奇异矩阵
degenerate matrix 退化矩阵
pinv(pseudo-inverse) ----> 伪逆(即使不可逆也可以算出来) inv(inverse) ----> 逆
6-1 分类
threshold classifier 阈值分类器
magenta line 品红色线条
logistic regression logistic回归
6-2 陈述假设
sigmoid function / logistic function
6-3 决策边界
decision boundary 决策边界
non-linear decision boundaries 非线性决策边界
6-5 简化代价函数和梯度下降
the principle of maximum likelihood estimation 极大似然法
7-3 线性回归的正则化
regularization parameter 正则化参数
二、章节要点
2-5 梯度下降
- 多元梯度下降法
4-6 正规方程
- 最小化代价函数θ
- θ最小化的公式
- θ推导过程
- θ推导过程
- 正规方程和梯度下降法的抉择问题
8-6 样本和直观理解二
- 一个非常直观的分类案例,完成异或门,通俗地解释了神经网络各层是如何进行计算的。
9-2 反向传播算法