文章目录
机器学习基本概念
机器学习不同的任务
Regression
连续
The function outputs a scalar.
Classification
离散
Given options(classes), the function outputs the correct one.
Structured Learning
Training的三个步骤
step 1. Function
function with unknown parameters
带有未知参数的函数
Model: function with unknown parameters
模型就是带有未知参数的函数
如下所示是一个简单的 Model
y
=
b
+
w
x
1
y = b+wx_1
y=b+wx1
feature: x1 (已知数据)
weight: w(权重:与 feature 相乘的)
bias: b(偏置)
step 2. Loss
define loss from training data
从训练数据定义损失
- Loss is a function of parameters L ( b , w ) L(b,w) L(b,w) —— Loss 是带有未知参数的函数
- Loss 的值:how good a set of values is. —— Loss的值代表当确定一组未知参数时,模型是好还是不好。
Loss:
L
=
1
N
∑
n
e
n
L=\frac{1}{N}\sum^ne_n
L=N1∑nen
其中
e
=
∣
y
−
y
^
∣
e=|y-\hat{y}|
e=∣y−y^∣
step 3. Optimization
优化下面函数,获得较好的参数值
w
∗
,
b
∗
=
arg
min
w
,
b
L
w^*,b^*=\arg{ \underset{w,b} {\min} \,L}
w∗,b∗=argw,bminL
hyperparameters:机器学习中自己设定的参数,比如学习速率。