1.特征
在拟合特征时,我们可以通过理性的分析来选择创造合适的特征来实现精准的预测,例如:
有一个房子,我们知道了它的frontage和depth 如上图所示,依照之前的经验,我们可能会你和拟合为
h
θ
(
x
)
=
θ
0
+
θ
1
×
f
r
o
n
t
a
g
e
+
θ
2
×
d
e
p
t
h
h_{\theta}(x)=\theta_0+\theta_1\times frontage+\theta_2 \times depth
hθ(x)=θ0+θ1×frontage+θ2×depth
但是。房子的价格显然是和面积有关系的,因此,我们会创造创一个新的特征area,拟合的关系式为
h
θ
(
a
r
e
a
)
=
f
u
n
c
t
i
o
n
(
a
r
e
a
)
h_\theta(area)=function(area)
hθ(area)=function(area)其中
a
r
e
a
=
f
r
o
n
t
a
g
e
×
d
e
p
t
h
area=frontage\times depth
area=frontage×depth
2.多项式回归
给出
p
r
i
c
e
−
S
i
z
e
price-Size
price−Size的训练集如下:
显然,在这个时候,数据不能用一次函数来拟合,我们试着选
h
θ
(
x
)
=
θ
0
+
θ
1
x
+
θ
2
x
2
h_{\theta}(x)=\theta_0+\theta_1x+\theta_2x^2
hθ(x)=θ0+θ1x+θ2x2来拟合,但是二次函数会下降,房子的价格显然不会随着面积的增加而下降,因此,我们可以尝试三次函数
h
θ
(
x
)
=
θ
0
+
θ
1
x
+
θ
2
x
2
+
θ
3
x
3
h_{\theta}(x)=\theta_0+\theta_1x+\theta_2x^2+\theta_3x^3
hθ(x)=θ0+θ1x+θ2x2+θ3x3或者加上一个根号x项来拟合
h
θ
(
x
)
=
θ
0
+
θ
1
x
+
θ
2
x
h_{\theta}(x)=\theta_0+\theta_1x+\theta_2\sqrt{x}
hθ(x)=θ0+θ1x+θ2x