orange实现逻辑回归_机器学习笔记（三）逻辑回归

Classification(分类)

1、问题背景：

特殊的样本点会使得分界点发生漂移，影响准确性。

Hypothesis representation(假设函数表达式)

1、Logistic regression Model(逻辑回归模型)：

(1)Sigmoid function / Logistic function S型函数/逻辑函数：

(2)g(z)图像：

(3)hθ(x) 表示在给定参数θ对于某个特征值x的情况下，y=1的概率：

Decision boundary(决策边界)

1、什么是决策边界？

If hθ(x) = g(θTx) ≥ 0.5，则 y = 1 (即 θTx ≥ 0时)；

If hθ(x) = g(θTx)＜ 0.5，则 y = 0(即 θTx＜ 0时).

举例：对于

，θ=[-3，1，1]T，则

y=1，if -3+x1+x2 ≥ 0，即分界线为 x1+x2= 3，如下图所示。

该边界线称为“决策边界”，边界上方部分y=1，下方部分y=0.