神经网络基础应用：感知机、线性回归、逻辑回归

神经网络基础应用：感知机、线性回归、逻辑回归

神经网络应用研究就是探讨如何利用神经网络解决工程实际问题。人们可以在几乎所有的领域中发现神经网络应用的踪影。当前，神经网络的主要应用领域有:模式识别，故障检测，智能机器人，非线性系统辨识和控制，市场分析，决策优化，智能接口，知识处理，认知科学，等等。

神经网络的显著特点:具有非线性映射能力:不需要精确的数学模型:擅长从输入输出数据中学习有用知识:容易实现并行计算:由大量简单计算单元组成，易于用软硬件实现:等等。正因为神经网络是一种模仿生物神经系统的新的信息处理模型，并具有独特的结构，所以人们才期望它能解决一些使用传统方法难以解决的问题。神经网络最基础的应用包括感知机、线性回归和逻辑回归等。

1 感知机

感知机(Perceptron) 也称感知器，于1957 年由美国计算机科学家Rosenblatt提出，它是各种神经网络中最简单且最早发展出来的神经网络模型，特别适用于简单的模式分类问题，也可用于基于模式分类的学习控制中。单层感知机是一个具有一层神经元、采用阈值激活函数的前向网络:通过对网络权值的训练，可以使感知机对组输入矢量的响应达到元素为0或 1的目标输出，从而实现对输入矢量分类的目的。单层感知机的神经元模型如下图所示。

其中，每一个输入分量Pj (j=1,2,…,r)通过一个权值分量wj进行
加权求和，并作为阈值函数的输入。偏差b的加入使得网络多了一个可调参数，为使网络输出达到期望的目标矢量提供了方便。感知机实际