拟合与回归

经常听到“回归分析”、“线性回归”等等名词，那么，这么晦涩的词语，到底来源于何处呢？

1、“回归”名词的由来
引自汪荣伟先生主编的《经济应用数学》
高尔顿（Frramcia Galton,1882-1911）早年在剑桥大学学习医学，但医生的职业对他并无吸引力，后来他接受了一笔遗产，这使他可以放弃医生的生涯，并与 1850－1852年期间去非洲考察，他所取得的成就使其在1853年获得英国皇家地理学会的金质奖章。此后他研究过多种学科（气象学、心理学、社会学、 教育学和指纹学等），在1865年后他的主要兴趣转向遗传学，这也许是受他表兄达尔文的影响。
从19世纪80年代高尔顿就开始思考父代和子代相似，如身高、性格及其它种种特制的相似性问 题。于是他选择了父母平均身高X与其一子身高Y的关系作为研究对象。他观察了1074对父母及每对父母的一个儿子，将结果描成散点图，发现趋势近乎一条直 线。总的来说是父母平均身高X增加时，其子的身高Y也倾向于增加，这是意料中的结果。但有意思的是高尔顿发现这1074对父母平均身高的平均值为68 英寸（英国计量单位，1 英寸=2.54cm）时，1074个儿子的平均身高为69 英寸，比父母平均身高大1 英寸 ，于是他推想，当父母平均身高为64 英寸时，1074个儿子的平均身高应为64+1=65 英寸；若父母的身高为72 英寸时，他们儿子的平均身高应为72=1=73 英寸，但观察结果确与此不符。高尔顿发现前一种情况是儿子的平均身高为67 英寸，高于父母平均值达3 英寸，后者儿子的平均身高为71英寸，比父母的平均身高低1 英寸。
高尔顿对此研究后得出的解释是自然界有一种约束力，使人类身高在一定时期是相对稳定的。如果父 母身高（或矮了），其子女比他们更高（矮），则人类身材将向高、矮两个极端分化。自然界不这样做，它让身高有一种回归到中心的作用。例如，父母平均身高 72 英寸，这超过了平均值68英寸，表明这些父母属于高的一类，其儿子也倾向属于高的一类（其平均身高71 英寸 大于子代69 英寸），但不像父母离子代那么远（71-69<72-68）。反之，父母平均身高64 英寸，属于矮的一类，其儿子也倾向属于矮的一类（其平均67 英寸，小于子代的平均数69 英寸），但不像父母离中心那么远（69 -67< 68-64）。
因此，身高有回归于中心的趋势，由于这个性质，高尔顿就把“回归”这个词引进到问题的讨论中，这就是“回归”名称的由来，逐渐背后人沿用成习了。

2、“回归分析”到底是什么意思
回归分析研究的是多个变量之间的关系。它是一种预测性的建模技术，它研究的是因变量（目标）和自变量（预测器）之间的关系。这种技术通常用于预测分析，时间序列模型以及发现变量之间的因果关系。
回归分析的好处比较多，主要有以下几点：
（1）它表明自变量和因变量之间的显著关系
（2）它表明多个自变量对一个因变量的影响强度。
（3）允许我们去比较那些衡量不同尺度的变量之间的相互影响，如价格变动与促销活动数量之间联系

3、回归与拟合的区别
拟合的概念更广泛，拟合包含回归，还包含插值和逼近。拟合是一种数据处理的方式,不特指哪种方法.简单的说就是你有一组数据,觉得这组数据和一个已知的函数（这个函数的参数未定）很相似,为了得到最能表示这组数据特征的这个函数,通过拟合这种方式（具体的数学方法很多）求得参数.而回归是一种特定的数学方法,它可以实现数据拟合,得到函数的参数.也有些拟合得到的参数并非是函数的参数,如神经网络,得到的是这个神经网络的参数。