深度学习(2) - 线性单元和梯度下降

学习文章：https://www.zybuluo.com/hanbingtao/note/433855
原文链接好像图片挂了，简书上的链接：https://www.jianshu.com/p/982bf265f6d4?utm_campaign=maleskine&utm_content=note&utm_medium=seo_notes&utm_source=recommendation
高数课不该睡觉之：
和的导数等于导数的和
链式求导法：

调用matplotlib库时奇怪报错的解决方案：

总结一下线性单元就是从上一节感知机的二分类基础上把阶越函数变成了一个线性函数，目的是目标不在是0，1的二元分类，变成了拟合结果函数

实现代码：

继承了上一篇文章感知机的文件perceptron.py里的类Perceptron

# file name: linear_unit
# -*- coding: UTF-8 -*-
import numpy as np
from perceptron import Perceptron
import matplotlib.pyplot as plt

# 定义激活函数f

def f(x):
    '''
    定义激活函数f
    '''
    return x

class LinearUnit(Perceptron):
    def __init__(self, input_num):
        '''
        初始化线性单元，设置输入参数的个数
        '''
        Perceptron.__init__(self, input_num, f)


def get_training_dataset():
    '''
    捏造5个人的收入数据
    '''
    # 构建训练数据
    # 输入向量列表，每一项是工作年限
    input_vecs = [[5], [3], [8], [1.4], [10.1]]
    # 期望的输出列表，月薪，注意要与输入一一对应
    labels = [5500, 2300, 7600, 1800, 11400]
    return input_vecs, labels


def train_linear_unit():
    '''
    使用数据训练线性单元
    '''
    # 创建感知器，输入参数的特征数为1（工作年限）
    lu = LinearUnit(1)
    # 训练，迭代10轮, 学习速率为0.01
    input_vecs, labels = get_training_dataset()
    print(input_vecs)
    lu.train(input_vecs, labels, 10, 0.01)
    # 返回训练好的线性单元
    return lu


def plot(linear_unit):
    input_vecs, labels = get_training_dataset()
    fig = plt.figure()
    ax = fig.add_subplot(111)
    ax.scatter(list(map(lambda x: x[0], input_vecs)), labels)
    weights = linear_unit.weights
    bias = linear_unit.bias
    x = range(0, 12, 1)
    y = list(map(lambda x: weights[0] * x + bias, x))
    ax.plot(x, y)
    plt.show()


if __name__ == '__main__':
    '''训练线性单元'''
    _linear_unit = train_linear_unit()
    # 打印训练获得的权重
    print(_linear_unit)
    # 测试
    print('Work 3.4 years, monthly salary = %.2f' % _linear_unit.predict([3.4]))
    print('Work 15 years, monthly salary = %.2f' % _linear_unit.predict([15]))
    print('Work 1.5 years, monthly salary = %.2f' % _linear_unit.predict([1.5]))
    print('Work 6.3 years, monthly salary = %.2f' % _linear_unit.predict([6.3]))
    plot(_linear_unit)

输入输出结果：