【无标题】

DAY 1 train

1.机器学习之感知机

深度学习前景与应用

图片分类（2017年5%识别错误率），物体检测与分割，样式迁移……

 

机器学习的一般步骤

机器学习的一般步骤包括：特征提取，模型预测，训练数据。

多层感知机

早期感知机

给定输入X，权重W，偏移B，感知机输出o=f(<w,x>+b) f为二分类：

if x>0 f=1;

else f=-1;

训练感知机

对应早期感知机二分类方式

 

当感知判定结果错误时对结果进行更新。

如下为动态更新结果

即通过不断对错误分类方案产出的分界面进行调整，训练得出越来越精确的分截面参数。

 

数据半径为R，余量为p（余量指的是分类区宽度，我们知道在临近分截面的区域一定会有个临域对二分类进行分割）。感知机能够保证在(r²+1)/p²步后收敛。易于得出以下两个结论：

1.半径越大，收敛越慢

2.余量越大，收敛越快

感知机问题

1.XOR问题

感知机只能产生线型分割面，不能拟合XOR函数（不能对不相连区域进行分割）

 

多层感知机

多层感知机可解决XOR问题。

组合多个单层感知机，对各个单层感知机结果进行再次分类运算，形成多层感知机。

 

单隐藏-单分类

在同一个模型中，输入和输出参数的个数不变，隐藏层的大小可变。

 

假设输入N维输入，M维隐藏，则隐藏层有m*n个权重，m个偏移量（由图可见有输入到隐藏层有m**n条线，每条线对应一个权重），输出为单个。

 

上述为单隐藏层原理函数，即通过中间隐藏层二次输入，得到输出。

激活函数选择不能使用线性函数，倘若将线性函数带入，得出结果仍为线性函数。

激活函数的选择

1.Sigmoid函数

激活函数处于0-1之间。

 

 

 

2.Tanh函数

激活函数处于(-1,1)之间。

 

 

3.ReLU函数

函数max(x,0)。优点：计算简单快捷。

 

 

多类分层

假设输入N维输入，M维隐藏，则隐藏层有m*n个权重，m个偏移量（由图可见有输入到隐藏层有m**n条线，每条线对应一个权重），输出为k个。

 

输出由单个输出变为多个输出，需要对结果y进行一次softmax(o)回归，将结果拉到0-1；

多隐藏层

 

多隐藏层比起单隐藏层，多了一个参数，即隐藏层的层数，每类隐藏层有自身的大小。

隐藏层之间无需激活函数。

两种选择

1.将单隐藏层做大

模型不好训练

2.将隐藏层做多

每个隐藏层之间逐次减小，逐渐将数据压缩

代码实现

明日更新。

2.每日一题之速算机器人

 

int calculate(char* s){
    int x,y;//定义两个数字
    int i;//定义大小
    char a;//得到前后字母
    int sum;//和
    x=1,y=0;
    i=0;
    while(*(s+i)!=NULL){
        a=s[i];
        if(a=='A')
          x=2*x+y;
        else if(a=='B')
          y=2*y+x;  
          else break;
          i++;
    }
    sum=x+y;
    return sum;
    
}

 

3.jupyter notebook无法使用问题的解决

在安装完pytorch之后出现如下问题，观察电脑后发现原来的jupyter由

 

anaconda改为了anaconda3，在使用anaconda启用jupyter时与pytorch产生冲突

 

更改打开方式，从命令行输入jupyternotebook后可正常使用。