【无标题】

DAY 1 train

1.机器学习之感知机

深度学习前景与应用

图片分类(2017年5%识别错误率),物体检测与分割,样式迁移……

 

机器学习的一般步骤

机器学习的一般步骤包括:特征提取,模型预测,训练数据。

多层感知机

早期感知机

给定输入X,权重W,偏移B,感知机输出o=f(<w,x>+b) f为二分类:

if x>0 f=1;

else f=-1;

训练感知机

对应早期感知机二分类方式

 

当感知判定结果错误时对结果进行更新。

如下为动态更新结果

即通过不断对错误分类方案产出的分界面进行调整,训练得出越来越精确的分截面参数。

 

数据半径为R,余量为p(余量指的是分类区宽度,我们知道在临近分截面的区域一定会有个临域对二分类进行分割)。感知机能够保证在(r²+1)/p²步后收敛。易于得出以下两个结论:

1.半径越大,收敛越慢

2.余量越大,收敛越快

感知机问题

1.XOR问题

感知机只能产生线型分割面,不能拟合XOR函数(不能对不相连区域进行分割)

 

多层感知机

多层感知机可解决XOR问题。

组合多个单层感知机,对各个单层感知机结果进行再次分类运算,形成多层感知机。

 

单隐藏-单分类

在同一个模型中,输入和输出参数的个数不变,隐藏层的大小可变。

 

假设输入N维输入,M维隐藏,则隐藏层有m*n个权重,m个偏移量(由图可见有输入到隐藏层有m**n条线,每条线对应一个权重),输出为单个。

 

上述为单隐藏层原理函数,即通过中间隐藏层二次输入,得到输出。

激活函数选择不能使用线性函数,倘若将线性函数带入,得出结果仍为线性函数。

激活函数的选择

1.Sigmoid函数

激活函数处于0-1之间。

 

 

 

2.Tanh函数

激活函数处于(-1,1)之间。

 

 

3.ReLU函数

函数max(x,0)。优点:计算简单快捷。

 

 

多类分层

假设输入N维输入,M维隐藏,则隐藏层有m*n个权重,m个偏移量(由图可见有输入到隐藏层有m**n条线,每条线对应一个权重),输出为k个。

 

输出由单个输出变为多个输出,需要对结果y进行一次softmax(o)回归,将结果拉到0-1;

多隐藏层

 

多隐藏层比起单隐藏层,多了一个参数,即隐藏层的层数,每类隐藏层有自身的大小。

隐藏层之间无需激活函数。

两种选择

1.将单隐藏层做大

模型不好训练

2.将隐藏层做多

每个隐藏层之间逐次减小,逐渐将数据压缩

代码实现

明日更新。

2.每日一题之速算机器人

 

int calculate(char* s){
    int x,y;//定义两个数字
    int i;//定义大小
    char a;//得到前后字母
    int sum;//和
    x=1,y=0;
    i=0;
    while(*(s+i)!=NULL){
        a=s[i];
        if(a=='A')
          x=2*x+y;
        else if(a=='B')
          y=2*y+x;  
          else break;
          i++;
    }
    sum=x+y;
    return sum;
    
}

 

3.jupyter notebook无法使用问题的解决

在安装完pytorch之后出现如下问题,观察电脑后发现原来的jupyter由

 

anaconda改为了anaconda3,在使用anaconda启用jupyter时与pytorch产生冲突

 

更改打开方式,从命令行输入jupyternotebook后可正常使用。

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值