关于深度学习的一个简单想法

现今,深度神经网络,都是预先定义好了网络结构,在大量学习中得到模型权重,模型的连接本身是固定的,也就是各个神经元的连接关系是在网络结构中确定了的。最后训练的结果,依旧可表示为多元多次函数的表达式模型。面对不同的输入,其表达式并不会改变,造成有的模型泛化能力就很差。
但是,如果我们可以设计某一种机制,可以通过改变权重本身的系数(只有0和1),那么我们就能够改变神经元之间的连接关系,并单独设计一个网络,训练生成0和1(也就是神经元连接的通和断)的网络,针对不同的输入,网络本身的通断是不同的,是不是更加灵活。同时也更加符合人大脑的神经网络机制,所谓的0/1就是神经递质,有神经递质,神经元之间才能互相影响。
同时,一个深度神经网络都是实现某一特定任务,因为它的输出本身就是确定了它最终要完成什么任务,但是若是我们的(0/1)的结构足够灵活,我们甚至可以利用同一个网络,实现不同的任务。
可能因为我是一个菜鸟,对于深度学习,我甚至都还没入门,所以我不确定这是否是一个合理的想法,但是我同样也没有被现有的深度学习套路所束缚,先在此记录以下,若等到真的有一天,这种想法可以被实现,那么我也能够吹吹牛逼了。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值