深度学习基础知识(二):神经网络结构与人脑结构反思

虽然深度神经网络在各大科研应用领域取得了极好的成绩,但是无论是传统的CNN、RNN,还是到最新的GAN、Attention、Reinforcement learning、Transfer learning,它们的本质都是在遵循按部就班、循规蹈矩的神经网络算法过程。我个人以为单凭这种神经网络算法很难达到真正的图灵测试所说的智能。

原因:我在和女朋友聊天的时候,思维总是会不自觉的跳跃一下,这种跳跃是由当前一件事触发,跳转动另一件虽有联系但距离很远的事件,这种情况虽然对于人来说很easy,但对于成熟的神经网络模型来说却很难,因为它需要一步步的学习或关联过去。换句话说,在实际操作过程中,第一层hidden layer能不能直接跳转到第三层或第四层hidden layer,甚至是跳转链接到the fourth hidden layer of another neural network。

思考:如果可以呢?现有的知识图谱应该就是有的这个理念,由实体事件event、关联link、属性attributes组成,但我觉得knowledge map还远远不够,应该是大型知识库,更复杂、更详细的知识图谱式连接。虽然我没有具体实现过knowledge map编程,对其了解也比较浅,但我的构思是新型以事件点为中心,虽然同一个实体在不同国家、地域有不同的称谓;动作行为的称谓也是这样,但是这不妨碍我进行继续构思。

1)来了一个新的实体,它有多维数据张量,即多个属性表征描述。

2)如果一个属性维度输入进入,模型直接搜索激活最相似的那个实体节点,这个实体的所有连接全部激活,然后当第二个属性数据输入,它继续激活最相似的那个实体节点,第二个实体激活所有的连接,我假设第一个属性和第二个相互独立,即便它们相互间有影响,我们也是独立地输入,当所有属性输入完毕,所有相关的实体节点都被激活,这其中有多次被重复激活的实体、关联需要按被重复激活次数赋予更高的权重,在图像上更大或颜色更深。

3)这样一来,对方说完一句话,他的意思就隐含着这些被激活的实体、关联网络中,然后我们择一较好的学习模型或分析策略进行分析提取,就能进行快速准确的理解。

4)而不同的人有不同的语言习惯,文化水平低的人群喜欢用大白话或直爽粗俗一些的语言,而高中大学的人群喜欢用文采丰富一些的语言,他们的话中会包含更多的隐喻性质的语言,即同一句话可以表面、也可以推理关联到更深的意思,而博士学位的人群更喜欢用专业相关的术语进行表述,它们可能会用更抽象的符号或包含更多隐喻的话进行表述。

面对这种情况,如果大型网络知识库构建的更加完备,甚至是隐喻层次的理解和连接,那么该模型用来理解semantics或metaphor也未尝不可。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

天狼啸月1990

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值