zyp361161的博客

原创 产品精益画布 Lean Canvas

原创 双向RNN&Deep RNN

双向RNNBidirectional RNN(双向RNN)假设当前t的输出不仅仅和之前的序列有关，并且 还与之后的序列有关，例如：预测一个语句中缺失的词语那么需要根据上下文进 行预测；Bidirectional RNN是一个相对简单的RNNs，由两个RNNs上下叠加在 一起组成。输出由这两个RNNs的隐藏层的状态决定。如下图深度RNNDeep Bidire...

原创 迁移学习

Transfer Learning，解决两类问题：小数据问题和个性化问题迁移学习的两种极端形式：zero-shot learning 完全没有数据的迁移one-shot learning 有一点点数据的迁移情感描述sentiment classifier：情感分类迁移的实现方法： 样本迁移，特...

原创 深度增强学习

增强学习可以看知乎文章：https://www.zhihu.com/增强学习的应用：自动驾驶8个方向+速度：模型推断出方向和速度，决策交给AI自动驾驶的两个流派：Rule based，End to End Deep learning。发展趋势:两个流派融合，找到折中点。硬件支持：低功耗，激光雷达，双雾摄像头，Mobieye，车载的GPURule Ba...

原创 chatbot

目前的对话机器人有三种实现方式：方法一：greeding方法二：sample方法三：beam-search decoding聊天对话机器人的类型：基于模板，基于检索技术，基于深度学习============tqdm 进度条 需要 pip install tqdmNLTK 分词：每个字都是一个词 pip install nltkJieba分词...

原创 NLP发展动向

NLP 2018年9月份:基于注意力机制的BERT 一派独大心理学:你注意到什么了?关键在于你注意力在哪里.https://www.jianshu.com/p/49cfafa189fd翻译，对话机器人都将用 注意力机制...

原创 Seq to Seq

训练的时候 decoder 传的是标签翻译的内容embedding layer ：把单词变为一个数字，变为词向量。

原创 LSTM

原创 GoogleNet

原创 VGG

原创 Alexnet

原创 两种编码方式

1.延迟计算2.立即计算

原创 自动调参方法

自动调参方法：1.网格搜索：简单点的选该方法2.随机搜索：如果维度高，就选该方法3.贝叶斯搜索激活函数没有好坏之分，relu 解决梯度消失，不能解决梯度爆炸.收敛判断：若是不再变化，表示没有继续训练下去的必要了。不要局限自己的思维。 网络层数不是越多越好。。...

原创 深度学习网络的发展

DNN(Deep Belief Network)=>堆积的自动编码器(Stacked Auto-encoder)=>卷积神经网络(Convolutional nerual network)=>卷积自动编码器(Convolutional Auto-encoder)三大学派:符号主义学派(逻辑主义学派);连接主义学派(仿真网络,神经元连接);控制论学派(所有的东西都...

原创 CNN

CNN:卷积层(卷积核,步长进行卷积)=>池化层(选取最大值或者平均值)=>全连结层

原创 深度学习

最开始就是3层网络结构，加深加宽衍生出很多变种。输入层=》隐藏层（激活函数）=》输出层。分类（softmax）+回归深度学习就是求解方程的过程：处理各种函数，求权重值，更新权重值梳理好逻辑，定义好收敛目标。先走一遍前向计算，再走一遍后向计算社会：大多数非线性的，没有绝对的规律，是空间上多维的一种组合。深度学习比传统机器学习好，是因为深度学习不是人为提取...

原创 安装Spark

# spark-for-MACspark-v: 2.2.3hadoop-v: 2.7.0## step 1: install java## step 2: download spark and install```tar -zxvf spark-2.2.3-bin-hadoop2.7.tgz```## step 3: setup env path```export PA...

原创 JDK的安装

这篇作为打开JAVA世界的大门，手把手教大家如何安装配置JDK。一、JDK的下载安装1.首先需要检查下自己的电脑上是否安装了JDKWindows+R打开运行框，输入cmd，按回车打开控制台；在控制台中输入java并回车，如果这里显示:“‘java’不是内部或外部命令，也不是可运行的程序或批处理文件”则说明这台电脑上面并没有安装java可以运行的环境或者是JDK，接下来我们就可以安装...