- 博客(18)
- 资源 (9)
- 收藏
- 关注
RSS订阅转载 详解tensorflow中的Attention机制
最近在做基于attention的唇语识别，无奈网上关于tf中attention的具体实现没有较好的Demo，且版本大多不一致，琐碎而且凌乱，不得不自己翻开源码，阅读一番，收获颇丰，现分享与此。 PS：本文基于tensorflow-gpu-1.4.0版本，阅读前，读者最好对Attention mechanism有一定的了解，不然可能会一头雾水。 tf-1.4.0中，关于attention机制...
2018-09-29 11:03:27
1631
转载 ####好好好####深度学习——优化算法
为什么需要优化算法优化算法可以加快收敛速度（未加入优化的神经网络训练时间比加入优化后时间更短），甚至得到一个更好更小的损失函数值。优化算法能帮你快速高效地训练模型。有哪些优化算法Mini-Batch 梯度下降 Momentum 动量梯度下降法 RMSprop Adam 提升算法其中Adam提升算法是Momentum和RMSprop两种相结合的算法，接下来我们会依次介绍这四种算法...
2018-09-27 16:31:07
504
转载 #####好好好好好好#####自然语言处理词向量模型-word2vec
自然语言处理与深度学习：语言模型：N-gram模型： N-Gram模型：在自然语言里有一个模型叫做n-gram，表示文字或语言中的n个连续的单词组成序列。在进行自然语言分析时，使用n-gram或者寻找常用词组，可以很容易的把一句话分解成若干个文字片段词向量：神经网络模型：注：初始化向量，可以先随机初始化。传统神...
2018-09-25 17:35:31
215
转载 neo4j寻找节点间的最短路径
1.最短路径从部分的图里找出Joel Silver到Jonathan Lipnicki的最短路径 MATCH (p1:Person {name:"Jonathan Lipnicki"}),(p2:Person{name:"Joel Silver"}),p=shortestpath((p1)-[*..10]-(p2))RETURN p这里[*..10]表示路径深度10以内...
2018-09-25 10:32:48
6098
转载 tensorflow从已经训练好的模型中，恢复(指定)权重(构建新变量、网络)并继续训练(finetuning)
之前已经写了一篇《Tensorflow保存模型，恢复模型，使用训练好的模型进行预测和提取中间输出（特征）》，里面主要讲恢复模型然后使用该模型假如要保存或者恢复指定tensor，并且把保存的graph恢复(插入)到当前的graph中呢？总的来说，目前我会的是两种方法，命名都是很关键！两种方式保存模型，1.保存所有tensor，即整张图的所有变量，2.只保存指定scope的变量两种方式...
2018-09-20 18:12:17
1785
转载 DeepMind关系推理网络
简介本文用一个普适的关系网络RNs（Relation Networks）来解决“关系推理”(relational reasoning)问题。其使用的模型结构简单，效果远胜已有算法，甚至超出人类表现。论文于2017年6月5日在arxiv发布。由于其原理简明，爱好者们很快给出了pytorch实现、keras实现以及tensorflow实现。关系推理问题关系推理问题由三部分组成。 ...
2018-09-20 15:40:44
991
转载 一步步分析为什么B+树适合作为索引的结构
前言本文是在讲述什么样的数据结构适合作为索引，以及其适合作为索引的原因。而阅读本文需要对B树和B+树结构有稍微的理解。以及需要对磁盘操作知识有稍微的了解。对于磁盘操作的相关知识，在文章尾部的链接文章中，有详细的介绍。在MySQL中，主要有四种类型的索引，分别为：B-Tree索引，Hash索引，Fulltext索引和R-Tree索引，本文讲的是B-Tree索引。什么是索引索引（Ind...
2018-09-19 11:27:15
168
转载 深入浅出数据库索引原理
前段时间，公司一个新上线的网站出现页面响应速度缓慢的问题， 一位负责这个项目的但并不是搞技术的妹子找到我，让我想办法提升网站的访问速度 ，因为已经有很多用户来投诉了。我第一反应觉的是数据库上的问题，假装思索了一下，摆着一副深沉炫酷的模样说：“是不是数据库查询上出问题了， 给表加上索引吧”，然后妹子来了一句：“现在我们网站访问量太大，加索引有可能导致写入数据时性能下降，影响用户使用的”。当时我就楞了...
2018-09-19 10:23:58
201
转载 【金融大脑-一支优秀的队伍】比赛经验分享
说在前面的话大家好，我是“一支优秀的队伍”队长，SpaceOdd，我们队伍有俩人，另一个是我师弟。这次是我第一次参加比赛，复赛封榜前侥幸拿到了第一的成绩，实在是走运得很，不过还有重要的答辩环节，还要继续努力加油：）在这里斗胆做一个简单的分享是为了和大家一起学习，难免因能力不足而出现一些错误请不吝指出。 实际上前排大佬们的最后结果都是在伯仲之间，大家的解法都有很可取之处，期待大家也做出自...
2018-09-19 09:56:42
1132
转载 深度学习笔记——基于双向RNN（LSTM、GRU）和Attention Model的句子对匹配方法
前面写过用Word2vec和Doc2vec进行句子对匹配，以及基于传统机器学习方法进行句子对匹配的方法，本文主要介绍基于双向RNN（LSTM、GRU）和Attention Model的句子对匹配方法。首先来看一下什么叫句子对匹配：句子对匹配（Sentence Pair Matching）问题是NLP中非常常见的一类问题，所谓“句子对匹配”，就是说给定两个句子S1和S2，任务目标是判断这两个...
2018-09-14 10:36:17
2283
2
翻译 教程 | 如何使用Keras、Redis、Flask和Apache把深度学习模型部署到生产环境？
本文介绍了如何使用 Keras、Redis、Flask 和 Apache 将自己的深度学习模型迁移到生产环境。文中的大多数工具可以互换，比如 Keras 可替换成 TensorFlow 或 PyTorch，Django 可代替 Flask，Nginx 可代替 Apache。作者唯一不推荐替换的工具是 Redis。同时本文还对深度学习 REST API 进行了压力测试，这种方法可以轻松扩展到添加的服...
2018-09-07 15:49:15
3222
2
转载 手把手教你如何部署深度学习模型
摘要： 本文将讲解如何部署深度学习模型，让你不再对如何快速地将机器学习模型部署到生产中感到困扰我刚刚训练了机器学习模型——那么现在呢？这篇文章介绍了一种快速的方法，将经过训练的机器学习模型部署到生产中。请阅读以下内容：如果您已经成功地使用诸如Tensorflow或Caffe这样的ML框架来培训ML模型，那么您最好先做一个演示，最好早一点而不是晚一点，而且您更喜欢更便捷的解决方案，而不是...
2018-09-07 15:45:21
22018
9
转载 ####Python 3 & Keras YOLO v3解析与实现
YOLOv3在YOLOv2的基础进行了一些改进，这些更改使其效果变得更好。 在320×320的图像上，YOLOv3运行速度达到了22.2毫秒，mAP为28.2。其与SSD一样准确，但速度快了三倍，具体效果如下图。本文对YOLO v3的改进点进行了总结，并实现了一个基于Keras的YOLOv3检测模型。inferencePaper：YOLOv3: An Incremental Impro...
2018-09-06 17:41:55
1164
转载 详细阐述：由点及面的CRM认知
未来商业都是要围绕着人展开的，广义的讲所有业务的产品都可以纳入CRM，CRM将是各大平台或商家适应未来商业环境的基础标配。那么我们该怎样完整认知CRM呢？随着国内互联网的发展，中产阶级崛起和消费升级，未来的服务是贴近生活，贴近人的，未来的商业是需要基于人更加精细化区隔耕作的。如何区分和发掘不同用户身上的价值？如何维系稳定且活跃的用户关系？如何在竞争中稳定发展并持续提升品牌壁垒……这...
2018-09-06 11:56:09
310
转载 ###好好好###将 TensorFlow 移植到 Android手机，实现物体识别、行人检测和图像风格迁移详细教程
2017/02/23 更新贴一个TensorFlow 2017开发者大会的Mobile专题演讲移动和嵌入式TensorFlow这里面有重点讲到本文介绍的三个例子，以及其他的移动和嵌入式方面的TF相关问题，干货很多2017/01/17 更新今天上 Github，发现 Tensorflow 的 android demo又更新了，除了基本的修改以外，又增加了一个图像风格迁移的安卓de...
2018-09-06 11:24:57
287
转载 ###好好好#####使用GraphFrames进行飞一般的图计算
GraphFrame是将Spark中的Graph算法统一到DataFrame接口的Graph操作接口。支持多种语言，可以通过Python使用。本博客包括 On-Time Flight Performance with GraphFrames notebook 的完整内容，其中包括一些扩展功能，您可以通过 Databricks Community Edition免费试用(加入 beta wait...
2018-09-06 10:50:13
2973
转载 #####好好好#####阿里智能人机交互的核心技术解析
摘要： 过去20多年，互联网及移动互联网将人类带到了一个全新的时代，如果用一个词来总结和概括这个时代的话，“连接”这个词再合适不过了。这个时代主要建立了四种连接：第一，人和商品的连接；第二，人和人的连接；第三，人和信息的连接；第四，人和设备的连接。“连接“本身不是目的，它只是为“交互”建立了通道。在人机交互（Human-Computer Interaction）中，人通过输入设备给机器输入...
2018-09-05 13:53:11
502
原创 语言模型评价标准
Perplexity（困惑度）刚才我们通过训练集得到了语言模型，而perplexity是一种评价语言模型在测试集上表现的方法对一句句子来说， Perplexity(s)=P(s)−1N+1=2−1N+1⋅logP(s)Perplexity(s)=P(s)−1N+1=2−1N+1⋅logP(s) 对于bigram LM来说，就是 1P(w1|<s>)P(w2...
2018-09-04 09:25:38
1258
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人