NN deep learning neural netwo
文章平均质量分 76
AI周红伟
ChatGPT、大模型、AI培训和咨询。独角兽人工智能科学家。深度学习发明专利、算法专利拥有者。培训AI和ChatGPT学员超过10万人。
展开
-
BERT Word Embeddings Tutorial
本文译自BERT Word Emebddings Tutorial,我将其中部分内容进行了精简。转载请注明出处1. Loading Pre-Trained BERT通过 Hugging Face 安装 BERT 的 PyTorch 接口,该库还包含其它预训练语言模型的接口,如 OpenAI 的 GPT 和 GPT-2如果您在 Google Colab 上运行此代码,每次重新连接时都必须安装此库 !pip install transformers BERT 是由 Googl..原创 2021-02-16 11:17:10 · 498 阅读 · 0 评论 -
Transformer 模型详解
Transformer 是 Google 的团队在 2017 年提出的一种 NLP 经典模型,现在比较火热的 Bert 也是基于 Transformer。Transformer 模型使用了 Self-Attention 机制,不采用 RNN 的顺序结构,使得模型可以并行化训练,而且能够拥有全局信息。1. Transformer 结构首先介绍 Transformer 的整体结构,下图是 Transformer 用于中英文翻译的整体结构。transformer整体结构可以看到 Tran...原创 2021-02-15 10:22:04 · 2506 阅读 · 0 评论 -
Transformer结构详解(有图,有细节)
文章目录1. transformer的基本结构 2. 模块详解 2.1 模块1:Positional Embedding 2.2 模块2:Multi-Head Attention 2.2.1 Scaled Dot-Product Attention 2.2.2 Multi-Head 2.3 模块3:ADD 2.4 模块4:Layer Normalization 2.5 模块5:Feed Forward NetWork 2.6 模块6:Masked Mul转载 2021-02-15 09:55:47 · 7115 阅读 · 0 评论 -
BERT却不懂Transformer?2021
编者按:前一段时间谷歌推出的BERT模型在11项NLP任务中夺得STOA结果,引爆了整个NLP界。而BERT取得成功的一个关键因素是Transformer的强大作用。谷歌的Transformer模型最早是用于机器翻译任务,当时达到了STOA效果。Transformer改进了RNN最被人诟病的训练慢的缺点,利用self-attention机制实现快速并行。并且Transformer可以增加到非常深的深度,充分发掘DNN模型的特性,提升模型准确率。在本文中,我们将研究Transformer模型,把它掰开揉碎,理原创 2021-02-15 08:03:11 · 253 阅读 · 0 评论 -
Transformer model for language understanding
This tutorial trains aTransformer modelto translate aPortuguese to English dataset. This is an advanced example that assumes knowledge oftext generationandattention.The core idea behind the Transformer model isself-attention—the ability to attend ...原创 2021-02-14 10:38:32 · 600 阅读 · 1 评论 -
NGINX Config
https://www.digitalocean.com/community/tools/nginxNGINX ConfigThe easiest way to configure a performant, secure,and stable NGINX server.原创 2020-04-08 15:05:23 · 217 阅读 · 0 评论 -
高端:「简历」都是怎么写的?
有一线大厂面试点思维导图,也整理了很多我的文档,欢迎Star和完善,大家面试可以参照考点复习,希望我们一起有点东西。前言昂每周我的邮箱都会收到各式各样的简历,但是说实话通过率真的太低了,hr都要吐槽我了,大家还是要好好写简历呀,能力再强简历差了,也不行啊。HR经常一天过几百份,甚至上千份简历,可能看10-30秒就会觉得留下来继续看一下,是邀约面试,还是PASS掉,但是很多简历甚至那10...转载 2020-03-26 15:03:27 · 1536 阅读 · 0 评论 -
为什么使用 Vuetify?
Material Design 组件框架Vuetify 是一个 Vue UI 库,包含手工制作的精美材料组件。不需要设计技能 - 创建令人惊叹的应用程序所需的一切都触手可及。为什么使用 Vuetify?用 Vue 构建应用程序从未如此简单。使用成功所需的所有工具来加速您的开发过程。Vue Framework Comparison 2020 Features V...原创 2020-03-23 10:30:45 · 770 阅读 · 0 评论 -
大众点评信息流基于文本生成的创意优化实践
大众点评信息流基于文本生成的创意优化实践2019年03月14日作者: 忆纯 杨肖 明海 众一 扬威 凤阳文章链接16977字34分钟阅读1. 引言信息流是目前大众点评除搜索之外的第二大用户获取信息的入口,以优质内容来辅助用户消费决策并引导发现品质生活。整个大众点评信息流(下文简称点评信息流)围绕个性化推荐去连接用户和信息,把更好的内容推荐给需要的用户。信息流推荐系统涉及内容挖掘...原创 2019-09-17 09:01:44 · 370 阅读 · 0 评论 -
XGBoost缺失值引发的问题及其深度分析
XGBoost缺失值引发的问题及其深度分析2019年08月15日作者: 李兆军文章链接3969字8分钟阅读1. 背景XGBoost模型作为机器学习中的一大“杀器”,被广泛应用于数据科学竞赛和工业领域,XGBoost官方也提供了可运行于各种平台和环境的对应代码,如适用于Spark分布式训练的XGBoost on Spark。然而,在XGBoost on Spark的官方实现中,却...原创 2019-09-17 08:59:55 · 1290 阅读 · 0 评论 -
点一万个赞:商汤SiamRPN目标跟踪最强算法开源
商汤SiamRPN目标跟踪最强算法开源导语:商汤科技智能视频团队首次开源其目标跟踪研究平台PySOT,包含商汤科技SiamRPN系列算法,以及刚被CVPR2019收录为Oral的SiamRPN++。日前,商汤科技智能视频团队首次开源其目标跟踪研究平台 PySOT。PySOT 包含了商汤科技 SiamRPN 系列算法,以及刚被 CVPR2019 收录为 Oral 的 SiamRPN++。此篇...原创 2019-05-25 08:27:46 · 3858 阅读 · 2 评论 -
最后一期:如何更新LSTM模型?(附代码)| 博士带你学LSTM
最后一期:如何更新LSTM模型?(附代码)| 博士带你学LSTMLSTM是一种时间递归神经网络,适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。在自然语言处理、语言识别等一系列的应用上都取得了很好的效果。《Long Short Term Memory Networks with Python》是澳大利亚机器学习专家Jason Brownlee的著作,里面详细介绍了...原创 2019-04-02 21:11:53 · 4440 阅读 · 0 评论 -
java中的abstract和interface差异
java中的abstract和interface差异这里需要谈到抽象类和Interface的差别,abstract class和interface是支持抽象类定义的两种机制。正是由于这两种机制的存在,才赋予了Java强大的面向对象能力,两者的区别如下:(1)相同点A,两者都是抽象类,都不能实例化。B,interface实现类及abstrct class的子类都必须要实现已经声明的抽...原创 2019-04-07 17:39:06 · 402 阅读 · 0 评论 -
微软云服务再添新产品,这次来自两位华裔女科学家创办的AI公司
微软云服务再添新产品,这次来自两位华裔女科学家创办的AI公司微软的Azure AI又添了一项新产品。这次是一个用于反欺诈的AI平台,来自DataVisor。微软全球金融服务副总裁Janet Lewis表示,集成这一产品,能够使客户更轻松、准确地检测攻击,并快速响应。那么问题来了,微软为什么会选择这家公司?这家对于大众来说很是陌生的公司,有什么独到之处?不仅仅是微软D...原创 2019-03-17 14:24:42 · 361 阅读 · 0 评论 -
Stanford NLP 解读 ACL 2018 论文——用于调试 NLP 模型的语义等价对立规则
Stanford NLP 解读 ACL 2018 论文——用于调试 NLP 模型的语义等价对立规则本文作者:王雪佩 2019-02-23 20:13 专题:ACL 2018 导语:新鲜出炉的论文解读~雷锋网 AI 科技评论按,近日,斯坦福自然语言处理小组发布了一篇博文,重点讨论了由 Ribeiro、Marco Tulio、Sameer Singh 和 Carlos Gues...原创 2019-02-26 22:29:37 · 745 阅读 · 0 评论 -
十分钟搭建和使用ELK日志分析系统
十分钟搭建和使用ELK日志分析系统 为满足研发可视化查看测试环境日志的目的,准备采用EK+filebeat实现日志可视化(ElasticSearch+Kibana+Filebeat)。题目为“十分钟搭建和使用ELK日志分析系统”听起来有点唬人,其实如果单纯满足可视化要求,并且各软件都已经下载到本地,十分钟是可以搭建一个ELK系统的。本文介绍如何快速安装、配置、使用EK+FILEBEAT去...原创 2019-02-16 22:25:06 · 350 阅读 · 0 评论 -
elasticsearch6.2.2安装中文分词插件IK analyzer
elasticsearch6.2.2安装中文分词插件IK analyzer哎,装了一下午的ik终于装上了,发现自己真的是非常笨了,并且es重启过程中遇到了很多的问题,下面我将手把手教大家如何安装ik,尽可能细致些.1. 首先我们需要到git上下载对应的安装包输入如下网址可以看到很多ik的安装包,这边我们选择第一个 https://github.com/medcl/elasticsear...原创 2019-02-16 21:45:49 · 1031 阅读 · 0 评论 -
redis和Memcached的区别,都什么时候使用?
redis和Memcached的区别,都什么时候使用?缓存在互联网公司占得比例还是蛮大的,提到缓存呢,就一定会想到redis和memcache,现在绝大多数的公司呢,都是推荐使用redis,这是为什么呢,而使用memcache也不在少数,所以redis和memcache之间到底有什么区别,在什么场景下选择redis,什么场景下选择memcache呢?redis和memcache这两个作为目...转载 2019-02-07 16:44:29 · 512 阅读 · 0 评论 -
在细分场景的时代,如何反欺诈和防止内外勾结?
干货分享:在细分场景的时代,如何反欺诈和防止内外勾结?凤凰科技05-0302:32原标题:干货分享:在细分场景的时代,如何反欺诈和防止内外勾结?整理 |近音 棘轮对场景的争夺,已经成为互联网金融发展的关键。随着时间的发展,场景在不断垂直、细分,这为风控带来了新的挑战。在细分的场景中,B端风控和C端风控,哪一个更重要?如何反欺诈、反内外勾结,搭建一套行之有效的风控体系?风控体系在未来会呈现何种形态...转载 2018-05-03 08:50:29 · 1188 阅读 · 0 评论 -
通过零知识证明,成为重要的区块链革新者
银行巨头ING:通过零知识证明,成为重要的区块链革新者 Captain Hiro 2018-05-02 13:28 ...转载 2018-05-03 08:53:59 · 821 阅读 · 0 评论 -
80%开发者都不知道的以太坊骚操作:「事件」和「日志」还可以这么玩!
80%开发者都不知道的以太坊骚操作:「事件」和「日志」还可以这么玩!2018年05月02日 00:00:00阅读数:366 ...转载 2018-05-04 08:05:12 · 2905 阅读 · 0 评论 -
微信研究员解析深度学习在NLP中的发展和应用
微信研究员解析深度学习在NLP中的发展和应用深度学习在自然语言(NLP)中的发展和应用视频教程,深度学习方法的表现大大的超过了传统方法。可以说,深度学习方法给NLP带来了一场重要的变革。在本课程中,我们将介绍NLP的基本概念和任务,总结深度学习方法在NLP领域中的发展情况;介绍深度学习方法在对话和机器翻译中的应用,介绍深度学习技术在腾讯部分产品中的应用情况;分析深度学习方法的优劣之处;深度学习...原创 2018-12-23 21:32:21 · 428 阅读 · 0 评论 -
深度学习时代的数据科学和自然语言处理
探索一些自然语言处理技术的最新进展、深度学习在自然语言处理技术领域的应用、实践和数据资源,以及使用英特尔的Nervanan Platform的企业自然语言处理的应用案例和使用英特尔® AI技术的NLP企业精华案例。 https://edu.csdn.net/course/play/9562...原创 2018-12-23 22:02:19 · 357 阅读 · 0 评论 -
Gartner的2019战略性技术趋势:量子计算、区块链、AI
Gartner的2019战略性技术趋势:量子计算、区块链、AIGartner列出了企业和组织在2019年需要探究的十大战略性技术趋势:智能设备、增强分析、AI驱动的开发、数字孪生、边缘计算、沉浸式体验、区块链、智能空间、数字道德和隐私、量子计算。这十大科技趋势被认为在未来5年将产生破坏性创新,并带来商业机遇。无处不在的智能设备提供各种基于大数据的贴心服务,将是科技的未来。Gartner...原创 2019-01-06 10:20:24 · 4564 阅读 · 0 评论 -
量子计算机编程原理简介 和 机器学习
量子计算机编程原理简介 和 机器学习本文翻译自D-Wave公司网站www.dwavesys.com/en/dev-tutorial-intro.htmlD-wave公司在2007年就声称实现了128位的量子计算机,并会在今年推出512位的量子计算机。传统计算机需要大量穷举试算才能求解的数值优化问题,在量子计算机中利用量子的物理特性可以瞬间求解。这种数值优化问题往往又是数据挖掘的核心...原创 2019-01-06 15:28:59 · 1585 阅读 · 1 评论 -
揭秘硅谷进化历程:机遇无穷 成功需付出更高代价
揭秘硅谷进化历程:机遇无穷 成功需付出更高代价[摘要]作为美国第一家市值高达1万亿美元的上市科技公司,苹果为硅谷的创新奠定了基础,并继续扩大其影响力。 腾讯科技讯 1月12日消息,据外媒报道,停车场上的12个电动汽车充电桩正为特斯拉汽车充电。大群人聚集在电脑历史博物馆(Computer History Museum)的大厅里,有些人在互相拥抱问候。一个人对房间里的另一个人喊道...原创 2019-01-13 09:12:05 · 644 阅读 · 0 评论 -
详解谷歌最强NLP模型BERT(理论+实战)
详解谷歌最强NLP模型BERT(理论+实战) 作者:李理,环信人工智能研发中心vp,十多年自然语言处理和人工智能研发经验。主持研发过多款智能硬件的问答和对话系统,负责环信中文语义分析开放平台和环信智能机器人的设计与研发。本文是作者正在编写的《深度学习理论与实战》的部分内容。 导语 Google BERT 模型最近横扫了各大评测任务,在多项任务中取得了最好的...原创 2019-01-22 21:39:34 · 4203 阅读 · 0 评论 -
归零,从头再来
HTML 简介HTML 实例<!DOCTYPE html> <html> <head> <meta charset="utf-8"> <title>菜鸟教程(runoob.com)</title> </head> <body> <h1&g原创 2019-02-05 09:47:11 · 2084 阅读 · 0 评论 -
JS和JQUERY的区别
JS和JQUERY的区别①.根据ID取元素{JS:取到的是一个DOM对象。 例:var div = document.getElementByID("one");JQUERY:取到的是一个JQUERY对象。 例:var div = $("#one");——括号里面是根据某个东西来找,相当于一个选择,如果我们要根据ID来找,在样式表里的ID是用#来表示的,所以在这里我们直...原创 2019-02-06 17:21:17 · 130 阅读 · 0 评论 -
AJAX 教程
AJAX 教程 AJAX = Asynchronous JavaScript and XML(异步的 JavaScript 和 XML)。AJAX 不是新的编程语言,而是一种使用现有标准的新方法。AJAX 最大的优点是在不重新加载整个页面的情况下,可以与服务器交换数据并更新部分网页内容。AJAX 不需要任何浏览器插件,但需要用户允许JavaScript在浏览器上执行。 ...原创 2019-02-07 16:33:36 · 156 阅读 · 0 评论