- 博客(22)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 Leetcode52.Maximum Subarray(贪心与分治)
题目描述:Given an integer arraynums, find the contiguous subarray(containing at least one number) which has the largest sum and return its sum.Example:Input: [-2,1,-3,4,-1,2,1,-5,4], Output: 6 Exp...
2019-07-26 13:37:48
202
原创 LeetCode-Arrary-TwoSum以及ThreeSum
一、TwoSum题目描述:Given an array of integers, returnindicesof the two numbers such that they add up to a specific target.example:Given nums = [2, 7, 11, 15], target = 9,Because nums[0] + nums[...
2019-07-16 10:38:59
220
原创 BERT阅读笔记
一、前言本阅读笔记是在阅读BERT模型过程中觉得需要记录的笔记,也是自己的理解记录。如有错误，欢迎指出纠正讨论，谢谢！目前该篇仅记录BERT文章的前三章，也就是模型相关介绍，后面的实验以及讨论暂未看完,后期继续更新！博客中引用的图片全部来自于BERT原文:https://arxiv.org/pdf/1810.04805.pdf摘要部分摘要部分主要概括性的介绍BERT的主体:...
2019-07-14 14:00:36
870
原创 图解Transformer模型(Multi-Head Attention)
本文内容主要源于Attention is all you need:https://arxiv.org/abs/1706.03762由于本人最近在研究文本的判别式模型,如文本分类任务,所以学习了Transformer,并根据自己的理解制作了PPT介绍总结Transformer中几个比较重要的部分.文章内容为本人制作的PPT，同时在需要解释的slide写上了补充说明;主要内容包括1...
2019-07-10 23:10:07
18712
5
转载 神经网络中w,b参数的作用
在我们接触神经网络过程中，很容易看到就是这样一个式子，g(wx+b)，其中w,x均为向量.比如下图所示：加入激活函数为g(x)，我们就可以用公式g(w1x1+w2x2+b)(注：1,2均为下标，公众号很难打,下面所有的公式均是)来表示神经元的输出。其中b为神经元的偏置.那么w,b这些参数的作用有没有最直观的感受呢？以及我当时学习的时候问师兄的，每个神经元为什么要加上偏置b,...
2019-06-30 09:11:31
3911
1
原创 深层神经网络难拟合与Batch Normalization问题
主要总结两个问题:为什么传统的深层神经网络，随着层数的增加会越来越难拟合训练？ 问题1的常见对策(Batch_Normalization)的介绍一、为什么传统的深层神经网络，随着层数的增加会越来越难拟合训练？众所周知,传统的深层神经网络，随着层数的加深，模型会变得很难训练，很难拟合，这个很多人都知道，但是为什么呢，怎么样解释清楚？首先机器学习领域有一个很重要的假设：即独立同分布假设...
2019-06-22 15:44:47
1268
原创 [ELMo]Deep contextualized word representations记录
Deep contextualized word representations是2018年NAACL的BestPaper,提出ELMo模型，突破了word2vec glove等传统词向量的限制，所以找了个时间阅读并尝试翻译了一下这篇Paper，水平有限，仅供参考，也欢迎一起学习交流！深度语境化词表征摘要文章推出了一种新型的深度语境化词表征模型，该模型可以对复杂的词特征（句法、语义）以...
2019-03-24 15:37:39
886
原创 Python学习记录
Python学了些基础就开始上手使用了，此博文仅为记录平时遇到的一些函数使用说明:OS模块OS模块顾名思义就是对操作系统进行操作，例如对文件，目录的操作，调用该模块的函数需要先import os1.os.name--该属性返回当前操作系统的类别,windows返回'nt',linux返回'posix'2.os.getcwd()--得到当前工作目录3.os.listdir...
2019-02-24 19:28:01
130
原创 安装pkuseg分词中numpy引起的错误解决
pkuseg是由北京大学语言计算与机器学习研究组研制推出的一套全新的中文分词工具包。其准确率据称远超过现常用的jieba分词工具等，故今日也是按照：https://github.com/lancopku/PKUSeg-python安装运行测试一看，安装过程中出现一些问题，在此记录下解决方法： 根据指南：pip3安装后import包进行使用提示错误：Traceback (most...
2019-02-18 21:56:13
3336
原创 卡方检验
卡方检验卡方检验的百科解释:卡方检验就是统计样本的实际观测值与理论推断值之间的偏离程度，实际观测值与理论推断值之间的偏离程度就决定卡方值的大小，如果卡方值越大，二者偏差程度越大；反之，二者偏差越小；若两个值完全相等时，卡方值为0，表明理论值完全符合。在实际中我们常常用来推断变量与变量之间是否存在联系。卡方值的计算其中，A代表实际观测值，E代表理论推断值，卡方值的计算主要就是...
2019-02-01 11:12:26
1752
转载 【转载】ReLU激活函数：简单之美
导语在深度神经网络中，通常使用一种叫修正线性单元(Rectified linear unit，ReLU）作为神经元的激活函数。ReLU起源于神经科学的研究：2001年，Dayan、Abott从生物学角度模拟出了脑神经元接受信号更精确的激活模型，如下图：其中横轴是时间(ms)，纵轴是神经元的放电速率(Firing Rate)。同年，Attwell等神经科学家通过研究大脑的能量消耗过程，推测神经...
2018-10-01 16:47:02
257
原创 深度学习tensorflow函数学习记录（持续更新）
（1)tf.zeros(shape, dtype=tf.float32, name=None)创建一个所有参数都为0的tensor对象，返回数据类型为dtype，维度为shape的tensor,所有参数均为0（2）tf.zeros_like(tensor,dtype=None,name=None)给定一个tensor,该方法会返回一个类似该tensor的dtype与维度的对象（3）...
2018-09-27 09:58:20
211
原创 机器学习过程中遇见过的pandas库函数记录与总结
1.pandas.get_dummies(data, prefix=None, prefix_sep='_', dummy_na=False, columns=None, sparse=False, drop_first=False, dtype=None)该函数通常用于将样本中的离散变量进行编码的场景中：（1）data即为需要转换的离散变量，包括数组，序列，datdaframe（2）...
2018-08-25 11:09:37
229
原创 C++_左值引用与右值引用
我们平常说的引用，一般来说都会默认为左值引用。即为某一个对象起一别名，是间接访问的一种实现方式。引用有许多的作用，例如传参中避免发生拷贝，在一定程度上我们可以提升性能。又例如传参时，实参为数组，我们知道数组是不能整体拷贝，故我们也可以通过引用来实现。 左值，右值左值，右值都是表达式的属性。C++中的表达式要么是右值，要么是左值。而C++中某一表达式是左值还是右值？总的来说应该根据该...
2018-08-14 12:47:31
269
原创 C++primer_练习16.6
近日在补之前欠下C++的账，第十六章模板的练习16.6比较特别，单独记录一下。练习16.6：你认为接受一个数组实参的标准库函数begin和end是如何工作？定义你自己版本的begin和end。知识点：（1）考察模板定义，非类型模板参数，这一方面具体书上都有，不详细讲解，看书！（2）数组与数组名，const的强制转换。（3）begin()是一个模版函数，接受一个容器的引用，返回指...
2018-08-04 16:36:32
173
原创 数组，数组名，引用数组，数组引用，数组拷贝
本系列博客只为平时在C++学习过程中遇到的一些比较杂乱的问题，希望能够与大家慢慢积累，让基础更加扎实！1.数组，数组名，引用数组，数组引用，数组拷贝引用：首先理解引用。引用就是一个别名，不分配内存空间，是间接访问的一种方式。我们可以很直接联想到指针，但是指针不一样，指针本身就是一个对象，是有分配内存空间的。数组与数组名：数组，大家都很熟悉，就是一个固定大小的容器。对于数组名...
2018-08-04 13:11:09
1238
2
原创 一知半解系列···seaborn的总结与记录
一知半解系列纯粹是博主为了记录平常在学习过程中遇到的新知识，不会作过深的研究，只求会应用即可，主要目的是为了方便查询。seaborn是python可视化工具之一，讲到可视化工具自然会想起matplotlib.seaborn 与matplotlib相比，是更高级的api封装，使用起来更加简单。据说seaborn的可视化效果会比matplotlib更佳！seaborn不像matplot...
2018-08-03 13:46:10
469
原创 机器学习过程中遇见过的numpy库函数记录与总结
此文仅为了总结与记录在机器学习过程中常遇见的函数，不断更新1.numpy.arange（start,end,step）arange函数用于创建等差数组，返回一个array对象,起始值为start 终值为end 但返回的数组是不包含end的。step可以为整数也可以是浮点数，但是要注意range函数中的step函数是只能为int，且返回的是一个list2.numpy.linspace...
2018-07-31 15:09:49
188
原创 matplotlib.pyplot.figure函数使用总结
该文仅总结我在使用过程中的需要：因为figure函数在日常使用中比较频繁，估我觉得还是比较有必要进行一下总结的，首先看下该函数的：matplotlib.pyplot.figure(num=None, figsize=None, dpi=None, facecolor=None, edgecolor=None, frameon=True, FigureClass=<class 'mat...
2018-07-31 14:38:27
47911
2
原创 机器学习-第五章神经网络读书笔记（周志华）
前言博主第一次接触机器学习，内容可能有许多原文复现，但是我尽量用自己的话来讲，觉得写得还行的话点个喜欢，谢谢！读书笔记第一目的是为了总结，第二是顺便在博客上记录我的学习历程，同时也希望读者能有一点点收获吧~如果不对的地方，还请多多指教！正文周志华的机器学习第五章讲的是关于神经网络这一方面，内容上包括了基本神经网络的组成与基本概念，常见的神经网络学习算法以及相关优化问题，在后面简单介绍了几种常见的神...
2018-06-19 19:03:21
6994
原创 机器学习-第四章决策树读书笔记（周志华）
前言博主第一次接触机器学习，内容可能有许多原文复现，但是我尽量用自己的话来讲读书笔记第一目的是为了总结，第二是顺便在博客上记录我的学习历程，同时也希望读者能有一点点收获吧~如果不对的地方，还请多多指教！正文周志华的机器学习第四章讲的是关于决策树。决策树的基本流程顾名思义，决策树就是基于树的结构来进行决策的。如图4.1所示，从树的根结点，到叶子结点（也就是判别结果），其中一般会经过若干个中间结点，每...
2018-06-12 15:50:20
5095
原创 机器学习-第三章线性模型读书笔记（周志华）
博主从未接触过机器学习，读书笔记第一目的是为了总结，第二是放到网上交流，多多指教！周志华的机器学习第三章讲的是：线性模型首先从线性模型的基本形式出发，进而介绍了几种经典的线性模型（线性回归，二分类，多分类），博客也按照该流程陈述自己的学习收获。1.线性模型的基本形式线性模型，关键在于“线性”。顾名思义线性模型试图学得一个通过属性的线性组合来进行预测的函数，即：其中x是包含d维属性的向量，(x1,x...
2018-06-09 19:14:23
5898
空空如也
初学者想用C++完成ADO.NET三层架构访问数据库
2017-03-17
TA创建的收藏夹 TA关注的收藏夹
TA关注的人