自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

落尘

一木树十春,跬步渡红尘

  • 博客(30)
  • 收藏
  • 关注

原创 Java指令重排导致的出现概率约为千万分之一的Bug

题外话在网易实习的时候,线上出现过几次诡异的错误,之后想排查又不能复现错误。一位同事感叹道: 分布式、多线程的环境下,出现这种诡异的问题其实是不稀罕的。当时我只能似懂非懂的点头。来写个Bug吧public class OutofOrder { static class State { int a = 0, b = 0, c = 0; } public static void main(String[] args) throws InterruptedExce

2022-01-19 23:03:11 869

原创 深入浅出Transformer原理与实现

这里写自定义目录标题来与去源起来与去它解决的是哪个领域的问题?这个领域没有它之前是什么样子,有了它之后,这个领域怎么发展?源起机器学习模型有很多种分类方式,其中有一种简单粗暴的:按照输入输出的长度进行分类,分为:One to One (如输入图片输出类别)One to Many (如输入图片输出图片描述或者是字幕)Many to One (如输入微博评论输出情感类别)Many to Many (分为M to N() 与 M to M())...

2022-01-03 18:11:49 1360

原创 web安全那些不得不知的套路与工具

虽然我不是纯做安全的,但作为一个写代码的,总归好奇那些“黑客”是怎么做到在网上攻城掠地的,于是我选择了web安全作为切入点了解了解:1 工具1.1 maxhackbar一个firefox插件构造各种请求,抓包之类的,这个是必备工具啦hackbar要收费了,现在就用这个1.2 dirsearch 暴力遍历网站文件目录下载与使用方式(前提是装Python3):git clone https://github.com/maurosoria/dirsearch.gitcd dirsearchpy

2020-08-02 22:05:30 491

原创 用js改变用户在网页上点击右键后的操作

加上这一句即可:<script type="text/javascript">document.οncοntextmenu=function(e){return false;};document.onselectstart=function(e){return false;};</script>解释:οncοntextmenu="return false" 禁止右键onselectstart="return false" 禁止选取onpaste="retur

2020-08-02 14:32:29 234

原创 ubuntu 软件仓库走代理 配置教程

问题描述ubuntu 18.04LTS下,哪怕设置了系统级的代理,但执行apt install或apt update等命令仍然会使用直连的方式,如果希望让这些软件更新操作全部走代理,执行以下操作:步骤1 更改当前用户环境变量vim ~/.bashrc, 加入以下行:export http_proxy=http://<代理ip地址>:<端口>/export https_proxy=https://<代理ip地址>:<端口>/export ftp

2020-07-22 16:39:23 1435

原创 论文阅读笔记 Predicting Future Frames using Retrospective Cycle GAN

文章目录0 摘要1 介绍2 相关工作3 解决方案3.1 目标函数3.1.1 Reconstruction losses3.1.2 Adversarial losses0 摘要两个Discriminator(一个判断frame是否真实,一个判断frame的sequence是否真实), 一个Generator组成了作者的网络1 介绍首先作者的generator可以同时预测未来与过去的帧, 然后作者在预测的帧之间加上了周期一致性。回溯预测(retrospective)的基本思想是,如果预测的未来帧是真实的

2020-06-28 13:25:50 748 1

原创 论文阅读笔记《Memory In Memory: A Predictive Neural Network...》

0 摘要与介绍时空序列预测任务定义作者认为自然界中的时空序列预测问题很多都是高度非平稳(highly non-stationary) 的随机过程(即随机过程的统计特性随时间的推移而变化),不过根据Cramer的分解公式,任一非平稳的随机过程可以被分解为确定的,时变的多项式加上一个均值为0的随机项(看看这里)。通过应用不同的适当的操作,作者认为可以将时变的多项式转化为一个常量,使得确定性的部分具有可预测性。要解决的问题作者认为以前的LSTM魔改网络(如PredRNN)缺少对非平稳信息的建模让网络很难有

2020-05-22 17:41:26 837

原创 Git入门教程,看这一篇就够了

Git入门必会关联远程Github仓库准备密钥对本地关联同步关联远程Github仓库准备先在Github上创建名为{repo_name}的仓库在本地电脑上安装git本地设置:git config --global user.name {github上的用户名}git config --global user.email {github上的邮箱}密钥对ssh-keygen -t ...

2020-04-23 19:39:35 347

原创 Docker入门教程,看这一篇就够了(2020.3)

这是本菜第一篇英文教程,只会使用简单的英文单词, 我也只会简单的 ????I insist a simple principle while writing a tutorial:SImplify simple things, list the reasons why complex things get complicated.---- by me0 Must read before in...

2020-03-19 21:22:48 1833

原创 Vim复制粘贴简明教程

Linux下Vim就如同多功能瑞士军刀一样,初学时固然感觉只如同一个功能较强的记事本,然而看到有些Vim高手用Vim编辑文本的速度能够不输思维速度,本菜鸟自然心向往之,然而因为Vim的哲学是脱离鼠标,连复制粘贴都得从头学起:文章目录0 检查剪贴板1 在Vim中选择要复制的内容:1.1 字符可视化模式1.2 行可视化模式1.3 块可视化模式2 将Vim中选择内容复制到系统剪贴板3 将剪贴板内容粘贴...

2020-02-05 11:49:20 604

原创 算法树洞之贪心专题

文章目录0 前言1 题目列表1.1 最大不相交区间问题此文会不断更新0 前言贪心算法实在是把我虐得不轻,干脆做个专题出来1 题目列表1.1 最大不相交区间问题题目: 看电视"心路历程":思路一;1 对区间左端点由小到大排序2 遍历,对每个区间左端点,尽量找离它最近的右端点3 下一个右端点从>=上个区间左端点开始找提交,错误思考后发现问题出在第2步,即根本没法保证哪个...

2020-01-16 07:37:12 289

原创 基本功之最大子列和(PAT A 1007)

文章目录问题描述解决方法坑点问题描述这是一个经典问题题目链接PAT_A1007题目大意:输入K个数,找出其中和最大的连续子数列,并输出这个子数列的和、这个数列的第一个数、这个数列的最后一个数。如果最大和不唯一,输出最左边的和为最大和的子数列的首、尾数字。如果一整个数列都为负数,输出0 数列第一个数 数列最后一个数解决方法想了想此问题不用开一个数组去存储,所以使用在线处理的方式。#...

2019-09-04 08:58:50 225

原创 基本功之链表反转(c++)

简单,不过我以为自己第一遍能运行正确的,还是在一个地方犯了错。基本思路是给链表创立一个头结点,不过我一开始没考虑边界情况即pre=L的时候,实际上如果让pre=L->next; // pre是准备翻转的结点的上一个结点 就不会有这个问题。#include <cstdio>#include <cstdlib>struct LNode{ int data; ...

2019-07-07 23:08:50 654

原创 一文弄懂关于循环神经网络(RNN)的Teacher Forcing训练机制

文章目录一 RNN在训练过程中的问题二 RNN的两种训练模式三 什么是Teacher Forcing四 Free-Running vs Teacher Forcing 实例4.1 Free-running 训练过程4.2 Teacher-Forcing 训练过程五 Teacher Forcing的缺点及其解决办法5.1 Teacher Forcing的缺点5.2 集束搜索(Beam Search)...

2019-04-08 16:07:11 28214 3

原创 论文阅读笔记《Get To The Point: Summarization with Pointer-Generator Networks》

文章目录摘要一 介绍二 模型2.1 序列->序列架构加上注意力机制模型(seq2seq+attention model)这是一篇ACL2017的论文,偏工程性,模型实用性强,可以说是生成式摘要技术的里程碑(特别是对于标题生成任务来说),作者也都是大牛(大家如果上过cs224n的课,应该对Manning教授不陌生吧)摘要在生成式摘要任务中,对于传统的seq2seq+attention的模...

2019-04-05 23:51:53 3708 2

原创 论文泛读笔记《Neural Latent Extractive Document Summarization》

文章目录0 摘要1 介绍2 模型2.1 神经网络抽取式摘要模型2.2 句子压缩2.3 使用隐变量做抽取式摘要3 实验结果4 个人阅读总结0 摘要这应该是第一个提出把句子作为隐变量的抽取式摘要模型。1 介绍过去的抽取式摘要技术多是把这个看作句子序列标注二分类问题或者句子排序问题。传统方法主要有用人工特征做二分类器的方法,隐马尔可夫模型法,基于图的方法,基于ILP(线性整数规划)的方法。后来...

2019-02-25 23:13:41 1021

原创 论文泛读笔记《Neural Document Summarization by Jointly Learning to Score and Select Sentences》

文章目录0 摘要1 介绍0 摘要此论文将句子打分与选择作为主要的任务而不仅是子任务, 使用分层编码器获取句子的分布式表示,作者将打分系统融入模型,根据前面的句子直接预测当前句的相对重要性。达到了CNN/Daily Mail数据集上的state-of-the-art(话说几乎看过的论文都是这么说的2333)1 介绍之前的传统方法已经有大量的句子打分与句子选择的应用(确实,可参考我前篇博文: ...

2019-02-25 21:54:11 978

原创 论文泛读笔记《Learning to Extract Coherent Summary via Deep Reinforcement Learning》

文章目录0 摘要1 介绍2 相关工作3 神经抽取式摘要模型4 强化神经抽取式摘要模型4.1 强化学习4.2 神经连贯性奖励4.3 ROUGE得分奖励5 实验与结果5.1 神经连贯模型的结果5.2 强化神经抽取式摘要模型(RNES)的结果6 结论转载请注明本文出处0 摘要1 介绍2 相关工作3 神经抽取式摘要模型4 强化神经抽取式摘要模型4.1 强化学习4.2 神经连贯性奖励4.3...

2019-02-25 16:29:13 710

原创 论文阅读笔记《Ranking Sentences for Extractive Summarization with Reinforcement Learning》

文章目录0 摘要1 介绍2 通过句子排序进行自动摘要2.1 句子编码器(sentence encoder)2.2 文档编码器(document encoder)2.3 句子抽取器(sentence extractor)3 交叉熵损失的陷阱4 使用强化学习进行句子排序4.1 学习策略4.2 使用高概率样本进行训练5 实验6 结果7 相关工作8 结论转载请注明原文出处0 摘要此文将抽取式单文档...

2019-02-15 00:40:30 2105 4

原创 论文阅读笔记《Can Syntax Help? Improving an LSTM-based Sentence Compression Model for New Domains》

文章目录0 摘要1 介绍2 方法2.1 问题定义2.2 基准模型(baseline)2.3 句法特征的结合2.4 通过ILP进行全局推断2.4.1 目标函数2.4.2 约束3 实验3.1 数据集与实验参数设置3.2 自动化评估3.3 手动评估4 相关工作5 结论转载请注明原文出处0 摘要这篇论文是由新加坡管理大学(SMU)和北京理工大学(BIT)合作的成果此文主要研究如何在句子压缩的工作中...

2019-02-14 12:58:20 598

原创 论文阅读笔记《SummaRuNNer: A Recurrent Neural Network based Sequence Model for Extractive Summa》

1 摘要这个模型达到2017年的state-of-art两大优势:提出了一套简洁明了的公式,很好地解释了从一些抽象特征: 信息内容(information content),显著度(salience),新颖度(novelty) 到预测结果的过程提出了一种新的训练机制,可以使用生成式训练机制来训练这个抽取式模型2 介绍自动文档摘要方法主要分为抽取式(extractive)和生成式(a...

2019-02-08 22:25:29 2969 4

原创 SVM算法理论推导及python实现

SVM中SMO算法详细推导及其python实现一, 推导至SMO要解决的SVM对偶形式本文假设读者对SVM的前置知识有基础的了解对于含soft margin的支持向量机, 其primitive problem: minw,b,ξ12∥w∥2+C∑i=1Nξis.t.yi(w⋅xi+b)≥1−ξi,i=1,2,⋯,Nξi≥0,i=1,2,⋯,N(1)(2)(3)(1)minw,b,ξ1...

2018-08-12 02:56:56 1251

原创 SVM之拉格朗日对偶问题与KKT条件推导

1.线性可分SVM要求解的原始问题2.对偶问题(dual problem)原始问题最优解与对偶问题最优解的关系3.KKT条件推导情况一情况二综合两种情况参考:原因是学到SVM这里发现这个lagrange dual problem 必须满足 KKT 条件, 于是写下了这篇文章记录这些条件被推出的过程, 本人才疏学浅, 不当之处请尽管指出1.线性可分SV...

2018-07-26 18:31:56 2295

原创 动态规划热身

第一题: LeetCode55:跳跃游戏方法一: 从左到右我自己认为,所谓动态规划,重点是要推出某些数学公式一样的结论! 不必拘泥于什么动态转移方程, 能推出某些数学结论, 就按照这些来 对于从左到右搜索: 假如有 3 1 0 2 … 起始数字为3 那么它该怎么走: 肯定是跳到2啊, 因为在接下来的3个搜索空间中, 2到达的距离最远 那么思考一个问题: 每次跳最远, 一定是最优的...

2018-07-19 23:35:56 98

原创 BP

BP神经网络推导及python实现1.基本模型推导从简单到复杂,这里我们讨论一种单隐层前馈网络: 图片来源于周志华版机器学习 以下是该网络各最基本的参数:ddd : 输入层神经元qqq : 隐藏层神经元lll : 输出层神经元sigmoid(x)=f(x)=11+e−xsigmoid(x)=f(x)=11+e−xsigmoid(x) = f(x) = \fra...

2018-06-08 16:22:04 477

原创 java8中谨慎使用实数作为HashMap的key!

java8中一个hashCode()函数引发的血案java8中一个hashCode()函数引发的血案1.起因2.实数的hashCode()3.总结1.起因让我关注到这一点的起因是一道题:牛客网上的max-points-on-a-line (如果链接打不开可以直接搜索题目哦)题目是这么描述的: Given n points on a 2D plane...

2018-03-25 19:12:04 3063 2

原创 透彻理解逻辑回归(数学推导+python实现+sklearn相关包使用)

逻辑回归(数学推导+python实现+sklearn相关包使用)1. 原理讲解及数学公式推导 逻辑回归(logistic regression)也叫做对数几率回归, 其实它是一种分类方法在上一章,我们介绍了最基本的线性回归,那么如何进行分类任务呢? 注意上一章讲过的广义线性模型(generalized linear regression), 只要找到一个单调可微函数, 接近单位阶跃...

2018-03-15 00:40:12 3500 1

翻译 如何将时间序列问题转化为监督学习问题

如何将时间序列问题转化为监督学习问题如何将时间序列问题转化为监督学习问题1.学习目标:2.时间序列 vs 监督学习3.pandas shift() 函数4.series_to_supervised() 函数5.单步单变量预测(One-Step Univariate Forecasting)6.多步或序列预测(Multi-Step or Sequence Forecasting)...

2018-03-13 13:41:07 14277 7

原创 透彻理解线性回归 (公式推导+python实现+应用举例+sklearn应用)

线性回归 (公式推导+python实现+应用举例+sklearn应用)线性回归 (公式推导+python实现+应用举例+sklearn应用)1.公式推导2.用数据举例* 简单介绍下归一化和标准化3.python实现线性回归4.scikit-learn中的线性模型5.总结及了解扩展内容1.公式推导线性模型形式如下: hθ(x)=θ0x0+θ1x1+⋯+θ...

2018-03-13 13:22:15 2633

原创 机器学习经典算法之贝叶斯分类推导

贝叶斯分类算法推导

2017-12-10 22:06:22 427

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除