- 博客(38)
- 资源 (21)
- 收藏
- 关注
RSS订阅原创 python import导入模块
简介常规导入（regular imports）使用from语句导入相对导入（relative imports）可选导入（optional imports）本地导入（local imports）1. 常规导入常规导入常规导入应该是最常使用的导入方式，大概是这样的：import sys你只需要使用import一词，然后指定你希望导入的模块或包即可。通过这种方式导入的好处是可以一次...
2019-10-31 20:30:00
451
原创 Mac anaconda下安装Python及与配置Pycharm
官方下载安装https://www.anaconda.com/distribution/；检查是否安装成功在terminal上输入：$ conda --version配置Pycharm在Pycharm 的Preference中的Project Interpreter 中配置anaconda的Python。一般anaconda的Python路径为：/用户/mac/opt...
2019-10-31 19:26:41
1499
转载 列存储格式Parquet浅析
1. 简介Apache Parquet是Hadoop生态圈中一种新型列式存储格式，它可以兼容Hadoop生态圈中大多数计算框架(Hadoop、Spark等)，被多种查询引擎支持(Hive、Impala、Drill等)，并且它是语言和平台无关的。2. 示例example：以下这张表有A、B、C三个字段：A B CA1 B1 C1A2 B2 C2A3 B3 C3行存储：A1 B1 ...
2019-10-31 15:57:14
416
原创 ssh Key 生成与保存到GitHub
Generating a new SSH key and adding it to the ssh-agent;[Adding a new SSH key to your GitHub account]](https://help.github.com/en/enterprise/2.15/user/articles/adding-a-new-ssh-key-to-your-github-acc...
2019-10-30 20:00:34
314
转载 Mac下shuttle的配置
1.配置点击快捷菜单的shuttle小图标，设置-编辑。打开配置文件。{ "_comments": [ "Valid terminals include: 'Terminal.app' or 'iTerm'", "In the editor value change 'default' to 'nano', 'vi', or another terminal based e...
2019-10-30 19:45:25
1018
原创 ssh指令
cd - Change directory (e.g. cd /var/www will put you in the www directory)cd ~ ：Go to the home foldercd / - Go to the root directorycd - - Go to the previous directorycd .. - Move up one directory...
2019-10-30 16:57:20
286
原创 Linux kill指令
三种方式：kill pidkill – Kill a process by IDkillall namekillall – Kill a process by namekill signal pidkill的不同方法，比如 hangup，直接kill等。you can send the HUP (hang up) signal to the kill command, which ...
2019-10-30 16:49:01
750
原创 稀疏Attention
1. 模型Self Attention是O(n2)O(n^2)O(n2)的，那是因为它要对序列中的任意两个向量都要计算相关度，得到一个n2n^2n2大小的相关度矩阵：左边显示了注意力矩阵，右变显示了关联性，这表明每个元素都跟序列内所有元素有关联。所以，如果要节省显存，加快计算速度，那么一个基本的思路就是减少关联性的计算，也就是认为每个元素只跟序列内的一部分元素相关，这就是稀疏Attenti...
2019-10-29 16:17:43
6432
原创 空间Attention
1. 简介空间注意力（Spatial Attention）机制，特别是基于 Transformer 的注意力机制在最近取得了广泛的成功与应用，但是对该机制本身的理解和分析仍然匮乏。本论文对空间注意力机制进行了详尽的经验性分析，取得了更深入的理解与一些全新的观点，这些分析表明空间注意力机制的设计存在很大的改进空间。2.论文 Transformer-XL 中提出，注意力权重可以按使用的特征因子被...
2019-10-29 14:17:14
4714
原创 贝叶斯神经网络 BNN
1. 简介贝叶斯神经网络不同于一般的神经网络，其权重参数是随机变量，而非确定的值。如下图所示：2. 模型假设 NN 的网络参数为 W，p(W) 是参数的先验分布，给定观测数据 D={X,Y}，这里 X 是输入数据，Y 是标签数据。BNN 希望给出以下的分布：其中：这里 P(W|D) 是后验分布，P(D|W) 是似然函数，P(D) 是边缘似然。从公式（53）中可以看出，用 BNN ...
2019-10-26 18:59:31
27847
20
原创 变分推断与变分自编码器
VAE：目标估计参数 θ\thetaθ 和 隐变量 zzz.最大化 log 似然函数：lnp(X)=∑i=1Nlnp(xi)（1）\ln p(X)=\sum_{i=1}^{N} \ln p\left(x_{i}\right) （1）lnp(X)=i=1∑Nlnp(xi)（1）lnp(xi)=kl(q(z)∥p(z∣xi))+Li(q(z),θ)（2）\ln p\left(...
2019-10-25 19:14:23
3202
原创 Python 定义只读变量@property
class Test()： def __init__(self, val): self.__val= val @property def onlyReadVal(self): return self.__valf = Test(2)print(f.onlyReadVal)运行结果：2如果添加：f.onlyReadVal = 3会报错：AttributeError...
2019-10-25 10:55:40
3559
1
原创 python 装饰器
1.定义不希望修改函数的定义，同时在代码运行期间动态增加功能的方式，称之为“装饰器”（Decorator）。2.示例def log(func): def wrapper(*args, **kw): print('call %s():' % func.__name__) return func(*args, **kw) return wrappe...
2019-10-25 10:44:50
123
转载 从语言模型到Seq2Seq：Mask
1. TransformerAttention (Q,K,V)=softmax(QK⊤dk)v\text {Attention }(\boldsymbol{Q}, \boldsymbol{K}, \boldsymbol{V})=\operatorname{softmax}\left(\frac{\boldsymbol{Q} \boldsymbol{K}^{\top}}{\sqrt{...
2019-10-24 19:13:57
2904
原创 堆叠胶囊自编码器 Stacked Capsule Autoencoders
本文提出了堆栈式胶囊自编码器（SCAE），该编码器包含两个阶段。在第一阶段，部件胶囊自编码器（PCAE）将图像分割为组成部分，推断其姿态，并将每个图像像素重建为变换组件模板的像素混合。在第二阶段，目标胶囊自编码器（OCAE）尝试将发现的部件及其姿态安排在一个更小的目标集合中。这个目标集合对每个部件进行预测，从而解释每个部件的姿态。通过将它们的姿态——目标-观察者关系（OV）和相关的目标-部件关系...
2019-10-22 20:27:41
12316
5
转载 浅谈图神经网络模型
1.前言发展历史：最早的GNN主要解决的还是如分子结构分类等严格意义上的图论问题。但实际上欧式空间(比如像图像 Image)或者是序列(比如像文本 Text)，许多常见场景也都可以转换成图(Graph)，然后就能使用图神经网络技术来建模。直到2013年，在图信号处理(Graph Signal Processing)的基础上，Bruna(这位是LeCun的学生)在文献 [3]中首次提出图上的基...
2019-10-18 10:07:35
3269
原创 FACEBOOK 时间序列预测算法 PROPHET 的研究
1.思想在时间序列分析领域，有一种常见的分析方法叫做时间序列的分解（Decomposition of Time Series），它把时间序列 分成几个部分，分别是季节项 ，趋势项 ，剩余项 。也就是说对所有的 ，都有yt=St+Tt+Rty_{t}=S_{t}+T_{t}+R_{t}yt=St+Tt+Rt除了加法的形式，还有乘法的形式，也就是：yt=St×Tt×Rty_{t...
2019-10-16 16:12:43
3985
1
原创 Python Numpy 计算自相关系数
def autocorrelation(x,lags):#计算lags阶以内的自相关系数，返回lags个值，分别计算序列均值，标准差 n = len(x) x = numpy.array(x) result = [numpy.correlate(x[i:]-x[i:].mean(),x[:n-i]-x[:n-i].mean())[0]\ /(x[i:].std()*x[:n-i].std...
2019-10-16 15:34:53
18664
原创 lightgbm常用功能(自定义损失函数)
1、自定义损失函数比如：def smape_loss(preds, train_data): print('************************************') print(preds) labels = train_data.get_label() grad = np.zeros(shape=len(preds), dtype=np.f...
2019-10-16 10:54:53
11590
1
原创 NGBoost：用于概率预测的自然梯度提升
1.引言在此论文中，来自斯坦福的研究者们提出了 NGBoost 梯度提升方法以解决现有梯度提升方法难以处理的通用概率预测中的技术难题。概率预测（一种模型在整个结果空间中输出完整概率分布的方法）是量化那些不确定性的自然方法。 梯度提升机已经在结构化输入数据的预测任务中取得了广泛的成功，但是对于实际值输出的概率预测，尚没有一种简单的提升解决方案。 NGBoost是一种梯度提升方法，它使用自然梯度（...
2019-10-15 09:21:06
7085
原创 半监督序列学习
1、序列自编码器和递归语义模型2、半监督序列学习从序列自动编码器获得的权重可以用作另一个有监督网络的初始化，该网络试图对序列进行分类。 我们假设这是因为网络已经可以存储输入序列，序列自动编码器是初始化递归网络的良好且稳定的方法。因此，利用无标签样本和有标签样本作为序列自编码器的输入，并且获得的权重作为其他有监督网络的初始化。在对循环语言模型或序列自动编码器进行了大约500K步骤的训练后，...
2019-10-14 16:58:44
8650
原创 以具有字幕意识的一致性的对照表示语义分割
1. 模型语言编码器：h⃗t=S⃗(et,h⃗t−1)h←t=S←(et,h←t+1)Fref=[h⃗T,h←1]\begin{aligned} \vec{h}_{t} &=\vec{S}\left(e_{t}, \vec{h}_{t-1}\right) \\ \overleftarrow h_{t} &=\overleftarrow S\left(e_{t}, \over...
2019-10-14 15:06:10
236
原创 Attention模型综述
1.引言Attention模型在14年的机器翻译中就被提出。优势有：1、提高MT，QA等的能力；2、提高神经网络的可解释性；3、克服RNN因过长而导致的丢失信息，记忆不够精准。2. Attention其中x1、x2、x3x_1、x_2、x_3x1、x2、x3是输入，y1、y2y_1、y_2y1、y2是输出，h1、h2、h3h_1、h_2、h_3h1、h2、h3是en...
2019-10-14 10:08:01
8950
2
原创 物体6D姿态估计
1.引言基于图像信息对目标进行三维空间定位，6D姿态估计是对物体的3D位置和3D方向信息进行准确的估计。2.使用抽象渲染和比较细化6D对象姿势预测模型设计对于带有姿势注释的真实数据集框架A，我们使用相同的对象集渲染合成框架B，但使用不同的姿势。这里包含三部分的损失函数。Lc部分，包含，A和B的匹配损失。Ls部分，包含，Io到Ao的语义分割损失。Lbg部分，包含,Io 的背景损...
2019-10-12 09:41:45
3650
原创 leetcode5071. 找出所有行中最小公共元素
1.问题给你一个矩阵 mat，其中每一行的元素都已经按 递增 顺序排好了。请你帮忙找出在所有这些行中 最小的公共元素。如果矩阵中没有这样的公共元素，就请返回 -1。示例：输入：mat = [[1,2,3,4,5],[2,4,5,8,10],[3,5,7,9,11],[1,3,5,7,9]]输出：5提示：1 <= mat.length, mat[i].length <= ...
2019-10-11 23:39:46
2140
原创 网络训练加速方法：批标准化Batch Normalization, BN
1. 简介Batch Normalization 出自论文 Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift , 核心思想就是，通过减少隐层内部协方差偏移来加速网络训练。2. 方法2.1 隐层分布变换成标准高斯分布这里是对每一个训练batch样本来求均值、...
2019-10-11 23:01:00
9567
转载 Libra R-CNN解决不平衡检测问题
1.摘要检测不平衡问题包括：样本层面(sample level)、特征层面(feature level)、训练目标层面(objective level)。Libra R-CNN，一个针对目标检测平衡学习的简单有效框架。该框架集成了三个组件：IoU-balanced sampling，balanced feature pyramid，balanced L1 loss，分别解决上述的三个不平衡问题...
2019-10-11 16:36:16
2223
转载 智力题:老鼠与毒药问题的推广
大家应该都听说过这个老题目：有 1000 个一模一样的瓶子，其中有 999 瓶是普通的水，有一瓶是毒药。任何喝下毒药的生物都会在一星期之后死亡。现在，你只有 10 只小白鼠和一星期的时间，如何检验出哪个瓶子里有毒药？这个问题的答案也堪称经典：把瓶子从 0 到 999 依次编号，然后全部转换为 10 位二进制数。让第一只老鼠喝掉所有二进制数右起第一位是 1 的瓶子，让第二只老鼠喝掉所有二进制数右起...
2019-10-10 17:48:00
969
原创 LeetCode5214. 最长定差子序列
1.问题给你一个整数数组 arr 和一个整数 difference，请你找出 arr 中所有相邻元素之间的差等于给定 difference 的等差子序列，并返回其中最长的等差子序列的长度。示例 1：输入：arr = [1,2,3,4], difference = 1输出：4解释：最长的等差子序列是 [1,2,3,4]。提示：1 <= arr.length <= 10^5...
2019-10-06 17:40:58
434
原创 LeetCode5099. 验证回文字符串 III
1.问题给出一个字符串 s 和一个整数 k，请你帮忙判断这个字符串是不是一个「K 回文」。所谓「K 回文」：如果可以通过从字符串中删去最多 k 个字符将其转换为回文，那么这个字符串就是一个「K 回文」。示例：输入：s = "abcdeca", k = 2输出：true解释：删除字符 “b” 和 “e”。提示：1 <= s.length <= 1000s 中只含有小写...
2019-10-06 11:10:38
263
原创 LeetCode836. 矩形重叠
1.问题矩形以列表 [x1, y1, x2, y2] 的形式表示，其中 (x1, y1) 为左下角的坐标，(x2, y2) 是右上角的坐标。如果相交的面积为正，则称两矩形重叠。需要明确的是，只在角或边接触的两个矩形不构成重叠。给出两个矩形，判断它们是否重叠并返回结果。示例 1：输入：rec1 = [0,0,2,2], rec2 = [1,1,3,3]输出：true原题链接；说明：...
2019-10-05 16:42:44
212
原创 LeetCode923. 三数之和的多种可能
1.问题给定一个整数数组 A，以及一个整数 target 作为目标值，返回满足 i < j < k 且 A[i] + A[j] + A[k] == target 的元组 i, j, k 的数量。由于结果会非常大，请返回 结果除以 10^9 + 7 的余数。示例 1：输入：A = [1,1,2,2,3,3,4,4,5,5], target = 8输出：20解释：按值枚举（A...
2019-10-05 09:53:54
317
原创 LeetCode921. 使括号有效的最少添加
1.问题给定一个由 ‘(’ 和 ‘)’ 括号组成的字符串 S，我们需要添加最少的括号（ ‘(’ 或是 ‘)’，可以在任何位置），以使得到的括号字符串有效。从形式上讲，只有满足下面几点之一，括号字符串才是有效的：它是一个空字符串，或者它可以被写成 AB （A 与 B 连接）, 其中 A 和 B 都是有效字符串，或者它可以被写作 (A)，其中 A 是有效字符串。给定一个括号字符串，返回为使...
2019-10-04 10:00:26
162
转载 LeetCode983. 最低票价
1.问题在一个火车旅行很受欢迎的国度，你提前一年计划了一些火车旅行。在接下来的一年里，你要旅行的日子将以一个名为 days 的数组给出。每一项是一个从 1 到 365 的整数。火车票有三种不同的销售方式：一张为期一天的通行证售价为 costs[0] 美元；一张为期七天的通行证售价为 costs[1] 美元；一张为期三十天的通行证售价为 costs[2] 美元。通行证允许数天无限制的旅行...
2019-10-03 15:57:58
254
原创 LeetCode984. 不含 AAA 或 BBB 的字符串
1.问题给定两个整数 A 和 B，返回任意字符串 S，要求满足：S 的长度为 A + B，且正好包含 A 个 ‘a’ 字母与 B 个 ‘b’ 字母；子串 ‘aaa’ 没有出现在 S 中；子串 ‘bbb’ 没有出现在 S 中。示例 1：输入：A = 1, B = 2输出："abb"解释："abb", "bab" 和 "bba" 都是正确答案。原题链接；2.解答class S...
2019-10-03 15:36:44
282
原创 leetcode1029. 两地调度
1.问题公司计划面试 2N 人。第 i 人飞往 A 市的费用为 costs[i][0]，飞往 B 市的费用为 costs[i][1]。返回将每个人都飞到某座城市的最低费用，要求每个城市都有 N 人抵达。示例：输入：[[10,20],[30,200],[400,50],[30,20]]输出：110解释：第一个人去 A 市，费用为 10。第二个人去 A 市，费用为 30。第三个人去 ...
2019-10-03 11:48:04
239
python程序设计(浙江大学).rar
2020-10-22
生成对抗网络画猫python
2018-12-25
深度卷积生成对抗网络TensorFlow代码实现
2018-12-25
深度学习与自然语言处理
2018-12-13
python qt gui快速编程PyQt编程指南 pdf扫描版及随书源代码源码.zip
2018-03-04
MySQL编译文件直接下载安装mysqlclient-1.3.7-cp35-none-win_amd64.whl
2018-01-28
Python for Probability,Statistics,and Machine Learning.pdf
2018-01-11
TensorFlow_ Large-Scale Machine Learning
2017-12-17
数据结构基础期末考试 2005-2012.7z
2017-12-09
小波变换详解及应用2页PPT
2017-11-27
C++编写的图书馆管理系统
2017-11-22
arduinoTimerOneLibrary_v1.1.0
2017-11-08
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人