Originum的博客

勤能补拙

RMSprop、动量梯度下降法与Adam优化 [Andrew Ng 深度学习笔记]

如图: 对于蓝色的情况,由于梯度下降时来回摆动,导致收敛很慢 若增大学习率,结果可能偏离函数的范围,如紫色的情况。为了避免摆动过大,就必须使用较小的学习率,进一步降低了收敛速度 我们希望的是在纵轴上减缓学习,在横轴上加快学习,如红色的情况。有多种方法可以实现 动量梯度下降法(Momen...

2019-05-19 14:50:56

阅读数 90

评论数 0

Mini-batch\Batch\Stochastic梯度下降法 [Andrew Ng 深度学习笔记]

假设神经网络的成本函数为 其中 m 为训练样本的数目,全局的成本函数是对所有样本的成本函数求平均值 若样本数量很大,设为 M,现在考虑两种极端情况,再引出二者结合的“中庸”方法 先给出一幅图,这是吴恩达老师课件上的,分别表示三种方法的梯度下降情况 批量梯度下降(Batch Grad...

2019-05-19 12:05:08

阅读数 68

评论数 0

神经网络向量化与矩阵维度 [Andrew Ng 深度学习笔记]

成本函数: 单样本时,假设成本函数为: ,为预测值,为标签值 那么多样本时,假设样本数为 m, 成本函数为: 就是把每个样本分别算出成本函数再相加。大概的思路是把m个样本的每次实验当作独立同分布的,所以总共m次实验在概率上应该全部乘起来。对累乘的结果取对数,增减性不变。把对数符号里的累...

2019-05-18 20:29:54

阅读数 165

评论数 0

正则化(Regularization)分析 [Andrew Ng 深度学习笔记]

之前一直都是看别人的公式,不理解正则化为什么会work,看了吴恩达老师的课后,感觉明白了许多,在这里整理一下笔记 我感觉“正则化”这个词,在中文的语义看来有点奇怪,第一次看它感觉挺晦涩的 但是当看到它的英文是Regularization时,我感觉就好理解许多了 高方差(high varian...

2019-05-15 20:23:25

阅读数 39

评论数 0

算法小题

今后告别ACM类竞赛了,编程的算法“内功”修炼告一段落 投入计算机视觉门派了,伴着ML、DL走一遭 之前一些存在草稿箱的OJ题,合在一起总结一下,或许今后还用得到 HDU 1023 Train Problem II [ 高精度乘除单精度 + Catalan ] #include&...

2019-02-06 00:41:31

阅读数 56

评论数 0

kuangbin线段树专题解析

赛前再巩固一下线段树,又做了一遍kuangbin线段树专题 专题链接:kuangbin专题题目一览 1. HDU 1166 敌兵布阵 区间维护和,单点修改 #include <stdio.h> using namespace std; cons...

2018-10-07 00:01:26

阅读数 321

评论数 0

离散化实现|bug分析及解决

离散化: 对于一些应用实例,有时只会用到数据的相对大小,而不在意数据本身的大小 例:在区间涂色问题中,依次给区间涂色,后涂色的区间会覆盖前区间。现在求剩下几种颜色 可以发现,这个问题中,有用的就只是区间的相对位置关系,而不在于区间本身的大小。如: [1, 3] 涂白色,[6, 7] 涂黑色...

2018-10-06 20:37:32

阅读数 82

评论数 0

POJ 2528 Mayor's posters [ 离散化 + 线段树 ]

题目链接: Mayor's posters POJ 2528 题意概括: 依次贴上 n 张海报,每张海报会覆盖一个区间。后贴上的海报会覆盖前贴的海报,问最后可以看见几张海报 这里的区间不是拿两端点来维护的,是直接按单位最小区间来编号。如 [3, 5] 区间是由编号为 3、4、5的区间组成的...

2018-10-06 16:52:46

阅读数 89

评论数 0

ZOJ 1610 Count the Colors [ 线段树 + 区间染色 ]

题目链接: POJ - 2528 Count the Colors 题意概括: 按顺序给出一些线段,后出现的线段会覆盖前出现线段的重叠部分。求剩下线段中,有哪些颜色,同时求出每种颜色线段数量 数据范围: 1 <= n <= 8000 0 &a...

2018-10-05 20:41:20

阅读数 118

评论数 2

ACM-ICPC 2018 焦作赛区网络预赛 G. Give Candies [ 费马小定理 + 快速幂 + 大数 ]

题目链接: ACM-ICPC 2018 焦作赛区网络预赛 G. Give Candies 题意概括: 有 n 个同学,学号是 1 至 n 。有 n 颗糖,随机分给这些同学(有的同学可能分不到糖),问有多少种分法 数据范围: 题解分析: 先求出公式: 从 n 个同学中取 k 人...

2018-09-17 00:19:43

阅读数 141

评论数 0

EOJ Monthly 2018.9 B. 解密信件

题目链接: EOJ Monthly 2018.9 B. 解密信件 题意概括: 对于某个长度为 n,下标从 1 开始的字符串要进行加密,只要调用 encrypt(1, n) 即可 有 T 次独立询问,每次询问位置 x,表示加密后的位置,求这个位置在加密前是在什么位置 题目给的加密方式: ...

2018-09-15 21:21:05

阅读数 139

评论数 0

ACM-ICPC 2018 徐州赛区网络预赛 A. Hard to prepare [ DP + 快速幂 + 环上组合 ]

题目链接: ACM-ICPC 2018 徐州赛区网络预赛 A. Hard to prepare 题意概括: N 个人围成一个环,每个人可以选  之间的一个整数(某个数字可以被重复选),要求是相邻两人的数同或后是正数 结果模 1e9 + 7 数据范围: 题解分析: 同或的概念就...

2018-09-11 10:28:30

阅读数 92

评论数 0

ACM-ICPC 2018 徐州赛区网络预赛 H. Ryuji doesn't want to study [ 线段树 ]

题目链接: ACM-ICPC 2018 徐州赛区网络预赛 H. Ryuji doesn't want to study 题意概括: 对于一个序列,查询操作是给出一个区间[l, r],求 还有单点修改序列的操作 数据范围: 题解分析: 频繁的区间询问、区间修改,很明显就是线...

2018-09-10 23:46:53

阅读数 67

评论数 0

ACM-ICPC 2018 沈阳赛区网络预赛 I Lattice's basics in digital electronics [ 01字典树 ]

题目链接: ACM-ICPC 2018 沈阳赛区网络预赛 I. Lattice's basics in digital electronics 题意概括: 题目给出一种处理字符串的编码规则: 以十六进制格式读入一个字符串,转换为二进制 把转换后得到的二进制字符串每 9 位划分为一个单元,...

2018-09-08 21:45:13

阅读数 65

评论数 0

ACM-ICPC 2018 南京赛区网络预赛 J. Sum [ 筛法 + 数论 + 二分 ]

题目链接: ACM-ICPC 2018 南京赛区网络预赛 J. Sum 题意概括: 没有平方数因子的整数叫 square-free integer。把 i 分解为两个square-free integer,乘积为 i , 这两个数可以相同 定义 F(i) 表示 i 不同分解方式的数目,求 ...

2018-09-01 23:48:09

阅读数 145

评论数 0

ACM-ICPC 2018 南京赛区网络预赛 C. GDY [ 模拟 ]

题目链接: ACM-ICPC 2018 南京赛区网络预赛 C. GDY 题意概括: 有 n 个仓鼠玩牌。有 13 种牌面分别标着整数 1至13 。现在有 m 张牌叠在一起(会有重复的牌),规则如下: 先轮流摸牌一次,每次摸 5 张。牌的数量保证每只仓鼠都有至少一张牌。因此最后一只可能只能拿...

2018-09-01 23:09:53

阅读数 110

评论数 0

建无根树+无根树转有根树

很多问题需要树的数据结构解决,如树形DP。这时我们需要一种简单、快速的建树方法 这里介绍一种先读入数据建一棵无根树,再通过深搜进行分层,实现无根树转有根树的方法 数据定义 通过 vector 数组的下标表示起点,也就是父节点。定义 int v ;  表示终点,也就是儿子节点的概念 int...

2018-08-31 23:54:10

阅读数 278

评论数 0

HDU 6446 Tree and Permutation [ 树形DP + DFS ]

题目链接: HDU-6446 Tree and Permutation 题意概括: 有 N 个点,被 N - 1 条边相连通。对于点 1 - N 的序列的全排列,求出第一个点到其余点的最短路之和,并求出所有情况的和。 数据范围: 不超过 10 组测试数据 题解分析: 由于是无...

2018-08-31 23:28:15

阅读数 75

评论数 0

HDU 6333 Harvest of Apples [ 莫队算法 ]

题目链接: 2018 Multi-University Training Contest 4 Harvest of Apples HDU 6333 题意概括: 已知 n、m,求   。 数据范围: 题解分析: 由于查询次数很多,并且 n 的值可能很大,因此 普通在线 + 暴力递...

2018-08-29 16:44:24

阅读数 79

评论数 0

矩阵快速幂

矩阵的定义: 矩阵就用二维数组存储,在结构体中也保存了矩阵的行数、列数 (m、n)。 在矩阵之间的计算中需要行数和列数的信息,与其在用到时指定,不如和矩阵二维数组一同放在结构体内,初始化时赋值。 把初始化的构造函数放在结构体内,就不用在外部使用前每次手动初始化,很方便。 由于经常要用到矩阵...

2018-08-27 23:11:11

阅读数 73

评论数 0

提示
确定要删除当前文章?
取消 删除