- 博客(46)
- 收藏
- 关注
RSS订阅原创 【论文笔记】Darts-可微神经架构搜索（一）
是什么darts是什么？全称 Differentiable ARchiTecture Search它是一种新（2018）的NAS（神经架构搜索）方法。NAS是什么？全称： neural architecture search（神经架构搜索）简单讲就是把设计神经网络的任务也交给机器。企图把人工炼丹的过程一步步转化为机器炼丹。具体说可以看看wiki上的定义：也就是一般的NAS都会包含三个部分： 搜索空间 搜索算法 预估算法（优化算法）...
2021-01-01 21:25:24
1529
2
原创 计算机网络-网络协议体系结构（五层、七层）
因特网协议栈（五层）由上至下：应用层主体：网络应用程序及他们的应用层协议举例：HTTP、SMTP、FTP、DNS、TELNET、DHCP、SSH责任：在不同端系统的应用程序之间传输报文分组名称：报文（message）运输层主体：为应用层协议提供服务有：TCP、UDP分组名称：报文段（segment）责任：在应用程序端点之间传送应用层报文网络层有：IP和路由选择协议责任：把网络层的分组，从一台主机移动到另一台主机（注意这个不是端点，只是主机，端点间可有多个主机）分组名称：数据报（
2020-06-19 22:08:12
844
原创 操作系统-内存分配Ⅱ
非连续分配为什么使用连续分配，都有碎片等问题，用非连续来优化缺点软件太慢，所以用硬件分段分段地址空间根据应用程序特点来分割分段的逻辑视图分段寻址方案段号 + 段内偏移量段表，是在这一切之前，操作系统准备好的**不懂：**初始的，那个逻辑地址，是哪来的？？怎么拿到的段号和偏移量分页分页机制页号+页偏移page代表逻辑页frame代表物理页建立一个逻辑到物理的转换帧页寻址机制由逻辑地址（虚拟地址）到物理地址的一个过程就是由页号（page num）找到（f
2020-06-16 11:23:19
230
原创 操作系统-内存分配Ⅰ
操作系统的任务地址空间物理地址空间逻辑地址空间（一维线性）逻辑地址的生成经过编译、汇编、链接，会得到一个.exe文件,这个文件地址从零开始在运行时，需要把exe从硬盘加载到主存从，地址会增加特定的偏移量整个这个过程，不需要操作系统的干预转换到物理地址CPU拿到刚才的指令，里面有线性地址在MMU中把线性地址转换为物理地址操作系统的任务就是提前建立好映射关系，快速地把线性地址转换为物理地址。同时，操作系统还会保证程序只能访问一小段的内存空间，不能访问全部的内存空间（地址
2020-06-16 09:46:06
164
原创 数据结构-二叉树（重构、遍历）leetcode102、103、105
102（层序遍历）题目：这里与邓老师讲的唯一不同之处在于需要判断节点是否在某一层，把同属于某一层的节点一起输出。思路就是在循环里每次不是pop一次，而是每次把当前队列（插入之前）pop空。代码/** * Definition for a binary tree node. * struct TreeNode { * int val; * TreeNode *left; * TreeNode *right; * TreeNode(int x) : val
2020-06-15 20:49:12
94
原创 数据结构-二叉树（概念、遍历）
散落知识点树是一种半线性结构二叉树（每个节点最多只有两个孩子）（有根性、有序的）深度为K的节点，至多2k2^k2k个含有n个节点、高度为h的树，h<n<2h+1h<n<2^{h+1}h<n<2h+1深度：对于任意节点n，n的深度，是该店到根的路径，跟的深度为0高度：对于任意节点n，n的高度，是该点到一片树叶的最长路径常，所有树叶的高度为0满二叉树：饱和状态二叉树容易长宽，不容易长高。真二叉树：每个几点出度，要么是2，要么
2020-06-15 10:55:37
204
1
原创 线性代数MIT 18.06 记录（二十四）马尔可夫矩阵 傅里叶级数
马尔可夫矩阵定义元素全部大于零所有列 和为0列和为零保证了马尔可夫矩阵必有一个特征值为1
2020-05-12 09:46:26
380
原创 线性代数MIT 18.06 记录（二十三）微分方程和 exp(At)
解微分方程例子初始值：找特征值：找特征向量：现在找解：从初始值得到 c1和c2稳态是：几种情况负特征值 为负 趋向于0有一个特征值为 0，剩下的都是负数， 稳态特征值为0 趋向无穷矩阵指数肯定收敛不一定收敛...
2020-05-05 10:34:23
352
原创 线性代数MIT 18.06 记录（二十二）对角化和A的幂
重点对角化把A的特征向量 放到一起得到 矩阵S。和A相乘：再分解一下：只要A有n个不相关的特征向量，那么下面公式就成立：Λ\LambdaΛ就是一个对角矩阵那么A^2呢？公式还是那么得美妙更一般地：特征值和特征向量给了我们一个很好的理解矩阵幂的方法可对角化条件A is sure to have n eigen values(and be diagonaligab...
2020-05-05 09:06:01
177
原创 贝叶斯分类器
写在前面文明版互联网的发展，可以让我等数学基础很差，也没有足够的学习的能力的学生也可以接触到机器学习，接触到贝叶斯分类器，实在是吾辈之幸，看不懂只能怪自己太菜了没本事祖安版周志华老师您写得那么晦涩让人看不懂显得很牛逼哈？贝叶斯定理不要公式，直接从例子入手。考虑一个垃圾邮件分类器，训练集中，有25个垃圾邮件、75个非垃圾邮件，其中含有“Buy”这个关键字的分布如下：回答下面这个问题...
2020-04-23 20:36:58
290
原创 线性代数MIT 18.06 记录（二十一）特征值和特征向量
特征向量一个向量x，乘上矩阵A后的 Ax 中仍然平行于 x的那部分，就是特征向量特征值这个λ\lambdaλ 就是特征值例子：投影矩阵、置换矩阵factsum of the 特征值 is sum down the diagnal of A如何求特征值由于这个 A−λIA- \lambda IA−λI必须是奇异矩阵，所以特征值为0这就是特征值方程例子下一步：这里...
2020-04-21 08:46:17
223
原创 线性代数MIT 18.06 记录（二十）克拉默法则、逆矩阵、体积
逆矩阵对于2×2矩阵总的公式：C是代数余子式公式，CTC^TCT是伴随矩阵怎么得到这个矩阵目的就是证明这个式子克拉默法则根据刚才的推导这里单独看每个解：因为CTbC^TbCTb就是某个矩阵的行列式啊 第一元素，就是把A的第一列，用b替换了总的来说：评价让我来看看教授对克莱姆法则的评价：哈哈哈哈哈哈哈体积对于三阶情况：三行，对应三个向量，对应箱子的...
2020-04-14 13:58:18
302
原创 线性代数MIT 18.06 记录（十九）行列式公式和代数余子式
求解行列式的公式回忆行列式的三个最重要的性质：推导再向前推导一步：对于三阶的情况，也可以这样拆分，推导，得到最后的公式关键点：通用公式（The Big Formula）代数余子式（cofactor）提取第一项，括号里的，就是代数余子式代数余子式，也是一个小的行列式的值符号的取值：三对角行列式（just beautiful）周期为6...
2020-04-07 09:51:47
448
原创 深度优先遍历和 宽度优先遍历
写在前面DFS和BFS这是数据结构 图 最基本的两个算法，这里记录两道题的求解过程复习一下这两道算法克隆图（leetcode133）这题没什么说的，就是给你一个图，给出这个图的深度复制结果深度优先对于深度优先算法，最重要的是使用一个哈希表来维持visited过的点，具体实现见代码：/*// Definition for a Node.class Node {public: ...
2020-04-05 11:40:18
582
原创 线性代数MIT 18.06 记录（十八）行列式及其性质
可逆性的验证可逆：行列式不为零行列式的性质性质一单位矩阵的行列式为1性质二交换行，会使行列式的值 变成其相反数置换矩阵的行列式不是1 就是-1更一般地：性质三对一个行列式的行乘上一个数t，可以把t拿出来：相加：注意：只是每一行的线性性质四如果有两行相等，那么行列式的值为0证明：可以用性质二：交换行，会保持相等，但是行列式值不变，所以行列式值为0性质五从某一行...
2020-03-31 19:16:42
729
原创 线性代数MIT 18.06 记录（十七）正交矩阵和Gram-Schmidt正交化
正交基Orthonormal vector既正交（垂直）又标准（为1）为什么用标准正交向量先来看一看 QTQQ^TQQTQ答案是 Identity Matrix只有当 Q是 方阵时，我们才说他是 正交矩阵正交矩阵首先，转置和 逆相同哈达玛矩阵...
2020-03-31 08:50:50
250
原创 线性代数MIT 18.06 记录（十六）投影矩阵和最小二乘
投影矩阵特殊情况我们考虑上面这个特殊情况，可以看到，如果b在A的列空间内，那么投影就是自己，如果b垂直于A，那么投影就是零，这都很好证明**注：**A的列空间的线性组合可以表示为AxAxAx，同理，行的线性组合可以表示为 xAxAxA一般情况这里可以看到，P是一个投影矩阵，I-P也是，它是指定平面对角平面的投影矩阵，对称性，平方不变性依旧满足应用问题描述找到最优解首先，定义...
2020-03-17 09:57:10
396
原创 CCF真题201709
第一题：打酱油#include<iostream>using namespace::std;int main() { int x; cin >> x; int fives = x / 50; int threes = (x - 50 * fives) / 30; cout<< fives * 7 + threes...
2020-03-15 20:16:05
129
原创 所有人都能看懂的正规方程（Normal Equation for Everybody）
目录前言问题重述方法正规方程线性方程组问题所在解决问题一维投影二维投影奇怪的事情写在最后前言几次接触机器学习的第一部分（像我背单词只记得abandoned一样），都会被线性模型中直接求解的这个正规方程（Normal Equation）搞得一头雾水，梯度下降还好理解些，但这个正规方程是真的一点头绪没有，西瓜书的周老师和统计学习方法的李老师都是传统的“抽象大师”，愚笨的我完全看不懂啊，在网上找到的...
2020-03-15 20:06:03
954
原创 leetcode 95 96 不同的二叉搜索树
96 不同的二叉搜索树题目地址【96】题目描述：给定一个整数 n，求以 1 … n 为节点组成的二叉搜索树有多少种？示例输入：3输出：5解释：给定 n = 3, 一共有 5 种不同结构的二叉搜索树:思路此题是一道动态规划问题：问题可以理解为：给定一个有序序列 1 … n，为了根据序列构建一棵二叉搜索树。我们可以遍历每个数字 i，将该数字作为树根，1 … (i-1) 序列将成为...
2020-03-10 16:16:48
75
原创 线性代数MIT 18.06 记录（十五）子空间和投影
投影（老师侧颜好帅啊啊啊啊）推导过程：e和p垂直，有：aT(b−p)=0e和p垂直，有：a^T(b-p)=0e和p垂直，有：aT(b−p)=0aT(b−xa)=0a^T(b-xa) = 0aT(b−xa)=0aTb=xaTaa^Tb = xa^TaaTb=xaTa因为aTa是一个数，所以同时除以它有：因为a^Ta是一个数，所以同时除以它有：因为aTa是一个数，所以同时除以它有：x=...
2020-03-10 14:04:18
165
原创 线性代数MIT 18.06 记录（十四）正交向量与子空间
四个子空间行向量的秩是r，列向量的秩是r，dim(null(A))=rdim(null(A)) = rdim(null(A))=r，dim(null(AT))=m−rdim(null(A^T) )= m - rdim(null(AT))=m−r而且 前两个正交，后两个相交正交意思就是向量夹角90°如果判断?使用点乘如果XT∗y=0X^T*y = 0XT∗y=0，那么就说他们正交...
2020-03-03 09:28:48
294
原创 AVL树的插入与删除
前言对一些数据结构的知识忘记的差不多了，但时间精力不允许自己手动实现一遍，所以找到清华邓俊辉老师《数据结构C++版》的代码进行分析，希望可以借此记录并帮助自己回顾一下AVL树的定义名字是来源两个发明者：（G.Adelson-Velsky & E.Landis(1962))motivation主要是为了解决二叉搜索树（BST）不平衡的问题如果遇到上述形态的BST，那么树的特性完...
2020-02-28 21:14:10
251
原创 线性代数MIT 18.06 记录（十二）图和网络
图组成：节点、边关联矩阵这里我们发现，行1 + 行2 = 行3 ，所以这三行不是独立的，所以它们形成了一个loop重点一：null spacenull space 的基为：所以A的零空间的维度为1现实意义电势是死的，电势差是活的，只要电势差为0，就静止不动了。也可以用来解释 温度 和 热传导微积分里的常数 c，倒数重点二：A^T y = 0ATy=0A^Ty = ...
2020-02-12 23:08:39
261
原创 CS224W 第三讲 子图和图的结构
子图一个由三个节点构成的所有有向图考虑一个特殊结构（pattern）是否被考虑：motifs我们为什么需要motifmotif的定义，大概就是，重复出现的，有显著影响的图中的模式（pattern）帮助我们理解网络的工作原理帮助我们预测特定情况下网络的操作和作用Recurrence（重复出现）over/under represented of a motif这个m...
2020-02-10 10:03:01
547
原创 线性代数MIT 18.06 记录（十一）矩阵空间、秩1矩阵、小世界图
矩阵空间对称矩阵的子空间上三角子空间3×3 矩阵空间的维度 9对称的3×3 矩阵空间的维度 6上三角s∩u的子空间 ：对角 维度为3intersection and sum有：dim(s)+dim(u)=dim(s∩u）+dim(s∪u)dim(s) + dim(u) = dim(s ∩u）+ dim(s∪u)dim(s)+dim(u)=dim(s∩u）+dim(s∪u)函数也...
2020-02-09 11:02:33
187
原创 线性代数MIT 18.06 记录（九）线性相关性、基、维数
线性相关性向量间线性无关如果不采纳在结果为零向量的组合，那么就是线性无关的像这样的两个向量，明显是线性相关的v2=2v1v_2 = 2v_1v2=2v1vi=0v_i = 0vi=0三个向量如下原因是它代表一个2×32×32×3 的矩阵，它的零空间不为0，所以肯定对Ax=0Ax = 0Ax=0 有解。所以，有线性相关的必要条件：把向量放到矩阵中，如果零空间只有零向...
2020-02-04 17:22:37
257
原创 试图理解 Decagon（三）环境设置
5 Experimental Setup说明选择80%的药物对 作为训练集，剩下两个10%分别作为验证集和测试集选择80%的副作用（边）来训练模型，10%的drug 对来选择模型参数。同时，会以 additional 向量 xxx 的形式 把其他所需的信息（比如药物自身的side effect）集成到模型中去为了避免产生环同时没有信息泄露，我们保证：我们所给出的多药物副作用仅仅出现在...
2020-02-02 10:19:48
582
原创 试图理解 Decagon（二）具体方法
4 图卷积 Deacgon 方法综述关系被表示为一个图 G = （V，R），其中，节点N（蛋白质、药物）vi∈V，和标记的边（vi，r，vj），r代表边的类型，分别由蛋白质间的作用某种药物 与其作用蛋白质间的关系存在于某两种药物间的副作用关系除此之外，我们允许以节点向量的方式引入其他可用信息。不同的节点可以拥有不同的节点特征。对任务进行描述：考虑识别药物对之间的联系和可能存在的...
2020-02-02 10:19:33
1393
原创 试图理解 Decagon（一）背景与综述
论文部分1 Present study重要观察结果一起服用的两种药物，他们针对的蛋白质会比随机组合的药物针对的蛋白质有更多的重叠。（这一点告诉我们 药物-蛋白质 的关系包含着我们建模需要的很重要的信息）为了能够更好地为药物副作用建模，考虑一个蛋白质-蛋白质的映射关系是很重要的...
2020-02-02 10:19:01
981
原创 线性代数MIT 18.06 记录（八）可解性和解的结构
解出 Ax = b例子A增广矩阵消元 步骤一步骤二：这时，我们就有：这时候就可以把b的值带进去了什么样的b可以使方程有解两种说法：b是A的线性组合如果对A的线性操作可以得到 0 ，那对b做相应的操作，也应该得到0如何找到这样的解?算法步骤（假设有解）把所有 free 变量为 0，这时候解出$ Ax = b$ 的主元解xpx_pxp找到 零空间 的解xnx...
2020-01-31 16:25:19
282
原创 线性代数MIT 18.06 记录（七）主变量与特解
主变量与特解例子A=[1222246836810]A= \left[ \begin{matrix} 1 & 2 & 2&2 \\ 2 & 4 & 6&8 \\ 3 & 6 & 8&10 \end{matrix} \right] A=⎣⎡1232462682810⎦⎤我们发现...
2020-01-31 15:25:17
557
原创 线性代数MIT 18.06 记录（六）列空间和零空间
列空间回顾，在子空间必须满足的条件：保证加和乘的封闭性观察一：任意子向量空间的交集也都是子向量空间列空间举例显然，这个矩阵的三个列向量组成的列向量空间是 R4R^4R4 空间的子向量空间这里我们可以联系到线性方程：是否对每一个b Ax=bAx = bAx=b 都有解呢？或者说，什么样的b 可以让方程有解呢？首先第一个问题的答案是否，在于：3个列向量的线性组合无法充...
2020-01-31 12:11:06
382
原创 线性代数MIT 18.06 记录（四）A的LU分解
以总的思路审视高斯消元考虑 A = LUexample1这里强调：计算的顺序不可变，但是括号位置可以改变转置矩阵的逆做转置，需要先把顺序放反结论： A的逆的转置 就是 A的转置的逆把A分解为LU这里 L代表 low angular matrix， U代表Upper angular matrix一个三阶的例子但是我们为什么一定要把所有的E放到右面呢？为什么不干脆放到左边呢...
2020-01-30 21:05:04
149
原创 线性代数MIT 18.06 记录（三）矩阵的乘法和逆
矩阵的乘法和逆矩阵的乘法求一个矩阵元素example1解矩阵中断第i行，第j列，就是两个相乘矩阵中第一个矩阵第i行，第二个矩阵第j列的点乘结果：C34 即位，A的第三行乘以B的第四列矩阵乘法的要求如果A是m×n，B是n×p，那结果就是 m×p的对矩阵相乘的三种理解理解1我们可以理解结果C的每一列，都是A的所有列的线性组合，而B的每一列，告诉了是用A的所有列的怎样的线性组合...
2020-01-30 21:04:44
322
原创 线性代数MIT 18.06 记录（二）矩阵消元
矩阵消元这一节课总的来讲就是讲了，怎么通过矩阵的方法，求出线性方程的解，用到的方法，就是题目所讲的，矩阵消元法[abcdefghijklmnopqrst]\left[ \begin{matrix} a & b & c & d & e\\ f & g & h & i & j \\ k & l &...
2020-01-30 21:04:30
385
原创 CS224W 第一讲 图论基本知识回顾
网络的组成一个网络由对象关系系统组成网络的表示有向图和无向图节点的度这里平均度数分别为：2E/N 和 E/N ，同时，有向图有一个很重要的概念就是，所有的出度和入度是相同的完全图（clique or Complete graph）每一对节点都是相连的二分图节点可分为两部分U和V，每一条边都是从U中的节点连到V中的节点，同时，也可以在U和V中，根据他们的连接关系...
2020-01-30 21:04:03
1190
原创 CS224W 第二讲 衡量图的性质
衡量图性质的四种指标有些性质是在所有图（不同种类）中都适用的度的分布（Degree Distribution）P(k) = Nk/N如果是有向图的的话，会有两个分布图分别代表 入度 和 出度这里老师讲到，以后会看到，这个degree distribution 会呈一条直线，这个直线会有很重要的性质值得探讨以后会有一整皆课来探讨图中的通路（path）我们关注的是最短路径这里关...
2020-01-30 21:03:36
1056
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人