- 博客(34)
- 收藏
- 关注
原创 Attention
自用笔记RNN的局限性和Attention机制的基本思想:Attention机制详解(一)——Seq2Seq中的AttentionSelf-Attention和Transformer:Attention机制详解(二)——Self-Attention与TransformerAttention模型的各种应用场景:Attention机制详解(三)——Attention模型的应用...
2021-12-12 20:02:11
1173
原创 Advanced RNN - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 13部分内容来自博主Biranda的博客RNN Classifier实现一个根据名字判断所属国家的分类器,数据如下:在传统RNN网络结果中,o1...on是作为seq to seq的的序列输出,如下图:在本题中,由于无法得到序列性质的准确输出结果,而我们的问题范围也仅限于对序列的总体情况进行分类。因此可以将网络简化为如下图所示的情况:即序列依次经过嵌入层和RNN Cell后得到最终的隐藏状态hn,利用最终的隐.
2021-08-06 12:03:42
134
原创 Python 面向对象的相关语法
__init__()首先,两个下划线开头的函数是声明该属性为私有,不能在类的外部被使用或访问。__init__()支持带参数类的初始化,也可为声明该类的属性(类中的变量)。__init__函数(方法)的第一个参数必须为self,后续参数为自己定义。__init__()又被称为构造器(constructor)。例如:class studetn: # 定义一个类名为studetn def __init__(self,idx): # 定义初始化构造,这里使用init,
2021-08-05 13:00:32
85
原创 RNN - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 12RNN结构RNN Cellcell = torch.nn.RNNCell(input_size=input_size, hidden_size=hidden_size) hidden = cell(input, hidden)cell()中的input - input of shape (batch, input_size)cell()中的hidden - hidden of shape (batch, hidd
2021-08-04 15:38:08
191
原创 Advanced CNN - Inception Module from GoogleNet - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 11GoogleNet示意图可以看到其中有许多重复的部分,叫做Inception moduleInception Module1X1的卷积可以起到信息融合的作用,还可以降低计算量Inception Module 的实现拼接是按照通道的维度进行,最终的输出通道数为24+16+24+24=88整合之后的代码:class InceptionA(nn.Module): def __i...
2021-08-04 12:20:49
148
原创 Basic CNN - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 10import torchin_channels, out_channels= 5, 10 width, height = 100, 100 kernel_size = 3batch_size = 1input = torch.randn(batch_size, in_channels, width, he
2021-08-04 11:29:49
152
原创 多分类;Softmax Classifier;MINST - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 9交叉熵import torchy = torch.LongTensor([0])z = torch.Tensor([[0.2, 0.1, -0.1]]) criterion = torch.nn.CrossEntropyLoss()loss = criterion(z, y) print(loss)torch.Tensor默认是torch.FloatTensor是32位浮点类型数据,torch.LongTensor是64
2021-08-04 10:33:43
143
原创 Dataset和DataLoader - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 8术语:Epoch,Batch Size,IterationsEpoch:One forward pass and one backward pass of all the training examples.Batch size:The number of training examples in one forward backward pass.Iterations:Number of passes, each pass .
2021-08-03 16:52:36
443
原创 Logistic Regression - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 6Linear Regression v.s. Logistic RegressionLinear Regression 代码:class LinearModel(torch.nn.Module): def __init__(self): super(LinearModel, self).__init__() self.linear = torch.nn.Linear(1, 1)
2021-08-03 16:00:30
343
原创 线性回归 Pytorch
笔记来自课程《PyTorch深度学习实践》Lecture5利用pytorch进行深度学习的基本思路/步骤:1. 准备数据集2. 定义模型(使用class,继承自nn.Module)3. 构建loss和optimizer(使用pytorch API)4. Training cycle(forward,backward,update)1. 准备数据集import torchx_data = torch.Tensor([[1.0], [2.0], [3.0]])y_dat
2021-08-03 15:45:05
303
原创 《数据挖掘 实用机器学习工具与技术》读书笔记 第1章-第3章
第一章 绪论机器学习的定义:机器学习是从大量的数据中自动或半自动地寻找模式的过程,而且这个模式必须是有用的。我们可以用同样的方法为学习建立一个可操作的定义:当事务以令其自身在将来表现更好为标准来改变其行为时,它学到了东西。学习意味着思考和目的。在机器学习领域,一个永恒的成功的研究过程是以压缩一个海量数据库开始的。数据挖掘的应用领域:web挖掘(PageRank算法)、包含评判的决策、图像筛选、负载预测、诊断、市场和销售等。第二章 输入:概念、实...
2020-11-12 15:05:19
233
原创 《数据库系统 数据库与数据仓库导论》读书笔记 Part3 数据仓库的实现与使用
多数情况下,数据仓库都被建模成关系数据库。目前市场上有很多OLAP/BI工具,例如Microstrategy、IBM的Cognos-acquired、SAP的Business Objects-acquired、Oracle的Hyperion-acquired、Microsoft等。OLAP/BI工具中最常用的三个基本功能:1. 切片和切块:从已经显示的结果里增加、替换或者消除制定的维度属性(或者是消除维度属性中的制定值)。2. 旋转:与切片和切块操作不同,旋转操作不改变原始查询..
2020-11-07 15:21:42
115
原创 《数据库系统 数据库与数据仓库导论》读书笔记 Part 3 数据仓库与数据集市建模
数据仓库与数据集市建模最常用的3种方法:· 规范化数据仓库 —— 通常指Inmon方法:思路就是将一个中心数据仓库建模为ER模型,因此可以映射为一个规范化的关系型数据库模型,规范化的关系型数据库则用作数据仓库的物理存储。· 维度建模数据仓库 —— Kimball方法:将数据仓库看作是交错的维度建模数据集市的集合(如维度模型星座)这些数据集市集成了源自操作性数据源中的对分析有用的数据。· 独立数据集市 —— 需要创建并维护多个ETL系统。 ...
2020-11-07 14:11:13
150
原创 《数据库系统 数据库与数据仓库导论》学习笔记 Part 2 分析型数据库
每个星型模式中都包含一个与日期信息相关的维度。在一个典型的设计良好的星形模式中,任何维度表中的记录数都小于事实表中的纪录数。创建代理主码 —— 可以处理所谓的缓慢变化的维度。事实表 = 将表连接到维度表的外码 + 分析主题相关的度量 + (其他非度量的属性)其他非度量的属性,有2种典型的:事物标识码和事物时间。· 事物标识码举例:哪些产品在相同的交易事务中被出售· 这种事物标识码的分析一般称为“购物篮数据分析”,也叫做“关联规则挖掘”/“关联性分组”· 让事实...
2020-11-07 13:56:13
201
原创 《数据库系统 数据库与数据仓库导论》读书笔记 Part 1 操作型数据库
分析型数据库 vs 操作型数据库 —— 分析信息需要在操作信息的基础上得到。1:M联系或1:1联系的属性都是不必要的,M:N中必要。实体完整性约束 —— PK 不为空。联系到关系的映射: 1:M联系的映射 —— M侧实体所映射得到的关系又一个FK,如EMPLOYEE表中有一个FK叫DeptID,指向DEPARTMENT表中的DeptID。关于参与方式,有2中,强制参与和可选参与,可选参与可以在后面加“(O)”。 M:N联系的映射 —— 映射为关系,这个关系有...
2020-11-07 10:11:03
232
原创 《高校数据仓库系统建设与应用》陈云 读书笔记 第一章 绪论
1. 数据仓库具有4个特点a. 面向主题性面向主题是数据仓库中组织数据的基本原则,数据仓库中的所有数据都是围绕某一主题组织、展开的。b. 集成性数据仓库的集成性是指根据决策分析的要求,将分散于各处的源数据进行抽取、筛选、清理、综合等集成工作,使所有数据能够统一、有机地整合在一起。c. 非易失性一般不对数据进行更新和删除操作,只进行查询。d. 时变性数据应随着时间的推移而发生变化。因为如果依据10年前的数据进行分析,那决策带来的后果十分可怕。也就是说数据仓库要不断生成主题的新快
2020-11-02 10:57:36
285
1
原创 java学习笔记 多线程练习题总结
一、判断题1. C和Java都是多线程的。 ( )答案:错误 知识点:C 是单线程语言。2.如果线程死亡,它便不能运行。 ( )答案:正确 知识点:线程死亡就意味着它不能运行。3.在 Java 中,高优先级的可运行线程会抢占低优先级线程。( )答案:正确 知识点:线程优先级的使用。4.程序开发者必须创建一个线程去管理内存的分配。( )答案:错误 知识点:Java 提供了一个系统线程来管理内存的分配。...
2020-10-22 11:36:53
1786
原创 java学习笔记 jdk5新增的创建线程方式 - Callable接口和线程池
* 创建线程的方式三:实现Callable接口。 --- JDK 5.0新增*** 如何理解实现Callable接口的方式创建多线程比实现Runnable接口创建多线程方式强大?* 1. call()可以有返回值的* 2. call()可以抛出异常,被外面的操作捕获,获取异常的信息* 3. Callable是支持泛型的需要借助FutureTask类,比如获取返回结果。Future接口可以对具体Runnable、Callable任务的执行结果进行取消、查询是 否完成、获取结果等。 .
2020-10-22 09:47:19
83
原创 java学习笔记 线程通信
* 线程通信的例子:使用两个线程打印 1-100。线程1, 线程2 交替打印** 涉及到的三个方法:* wait():一旦执行此方法,当前线程就进入阻塞状态,并释放同步监视器。* notify():一旦执行此方法,就会唤醒被wait的一个线程。如果有多个线程被wait,就唤醒优先级高的那个。* notifyAll():一旦执行此方法,就会唤醒所有被wait的线程。示例代码:class Number implements Runnable{ private int number.
2020-10-22 09:32:28
97
原创 java学习笔记 死锁与锁Lock
死锁的演示代码:class A { public synchronized void foo(B b) { //同步监视器:A类的对象:a System.out.println("当前线程名: " + Thread.currentThread().getName() + " 进入了A实例的foo方法"); // ①// try {// Thread.sleep(200);// } catch (InterruptedException ex) {// ex.print
2020-10-21 11:26:49
75
原创 java学习笔记 多线程 - 使用同步机制将单例模式中的懒汉式改写为线程安全的
问题描述:使用同步机制将单例模式中的懒汉式改写为线程安全的。class Bank{ private Bank(){} private static Bank instance = null; public static Bank getInstance(){ //方式一:效率稍差// synchronized (Bank.class) {// if(instance == null){////
2020-10-21 11:14:54
166
原创 java学习笔记 窗口售票问题 - 线程同步机制
问题描述:创建3个窗口卖票,票数为100张。使用继承Thread类的方式实现,存在线程安全问题,待解决:class Window extends Thread{ private static int ticket = 100; @Override public void run() { while(true){ if(ticket > 0){ System.out.println.
2020-10-21 11:09:35
360
2
转载 java学习笔记 2020/10/21 Thread类中的方法
Thread中的常用方法: 1. start():启动当前线程;调用当前线程的run() 2. run(): 通常需要重写Thread类中的此方法,将创建的线程要执行的操作声明在此方法中 3. currentThread():静态方法,返回执行当前代码的线程 4. getName():获取当前线程的名字 5. setName():设置当前线程的名字 6. yield():释放当前cpu的执行权 7. join():在线程a中调用线程b的join(),此时线程a就进入阻塞状态,直到线程b完全.
2020-10-21 10:30:09
63
原创 java学习笔记 2020/9/23 线程的创建与线程的生命周期
1. java多线程的创建方式方式一:继承于Thread类1)创建一个继承于Thread类的子类;2)重写Thread类中的run()方法;3)创建该子类的对象;4)通过这个对象去调用start()方法。方式二:实现Runnable接口1)创建一个实现Runnable接口的类2)这个类要去实现Runnable接口中的抽象方法run()3)创建这个实现类的对象4)将此对象作为参数传入Thread类的构造方法中,创建Thread类的对象5)通过Thread类的对
2020-09-28 16:58:57
67
原创 java学习笔记 2020/9/21
1. 成员内部类的特点:一方面,作为外部类的成员可以调用外部类的结构;可以用static修饰;可以被4种不同的权限修饰。另一方面,作为一个类:内部可以定义属性、方法、构造器等;可以被final修饰,表示不能被继承;可以被abstract修饰。2. 如何实例化成员内部类的对象?//静态的成员内部类:Person.Dog dog = new Person.Dog();dog.eat();//非静态的成员内部类://Person.Bird bird = n
2020-09-22 16:05:51
66
原创 java学习笔记 2020/9/18
1. 代码块代码块是用 " { " 和 " } " 包含起来的,括号前可以用static修饰,作用为初始化类和对象。分类:静态代码块(前有static),非静态代码块静态代码块:内部可以有输出语句 随着类的加载而执行,且只执行一次 作用:初始化类的信息 静态代码块的执行要优先于非静态代码块 静态代码块之中只能调用静态的属性/方法非静态代码块:内部也可以有输出语句 随着对象的创建而执行,且每出现一个对象执行一次 作用:可以在创建对象时,对对象的属性进行初始化 内部可
2020-09-18 19:14:07
70
原创 java学习笔记 2020/9/17
1. JVM中的存储空间分配栈:局部变量;堆:new出来的结构、对象的非static属性;方法区:类的加载信息、常量池、静态区2. 匿名对象只能调用一次3.int[] arr = new int[] {1,2,3};char[] arr1 = new char {'a','b','c'};system.out.println(arr); //输出地址值system.out.println(arr1); //输出abc4. JavaBean指符合如下标准..
2020-09-18 10:12:56
98
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人