- 博客(47)
- 收藏
- 关注
RSS订阅原创 Python中if __name__ == ‘__main__‘
说明两点：首先，当模块A被导入到模块B中时，一旦运行模块B，模块A中的语句会自动被执行一遍，以便加载模块A中的所有函数定义啊、类定义等语句到内存中等待被使用。第二点，当模块是以“被导入”的方式运行时，它的__name__属性会自动变成该模块的名字，这就是为什么运行main.py打印出来的是“demo”和“study”而不是“__main__”的原因。3.__name__这个魔术变量存在于Python的每个模块对象中，也就是说，按照我们上面的说法，每个py文件都有一个__name__属性。
2023-10-18 22:46:43
156
转载 深度学习中的token
由于大型语言模型处理的文本非常大，因此对于处理速度和内存占用等方面的考虑，通常会使用特定的tokenization方法，例如基于字节对编码（byte-pair encoding，BPE）或者WordPiece等算法。通常，一个token可以是一个单词、一个标点符号、一个数字、一个符号等。token包含：class token、patch token，在NLP叫每一个单词为token，然后有一个标注句子语义的标注是CLS，在CV中就是把图像切割成不重叠的patch序列（其实就是token）。
2023-10-18 19:06:15
465
原创 transformer_01
要，只不过是只需要算后面和前面的关系，即算q2和q1的关系，不需要算q1和q2的关系，因为算去q1的时候，还没有q2呢，只能从后往前看，不能从前往后看，所以加入MASK机制遮挡后面看不到的。transformer中 不是简单算内积，而是构建三个向量参数 q,k,v，q相当于问，k相当于答，比如词 thing ,mathines编码后的特征是x1,x2,则x1和x1的关系是 q1.k1，x1和x1的关系是 q1.k2，x2和x2的关系是 q2.k2，x2于x1的关系是 q2.k1，怎么得到q,k,v呢？
2023-10-17 22:04:16
333
原创 python 3.9 安装wordcloud
4. 把安装包直接放在路径：C:\Users\xh\AppData\Local\Programs\Python\Python39\Scripts中。5. 命令窗口中直接进入C:\Users\xh\AppData\Local\Programs\Python\Python39\Scripts,执行命令pip install wordcloud-1.8.1-cp39-cp39-win_amd64.whl。1. pip install wordcloud 安装不成功，或者安装成功，python ide中不能用。
2023-05-11 13:58:07
340
原创 查看jupyter notebook保存文件路径
目前我了解的查看jupyter notebook的保存文件路径的方法有两种：1. 通过打开jupyter notebook后终端显示在终端中 **Serving notebooks from local directory:**后面的就是文件保存的路径2.通过在jupyter notebook中运行脚本第一步在jupyter notebook中输入脚本import osprint(os.path.abspath('.'))第二步运行，得出结果这两种方法的区别还是一目了然..
2022-04-09 14:32:44
25499
4
转载 2021-03-09
matplotlib 是python最著名的2D绘图库，它提供了一整套和matlab相似的命令API，十分适合交互式地进行制图。而且也可以方便地将它作为绘图控件，嵌入GUI应用程序中。通过简单的绘图语句，就可以绘制出高质量的图了。这里我们就主要讲一下inshow()函数的使用吧。一、引入matplotlib函数库如果你使用的是windows平台，大家可以直接下载对应版本的matplotlib库的exe文件安装即可。使用下面的命令引入matplotlib的pyplot模块：import m
2021-03-09 19:32:42
147
转载 解析深度学习中的激活函数
解析深度学习中的激活函数0、从深度学习开始说起今天检索多标签分本分类的文献时，遇到一个关于激活函数的疑惑：遇到的问题如果有大牛看到，知道如何更好的理解这句话的含义，希望在评论里解惑！由惑而生，所以我打算总结一下深度学习模型中常用的激活函数的一些特性，方便大家日后为模型选择合适的激活函数。 说到激活函数，就不能不提神经网络或者深度学习，从一个新手入门深度学习领域，我觉得首先需要理解三个基本的构成要素：三要素我把理解激活函数作为深度学习入门的第一个构成要素，因..
2020-06-15 10:52:16
445
转载 深度学习之对抗样本问题
深度学习之对抗样本问题2006 年，Geoffrey Hinton 提出了深度学习。受益于大数据的出现和大规模计算能力的提升，深度学习已然成为最活跃的计算机研究领域之一。深度学习的多层非线性结构使其具备强大的特征表达能力和对复杂任务的建模能力。最近几年，深度学习的发展也带动了一系列的研究。尤其是在图像识别领域，在一些标准测试集上的试验表明，深度模型的识别能力已经可以达到人类的水平。但是，人们还是会产生一个疑问，对于一个非正常的输入，深度模型是否依然能够产生满意的结果。的确，最近有研究者开始关注深度...
2020-06-08 15:13:13
999
翻译 TensorFlow Hub--用一行代码完成迁移学习
TensorFlow Hub简介TensorFlow Hub是一个用于促进机器学习模型中可复用部分再次进行探索与发布的库，主要将预训练过的TensorFlow模型片段再次利用到新的任务上。（可以理解为做迁移学习）要使用TensorFlow Hub需要你本地安装的TensorFlow的版本在1.7以上（TensorFlow的安装配置过程本文不做介绍，若有需要，可以参考此文）通过以下命...
2019-11-18 10:21:28
303
原创 经典网络结构梳理：SSD目标检测算法。
版权声明：本文为博主原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接和本声明。本文链接：https://blog.csdn.net/donkey_1993/article/details/81460386论文下载地址：https://arxiv.org/abs/1512.02325论文代码：https://github.com/weiliu89/caffe/t...
2019-11-17 09:09:54
340
原创 请注意更新TensorFlow 2.0的旧代码
2019-02-28 20:04:32AI科技大本营阅读数 2160TensorFlow 2.0 将包含许多 API 变更，例如，对参数进行重新排序、重新命名符号和更改参数的默认值。手动执行所有这些变更不仅枯燥乏味，而且容易出错。为简化变更过程并让您尽可能顺畅地过渡到 TensorFlow 2.0，TensorFlow 工程团队创建了实用程序tf_upgrade_v2，可帮助您将旧...
2019-11-16 16:00:47
140
原创 深度学习中Dropout原理解析
2018-06-19 19:12:24Microstrong0305阅读数 67605文章标签：机器学习深度学习神经网络Dropout神经网络优化更多分类专栏：深度学习深度学习版权声明：本文为博主原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接和本声明。本文链接：https://blog.csdn.net/program_developer...
2019-11-16 11:56:59
216
原创 彻底搞懂CNN中的卷积和反卷积
版权声明：本文为博主原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接和本声明。本文链接：https://blog.csdn.net/sinat_29957455/article/details/85558870前言卷积和反卷积在CNN中经常被用到，想要彻底搞懂并不是那么容易。本文主要分三个部分来讲解卷积和反卷积，分别包括概念、工作过程、代码示例，其中代码实践部...
2019-11-16 11:36:36
324
原创 python 可变参数和关键字参数
3.2 可变参数顾名思义，函数的可变参数是传入的参数可以变化的，1个，2个到任意个。当然可以将这些 参数封装成一个list或者tuple传入，但不够pythonic。使用可变参数可以很好解决该问题，注意可变参数在函数定义不能出现在特定参数和默认参数前面，因为可变参数会吞噬掉这些参数。def report(name, *grades): total_grade = 0 ...
2019-10-12 11:46:15
127
原创 python if
python 语言中的三目操作符怎么使用，很遗憾的是 python 中并没有类似condition ? value1 : value2三目操作符。然后现实中很多情况下我们只需要简单的判断 来确定返回值，但是冗长的if-else语句似乎与简单的 python 哲学不一致。别担心，python 可以通过if-else的行内表达式完成类似的功能。var = var1 if condit...
2019-10-11 12:32:15
115
原创 python for循环
4.1 内置集合Python 共内置了list、tuple、dict和set四种基本集合，每个 集合对象都能够迭代。tuple 类型tup = ('python', 2.7, 64)for i in tup: print(i)程序将以此按行输出 ‘python’, 2.7 和 64。dictionary 类型dic = {}dic['lan']...
2019-10-11 12:16:36
119
原创 学习顺序
学习机器学习得有个步骤, 下面大家就能按照自己所需, 来探索这个网站. 图中请找到 "Start", 然后依次沿着箭头, 看看有没有不了解/没学过的地方, 接着, 就能在底下的链接中找到对应的链接去往合适自己的地方.在机器学习前 - (零基础) Python基础语法 了解数据结构 (Numpy & Pandas) 学会展示数据 (Matplotlib) 了解...
2019-10-08 16:23:38
145
转载 Anaconda完全入门指南
参考文章:致Python初学者：Anaconda入门使用指南 Anaconda使用总结概述很多学习python的初学者甚至学了有一段时间的人接触到anaconda或者其他虚拟环境工具时觉得无从下手, 其主要原因就是不明白这些工具究竟有什么用, 是用来做什么的, 为什么要这么做, 比如笔者一开始也是不明白为啥除了python之外我还需要这么一个东西, 他和python到底有啥联系和...
2019-05-22 08:43:41
330
转载 Python绘图Turtle库详解
Python绘图Turtle库详解 Turtle库是Python语言中一个很流行的绘制图像的函数库，想象一个小乌龟，在一个横轴为x、纵轴为y的坐标系原点，(0,0)位置开始，它根据一组函数指令的控制，在这个平面坐标系中移动，从而在它爬行的路径上绘制了图形。turtle绘图的基础知识：1. 画布(canvas) 画布就是turtle为我们展开用于绘图...
2019-05-07 19:31:56
429
转载 tf.transpose函数
tf.transpose(input, [dimension_1, dimenaion_2,..,dimension_n]):这个函数主要适用于交换输入张量的不同维度用的，如果输入张量是二维，就相当是转置。dimension_n是整数，如果张量是三维，就是用0,1,2来表示。这个列表里的每个数对应相应的维度。如果是[2,1,0]，就把输入张量的第三维度和第一维度交换。 例如：impor...
2019-01-26 15:23:54
166
转载 tf.reduce_sum
reduce_sum应该理解为压缩求和，用于降维# 'x' is [[1, 1, 1]# [1, 1, 1]]#求和tf.reduce_sum(x) ==> 6#按列求和tf.reduce_sum(x, 0) ==> [2, 2, 2]#按行求和tf.reduce_sum(x, 1) ==> [3, 3]#按照行的维度求和t...
2019-01-26 14:56:45
158
转载 numpy函数：diag函数
numpy.diag()返回一个矩阵的对角线元素，或者创建一个对角阵（ diagonal array.）。我们还是用例子来说明问题： 先引入numpy 创建一个对角阵，如下 创建一个二维数组x 提起二维数组的对角元素的值，构成一个一位数组 或者，我们可以使用第二个参数，获取其他元素，请自行观察这个值在x数组中的位置 接着，你换一个参数试...
2019-01-26 14:42:15
1883
原创 tensorboard 初学
1.为了减少训练时占用太多内存，可以在 import 语句下面加上如下语句：gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.1)sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options)) 其中0.1 是占用比例，可以调整。2. 可以把程序...
2019-01-07 16:07:49
101
转载 tf.transpose
tensorflow里面许多针对数组操作的函数,官方文档又看了没啥卵用,网上帖子直接copy官方文档而不解释,只能自己写个程序测试理解,以3个维度的tensor进行理解tf.transpose()作为数组的转置函数,原型如下:def transpose(a, perm=None, name="transpose"): """Transposes `a`. Permutes the d...
2018-12-29 11:03:16
101
转载 tf.reduce_sum
tensorflow中有很多在维度上的操作，本例以常用的tf.reduce_sum进行说明。官方给的api 1 2 3 4 5 6 7 reduce_sum( input_tensor, axis=None, keep_dims=False, name=None, ...
2018-12-29 10:27:22
106
转载 tf.placeholder
tf.placeholder(dtype, shape=None, name=None)此函数可以理解为形参，用于定义过程，在执行的时候再赋具体的值参数：dtype：数据类型。常用的是tf.float32,tf.float64等数值类型shape：数据形状。默认是None，就是一维值，也可以是多维，比如[2,3], [None, 3]表示列是3，行不定name：名称。x = tf...
2018-12-29 10:11:03
110
转载 numpy中stack()的方法的作用
一维堆成二维import numpy as npa=[[1,2,3], [4,5,6]]print("列表a如下：")print(a)[[1, 2, 3], [4, 5, 6]]print("增加一维，新维度的下标为0")c=np.stack(a,axis=0)print(c)[[1 2 3] [4 5 6]] print("增加一维，新维度的下标为1")...
2018-12-28 15:11:27
590
原创 np.random.choice的用法
import numpy as np# 参数意思分别 是从a 中以概率P，随机选择3个, p没有指定的时候相当于是一致的分布a1 = np.random.choice(a=5, size=3, replace=False, p=None)print(a1)# 非一致的分布，会以多少的概率提出来a2 = np.random.choice(a=5, size=3, replace=Fals...
2018-12-27 11:24:19
152
转载 python中type与isinstance异同
python中type与isinstance异同2018年12月26日 15:55:48 bitcarmanlee 阅读数：12 标签： typeisinstance旧式类新式类更多个人分类： python版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/bitcarmanlee/article/details/85263614在py...
2018-12-27 11:19:48
208
转载 3D点云深度学习PointNet源码解析——数据预处理
3D点云深度学习PointNet源码解析——数据预处理2018年07月19日 16:04:48 Vodake 阅读数：1160provider.py文件主要为PointNet提供数据加载以及点云预处理等功能 其import如下：import osimport sysimport numpy as npimport h5py1 2 3 4紧接着import的是对数据...
2018-12-19 17:05:45
1147
转载 点云深度学习系列2——PointNet/PointCNN代码比较（变换矩阵部分）
PointNet与PointCNN从文章到代码都有很多相似之处，两者对比看待，或许更有助于我们理解。众所周知，PointNet中使用了maxpooling和T-net，作者文章中起到关键作用的是maxpooling，而T-net对性能的提升作用也还是有的（两个T-net加上regularization 贡献了2.1个百分点），但奇怪的是在PointNet++的代码中，已经看不到T-net了（这...
2018-12-19 16:28:40
619
转载 Tensorflow一些常用基本概念与函数（1）
Tensorflow一些常用基本概念与函数（1） 1、tensorflow的基本运作为了快速的熟悉TensorFlow编程，下面从一段简单的代码开始：import tensorflow as tf #定义‘符号’变量，也称为占位符 a = tf.placeholder("float") b = tf.placeholder("float") y = tf.mul(a, ...
2018-12-19 15:56:22
87
转载 tf.expand_dims和tf.squeeze函数
tf.expand_dims和tf.squeeze函数 个人分类： 机器学习tf.expand_dims()Functiontf.expand_dims(input, axis=None, name=None, dim=None)Inserts a dimension of 1 into a tensor’s shape. 在第axis位置增加一个维度Given a ...
2018-12-17 10:55:37
97
转载 深度学习中的 Batch_Size
Batch_Size（批尺寸）是机器学习中一个重要参数，涉及诸多矛盾，下面逐一展开。首先，为什么需要有 Batch_Size 这个参数？Batch 的选择，首先决定的是下降的方向。如果数据集比较小，完全可以采用全数据集 （ Full Batch Learning ）的形式，这样做至少有 2 个好处：其一，由全数据集确定的方向能够更好地代表样本总体，从而更准确地朝向极值所在的方向。其二，由于不...
2018-12-17 10:47:18
149
转载 【Tensorflow】技巧（1）：tf.shape和get_shape()的区别
tensorflow中的tf.shape和get_shape()都可以用来获取尺寸，那两者的区别是什么呢？先看下面一段代码：<span style="color:#6633ff">import tensorflow as tf a = tf.constant([[1, 2, 3, 4], [5, 6, 7, 8]]) with tf.Session() as sess: ...
2018-12-17 10:27:54
1320
转载 TF-卷积函数 tf.nn.conv2d 介绍
TF-卷积函数 tf.nn.conv2d 介绍转自 http://www.cnblogs.com/welhzh/p/6607581.html下面是这位博主自己的翻译加上测试心得 tf.nn.conv2d是TensorFlow里面实现卷积的函数，参考文档对它的介绍并不是很详细，实际上这是搭建卷积神经网络比较核心的一个方法，非常重要tf.nn.conv2d(input, fi...
2018-12-17 09:20:18
105
转载 三种方法实现PCA算法(Python)
三种方法实现PCA算法(Python)2017年12月12日 13:42:16 剑与星辰 阅读数：210版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/jclian91/article/details/78781202 主成分分析，即Principal Component Analysis（PCA），是多元统计中的重要内容，也广泛应用...
2018-11-16 10:20:32
269
转载 基于TensorFlow理解三大降维技术：PCA、t-SNE 和自编码器
基于TensorFlow理解三大降维技术：PCA、t-SNE 和自编码器机器之心 2017-07-16选自medium机器之心编译参与：Panda Pythonista 数据科学家 Elior Cohen 近日在 Medium 上发文解读了最常见的三大降维技术：PCA、t-SNE 和自编码器。为了帮助理解，他还为其中每种相关算法编写了代码（也发布在了 GitHub 上）。...
2018-11-15 10:45:40
1644
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人