- 博客(36)
- 资源 (277)
- 问答 (4)
- 收藏
- 关注
转载 Transformers2.0让你三行代码调用语言模型,兼容TF2.0和PyTorch
Transformers2.0让你三行代码调用语言模型,兼容TF2.0和PyTorch能够灵活地调用各种语言模型,一直是 NLP 研究者的期待。近日 HuggingFace 公司开源了最新的 Transformer2.0 模型库,用户可非常方便地调用现在非常流行的 8 种语言模型进行微调和应用,且同时兼容 TensorFlow2.0 和 PyTorch 两大框架,非常方便快捷。最近,专注于自然语言处理(NLP)的初...
2020-08-31 10:22:11 1306
转载 python写入csv文件的几种方法
python写入csv文件的几种方法最常用的一种方法,利用pandas包import pandas as pd#任意的多组列表a = [1,2,3]b = [4,5,6]#字典中的key值即为csv中列名dataframe = pd.DataFrame({‘a_name’:a,‘b_name’:b})#将DataFrame存储为csv,index表示是否显示行名,default=Truedataframe.to_csv(“test.csv”,index=False,sep=’,...
2020-08-30 22:29:45 8159
原创 只想安安静静的做个程序员
故事主角用A ,B,C ,D代表本故事 是不是 虚构 巧不巧和 你心里没点b数吗?故事一开始 A,B,C 同时入职了,一家刚成立的创业公司。创业公司(人工智能公司) ,有三个老板,年龄和C相仿,年龄A>B>C(你们猜猜谁最狗),那么也不难猜出三个人来这个公司的原因,先说A是一个喜欢旅游的人,所以猜测一下工作也是如此,干的时间都不长,以前的人工智能公司工作了两个月,辞职了(辞职原因应该是年龄和能力问题),刚到这个公司由于三个老板年轻非常不懂技术,所以招聘了A想让A做技术总监,A来着里的目
2020-08-29 22:41:16 381
转载 XLNET原理详解
论文原文地址arxiv.orgGitHub论文源码下载github.com0. XLNet概述XLNet是一个语言模型。和ELMO,GPT,BERT一脉相承,同时借鉴了Transformer-XL,故称XLNet(XL含义源于衣服尺码,意思是模型横向更宽);并提出一些新方法改善了Bert存在的问题,目前取得了全面超越Bert的成果。和Bert一样,XLNet也分为Pre-train和Fine-tune两阶段;并且参数规模比Bert更大。1. AR(autoregressive) vs AE(autoen
2020-08-23 10:31:49 2247
原创 pytorch gpu 版 Bert
# -*- coding: utf-8 -*-"""BERT-TorchAutomatically generated by Colaboratory.Original file is located at https://colab.research.google.com/drive/1LVhb99B-YQJ1bGnaWIX-2bgANy78zAAt"""''' code by Tae Hwan Jung(Jeff Jung) @graykode, modify by wmat
2020-08-21 10:53:23 580
原创 tensorflow官方解决Ubuntu cuda安装问题
# Add NVIDIA package repositorieswget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.1.243-1_amd64.debsudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x8
2020-08-21 09:32:35 458
转载 Pytorch:transforms的二十二个方法
文章目录一、 裁剪——Crop1.随机裁剪:transforms.RandomCrop2.中心裁剪:transforms.CenterCrop3.随机长宽比裁剪 transforms.RandomResizedCrop4.上下左右中心裁剪:tr...
2020-08-15 14:35:21 1397
转载 语音识别|基于CNN+DFSMN(简化版:标量+无步长因子)的声学模型实现及代码开源(keras)
由于我主要研究问答系统,因此本博客仅更新NLP及问答相关内容,最近创了一个群,如果大家感兴趣可加q群号:376564367g...
2020-08-14 16:12:38 784
转载 NLP——基于transformer 的翻译系统
文章目录基于transformer 的翻译系统1. 数据处理1.1 英文分词1.2 中文分词1.3 生成字典1.4 数据生成器...
2020-08-14 12:24:50 2900 4
转载 语音识别——基于深度学习的中文语音识别tutorial(代码实践)
文章目录利用thchs30为例建立一个语音识别系统1. 特征提取2. 数据处理下载数据2.1 生成音频文件和标签文件列表定义函...
2020-08-14 12:21:37 3035 11
转载 语音识别——基于深度学习的中文语音识别系统框架
本文搭建一个完整的中文语音识别系统,包括声学模型和语言模型,能够将输入的音频信号识别为汉字。该系统实现了基于深度框架的语音识别中的声学模型和语言模型建模,其中声学模型包括CNN-CTC、GRU-CTC、CNN-RNN-CTC,语言模型包含tra...
2020-08-14 12:14:47 2113 1
原创 处理音频文件的python模块
首先是wavedef read_wav_data(filename): ''' 读取一个wav文件,返回声音信号的时域谱矩阵和播放时间 ''' filename="/home/chenyang/"+filename[2:] with wave.open(filename,"rb") as wav: # 打开一个wav格式的声音文件流 num_frame = wav.getnframes() # 获取帧数 num_channel=wav.getnchannels() # 获取声道数 f
2020-08-13 11:34:07 800
转载 人人都能看懂GRU
首发于深度学习234写文章人人都能看懂的GRU陈诚1,083 人赞同了该文章接续上一次介绍的LSTM ,这里我又很不要脸地使用“人人都能看懂的xxx”来作为标题,来将对GRU进行介绍。同样这里的内容是对台大李宏毅老师课程视频的一些记录以及自己的一些整理和思考。对于不懂基础RNN和LSTM的同学可以先看看我的上一篇文章 人人都能看懂的LSTM。有任何疑问欢迎交流。1. 什么是GRUGRU(Gate Recurrent Unit)是循环神经网络(Recurrent Neural Network, RNN)的一种
2020-08-13 09:48:58 1458
转载 人人都能看懂LSTM
这是在看了台大李宏毅教授的深度学习视频之后的一点总结和感想。看完介绍的第一部分RNN尤其LSTM的介绍之后,整个人醍醐灌顶。本篇博客就是对视频的一些记录加上了一些个人的思考。0. 从RNN说起循环神经网络(Recurrent Neural Network,RNN)是一种用于处理序列数据的神经网络。相比一般的神经网络来说,他能够处理序列变化的数据。比如某个单词的意思会因为上文提到的内容不同而有不同的含义,RNN就能够很好地解决这类问题。1. 普通RNN先简单介绍一下一般的RNN。 其主要形式如下图所示(图片
2020-08-13 09:47:01 507
原创 pytorch 之手写数字生成网络
EPOCH = 10BATCH_SIZE = 64LR = 0.005 # learning rateDOWNLOAD_MNIST = FalseN_TEST_IMG = 5# Mnist digits datasettrain_data = torchvision.datasets.MNIST( root='./mnist/', train=True, transform=tor
2020-08-09 11:12:11 417
原创 自然语言处理 的 一些环境和包
NLTK是一个开源免费的项目,只需要下载即可支持三个平台直接安装pip3 install nltk -i https://pypi.doubanio.com/simple中文分词模块CRFNShort安装Ltp Python pip3 install pyltp -i https://pypi.doubanio.com/simple遇到这个bugerror: command 'x86_64-linux-gnu-gcc' failed with exit status 1请使
2020-08-08 14:52:16 420
原创 我复现了我的梦
在无数的程序心中都有一个梦,那就是和一个女神在一起修仙。也许这个听来并不像,走上人生巅峰的梦想那么高大上。但是,这就是,BQZ的梦想。BQZ是一个正儿八经的90后,毕业后独自一个人来到S城市发展。和普通的人一样,他并没有任何超乎常人的特点,普通的不能在普通。长相不丑,个子不高不矮,身材不胖不受,要非说是特长那么就是做梦比较长。且每个梦都能记得清楚。就这样,平平常常的上下班已有三年了。一个平常的夜晚,BQZ走在自己的梦里突然一个,女神出现。那女孩有一双晶亮的眸子,明净清澈,灿若繁星,不知她想到了什么,
2020-08-07 20:51:50 416
原创 python游戏创新大赛
https://gitee.com/Selected-Activities/Adapted-game/blob/master/exhibition.md
2020-08-07 15:16:24 397
原创 DFCNN-LSTM
import osimport torchimport torch.nn as nnimport torch.nn.functional as Fdef conv_bn(inp, oup, stride, conv_layer=nn.Conv2d, norm_layer=nn.BatchNorm2d, nlin_layer=nn.ReLU): return nn.Sequential( conv_layer(inp, oup, 3, stride, 1, bias=Fal
2020-08-07 14:19:22 1163 2
原创 测试tensorflow-gpu
import tensorflow as tf with tf.device('/gpu:0'): a = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[2, 3], name='a') b = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[3, 2], name='b') c = tf.matmul(a, b) with tf.Session
2020-08-06 09:39:56 523
原创 条件概率计算代替RNN
当已知A B独立时可以,p(a并b)=p(a)+p(b)-p(a交b),p(a交b)=p(a)*p(b),当a,b不独立时,要用条件概率,p(a交b)=p(b|a)*p(a)=p(a|b)*p(b),事实上,当a,b独立时,p(a|b)=p(a),p(b|a)=p(b)如何根据图中p1和p2 ,p3 计算A的时候B的概率更具公式p(a交b)=p(b|a)*p(a)p(b|a)=p(a交b)/p(a)=p2[0]/p3[0]假设...
2020-08-04 14:02:52 342
原创 如果算力足够根本不需要标注太多数据
A数据集有n个数据,每个数据有可能是m个类别的一个,假设一个数据有一个类别把所有情况都使用B数据集合验证一遍效果最好的那个就是标注好的而且我们可以根据哪个类识别的好就证明哪个类别标注的对这样会排除一部分不断的验证几次即可标注好...
2020-08-04 09:36:37 306
原创 DFCNN网络pytorch版本
import torchfrom torch import nnimport torch.nn.functional as Fclass dfcnn(nn.Module): def __init__(self, num_classes, input_nc): super(dfcnn, self).__init__() self.layer1 = nn.Sequential( nn.Conv2d(input_nc, 32,
2020-08-03 10:11:21 1098 6
原创 裸眼3D将是未来移动端的显示的主要技术
为什么本人会谈这个,因为近几天本人成功实现了眼球追踪,不是特别的精确,但是面对裸眼3D的实现足够了,只要摄像头可以捕捉到你的眼睛就可以了最后就是实现双眼投射,那么问题来了,投影如何调整自己的方向和位置,通过红外和光感解决距离计算,并计算焦距,其实通过摄像头也是可以计算的但是这个算的比较准确,还有就是方向问题,这个其实问题不是特别重要只要能360度 偏转30度即可,还有就是自动调焦距,这个并不难对于今天的手机来说应该是 so easy 摄像头可以50倍变焦,还解决不了这个问题好这些实现后就是手机要不
2020-08-02 15:47:21 815
python matlib 数据建模教程源码
2024-09-22
如何将该神经网络变成大模型
2024-03-23
Python 实现ramdisk
2021-09-11
Lenovo bug我要背锅吗
2021-09-11
谁能告诉我这是谁的锅
2021-09-11
如何发射很少重量的物质到火星就能完成火星地球化
2021-09-11
TA创建的收藏夹 TA关注的收藏夹
TA关注的人