bingo_liu-CSDN博客

原创 Self-Attention自注意力机制

目的学习输入序列中每个个体与其他个体的依赖重要程度（权重），这里的个体对应nlp的字或词获得个体在上下文的特征。词袋模型只能通过embedding获取静态特征，无法表征个体在上下文的含义，通常用来初始化embedding并行计算，不同于lstm、rnn的第n个timestep依赖于前1个timestep计算过程step1 计算qqq kkk vvv假设输入序列为’Thinking Machines’，通过embedding得到向量X1X_1X1、X2X_2X2 ∈\in∈ Rembeddin

2021-11-09 21:32:25 745 1

原创平面坐标系内点与点之间的关系

如图，平面坐标系内点A(xax_{a}xa,yay_{a}ya)绕原点O逆时针旋转至B(xbx_{b}xb,yby_{b}yb)，OB与OA的夹角为θ\thetaθ，试用矩阵表示B和A的关系。解：设OA的长度为r，OA与xxx轴的夹角为α\alphaα，则xbxa=rcos(α+θ)rcosα=cosαcosθ−sinαsinθcosα=cosθ−tanαsinθ=cosθ−yaxas...

2020-03-14 13:14:26 1863

原创 conda安装gpu版本tensorflow

windows10安装cuda10.2配置国内清华镜像源创建环境conda create -n tensorflow python=3.6切换环境conda activate tensorflow 安装gpu版本的tensorflow,用conda安装会把cuda/cudnn都安装conda install tensorflow-gpu==1.14若不成功，重试几次或十来次或...

2019-12-19 19:50:12 8967 5

原创 windows10安装cuda10.2

cuda10.2安装前言下载cuda10.2和cudnn查看本机驱动版本安装过程安装cudnn验证前言tensorflow1.12之后gpu使用cuda10.0对应的驱动，不要求安装cuda，[但pytorch要求安装cuda和cudnn(暂不确定)]，如果本机的驱动版本小于cuda10.0对应的驱动版本，建议安装cuda10.x的驱动来覆盖本机的驱动，不用卸载再安装驱动下载cuda10.2...

2019-11-24 16:07:55 60759 31

原创 conda安装pytorch

conda安装pytorch说明anaconda版本安装cuda10.x配置国内清华镜像源切换到pytorch环境安装到当前环境验证说明使用conda安装，不建议使用pip安装；cuda使用10.0或更高版本.anaconda版本Anaconda3-2019.10-Windows-x86_64.exe安装cuda10.x配置国内清华镜像源https://blog.csdn.ne...

2019-11-24 15:06:28 15445 4

原创 conda使用笔记

conda使用笔记查看环境信息查看当前环境下安装的包和版本查看所有的环境下安装的包和版本创建新环境删除环境切换环境退出当前环境重命名环境安装第3方包查看环境信息conda info -e查看当前环境下安装的包和版本conda list查看所有的环境下安装的包和版本conda env list创建新环境conda create -n pytorch python=3.7...

2019-11-24 14:37:52 2039