qq_39206732的博客

原创 机器学习详解

在整个机器学习过程中，我们往往希望模型可以在未见过的数据集上表现良好，往往采取8：2，或者7：3的数据划分方法。数据的干净与否对后续的训练起着至关重要的作用，这就好比食材的好坏对于美味佳肴的作用，如果食材不新鲜，再好的师傅也炒不出色香味俱全的菜。是特征选择目的是寻找最优的特征子集，减少特征的个数提高模型的精确度，减少运行的时间。训练完模型之后，就是进行测试对模型的评价。根据目的的不同往往会分为两类：分类和回归。处理完数据我们就可以训练我们的模型了，根据目标问题进行算法的选择，进行参数或者超参的调优，

原创 大模型MOE详解

在有限的计算资源预算下，用更少的训练步数训练更大的模型，往往比耗费更多的步数来训练模型效果更佳。比如，由于大规模推荐系统可能包含数百万甚至数十亿的参数，这些额外的参数往往是欠约束的，这可能会损害模型质量。于是，就有了专家模型（moe）。MoE是一种大型模型架构（图b）。一个MoE模型可以被视为由不同的子模型（或专家）组成，每个子模型专门从事不同的输入，一个可训练的门控网络（gate）决定了这些专家（expert）对每个实例所使用的稀疏组合。具体来说，每一层的专家都由门控网络控制，门控网络根据输入数据。

原创 CNN详解

卷积具有空间不变性，不管图片大小如何，通过卷积运算都能够扫描到位置信息，每个滑动区有相同的共享权重，假设我们使用3*3的卷积核只需要学习9个参数。特征图上的每个点都由上一层对应的点（感受野）通过卷积运算得到的，如果网络层数越多，每个点的感受野就越大，感受野越大就越能够感受更大尺寸的特征。，所谓全连接网络，冗余度很大，参数众多难以训练。举个例子，输入100*100的小图像，全连接层的每个神经元都有10000个权重参数，很容易过拟合。假设我们输入的是汽车，那么输出就是各个汽车的品牌（类别），如图2所示，

原创 后端java

之后没有大流量的时候，我们可以关闭这些虚拟机，一个新问题？4、使用编程语言和后端框架来定义允许哪些类型，请求以及如何响应这些请求，例如：我们可以允许后斜杠订单请求，每当我们收到对应请求时，将创建一个订单保存在我们数据库中,以购物网站，淘宝为例，登录信息、订单和历史记录等，为此我们使用数据库来储存这些数据，数据库帮助我们存储和管理 ，只需一台服务器和一个数据库就可以构建大部分项目。例如：用户通过前端下单了物品，前端会给后端发送包含订单的信息，然后后端将订单保存到数据库，并向前端发送一条消息，确认订单已创建。

原创 Transformer与RNN、CNN对比

其次，是进行QKV的矩阵运算得到attention矩阵，之后除以根号d，主要因为是做矩阵乘法时，需要先让两个矩阵的元素相乘再相加，如果两个矩阵想乘之后均值为0，方差为d的正态分布了，可能会产生很大的数值，造成个别词的注意力很高，其余很低。首先对输入进行投影得到QKV三个矩阵，为什么要进行投影？normalization是提升神经网络的泛化性，如果我们输入跟之前分布不一值的样本，模型可能得到错误的结果，但如果我们把中间的隐藏层都调到均值为0的，方差为1的分布中去，就可以更好利用模型学到的知识。

原创 ubuntu 使用其他用户（主用户）下的anaconda

前提：系统用户下已经安装好anaconda，其他用户如何使用该配置而不用另外安装anaconda（节省磁盘资源）文件：在该文件底部下面添加 ，保存文件退出。

原创 解决 libstdc++.so.6: version ‘GLIBCXX_3.4.30‘ not found 问题

复制 /usr/lib/x86_64-linux-gnu/libstdc++.so.6 文件 到指定目录（我这里是/home/hdm/.conda/envs/R4.3/lib/libstdc++.so.6）删除原路径的libstdc++.so.6文件：sudo rm /home/hdm/.conda/envs/R4.3/lib/libstdc++.so.6。1、检查 /usr/lib/x86_64-linux-gnu/libstdc++.so.6 该文件是否存在GLIBCXX_3.4.30。

原创 conda环境继承

4、激活环境。

原创 上传项目到github 仓库

如图所示：去自己的github账号上添加ssh key ，设置title ，把id_rsa.pub里面的内容复制到key里面。git remote add origin git项目仓库地址（ssh地址：例如git@...）生成成功后，去对应目录C:\用户\X\ .ssh 里面的 id_rsa.pub。git push -u origin master #将项目推到GitHub。，ls如果有2个文件，则密钥已经生成，id_rsa.pub就是公钥。在自己的项目下打开git，执行下面指令。

原创 conda install package失败 PackagesNotFoundError

然后选择 所要对应平台下载的 name ，例如我是RMG/wget。1、conda install package 失败。2、输入要install的package 查看路径源。

原创 在服务器上配置torch 基于gpu （torch.cuda.is_available()的解决方案）

3、删除自己用户下面的.condarc 文件，没有换源过的忽略（我之前在自己的.condarc上面添加过换源 不知道是不是这个原因导致先前的失败）（注：如果是cpu上的应该失败了，避免用换源的路径下载）（注：我只知道自己的步骤可以运行成功，其他问题不清楚）2、查看cuda running版本 nvcc -V。5、查看pytorch是否装在（gpu）cuda上。4、去官网找到对应版本pytorch（前提：创建好自己的conda虚拟环境。1、查看 驱动nvidia-smi。

原创 服务器磁盘占满，虚拟机启动不起来【解决方案】

4、删除占用比较大的文件（具体看个人选择，但是安装了什么导致磁盘爆了就选择删除它吧emm） rm -rf xxx（文件路径）3、查看当前目录下面的软件占用情况 du -sh *（所要删除的文件有进程正在进行先klii ，命令。killall -9 firefox（进程名））报错没有权限： sudo rm -rf。1、查看磁盘占用情况 df -h。主要解决方案是释放磁盘。

原创 NVIDIA cuda 驱动、cuda running 版本以及torch cuda版本对应关系

版本号向下兼容 nvidia cuda>cuda running>torch cuda。3、查看pythorch cuda版本号。2、查看cuda running版本。1、nvidia cuda驱动版本。

原创 从git克隆项目失败

git克隆失败

原创 NVIDIA驱动失效

NVIDIA、CUDA

原创 博客摘录「 Cell Reports：去除宿主和胞外DNA以提高微生物基因组得率（痰液样本）」生信笔记1

类似的，“宏基因组”就是“基因组之上的基因组”，研究对象是某一样品中的全部基因组。比如研究人类肠道微生物，研究对象就是肠道中全部微生物群体的基因组，甚至包括人体的基因组。3、宏基因组测序：宏基因组测序是微生物鉴定和功能分析的重要手段。然而，宿主DNA的含量过高，微生物基因组得率较低是影响其分析的一大障碍。1、选择性去除宿主DNA可增加宏基因组测序过程中菌群基因的覆盖度。2、去除宿主DNA对检测到的菌群组成的影响（宏基因组测序）

转载 conda 激活虚拟环境报错CommandNotFoundError: Your shell has not been properly configured to use ‘conda activa

原创 安装miniconda+pycharm环境配置

本人之前在pycharm里配置了python3.10的环境，为了避免冲突，选择了python3.9的。python版本选择跟安装miniconda时一样的。2、在pycharm里面配置miniconda。

原创 从github下载项目（clone）

从github下载/克隆项目