IT远征军-CSDN博客

转载大模型训练时，使用bitsandbytes报错的解决方法

定位到if not torch.cuda.is_available(): return 'libsbitsandbytes_cpu.so', None, None, None, None，将其替换为if torch.cuda.is_available(): return 'libbitsandbytes_cuda116.so', None, None, None, None。在对大语言模型(LLaMa、Chat-GLM等)进行微调时，考虑到减少显存占用，会使用如下方式加载模型。

2023-06-15 10:50:02 1849

原创 pytorch 多GPU训练LSTM（RNN或GRU）

首先模型需要放在GPU上，形如：device = torch.device("cuda" if use_cuda else "cpu")model = LSTM(args.timestep, args.batch_size, args.audio_window).to(device)然后使用nn.nn.DataParallel,model = nn.DataParallel(model, device_ids=[0,1,2,3])由于定义的lstm模型中存在如下类似的初始函数

2020-06-05 15:21:33 3029

转载基于opencv的dll动态库隐式链接

DLL的作用DLL是一个包含可由多个程序同时使用的代码和数据的库。例如：在Windows操作系统中，Comdlg32 DLL执行与对话框有关的常见函数。因此，每个程序都可以使用该DLL中包含的功能来实现“打开”对话框。这有助于促进代码重用和内存的有效使用。这篇文章的目的就是让你一次性就能了解和掌握DLL。代码复用是提高软件开发效率的重要途径。一般而言，只要某部分代码具有通用性，就可以将它构造成相对独立的功能模块并在之后的项目中重复使用。比较常见的例子是各种应用程序框架，它们都以源代码的形式发布。由于这.

2020-05-13 15:07:16 894

原创 C++ litorch 加载python训练的模型

深度学习模型一般都是用python（基于pytorch）进行训练的，下面就说一下如何用C++加载python训练的模型。首先在python训练完模型后，得到.pth的训练模型。然后在生成C++所需的.pt文件时，调用torch.jit.trace()函数时，给模型提供一个正常的输入（需要与模型正常的输入格式相同），在本文中输入的是一张图片，如下：img = cv2.imread("test.jpg") #读...

2020-05-13 12:08:50 1593

转载 c++ 部署libtorch 时对Tensor块的常用操作API (例如vector转换为torch、squeeze、select、select_indxe、max等）

使用pytorch可以很方便的训练了网络，并且pytorch的官方网站中放出了很全的python对tensor的操作接口API，但是在部署libtorch的时候，c++对tensor的操作接口API，资料不是很多哦，因此，我收集了我部署libtorch的时候，操作tensor块常用的接口API，其实很多和python的接口和类似。文章目录1、vector 转为 tensor 块2、torch::...

2020-04-29 14:25:07 9271 1

原创 libshm.so: undefined symbol: _ZTI24THRefcountedMapAllocator解决方式

在终端输入：export LD_LIBRARY_PATH=/usr/local/cuda-9.0/lib64即可解决

2019-08-21 17:06:58 1251

原创 git 覆盖上传代码到github

使用背景：自己建的GitHub仓库，中间可能修改某些代码，需要重新上传。步骤：1.首先git clone 下你的代码。2.下载的代码修改后保存，再git终端中输入git status，即可看到改动的代码。3.终端输入：git add <修改的文件所在工程的目录>，例如：我改了工程目录 a/b/c.py a/b/d.py 两个文件，需要输入：git add a/...

2019-03-02 12:57:04 2524 2

转载 one-stage检测算法负样本淹没问题

1.什么是“类别不平衡”呢？详细来说，检测算法在早期会生成一大波的bbox。而一幅常规的图片中，顶多就那么几个object。这意味着，绝大多数的bbox属于background。2.“类别不平衡”又如何会导致检测精度低呢？因为bbox数量爆炸。正是因为bbox中属于background的bbox太多了，所以如果分类器无脑地把所有bbox统一归类为background，accurac...

2018-12-10 09:51:59 944

原创 python-opencv保存图片

im2show表示python生成的矩阵，是一个BGR通道的矩阵，需要对通道进行转换再进行显示。im2showRGB = cv2.cvtColor(im2show, cv2.COLOR_BGR2RGB)cv2.imshow("frame", im2showRGB)

2018-12-09 20:45:08 4118

原创错误：fatal error: ‘cblas.h’ file not found

如果出现如下错误：In file included from ./mshadow/mshadow/tensor.h:16:./mshadow/mshadow/./base.h:120:14: fatal error: 'cblas.h' file not found#include 请打开文件 config.mk 找到如下一行： 1 USE_BLA...

2018-11-29 13:03:51 5459 1

原创更新完pip，pip list 报错

更新完pip之后，终端执行pip list，报 from pip import main....blabla的错误，主要是因为pip安装的源不同，可能最开始pip是apt-get安装的，后来用pip install --upgrade pip更新的。解决方式：在终端输入：hash pip即可解决...

2018-11-29 13:00:49 6080 1

转载 GBDT、Xgboost、RF的区别

GBDT与XGB区别 1. 传统GBDT以CART作为基分类器，xgboost还支持线性分类器(gblinear)，这个时候xgboost相当于带L1和L2正则化项的逻辑斯蒂回归（分类问题）或者线性回归（回归问题）2. 传统GBDT在优化时只用到一阶导数信息，xgboost则对代价函数进行了二阶泰勒展开，同时用到了一阶和二阶导数。顺便提一下，xgboost工具支持自定义代价函数，只要函...

2018-10-12 16:28:55 1522

转载数据库常用SQL指令

学会数据库是很实用D~~记录一些常用的sql语句...有入门有提高有见都没见过的...好全...收藏下... 其实一般用的就是查询,插入,删除等语句而已....但学学存储过程是好事...以后数据方面的东西就不用在程序里搞喽..而且程序与数据库只要一个来回通讯就可以搞定所有数据的操作....一、基础1、说明：创建数据库 Create DATABASE database-name2、说明：删除...

2018-09-17 10:24:26 275

转载 leetcode754 到达终点数字---精妙的数学恒等式

原文链接：https://blog.csdn.net/weixin_37373020/article/details/80963488在一根无限长的数轴上，你站在0的位置。终点在target的位置。每次你可以选择向左或向右移动。第 n 次移动（从 1 开始），可以走 n 步。返回到达终点需要的最小移动次数。示例 1:输入: target = 3输出: 2解释:第一次移动...

2018-09-14 09:11:22 488

转载几种优化算法的比较（BGD、SGD、Adam、RMSPROP）

前言这里讨论的优化问题指的是，给定目标函数f(x)，我们需要找到一组参数x，使得f(x)的值最小。本文以下内容假设读者已经了解机器学习基本知识，和梯度下降的原理。Batch gradient descent梯度更新规则:BGD 采用整个训练集的数据来计算 cost function 对参数的梯度：缺点:由于这种方法是在一次更新中，就对整个数据集计算梯度，所以计算起...

2018-09-11 19:23:43 50355

原创碰撞的小球

问题描述　　数轴上有一条长度为L（L为偶数)的线段，左端点在原点，右端点在坐标L处。有n个不计体积的小球在线段上，开始时所有的小球都处在偶数坐标上，速度方向向右，速度大小为1单位长度每秒。　　当小球到达线段的端点（左端点或右端点）的时候，会立即向相反的方向移动，速度大小仍然为原来大小。　　当两个小球撞到一起的时候，两个小球会分别向与自己原来移动的方向相反的方向，以原来的速度大小继续移动。...

2018-09-11 18:21:58 351

原创头条笔试《团体个数》

输入一个整数m，表示输入矩阵的边长，接下来输入m行，每行m个数（0或1），每个数用空格分开。假设上下左右相邻，则认为是1个团体；如：1 11 1或111或1 1 1都是来自一个团体，最后输出一共有多少个团体。 import sysm = int(sys.stdin.readline())grid = []for _ in range(m): ...

2018-09-09 21:34:23 161

原创京东笔试《相似字符串》

输入两个字符串S, T，假如S的子串与T串的格式相同，则认为相似。如：S:ababcb, T:xyx, 则S中aba,bab, bcb与T串相似，输出3.a = 'ababcb'b = 'xyx'def solve(S, T): if len(S) == 0: return 0 a = [] b = [] for i in range(...

2018-09-09 21:29:40 384

原创《招商银行信用卡中心》（AI方向第一批）编程第二题

题目描述：用‘.’表示诺骨牌站立，‘L’表示该位置以前往左倒，‘R’表示该位置之后往右倒。如：....L... 得到的结果即为LLLL....；....R...L..得到的结果即为....RR.LL..输入：一行字符串，只包含‘.’、‘R’、‘L’三种字符输出：一行字符串，表示左右推倒之后的状态。 python2.7实现：#coding:utf-8import sys...

2018-08-30 22:04:52 750

原创如何上传项目到github

1.登陆github账号2.新建仓库，如图：仓库命名为Test,即github显示该项目的名称仓库创建成功：3.在本地，建议将自己要传的项目文件放在新的文件夹中，如：将所有要传的文件（注意：上传打下不能大于100M）放在Test文件下，打开Test文件夹，并在Test的根目录下打开终端，依次输入：git initgit add . 注意：add后边有个‘...

2018-08-20 10:42:06 214

原创动态规划：《部分背包问题》-python实现

接上两篇部分背包问题:有n种重量和价值分别为Wi和Vi的物品。从这些物品中挑选出总重量不超过w的物品，第i种物品最多选mi个，求所有挑选方案中价值总和的最大值。将部分背包问题转换成01背包问题进行求解。import sysdef track(d, c, w): x = [] for i in range(1, len(w)): if d[i][c...

2018-08-17 10:37:19 2326 1

原创动态规划：《完全背包问题》-python实现

接上一篇博客在01背包问题中，每个物体都不允许重复使用。而完全背包问题:有n种重量和价值分别为Wi和Vi的物品。从这些物品中挑选出总重量不超过w的物品，每种物品都可以挑选多件，求所有挑选方案中价值总和的最大值。 #coding:utf-8#完全背包问题import sysdef track(d, c, w): x = [] while c > 0: ...

2018-08-16 21:41:59 5737

原创动态规划：《背包问题》-python实现

0-1 背包问题：给定 n 种物品和一个容量为 C 的背包，物品 i 的重量是 wi，其价值为 vi 。问：应该如何选择装入背包的物品，使得装入背包中的物品的总价值最大？分析一波，面对每个物品，我们只有选择拿取或者不拿两种选择，不能选择装入某物品的一部分，也不能装入同一物品多次。解决办法：声明一个大小为 m[n][c] 的二维数组，m[ i ][ j ] 表示在面对第...

2018-08-16 15:54:06 7817 1

原创动态规划：《走金子塔》-python实现

给定一个由n行数字组成的数字三角型，如图所示。设计一个算法，计算从三角形的顶至底的一条路径，使该路径经过的数字总和最大。路径上的每一步都只能往左下或右下走，给出这个最大和。 7 3 8 8 1 0 2 7 4 4 4 5 2 6 5这个问题来源于POJ1163。对于这种问题，我们可以有正向和反向两种思考方式。正向思考这个问题，d...

2018-08-14 18:07:58 817

原创《字节跳动》笔试第一题

题目描述：在[m,n]的矩阵中，用1表示有人，0表示没人。假如两个人的位置相邻（包括斜着相邻，水平相邻，垂直相邻），则他们是属于一个团体。输入：第一行输入两个数m,n，用，隔开接下来输入m行，每一行输入n个数，用逗号隔开输出：矩阵中有多少个团体，以及最大团体的人数。例如：输出6,11（程序没有管输出的格式，自己可以修改）import sysglobal r...

2018-08-12 16:26:35 4214

原创《字节跳动》笔试第二题

题目：输入：第一行输入一个数n,表示下边有几行。接下来输入n行，每一行格式为1,2；3,4；5,6......输出：将重叠部分进行合并的结果，按从小到大输出。例如： python实现：import sysif __name__ == '__main__': n = input() q = [] for i in range(n): ...

2018-08-12 15:28:40 3657 1

原创回溯法：《数字和为sum的方法数》-python实现

题目描述给定一个有n个正整数的数组A和一个整数sum,求选择数组A中部分数字和为sum的方案数。当两种选取方案有一个数字的下标不一样,我们就认为是不同的组成方案。输入描述:输入为两行: 第一行为两个正整数n(1 ≤ n ≤ 1000)，sum(1 ≤ sum ≤ 1000) 第二行为n个正整数A[i](32位整数)，以空格隔开。输出描述:输出所求的方案数示例1...

2018-08-10 14:37:42 686

原创回溯法：《圆排列问题》-python实现

给定n个大小不等的圆c1,c2,…,cn，现要将这n个圆排进一个矩形框中，且要求各圆与矩形框的底边相切。圆排列问题要求从n个圆的所有排列中找出有最小长度的圆排列。例如，当n=3，且所给的3个圆的半径分别为1，1，2时，这3个圆的最小长度的圆排列如图所示。其最小长度为。 #coding:utf-8import sysimport mathimport copycc = []...

2018-08-10 10:30:06 1665

原创回溯法：《装载问题》-python实现

有一批共n个集装箱要装上2艘载重量分别为c1和c2的船，其中集装箱i的重量为wi，且。装载问题要求确定是否有一个合理的装载方案可将这些集装箱装上这2艘船。如果有，找出一种装载方案。例如当n=3，c1=c2=50且w=[10,40,40]时，则可以将集装箱1和2装到第一艘轮船上，而将集装箱3装到第二艘轮船上；如果w=[20,40,40]，则无法将这3个集装箱都装上轮船。容易证明，如果一个给定装载问题...

2018-08-10 10:28:44 3676 2

原创回溯法：《8皇后问题》-python实现

该问题是国际西洋棋棋手马克斯·贝瑟尔于1848年提出：在8×8格的国际象棋上摆放八个皇后，使其不能互相攻击，即任意两个皇后都不能处于同一行、同一列或同一斜线上，问有多少种摆法。思路：一行一行的放置皇后，判断皇后的位置是否符合条件，当放置到最后一行时，则所有皇后的位置放置完毕，保存棋盘活棋盘数加一。 #coding:utf-8import copyc = 0def not...

2018-08-10 10:17:10 1868

原创回溯法：《8皇后问题》-C++实现

#include "stdio.h"#include "iostream"#include "string"using namespace std;int count = 0;int notdanger(int chess[8][8], int d_row, int d_col){ int flag1 = 0, flag2 = 0, flag3 = 0, flag4 = 0, ...

2018-08-09 08:56:37 604

转载 LSTM原理及实现

LSTM网络 LSTM核心思想逐步理解LSTM 遗忘门输入门输出门 LSTM变体多层LSTM LSTM实现手写数字设置LSTM参数初始化权值参数训练参考资料前面我们介绍了RNN，现在我们来介绍一种特殊的RNN结构，LSTM网络。我们将逐步介绍LSTM的结构，原理，以及利用LSTM识别手写数字的dem...

2018-08-07 17:00:57 15587

转载《oh-my-zsh》的安装与配置

1. 准备工作安装需要用到：wget curl git zsh 官网：http://ohmyz.sh/ GitHub主页：https://github.com/robbyrussell/oh-my-zsh/2. 安装方法自动安装通过curlsh -c "$(curl -fsSL https://raw.github.com/robbyrussell/oh-my-zsh/mas...

2018-08-06 15:34:40 992

原创 **《连续最大和》

题目描述一个数组有 N 个元素，求连续子数组的最大和。例如：[-1,2,1]，和最大的连续子数组为[2,1]，其和为 3输入描述:输入为两行。第一行一个整数n(1 <= n <= 100000)，表示一共有n个元素第二行为n个数，即每个元素,每个整数都在32位int范围内。以空格分隔。输出描述:所有连续子数组中和最大的值。示例1输入复制3...

2018-08-03 16:02:17 134

原创 **《保留最大的数》

题目描述给定一个十进制的正整数number，选择从里面去掉一部分数字，希望保留下来的数字组成的正整数最大。输入描述:输入为两行内容，第一行是正整数number，1 ≤ length(number) ≤ 50000。第二行是希望去掉的数字数量cnt 1 ≤ cnt < length(number)。输出描述:输出保留下来的结果。示例1输入复制325 1...

2018-07-28 20:22:00 174

原创 **《彩色宝石项链》

题目描述有一条彩色宝石项链，是由很多种不同的宝石组成的，包括红宝石，蓝宝石，钻石，翡翠，珍珠等。有一天国王把项链赏赐给了一个学者，并跟他说，你可以带走这条项链，但是王后很喜欢红宝石，蓝宝石，紫水晶，翡翠和钻石这五种，我要你从项链中截取连续的一小段还给我，这一段中必须包含所有的这五种宝石，剩下的部分你可以带走。如果无法找到则一个也无法带走。请帮助学者找出如何切分项链才能够拿到最多的宝石。输入...

2018-07-27 10:57:06 255

转载 SPPnet论文总结

小菜看了SPPNet这篇论文之后，也是参考了前人的博客，结合自己的一些观点写了这篇论文总结。这里参考的连接如下： [http://blog.csdn.net/u013078356/article/details/50865183] 论文：《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognit...

2018-07-24 20:18:36 193

原创 ***《剑指offer》27：字符串的排列

题目描述输入一个字符串,按字典序打印出该字符串中字符的所有排列。例如输入字符串abc,则打印出由字符a,b,c所能排列出来的所有字符串abc,acb,bac,bca,cab和cba。输入描述:输入一个字符串,长度不超过9(可能有字符重复),字符只包括大小写字母。C++实现：class Solution {public: vector<string> P...

2018-07-24 11:14:14 116

原创 **《剑指offer》39：平衡二叉树

题目描述输入一棵二叉树，判断该二叉树是否是平衡二叉树。平衡二叉树：平衡二叉搜索树（Self-balancing binary search tree）又被称为AVL树（有别于AVL算法），且具有以下性质：它是一棵空树或它的左右两个子树的高度差的绝对值不超过1，并且左右两个子树都是一棵平衡二叉树。 C++实现：class Solution {public: ...

2018-07-24 09:50:53 139

原创 **《剑指offer》66：机器人运动范围（回溯法）

题目描述地上有一个m行和n列的方格。一个机器人从坐标0,0的格子开始移动，每一次只能向左，右，上，下四个方向移动一格，但是不能进入行坐标和列坐标的数位之和大于k的格子。例如，当k为18时，机器人能够进入方格（35,37），因为3+5+3+7 = 18。但是，它不能进入方格（35,38），因为3+5+3+8 = 19。请问该机器人能够达到多少个格子？C++实现：class Solut...

2018-07-23 21:05:00 443

NCVPixelOperations.hpp 下载

空空如也