豆子

原创 由于很多博客从博客园搬家过来，格式有点问题(https://www.cnblogs.com/douzujun/)

由于很多博客从博客园搬家过来，格式有点问题(这个格式好点：https://www.cnblogs.com/douzujun/)

原创 openai的api使用教程

import openaiimport timeimport osfrom multiprocessing import Pool, cpu_countfrom tqdm import tqdmopenai.api_key = "123123"PROMPT = """请从文章中抽取出所有的航空航天领域科学技术术语，以列表形式给出。\n输出格式：\n1. xxx \n2. ...

原创 prompt learning如何计算损失的

在prompt learning中,对于一个类别的多个候选词,损失函数通常会计算所有词的logit和,并与真实标签作比较。以情感分类为例:假设正面类别有两个候选词:“positive”和“optimistic”。负面类别有两个候选词:“negative”和“pessimistic”。然后模型会计算四个词的logit:logit_positive, logit_optimistic, log...

原创 zeRO-Offload代码实践

https://mp.weixin.qq.com/s/VOgNPEcDhmhMuDdy_HL0BAfrom deepspeed.ops.zero_offload import FP16ZeROOffloadEngine# Initialize the ZeRO-Offload enginezero_offload_engine = FP16ZeROOffloadEngine()# W...

原创 pairwise损失_triplet损失_提升精排模型的trick

01标签import torchimport torch.nn as nn# 输入x是一个二维张量，每一行表示一个样本的分数，每一列表示一个特征或维度x = torch.tensor([[0.5, 0.7], [0.9, 0.8], [0.6, 0.4], [0.3, 0.6], [0.8, 0.7], [0.4, 0.5]])# 标签y是一个一维张量，表示样本之间的顺序关系(-1...

原创 笔记_提升性能的损失_有用_pytorch

Focal lossclass Focal_loss(nn.Module): def __init__(self, alpha=0.25, gamma=2, num_classes = 3, size_average=True): """ focal_loss损失函数, -α(1-yi)**γ *ce_loss(xi,yi) 步骤详细的实...

原创 借助chatgpt学习对比学习中的疑惑

使用pytorch得到对比学习的正负样本，要求是NLP方向，正样本通过dropout(0.1)得到，负样本使用batch内其他样本。同时，帮我用pytorch实现他们的对比学习损失，用simcse的损失以下是使用 PyTorch 得到对比学习的正负样本，并使用 SIMCSE 损失进行训练的示例代码，假设我们的任务是将一批文本表示为向量，同时使得同一类别的文本向量更加接近，不同类别的文本向量...

原创 C++STL六大部件

六大部件

原创 Pytorch在训练时冻结某些层使其不参与反向传播

笔记摘抄：https://blog.csdn.net/qq_36429555/article/details/118547133定义网络# 定义一个简单的网络class net(nn.Module): def __init__(self, num_class=10): super(net, self).__init__() self.fc1 = nn...

原创 委托+继承_c++

原创 c++可执行文件产生过程

https://blog.csdn.net/qq_34799070/article/details/125472381#ifndef TEST#define TEST#include <iostream>using namespace std;void test(){ cout << "hello word" << endl;}...

原创 指针数组和指向数组的指针_常量指针和指向常量的指针

int *const p：常量指针，指向不能变，可以解引用修改值；const int *p: 指向常量的指针，指向能变，不可以解引用修改修改值，但是可以通过修改指向的变量，进行改变。int* p1[5]: 指针数组，数组包含5个元素，每个元素都是int类型的指针int (*p2)[5]: 数组指针，即，指向数组的指针，该指针指向一个包含5个int类型数据的数组。...

原创 淮安美食整理

整理自：https://www.zhihu.com/question/21445949红烧狮子头：狮子头大家应该都知道，是用鸡汤烧的。鲜嫩多汁，而且全是肉！软兜长鱼：是鳝鱼。嫩嫩的，滑滑的。配菜就是酸瓣。一点都不腥、不腻(一定要是好的店)平桥豆腐：烩豆腐，烧好不容易，豆腐的刀工，火候，调味很重要。提醒一下，吃的时候小心烫。红烧马鞍桥：还是长鱼，和红烧肉一起烧。开洋蒲...

原创 【集成学习】boosting和bagging

视频链接思想Boosting和BaggingBoostingAdaboost算法流程(分类误差率小的时候，\(\alpha_{m}\)：权重就更大)(\(Z{m-1}\)相当于一个归一化过程，规范化因子)例子Adaboost推导加法模型类比，Adaboost就是一个加法模型：梯度下降的缺点前向分布算法Baggi...

原创 labelme标准数据并抠图

import jsonimport numpy as npfrom labelme import utilsimport cv2import os def create_file(file): if not os.path.exists(file): os.mkdir(file) def cv_show(name,img): cv2.ims...

原创 面试题_数学相关

470. 用 Rand7() 实现 Rand10()给定方法 rand7 可生成 [1,7] 范围内的均匀随机整数，试写一个方法 rand10 生成 [1,10] 范围内的均匀随机整数。你只能调用 rand7() 且不能调用其他方法。请不要使用系统的 Math.random() 方法。每个测试用例将有一个内部参数 n，即你实现的函数 rand10() 在测试时将被调用的次数。请注意，这不是...

原创 python优先队列heapq

https://blog.csdn.net/weixin_39702559/article/details/110971925#coding:gbkimport heapq # 使用heapq实现优先队列#定义一个可比较对象class CompareAble: def __init__(self,priority,jobname): self.priority...

原创 面试题_滑动窗口

3. 无重复字符的最长子串给定一个字符串 s ，请你找出其中不含有重复字符的 最长子串 的长度。示例 1:输入: s = "abcabcbb"输出: 3解释: 因为无重复字符的最长子串是 "abc"，所以其长度为 3。示例 2:输入: s = "bbbbb"输出: 1解释: 因为无重复字符的最长子串是 "b"，所以其长度为 1。示例 3:输入: s = "pwwkew"输...

原创 c++使用用空格拼接字符串_accumulate用法

std::accumulate(std::begin(x), std::end(x), string(), [](string &ss, string &s){return ss.empty() ? s : ss + " " + s;})ss是初始值 string()，相当于上一个值s为当前遍历的元素https://blog.csdn.net/qq_39686486/a...

原创 vscode配置c++

在.vscode里创建三个文件 c_cpp_properties.json, launch.json, settings.json, tasks.jsonc_cpp_properties.json{ "configurations": [ { "name": "GCC", "includePath": ["${workspaceFolder...

原创 面试_动态规划

01背包剑指 Offer II 101. 分割等和子集给定一个非空的正整数数组 nums ，请判断能否将这些数字分成元素和相等的两部分。示例 1：输入：nums = [1,5,11,5]输出：true解释：nums 可以分割成 [1, 5, 5] 和 [11] 。示例 2：输入：nums = [1,2,3,5]输出：false解释：nums 不可以分为和相等的两部分提示：...

原创 面试_第K问题

215. 数组中的第K个最大元素给定整数数组 nums 和整数 k，请返回数组中第 k 个最大的元素。请注意，你需要找的是数组排序后的第 k 个最大的元素，而不是第 k 个不同的元素。示例 1:输入: [3,2,1,5,6,4] 和 k = 2输出: 5示例 2:输入: [3,2,3,1,2,4,5,5,6] 和 k = 4输出: 4提示：1 <= k <= nu...

原创 生成1~n之间随机整数_c++

rand() % (high - low + 1) + low;

原创 面试_链表类

剑指 Offer 24. 反转链表定义一个函数，输入一个链表的头节点，反转该链表并输出反转后链表的头节点。示例:输入: 1->2->3->4->5->NULL输出: 5->4->3->2->1->NULL限制：0 <= 节点个数 <= 5000/** * Definition for singly-linke...

原创 面试_⼦数组类问题

剑指 Offer 42. 连续子数组的最大和输入一个整型数组，数组中的一个或连续多个整数组成一个子数组。求所有子数组的和的最大值。要求时间复杂度为O(n)。示例1:输入: nums = [-2,1,-3,4,-1,2,1,-5,4]输出: 6解释: 连续子数组 [4,-1,2,1] 的和最大，为 6。提示：1 <= arr.length <= 10^5-100 &lt...

原创 面试题_DFS

200. 岛屿数量给你一个由 '1'(陆地)和 '0'(水)组成的的二维网格，请你计算网格中岛屿的数量。岛屿总是被水包围，并且每座岛屿只能由水平方向和/或竖直方向上相邻的陆地连接形成。此外，你可以假设该网格的四条边均被水包围。示例 1：输入：grid = [["1","1","1","1","0"],["1","1","0","1","0"],["1","1","0","0","0...

原创 面试题专题_目录

动态规划有序数组的二分法解法回溯法

原创 面试题_回溯法

46. 全排列给定一个不含重复数字的数组 nums ，返回其 所有可能的全排列 。你可以 按任意顺序 返回答案。示例 1：输入：nums = [1,2,3]输出：[[1,2,3],[1,3,2],[2,1,3],[2,3,1],[3,1,2],[3,2,1]]示例 2：输入：nums = [0,1]输出：[[0,1],[1,0]]示例 3：输入：nums = [1]输出：[[...

原创 面试题_有序数组的二分法解法

剑指 Offer 53 - I. 在排序数组中查找数字 I统计一个数字在排序数组中出现的次数。示例 1:输入: nums = [5,7,7,8,8,10], target = 8输出: 2示例 2:输入: nums = [5,7,7,8,8,10], target = 6输出: 0提示：0 <= nums.length <= 105-109 <= nums[...

原创 c++容器set

class Solution {public: vector<int> intersection(vector<int>& nums1, vector<int>& nums2) { // vector<int> ans; // int nlen1 = nums1.size(), nlen2 ...

原创 c++自定义排序_lambda表达式

class Solution { void quickSort(vector<string>& strs, int l, int r) { if (l >= r) return; int i = l, j = r; while (i < j) { while(s...

原创 python的sort自定义排序

剑指 Offer 45. 把数组排成最小的数输入一个非负整数数组，把数组里所有数字拼接起来排成一个数，打印能拼接出的所有数字中最小的一个。示例 1:输入: [10,2]输出: "102"示例 2:输入: [3,30,34,5,9]输出: "3033459"提示:0 < nums.length <= 100class Solution: def minNum...

原创 awk实现去重输出

alias myuniq="awk 'BEGIN{a[\"\"]=1}{if(!(\$0 in a)){print \$0;a[\$0]=1}}'"awk 'BEGIN{a[""]=1}{if(!($0 in a)){print $0;a[$0]=1}}'

原创 linux常用命令整理

Linux常用命令cdcd A.文件夹，进入A文件夹cd ..，进入上个文件夹lsls -all，显示当前文件夹文件和目录cat常用于打印文件cat xxx.文件，显示文件内容常与awk, sort, 等文件处理命令使用，如：cat xxxx.py| awk 'NR==100{print}'，打印文件第100行数据headhead -n 10 xx...

原创 NLP面试整理

机器学习深度学习pythonc++

原创 正则表达式断言

https://www.runoob.com/w3cnote/reg-lookahead-lookbehind.html取前面不是数字，后面不是数字，中间是四位数的query = "12356/2022安徽光伏政策2222"re.findall('(?<!\d)\d{4}(?!\d)', query)...

原创 GPU多卡并行训练

https://www.i4k.xyz/article/Sophia_11/119950262

原创 psi计算

基础概念：https://zhuanlan.zhihu.com/p/344754828import sysimport pandas as pdimport numpy as npimport math# all_list = []# df = pd.DataFrame(columns = ['date', 'data'])# counter = 0# for line in...

原创 pandas随机创建数据

import numpy as npdate = ['20210912', '20210922', '20211009', '20211102']new_date = []for i in range(100): new_date.extend(date)new_data = []for i in range(400): new_data.append(np.rand...

原创 搜索算法框架

https://mp.weixin.qq.com/s/97tl37JTZTsID7qPcdjIpg