- 博客(319)
- 收藏
- 关注
RSS订阅原创 Docker 环境下的 Nginx 负载均衡（vllm）
在 Ubuntu 上使用 Docker 实现负载均衡，最稳妥且高效的方案是使用 Nginx。Nginx 的 upstream 模块专门用于分发流量，并且内置了基础的健康检查机制（当某个后端端口不可用时，它会自动重试其他端口并暂时剔除不可用节点）。在linux上实现负载均衡，我在其他服务器上四个vllm的端口，端口分别时8001/v1,8002/v1,8003/v1,8004/v1，需要配置一个监听，使用9000端口，对四个端口进行转发，同时某些端口有时可能不能访问。在 vllm-lb 目录下执行。
2026-01-14 11:34:01
309
原创 Linux 新用户创建及初始化工作
设置用户username为管理员查看组查看有sudo权限的用户挂载nas示例删除用户删除用户以及它在系统上的文件。
2026-01-05 14:21:01
157
原创 verl参数调整加速
指定优势估计器为 GRPO。与 PPO 不同，GRPO 通过一组输出的平均奖励来计算优势，不需要额外的 Critic 模型（Value Function）在计算奖励值时，不直接将 KL 散度（KL Divergence）作为惩罚项合并到奖励分数中。
2026-01-02 23:04:14
645
原创 Huggingface镜像网站下载语言模型方法
通常通过镜像网站下载。在链接页面有介绍方法，对于不大的模型可以直接下载。这里介绍比较常用且方便的下载方法。
2024-02-20 18:26:41
7020
原创 en_core_web 依赖安装方法
下载后通过如下命令安装（注意切换到对应版本的环境）中找到对应需要的.whl或者.tar.gz。python中的使用示例。在spacy发布网站。
2024-01-30 15:37:19
601
原创 pytorch矩阵乘法
torch.matmul是PyTorch中执行一般矩阵乘法的函数，它接受两个矩阵作为输入，并返回它们的乘积。它适用于任何两个矩阵，无论是密集矩阵还是稀疏矩阵。
2023-11-25 12:44:42
1240
1
原创 TENER: Adapting Transformer Encoder for Named Entity Recognition 笔记
我们要做什么：双向长短期记忆网络（BiLSTM）已被广泛用作命名实体识别（NER）任务的编码器。最近，全连接的自注意力架构（又名 Transformer）由于其并行性和在远程上下文建模方面的优势而被广泛应用于各种自然语言处理（NLP）任务。然而，NER 中的寻常的 Transformer 的性能不如其他 NLP 任务。在本文中，我们提出了 TENER，一种采用自适应 Transformer 编码器对字符级特征和字级特征进行建模的 NER 架构。
2023-03-25 22:18:17
1545
1
原创 Pytorch torch.add() torch.add_() 用法
Pytorch torch.add() torch.add_() 用法
2022-07-26 15:32:26
14931
转载 VM虚拟机 CentOS 磁盘扩容
一、环境虚拟机软件：VMware 16 Pro系统版本：Linux localhost.localdomain 3.10.0-1160.el7.x86_64二、扩容步骤1、VM上修改磁盘信息将虚拟机关机，然后点击VM顶部菜单栏中的显示或隐藏控制台视图按钮来显示已建立的虚拟机的配置信息然后左边菜单栏点击硬盘，在弹出的对话框选中硬盘，并点击扩展按钮，然后在弹出框中的最大磁盘大小修改未所需要的磁盘大小，比如我现在需要扩容30G，原本的磁盘大小是20G，所以我这里将原本的20G修改成50G，然后点击扩
2022-05-16 18:58:53
2380
2
原创 python中的相对导入和绝对导入的常见问题和解决方案
绝对导入直接从当前模块进行导入包# 下面是导入的自己写的类from spatial_func import distance, SPointfrom mbr import MBRfrom map_matching.candidate_point import CandidatePointfrom spatial_func import cal_loc_along_line相对导入主要是使用.或…等进行目录的锁定from .spatial_func import distance, SPo
2022-04-10 18:33:12
1123
原创 Windows Linux Python 安装第三方库 whl方法（外加Pytorch安装）
注：在pip和wheel已经安装并更新的情况下！在指令控制台中，如cmd或Pycharm的terminal等情况。未更新pip输入：python -m pip install --upgrade pip未安装wheel输入：pip install wheel在网站https://www.lfd.uci.edu/~gohlke/pythonlibs/中寻找对应的库，如本次我要安装的是osgeo库，其中我的py版本是3.6，因此需要中cp36，并且amd64对应64位操作系统进行下载。下载后的文件放
2022-03-31 16:06:01
5769
原创 javax.validation 验证工具类（Java 工具类）
ValidationUtil对javax.valiadation的一些注解进行验证的工具类。使用方法public class User extends BaseEntity { /** * 昵称 */ @NotBlank(message = "用户名不能为空") private String username; /** * 密码 */ @NotBlank(message = "密码不能为空") private S
2022-01-18 19:51:06
1087
原创 Escape（二分图多重匹配）
Problem2012 If this is the end of the world how to do? I do not know how. But now scientists have found that some stars, who can live, but some people do not fit to live some of the planet. Now scientists want your help, is to determine what all of people
2021-03-02 09:30:34
301
原创 EOJ Monthly 2021.2 Sponsored by TuSimple A. 昔我往矣（最近公共祖先）
A. 昔我往矣在背诵《诗经》的时候，小 G 回忆起了一棵树。树上有 5 个人，他们站在互不相同的节点上。小 G 想去拜访他们，她会从某个人所在的节点出发，沿树上最短路径走向下一个人，以此类推，直到拜访完这 5 个人。树上的所有边还未被翻新，翻新一条边需要一定的代价（边是双向的），而小 G 只愿意走被翻新过的边。她想知道，为了使得无论顺序如何都可以拜访完 5 个人，最小需要的翻新代价之和是多少。输入格式第一行，一个正整数 n，表示节点个数。接下来 n-1 行，每行 3 个整数 u，v，w，表示 u
2021-02-07 19:52:24
259
原创 HDU 2167 Pebbles（状态压缩）
PebblesYou’re given an unlimited number of pebbles to distribute across an N x N game board (N drawn from [3, 15]), where each square on the board contains some positive point value between 10 and 99, inclusive. A 6 x 6 board might look like this:The pla
2021-02-05 20:58:36
221
转载 51nod 1616 最小集合（数论）
1616 最小集合A君有一个集合。这个集合有个神奇的性质。若X,Y属于该集合，那么X与Y的最大公因数也属于该集合。但是他忘了这个集合中原先有哪些数字。不过幸运的是，他记起了其中n个数字。当然，或许会因为过度紧张，他记起来的数字可能会重复。他想还原原先的集合。他知道这是不可能的……现在他想知道的是，原先这个集合中至少存在多少数。样例解释：该集合中一定存在的是{1,2,3,4,6}输入第一行一个数n(1<=n<=100000)。第二行n个数，ai(1<=ai<
2021-01-25 11:33:03
248
1
原创 博弈论
尼姆博弈题型尼姆博弈模型：有3堆各若干个物品，两个人轮流从某一堆取任意多的物品，规定每次至少取1个，多者不限，最后取光者得胜。分析首先自己想一下，就会发现只要最后剩两堆物品一样多(不为零)，第三堆为零，那面对这种局势的一方就必败。那我们用(a,b,c)表示某种局势，首先(0,0,0)显然是必败态，无论谁面对(0,0,0) ，都必然失败；第二种必败态是(0,n,n)，自己在某一堆拿走k（k ≤ n）个物品，不论k为多少，对方只要在另一堆拿走k个物品，最后自己都将面临(0,0,0)的局势，必败。仔细分
2021-01-22 13:14:12
1262
原创 51nod 2840 ATM（tarjan，缩点，dfs）
2840 ATMSiruseri 城中的道路都是单向的。不同的道路由路口连接。按照法律的规定， 在每个路口都设立了一个 Siruseri 银行的 ATM 取款机。令人奇怪的是，Siruseri 的酒吧也都设在路口，虽然并不是每个路口都设有酒吧。Banditji 计划实施 Siruseri 有史以来最惊天动地的 ATM 抢劫。他将从市中心 出发，沿着单向道路行驶，抢劫所有他途径的 ATM 机，最终他将在一个酒吧庆 祝他的胜利。使用高超的黑客技术，他获知了每个 ATM 机中可以掠取的现金数额。他希 望你帮助他
2021-01-01 22:40:41
200
原创 51nod 2664 字母表（DAG）
2664 字母表给你n个按照特殊字典序排好序的单词，你来设计一种字典序，使得按照你的这种字典序来排序这n个单词，得到的结果与给出的单词序列相同。如果做不到，请输出Impossible。例如6个单词：aaacabbaca不存在任何字典序，可以满足按照该方法排序，能够得到上面的顺序。我们默认空字符是字典序小的，所以a < aa。输入第一行：1个数n(1 ≤ n ≤ 100)。后面n行：每行一个单词，只包括a-z这26个小写字符，单词长度L<= 100。输出输出共26个字母，对
2020-12-28 19:33:00
420
原创 P5905 【模板】Johnson 全源最短路
P5905 【模板】Johnson 全源最短路题目链接代码实现#include <bits/stdc++.h>using namespace std;const int N = 5005;const int M = 60006;const int INF = 1e9;struct edge { long long v, w, next;} e[M];struct node { int id; long long w; const bool
2020-12-28 17:46:32
119
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人