自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(145)
  • 资源 (4)
  • 收藏
  • 关注

原创 第二十二篇-ZincSearch-安装部署

替换ElasticSearchGoLang资源占用少,可ES的API相关连接。

2024-03-29 10:55:49 285

原创 第二十一篇-LM-Studio安装部署gguf模型到windows电脑

一般CPU,1B 7B 模型,int4量化还是可以用用的,更大模型推荐GPU。

2024-02-28 19:53:46 1288

原创 第二十篇-推荐-纯CPU(E5-2680)推理-llama.cpp-qwen1_5-72b-chat-q4_k_m.gguf

CPU利用2600%左右,42G内存,如果更强的CPU估计还是能到4倍速度吧速度还是可以的,0.6 tokens/s 这个速度还是很慢的,测试一下还是可以的,毕竟是70B的模型呀,继续研究中。

2024-02-27 21:46:02 640

原创 第十九篇-推荐-纯CPU(E5-2680)推理-Nous-Hermes-2-Mixtral-8x7B-DPO.Q4_K_M

CPU利用2000% 24线程可再大些速度还是可以的,4 tokens/s 继续研究中,这个CPU还是可以的,要是换成AMD高级CPU估计效果更好,主要是不用GPU。

2024-02-23 21:48:15 267

原创 第十八篇-推荐-Huggingface-镜像-2023-11

https://aifasthub.com/modelsAI快站可下载你希望快速的模型权重文件

2023-11-21 17:24:24 565

原创 第十七篇-Awesome ChatGPT Prompts-备份-中文(百度翻译)

Awesome ChatGPT Prompts——一个致力于提供挖掘ChatGPT能力的Prompt收集网站https://prompts.chat/Awesome ChatGPT Prompts【英文】Awesome ChatGPT Prompts【中文-百度翻译】

2023-11-20 16:56:26 3070

原创 第十六篇-Awesome ChatGPT Prompts-备份

Awesome ChatGPT Prompts——一个致力于提供挖掘ChatGPT能力的Prompt收集网站。2023-11-16内容如下。

2023-11-16 09:26:47 1021

原创 第十五篇-推荐-Huggingface-镜像-2023-10

我们强烈推荐使用 huggingface 官方提供的 huggingface-cli 命令行工具进行模型文件的下载。默认使用多文件并行下载,速度更快。(如需更极致的下载速度,可对文件链接用其他多线程下载工具下载,默认不推荐)域名 hf-mirror.com,用于镜像 huggingface.co 域名。支持排除特定文件或指定特定文件下载,便于用户自定义下载内容。支持指定镜像 endpoint,可直接使用本站镜像服务。支持断点续传,避免因网络中断而导致的文件损坏。推荐一个Huggingface-镜像网站。

2023-10-25 21:18:09 6937 2

原创 第十四篇-问题处理-libcudart.so.11.0: cannot open shared object file: No such file or directory

【代码】问题处理-libcudart.so.11.0: cannot open shared object file: No such file or directory

2023-10-18 22:40:36 2271

原创 第十三篇-Tesla P40+ModelScope+Gradio+QWen-14B-Int4

【代码】第十三篇-Tesla P40+ModelScope+Gradio+QWen-14B-Int4。

2023-09-28 23:36:25 771 2

原创 第十二篇-Tesla P40+ModelScope+Gradio+QWen+MindChat

本文主要实现Qwen-7B-Chat与MindChat-Qwen-7B的简单部署与测试

2023-08-30 00:09:46 543

原创 第十一篇-Tesla P40+Text-Generation-Webui

简单好用(当然速度不是最快的),支持多种方式加载模型,transformers, llama.cpp, ExLlama, AutoGPTQ, GPTQ-for-LLaMa, ctransformers支持多类模型, Llama-2-chat, Alpaca, Vicuna, WizardLM, StableLM等图形化界面聊天,微调。

2023-08-22 22:49:32 1317 1

原创 第十篇-Tesla P40+FastChat+Vicuna-13B-V1.5

我下载模型放在/models/vicuna-13b-v1.5,可以自己定义目录。2.Tesla P40性能还是不行,一个你好要回答15秒。1.内存消耗,8bit需要14G显存。一个一个下载,26文件下载比较耗时。3.后期准备找个性能更好的显卡试试。登录加载完成就可以体验了。

2023-08-09 14:21:06 519

原创 第九篇-自我意识数据准备

格式化自我意识数据用于ChatGLM微调。

2023-08-02 22:02:13 566

原创 第八篇-Tesla P40+ChatGLM2+LoRA

Tesla P40+ChatGLM2+LoRA+CentOS7

2023-08-02 21:45:50 1664

原创 第七篇-Tesla P40+ChatGLM2+P-Tuning

data/train.json【自我意识-训练数据train.json】我使用和train.json一致,正式使用是要使用真实数据。train_loss 要小,如果1,2这种未调出的效果很差。可以替换【AI小木】【小吕】来构建你自己的自我认识数据集。我的是/models/chatglm2-6b。如果调整了数据集,要清理缓存,缓存目录如下。显卡:Tesla P40 24G。下载模型相关文件到自己目录。系统:CentOS-7。修改 train.sh。

2023-08-01 23:16:26 1044

原创 第六篇-ChatGLM2-6B-CentOS7安装部署-GPU版

第六篇-ChatGLM2-6B-CentOS安装部署-GPU版

2023-07-29 22:18:18 1198

原创 第五篇-ChatGLM2-6B|ChatGLM3-6B模型下载

下载chatglm2-6b|chatglm3-6b模型文件方法一:huggingface页面直接点击下载方法二:snapshot_download下载文件创建下载环境编写代码执行下方法三:清华云盘方法四:异型岛社区版

2023-07-29 17:59:34 7353

原创 第四篇-Miniconda3-CentOS7-安装

Miniconda3-CentOS7-安装Conda可以创建你需要的不同版本的Python环境,做的各个环境之间隔离,可以有助于我们一台主机部署不同版本运行环境。

2023-07-29 17:19:58 621

原创 第三篇-Tesla P40+CentOS7+CUDA 11.7 部署实践

Tesla P40+CentOS-7+CUDA 11.7 部署实践

2023-07-27 21:21:20 3666 1

原创 第二篇-二手工作站配置-AI-LLM

硬件配置

2023-07-27 21:05:57 477

原创 tf-keras-版本问题解决

【代码】tf-keras-问题解决版本。

2023-06-09 21:50:48 106

原创 Kubekey安装Kubernetes-1.24.8

快速安装Kubekey安装Kubernetes-1.24.8

2023-05-07 22:09:11 625 1

原创 第一篇-ChatGLM-Webui-Windows安装部署-CPU版

CPU:内存:64G,运行试了下,最少要24G内存,不然电脑卡死显卡:没有使用CPU版,没使用显卡。

2023-04-20 00:28:11 2228

原创 kmeans on spark error: assertion failed: Number of clusters must be greater than one.

【代码】kmeans on spark error: assertion failed: Number of clusters must be greater than one.

2023-04-12 23:54:29 176

原创 Spark-Scala应用遇到DataFrame中Filter异常-Cannot resolve overloaded method ‘filter‘

Spark-Scala应用遇到DataFrame中Filter异常

2023-04-07 22:08:42 236

原创 《标签类目体系-面向业务的数据资产设计方法论》 读书随记

对客观事件进行记录并可以鉴别的符号,是对客观事物的性质,状态及相关关系等进行记载的物理符号或这些物理符号的组合数据可交易,可回报,可将数据作为一种资本运营基础原理 --> 道

2023-03-27 22:22:56 907

原创 max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]

#修改文件 sudo vim /etc/sysctl.conf #添加参数 vm.max_map_count = 262144

2023-03-25 21:58:14 409

原创 异常内容 /lib64/libc.so.6: version `GLIBC_2.18‘ not found

谨慎升级GLIBC,GLIBC为linux底层类库。

2023-03-22 23:35:02 170

原创 configure: error: no acceptable C compiler found in $PATH

异常内容解决方法进行安装gcc -v检查是否安装成功。

2023-03-22 23:33:52 46

原创 安装databend

安装databend

2023-03-22 23:07:24 270

原创 Kettle-表输入-表输出

各创建相同结构表,一张表中有数据。

2023-03-15 22:13:36 1595

原创 Kettle-安装

mysql-connector-java-8.0.29.jar复制的pdi-ce-9.3.0.0-428\lib。解压到pdi-ce-9.3.0.0-428。

2023-03-15 21:32:28 127

原创 Kettle Spoon集成资源库

双击spoon.bat,若是之前本地有建资源库,先登录本地的资源库,选择Repository Manager 资源库管理。选择[Database Repository]选择[Other Repositories]>> 用户名:admin 密码:admin。>> 连接数据库,如数据库为创建先创建。>> 配置数据相关信息选择[确认]选择[GetStarted]选择[GetStarted]填写Display Name。>> 右上角connect。>> 选择[Back]>> 选择[New]

2023-03-15 19:39:38 64

原创 Kettle异常-Invalid byte 1 of 1-byte UTF-8 sequence.

【代码】Kettle异常

2023-03-15 19:28:49 128

原创 java-去掉字符中,换行符,等

去掉换行符

2023-01-13 14:57:21 1944

原创 SpringBoot-集成Nacos

spring-boos nacos

2022-09-18 17:50:10 315

原创 (二) mysql-8迁移目录

迁移mysql目录

2022-09-07 23:56:12 345

原创 (三) mysql-8.x File ‘./binlog.~rec~‘ not found (OS errno 13 - Permission denied)

异常处理,mysql Permission denied

2022-09-07 23:52:31 762

原创 (一) centos-7安装mysql-8

安装mysql-8.x 修改密码 远程访问

2022-09-07 23:05:54 320

自我意识-训练数据train.json

自我意识-训练数据train.json

2023-08-01

标签类目体系-面向业务的数据资产设计方法论-员工-标签设计列表

员工-标签设计列表

2023-03-27

标签类目体系-面向业务的数据资产设计方法论-用户-标签设计列表

用户-标签设计列表

2023-03-27

标签类目体系-面向业务的数据资产设计方法论-企业通用-标签设计列表

企业通用-标签设计列表

2023-03-27

标签类目体系-面向业务的数据资产设计方法论-企业通用-标签设计列表

企业通用-标签设计列表

2023-03-27

automa-chrome-v1.27.2.zip 网页端自动化扩展工具-Automa

网页端自动化扩展工具-Automa

2023-03-23

深度学习搜索引擎开发-Java实现-源代码.zip

深度学习搜索引擎开发-Java实现-源代码.zip

2021-07-20

xmlpull_1_0_5

xmlpull_1_0_5_al,

2014-11-03

spring-security3.2

spring-security-3.2.0.M1-dist.zip

2014-01-06

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除