【如何设置命令行or终端代理】没办法在命令行clone huggingface模型？

言辰寸心

已于 2024-08-21 16:37:27 修改

阅读量192

点赞数 8

文章标签：运维

于 2024-08-20 11:55:19 首次发布

本文链接：https://blog.csdn.net/qq_30317039/article/details/141352852

版权

参考博客：

windows终端命令行下使用网络代理

这边演示的是windows系统

找到端口信息

在这里插入图片描述
我这边显示的是走10809端口

打开cmd窗口，敲如下命令

set HTTP_PROXY=http://127.0.0.1:10809
set HTTPS_PROXY=http://127.0.0.1:10809

测试

curl -v www.google.com

命令运行前（超时）：↓
在这里插入图片描述

命令运行后：↓
在这里插入图片描述

关注博主即可阅读全文

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

言辰寸心

关注关注

8
点赞
踩
3

收藏

觉得还不错? 一键收藏
0
评论
【如何设置命令行or终端代理】没办法在命令行clone huggingface模型？

这边演示的是windows系统。
复制链接

扫一扫

LLM 大模型学习必知必会系列(十二)：VLLM性能飞跃部署实践：从推理加速到高效部署的全方位优化[更多内容：XInference/FastChat等框架]

丨汀、的博客

05-27

3091

LLM 大模型学习必知必会系列(十二)：VLLM性能飞跃部署实践：从推理加速到高效部署的全方位优化[更多内容：XInference/FastChat等框架]

Linux安装vLLM模型推理框架问题总汇

洛阳泰山的博客

03-15

1834

vLLM 是一个专为大规模语言模型（Large Language Models, LLM）推理优化的服务框架和推理引擎。它可以高效地管理和部署预先训练好的大型语言模型，尤其是那些具有极高参数数量和复杂度的模型，如GPT系列及其他基于Transformer架构的模型。：通过采用诸如PagedAttention这样的技术，vLLM能够有效地管理内存并提高注意力机制中Key和Value的处理效率，从而提升模型推理的速度和并发处理能力。

参与评论您还未登录，请先登录后发表或查看评论

【LLMs系列】90%chatgpt性能的小羊驼Vicuna模型学习与实战

little_spice的博客

06-16

2700

UC伯克利学者联手CMU、斯坦福等，再次推出一个全新模型70亿/130亿参数的Vicuna，俗称「小羊驼」（骆马）。小羊驼号称能达到GPT-4的90%性能本篇文章为博主自行学习vicuna推理部署实战教程，并记录相关坑点，话不多说，直接开干！

大模型实战营第二期——2. 浦语大模型趣味Demo

Castlehe的博客

02-08

837

大模型：参数规模大的模型，这个大的量级指的是：十亿甚至千亿以上的参数。

huggingface下载

weixin_44986037的博客

07-22

309

huggingface

LLMs之benchmark之lm-evaluation-harness：lm-evaluation-harness(语言模型评估工具)的简介、安装和使用方法、案例应用之详细攻略

近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…

06-19

2330

LLMs之benchmark之lm-evaluation-harness：lm-evaluation-harness(语言模型评估工具)的简介、安装和使用方法、案例应用之详细攻略目录 lm-evaluation-harness的简介 lm-evaluation-harness的安装和使用方法 lm-evaluation-harness的案例应用 lm-evaluation-harness的简介 2023年12月，lm-evaluation-harness项

LLM系列 | 02: Vicuna简介及模型部署实测

ljp1919的专栏

04-30

9295

Vicuna-13B是在LLaMa-13B的基础上使用监督数据微调得到的模型，数据集来自于ShareGPT.com产生的用户对话数据，共70K条。使用 GPT-4 作为判断的初步评估表明，Vicuna-13B 达到了 OpenAI ChatGPT 和 Google Bard 90% 以上的质量，同时在>90%的情况下优于 LLaMA 和 Stanford Alpaca 等其他模型。剧透下，后文实测效果，其实吧，还行吧。此外，将冗长的对话分成更小的部分，以适应模型的最大上下文长度。月黑见渔灯，孤光一点萤。

书生·浦语大模型实战营

sorrowyn的博客

05-11

1890

Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。它的整个框架图如下:流式输出：提供 stream_chat 接口作流式输出，本地就能演示酷炫的流式 Demo。接口统一，设计全面升级，提升拓展性，包括：Model : 不论是 OpenAI API, Transformers 还是推理加速框架 LMDeploy 一网打尽，模型切换可以游刃有余；

本地离线部署chatglm3-6b与Qanything系列模型小白教程

weixin_45712014的博客

02-02

3149

ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。

苹果大模型系列之从头开始在 Apple Silicon 上进行 ComfyUI(教程含完整步骤)

iCloudEnd的博客

07-18

733

如何在搭载 Apple Silicon 的 MacBook Pro 上安装 ComfyUI，并开始使用 Stable Diffusion 创作 AI 生成的艺术作品。无需开发技能。在安装了 Python 3.9 的 M1 MacBook Pro 和安装了 Python 3.10 的 M1 Max MacBook Pro 上进行了测试，均使用 macOS Sonoma 14.1.2。

安装Paddle-ChatDocuments大模型

2301_81887304的博客

01-02

1717

利用LangChain和ChatGLM-6B系列模型制作的Webui, 提供基于本地知识的大模型应用.

systemd-journald日志服务：systemd-journald-audit.socket

追寻梦想的青春

08-26

736

systemd-journald的作用是收集系统启动阶段的日志以及服务在启动和运行中的日志，因此，如果服务是用systemd管理的，打印到标准输出的信息就会作为日志被systemd-journal获取到。前面systemd-journald的配置可以看出，日志在保存时可以保存在内存，也可以保存在磁盘，保存在内存中的日志，当机器重启就没了，但是性能会比较好，保存在磁盘中的日志，重启还在，但是性能会差一些。为了提高日志存储的效率，日志保存的格式肯定会采用二进制的方式，因此，无法直接打开日志文件查看，需要使用。

Docker容器技术

LongHongYu908的博客

08-29

408

Docker之父Docker就好比传统的货运集装箱。

云动态摘要 2024-08-28

cloudcheap的博客

08-28

737

给您带来云厂商的最新动态，最新产品资讯和最新优惠更新。

虚拟机Linux(Centos7)系统静态IP设置

最新发布

BQ Blog

08-30

264

这篇博客介绍了在虚拟机中配置Linux系统的静态IP地址的方法，适用于通过DHCP获取IP地址导致频繁更换IP的情况。首先，用户需要将虚拟机的网络模式更改为NAT模式，并在虚拟机网络编辑器中记录子网IP、子网掩码和网关。然后，编辑相应的网络配置文件，将网络协议更改为静态，并手动设置静态IP地址、子网掩码、网关和DNS。最后，重启网络服务并验证配置是否生效。

Linux磁盘管理

张刚的博客

08-27

411

LVM创建，扩容磁盘，linux扩容系统盘，linux磁盘管理，linux新建分区，linux格式化分区

debian12 - systemctl 根据状态值判断服务启动成功的依据

谢绝留言与私信

08-26

616

和同学讨论问题，说到服务的运行状态。拿ssh服务为例。查询ssh服务状态他认为，只有 active(running)的状态，才说明服务被正常启动了。我认为，只要服务干活了，就说明服务被启动了。e.g. 已经监听了端口，那服务没退，进程还在，就说明服务已经启动了。

基于jenkins部署maven项目

静水深流

08-26

2833

如上所示，构建后，我们处于项目的根目录之下，可以进行后续的操作，如启动target目录下的jar包、将jar包传输到需要部署的服务器上、打docker镜像bing上传等等，需要根据实际情况进行选择，而这些都可以在“Add post-build step”选项中进行选择。我们主要关注上述几个部分，在General部分，可以对项目进行一个简单的描述，源码管理部分，需要配置对应的源码url，如下图所示。如上所示，选择“构建一个maven项目”，如果没有改选项，则需要安装maven构建的插件，请参考之前的文章。

huggingface-cli 命令行工具搜索模型

04-03

huggingface-cli是一个命令行工具，它提供了一种方便的方式来搜索、下载和管理Hugging Face模型。使用huggingface-cli，你可以通过简单的命令行操作来查找和获取各种预训练模型。以下是一些常用的huggingface-cli命令： 1. 搜索模型：使用`huggingface-cli search`命令可以搜索Hugging Face模型库中的模型。你可以通过关键字、模型名称、作者等进行搜索。 2. 下载模型：使用`huggingface-cli repo clone`命令可以下载指定的模型。你需要提供模型的名称或者模型在Hugging Face模型库中的路径。 3. 查看已下载的模型：使用`huggingface-cli ls`命令可以列出已经下载的模型。 4. 删除模型：使用`huggingface-cli repo delete`命令可以删除已下载的模型。你需要提供模型的名称或者模型在Hugging Face模型库中的路径。 5. 上传模型：使用`huggingface-cli repo create`命令可以将自己的模型上传到Hugging Face模型库中。