ChatWtihRTX安装情形 及 问题解决：mistral 7b failed

已于 2024-06-05 12:49:17 修改
阅读量300 收藏 1
点赞数 8
文章标签： 人工智能
于 2024-06-03 21:58:43 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/JTnnnnn/article/details/139425192
版权

Condition

2024 /06 /03
安装 Chat with RTX v0.2.1

在Check System Compatibility 处理过久，后来才知道10~20分钟是正常的，目前用其他電腦測試，大概不到十秒就能進去

遇到mistral 7b failed，以下说明，通常是早已安装miniconda才会遇到这类问题

Solution(不保證有效)

来源

Step 1

于安装包的RAG夹打开String.dat
在这里插入图片描述

编辑 <string name="MiniCondaPath" value="${{CommonAppData}}\Miniconda"/>·，把地址改到想要的位置
在这里插入图片描述

Step 2

找到安装包的RAG / trt-llm-rag-windows-main.zip
在这里插入图片描述
解压缩 并修改其中的app_launch.json資料
在这里插入图片描述
修改這兩處位置，改到與Step 1的位置相同
在这里插入图片描述
重新压缩档案
在这里插入图片描述

Step 3

以系统管理员执行安装包

也有可能是磁碟空間不足造成的，或可通過nvidia-smi確認cuda版本有沒有滿足 v535

JTnnnnn
关注
  • 8
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
KeyError: ‘mistral‘解决方案
weixin_43178406的博客
01-05 5万+
 本文主要介绍了KeyError: 'mistral’解决方案，希望能对使用mistral模型的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
Mistral 7B 比Llama 2更好的开源大模型 （一）
段智华的博客
11-13 1046
Mistral 7B 简介。
Chat with RTX 安装失败（仅供学习）
weixin_45498362的博客
02-16 1403
内存 32GB(2400 MHz / 2400 MHz / 2400 MHz / 2400 MHz)显卡2名称 NVIDIA GeForce RTX 3070 Laptop GPU。内核名称 NVIDIA GeForce RTX 3070 Laptop GPU。显卡 RayLink Visual Display Adapter ()声卡 英伟达 NVIDIA High Definition Audio。电脑型号 华硕 System Product Name。
Chat With RTX 安装、使用问题记录
Love丶伊卡洛斯
02-23 1405
修改参考 “F:\ChatWithRTX\RAG\trt-llm-rag-windows-main\ui\user_interface.py”重装了cuda、cudnn，配置了环境变量，还是报错，重装了chat With RTX，顺带把模型勾上装了次，居然不报错了，有点东西。webui正常启动了，但qwen无法使用，默认模型可以。科学上网，可以单独装Chat With RTX 先，模型之后手动装。参考：3.安装TensorRT-LLM。进行一个配置文件的修改。根据文档提示进行构建。
文献阅读：Mistral 7B
codename_cys的博客
03-10 963
文献阅读：Mistral 7B
LLMs之Mistral：Mistral 7B v0.2的简介、安装和使用方法、案例应用之详细攻略
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
03-27 2191
​ LLMs之Mistral：Mistral 7B v0.2的简介、安装和使用方法、案例应用之详细攻略 目录 Mistral 7B v0.2的简介 Mistral 7B v0.2的安装和使用方法 Mistral 7B v0.2的案例应用 Mistral 7B v0.2的简介 2024年3月24日，Mistral 7B v0.2 Base是用于训练Mistral-7B-Instruct-v0.2的原始预训练模型。 官网：Mistral 7B | Mistral AI | Front
开源模型Mistral 7B+Amazon SageMaker部署指南
白洞，白色的明天在等着我们
03-03 5695
Mistral AI 是一家总部位于法国的 AI 公司，其使命是将公开可用的模型提升至最先进的性能水平。他们专注于构建快速而安全的大型语言模型（LLM），此类模型可用于从聊天机器人到代码生成等各种任务。不久前其发布了一个开源模型Mistral 7B，支持英语文本生成任务并具备自然编码能力。它为实现低延迟进行过优化，并且相对其规模，该模型对内存的要求较低，可提供高吞吐量。该模型体积虽小，但功能强大，可支持从文本摘要和分类到文本完善和代码补全等多种使用案例。
[论文笔记]Mistral 7B
最新发布
日积月累，天道酬勤
06-04 1462
⭐ 作者提出了Mistral模型，相比LLaMA引入一些改动：滑动窗口注意力、滚动缓存以及预填充和分块。不管是基础模型还是指令微调模型效果都比较优秀。
Mistral AI 7B v0.1 模型
02-14
Mistral AI 公司的一个项目，提供了 Mistral AI 7B v0.1 模型的参考实现。这个模型具有广泛的应用，用于自然语言处理、文本生成等任务。该项目允许研究人员和开发者使用和改进 Mistral AI 7B v0.1 模型，并为其构建...
mistral-7b-openorca.Q4-0.zip - 4
11-13
使用方式与其他分卷压缩文件参见： https://blog.csdn.net/qq_32596527/article/details/134382867
mistral-7b-openorca.Q4-0.zip - 1
11-13
使用方式与其他分卷压缩文件参见： https://blog.csdn.net/qq_32596527/article/details/134382867
探索 Mistral 新发布的具有原生函数调用功能的 7B 模型【附notebook文件】
05-25
探索 Mistral 新发布的具有原生函数调用功能的 7B 模型【附notebook文件】
mistral-7b-openorca.Q4-0.zip - 3
11-13
使用方式与其他分卷压缩文件参见： https://blog.csdn.net/qq_32596527/article/details/134382867
Mistral 7B
whaosoft143ai的博客
09-25 238
结果显示 Mistral 7B 在所有指标上都显著优于 Llama 2 13B，并且与 Llama 34B 相当（由于 Llama 2 34B 尚未发布，因而只报告了 Llama 34B 的结果）。Mistral 7B 在所有评估中都大大优于 Llama 2 13B，除了在知识基准方面，它们处于同等水平。近日，一家法国人工智能初创公司 Mistral AI 发布了一款新模型 Mistral 7B，其在每个基准测试中，都优于 Llama 2 13B，并且在代码、数学和推理方面也优于 LLaMA 1 34B。
mistral-7b-openorca.Q4-0.zip - 2
11-13
使用方式与其他分卷压缩文件参见： https://blog.csdn.net/qq_32596527/article/details/134382867
mistral-sublime:一个用于 mistral 的 sublime 文本插件
06-19
要安装 Mistral pacakge，首先需要安装 Sublime Text。 去下面的链接下载， 。 这是一款出色的文本编辑应用程序，同样支持 Linux、Mac 和 Windows。 ###Install 方法 1 - Will Bond 的包控制（推荐） Will Bond ...
mistral 安装部署
12-14
下面我将简要介绍Mistral的安装部署过程。 首先，我们需要准备以下基本要素： 1. 操作系统：Mistral可以运行在Linux和Windows操作系统上，但推荐使用Linux系统，如Ubuntu。 2. Python环境：Mistral是基于Python开发...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值