[技术杂谈]Chat With RTX 介绍

英伟达（Nvidia）已于近日发布了名为“Chat with RTX”的Demo版个性化AI聊天机器人，并在其海外官网渠道中提供了下载链接。

　　据了解，这是一款适用于Windows平台的聊天机器人，由TensorRT-LLM提供支持，完全在本地运行。据官网信息显示，想要安装该聊天机器人应用，用户的系统配置需使用Nvidia的30系/40系显卡（或Ampere/Ada架构的其他显卡），且显存至少为8GB。此外，用户PC的也需为16GB及以上的运行内存、Win 11系统、535.11或更高版本的显卡驱动。

　　据了解，Chat with RTX支持多种文件格式，包括文本、pdf、doc/docx和xml。只需将应用程序指向包含文件的文件夹，该聊天机器人就会在几秒钟内将其加载到库中。此外，用户还可以提供YouTube播放列表的URL链接，该应用程序将加载播放列表中视频的转录，使用户能够查询它们涵盖的内容。

　　有观点指出，从官方描述来看，用户可以通过不同的查询，与使用ChatGPT相同的方式使用Chat With RTX，但生成的结果将完全基于特定数据集，似乎更适用于生成摘要、快速搜索文档等操作。

Chat With RTX 安装系统需求

Chat With RTX 下载安装

下载地址：

Build a Custom LLM with Chat With RTX | NVIDIA