[技术杂谈]Chat With RTX 介绍

英伟达(Nvidia)已于近日发布了名为“Chat with RTX”的Demo版个性化AI聊天机器人,并在其海外官网渠道中提供了下载链接。

  据了解,这是一款适用于Windows平台的聊天机器人,由TensorRT-LLM提供支持,完全在本地运行。据官网信息显示,想要安装该聊天机器人应用,用户的系统配置需使用Nvidia的30系/40系显卡(或Ampere/Ada架构的其他显卡),且显存至少为8GB。此外,用户PC的也需为16GB及以上的运行内存、Win 11系统、535.11或更高版本的显卡驱动。

  据了解,Chat with RTX支持多种文件格式,包括文本、pdf、doc/docx和xml。只需将应用程序指向包含文件的文件夹,该聊天机器人就会在几秒钟内将其加载到库中。此外,用户还可以提供YouTube播放列表的URL链接,该应用程序将加载播放列表中视频的转录,使用户能够查询它们涵盖的内容。

  有观点指出,从官方描述来看,用户可以通过不同的查询,与使用ChatGPT相同的方式使用Chat With RTX,但生成的结果将完全基于特定数据集,似乎更适用于生成摘要、快速搜索文档等操作。

Chat With RTX 安装系统需求

[技术杂谈]Chat With RTX 介绍_第1张图片

Chat With RTX 下载安装

下载地址:

Build a Custom LLM with Chat With RTX | NVIDIA

 

你可能感兴趣的:(技术杂谈,人工智能)