本地个性化聊天机器人CHAT WITH RTX

英伟达推出了自家版本的ChatGPT

Chat with RTX是一个技术演示,现已免费>>>下载<<<,可让用户使用自己的内容个性化聊天机器人,并由本地NVIDIA GeForce RTX 30 系列 GPU或更高版本(具有至少 8GB 视频随机存取存储器或 VRAM)加速



系统要求
平台        视窗
图形处理器        NVIDIA GeForce™ RTX 30 或 40 系列 GPU 或 NVIDIA RTX™ Ampere 或 Ada Generation GPU,具有至少 8GB VRAM
内存        16GB 或更大
操作系统        视窗11
司机        535.11 或更高版本
 

本地个性化聊天机器人CHAT WITH RTX_第1张图片



下载解压文件:
 

本地个性化聊天机器人CHAT WITH RTX_第2张图片



运行setup.exe
 

本地个性化聊天机器人CHAT WITH RTX_第3张图片



默认选择主程序chat with RTX 和 mistral 7B INT4,点击下一步,需要科学上网
 

本地个性化聊天机器人CHAT WITH RTX_第4张图片



安装完成
 

本地个性化聊天机器人CHAT WITH RTX_第5张图片



启动
 

本地个性化聊天机器人CHAT WITH RTX_第6张图片



启动成功
 

本地个性化聊天机器人CHAT WITH RTX_第7张图片



会自动打开网页
http://127.0.0.1:28781/?__theme=dark

 

本地个性化聊天机器人CHAT WITH RTX_第8张图片



不愧是英伟达的产品,显卡的性能发挥得比较充分,8G显存用了6G多,CPU的内存的负担不重。
 

本地个性化聊天机器人CHAT WITH RTX_第9张图片



后面将对他进行更详细的测试,关注我

你可能感兴趣的:(神经网络,人工智能,神经网络,gpt)