商业世界

早在2月份的时候，NVIDIA就推出了基于LLM的聊天机器人Chat with RTX，而在5月份的时候，这个聊天机器人更新了，添加了新的模型和新的功能，包装包也从35G缩小为11G，并且软件正式改名为了ChatRTX。

在上一篇关于Chat with RTX的文章与视频中，我们提到Chat with RTX并没有自带的中文答复，想要实现中文回答，就需要动手进行自行安装环境、大语言模型等，但这一步对用户来说有着比较高的门槛，得经过许多繁杂得步骤，才能实现中文问答。

在介绍前，我们先简单说下ChatRTX是什么，ChatRTX使用RAG技术，经由NVIDIA TensorRT-LLM 和NVIDIARTX 加速，为RTXWindows PC 和工作站带来聊天机器人功能。所以使用ChatRTX的前提条件是，你得拥有一张RTX 30、RTX 40系显卡，并且达到8GB显存及以上。

ChatRTX的特色主要是运行于本地，与上传至云端的各家AI聊天机器人不同，本地运算在数据保存方面更加的安全，并且得益于NVIDIA TensorRT-LLM的加持，在处理上也更为迅速，避免输入问题结果加载半天才憋出一句答案的情况出现。