还用在线GPT？本地离线的来了！NVIDIA英伟达推出Chat with RTX AI聊天机器人

什么是 Chat with RTX?

这是 NVIDIA英伟达推出的一款令人兴奋的新应用程序，它允许您在 PC 上运行自己的 AI 聊天机器人。
它在本地运行，并且可以离线工作，使您的聊天保持私密且快速。

Chat with RTX 是一个 Demo，用来将您自己的资料（文档、笔记、视频或其他数据）与大语言模型建立连接，从而令 LLM 更具个性化。利用检索增强生成 (RAG)、TensorRT-LLM 和 RTX 加速，您可以与自定义聊天机器人对话，快速灵活地获得聊天机器人根据您的内容给出的见解。此外，由于 Chat with RTX 完全在 Windows RTX PC 或工作站本地以安全的方式运行，因此您可以更快获得更满意的结果。

您可以选择整个文件夹作为数据集并询问有关它的问题。支持的格式为 TXT、PDF、DOC格式
允许选择AI模型您可以从 Ilama 或 Mistral 选择您自己的 AI 模型。Mistral 7B 是一个受欢迎的选择。
允许选择数据集，支持使用 3 种类型的数据集。

• 文件夹路径
• 视频URL
• 默认AI模型

对比ChatGPT 等应用程序，Chat with RTX更加重视隐私，这是完美的解决方案。RTX 聊天可以在本地进行，无需联网。