新的RTX GPU AI聊天机器人好吗？在ENBLE的这篇文章中找出答案
英伟达正在利用RTX GPU的功能涉足创建自己的AI聊天机器人 - 这是一个有前景但可能仍需改进的努力
@图片
现在是与您的显卡交谈的时候了！ Nvidia推出了一个令人兴奋的新功能，叫做Chat with RTX（与RTX聊天），这是一个本地AI聊天机器人，利用您的Nvidia GPU的强大力量来运行一个AI模型。终于，您的PC可以展示那些专用的AI硬件肌肉了！但这对您来说到底意味着什么呢？让我们深入探讨一下这项新技术的内幕。
与Chat with RTX见面
首先，让人想到的问题是，Chat with RTX与ChatGPT等其他AI聊天机器人有何不同。Chat with RTX是一个本地大型语言模型（LLM），它使用TensorRT-LLM兼容模型，例如Mistral和Llama 2，直接在您的PC上运行。它不依赖于基于云的计算，实际的处理发生在您可靠的显卡上。但是等等，还有更多！为了加入Chat with RTX的派对，您将需要一款配备至少8GB VRAM的Nvidia RTX 30系列或40系列GPU。所以，现在是时候检查一下您的PC是否能应付这个热点了。
Chat with RTX的一个突出特点是它能够与您自己的数据一起工作。您可以编译一个包含特定文档的文件夹，并将其指向Chat with RTX，AI模型将根据您独特的内容提供更详细和具体的答案。和那些通用回复说再见，迎接量身定制的信息吧！就好像拥有自己的个人AI助手，但没有高昂的服务器费用。
图片：Jacob Roach / ENBLE
- 《航海王×堡垒之夜》跨界合作：动漫与游戏的完美融合！
- Windows 11 引入了基于人工智能的超分辨率技术：前所未有的升频体验！
- 以折扣价$480购买搭载RTX 4070和32GB内存的Dell XPS台式电脑不要错过！#...
但它真的有效吗？简短的答案是肯定的！已经测试过Chat with RTX的用户报告了令人印象深刻的结果。有些用户加载了关于Nvidia的DLSS 3，AMD的FSR 2和Intel的XeSS的研究论文，并就它们的区别提出了特定问题。令他们惊讶的是，Chat with RTX能够基于实际研究论文提取并呈现详细的回答。它甚至能够将复杂的学术术语解释成易于理解的信息。这简直就是一个虚拟天才！
但是，这也有一个陷阱。Chat with RTX也有一些缺点。正如之前提到的，您需要一台具备兼容的Nvidia GPU和足够的VRAM的强大PC。此外，应用程序本身需要约100GB的可用磁盘空间，所以请确保您有足够的空间。这总是在功率和磁盘空间之间权衡的问题！
幻觉
没有任何AI工具是完美的，Chat with RTX也不例外。偶尔会出现故障和错误的回答，导致一些古怪的情况。例如，该模型可能会将Counter-Strike 2错误地与DLSS 3关联起来，导致错误的信息。这是由于Chat with RTX所依赖的小型数据集中的偏见。这提醒我们，即使是精密的AI模型也可能偶尔出错。
图片：Jacob Roach / ENBLE
另一个奇怪之处是，Chat with RTX有时会回答不应该回答的问题。大多数AI聊天机器人会承认在这种情况下缺乏信息，但是Chat with RTX却意外地试图提供答案。例如，当被问及如何使用默认数据系带鞋带时，它实际上给出了逐步说明。目前尚不清楚Chat with RTX从何处获取这些额外的信息，但它为对话增添了有趣的推测性环节。
YouTube事件
Chat with RTX的一个突出特点是它能够读取和分析YouTube视频的文字稿。然而，这个功能也会带来一些挑战。即使开始一个新会话，Chat with RTX可能仍会记住先前链接的视频，这可能导致混淆。Nvidia承认了这个问题，并建议用户手动删除转录稿，如果他们想要重新开始。
图片：Jacob Roach / ENBLE
“`html
在一个案例中，一位用户链接了YouTube频道“家里的指挥官”（Commander at Home）的一个魔术：聚会视频，然后切换到一次与Nvidia的首席执行官Jensen Huang的采访。尽管重建了数据库并开始了新的会话，但与RTX的聊天机器人仍然坚持回答有关“家里的指挥官”视频的问题，完全忽略了新的视频链接。这是一个很好的提醒，AI模型有时会保存不应该保存的信息。记得关注那些YouTube的转录内容！
你发现有用之处
那么，Chat with RTX对你的AI工具库是一个有价值的补充吗？这个工具的使用价值在很大程度上取决于你的具体需求。像ChatGPT这样的基于云的聊天机器人提供了更广泛的信息范围，使其在许多场景下都非常理想。然而，如果你有大量文件或一系列YouTube视频需要分析，Chat with RTX则通过让你利用本地PC的能力而脱颖而出。只是确保接纳它的怪癖和局限性，就像接纳任何一个很棒的AI伙伴一样。
图片：Jacob Roach / ENBLE
最终，Chat with RTX作为本地AI模型潜力的演示。Nvidia希望开发者受到这项技术的启发，并探索开发自己的本地AI应用。所以，当你思考Chat with RTX的有用性时，要关注AI的未来以及它如何改变你的PC体验。
还记得，力量掌握在你的手中！开始使用你的Nvidia GPU聊天，给AI对话开个头吧！
💡 问答
问：要使用Chat with RTX是否需要满足特定要求？
答：是的，要使用Chat with RTX，你需要一部Nvidia RTX 30系列或40系列的GPU，至少8GB的VRAM。所以，在开始AI聊天世界之前，请确保你的PC满足这些规格！
“`
