英伟达RTX与Chat：AI聊天机器人的有趣实用工具
Nvidia推出了一款名为Chat with RTX的新工具，可以使用户离线运行一个GenAI模型，并使用自己的数据进行定制
Nvidia已经推出了一个名为ENBLE的新工具，可以让您在PC上运行GenAI模型。
Nvidia总是热衷于激励人们购买最新的GPU，并带来了另一个令人兴奋的选择。这家科技巨头发布了一个名为Chat with RTX的工具，允许拥有GeForce RTX 30系列和40系列显卡的用户在Windows PC上离线运行基于AI的聊天机器人。🎉
使用Chat with RTX进行个性化和简化
Chat with RTX的美妙之处在于它允许用户自定义一个GenAI模型，类似于OpenAI的ChatGPT，并将其与文件、文档和笔记连接起来。通过这样做，聊天机器人可以在收到用户查询后轻松提供答案和信息。不再需要搜寻大量笔记或翻找旧保存的内容了！
例如，想象一下，您在回忆您去拉斯维加斯旅行时，您的伴侣推荐的餐厅名称。与其费尽心思搜索无尽的文件，您只需在Chat with RTX中输入您的问题：“我在拉斯维加斯时伴侣推荐的餐厅是哪家？”智能的聊天机器人将扫描您指定的本地文件，并为您提供答案和相关背景。多么方便！😮
Chat with RTX提供多种选择
Chat with RTX预装了AI初创公司Mistral的开源模型。但它也支持其他基于文本的模型，包括Meta的Llama 2。您可以自由选择并尝试不同的模型，找到最适合您需求的模型。
不过请注意，下载所有必要的文件可能会消耗相当多的存储空间。根据您选择的模型或模型，您可能需要50GB至100GB的可用存储空间。因此，请确保您的电脑有足够的空间来容纳它们。📁💻
多才多艺的聊天机器人
Chat with RTX目前可以处理各种文件格式，如文本、PDF、.doc、.docx和.xml。通过指定包含这些支持文件的文件夹，您可以将它们加载到模型的微调数据集中。此外，如果您提供YouTube播放列表的URL，聊天机器人甚至会加载播放列表中视频的文字记录。这个功能允许您使用所选模型来查询视频的内容。多么多功能！📚📽️📑
限制和改进空间
Nvidia希望为Chat with RTX用户树立现实的期望。该应用有一些限制需要记住。首先，聊天机器人无法记住上下文。这意味着当回答后续查询时，它不会考虑任何之前的问题。例如，如果您问“北美常见的鸟是什么？”然后继续问“它的颜色是什么？”Chat with RTX将无法将两个问题联系起来，并理解您指的是鸟类。这在其他方面是一个小小的挫折，但整体而言，它是一个不可思议的工具。🤷♂️
Nvidia还承认，聊天机器人的回答的相关性可能会受到多种因素的影响，包括问题的措辞、所选模型的性能和微调数据集的大小。询问特定文档中的信息通常会得到比要求对这些文档的总结更好的结果。此外，使用更大的数据集通常会提高响应质量。因此，如果您希望Chat with RTX提供准确和详细的答案，请确保您拥有有关相关主题的强大数据集。📊📈📖
值得一提的是，Chat with RTX更多是一个有趣且有用的玩具，而不是用于生产的工具。然而，此类工具促进了一种趋势，即使AI模型在本地更易于访问和使用。世界经济论坛预测，能够离线运行GenAI模型的价格实惠的设备将会“显著增加”。这些设备包括个人电脑、智能手机、物联网（IoT）设备和网络设备。相比云托管模型，这些离线模型具有明显的优势。它们更具隐私性，因为它们处理的数据永远不会离开运行它们的设备。而且与云托管模型相比，它们具备更低的延迟和成本效益。🌍💪💻
AI模型的未来：平衡利益和风险
当然，让运行和训练模型的工具民主化也引发了对潜在滥用的担忧。通过快速谷歌搜索，你会发现很多模型在网络的不正当角落上已经进行了毒性内容的精调。然而，拥护者们认为像Chat with RTX这样的应用的好处超过了风险。就像任何技术进步一样，关键是找到正确的平衡。只有时间会告诉我们这个趋势如何发展和采取哪些措施来减轻潜在风险。👀⚖️
总的来说，Chat with RTX是Nvidia工具系列中令人兴奋的新加入。它将AI聊天机器人的能力带到你的指尖，可以进行定制和使用方便。尽管它可能有一些限制，但它是朝着使AI更加可访问和离线可用的正确方向迈出的一步。所以，无论你是技术爱好者还是只是寻找一个方便的工具的人，Chat with RTX绝对值得一试！💬💡
问答
问：Chat with RTX可以记住上下文吗？
答：很遗憾，这个应用不会记住上下文。这意味着它不会在回答后续查询时考虑任何先前的问题。每个问题都被独立处理。
问：Chat with RTX支持哪些文件类型？
答：Chat with RTX目前支持文本、PDF、.doc、.docx和.xml文件格式。因此，你可以轻松地将这些类型的文件加载到聊天机器人的微调数据集中，并查询它们以获取信息。
问：所选择模型的性能会影响聊天机器人回答的相关性吗？
答：是的，所选择模型的性能对聊天机器人回答的相关性起到一定作用。然而，其他因素，如问题的措辞和微调数据集的大小，也会影响Chat with RTX提供的答案的准确性和实用性。
问：我需要多少存储空间才能安装Chat with RTX？
答：Chat with RTX所需的存储空间取决于你选择的模型。它可以介于50GB到100GB之间。请确保你的电脑上有足够的空闲空间来容纳必要的文件。
展望未来
随着像Chat with RTX这样的工具的出现，离线运行的AI模型的未来看起来充满希望。世界经济论坛预测，能够处理离线GenAI模型的价格实惠设备将显著增加。这种转变带来了许多优势，从增强的隐私到更低的延迟和成本效益。随着技术的不断发展，我们很可能会在各种设备和行业中看到更多离线AI模型及其应用的进展。令人兴奋的时代即将来临！🚀🌌
参考： – 研究人员解锁了ChatGPT – Kusari建设供应链安全平台（顶级开源） – Llama 2
