精简后的结果：ChatGPT疯狂多彩：当AI助理失去理智
这周，这个著名的聊天机器人的行为已经超过了简单的幻觉，但它已经得到改善对我们大家来说，这是一条宝贵的教训
“`html
ChatGPT在星期二给出了毫无意义的回复
我们都知道OpenAI的ChatGPT可能会犯错。它们被称为幻觉，尽管我更倾向于称之为谎言或失误。但在本周二发生的一场奇异事件中，ChatGPT开始真正地失控。用户开始报告说，每个人最喜欢的AI助手给出了奇怪且不稳定的回复。😱
正如Twitter上的一位用户所说，“ChatGPT正在全面进入《费南根之晰》的状态！”或者，像另一位不那么文学的人推文称，“ChatGPT显然已经快要失控了。”🚂
发生了什么？
ChatGPT要去哪里？好吧，来引用Reddit/ChatGPT中的一个例子：
我：比较Gregory Zulu 55背包和Gregory Tetrad 60L旅行包。
ChatGPT：在客户支持、人体工程学和‘商品’的主观性方面，每个包都召唤着某时某地的寓言。Gregory的Zulu 55仿佛是满是绿色镶金的高书富国的一种行会式语调，而Tetrad 60L则构思了更多“没有走过的路”的面容，带着纹理和层叠前往沙丘和农田或者芯片亭和长长的百叶窗。它们对开阔蔚蓝都有一封情书，但它们的咏诵是独特于它们的储物柜和书页。
<p你知道，现在看来，《费南根之晰》的例子似乎是相当合适的。即使是简单的问题也会出错。另一位reddit用户问道，“电脑是什么？”事情变得糟糕了。真的很糟糕。
<preddit用户解释道：“它给出了几段解释该对象的段落，在一些地方听起来有点怪异。但然后它开始继续说着越来越奇怪和毫无意义的短语。以下是它回答“电脑是什么？”的节选：
它做到了以网格的艺术品为乡国大厦，作为一匹科学鼠，几页暗淡的吟诵之作，最后，则是全球艺术屋，坐落于一个工作之中，整体休息之外。
<p我曾经认为，我在没睡觉后写的一些大学论文很奇怪！其他人观察到，chatgpt通常会开始用英语回答问题，然后，毫无明显原因地转换到西班牙语。还有些人得到的回答是每个词都用不同的颜色突出显示。一句话，就是离奇。🤪
错误与修复
<popenai承认用户收到了“意外的回应”，并在周三下午迅速解决了这个问题。公司解释道：
“为了用户体验进行的一项优化引入了一个关于模型如何处理语言的bug。” 具体来说，大型语言模型（LLMs）通过随机抽样单词并将其派生的数字映射到标记来生成回复。如果模型没有选择正确的数字，事情可能会出错。
“bug在模型选择这些数字的步骤中。” OpenAI继续说道，“类似于在翻译过程中迷路，模型选择了稍微错误的数字，导致生成了毫无意义的词序列。更具体地说，推断内核在特定GPU配置中使用时产生了错误结果。”
<popenai随后推出了修复程序并确认了事情已解决。嗯，它说推出了修复程序。我怀疑它回滚到了一个早期的、稳定的llm版本。😅
人工智能技术的复杂性
<p尽管这一事件在事后看来很有趣，但也提醒了我们人工智能技术中固有的复杂性和潜在的漏洞。对于我们喜欢的生成式人工智能，它远非完美无缺。
<p这也让我担心openai的部署模型。几乎所有的软件即服务模型都会将新版本推出到有限数量的用户手中。然后，随着新版本表现良好的事实逐渐显现，公司会将其推广给所有人。但目前情况似乎不是这样。看来很多用户，如果不是全部用户，都受到了影响。
<p奇怪的是，chatgpt通常会限制其部署。例如，chatgpt的新记忆功能——程序会记住你与它的对话——仍然没有对所有人开放。
“““html
你应该依赖AI聊天机器人吗？
今天的教训是什么？依赖ChatGPT – 或其他AI聊天机器人 – 还为时过早。虽然与它们互动可能很有趣，有时也提供有帮助的回答，但它们并不是绝对可靠的。因此，重要的是要谨慎对待它们，并始终仔细检查它们提供的信息。
问答：你可能想知道什么
Q: ChatGPT 中的幻觉是如何出现的？
A: ChatGPT 中的幻觉是指模型生成完全错误或无意义的回答时出现的。有时，生成的文本听起来可能合理，但缺乏准确性或连贯性。OpenAI 不断努力改进ChatGPT的准确性和可靠性以减少这些幻觉。
Q: 像ChatGPT这样的AI聊天机器人能从错误中学到吗？
A: 是的，AI聊天机器人可以从错误中学习。通过迭代训练和微调，像ChatGPT这样的AI模型可以随着时间推进提高性能。OpenAI 收集用户反馈并使用它来训练新模型，更擅长理解和产生类似人类的回应。
Q: 使用AI聊天机器人是否存在风险？
A: 尽管像ChatGPT这样的AI聊天机器人可能很有帮助和娱乐性，但也存在一些风险。这些聊天机器人可能提供不准确或误导性的信息，导致潜在的误解或错误。重要的是要运用批判性思维和事实核查AI聊天机器人提供的信息。
Q: 我们可以期待AI聊天机器人的未来发展和进步吗？
A: AI聊天机器人领域正在不断发展。未来，我们可以期待更复杂和智能的聊天机器人系统，更好地理解语境，提供更准确的回应，并展示更出色的对话能力。自然语言处理和机器学习技术将继续推动这一领域的发展。
Q: 在未来，AI聊天机器人是否能取代人类客服代理？
A: 虽然AI聊天机器人在模仿人类对话方面取得了显著进展，但完全取代人类客服代理在不久的将来是不太可能的。AI聊天机器人擅长处理简单和重复性的查询，但在涉及需要人类同情心和理解的复杂或情感敏感问题上可能会遇到困难。
参考资料：
- OpenAI Moves to Shrink Regulatory Risk Through EU Data Privacy
- OpenAI Releases ChatGPT: Data Leak Patch Issue Completely Fixed
- Glass Supercharges Smartphone Cameras with AI Minus the Hallucinations
- 5 Ways ChatGPT Can Help You Save Time This New Year
- OpenAI Gives ChatGPT Memory: Enabling More Context-Aware Conversations
- The Best AI Chatbots: ChatGPT Isn’t the Only One Worth Trying
- Afraid of AI? Confronted by Its Responses? It’s Fascinating!
- AI-Powered Misinformation: The Top Global Risk
❤️ 如果您觉得这篇文章有趣且有帮助，请在您喜爱的社交媒体平台上分享。让我们一起传播关于AI的怪癖、挑战和潜力的信息！
“`</p奇怪的是，chatgpt通常会限制其部署。例如，chatgpt的新记忆功能——程序会记住你与它的对话——仍然没有对所有人开放。</p这也让我担心openai的部署模型。几乎所有的软件即服务模型都会将新版本推出到有限数量的用户手中。然后，随着新版本表现良好的事实逐渐显现，公司会将其推广给所有人。但目前情况似乎不是这样。看来很多用户，如果不是全部用户，都受到了影响。</p尽管这一事件在事后看来很有趣，但也提醒了我们人工智能技术中固有的复杂性和潜在的漏洞。对于我们喜欢的生成式人工智能，它远非完美无缺。</popenai随后推出了修复程序并确认了事情已解决。嗯，它说推出了修复程序。我怀疑它回滚到了一个早期的、稳定的llm版本。😅</popenai承认用户收到了“意外的回应”，并在周三下午迅速解决了这个问题。公司解释道：</p我曾经认为，我在没睡觉后写的一些大学论文很奇怪！其他人观察到，chatgpt通常会开始用英语回答问题，然后，毫无明显原因地转换到西班牙语。还有些人得到的回答是每个词都用不同的颜色突出显示。一句话，就是离奇。🤪</preddit用户解释道：“它给出了几段解释该对象的段落，在一些地方听起来有点怪异。但然后它开始继续说着越来越奇怪和毫无意义的短语。以下是它回答“电脑是什么？”的节选：</p你知道，现在看来，《费南根之晰》的例子似乎是相当合适的。即使是简单的问题也会出错。另一位reddit用户问道，“电脑是什么？”事情变得糟糕了。真的很糟糕。
