骗子利用ChatGPT在X上释放了一个加密货币僵尸网络
骗子利用ChatGPT释放加密货币僵尸网络
ChatGPT有可能彻底改变网络搜索，简化办公事务，并重塑教育，但这个善于辩才的聊天机器人也找到了在社交媒体加密货币推销方面的工作。
印第安纳大学布卢明顿分校的研究人员于今年5月发现了一个由ChatGPT驱动的僵尸网络，在社交网络X（以前被称为Twitter）上运行。
研究人员将这个僵尸网络称为Fox8，因为它与一些变体同名的加密货币网站有联系，该网络由1,140个账户组成。其中许多账户似乎使用ChatGPT来撰写社交媒体帖子并回复彼此的帖子。这些自动生成的内容显然旨在引诱毫无戒备的人点击链接进入炒作加密货币的网站。
研究AI驱动的虚假信息潜力的研究人员Micah Musser表示，考虑到大型语言模型和聊天机器人的普及程度，Fox8僵尸网络可能只是冰山一角。“这只是低成本的问题，”Musser说。“很有可能，对于每一个你发现的活动，还有许多其他正在进行更复杂的活动。”
Fox8僵尸网络可能规模庞大，但它对ChatGPT的使用显然并不复杂。研究人员通过在平台上搜索那些带有”作为一个AI语言模型…”这一特定短语的内容来发现这个僵尸网络，这是ChatGPT有时在敏感主题的提示上使用的回应。然后，他们手动分析账户，以识别那些看起来是由机器人操作的账户。
“之所以注意到这个特定的僵尸网络，只是因为它们太粗心了，”印第安纳大学布卢明顿分校的教授Filippo Menczer说道，他与即将加入东北大学担任博士后研究员的学生Kai-Cheng Yang一起进行了这项研究。
尽管如此，该僵尸网络发布了许多令人信服的促销加密货币网站的信息。OpenAI的人工智能被用于这种骗局，意味着先进的聊天机器人可能正在运行其他尚未被发现的僵尸网络。“任何相当不错的坏人都不会犯这种错误，”Menczer说。
在发布时，OpenAI尚未回应关于该僵尸网络的评论请求。其AI模型的使用政策禁止将其用于欺诈或虚假信息。
ChatGPT和其他尖端聊天机器人使用所谓的大型语言模型来生成对提示的文本响应。通过足够的训练数据（其中大部分是从网络上的各种来源获取的），足够的计算能力和来自人类测试者的反馈，像ChatGPT这样的机器人可以以出人意料的复杂方式回应各种输入。同时，它们也可能会发布令人讨厌的信息，表现出社会偏见，并虚构事实。
一个正确配置的基于ChatGPT的僵尸网络将很难被发现，更有能力欺骗用户，并更有效地操纵社交媒体上用于优先显示内容的算法。
“它欺骗了平台和用户，”Menczer谈到基于ChatGPT的僵尸网络说道。如果一个社交媒体算法发现一篇帖子有很多参与度，即使这些参与度来自其他机器人账户，它也会将该帖子显示给更多人。“这正是这些机器人表现出这种行为的原因，”Menczer说道。他还补充说，那些希望进行虚假信息战的政府很可能已经在开发或使用这些工具。
长期以来，研究人员一直担心ChatGPT背后的技术可能带来虚假信息的风险，甚至OpenAI因这些担忧推迟了该系统的前身的发布。但到目前为止，很少有具体的大型语言模型被滥用的例子。一些政治活动已经开始使用AI技术，知名政治家分享旨在诋毁对手的深度伪造视频。
加州大学圣塔芭芭拉分校的教授William Wang表示，能够研究ChatGPT真实的犯罪使用是令人兴奋的。“他们的发现非常棒，”他谈到Fox8的工作说道。
Wang认为，现在许多垃圾网页都是自动生成的，而且他说对于人类来说越来越难以发现这些材料。而且，随着人工智能的不断改进，情况只会变得更加困难。“情况非常糟糕，”他说。
今年5月，Wang的实验室开发了一种技术，可以自动区分ChatGPT生成的文本和真实人类编写的文本，但他说由于使用了OpenAI的API，所以部署这种技术非常昂贵，并且他指出，底层AI不断改进。“这是一种猫捉老鼠的问题，”Wang说。
X可能是这类工具的一个丰富的测试场。Menczer表示，自从埃隆·马斯克接管了当时被称为Twitter的社交媒体以来，恶意机器人似乎变得更加普遍，尽管这位科技巨头承诺要根除它们。由于API的使用价格大幅上涨，研究人员很难研究这个问题。
据称，Menczer和Yang在七月份发表论文后，有人在X公司显然摧毁了Fox8僵尸网络。Menczer的团队曾经在Twitter上向平台报告新发现，但他们现在不再与X公司合作。Menczer说：“他们对此并不真正积极回应。他们实际上没有足够的员工。”
