ChatGPT可能会带来革命性的变革，简化流程，但这个能说会道的聊天机器人也在社交媒体上找到了一份加密货币推销员的工作。
印第安纳大学布卢明顿分校的研究人员在今年5月发现了一个由x(以前称为twitter的社交网络)操作驱动的僵尸网络。
该僵尸网络由1140个账户组成，研究人员将其命名为Fox8，因为它与加密货币网站有一些相同名称的变化。他们中的许多人似乎都在使用ChatGPT来撰写社交媒体帖子，并回复彼此的帖子。这些自动生成的内容显然是为了引诱毫无防备的人点击链接进入加密货币炒作网站。
研究人工智能驱动的虚假信息的研究人员Micah Musser表示，考虑到大型语言模型和聊天机器人的流行程度，Fox8僵尸网络可能只是冰山一角。“这是唾手可得的果实，”Musser说。“非常非常有可能，在你发现的每一个竞选活动背后，都有许多其他人在做更复杂的事情。”
Fox8僵尸网络可能已经蔓延开来，但它对ChatGPT的使用显然并不复杂。研究人员通过在平台上搜索“作为一种人工智能语言模型……”这一泄露信息的短语，发现了这个僵尸网络。ChatGPT有时会在敏感话题的提示中使用这一回应。然后，他们手动分析账户，以识别那些似乎是由机器人操作的账户。
印第安纳大学布卢明顿分校的一位教授说:“我们注意到这个特殊的僵尸网络的唯一原因是他们很草率。”他和杨凯成一起进行了这项研究，杨凯成将在即将到来的学年加入东北大学作为博士后研究员。
尽管如此，僵尸网络还是发布了许多令人信服的信息来推广加密货币网站。OpenAI显然很容易被利用来进行诈骗，这意味着高级聊天机器人可能正在运行其他尚未被检测到的僵尸网络。“任何非常好的坏人都不会犯这样的错误，”门泽说。
截至发稿时，OpenAI尚未回应就僵尸网络发表评论的请求。该公司禁止将其人工智能模型用于诈骗或虚假信息。
ChatGPT和其他尖端的聊天机器人使用所谓的大型语言模型来生成文本以响应提示。有了足够的训练数据(其中大部分来自网络上的各种来源)、足够的计算机能力和人类测试人员的反馈，像ChatGPT这样的机器人可以以令人惊讶的复杂方式对各种输入做出反应。与此同时，他们也会脱口而出充满仇恨的信息。
一个正确配置的基于chatgpt的僵尸网络将很难被发现，更有能力欺骗用户，并且更有效地利用用于在社交媒体上优先考虑内容的算法。
“它欺骗了平台和用户，”门泽尔在谈到这个由chatgpt驱动的僵尸网络时说。而且，如果一个社交媒体算法发现一个帖子有很多参与，即使这个参与来自其他机器人账户，它也会把这个帖子展示给更多的人。“这就是为什么这些机器人会有这样的行为方式，”门泽尔说。他补充说，希望发动虚假信息运动的政府很可能已经在开发或部署这类工具。