聊天机器人模仿语音风格的能力使其在网络钓鱼中很有效。(表征)
荷兰海牙:总部位于海牙的欧洲刑警组织表示:“犯罪分子可能利用这类人工智能系统，前景堪忧。”
欧洲刑警组织新成立的“创新实验室”从整体上研究了聊天机器人的使用，但在一系列研讨会中重点关注ChatGPT，因为它是最引人注目、使用最广泛的。
该机构发现，犯罪分子可以利用ChatGPT在他们一无所知的领域“显著加快研究进程”。
它说，这可能包括起草实施欺诈的文本，或提供关于“如何闯入家庭、恐怖主义、网络犯罪和儿童性虐待”的信息。
该公司表示，该聊天机器人模仿语音风格的能力使其对网络钓鱼特别有效，在网络钓鱼中，用户会被诱惑点击虚假的电子邮件链接，然后试图窃取他们的数据。
ChatGPT能够快速生成听起来真实的文本，这使得它“非常适合用于宣传和虚假信息的目的，因为它允许用户用相对较少的努力生成和传播反映特定叙述的消息。”
ChatGPT还可以用于编写计算机代码，特别是对于没有技术头脑的罪犯。欧洲刑警组织说。
该公司表示:“这种类型的自动代码生成对于那些对编码和开发知之甚少或一无所知的犯罪分子特别有用。”
欧洲刑警组织称，美以网络威胁情报公司Check Point Research (CPR)的一项早期研究显示，聊天机器人可以通过创建钓鱼邮件来渗透在线系统。
欧洲刑警组织表示，虽然ChatGPT有包括内容审核在内的保障措施，它不会回答被归类为有害或有偏见的问题，但这些都可以通过巧妙的提示来规避。
该公司补充称，人工智能仍处于早期阶段，其能力“预计将随着时间的推移进一步提高”。
欧洲刑警组织表示:“提高对这一问题的认识至关重要，以确保尽快发现并弥补任何潜在的漏洞。”