其聪明才智令世界惊叹的人工智能聊天机器人正在成为黑客的猎物，不仅仅是精通编码的黑客，甚至技术水平不高的人也可以利用该平台进行恶意攻击。
ChatGPT是由Open AI创建的基于人工智能的聊天机器人工具，它以其类似人类的查询响应能力风靡全球，正成为网络犯罪分子的牺牲品。推出两个月后，黑客开始使用该平台生成恶意内容来欺骗人们。
在暗网中，一个黑客智囊团一直忙于发布如何使用ChatGPT构建恶意工具，并重新创建恶意软件以窃取数据。
据Check Point Research（CPR）称，另一位黑客展示了如何使用该平台在暗网上创建市场脚本来交易非法商品。
“最近，我一直在玩ChatGPT。而且，我根据对常见恶意软件的一些报道和分析，重新创建了许多恶意软件变种和技术。”一位黑客在一个话题中说道。
根据CPR的说法，不仅是精通编码的黑客，甚至技术水平较低的人也可以利用该平台进行恶意活动。
隐私和数字基础设施透明度活动家Srinivas Kodali表示，这是一种很自然的社会现象。“技术总是可以用于好事和坏事。政府有责任提高认识、教育公众并监管和密切关注不良行为者，”他说。
ChatGPT似乎意识到了这一挑战。当用户在平台上就恶意使用的范围提出问题时，它回应说，有些人可能试图“使用我或其他语言模型来生成垃圾邮件或网络钓鱼信息”。
“作为一种语言模型，我没有采取行动或与现实世界互动的能力，所以我不能被用于恶意的目的。我只是一个工具，旨在根据我收到的输入生成文本。”它说。
开发该平台的OpenAI警告说，ChatGPT有时会对有害的指令作出反应，或表现出有偏见的行为，尽管它已经努力使该模型拒绝不适当的请求。
“正如ChatGPT可以用于协助开发人员编写代码一样，它也可以用于恶意目的。尽管我们在这份报告中分析的工具非常基础，但在更复杂的威胁行为者加强他们使用基于人工智能的工具的方式之前，这只是一个时间问题。”Check Point威胁情报组经理Sergey Shykevich说。