不仅仅是网民对ChatGPT和其他生成式人工智能（Generative AI）解决方案感到非常兴奋，黑客们也对最新的创新感兴趣。随着越来越多的人使用这些模型来生成信息和构建 IT 解决方案，黑客已将注意力转向了新的机会。
暗网（黑客买卖所有被盗 IT 数据和敏感个人数据的非法市场）目前充斥着 3000 个帖子，这一事实反映了生成式人工智能正受到黑客的关注。“威胁行为者正在探索各种计划，从创建聊天机器人的邪恶替代品到越狱原始聊天机器人等。卡巴斯基网络安全专家表示，被盗的 ChatGPT 账户和大量自动创建的服务也充斥着暗网渠道，又达到了 3000 个帖子。
卡巴斯基的网络安全专家说：“所有这 3000 个帖子都在讨论将 ChatGPT 用于非法目的或谈论依赖人工智能技术的工具。”卡巴斯基数字足迹情报中心（Digital Footprint Intelligence）表示：“尽管聊天在 3 月份达到了顶峰，但讨论仍在继续。”
“威胁行为者正在积极探索实施 ChatGPT 和人工智能的各种方案。经常讨论的主题包括恶意软件的开发和其他类型的非法使用语言模型，例如处理窃取的用户数据、解析受感染设备的文件等等。”它说。
共享越狱信息
卡巴斯基数字足迹分析师 Alisa Kulishenko 表示，威胁行为者倾向于通过各种暗网渠道（可以解锁附加功能的特殊提示集）分享越狱信息，并设计出利用合法工具进行恶意目的的方法。
除了聊天机器人和人工智能之外，XXXGPT、FraudGPT 等项目也受到了相当多的关注。这些语言模型作为 ChatGPT 的替代品在暗网上销售，拥有额外的功能并且没有原始限制。
出售ChatGPT帐户
用户和公司面临的另一威胁是 ChatGPT 付费版本的帐户市场。
2023 年，在暗网和影子 Telegram 频道中又发现了 3000 个出售 ChatGPT 帐户的广告帖子（除了前面提到的帖子之外）。这些帖子要么散布被盗帐户，要么推广自动注册服务，根据请求大量创建帐户。值得注意的是，某些帖子在多个暗网渠道上反复发布。“Kulishenko说：”虽然人工智能工具本身并不危险，但网络犯罪分子正试图想出使用语言模型的有效方法，从而助长了降低网络犯罪入门门槛的趋势，在某些情况下，还可能增加网络攻击的数量。