性犯罪者在网上合作使用开源人工智能生成儿童性虐待材料的趋势日益严重，一个互联网监督机构对此敲响了警钟。
互联网观察基金会（IWF）的首席技术官丹·塞克斯顿（Dan Sexton）在上周的一份报告中告诉《卫报》：“在罪犯空间，尤其是暗网论坛中，有一个技术社区正在讨论这项技术。” “他们正在分享图像，他们正在分享[AI]模型。他们正在分享指南和技巧。”
塞克斯顿的组织发现，犯罪分子越来越多地利用开源人工智能模型来制作非法的儿童性虐待材料（CSAM）并在网上传播。报告称，与OpenAI的Dall-E或谷歌的Imagen等封闭式AI模型不同，开源AI技术可以由用户下载和调整。塞克斯顿表示，使用此类技术的能力已经在犯罪者中传播，他们利用暗网创建和传播逼真的图像。
“我们相信我们所看到的内容实际上是使用开源软件生成的，这些软件已被下载并在人们的计算机上本地运行，然后进行修改。这是一个更难解决的问题，”塞克斯顿说。“人们已经知道了什么是儿童性虐待材料，也学会了如何制作这种材料。”
塞克斯顿说，暗网上进行的在线讨论包括名人儿童的图像和公开的儿童图像。在某些情况下，虐待儿童受害者的图像被用来创建全新的内容。
“所有这些想法都是令人担忧的，我们已经看到了有关这些问题的讨论，”塞克斯顿说。
先锋发展集团（Pioneer Development Group）的首席分析官Christopher Alexander称，这项技术的新危险之一是它可能会被用来向更多人介绍CSAM。另一方面，人工智能可以用来帮助扫描网络上得失踪人员，甚至可以利用“年龄增长和其他因素，来帮助找到被拐卖的儿童”。
“因此，生成式人工智能是一个问题，人工智能和机器学习是解决这个问题的工具，即使只是通过检测，”亚历山大说。
“这项技术造成的极端危险将对互联网的福祉产生巨大影响。国会必须积极挺身而出，采取行动保护儿童和整个互联网。”
与此同时，美国天主教大学政治学研究中心研究员、政治学助理教授乔纳森·D·阿斯科纳斯（Jonathan D. Askonas）向福克斯新闻数字频道表示，“立法者现在就需要采取行动，加强针对生产、传播和拥有基于人工智能的CSAM的法律，并堵住上一个时代的漏洞。”
塞克斯顿表示，IWF负责在网络上搜索CSAM并帮助协调删除工作，在人工智能时代，IWF可能会发现自己被从网络上删除此类内容的提示压得喘不过气来，他指出，此类材料在网络上的扩散已经非常普遍。
据《卫报》报道，塞克斯顿表示：“我们认为，网上儿童性虐待已经成为一种公共卫生流行病。” “因此，这不会使问题得到改善。它只会潜在地使问题变得更糟。”
公牛驼鹿项目（Bull Moose Project）的政策主管齐文-哈文斯（Ziven Havens）告诉福克斯数字新闻（Fox News Digital），为了保护儿童和互联网，国会必须采取行动。
“通过使用真实虐待受害者的现有图像，人工智能CSAM与非人工智能创建的CSAM几乎没有什么不同。它在道德上同样腐败和令人厌恶。这项技术造成的极端危险将对人们的福祉产生巨大影响。互联网，”哈文斯说。“如果这些公司失败了，国会必须积极采取行动，保护儿童和整个互联网。”