极端主义组织已经开始尝试使用人工智能，尤其是生成式人工智能，以制造大量新的宣传品。专家们现在担心，这些组织越来越多地使用生成式人工智能工具，将推翻大科技公司近年来为阻止他们的内容进入互联网所做的工作。
"我们最担心的是，如果恐怖分子开始使用生成式人工智能大规模操纵图像，这很可能会摧毁作为解决方案的哈希共享，"科技反恐组织（TechAgainstTerrorism）执行董事亚当-哈德利（AdamHadley）告诉《WIRED》。"这是一个巨大的风险。"
多年来，大科技平台一直在努力创建已知暴力极端主义内容的数据库，即所谓的哈希数据库，这些数据库在各平台间共享，以快速、自动地从互联网上删除此类内容。但据哈德利称，他的同事们现在每周都会发现大约5000例人工智能生成的内容。其中包括最近几周由与真主党和哈马斯有关联的组织分享的图片，这些图片似乎旨在影响围绕以色列-哈马斯战争的叙事。
哈德利说："再过六个月左右，[他们]操纵图像来破解哈希算法的可能性确实令人担忧。科技界在打造自动化技术方面做得如此出色，恐怖分子很可能会开始使用基因人工智能来规避已经完成的工作"。
科技反恐组织的研究人员最近几个月发现的其他例子还包括：一个新纳粹信息频道分享人工智能生成的图像，这些图像是利用粘贴在Google游戏商店的应用程序中的种族主义和反犹太主义提示制作的；极右翼人士制作了一份"记忆战争指南"，建议其他人如何利用人工智能生成的图像工具制作极端主义备忘录；伊斯兰国"发布了一份关于如何安全使用人工智能生成工具的技术支持指南；一名亲"伊斯兰国"的存档服务用户声称使用了基于人工智能的自动语音识别（ASR）系统来转录"伊斯兰国"的阿拉伯语宣传；以及一家亲"基地"组织的媒体发布了几张海报，其中的图片极有可能是使用人工智能生成平台创建的。
除了详细介绍可以调整图像的生成式人工智能工具所带来的威胁之外，科技反恐组织还发表了一份新报告，列举了基因人工智能工具可用于帮助极端组织的其他方式。其中包括使用自动翻译工具，快速、轻松地将宣传内容转换成多种语言，或大规模创建个性化信息的能力，以促进在线招募工作。但哈德利认为，人工智能也提供了一个机会，让我们可以先于极端组织一步，利用技术先发制人。
哈德利说："我们将与微软公司合作，研究是否有办法利用我们的资料档案创建一种基因人工智能检测系统，以应对基因人工智能被大规模用于恐怖主义内容的新威胁。我们相信，基因人工智能可以用来抵御对基因人工智能的敌对使用"。
今天，在克赖斯特彻奇呼吁领导人峰会（ChristchurchCallLeaders'Summit）即将在巴黎举行的前夕，宣布了这一合作关系。"克赖斯特彻奇呼吁领导人峰会"是旨在消除互联网上的恐怖主义和极端主义内容的运动。
微软公司副董事长兼总裁布拉德-史密斯（BradSmith）在一份声明中说："利用数字平台传播暴力极端主义内容是一个具有现实后果的紧迫问题。通过将科技反恐的能力与人工智能相结合，我们希望能够帮助创造一个在线和离线都更加安全的世界。"
虽然微软、Google和Facebook等公司都有自己的人工智能研究部门，而且很可能已经在部署自己的资源来应对这一问题，但新倡议最终将帮助那些无法独立应对这些问题的公司。
"这对于那些没有自己的人工智能研究中心的小型平台来说尤为重要，"哈德利说。"即使是现在，有了散列数据库，较小的平台也可能会被这些内容淹没。"
人工智能生成内容的威胁不仅限于极端组织。上个月，英国致力于消除互联网上剥削儿童内容的非营利组织互联网观察基金会（InternetWatchFoundation）发布了一份报告，详细描述了暗网上人工智能工具创建的儿童性虐待材料（CSAM）日益增多的情况。
研究人员发现，在短短一个月的时间里，有超过2万张人工智能生成的图片被张贴到一个暗网CSAM论坛上，其中有11108张图片被IWF研究人员判定为最有可能犯罪的图片。正如IWF研究人员在报告中写道："这些人工智能图像可以如此令人信服，以至于无法与真实图像区分开来"。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】