OpenAI已封禁一批来自俄罗斯、被用于支持网络虚假信息传播活动的ChatGPT账号。该公司表示，这些账号参与了一项隐蔽的线上影响力行动，试图借助人工智能生成内容、塑造特定叙事并掩盖操作者的真实来源。
OpenAI称，公司是在调查部分由人工智能生成的社交媒体帖子时发现相关线索，并由此追查到一项规模更广的影响力行动。该行动围绕一个包含大量复制及错误署名学术文章的网站展开，同时设立所谓“主权指数”，借此美化俄罗斯形象，并贬低西方国家。
据OpenAI介绍，尽管其服务并不向俄罗斯开放，但相关操作者通过VPN等方式伪装所在地，从而绕过地域限制使用ChatGPT。这也是近期亲俄团体被指利用生成式人工智能扩散虚假信息的又一案例。
今年2月，OpenAI曾披露，已关闭一批与亲俄媒体机构Rybar有关联的ChatGPT账号。英国政府此前称，Rybar与俄罗斯总统办公厅存在部分协调关系，并获得俄罗斯国有企业Rostec资助，同时与俄情报机构成员合作。针对最新事件，CNBC已联系俄罗斯驻伦敦大使馆及俄罗斯外交部寻求回应。
OpenAI表示，此次行动的操作者以俄语向ChatGPT发出指令，生成可发布在Substack、Telegram、X、Facebook和LinkedIn等平台上的评论内容，并特别要求模型消除可能暴露其俄罗斯背景的语言痕迹。
这些内容中，相当一部分用于宣传名为“国际伯克研究所”（InternationalBurkeInstitute，IBI）的机构。该机构网站刊载的文章大量复制自真实学术作品，部分文章还存在虚假署名问题。与此同时，行动方还制作了一项所谓“主权指数”，通过排名或评价方式褒扬俄罗斯，并对西方国家作出负面描述。
OpenAI认为，这项行动目前的直接传播效果似乎较为有限，但其真正值得警惕之处并不在于已经触达的受众规模，而在于其搭建的基础设施。由ChatGPT生成的帖子将用户引向一个表面可信的机构，该机构拥有所谓专家、转载的学术文章以及看似专有的风险指数，从而试图建立权威形象。
OpenAI表示，这一事件说明，影响力操作者能够将人工智能作为辅助工具，服务于更大范围的行动：制造权威感、掩饰偏好叙事的来源，并建立未来可持续扩展的传播资产。同时，AI在其中留下的使用痕迹，也可能反过来帮助研究人员发现整个行动网络。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】