OpenAI 破获俄罗斯秘密影响行动，利用 ChatGPT 制造虚假专家身份传播亲莫斯科叙事

OpenAI 已终止来自俄罗斯的多个 ChatGPT 账户，指控它们参与了一项秘密在线虚假信息行动。

Sam Altman 领导的公司在分析 AI 生成的社媒帖子时发现了这一问题，从而识别出了一个更广泛的影响行动，根据 OpenAI 周二发布的博客文章。

该行动主要围绕一个托管抄袭和错误署名学术作品的网站、一个偏袒 Vladimir Putin 俄罗斯的“主权”指数，以及试图隐瞒运营者俄罗斯身份的行为展开，根据 OpenAI 的说法。运营者利用俄语提示生成发布在 Substack、Telegram、Meta Platform Inc.旗下 Facebook 和 LinkedIn 等平台上的社媒评论。他们还指示 ChatGPT 掩盖任何俄罗斯来源的语言迹象。

生成的大部分内容推广了一个名为国际伯克研究所的组织。IBI 的网站刊登了从合法学术来源复制的文章，有时被错误署名。该影响行动还创建了一个“主权指数”，该指数称赞俄罗斯并批评西方国家。

虽然该行动的直接影响似乎有限，但 OpenAI 强调，该行动的重要性在于它建立的基础设施。AI 生成的帖子指向了一个看似可信的机构，配备了所谓的专家、转载的学术作品和声称拥有的专有风险指数。

OpenAI 警示 AI 影响风险上升

OpenAI 表示，AI 可以帮助影响行为体建立权威性、隐瞒叙事的来源，并为长期影响活动创建可扩展资产。

6 月份，OpenAI 表示已破获多个针对美国 AI 和数据中心辩论的影响活动。一个被称为“数据中心跟风”的活动传播了 AI 数据中心推高家庭电费的说法。

另一个与一家与政府有联系的中国科技公司有关的团体据报道试图影响美国政策讨论。OpenAI 还禁止了使用 ChatGPT 创建反特朗普标语、漫画和多语言评论用于社媒和新闻平台的中文使用者。