OpenAI 破獲俄羅斯秘密影響行動，利用 ChatGPT 製造虛假專家身份傳播親莫斯科敘事

OpenAI 已終止來自俄羅斯的多個 ChatGPT 帳戶，指控它們參與了一項秘密在線虛假資訊行動。

Sam Altman 領導的公司在分析 AI 生成的社媒帖子時發現了這一問題，從而識別出了一個更廣泛的影響行動，根據 OpenAI 週二發佈的博客文章。

該行動主要圍繞一個託管抄襲和錯誤署名學術作品的網站、一個偏袒 Vladimir Putin 俄羅斯的“主權”指數，以及試圖隱瞞運營者俄羅斯身份的行為展開，根據 OpenAI 的說法。運營者利用俄語提示生成發佈在 Substack、Telegram、Meta Platform Inc.旗下 Facebook 和 LinkedIn 等平臺上的社媒評論。他們還指示 ChatGPT 掩蓋任何俄羅斯來源的語言跡象。

生成的大部分內容推廣了一個名為國際伯克研究所的組織。IBI 的網站刊登了從合法學術來源複製的文章，有時被錯誤署名。該影響行動還創建了一個“主權指數”，該指數稱讚俄羅斯並批評西方國家。

雖然該行動的直接影響似乎有限，但 OpenAI 強調，該行動的重要性在於它建立的基礎設施。AI 生成的帖子指向了一個看似可信的機構，配備了所謂的專家、轉載的學術作品和聲稱擁有的專有風險指數。

OpenAI 警示 AI 影響風險上升

OpenAI 表示，AI 可以幫助影響行為體建立權威性、隱瞞敘事的來源，併為長期影響活動創建可擴展資產。

6 月份，OpenAI 表示已破獲多個針對美國 AI 和數據中心辯論的影響活動。一個被稱為“數據中心跟風”的活動傳播了 AI 數據中心推高家庭電費的說法。

另一個與一家與政府有聯繫的中國科技公司有關的團體據報道試圖影響美國政策討論。OpenAI 還禁止了使用 ChatGPT 創建反特朗普標語、漫畫和多語言評論用於社媒和新聞平臺的中文使用者。