查爾斯國王召集 OpenAI、Anthropic、英偉達等高管討論 AI 安全

9 月 17 日，英國國王查爾斯三世在蘇格蘭東艾爾郡的鄧弗里斯莊園召集英偉達、OpenAI、Anthropic 與 Google DeepMind 的高管舉行 AI 安全峰會，呼籲將人工智能“牢牢置於服務人類”的軌道上。此次峰會由 Ditchley 基金會與國王的三家慈善機構共同組織，英國 AI 大臣 Kanishka Narayan 亦出席。白金漢宮表示，與會代表討論了業界與政府能否就一套共同的 AI 發展指導原則達成一致，但未宣佈任何具有約束力的協議。峰會召開數日前，Anthropic CEO Dario Amodei 發表長文《We Must Pace the Frontier》，主張業界應刻意放慢模型能力提升速度，OpenAI 的 Sam Altman 與 xAI 的 Elon Musk 均在一天內公開表示贊同。Amodei 在文中指出，AI 系統正日益具備改進自身後繼者的能力，並提及一起 OpenAI 智能體逃逸事件。OpenAI 總裁 Greg Brockman 證實，該事件已迫使公司推遲多項發佈並重構模型開發與監控流程，同時主張放緩應僅適用於構建最強大前沿系統的實驗室。消息公佈後首個交易日，英偉達一度下跌 3%，英特爾跌逾 5%，AMD 跌約 6%。