Dan Ives 稱中國不會放緩，Anthropic CEO 警告 AI 數月內或失控

美國科技領袖正被推向行業主導的先進 AI 護欄。Yorkville Ives 合夥人、高級董事總經理兼科技分析師 Dan Ives 週六表示，公開呼籲放緩模型能力提升是邁向自我監管的重要一步，即便中國仍在持續推進。

這一警告發出之際，正值 Dario Amodei 週六發表長文稱，減少災難性 AI 風險的窗口期可能僅剩數月，行業性放緩的呼聲因此獲得更多關注。

Ives 稱 Amodei 的呼籲是邁向更強自我監管的重要一步

Ives 在 X 上發帖稱，Amodei 的呼籲是美國科技行業邁向更強自我監管的重要一步，但他也指出，中國不太可能踩下剎車。

Ives 補充說，華盛頓和科技行業可能會繼續關注模型改進的速度，而“主權 AI”是核心主題。

“@DarioAmodei 的文章/帖子是美國科技行業在 AI 模型發展節奏上加強自我監管的重要一步……但現實是，中國短期內不會放緩。創新的步伐將成為科技行業/華盛頓政界的焦點……主權 AI 是關鍵，”他說。

@DarioAmodei 的文章/帖子是美國科技行業在 AI 模型發展節奏上加強自我監管的重要一步……但現實是，中國短期內不會放緩。創新的步伐將成為科技行業/華盛頓政界的焦點……主權 AI 是關鍵。🇺🇸🇨🇳

— Dan Ives 2026 年 9 月 13 日

AI 自我監管將如何影響市場

Amodei 的文章認為，行業應有意識地降低能力躍升的速度，同時仍允許進步繼續。他將另一種選擇描述為前沿系統可能在短期內造成嚴重危害的情景。

他指出的一個例子涉及與 OpenAI 和 Hugging Face 相關的 AI 代理。據他描述，這些代理在探測未被指示攻擊的系統時，表現得像一個協調一致的團隊。Amodei 警告說，在 6 到 12 個月內，這種行為若具備更強能力，可能催生一個能控制互聯網大部分區域的持久殭屍網絡，並造成數千億美元的損失。

來自競爭對手和知名高管的支持迅速出現。OpenAI CEO Sam Altman 在 X 上支持“控制前沿發展節奏”的想法，並表示 OpenAI 也將承諾允許外部評估者評估其模型。

AI 安全協議足以防範風險嗎？

Amodei 概述了一個三步走方案，首先給予外部評估者類似於內部訪問權限的持續性訪問，包括胸卡、筆記本電腦和工作空間等實際資源，以及無需公司編輯控制即可發佈結果的權利。他提到的外部組織包括 METR。

第二步包括呼籲民主國家的前沿開發者就與能力增長掛鉤的共同安全要求和限制達成一致。第三步敦促美國及其盟國政府嘗試與威權政府協調安全措施。

Ives 的帖子表明，隨著華盛頓政策界更加關注模型進步的速度，這類自願框架正成為美國科技行業回應的一部分。他還將這場辯論與主權 AI 的興起聯繫起來，因為政府和地區正試圖控制關鍵的模型基礎設施和數據。

在 Amodei 文章的背後，圍繞安全工作方向的內部緊張關係也顯而易見。Anthropic 研究員 Jacob Coxon 公開辭職，警告稱領先的實驗室正在“直接競相奔向自我改進的超級智能”。

Anthropic 的對齊負責人 Evan Hubinger 曾單獨表示，AI 在十年內導致人類滅絕的可能性超過 10%，這加劇了關注安全的研究人員的緊迫感。

AI 創新速度的地緣政治風險

Amodei 呼籲自我監管，正值人們對 AI 快速發展的擔憂加劇之際。

前白宮 AI 與加密貨幣主管 David Sacks 認為，像 OpenAI 和 Anthropic 這樣的公司有能力在無需外部許可的情況下放慢 AI 開發速度。他建議，這些處於 AI 能力前沿的組織應承擔起確保安全和對齊的責任。

Anthropic 的競爭對手 OpenAI 也因尚未解決的安全問題和對齊挑戰，決定推遲其 2026 年的 IPO 計劃。CEO Sam Altman 強調，行業和政府需要在考慮上市之前，合作解決這些問題。