美議員擬立法禁止 AI 遞歸自我改進，強制人類控制

據報道，加州民主黨眾議員羅·卡納正準備提出一項人工智能法案，該法案將施加嚴格的責任規則，並在政府制定安全標準之前禁止“遞歸”自我改進的人工智能。

新法案旨在應對先進 AI 的潛在威脅

卡納週一在接受 CNBC 採訪時表示，存在“文明滅絕”的風險，以及“失控的安全風險，還有濫用風險”，這兩者都必須被認真對待。

該法案名為《人類對 AI 控制法案》，其摘要已被該媒體看到。根據該法案，AI 模型將被禁止自我升級或更改自身的安全和關機設置。該限制將一直有效，直到聯邦規則制定完成且政府機構批准該技術。

此外，該法案計劃成立一個新的聯邦機構，專門監管 OpenAI、Anthropic、Alphabet Inc 旗下 Google DeepMind 以及 Space Exploration Technologies Corp 旗下 SpaceXAI 等公司開發的先進 AI 模型。

這一新機構將負責制定安全規則、訓練和發佈模型的許可流程、前沿 AI 模型的審計，以及確保人類監督和持續測試的嚴格安全規則。

第三方審查人員還將直接派駐到每個先進 AI 實驗室內，向該機構提供即時報告。該機構還將制定隔離離線測試區的指導方針、緊急切斷機制，以及將模型限制在實驗室內以防止其在線擴散的保障措施。此外，該機構還將監管頂級開發商使用的 AI 芯片，實施監管和監控其應用的方法。

AI 安全辯論升溫

本月早些時候，Anthropic 的研究員埃文·胡賓格估計 AI 在十年內消滅人類的概率超過 10%，這發生在更廣泛的行業安全辯論之中。上週，Anthropic 首席執行官達里奧·阿莫迪和 OpenAI 首席執行官山姆·奧特曼在聯合國安理會警告了 AI 帶來的潛在風險，呼籲加強國際合作以管理日益強大的 AI 系統。

與此同時，週日，《大空頭》投資者邁克爾·伯裡在社交媒體平臺 X 上警告日益遞歸的 AI 生成內容所帶來的後果。他認為，越來越多地使用 AI 生成的訓練數據可能會放大錯誤，同時暴露出大語言模型在通往通用人工智能道路上的更深層侷限。

上週，佛蒙特州獨立參議員伯尼·桑德斯敦促總統唐納德·特朗普和中國國家主席習近平談判達成一項國際協議，暫停先進 AI 開發並禁止超級智能。

查看更多：

頂級成長股