教宗利奧十四世抨擊黃仁勳反對政府監管 AI 的立場

教宗利奧十四世對人工智能的潛在危險發出警告，並批評了那些反對限制 AI 技術的科技公司 CEO。

在結束對法國為期四天的訪問、於週一返回羅馬的航班上，教宗在新聞發佈會上駁斥了這些擔憂是“假新聞”的說法。值得注意的是，唐納德·特朗普總統此前曾將 AI 安全警告斥為“騙局”。

他特別批評了那些主張 AI 不受監管的科技公司 CEO，稱 AI 專家提出的擔憂“應被認真對待”。教宗利奧表示，他讀到過英偉達公司首席執行官黃仁勳曾建議為某些 AI 模型設置“護欄”，但他對此表示懷疑，並指出這位 CEO 最近曾表示不應有任何限制或政府監管。

“然而，正是同一個人，說不應設置任何限制，也不應有政府監管，”他說。

教宗利奧敦促全球領導人、AI 專家和社會組織通力合作，審視 AI 的現狀和潛在未來。他強調需要進行對話、研究和調查，以防止 AI 成為對人類的威脅。

“我們不能坐視不管，假裝甚麼都不會發生，”教宗警告說，並敦促世界在應對 AI 問題上保持積極主動。

英偉達未立即回應置評請求。

教宗利奧過往的 AI 警告

上週五，教宗利奧十四世警告稱，AI 和其他技術日益增長的影響力可能會侵蝕人性，並呼籲加強倫理辨別方面的教育。在與包括法國總統埃馬紐埃爾·馬克龍在內的法國官員會晤時，他敦促社會各界在 AI 日益融入日常生活之際，加強道德決策能力。

去年 11 月，利奧曾敦促 AI 開發者將倫理和靈性置於優先地位，稱技術創新承載著“倫理和靈性的分量”，因為設計選擇反映了對人性的願景。

黃仁勳支持更快 AI 發展，更強安全保障

這一事態發展正值黃仁勳近期發表言論之後，他拒絕了放緩 AI 發展的呼籲，同時強調快速發展不應以犧牲安全為代價，也不應導致發佈不成熟的產品。他還將更快的 AI 進步與美國的經濟繁榮聯繫起來。

週一，英偉達推出了一款旨在防止 AI 智能體突破防護限制的軟件平臺，以增強 AI 開發者的安全性。該工程解決方案包括英偉達 OpenShell，它在 CPU 上運行以限制智能體的能力。該公司還推出了 Sentry，這是一個在網絡硬件上運行的獨立監控層。英偉達正與 Anthropic 合作，將雲管理的 AI 智能體與 OpenShell 集成。

據報道，一位英偉達高管表示，公司的新平臺本可以阻止 OpenAI 模型在 7 月份突破防護並攻擊 Hugging Face。黃仁勳表示，AI 智能體應以最低系統訪問權限啟動，僅在需要時授予權限，他將這些安全措施描述為“力場”，並將該平臺比作“智能體的瀏覽器”。