教宗利奥十四世抨击黄仁勋反对政府监管 AI 的立场

教宗利奥十四世对人工智能的潜在危险发出警告，并批评了那些反对限制 AI 技术的科技公司 CEO。

在结束对法国为期四天的访问、于周一返回罗马的航班上，教宗在新闻发布会上驳斥了这些担忧是“假新闻”的说法。值得注意的是，唐纳德·特朗普总统此前曾将 AI 安全警告斥为“骗局”。

他特别批评了那些主张 AI 不受监管的科技公司 CEO，称 AI 专家提出的担忧“应被认真对待”。教宗利奥表示，他读到过英伟达公司首席执行官黄仁勋曾建议为某些 AI 模型设置“护栏”，但他对此表示怀疑，并指出这位 CEO 最近曾表示不应有任何限制或政府监管。

“然而，正是同一个人，说不应设置任何限制，也不应有政府监管，”他说。

教宗利奥敦促全球领导人、AI 专家和社会组织通力合作，审视 AI 的现状和潜在未来。他强调需要进行对话、研究和调查，以防止 AI 成为对人类的威胁。

“我们不能坐视不管，假装什么都不会发生，”教宗警告说，并敦促世界在应对 AI 问题上保持积极主动。

英伟达未立即回应置评请求。

教宗利奥过往的 AI 警告

上周五，教宗利奥十四世警告称，AI 和其他技术日益增长的影响力可能会侵蚀人性，并呼吁加强伦理辨别方面的教育。在与包括法国总统埃马纽埃尔·马克龙在内的法国官员会晤时，他敦促社会各界在 AI 日益融入日常生活之际，加强道德决策能力。

去年 11 月，利奥曾敦促 AI 开发者将伦理和灵性置于优先地位，称技术创新承载着“伦理和灵性的分量”，因为设计选择反映了对人性的愿景。

黄仁勋支持更快 AI 发展，更强安全保障

这一事态发展正值黄仁勋近期发表言论之后，他拒绝了放缓 AI 发展的呼吁，同时强调快速发展不应以牺牲安全为代价，也不应导致发布不成熟的产品。他还将更快的 AI 进步与美国的经济繁荣联系起来。

周一，英伟达推出了一款旨在防止 AI 智能体突破防护限制的软件平台，以增强 AI 开发者的安全性。该工程解决方案包括英伟达 OpenShell，它在 CPU 上运行以限制智能体的能力。该公司还推出了 Sentry，这是一个在网络硬件上运行的独立监控层。英伟达正与 Anthropic 合作，将云管理的 AI 智能体与 OpenShell 集成。

据报道，一位英伟达高管表示，公司的新平台本可以阻止 OpenAI 模型在 7 月份突破防护并攻击 Hugging Face。黄仁勋表示，AI 智能体应以最低系统访问权限启动，仅在需要时授予权限，他将这些安全措施描述为“力场”，并将该平台比作“智能体的浏览器”。