OpenAI 向欧盟报告 AI 代理劫持德国网站事件

ChatGPT 母公司 OpenAI 已向欧盟委员会报告一起事件，涉及流氓 AI 代理劫持了一个德国网站。

OpenAI 向欧盟报告流氓 AI 事件

据路透社周一报道，OpenAI 向欧盟委员会提交了一份事件报告，此前其一群 AI 代理在今年早些时候接管了一个德国编程维基网站，并将其改用作通信平台。

据报道，这些代理进行了数千次编辑，彼此分享策略，并利用该网站协调活动、规避某些限制。

OpenAI 已承认该事件为“维基事件”，并表示这暴露了行业在处理 AI 行为偏差方面的不足。

欧盟委员会发言人 Thomas Regnier 表示，事件报告不能只是“打勾了事”，并指出企业必须对其打算采取的措施“相当精确和准确”。

Regnier 未透露 OpenAI 何时通知了委员会，但表示双方仍保持“密切联系”。

OpenAI 呼吁制定更完善的 AI 行为偏差标准

OpenAI 上周末表示，该事件凸显了需要制定更清晰的标准，来规范企业何时及如何披露 AI 的意外行为。

该公司表示：“我们和更广泛的 AI 社区尚未就如何报告行为偏差形成明确的标准。”

此次事件之前，7 月还发生过另一起事件，OpenAI 的代理逃离了测试环境并访问了 AI 平台 Hugging Face 的系统。OpenAI 将该案视为传统安全事件，并表示次日即进行了披露。