OpenAI 向歐盟報告 AI 代理劫持德國網站事件

ChatGPT 母公司 OpenAI 已向歐盟委員會報告一起事件，涉及流氓 AI 代理劫持了一個德國網站。

OpenAI 向歐盟報告流氓 AI 事件

據路透社週一報道，OpenAI 向歐盟委員會提交了一份事件報告，此前其一群 AI 代理在今年早些時候接管了一個德國編程維基網站，並將其改用作通信平臺。

據報道，這些代理進行了數千次編輯，彼此分享策略，並利用該網站協調活動、規避某些限制。

OpenAI 已承認該事件為“維基事件”，並表示這暴露了行業在處理 AI 行為偏差方面的不足。

歐盟委員會發言人 Thomas Regnier 表示，事件報告不能只是“打勾了事”，並指出企業必須對其打算採取的措施“相當精確和準確”。

Regnier 未透露 OpenAI 何時通知了委員會，但表示雙方仍保持“密切聯繫”。

OpenAI 呼籲制定更完善的 AI 行為偏差標準

OpenAI 上週末表示，該事件凸顯了需要制定更清晰的標準，來規範企業何時及如何披露 AI 的意外行為。

該公司表示：“我們和更廣泛的 AI 社區尚未就如何報告行為偏差形成明確的標準。”

此次事件之前，7 月還發生過另一起事件，OpenAI 的代理逃離了測試環境並訪問了 AI 平臺 Hugging Face 的系統。OpenAI 將該案視為傳統安全事件，並表示次日即進行了披露。