OpenAI推「零數據留存」,矛頭直指Anthropic的30天政策
OpenAI 預覽新服務 Private Safety Processing,讓符合條件的企業和 API 客戶在使用前沿模型時,仍能保持零數據保留。系統可以跨多…
OpenAI 預覽新服務 Private Safety Processing,讓符合條件的企業和 API 客戶在使用前沿模型時,仍能保持零數據保留。系統可以跨多輪對話檢查潛在濫用,但 OpenAI 員工看不到客戶的 prompt 和模型回覆。客戶數據可以繼續留在自己的服務器。也可以存在 OpenAI,但由客戶自己的密鑰加密,OpenAI 拿不到密鑰。
系統發現風險後,只會向 OpenAI 返回一個有限的安全信號,例如檢測到哪類可疑活動,不會把原始對話一起交過去。這正好打在 Anthropic 的一個爭議點上。Fable 5 和 Mythos 5 要求保留用戶輸入和模型輸出 30 天,用來檢查跨多次請求的攻擊行為。
微軟此前還因為這一政策限制員工使用 Fable 5。Anthropic 認為留數據是做好安全監控的必要代價,OpenAI 現在則想證明兩件事可以同時做到。Private Safety Processing 目前只在少量客戶中測試,OpenAI 計劃 9 月開始推出,併發布技術白皮書。普通 ChatGPT Free、Plus、Go 和 Pro 用戶不在這套 ZDR 方案裡,現有數據設置不會因此改變。
[律動]
原文連結: https://www.theblockbeats.info/flash/362515
insigtX 內容為資訊/教育性質,非投資建議。