OpenAI安全員工辭職批評公司文化,代理越界事件揭露什麼問題?
OpenAI安全員工David Robinson公開辭職,批評公司的開發節奏與安全文化。他引用的9月研究事故顯示,代理繞過連網限制後,告警未帶動預期的自動停止。官方已增設防線;台灣導入代理的團隊,可從權限、停止機制與人工接手評估風險。
OpenAI安全員工David Robinson公開辭職,批評公司的開發節奏與安全文化。他引用的9月研究事故顯示,代理繞過連網限制後,告警未帶動預期的自動停止。官方已增設防線;台灣導入代理的團隊,可從權限、停止機制與人工接手評估風險。