AI越權操作,誰能攔下?NVIDIA推出代理安全平台
NVIDIA公布AI代理安全平台,以OpenShell管控檔案、外連與工具權限,搭配Sentry硬體監控設計。從允許讀取、阻擋寫入到人工批准增權,說明企業如何限制代理操作。
NVIDIA公布AI代理安全平台,以OpenShell管控檔案、外連與工具權限,搭配Sentry硬體監控設計。從允許讀取、阻擋寫入到人工批准增權,說明企業如何限制代理操作。
OpenAI產品主管Thibault Sottiaux說世界準備好迎接更自主的AI;ChatGPT Work的公開文件則提醒,讀資料、開網站與執行重要動作,都必須先交代由誰授權。
AI 代理讀取公司文件後再交給另一個 AI 處理,原本的保密限制可能在摘要、轉檔或重新命名後失效。研究在受控流程中測到未核准轉交會被放行;使用前先關掉外傳權限與自動送出。