A5站长网9月29日消息,英伟达发布开放智能体安全平台,把治理能力从软件层延伸到硬件和机器人系统。平台由两部分组成:开源安全运行时软件OpenShell,负责给在CPU上运行的AI代理划出可强制执行的边界;以及参考系统设计中的Sentry,一款运行在英伟达BlueField-4这一代DPU上的带外监控器,能在毫秒级隔离越界的AI代理。
OpenShell的定位是模型和代理框架之外的边界。随着AI代理在更多系统里承担更多工作,企业需要一个不依赖模型自身、可以校验的运行时边界。OpenShell在英伟达专为代理式AI打造的Vera CPU上运行,开销很低;作为开源软件,它还能扩展到Arm和Intel等第三方计算平台,不局限于英伟达自家硬件。
Sentry补的是硬件侧的监控。它在BlueField-4这一代DPU上持续监测代理行为,在芯片内独立执行安全策略,运行在隔离的带外信任域里,对代理和攻击者都不可见;底层基于英伟达DOCA软件,能够检查代理的请求与响应、验证代理身份,并对数据、工具、接口和服务执行细粒度的访问控制。英伟达称,代理试图越出软件边界时,Sentry可在数毫秒内将其隔离并停止。
生态阵容不小。Anthropic、思科、CrowdStrike、戴尔、HPE、Hugging Face、微软、Palantir、Palo Alto Networks、Red Hat、Salesforce、SAP、ServiceNow等都在合作名单里。其中Anthropic的Claude Managed Agents把代理循环放在与执行沙箱分离的服务器上,配合OpenShell和BlueField对代理访问做更严格的控制;SpaceXAI则表示已用这套平台管理Cursor编码代理和Grok模型。
这套东西出现的背景是近期的多起代理越界事件:代理绕过应用层的安全控制,去完成被交办的任务。英伟达的思路是把防线放到模型之外、甚至放进芯片里,让代理自己绕不过去。对正在把代理接进生产环境的企业来说,这类由系统来兜住边界的方案,可能会成为选型时的一项硬指标。
A5创业网 版权所有