推动AI代理人应用Nvidia提供AI护栏微服务、内容安全防范工具Nvidia宣布推出NIM AI护栏微服务，以解决企业对AI代理人的数据安全或违反法令的疑虑。
新推出的内容安全微服务可防止AI生成有偏见或有害的输出，确保符合伦理标准。主题管控微服务则确保对话内容的主题在许可范围内，避免离题或不适当内容。越狱侦测微服务则防范用户越狱（jailbreak），以免AI遭到不当利用的攻击。其中内容安全微服务是以Nvidia的Aegis Content Safety Dataset训练而成，包含3.5万个人员标注的数据样本。该数据集已在Hugging Face上公开。
Nvidia指出，企业开发人员可在开发AI代理人时使用这些轻量专用的微服务作为护栏半岛bandao体育官方，以作为特定AI工作流程的管控，以填补更广泛安全策略的漏洞。此外，这些模型轻巧，可高速执行、减少延迟性，在远程办公室或带宽不足的地方如医院或仓库也能执行，这有助于医疗、汽车、制造业扩大部署AI。
Nvidia也提供了其已开源的LLM和应用漏洞扫描工具Garak来检测模型及应用程序的安全性，防止数据外流、提示注入、程序代码幻觉及越狱可能性。