Obiguard 的检查流水线位于您的应用与模型之间的关键路径上。每一轮中最新的消息,以及每个非流式响应,都会在调用完成之前依据您已启用策略集中的标准进行评估。流式响应无法被拦下,因此在交付后检查,任何发现都会被记录。
每一轮中最新的消息会在请求到达模型之前,被扫描是否存在注入尝试、策略违规、PII 和超出范围的内容。
非流式补全在交付前接受检查。Obiguard 可以对内容脱敏、拦截或标记——并将决定记录到审计账本。流式响应已在传输途中,因此在交付后评估,任何发现都会记录为标记。
限定于工具调用的规则会在智能体执行之前,评估模型工具调用的参数。违规的调用会被拦截、暂留审核或标记。脱敏规则会被记录为标记,因为参数无法被安全地改写。流式回复中的调用在交付后检查。
8 种基于模型(越狱、通过 Presidio 检测 PII、通过 Obi Lookout 检测敏感数据、NSFW、毒性、乱码、脏话、Obi Sieve)和 5 种基于规则(禁用列表、竞争对手、单行、小写、字数)。
防护、关键词、正则表达式或 LLM 评判——同步且在路径内,而非后台日志处理器。
姓名、证件号码、电话、电子邮件、地址、出生日期、金融账户、密钥和内部主机。
防护与策略活动为覆盖情况提供数据,对照 NIST AI RMF、ISO/IEC 42001、OWASP LLM Top 10、马来西亚 AISCF 以及新加坡 MGF for GenAI。