平台 · 检查提示词与响应——在请求路径内检查

在路径内。
在模型
作答之前。

Obiguard 的检查流水线位于您的应用与模型之间的关键路径上。每一轮中最新的消息,以及每个非流式响应,都会在调用完成之前依据您已启用策略集中的标准进行评估。流式响应无法被拦下,因此在交付后检查,任何发现都会被记录。

01 / 检查如何运作

同步。在路径内。有状态。

与基于日志的异步工具不同,Obiguard 在返回响应之前评估策略。被拦截的调用永远不会到达模型——也不会到达用户。
01 — 提示词

提示词检查

每一轮中最新的消息会在请求到达模型之前,被扫描是否存在注入尝试、策略违规、PII 和超出范围的内容。

13 种防护类型 · 输入范围
02 — 响应

响应检查

非流式补全在交付前接受检查。Obiguard 可以对内容脱敏、拦截或标记——并将决定记录到审计账本。流式响应已在传输途中,因此在交付后评估,任何发现都会记录为标记。

脱敏 · 拦截 · 标记
03 — 追踪

工具调用检查

限定于工具调用的规则会在智能体执行之前,评估模型工具调用的参数。违规的调用会被拦截、暂留审核或标记。脱敏规则会被记录为标记,因为参数无法被安全地改写。流式回复中的调用在交付后检查。

拦截 · 审核 · 标记
02 / 防护

13 种防护类型。四类标准。

八种基于模型的防护涵盖越狱与提示词注入、PII、敏感数据、NSFW 内容、有害言论、乱码、脏话,以及一个快速的初筛过滤器。五种基于规则的防护涵盖禁用列表、竞争对手提及和格式检查。标准也可以是关键词黑名单、正则表达式,或您自己编写的 LLM 评判,后者可运行在 Obiguard 自有的 obi-warden 模型上,无需外部 AI 提供商。敏感数据防护和初筛过滤防护运行在 Obiguard 自有模型 Obi Lookout 和 Obi Sieve 上——详见 Obiguard 模型。
13
防护类型

8 种基于模型(越狱、通过 Presidio 检测 PII、通过 Obi Lookout 检测敏感数据、NSFW、毒性、乱码、脏话、Obi Sieve)和 5 种基于规则(禁用列表、竞争对手、单行、小写、字数)。

4
标准类型

防护、关键词、正则表达式或 LLM 评判——同步且在路径内,而非后台日志处理器。

9
敏感数据类别

姓名、证件号码、电话、电子邮件、地址、出生日期、金融账户、密钥和内部主机。

5
已映射框架

防护与策略活动为覆盖情况提供数据,对照 NIST AI RMF、ISO/IEC 42001、OWASP LLM Top 10、马来西亚 AISCF 以及新加坡 MGF for GenAI。