架构Obiguard 的工作方式 — 从请求到账本

一个检查层。
贵组织接触的每个
模型。

Obiguard 以轻量级代理的形式部署在您的 AI 调用之前。提示词和响应会经过检查流水线 — 在这里评估策略、发现违规,并将证据写入账本。流式响应在送达后进行检查。

01 / 代理

即插即用,无需更改模型。

Obiguard 使用与 OpenAI、Anthropic、Bedrock、Vertex 和 Azure OpenAI 相同的 API。将现有 SDK 指向我们的网关即可 — 其他一切保持不变。
步骤 01 · ROUTE

您的 SDK,保持不变

将 OPENAI_BASE_URL(或 Anthropic、Bedrock、Vertex 的对应变量)设置为您的 Obiguard 网关端点。所有现有代码继续正常工作。

# 一个环境变量
$ export OPENAI_BASE_URL=
  https://gateway.obiguard.ai/v1
→ 流量现在通过 Obiguard
步骤 02 · INSPECT

内联检查流水线

每个请求和非流式响应都会经过检查流水线:PII 检测、注入分类器以及您自定义的策略集 — 全部在调用完成之前评估。流式响应在送达后评估。

prompt → inspect → block
response → inspect → redact
response → inspect → flag
路径内 · 调用完成之前
步骤 03 · ENFORCE

策略决策与动作

如果违规与某个策略集匹配,Obiguard 会执行配置的动作 — 阻止、脱敏、标记或转交人工审核。被暂扣的请求会在审核队列中等待批准或驳回。

policy_set: no-pii-in-responses
action: block
review_queue: true
→ 已写入审计日志
02 / 平台组件

平台内部包含什么。

每个组件都可独立使用 — 组合在一起,让您全面掌握并控制组织内的每个 AI 代理。
GATEWAY

检查代理

一个轻量级 HTTP 代理,支持 OpenAI、Anthropic、AWS Bedrock、Google Vertex 和 Azure OpenAI。在转发之前,根据您启用的策略集评估每个请求和响应。

策略引擎

策略集与准则

策略集将执行规则(准则)分组,并分配给特定的 AI 代理。每条规则定义一个护栏或准则、范围(提示词、响应或两者)以及动作。策略集版本从草稿经待审核、已批准,最终到已发布。

违规流水线

违规与审核队列

每次策略违反都会创建一条包含完整事件上下文的违规记录。违规可自动解决,或转入审核队列由人工标注。所有决策都会写入审计日志。

注册表

AI 代理与用例

按项目划分的注册表,记录您的团队定义的每个 AI 代理和用例。代理与策略集关联 — 确保执行随工作负载而行。用例记录每个代理背后的业务意图。

账本

审计日志

带时间戳的请求、策略决策和配置变更记录,可导出为 CSV 或 JSON 供审计人员使用。

治理

控制项与准则

组织级控制项定义哪些行为被禁止或被要求。每个控制项对应一个或多个准则,并带有具备职责分离的审批流程 — 提交者不能批准自己的控制项。

保障

评估服务

内嵌来自 AI Verify Foundation 的 Project Moonshot 后端。基准测试运行(cookbook 和 recipe)与红队攻击模块针对已注册的代理执行;api-service 解析提供商连接器并在每次运行时注入令牌,因此门户从不接触任何凭据。

伦理引擎

夜间偏见评估

计划任务在 03:00 UTC 运行,抽取前一天约 17% 的追踪记录,并依据六项 LLM 评判准则逐一评分。完全异步 — 事后读取追踪记录,从不位于请求路径上。

合规

框架覆盖

覆盖端点按框架类别计算您的实时平台活动是否提供了相应证据 — 已覆盖、部分覆盖或未覆盖 — 涵盖 NIST AI RMF、ISO/IEC 42001、OWASP LLM Top 10、马来西亚的 AISCF 以及新加坡的 GenAI MGF。每项映射都会记录其所依据的标准版本。

03 / 集成

与您现有的技术栈协同工作。

Obiguard 是对您 AI 网关的补充,而非替代。它补上了路由工具不涉及的治理层。
AI 提供商

任何兼容 OpenAI 的端点

OpenAI、Anthropic、AWS Bedrock、Google Vertex AI、Azure OpenAI,以及任何位于兼容 OpenAI 的 API 之后的自托管模型。无需特殊 SDK — 只需更改基础 URL。

OpenAI · Anthropic · Bedrock
Vertex AI · Azure OpenAI
+ 任何兼容 OpenAI 的主机
证据

为审计人员导出

将请求记录、策略决策和审计日志导出为 CSV 或 JSON,并将框架覆盖导出为 CSV,无需手动收集证据即可完成 ISO/IEC 42001 审计。

export → csv · 请求记录
export → json · 完整记录
+ 框架覆盖 csv
04 / 部署

SaaS 或在您的 VPC 内。

Obiguard 可在您的数据需要留存的任何地方运行。SaaS 模式下的内存处理意味着内容绝不会被存储 — 只有策略决策和元数据会进入账本。
SAAS

由 Obiguard 托管

几分钟即可接入。内容在内存中处理,绝不存储。仅保留策略决策和元数据。非常适合希望获得治理能力又不想承担基础设施负担的团队。

VPC

部署在您的云中

在您的 AWS、GCP 或 Azure VPC 内运行 Obiguard。出站流量仅限于您配置的模型提供商和服务。企业客户可获得附带 Docker Compose 快速入门的私有容器镜像 — 部署由您的团队负责,更新由我们负责。

受限网络

受限网络

适用于限制出站连接的受监管行业。Obiguard 运行在内部镜像仓库之后,出站流量仅限于您允许的目的地。完全气隙隔离运行已列入路线图。