架構Obiguard 的工作方式 — 從請求到賬本

一個檢查層。
貴組織接觸的每個
模型。

Obiguard 以輕量級代理的形式部署在您的 AI 呼叫之前。提示詞和回應會經過檢查流水線 — 在這裡評估策略、發現違規,並將證據寫入賬本。流式回應在送達後進行檢查。

01 / 代理

即插即用,無需更改模型。

Obiguard 使用與 OpenAI、Anthropic、Bedrock、Vertex 和 Azure OpenAI 相同的 API。將現有 SDK 指向我們的閘道器即可 — 其他一切保持不變。
步驟 01 · ROUTE

您的 SDK,保持不變

將 OPENAI_BASE_URL(或 Anthropic、Bedrock、Vertex 的對應變數)設定為您的 Obiguard 閘道器端點。所有現有程式碼繼續正常工作。

# 一個環境變數
$ export OPENAI_BASE_URL=
  https://gateway.obiguard.ai/v1
→ 流量現在通過 Obiguard
步驟 02 · INSPECT

內聯檢查流水線

每個請求和非流式回應都會經過檢查流水線:PII 檢測、注入分類器以及您自定義的策略集 — 全部在呼叫完成之前評估。流式回應在送達後評估。

prompt → inspect → block
response → inspect → redact
response → inspect → flag
路徑內 · 呼叫完成之前
步驟 03 · ENFORCE

策略決策與動作

如果違規與某個策略集匹配,Obiguard 會執行配置的動作 — 阻止、脫敏、標記或轉交人工稽核。被暫扣的請求會在稽核佇列中等待批准或駁回。

policy_set: no-pii-in-responses
action: block
review_queue: true
→ 已寫入審計日誌
02 / 平台元件

平台內部包含什麼。

每個元件都可獨立使用 — 組合在一起,讓您全面掌握並控制組織內的每個 AI 代理。
GATEWAY

檢查代理

一個輕量級 HTTP 代理,支援 OpenAI、Anthropic、AWS Bedrock、Google Vertex 和 Azure OpenAI。在轉發之前,根據您啟用的策略集評估每個請求和回應。

策略引擎

策略集與準則

策略集將執行規則(準則)分組,並分配給特定的 AI 代理。每條規則定義一個護欄或準則、範圍(提示詞、回應或兩者)以及動作。策略集版本從草稿經待稽核、已批准,最終到已釋出。

違規流水線

違規與稽核佇列

每次策略違反都會建立一條包含完整事件上下文的違規記錄。違規可自動解決,或轉入稽核佇列由人工標註。所有決策都會寫入審計日誌。

登入檔

AI 代理與用例

按專案劃分的登入檔,記錄您的團隊定義的每個 AI 代理和用例。代理與策略集關聯 — 確保執行隨工作負載而行。用例記錄每個代理背後的業務意圖。

賬本

審計日誌

帶時間戳的請求、策略決策和配置變更記錄,可匯出為 CSV 或 JSON 供審計人員使用。

治理

控制項與準則

組織級控制項定義哪些行為被禁止或被要求。每個控制項對應一個或多個準則,並帶有具備職責分離的審批流程 — 提交者不能批准自己的控制項。

保障

評估服務

內嵌來自 AI Verify Foundation 的 Project Moonshot 後端。基準測試執行(cookbook 和 recipe)與紅隊攻擊模組針對已註冊的代理執行;api-service 解析提供商聯結器並在每次執行時注入令牌,因此門戶從不接觸任何憑據。

倫理引擎

夜間偏見評估

計劃任務在 03:00 UTC 執行,抽取前一天約 17% 的追蹤記錄,並依據六項 LLM 評判準則逐一評分。完全非同步 — 事後讀取追蹤記錄,從不位於請求路徑上。

合規

框架覆蓋

覆蓋端點按框架類別計算您的即時平台活動是否提供了相應證據 — 已覆蓋、部分覆蓋或未覆蓋 — 涵蓋 NIST AI RMF、ISO/IEC 42001、OWASP LLM Top 10、馬來西亞的 AISCF 以及新加坡的 GenAI MGF。每項對映都會記錄其所依據的標準版本。

03 / 整合

與您現有的技術棧協同工作。

Obiguard 是對您 AI 閘道器的補充,而非替代。它補上了路由工具不涉及的治理層。
AI 提供商

任何相容 OpenAI 的端點

OpenAI、Anthropic、AWS Bedrock、Google Vertex AI、Azure OpenAI,以及任何位於相容 OpenAI 的 API 之後的自託管模型。無需特殊 SDK — 只需更改基礎 URL。

OpenAI · Anthropic · Bedrock
Vertex AI · Azure OpenAI
+ 任何相容 OpenAI 的主機
證據

為審計人員匯出

將請求記錄、策略決策和審計日誌匯出為 CSV 或 JSON,並將框架覆蓋匯出為 CSV,無需手動收集證據即可完成 ISO/IEC 42001 審計。

export → csv · 請求記錄
export → json · 完整記錄
+ 框架覆蓋 csv
04 / 部署

SaaS 或在您的 VPC 內。

Obiguard 可在您的資料需要留存的任何地方執行。SaaS 模式下的記憶體處理意味著內容絕不會被儲存 — 只有策略決策和後設資料會進入賬本。
SAAS

由 Obiguard 託管

幾分鐘即可接入。內容在記憶體中處理,絕不儲存。僅保留策略決策和後設資料。非常適合希望獲得治理能力又不想承擔基礎設施負擔的團隊。

VPC

部署在您的雲中

在您的 AWS、GCP 或 Azure VPC 內執行 Obiguard。出站流量僅限於您配置的模型提供商和服務。企業客戶可獲得附帶 Docker Compose 快速入門的私有容器映象 — 部署由您的團隊負責,更新由我們負責。

受限網路

受限網路

適用於限制出站連線的受監管行業。Obiguard 執行在內部映象倉庫之後,出站流量僅限於您允許的目的地。完全氣隙隔離執行已列入路線圖。