平台 · 檢查提示詞與回應——在請求路徑內檢查

在路徑內。
在模型
作答之前。

Obiguard 的檢查流水線位於您的應用與模型之間的關鍵路徑上。每一輪中最新的訊息,以及每個非流式回應,都會在呼叫完成之前依據您已啟用策略集中的標準進行評估。流式回應無法被攔下,因此在交付後檢查,任何發現都會被記錄。

01 / 檢查如何運作

同步。在路徑內。有狀態。

與基於日誌的非同步工具不同,Obiguard 在返回回應之前評估策略。被攔截的呼叫永遠不會到達模型——也不會到達使用者。
01 — 提示詞

提示詞檢查

每一輪中最新的訊息會在請求到達模型之前,被掃描是否存在注入嘗試、策略違規、PII 和超出範圍的內容。

13 種防護型別 · 輸入範圍
02 — 回應

回應檢查

非流式補全在交付前接受檢查。Obiguard 可以對內容脫敏、攔截或標記——並將決定記錄到審計賬本。流式回應已在傳輸途中,因此在交付後評估,任何發現都會記錄為標記。

脫敏 · 攔截 · 標記
03 — 追蹤

工具呼叫檢查

限定於工具呼叫的規則會在智慧體執行之前,評估模型工具呼叫的引數。違規的呼叫會被攔截、暫留稽核或標記。脫敏規則會被記錄為標記,因為引數無法被安全地改寫。流式回覆中的呼叫在交付後檢查。

攔截 · 稽核 · 標記
02 / 防護

13 種防護型別。四類標準。

八種基於模型的防護涵蓋越獄與提示詞注入、PII、敏感資料、NSFW 內容、有害言論、亂碼、髒話,以及一個快速的初篩過濾器。五種基於規則的防護涵蓋停用列表、競爭對手提及和格式檢查。標準也可以是關鍵詞黑名單、正規表示式,或您自己編寫的 LLM 評判,後者可執行在 Obiguard 自有的 obi-warden 模型上,無需外部 AI 提供商。敏感資料防護和初篩過濾防護執行在 Obiguard 自有模型 Obi Lookout 和 Obi Sieve 上——詳見 Obiguard 模型。
13
防護型別

8 種基於模型(越獄、通過 Presidio 檢測 PII、通過 Obi Lookout 檢測敏感資料、NSFW、毒性、亂碼、髒話、Obi Sieve)和 5 種基於規則(停用列表、競爭對手、單行、小寫、字數)。

4
標準型別

防護、關鍵詞、正規表示式或 LLM 評判——同步且在路徑內,而非後臺日誌處理器。

9
敏感資料類別

姓名、證件號碼、電話、電子郵件、地址、出生日期、金融賬戶、金鑰和內部主機。

5
已對映框架

防護與策略活動為覆蓋情況提供資料,對照 NIST AI RMF、ISO/IEC 42001、OWASP LLM Top 10、馬來西亞 AISCF 以及新加坡 MGF for GenAI。