แพลตฟอร์ม · การตรวจสอบพรอมต์และคำตอบ — ตรวจสอบในเส้นทางคำขอ

อยู่ในเส้นทางคำขอ
ก่อนที่โมเดล
จะตอบ

ไปป์ไลน์การตรวจสอบของ Obiguard อยู่ในเส้นทางสำคัญระหว่างแอปพลิเคชันของคุณกับโมเดล ข้อความล่าสุดของแต่ละรอบและคำตอบที่ไม่ใช่แบบสตรีมแต่ละรายการจะถูกประเมินเทียบกับ Criteria ใน Policy Set ที่ใช้งานอยู่ก่อนที่การเรียกจะเสร็จสิ้น คำตอบแบบสตรีมไม่สามารถยับยั้งไว้ได้ จึงถูกตรวจสอบหลังการส่งมอบ และผลการตรวจพบใดๆ จะถูกบันทึกไว้

01 / การตรวจสอบทำงานอย่างไร

ซิงโครนัส อยู่ในเส้นทางคำขอ และมีสถานะ

ต่างจากเครื่องมือแบบอะซิงโครนัสที่อิงล็อก Obiguard ประเมินนโยบายก่อนที่จะส่งคำตอบกลับ การเรียกที่ถูกบล็อกจะไม่ไปถึงโมเดล หรือผู้ใช้
01 — พรอมต์

การตรวจสอบพรอมต์

ข้อความล่าสุดของแต่ละรอบจะถูกสแกนหาความพยายาม injection การละเมิดนโยบาย PII และเนื้อหานอกขอบเขต ก่อนที่คำขอจะถึงโมเดล

guard 13 ประเภท · ขอบเขตอินพุต
02 — คำตอบ

การตรวจสอบคำตอบ

completion ที่ไม่ใช่แบบสตรีมจะถูกตรวจสอบก่อนส่งมอบ Obiguard สามารถปกปิด บล็อก หรือทำเครื่องหมายเนื้อหา โดยบันทึกการตัดสินใจไว้ในสมุดบันทึกการตรวจสอบ คำตอบแบบสตรีมถูกส่งออกไปแล้ว จึงถูกประเมินหลังการส่งมอบ และผลการตรวจพบใดๆ จะถูกบันทึกเป็นการทำเครื่องหมาย

ปกปิด · บล็อก · ทำเครื่องหมาย
03 — TRACE

การตรวจสอบ tool-call

กฎที่กำหนดขอบเขตถึง tool-call จะประเมินอาร์กิวเมนต์ของ tool-call ของโมเดลก่อนที่เอเจนต์จะเรียกใช้ การเรียกที่ละเมิดจะถูกบล็อก พักไว้เพื่อตรวจสอบ หรือทำเครื่องหมาย กฎปกปิดจะถูกบันทึกเป็นการทำเครื่องหมาย เพราะไม่สามารถเขียนอาร์กิวเมนต์ใหม่ได้อย่างปลอดภัย การเรียกในคำตอบแบบสตรีมจะถูกตรวจสอบหลังการส่งมอบ

บล็อก · ตรวจสอบ · ทำเครื่องหมาย
02 / Guards

guard 13 ประเภท เกณฑ์สี่แบบ

guard แบบใช้โมเดลแปดแบบครอบคลุม jailbreak และ prompt injection, PII, ข้อมูลอ่อนไหว, เนื้อหา NSFW, ภาษาที่เป็นพิษ, gibberish, คำหยาบ และตัวกรองรอบแรกที่รวดเร็ว guard แบบใช้กฎห้าแบบครอบคลุมรายการห้าม การกล่าวถึงคู่แข่ง และการตรวจสอบรูปแบบ Criterion ยังเป็นได้ทั้งรายการ keyword ที่ถูกบล็อก นิพจน์ปกติ หรือ LLM judge ที่คุณเขียนเอง ซึ่งสามารถรันบนโมเดล obi-warden ของ Obiguard เองโดยไม่ต้องใช้ผู้ให้บริการ AI ภายนอก guard ข้อมูลอ่อนไหวและตัวกรองรอบแรกรันบนโมเดลของ Obiguard เอง ได้แก่ Obi Lookout และ Obi Sieve ดูโมเดลของ Obiguard
13
ประเภท guard

แบบใช้โมเดล 8 แบบ (jailbreak, PII ผ่าน Presidio, ข้อมูลอ่อนไหวผ่าน Obi Lookout, NSFW, ความเป็นพิษ, gibberish, คำหยาบ, Obi Sieve) และแบบใช้กฎ 5 แบบ (รายการห้าม, คู่แข่ง, บรรทัดเดียว, ตัวพิมพ์เล็ก, จำนวนคำ)

4
ชนิดของเกณฑ์

Guard, keyword, นิพจน์ปกติ หรือ LLM judge ทำงานแบบซิงโครนัสและอยู่ในเส้นทางคำขอ ไม่ใช่ตัวประมวลผลล็อกเบื้องหลัง

9
หมวดข้อมูลอ่อนไหว

ชื่อ หมายเลขประจำตัว โทรศัพท์ อีเมล ที่อยู่ วันเกิด บัญชีการเงิน ความลับ และโฮสต์ภายใน

5
กรอบการทำงานที่จับคู่

กิจกรรมของ guard และนโยบายป้อนเข้าสู่ความครอบคลุมเทียบกับ NIST AI RMF, ISO/IEC 42001, OWASP LLM Top 10, AISCF ของมาเลเซีย และ MGF for GenAI ของสิงคโปร์