Obiguard nằm phía trước các lệnh gọi AI của bạn như một proxy gọn nhẹ. Prompt và phản hồi đi qua quy trình kiểm tra — nơi chính sách được đánh giá, vi phạm được phát hiện, và bằng chứng được ghi vào sổ cái. Phản hồi dạng streaming được kiểm tra sau khi đã gửi đi.
Đặt OPENAI_BASE_URL (hoặc tương đương cho Anthropic, Bedrock, Vertex) thành điểm cuối cổng Obiguard của bạn. Toàn bộ mã hiện có tiếp tục hoạt động.
Mỗi yêu cầu và phản hồi không streaming đi qua quy trình kiểm tra: phát hiện PII, bộ phân loại injection, và các Bộ chính sách tùy chỉnh của bạn — tất cả được đánh giá trước khi lệnh gọi hoàn tất. Phản hồi dạng streaming được đánh giá sau khi đã gửi.
Nếu một vi phạm khớp với Bộ chính sách, Obiguard thực hiện hành động đã cấu hình — chặn, che giấu, gắn cờ hoặc giữ lại để con người xem xét. Các yêu cầu bị giữ lại chờ trong Hàng đợi xem xét để được phê duyệt hoặc từ chối.
Một proxy HTTP gọn nhẹ dùng OpenAI, Anthropic, AWS Bedrock, Google Vertex và Azure OpenAI. Đánh giá từng yêu cầu và phản hồi theo các Bộ chính sách đang hoạt động của bạn trước khi chuyển tiếp.
Bộ chính sách nhóm các quy tắc thực thi (Tiêu chí) và được gán cho các tác tử AI cụ thể. Mỗi quy tắc xác định một guard hoặc tiêu chí, một phạm vi (prompt, phản hồi, hoặc cả hai) và một hành động. Các phiên bản Bộ chính sách đi từ bản nháp qua chờ xem xét và đã phê duyệt đến đã xuất bản.
Mỗi lần vi phạm chính sách tạo ra một bản ghi Vi phạm với đầy đủ ngữ cảnh sự kiện. Vi phạm có thể được tự động giải quyết hoặc chuyển đến Hàng đợi xem xét để con người chú thích. Mọi quyết định đều được ghi vào Nhật ký kiểm toán.
Một sổ đăng ký theo phạm vi dự án về mọi Tác tử AI và Trường hợp sử dụng mà nhóm của bạn đã định nghĩa. Các tác tử được liên kết với Bộ chính sách — đảm bảo việc thực thi đi theo khối lượng công việc. Trường hợp sử dụng ghi lại mục đích kinh doanh đằng sau mỗi tác tử.
Các bản ghi có dấu thời gian về yêu cầu, quyết định chính sách và thay đổi cấu hình, có thể xuất ra CSV hoặc JSON cho kiểm toán viên.
Các Kiểm soát cấp tổ chức xác định hành vi nào bị cấm hoặc bắt buộc. Mỗi Kiểm soát ánh xạ tới một hoặc nhiều Tiêu chí, và có quy trình phê duyệt với phân tách nhiệm vụ — người trình không thể tự phê duyệt kiểm soát của mình.
Một backend Project Moonshot tích hợp từ AI Verify Foundation. Các lần chạy benchmark (cookbook và recipe) và các mô-đun tấn công red-team thực thi trên một tác tử đã đăng ký; api-service xác định trình kết nối nhà cung cấp và chèn token cho mỗi lần chạy, nên portal không bao giờ xử lý thông tin xác thực.
Một tác vụ theo lịch chạy lúc 03:00 UTC, lấy mẫu khoảng 17% trace của ngày hôm trước và chấm điểm từng trace theo sáu tiêu chí của LLM judge. Hoàn toàn bất đồng bộ — nó đọc trace sau sự kiện và không bao giờ nằm trên đường đi của yêu cầu.
Một endpoint bao phủ tính toán, theo từng hạng mục của khung, liệu hoạt động thực tế trên nền tảng của bạn có chứng minh được hạng mục đó hay không — đã bao phủ, một phần, hoặc chưa bao phủ — trên NIST AI RMF, ISO/IEC 42001, OWASP LLM Top 10, AISCF của Malaysia và MGF for GenAI của Singapore. Mỗi ánh xạ ghi lại phiên bản tiêu chuẩn mà nó được thực hiện theo.
OpenAI, Anthropic, AWS Bedrock, Google Vertex AI, Azure OpenAI, và bất kỳ mô hình tự lưu trữ nào phía sau API tương thích OpenAI. Không cần SDK đặc biệt — chỉ cần đổi base URL.
Xuất bản ghi yêu cầu, quyết định chính sách và Nhật ký kiểm toán ra CSV hoặc JSON, cùng mức độ bao phủ khung dưới dạng CSV, cho cuộc kiểm toán ISO/IEC 42001 mà không cần thu thập bằng chứng thủ công.
Kết nối trong vài phút. Nội dung được xử lý trong bộ nhớ và không bao giờ được lưu. Chỉ quyết định chính sách và siêu dữ liệu được lưu trữ. Lý tưởng cho các nhóm muốn quản trị mà không phải gánh hạ tầng.
Chạy Obiguard bên trong VPC AWS, GCP hoặc Azure của bạn. Lưu lượng đi ra được giới hạn ở các nhà cung cấp mô hình và dịch vụ bạn cấu hình. Khách hàng Enterprise nhận image container riêng cùng bản khởi động nhanh bằng Docker Compose — nhóm của bạn làm chủ việc triển khai, chúng tôi lo các bản cập nhật.
Dành cho các ngành được quản lý hạn chế kết nối đi ra. Obiguard chạy phía sau một kho mirror image nội bộ với lưu lượng đi ra giới hạn ở các đích bạn cho phép. Vận hành air-gapped hoàn toàn nằm trong lộ trình.