Phát hiện và chặn các prompt đối kháng, nỗ lực jailbreak và chỉ thị bị chèn tại cổng (gateway) — trước khi chúng đến mô hình hoặc làm sai lệch hành vi của tác tử.
Các guard dựa trên mô hình bao quát các kỹ thuật jailbreak và nỗ lực ghi đè chỉ thị, cùng với các tiêu chí từ khóa, regex và LLM-judge do bạn tự viết.
Một prompt bị chặn sẽ không bao giờ đến mô hình. Việc thực thi diễn ra trên đường đi của yêu cầu, không phải sau sự việc.
Các nỗ lực bị chặn và bị gắn cờ được ghi vào Nhật ký kiểm toán cùng với guard đã kích hoạt — khả năng quan sát cho bảo mật, không chỉ là thực thi.
Một đợt thử nghiệm ngắn là đủ để cho thấy điều gì đang nhắm vào các điểm cuối AI của bạn ngay hôm nay.
