Platform · PemeriksaanProm dan respons — diperiksa dalam laluan permintaan

Dalam laluan.
Sebelum model
menjawab.

Saluran pemeriksaan Obiguard terletak pada laluan kritikal antara aplikasi anda dan model. Mesej terbaharu bagi setiap giliran, dan setiap respons bukan strim, dinilai berdasarkan Kriteria dalam Set Dasar aktif anda sebelum panggilan selesai. Respons strim tidak dapat ditahan, jadi ia disemak sebaik sahaja dihantar dan sebarang dapatan direkodkan.

01 / Cara pemeriksaan berfungsi

Segerak. Dalam laluan. Berstatus.

Tidak seperti alat berasaskan log tak segerak, Obiguard menilai dasar sebelum respons dikembalikan. Panggilan yang disekat tidak akan sampai kepada model — atau pengguna.

01 — PROM

Pemeriksaan prom

Mesej terbaharu bagi setiap giliran diimbas untuk percubaan suntikan, pelanggaran dasar, PII dan kandungan di luar skop sebelum permintaan sampai kepada model.

13 jenis pengadang · skop input

02 — RESPONS

Pemeriksaan respons

Penyelesaian bukan strim diperiksa sebelum dihantar. Obiguard boleh menyunting, menyekat atau menandakan kandungan — dengan keputusan direkodkan dalam lejar audit. Respons strim sudah dalam perjalanan, jadi ia dinilai selepas dihantar dan sebarang dapatan direkodkan sebagai tanda.

Sunting · Sekat · Tandakan

03 — JEJAK

Pemeriksaan panggilan alat

Peraturan yang tertumpu pada panggilan alat menilai argumen panggilan alat model sebelum ejen menjalankannya. Panggilan yang melanggar akan disekat, ditahan untuk semakan, atau ditandakan. Peraturan suntingan direkodkan sebagai tanda, kerana argumen tidak boleh ditulis semula dengan selamat. Panggilan dalam balasan strim disemak selepas dihantar.

Sekat · Semak · Tandakan

02 / Pengadang

13 jenis pengadang. Empat jenis kriteria.

Lapan pengadang berasaskan model merangkumi jailbreak dan suntikan prom, PII, data sensitif, kandungan NSFW, bahasa toksik, ayat karut, kata kesat, dan penapis lulus pertama yang pantas. Lima pengadang berasaskan peraturan merangkumi senarai larangan, sebutan pesaing dan semakan format. Sesuatu Kriteria juga boleh berupa senarai sekat kata kunci, ungkapan nalar, atau hakim LLM yang anda tulis sendiri, yang boleh dijalankan pada model obi-warden milik Obiguard tanpa penyedia AI luaran. Pengadang data sensitif dan penapis lulus pertama berjalan pada model milik Obiguard, Obi Lookout dan Obi Sieve — lihat Model Obiguard.

Jenis pengadang

8 berasaskan model (jailbreak, PII melalui Presidio, data sensitif melalui Obi Lookout, NSFW, ketoksikan, ayat karut, kata kesat, Obi Sieve) dan 5 berasaskan peraturan (senarai larangan, pesaing, satu baris, huruf kecil, kiraan perkataan).

Jenis kriteria

Pengadang, kata kunci, ungkapan nalar atau hakim LLM — segerak dan dalam laluan, bukan pemproses log latar belakang.

Kategori data sensitif

Nama, nombor ID, telefon, e-mel, alamat, tarikh lahir, akaun kewangan, rahsia dan hos dalaman.

Rangka kerja dipetakan

Aktiviti pengadang dan dasar menyumbang kepada liputan terhadap NIST AI RMF, ISO/IEC 42001, OWASP LLM Top 10, AISCF Malaysia, dan MGF for GenAI Singapura.