Kesan dan sekat gesaan musuh, percubaan jailbreak dan arahan yang disuntik di get laluan — sebelum ia sampai ke model anda atau merosakkan tingkah laku ejen.
Pagar pengadang berasaskan model merangkumi teknik jailbreak dan percubaan menimpa arahan, bersama kriteria kata kunci, regex dan hakim LLM yang anda tulis sendiri.
Gesaan yang disekat tidak pernah sampai ke model. Penguatkuasaan berlaku pada laluan permintaan, bukan selepas kejadian.
Percubaan yang disekat dan ditanda ditulis ke Lejar audit bersama pagar pengadang yang mencetuskannya — keterlihatan untuk keselamatan, bukan sekadar penguatkuasaan.
Projek perintis yang ringkas sudah memadai untuk menunjukkan apa yang sedang menyerang titik akhir AI anda hari ini.
