தளம் · ஆய்வுப்ராம்ப்ட்கள் மற்றும் பதில்கள் — கோரிக்கைப் பாதையிலேயே ஆய்வு

பாதையிலேயே.
மாடல்
பதிலளிக்கும் முன்.

Obiguard-இன் ஆய்வு பைப்லைன் உங்கள் பயன்பாட்டுக்கும் மாடலுக்கும் இடையிலான முக்கியப் பாதையில் அமர்ந்துள்ளது. ஒவ்வொரு சுற்றின் புதிய செய்தியும், ஸ்ட்ரீம் செய்யப்படாத ஒவ்வொரு பதிலும், அழைப்பு முடிவதற்கு முன் உங்கள் செயலில் உள்ள கொள்கைத் தொகுப்புகளின் அளவுகோல்களுக்கு எதிராக மதிப்பிடப்படுகின்றன. ஸ்ட்ரீம் செய்யப்பட்ட பதில்களைத் தடுத்து நிறுத்த முடியாது; எனவே அவை வழங்கப்பட்ட பின் சரிபார்க்கப்பட்டு, எந்தக் கண்டறிதலும் பதிவு செய்யப்படும்.

01 / ஆய்வு எவ்வாறு செயல்படுகிறது

ஒத்திசைவானது. பாதையிலேயே. நிலை அறிந்தது.

ஒத்திசைவற்ற, பதிவு அடிப்படையிலான கருவிகளைப் போலன்றி, பதில் திருப்பி அனுப்பப்படுவதற்கு முன்பே Obiguard கொள்கையை மதிப்பிடுகிறது. தடுக்கப்பட்ட அழைப்பு மாடலை — அல்லது பயனரை — ஒருபோதும் சென்றடையாது.
01 — ப்ராம்ப்ட்

ப்ராம்ப்ட் ஆய்வு

ஒவ்வொரு சுற்றின் புதிய செய்தியும், கோரிக்கை மாடலை அடையும் முன், injection முயற்சிகள், கொள்கை மீறல்கள், PII மற்றும் வரம்பிற்கு வெளியே உள்ள உள்ளடக்கத்துக்காக ஸ்கேன் செய்யப்படும்.

13 guard வகைகள் · உள்ளீட்டு வரம்பு
02 — பதில்

பதில் ஆய்வு

ஸ்ட்ரீம் செய்யப்படாத completion-கள் வழங்கப்படும் முன் ஆய்வு செய்யப்படும். Obiguard உள்ளடக்கத்தை மறைக்கவோ, தடுக்கவோ, குறியிடவோ முடியும் — முடிவு தணிக்கைப் பேரேட்டில் பதிவு செய்யப்படும். ஸ்ட்ரீம் செய்யப்பட்ட பதில்கள் ஏற்கனவே வழியில் உள்ளதால், வழங்கப்பட்ட பின் மதிப்பிடப்பட்டு, எந்தக் கண்டறிதலும் குறியீடாகப் பதிவு செய்யப்படும்.

மறை · தடு · குறியிடு
03 — TRACE

Tool-call ஆய்வு

tool call-களுக்கு வரம்பிடப்பட்ட விதிகள், ஒரு முகவர் இயக்கும் முன் மாடலின் tool call வாதங்களை மதிப்பிடுகின்றன. மீறும் அழைப்பு தடுக்கப்படும், மதிப்பாய்வுக்காக நிறுத்தி வைக்கப்படும், அல்லது குறியிடப்படும். வாதங்களைப் பாதுகாப்பாக மாற்றி எழுத முடியாது என்பதால், redact விதி ஒரு குறியீடாகப் பதிவு செய்யப்படும். ஸ்ட்ரீம் செய்யப்பட்ட பதிலில் உள்ள அழைப்புகள் வழங்கப்பட்ட பின் சரிபார்க்கப்படும்.

தடு · மதிப்பாய்வு · குறியிடு
02 / Guard-கள்

13 guard வகைகள். நான்கு வகை அளவுகோல்கள்.

எட்டு மாடல் சார்ந்த guard-கள் ஜெயில்பிரேக் மற்றும் ப்ராம்ப்ட் injection, PII, உணர்திறன் தரவு, NSFW உள்ளடக்கம், நச்சு மொழி, அர்த்தமற்ற உரை, தகாத வார்த்தைகள் மற்றும் விரைவான முதல்நிலை வடிகட்டி ஆகியவற்றைக் கையாளுகின்றன. ஐந்து விதி சார்ந்த guard-கள் தடைப் பட்டியல்கள், போட்டியாளர் குறிப்புகள் மற்றும் வடிவச் சோதனைகளைக் கையாளுகின்றன. ஓர் அளவுகோல் keyword தடுப்புப் பட்டியலாகவும், regular expression ஆகவும், நீங்களே எழுதும் LLM judge ஆகவும் இருக்கலாம்; அது வெளிப்புற AI வழங்குநர் இல்லாமல் Obiguard-இன் சொந்த obi-warden மாடலில் இயங்க முடியும். உணர்திறன் தரவு மற்றும் முதல்நிலை வடிகட்டி guard-கள் Obiguard-இன் சொந்த மாடல்களான Obi Lookout மற்றும் Obi Sieve-இல் இயங்குகின்றன — Obiguard மாடல்கள் பக்கத்தைப் பாருங்கள்.
13
Guard வகைகள்

8 மாடல் சார்ந்தவை (ஜெயில்பிரேக், Presidio வழி PII, Obi Lookout வழி உணர்திறன் தரவு, NSFW, நச்சுத்தன்மை, அர்த்தமற்ற உரை, தகாத வார்த்தைகள், Obi Sieve) மற்றும் 5 விதி சார்ந்தவை (ban list, competitor, one-line, lowercase, word count).

4
அளவுகோல் வகைகள்

Guard, keyword, regular expression, அல்லது LLM judge — ஒத்திசைவானது, பாதையிலேயே இயங்குவது; பின்னணிப் பதிவு செயலி அல்ல.

9
உணர்திறன் தரவு வகைகள்

பெயர்கள், அடையாள எண்கள், தொலைபேசி, மின்னஞ்சல், முகவரி, பிறந்த தேதி, நிதிக் கணக்கு, ரகசியங்கள் மற்றும் உள் ஹோஸ்ட்கள்.

5
வரைபடமாக்கப்பட்ட கட்டமைப்புகள்

Guard மற்றும் கொள்கைச் செயல்பாடு NIST AI RMF, ISO/IEC 42001, OWASP LLM Top 10, மலேசியாவின் AISCF மற்றும் சிங்கப்பூரின் GenAI-க்கான MGF ஆகியவற்றுக்கு எதிரான உள்ளடக்கத்துக்கு உதவுகிறது.