5 தரநிலைகளுக்கான
AI கட்டமைப்பு மேப்பிங்,
உங்கள் சொந்த செயல்பாட்டிலிருந்து மதிப்பிடப்படுகிறது.

அமெரிக்காவில் AI இடருக்கான மேற்கோள் சொற்களஞ்சியம் இதுவே; பெரும்பாலான பெருநிறுவன இடர்க் குழுக்கள் இதை ஏற்கனவே உள்நாட்டில் ஏற்றுக்கொண்டுள்ளன. AI இடரை நான்கு செயல்பாடுகளாக — Govern, Map, Measure, Manage — ஒழுங்குபடுத்துகிறது. குறிப்பிட்ட தொழில்நுட்பத்தை வலியுறுத்தாமல், ஒரு நிறுவனம் இவை ஒவ்வொன்றையும் செய்கிறது என்பதைக் காட்ட முடியுமா என்று கேட்கிறது.

Govern மற்றும் Map ஆகியவை பதிவேட்டால் சான்றளிக்கப்படுகின்றன: வரைவு → மதிப்பாய்வு → வெளியிடப்பட்டது என்ற வாழ்க்கைச் சுழற்சியுடன் கூடிய கொள்கைத் தொகுப்புகள், கடமைப் பிரிப்புடன் கூடிய கட்டுப்பாடுகள், மற்றும் நோக்கத்தையும் இடர் மதிப்பீட்டையும் பதிவு செய்யும் AI பயன்பாட்டு நிகழ்வுகள் மற்றும் முகவர்கள். Measure என்பது இரவுதோறும் நடக்கும் Ethics & Bias ரன்கள் (MEASURE 2.1) மற்றும் Project Moonshot red-team ரன்கள் (MEASURE 2.7) மூலம் சான்றளிக்கப்படுகிறது. Manage என்பது மீறல்கள் பைப்லைன் மற்றும் மதிப்பாய்வு வரிசை.

இந்தத் தொகுப்பில் சான்றளிக்கத்தக்க ஒரே தரநிலை இதுவே. இது ISO 27001 குடும்பத்தைச் சேர்ந்த மேலாண்மை-அமைப்புத் தரநிலை: AI இடருக்குத் திட்டமிடவும், பணிக்கு வளங்களை ஒதுக்கவும், கட்டுப்பாடுகளைச் செயல்படுத்தவும், செயல்திறனை மதிப்பிடவும், மேம்படுத்தவும் கோருகிறது. இவை ஒவ்வொன்றுக்கும் ஆவணப்படுத்தப்பட்ட சான்றை எதிர்பார்க்கிறது; அதை அங்கீகரிக்கப்பட்ட சான்றளிப்பு அமைப்பு தணிக்கை செய்கிறது.

ISO/IEC 42001 தணிக்கையாளர் கேட்கும் செயல்பாட்டுச் சான்றை Obiguard உருவாக்குகிறது, ஆனால் சான்றிதழை அல்ல. பிரிவு 6 திட்டமிடல் இடர் மதிப்பீடுகளுடன் கூடிய கட்டுப்பாடுகள் மற்றும் அளவுகோல்களுக்கும்; பிரிவு 8 செயல்பாடு நுழைவாயிலில் செயல்படுத்தப்படும் கொள்கைத் தொகுப்புகளுக்கும்; பிரிவு 9 செயல்திறன் மதிப்பீடு டாஷ்போர்டு மற்றும் தணிக்கைப் பதிவுக்கும்; பிரிவு 10 மேம்பாடு மதிப்பாய்வு வரிசை மற்றும் ஒவ்வொரு மீறலின் பின்னாலும் உள்ள தீர்வுப் பாதைக்கும் மேப் ஆகின்றன.

இது இணக்கத் தரநிலையே அல்ல; LLM பயன்பாடுகள் உண்மையில் எப்படி உடைக்கப்படுகின்றன என்பதற்கான பாதுகாப்புத் துறையின் பொதுப் பட்டியல் — ப்ராம்ப்ட் இன்ஜெக்ஷன், உணர்திறன் தகவல் வெளிப்பாடு, அதிகப்படியான முகவர் அதிகாரம், சிஸ்டம் ப்ராம்ப்ட் கசிவு, தவறான தகவல், வரம்பற்ற நுகர்வு. உங்கள் ஊடுருவல் சோதனையாளர்களும் உங்கள் வாடிக்கையாளர்களின் பாதுகாப்புக் கேள்வித்தாள்களும் இரண்டுமே இதையே குறிப்பிடும்.

காகிதப் பணியை விட தயாரிப்பின் செயல்பாட்டு அம்சங்களுடன் மிக நேரடியாகப் பொருந்தும் கட்டமைப்பு இதுவே. பாதுகாப்பு வேலி அளவுகோல்கள் நுழைவாயிலில் LLM01 ப்ராம்ப்ட் இன்ஜெக்ஷன் மற்றும் LLM02 உணர்திறன் தகவல் வெளிப்பாட்டைக் கையாள்கின்றன; முகவர் மற்றும் கருவி வரம்பிடல் LLM06 அதிகப்படியான முகவர் அதிகாரத்தைக் கையாள்கிறது; அந்தப் பாதுகாப்புகள் நிலைக்கின்றனவா என்பதைச் சோதிக்க Moonshot ஜெயில்பிரேக் செய்முறைகளைத் தனியாக இயக்கலாம், ஆனால் அந்த ரன்கள் உள்ளடக்கக் கணக்கில் சேராது.

AI அமைப்புகளைப் பாதுகாப்பதற்கான மலேசியாவின் தேசிய கட்டமைப்பு; NACSA வெளியிட்டது. NIST இடர்ச் செயல்பாடுகளின்படி ஒழுங்குபடுத்தும் இடத்தில், AISCF வாழ்க்கைச் சுழற்சியின்படி ஒழுங்குபடுத்துகிறது: Inception, Design & Development, Verification & Validation, Deployment, Operation & Monitoring, Continuous Validation and Re-evaluation, மற்றும் Retirement. ஒவ்வொரு கட்டத்திலும் குறிப்பிட்ட பாதுகாப்புச் செயல்பாடுகள் உள்ளன — மொத்தம் 42 — மேலும் இது வெளிப்படையாகவே இடர் அடிப்படையிலானது, எனவே எதிர்பார்க்கப்படும் ஆழம் அமைப்பின் இடருக்கு ஏற்ப மாறுபடும்.

வாழ்க்கைச் சுழற்சியின் செயல்பாட்டுப் பகுதியை Obiguard ஆழமாகவும், வடிவமைப்புப் பகுதியை தளத்தில் பதிவு இருக்கும் இடத்தில் மட்டும் உள்ளடக்குகிறது. Operation & Monitoring என்பது பாதுகாப்பு வேலிச் செயலாக்கம், டாஷ்போர்டு மற்றும் தணிக்கைப் பதிவுக்கு மேப் ஆகிறது; Verification & Validation மற்றும் Continuous Validation ஆகியவை பகுதியளவு மட்டுமே உள்ளடக்கப்படுகின்றன, ஏனெனில் தொடர்ச்சியான பாதிப்பு ஸ்கேனிங் மற்றும் ஊடுருவல் சோதனை இன்னும் அம்சங்களாக இல்லை; Deployment என்பது வரம்பிடப்பட்ட அணுகல் விசைகள் மற்றும் ப்ராம்ப்ட் பதிப்பு ஒப்புதலுக்கு மேப் ஆகிறது. Inception மற்றும் Retirement செயல்பாடுகள் — தேவை வரையறை, தரவு அகற்றல், மாடல் ஓய்வு — Obiguard செய்வதில்லை, பதிவு மட்டுமே செய்யும் நிறுவனப் படிகள்.

நம்பகமான generative-AI சூழலமைப்புக்கான சிங்கப்பூரின் அடிப்படை வழிகாட்டுதல்; IMDA மற்றும் AI Verify Foundation வெளியிட்டது — Project Moonshot-க்குப் பின்னால் உள்ள அதே அமைப்பு. இது பாதுகாப்புத் தரநிலையை விட வேண்டுமென்றே பரந்தது: பொறுப்புடைமை, தரவு, நம்பகமான உருவாக்கமும் செயல்படுத்தலும், சம்பவ அறிக்கையிடல், சோதனையும் சான்றுறுதியும், பாதுகாப்பு, உள்ளடக்க மூலத்தன்மை, பாதுகாப்பு மற்றும் ஒத்திசைவு ஆராய்ச்சி, பொது நன்மைக்கான AI என ஒன்பது பரிமாணங்களை உள்ளடக்குகிறது.

ஒன்பதில் நான்கு பரிமாணங்கள் — Testing & Assurance, Content Provenance, Safety & Alignment R&D, AI for Public Good — மாடல் உருவாக்குநர்கள், சோதனை அமைப்புகள், கொள்கை வகுப்பாளர்களை நோக்கிய சூழலமைப்பு-நிலை உறுதிப்பாடுகள்; எனவே எந்த deployer தளமும் அவற்றைச் சான்றளிக்க முடியாது, அதனால் மொத்த மதிப்பெண் வடிவமைப்பின்படியே 56%-இல் வரம்பிடப்படுகிறது. கேஜைப் பார்க்காமல், பரிமாணம் வாரியான விவரத்தைப் படியுங்கள். deployer சான்றளிக்கக்கூடிய ஐந்தில், Security வலிமையானது: பாதுகாப்பு வேலி அளவுகோல்கள் GenAI-க்கே உரிய அச்சுறுத்தல் வழிகளை வடிகட்டுகின்றன, கொள்கைத் தொகுப்புகள் நுழைவாயிலில் செயல்படுத்தப்படுகின்றன, அணுகல் விசைகள் வெளிப்பாட்டை வரம்பிடுகின்றன. Accountability என்பது கட்டுப்பாடுகளில் உள்ள கடமைப் பிரிப்பு மற்றும் தணிக்கைப் பதிவில் உள்ள முழுமையான பொறுப்பேற்புமேல் நிற்கிறது.