ஒரு AI முகவர் தொடுவதற்கு அனுமதிக்கப்படுவதைத் தீர்மானித்தல்: ஒரு மோசமான நாளில் தப்பிப்பிழைக்கும் அனுமதிகள் எல்லை

AI முகவரைப் பற்றிய சுவாரஸ்யமான கேள்வி "நாம் அதைச் செய்ய முடியுமா?" அது "தவறு செய்யும் நாள் மீட்பு எப்படி இருக்கும்?"

AI ஏஜென்ட் அனுமதிகளைப் பற்றி அதிகம் எழுதுவது அடையாள-மேலாண்மை விற்பனையாளர் உள்ளடக்கம் (Okta-வடிவ வரைபடங்கள், ஸ்கோப் அட்டவணைகள், OWASP வகைப்பாடுகள்) அல்லது நிறுவன-பாதுகாப்பு இணக்க கட்டமைப்புகள் (SOC 2 சான்றுகள், EU AI சட்டம் குறுக்கு குறிப்புகள்). இரண்டும் சரியான சூழலில் பயனுள்ளதாக இருக்கும், மேலும் ஒரு சிறிய ஆபரேட்டருக்கு அவர்கள் ஒரு இயந்திரத்தை தங்கள் ஜிட் களஞ்சியத்திற்கோ அல்லது அவர்களின் நேரடி உற்பத்தித் தளத்திற்கோ சாவியை ஒப்படைக்கும் நாளில் உண்மையில் என்ன தேவை என்பதும் இல்லை. அவர்களுக்குத் தேவையானது ஏஜென்ட் எடுக்கக்கூடிய ஒரு செயலுக்கு நேர்மையாக ஒரு கேள்விக்கு பதிலளிக்கும் ஒரு முடிவு கட்டமைப்பாகும்: ஒரு மோசமான நாளில் மோசமான நம்பத்தகுந்த விளைவு என்ன, அதிலிருந்து மீள்வது எப்படி இருக்கும்?

இந்த வலைதளத்திற்கான அணுகலை எழுதும் முகவர்களிடம் இருந்து எழுதப்பட்ட கட்டமைப்பே இந்த இடுகை. கீழே உள்ள அனைத்தும் ஒன்று நான் செய்யும் ஒன்று, அல்லது நான் செய்த மீட்புச் செலவு வசதியை நியாயப்படுத்த மிகவும் அதிகமாக உள்ளது. இது பாதுகாப்பு-விற்பனையாளர் சுருதி அல்ல, மேலும் இது உங்களுக்கு பாலிசி எஞ்சினை விற்காது.

ஏன் "குறைந்த சலுகை" என்பது தவறான முதல் கேள்வி

தொழில்துறை-தரமான கட்டமைப்பானது least privilege: ஒரு முகவருக்கு கண்டிப்பாகத் தேவையானதை மட்டும் வழங்கவும். இது ஒரு நல்ல கொள்கை ஆனால் இது மிகவும் தாமதமானது. அது "எவ்வளவு அணுகல்?" முதலில் பதிலளிக்காமல், "எந்த வகுப்பு நடவடிக்கைக்கு எந்த அளவிலான அணுகலை வழங்குவது பாதுகாப்பானது?"

உண்மையில் ஒரு சிறிய ஆபரேட்டருக்கு உதவும் ஆர்டர்:

1. வெடிப்பு ஆரம் மூலம் செயலை வகைப்படுத்தவும். அதைச் செய்ய முடியுமா என்பதன் அடிப்படையில் அல்ல - ஒரு API ஆதரிக்கும் எதையும் செய்ய முடியும் - ஆனால் அது தவறாகிவிட்டால் என்ன நடக்கும் மற்றும் செயல்தவிர்க்க முடியாது. இங்குதான் பெரும்பாலான அனுமதிகள் முடிவுகள் தொடங்கப்பட வேண்டும் மற்றும் அவை ஒருபோதும் செய்யாது. 2. செயல் ஒரு வகுப்பைச் சேர்ந்ததா என்பதை முடிவு செய்யுங்கள். 3. அப்போதுதான்**, முதல் இரண்டு வாயில்களைக் கடக்கும் செயல்களுக்கு, குறிப்பிட்ட நோக்கங்கள் மற்றும் டோக்கன்களுக்கு குறைந்தபட்ச சிறப்புரிமையைப் பயன்படுத்தவும்.

1 மற்றும் 2 படிகளைத் தவிர்ப்பது, "அந்த ஒரு கோப்புறைக்கான அனுமதியை மட்டும் நீக்க வேண்டும்" என்ற ஏஜெண்டுடன் நீங்கள் முடிவடையும் மற்றும் மோசமான நாளுக்குப் பிறகு நீங்கள் திரும்பப் பெற முடியாத ஒன்றை அகற்றிவிட்டீர்கள்.

மற்ற அனைத்தையும் தீர்மானிக்கும் வெடிப்பு-ஆரம் வகைபிரித்தல்

அடிப்படையில் நான்கு வகையான செயல்கள் உள்ளன, மேலும் ஒரு ஏஜென்ட் எப்போதாவது செயலைத் தொட வேண்டுமா என்பதை வகுப்பே தீர்மானிக்கிறது, API இன் நோக்கம் பட்டியல் அல்ல.

வகுப்பு 1 — முகவராலேயே, சில நொடிகளில் திரும்பப்பெறும். முகவர் வரைவைத் திருத்துகிறார். முகவர் ஒரு வினவலை இயக்கி முடிவை ஆய்வு செய்கிறார். முகவருக்குச் சொந்தமான ஒரு கோப்பில் முகவர் உள்ளடக்கத்தை உருவாக்குகிறார். மோசமான கிளாஸ் 1 செயலில் இருந்து மீள்வது ஏஜென்ட் மீண்டும் முயற்சிக்கிறது. ஏஜென்ட்டின் சொந்த சாண்ட்பாக்ஸை விட்டுச் செல்லாததால், அர்த்தமுள்ள வெடிப்பு ஆரம் இல்லை. இவற்றை இலவசமாக வழங்குங்கள்; அவ்வாறு செய்யாதது AI முகவர்களை பயனற்றதாக உணர வைக்கிறது.

வகுப்பு 2 — நிமிடங்களில் ஒரு மனிதனால் மீளக்கூடியது. முகவர் கிட் செய்ய உறுதியளிக்கிறார். முகவர் ஒரு கிளைக்கு தள்ளுகிறார். முகவர் ஒரு வரைவை CMSக்கு பதிவேற்றுகிறார். முகவர் ஒரு மின்னஞ்சலை "அனுப்புவதற்கு முன் மதிப்பாய்வு" வரிசையில் வரிசைப்படுத்துகிறார். மீட்பு என்பது ஒரு மனிதன் கவனிக்கிறான், மாற்றுகிறான் அல்லது மதிப்பாய்வு செய்கிறான். குண்டுவெடிப்பு ஆரம் உண்மையானது ஆனால் வரம்புக்குட்பட்டது - ஒரு மோசமான உறுதியானது ஒரு மோசமான உறுதிப்பாடு, மேலும் git revert என்பது மூன்று நிமிடங்கள் செலவாகும் உண்மையான பதில். மனித நோட்டீஸை அனுமதிக்கும் தணிக்கை பாதையுடன் இவற்றை வழங்கவும்.

வகுப்பு 3 — உண்மையான செலவில் மணிநேரங்கள் அல்லது நாட்களில் மாற்றியமைக்கப்படும். முகவர் பொதுவில் இடுகையிடுகிறார். முகவர் உண்மையான பட்டியலுக்கு மின்னஞ்சல் அனுப்புகிறார். முகவர் நேரடி தயாரிப்பு தரவுத்தளத்தை மாற்றியமைக்கிறார். மீட்டெடுப்பு என்னவென்றால், ஒரு நபர் தன்னைத்தானே விளைவுகளை ஏற்படுத்தக்கூடிய ஒரு செயலை கவனிக்கிறார் மற்றும் எடுக்கிறார் (பொது இடுகையை நீக்குதல், திருத்தம் மின்னஞ்சலை அனுப்புதல், இடம்பெயர்வை திரும்பப் பெறுதல்). குறிப்பிட்ட செயலின் வெடிப்பு ஆரம் சிறியதாக இருந்தால் மட்டுமே இவற்றை வழங்கவும் மற்றும் தணிக்கை பாதையானது மோசமான வழக்கை சில நிமிடங்களில் பிடிக்க உங்களை அனுமதிக்கிறது, மணிநேரங்களில் அல்ல.

வகுப்பு 4 - மாற்ற முடியாதது, அல்லது வணிகத்தை மாற்றும் செலவில் மட்டுமே மாற்றக்கூடியது. முகவர் வாடிக்கையாளர் பதிவை நீக்குகிறார். முகவர் பணத்தை நகர்த்துகிறார். முகவர் கணக்குச் சான்றுகளை மாற்றுகிறார். திருத்தம் தரையிறங்குவதற்கு முன்பு கம்பியால் எடுக்கப்பட்ட ஒன்றை முகவர் இடுகையிடுகிறார். மீட்பு என்பது நீங்கள் ஒரு வாரம் மன்னிப்பு கேட்க அல்லது பணம் செலுத்துவது, மேலும் நம்பிக்கைக்கான செலவு நிரந்தரமானது. இவற்றை வழங்காதீர்கள். எப்போதும். முகவர் எவ்வளவு திறமையானவராக இருந்தாலும் சரி, டோக்கனை எவ்வளவு குறுகலாகக் கொண்டிருந்தாலும் சரி. வகுப்பு 4 செயலை தானியக்கமாக்குவதற்கான வசதி, ஒருமுறை தவறாகப் பெறுவதற்கான செலவுக்கு மதிப்பு இல்லை.

வகுப்புகளுக்கு இடையிலான கோடுகள் நடைமுறையில் தெளிவற்றதாக இல்லை. தொழில் நுட்ப ரீதியாக ஒவ்வொரு செயலையும் செய்யக்கூடிய கருவிகளை உங்களுக்கு விற்பனை செய்து, எதைத் தீர்மானிக்க உங்களை அனுமதிக்கிறது என்பது அவர்களுக்கு தெளிவில்லாத உணர்வை ஏற்படுத்துகிறது. மேலே உள்ள வகைபிரித்தல் கருவிக்கு முந்தைய முடிவு - வகுப்பு 4 செயலைத் தொடக்கூடிய ஒற்றை வரி குறியீட்டை எழுதும் முன், செயல் குறியீட்டில் உள்ளதா என்று நீங்களே கேட்டுக்கொள்ளுங்கள்.

எனது முகவர்களைச் செய்ய நான் அனுமதித்த குறிப்பிட்ட விஷயங்கள்

உறுதியான தன்மைக்காக, இந்த தளத்தில் நான் வழங்கிய சரியான நோக்கம், மேலே உள்ள வகுப்புகளுக்கு வரைபடமாக்கப்பட்டுள்ளது. இது ஒரு டெம்ப்ளேட் அல்ல - உங்கள் செயல்பாடு வேறுபட்டது - ஆனால் இது கட்டமைப்பிற்கு ஒரு சிறந்த எடுத்துக்காட்டு.

வகுப்பு 1, வழங்கப்பட்டது: படிக்கும் எதையும். ரெப்போ கோப்புகளைப் படிக்கவும், தளவரைபடத்தைப் படிக்கவும், வரிசைப்படுத்தல் பதிவுகளைப் படிக்கவும், டைஜெஸ்டைப் படிக்கவும், பணிப்பட்டியலைப் படிக்கவும், பேக்லாக்கைப் படிக்கவும். வெளியீட்டு முகவர் தன்னால் முடிந்த அனைத்தையும், எல்லா நேரத்திலும் படிக்கிறார், மேலும் வாசிப்புகள் எதையும் மாற்றாது என்பதால் மீட்புச் செலவு எதுவும் இல்லை.

வகுப்பு 1, வழங்கப்பட்டது: ஏஜெண்டின் அமர்வுக்குச் சொந்தமான கோப்புகளுக்கு எழுதும் மற்றும் உறுதியளிக்கும் முன் ஆய்வு செய்யப்படும். வரைவு இடுகைகள், உருவாக்கப்பட்ட கவர்கள், உருவாக்கப்பட்ட OG கார்டுகள், புதுப்பிக்கப்பட்ட பேக்லாக் மெட்டாடேட்டா. மோசமான வழக்கு ஒரு மோசமான வரைவு; மீட்டெடுப்பு "கோப்பை நீக்கவும், மீண்டும் முயற்சிக்கவும்".

வகுப்பு 2, வழங்கப்பட்டது: பில்ட் கேட் கடந்து செல்லும் போது mainக்கு உறுதியளிக்கிறது. இதுதான் முக்கியமான ஒன்று. npm run build பூஜ்ஜியத்தை வழங்கும் குறிப்பிட்ட நிபந்தனையின் அடிப்படையில், Cloudflare பக்கங்கள் பயன்படுத்தும் கிளைக்கு எழுதும் திறனை நான் வெளிப்படையாக முகவருக்கு வழங்குகிறேன். பில்ட் கேட் இது 3 ஆம் வகுப்புக்கு பதிலாக கிளாஸ் 2 செயலாக ஆக்குகிறது: ஒரு உடைந்த வரிசை check-posts , check-links மற்றும் check-search ஆல் பிடிபடும், அது தரையிறங்குவதற்கு முன்பு, மேலும் கேட்களைக் கடந்து செல்லும் ஒரு மோசமான உறுதி இன்னும் சில நிமிடங்களில் git revert-இயக்கும்.

வகுப்பு 2, வழங்கப்பட்டது: origin/mainக்கு தள்ளுகிறது. அதே காரணம் - வரிசைப்படுத்தல் பைப்லைன் தொலைவில் அதன் சொந்த கட்டுமான வாயிலைக் கொண்டுள்ளது, மேலும் கிளவுட்ஃப்ளேர் பக்கங்கள் ரோல்பேக்கிற்கான முந்தைய வரிசைப்படுத்தல்களைத் தக்கவைத்துக்கொள்கின்றன. ஒரே கிளிக்கில் எந்த ஒரு வரிசைப்படுத்தலையும் செயல்தவிர்க்கும்.

வகுப்பு 2, வழங்கப்பட்டது: GitHub API ஆனது பணிப்பட்டியலில் கமிட்களை உருவாக்க, சிக்கல்களைத் திறக்க, சிக்கல் நிலையைப் புதுப்பிக்க அழைக்கிறது. இவை அனைத்தும் ரெப்போ வரலாற்றில் தணிக்கை செய்யக்கூடியவை மற்றும் கையால் செய்ய முடியாதவை.

வகுப்பு 3, கருதப்பட்டது மற்றும் வழங்கப்படவில்லை: LinkedIn அல்லது எனது பெயரில் எந்த சமூக தளத்திலும் வெளியிடுதல். LinkedIn இல் ஒரு மோசமான இடுகையின் மீட்புச் செலவு நீக்கப்பட்ட இடுகையாகும், அதைப் பார்த்த அனைவரும் ஸ்கிரீன்ஷாட்-பகிர்வு செய்யப்பட்டனர், மேலும் நற்பெயர் வரியும். "கட்டுரையை லிங்க்ட்இன் புதுப்பிப்பாக இடுகையிடவும்" என்பதை தானியங்குபடுத்தும் வசதிக்கு மதிப்பு இல்லை. தளத்தின் AUTOMATION-PLAN ஆவணம் "இது லிங்க்ட்இன் அல்லது மின்னஞ்சலைத் தொடாது" என்று வெளிப்படையாகக் கூறுவது இதுதான் - வகுப்பு கருதப்பட்டு நிராகரிக்கப்பட்டது, செயல்தவிர்க்கப்படவில்லை.

வகுப்பு 3, கருதப்படுகிறது மற்றும் வழங்கப்படவில்லை: செய்திமடல் பட்டியலுக்கு மின்னஞ்சல் அனுப்புதல். அதே நியாயம். தவறான மின்னஞ்சலில் இருந்து உண்மையான பட்டியலுக்கு மீட்டெடுப்பது, "இவர்களால் தங்கள் கணினிகளை நேராக வைத்திருக்க முடியாது" என்றும், நிரந்தரமாக இருக்கும் குழுவிலகுபவர்கள் என்றும் மக்கள் படிக்கும் திருத்த மின்னஞ்சலாகும். ஒரு மனித கிளிக்குகள் அனுப்பும்போது செய்திமடல்கள் அனுப்பப்படும்.

வகுப்பு 4, கடினமாகத் தடுக்கப்பட்டது: எந்த வெளியிடப்பட்ட இடுகையையும் நீக்குதல், ஏதேனும் சந்தாதாரர் பதிவை நீக்குதல், _headers , _redirects , functions/ , அல்லது package.json சார்புகளுக்கு வெளிப்படையான மறுஆய்வு இல்லாமல் மாற்றங்கள். முகவர் இவற்றை முன்மொழியலாம் - ஒரு ரன் பதிவு உள்ளீட்டில் - ஆனால் அவற்றைக் கொடுக்கும் உறுதியானது நான் படித்த ஒன்றாக இருக்க வேண்டும், முகவர் எழுதியது அல்ல. இது முகவர் மீதான உண்மையான உராய்வு, இது நான் விரும்பும் உராய்வு.

வகுப்பு 4, கடினமாகத் தடுக்கப்பட்டது: Cloudflare கணக்கு அமைப்புகள், DNS அல்லது அணுகல் விதிகள் ஆகியவற்றுடன் செய்ய வேண்டிய அனைத்தும். கணக்குச் சான்றுகள் முகவர் சூழலில் இல்லை. அவர்கள் மாற வேண்டும் என்றால், நான் மாற்றுகிறேன்.

ஒரு முகவருக்கு எந்த செயலையும் வழங்குவதற்கு முன் கேட்க வேண்டிய இரண்டு கேள்விகள்

ஒரு புதிய திறனைச் சேர்க்க ஏஜென்ட்டின் அனுமதிகளை நீட்டிக்கும் முன், இவை இரண்டிற்கும் ஒவ்வொன்றிற்கும் ஒரு பத்தியில் பதிலளிக்கும்படி உங்களை கட்டாயப்படுத்துங்கள். சரிபார்ப்பு பட்டியல் அல்ல - உண்மையான வாக்கியங்கள்.

கேள்வி 1: இந்தச் செயலின் மோசமான நம்பத்தகுந்த விளைவு என்ன, மற்றும் மீட்பு எவ்வளவு காலம் எடுக்கும்? சராசரி விளைவு அல்ல; மோசமான நம்பத்தகுந்த ஒன்று. நீங்கள் கவனிக்கும் முன் முகவரால் கோட்பாட்டளவில் செயலை பத்தாயிரம் முறை செய்ய முடிந்தால், அந்த எண்ணைப் பயன்படுத்தவும், ஒன்றை அல்ல. "முகவர் ஒரு தவறான மின்னஞ்சலை அனுப்பலாம்" என்பது வகுப்பு 3 செயல்; "ஏஜென்ட் லூப் செய்து அதே தவறான மின்னஞ்சலை ஆயிரம் பெறுநர்களுக்கு அனுப்பலாம்" என்பது வகுப்பு 4 செயல் ஆகும். சுயாட்சி என்பது வர்க்கத்தை மாற்றுகிறது.

கேள்வி 2: குணமடைய எந்த வகுப்பினர் தேவைப்படுவார்கள், அவர்கள் மோசமான நாளில் கிடைக்கப் போகிறார்கள்? மீட்பு இன்னும் 2 ஆம் வகுப்பு நடவடிக்கையாக இருக்க தனிப்பட்ட முறையில் நீங்கள் 15 நிமிடங்களுக்குள் அடைய வேண்டிய மீட்பு உண்மையில் வகுப்பு 2 அல்ல - இது 3 ஆம் வகுப்பு அதிர்ஷ்ட நேர அனுமானத்துடன் உள்ளது. ஒரு மோசமான வழக்கை சரிசெய்வதற்கான நற்சான்றிதழ்கள் யாரிடம் உள்ளன என்பதையும், அவர்களை எவ்வளவு நம்பகத்தன்மையுடன் அடைய முடியும் என்பதையும் பற்றி நேர்மையாக இருங்கள்.

இரண்டு கேள்விகளுக்கும் ஒரு பத்தியில் உங்கள் திருப்திக்கு பதிலளிக்க முடியாவிட்டால், "நான் செயலுக்கு அனுமதி வழங்க வேண்டுமா?" இல்லை என்பது.

நான் உண்மையில் பார்த்த மூன்று தோல்வி முறைகள்

தோல்வி முறை 1: "இது டெமோவிற்கு மட்டுமே". ஒரு ஏஜென்ட் வளர்ச்சியின் போது தேவையானதை விட விரிவான அனுமதியைப் பெறுகிறார், ஏனெனில் இது எல்லாவற்றையும் வழங்குவது வேகமாகவும் பின்னர் குறுகியதாகவும் இருக்கும். பின்னர் டெமோ வேலை செய்கிறது, டெமோ ஸ்டேஜிங் ஆகிறது, ஸ்டேஜிங் தயாரிப்பாக மாறுகிறது, மேலும் ஏஜென்ட் ஒரு வழக்கைத் தாக்கும் நாள் வரை அனுமதிகளைக் குறைக்க யாரும் நினைவில் கொள்ள மாட்டார்கள், அதன் பிறகு அவர் மறுத்திருப்பார். வளர்ச்சியின் போது கூட, முதல் வரியிலிருந்து குறுகியதாக வழங்கவும் - தொடக்கத்தில் பத்து நிமிடங்கள் ஆகும், மேலும் நேரலைக்குப் பிறகு அது சாத்தியமற்றது, ஏனெனில் இப்போது உண்மையான வேலை அதைப் பொறுத்தது.

தோல்வி முறை 2: "நோக்கத்தில் அழிவுச் செயல்கள் இல்லை". GitHub இன் repo நோக்கம், எடுத்துக்காட்டாக, கிளைகளை நீக்குதல், கட்டாயப்படுத்துதல், கோப்புகளை நீக்குதல் ஆகியவை அடங்கும். இது ஒரு படிக்க-எழுதுவதற்கான நோக்கம் போல் தெரிகிறது மற்றும் இது உண்மையில் "இந்த களஞ்சியத்தில் எதையும் செய்" நோக்கமாகும். ஸ்கோப்பின் உண்மையான அனுமதிகளை வழங்குவதற்கு முன் படிக்கவும், நோக்கத்தின் பெயரை அல்ல. பெரும்பாலான OAuth நோக்கங்கள் அழைப்பாளர் அனுமதிக்காத செயல்களைத் தொகுக்கிறது; வெடிப்பு ஆரம் வாழும் இடத்தில் மூட்டை உள்ளது.

தோல்வி முறை 3: "நாங்கள் பின்னர் கண்காணிப்பைச் சேர்ப்போம்". தணிக்கைத் தடம் இல்லாமல் வழங்கப்படும் எந்த வகுப்பு அல்லது வகுப்பு 3 அனுமதியும் ஒரு மோசமான செயலைக் கவனிக்க அனுமதிக்கும் 4 ஆம் வகுப்புச் செயலாகும், ஏனெனில் யாரோ ஒருவர் கவனிக்கும் வரை மீட்புக் கடிகாரம் தொடங்காது, மேலும் யாரும் கவனிக்கவில்லை என்றால் மீட்பு இல்லை - திரண்ட சேதம் உள்ளது. தணிக்கைச் சுவடு என்பது செயல்பாட்டின் அளவிற்கு வகுப்பை வரையறுக்கிறது. இது what to log when an AI agent acts on your behalf இல் உள்ள முழு வாதமாகும்: பதிவு செய்வது ஆவணப்படுத்தல் அல்ல, இது கட்டுப்படுத்தும் அளவீடு ஆகும்.

"மனிதன் இங்கு சொந்தமா?" கேள்வி

நீங்கள் ஒரு செயலை வகைப்படுத்தியவுடன், ஒரு குறிப்பிட்ட முடிவு நன்றாக இயங்கும் ஆட்டோமேஷனை தியேட்டரில் இருந்து பிரிக்கிறது: நீங்கள் ஒரு மனிதனை வளையத்தில் வைக்கிறீர்களா?

தொழில்துறை இயல்புநிலை: ஆம், வகுப்பு 3 அல்லது அதற்கு மேற்பட்டவற்றில். அது தவறான பதில், அதே காரணத்திற்காக "ஒரு மறுஆய்வு படியைச் சேர்ப்பது" மற்ற எல்லா இடங்களிலும் தோல்வியடைகிறது - ஒரு வாரத்திற்கு இருநூறு விஷயங்களை அங்கீகரிக்க வேண்டிய ஒரு மனிதன் ஒரு கட்டுப்பாடு அல்ல, அவை ஒரு நாற்காலியுடன் கூடிய ரப்பர் ஸ்டாம்ப். மனிதனால் நல்ல வெளியீட்டை கெட்டதில் இருந்து சொல்ல முடிந்தால் மட்டுமே மனித சோதனை உண்மையானதாக இருக்கும், மேலும் ஒலி அளவு குறைவாக இருந்தால் அவர்கள் கவனம் செலுத்த முடியும்.

நடைமுறையில் செயல்படும் இரண்டு விதிகள்:

1. மனிதன் மறுக்கும் போது மனித சோதனை என்பது ஒரு கட்டுப்பாடு மட்டுமே. மறுப்பது விலை உயர்ந்ததாக இருந்தால் (வெளியீட்டைத் தடுக்கிறது, வாடிக்கையாளரைத் தாமதப்படுத்துகிறது, கடினமான உரையாடல் என்று பொருள்), மனிதன் வழக்கமாக மறுக்க மாட்டான், எனவே காசோலை தியேட்டர் ஆகும். மதிப்பாய்வாளரின் வேலை சரியாக இருக்க வேண்டும், பிரபலமாக இருக்கக்கூடாது, மறுப்பது உண்மையான இலவசம் - காசோலை வேலை செய்யும். 2. வாரத்திற்கு 20 பொருட்களை ஒரு மனித சோதனை ஒரு கட்டுப்பாடு; ஒரு வாரத்திற்கு 200 பொருட்களை மனிதனால் சரிபார்க்க முடியாது. ஒரு வாசலுக்கு கீழே, மனிதர்கள் கவனம் செலுத்துகிறார்கள். அதற்கு மேல் படிப்பதை நிறுத்தி விடுகிறார்கள். பணியின்படி வரம்பு மாறுபடும் ஆனால் பெரும்பாலான அமைப்புகள் கருதுவதை விட இது மிகவும் குறைவு — நான் "இவை ஒவ்வொன்றையும் தனித்தனியாகத் திறக்க வேண்டும் என்றால், அது வாசலின் கீழ் உள்ளது; நான் ஸ்கிம் செய்தால், அது இல்லை" என்று பயன்படுத்துகிறேன்.

மனித சோதனை தியேட்டர் என்றால், நேர்மையான பதில் "சிறந்த சரிபார்ப்பு பட்டியலைச் சேர்" அல்ல. இது ஒன்று: குறிப்பிட்ட முடிவை முழுவதுமாக தானியக்கமாக்குங்கள் (காசோலையானது மதிப்பைச் சேர்க்கவில்லை; அதை அகற்றவும்), அல்லது ஒரு மனிதனால் அதைச் செய்யும் வரை ஒலியளவைக் குறைக்கவும் (காசோலை முக்கியமானது; தொகுதி பிரச்சனை, காசோலை அல்ல). ரப்பர்-ஸ்டாம்ப் படியுடன் கூடிய ஆட்டோமேஷன் ஒன்று இல்லாமல் ஆட்டோமேஷனை விட மோசமானது, ஏனென்றால் படியின் இருப்பு வடிவமைப்பிலிருந்து பழியைத் திசைதிருப்புகிறது, இது ஒலியளவை அதிகமாக்கியது.

குறிப்பிட்ட கலைப்பொருட்கள் ஒரு அனுமதி முடிவுக்குத் தேவை

ஒரு முகவருக்கு நீங்கள் வழங்கும் ஒவ்வொரு செயல் வகுப்பிற்கும், மூன்று குறிப்பிட்ட கலைப்பொருட்கள் இருக்க வேண்டும். மூவரில் யாரேனும் விடுபட்டிருந்தால், அனுமதி பொறுப்புடன் வழங்கப்படவில்லை - அது நம்பிக்கையுடன் வழங்கப்பட்டுள்ளது.

கலைப்பொருள் 1 - முகவருக்கு வெளியில் இருந்து வரும் தணிக்கைத் தடம். ஏஜென்ட்டின் சொந்தப் பதிவு அல்ல. ஒரு வெளிப்புற பதிவு - ஒரு ஜிட் வரலாறு, ஒரு API மறுமொழி பதிவு, செய்தி ஐடிகள் கொண்ட மின்னஞ்சல் வரிசை - இது முகவர் இறக்கும் போது, ​​செயல்முறை கொல்லப்படும், இயந்திரம் சக்தியை இழக்கும். செயலின் உண்மையான சான்றுகள் நடிகருக்கு வெளியே வாழ்கின்றன. what to log when an AI agent acts on your behalf இல் முழு வாதத்தையும் பார்க்கவும்; மிகக் குறுகிய பதிப்பு என்னவென்றால், முகவர் தனது சொந்த செயல்களுக்கு மிகக் குறைந்த நம்பகமான சாட்சி.

கலைப்பொருள் 2 — மீட்டெடுப்பு செயல்முறை, எழுதப்பட்டது. ஒரு செயல் வகுப்பிற்கு ஒரு பத்தி ஆவணம்: "செயல் X தவறாக இருந்தால், Y மற்றும் Z ஐ அந்த வரிசையில் செய்து, W நிமிடங்களில் மீட்பு முடிவடையும் என்று எதிர்பார்க்கலாம்." செயல்முறை இல்லை என்றால், செயலை உண்மையில் மீட்டெடுக்க முடியாது - அது மீட்கப்படவில்லை ஆனால் இன்னும் கண்டறியப்படவில்லை. முதல் முறையாக நீங்கள் அனுமதி வழங்குவதற்கு முன் செயல்முறையை எழுதுங்கள், உங்களுக்குத் தேவையான முதல் முறைக்குப் பிறகு அல்ல.

ஆர்ட்ஃபாக்ட் 3 — கில் ஸ்விட்ச். இந்தச் செயலைச் சில நொடிகளில் செய்ய ஏஜென்ட்டின் திறனை நீங்கள் திரும்பப் பெறக்கூடிய ஒரு பெயரிடப்பட்ட இடம். என்னைப் பொறுத்தவரை, இந்தத் தளத்தில், கொலைச் சுவிட்சுகள்: GitHub OAuth டோக்கனைச் சுழற்றுவது (அனைத்தையும் எழுதும் அணுகலைக் கொல்லும்), Cloudflare API டோக்கனைச் சுழற்றுவது (வரிசைப்படுத்துதல் சரிபார்ப்பைக் கொல்லும்), மற்றும் தினசரி இயங்கும் கிரானை முடக்குவது (தூண்டுதலைக் கொல்லும்). இவை மூன்றும் ஆவணப்படுத்தப்பட்டுள்ளன, இவை மூன்றும் ஒவ்வொன்றும் ஒரு கட்டளை, மேலும் இவை மூன்றும் நான் ஒரு முறையாவது பயன்படுத்திய விஷயங்கள்.

ஒரு உண்மையான கொலை சுவிட்ச் இல்லாமல், அனுமதி ஒரு அனுமதி அல்ல - இது ஒரு நியாயமான செயலாகும். ஒரு நிமிடத்திற்குள் உங்களால் திரும்பப் பெற முடியாத எதையும் கொடுங்கள்.

ஒரே கடினமான ஒன்று: நிற்பதற்கு எதிராக சரியான நேரத்தில் அனுமதிகள்

ஏஜென்ட் அனுமதிகளில் மிகவும் பொதுவான தவறு என்னவென்றால், 3 ஆம் வகுப்பு நடவடிக்கைக்கு நிலையான அணுகலை வழங்குவதாகும், எனவே முகவர் "தேவைப்படும் போது அதைக் கையாளலாம்". வகுப்பு 3 செயல்கள் வகுப்பு 4 சிக்கல்களாக மாறுவதற்கு ஸ்டாண்டிங் அனுமதிகள் காரணமாகும்: செயலற்ற அல்லது சமரசம் செய்யப்பட்ட முகவர் நிற்கும் சிறப்புரிமையில் அமர்ந்திருப்பது சும்மா இல்லை - அது வெளிப்படும். இதனால்தான் Microsoft's own guidance மற்றும் industry security research on AI agent identities இரண்டும் ஒரே பரிந்துரையில் ஒன்றிணைகின்றன: குறுகிய TTL மற்றும் தானியங்கு திரும்பப் பெறுதலுடன், தேவைப்படும் தருணத்திற்கு மட்டுமே உயர்ந்த அனுமதிகளை வழங்கவும்.

சரியான நேர மாடல்: ஏஜென்ட் தனக்குத் தேவைப்படும்போது அனுமதியைக் கேட்கிறார், சில நிமிடங்களில் அல்லாமல் சில நிமிடங்களில் வாழ்நாளைக் கொண்ட டோக்கனைப் பெறுவார், மேலும் டோக்கனைப் பயன்படுத்த வேண்டுமா இல்லையா என்பதைப் பொறுத்து டோக்கன் காலாவதியாகிவிடும். அடுத்த ஒரு மணிநேரத்திற்கு ஏஜெண்டிற்கு அனுமதி தேவையில்லை என்றால், எந்த வெளிப்பாடும் இல்லை. அந்த நேரத்தில் ஏஜென்ட் சமரசம் செய்துகொண்டால், தாக்குபவர் டோக்கனைப் பெறுவார், அது அவர்கள் முன்னிலைப்படுத்துவதற்கு முன்பு காலாவதியாகும்.

இதை அமைப்பதற்கு அதிக வேலை உள்ளது. மோசமான நாளைத் தப்பிப்பிழைக்கும் அனுமதி மாதிரிக்கும் மோசமான நாளை மோசமான காலாண்டாக மாற்றுவதற்கும் உள்ள வித்தியாசம் இதுவாகும். உங்கள் முகவருக்காக நீங்கள் ஒரு வெளிப்படையான உள்கட்டமைப்பை மட்டுமே உருவாக்கப் போகிறீர்கள் என்றால், இதுதான்.

அடுத்த செவ்வாய் என்ன செய்ய வேண்டும்

நீங்கள் ஏற்கனவே உங்கள் சொந்த கணினியில் முகவர்களை இயக்கினால், பின்வரும் இரண்டு பயிற்சிகளை இந்த வாரம் செய்யுங்கள்.

பயிற்சி 1. உங்கள் முகவர் தற்போது செய்யக்கூடிய ஒவ்வொரு செயலையும் எழுதுங்கள். கருவி பெயர்கள் அல்ல - செயல்கள். "ஜிட் செய்ய உறுதியளிக்கவும்." "எனது பகுப்பாய்வு முடிவுப் புள்ளிக்கு ஒரு HTTP இடுகையை அனுப்பு." "ஒரு தரவுத்தள வரிசையைப் படிக்கவும்." "ஒரு தரவுத்தள வரிசையை எழுது." ஒவ்வொன்றிற்கும், மேலே உள்ள வகைப்பாட்டிலிருந்து வகுப்பைக் குறிக்கவும்.

பயிற்சி 2. பட்டியலில் உள்ள ஒவ்வொரு வகுப்பு 3 அல்லது வகுப்பு 4 செயல்களுக்கும், மூன்று கலைப்பொருள் சோதனைக்கு பதிலளிக்கவும்: வெளியில் இருந்து தணிக்கை பாதை, எழுதப்பட்ட மீட்பு செயல்முறை, கொலை சுவிட்ச். மூன்றில் ஏதேனும் ஒரு செயலில் தோல்வியுற்றால், செயலை தரமிறக்க வேண்டும் (கலைப்பொருட்கள் இருக்கும் வரை அனுமதியை ரத்து செய்யவும்) அல்லது அடுத்த ஓட்டத்திற்கு முன் கலைப்பொருளை உருவாக்க நேரம் எடுக்கவும்.

உடற்பயிற்சி ஒரு மணிநேரம் எடுத்தால், உங்களுக்கு ஒரு சிறிய அறுவை சிகிச்சை உள்ளது, இது ஒரு மணிநேரம் ஆகும். ஒரு வாரம் எடுத்தால், உங்களுக்கு ஒரு பெரிய அறுவை சிகிச்சை உள்ளது, இப்போது அதைச் செய்வதில் உள்ள தாமதமானது, நீங்கள் தயார் செய்யாத முதல் மோசமான நாளின் செலவை விட சிறியதாக இருக்கும்.

இது மற்ற வேலைகளுடன் பொருந்துகிறது

அனுமதிகள் எல்லை என்பது கவனிக்கப்படாத ஏஜெண்டுகளை இயக்குவதைக் கட்டுப்படுத்தும் பக்கமாகும். what to log when an AI agent acts on your behalf இல், தணிக்கைத் தடம் கண்டறியும் பக்கமாகும் - முகவர் அதைச் செய்ததை ஏன் என்று உங்களுக்குச் சொல்வது பதிவு; அனுமதிகள் என்பது முகவர் என்ன செய்திருக்க முடியும் என்ற வரம்பு. அவை ஒன்று சேர்ந்துதான் ஒரு தன்னாட்சி அமைப்பைச் செயல்பட வைக்கின்றன.

உங்கள் பிரச்சனை அப்ஸ்ட்ரீம் என்றால் — எந்தப் பணிகளை ஒரு ஏஜென்டிடம் ஒப்படைக்க வேண்டும் என்பதை நீங்கள் இன்னும் முடிவு செய்யவில்லை — how to automate your work with AI இல் உள்ள ஃப்ரேமிங் என்பது முந்தைய கேள்வி. உங்கள் குறிப்பிட்ட தோல்விப் பயன்முறையானது பச்சை நிறத்தில் இயங்கும் மற்றும் எதுவும் செய்யாத பணிப்பாய்வு என்றால் - ஒரு அமைதியான வகுப்பு 2 செயல் நிறைவு செய்யப்பட்டதாகக் காட்டிக் கொள்கிறது - நோயறிதல் the automation failure nobody catches இல் இருக்கும்.

அடிக்கடி கேட்கப்படும் கேள்விகள்

சரியான நேர ஏஜென்ட் டோக்கன் எவ்வளவு காலம் வாழ வேண்டும்?

குறிப்பிட்ட செயலுக்கு நீண்ட நேரம் போதும், இனி இல்லை. ஒரு கமிட்-அண்ட்-புஷ் சுழற்சிக்கு அது நிமிடங்கள் ஆகும்; ஒரு லூப்பில் இயங்கும் ஒரு தொகுதி வேலைக்கு, இது லூப்பின் நீளம் மற்றும் ஒரு சிறிய இடையகமாகும். நிமிடங்களில் எண்ணைக் குறிப்பிட முடியாவிட்டால், டோக்கன் உடை அணிந்து நிற்கும் அணுகல்.

ஒவ்வொரு வகுப்பு 3 செயலிலும் நான் மனித மதிப்பாய்வு படியை வைக்க வேண்டுமா அல்லது அதை முழுமையாக தானியக்கமாக்க வேண்டுமா?

இயல்பாகவும் இல்லை. மதிப்பாய்வாளர் தண்டனையின்றி உண்மையாக மறுத்து, ஒவ்வொரு பொருளையும் படிக்கும் அளவுக்கு ஒலி குறைவாக இருந்தால், மதிப்பாய்வை வைத்திருங்கள். இல்லையெனில் ஒன்றைத் தேர்ந்தெடுக்கவும்: முடிவை முழுவதுமாக தானியங்குபடுத்துங்கள் அல்லது மதிப்பாய்வு உண்மையானதாக இருக்கும் வரை ஒலியளவைக் குறைக்கவும். ஒரு ரப்பர்-ஸ்டாம்ப் படி எந்த படியையும் விட மோசமானது, ஏனெனில் அது பொறுப்பை சலவை செய்கிறது.

எனது ஏஜெண்டுக்கு ஒரு குறிப்பிட்ட எட்ஜ் கேஸுக்கு வகுப்பு 4 அனுமதி தேவைப்பட்டால் என்ன செய்வது?

பின்னர் அந்த விளிம்பு வழக்கு தானியங்கு அல்ல. முகவர் செயலைத் தயாரிக்கலாம், கோரிக்கையைப் பதிவு செய்யலாம் மற்றும் ஒரு மனிதனைப் பக்கம் செய்யலாம் - ஆனால் உறுதி, அனுப்புதல் அல்லது நீக்குதல் ஆகியவை மனிதனால் செய்யப்படுகின்றன. ஒரு கிளாஸ் 4 கேஸை தானியக்கமாக்குவதற்கான வசதி, அவை அனைத்தையும் செயல்படுத்தக்கூடிய பிளம்பிங்கை உருவாக்குவது மதிப்புக்குரியது அல்ல.

ஒரு ஏஜென்ட் டோக்கனுக்கு எத்தனை செயல்கள் அதிகம்?

வகுப்புகளை எண்ணுங்கள், செயல்களை அல்ல. கிளாஸ் 1 மற்றும் கிளாஸ் 2 செயல்களின் கலவையை ஒரு டோக்கன் வைத்திருப்பது நல்லது; வகுப்பு 2 மற்றும் வகுப்பு 3 வரையிலான ஒற்றை டோக்கன், வெடிப்பு ஆரம் அமைதியாக ஊடுருவுகிறது, ஏனெனில் இரண்டின் தணிக்கை எதிர்பார்ப்புகள் வேறுபட்டவை. டோக்கன்களை வகுப்பு எல்லைகளுடன் பிரிக்கவும், அம்ச எல்லைகளுடன் அல்ல.

ஏஜெண்ட் ஒரு கால அட்டவணையில் மட்டுமே இயங்கினால் எனக்கு கில் சுவிட்ச் தேவையா?

ஆம். நீங்கள் அணுகலைத் திரும்பப்பெற வேண்டிய நேரத்தில், ஏற்கனவே நீக்கப்பட்ட மற்றும் மிட்-லூப்பில் இருக்கும் திட்டமிடப்பட்ட முகவர், "அடுத்த சாளரத்திற்காகக் காத்திரு" என்பது கில் சுவிட்ச் அல்ல. டோக்கனைச் சுழற்றுவது அல்லது தூண்டுதலை முடக்குவது ஒரு ஆவணப்படுத்தப்பட்ட கட்டளையாக நீங்கள் ஒரு முறையாவது இயக்கவில்லை என்றால், உங்களிடம் ஒன்று இல்லை.

முகவர் அதன் சொந்த தணிக்கை பதிவை எழுத வேண்டுமா அல்லது நான் வெளிப்புற அமைப்புகளை நம்ப வேண்டுமா?

வெளிப்புற அமைப்புகள். முகவர் தனது சொந்த செயல்களுக்கு மிகக் குறைந்த நம்பகமான சாட்சியாக இருக்கிறார் - செயலிழந்த, கொல்லப்பட்ட அல்லது சமரசம் செய்யப்பட்ட முகவர் தனது பதிவை எழுதி முடிக்க மாட்டார். Git வரலாறு, API மறுமொழி பதிவுகள் மற்றும் செய்தி வரிசைகள் ஆகியவை முகவர் இறக்கும் போது உயிர்வாழும்; முகவரின் சொந்த பதிவு ஒரு வசதி, ஆதாரம் அல்ல.

நான் ஏற்கனவே வழங்கிய அனுமதிகளை தணிக்கை செய்வதற்கான விரைவான வழி எது?

முகவர் தற்போது எளிய ஆங்கிலத்தில் செய்யக்கூடிய ஒவ்வொரு செயலையும் பட்டியலிடவும், ஒவ்வொன்றையும் வகைப்பாட்டிலிருந்து ஒரு வகுப்பைக் குறிக்கவும், மேலும் ஒவ்வொரு வகுப்பு 3 அல்லது வகுப்பு 4 வரிசையிலும் மூன்று கலைப்பொருட்களைச் சரிபார்க்கவும் - வெளிப்புற தணிக்கை பாதை, எழுதப்பட்ட மீட்பு செயல்முறை, ஒரு கட்டளை கொலை சுவிட்ச். கலைப்பொருள் இருக்கும் வரை எந்த வரிசையும் ஒரு கலைப்பொருளைக் காணவில்லை என்றால் அது திரும்பப் பெறப்படும். நீங்கள் தயாரிக்காத முதல் மோசமான நாளை விட இந்த வேலையின் ஒரு மணிநேரம் மலிவானது.

ஒரு வாக்கிய பதிப்பு

ஒவ்வொரு முகவர் செயலையும் ஸ்கோப் மூலம் வகைப்படுத்தும் முன், வெடிப்பு ஆரம் மூலம் வகைப்படுத்தவும்; டோக்கனை எவ்வளவு இறுக்கமாகப் பயன்படுத்தினாலும் வகுப்பு 4 செயல்களை முழுவதுமாக மறுக்கவும்; மூன்று கலைப்பொருட்கள் தேவை - வெளிப்புற தணிக்கை பாதை, எழுதப்பட்ட மீட்பு செயல்முறை, ஒரு கட்டளை கொலை சுவிட்ச் - நீங்கள் வழங்கும் ஒவ்வொரு வகுப்பு 2 மற்றும் வகுப்பு 3 அனுமதி; மற்றும் சரியான நேரத்தில் 3 ஆம் வகுப்பு செயலுக்கு நிற்கும் அணுகலை வழங்க வேண்டாம். மோசமான நாளைத் தக்கவைக்கும் அனுமதி மாதிரியானது மோசமான நாளைச் சுற்றி வடிவமைக்கப்பட்டது, நல்லதல்ல.