CTF प्रैक्टिस के लिए AI मॉडल कनेक्ट करें

एजेंट किस तरह लैंग्वेज मॉडल से बात करता है, यह चुनें। आप क्लाउड प्रोवाइडर, अपने पीसी पर चलने वाला लोकल मॉडल या इनबिल्ट मॉडल इस्तेमाल कर सकते हैं। हर विकल्प प्राइवेसी और स्पीड को प्रभावित करता है।

मॉडल कनेक्ट करने के तीन तरीके

क्लाउड API प्रोवाइडर

स्टैंडर्ड API एंडपॉइंट के जरिए क्लाउड AI प्रोवाइडर कनेक्ट करें। प्रॉम्प्ट और फ़ाइल का टेक्स्ट उस प्रोवाइडर को जाता है, इसलिए डेटा आपकी मशीन से बाहर निकलता है।

अपने पीसी पर लोकल मॉडल

अपने हार्डवेयर का इस्तेमाल करके मॉडल को लोकल रूप से चलाएं। इस विकल्प से कुछ भी मशीन से बाहर नहीं जाता, जिससे आपकी सारी सीक्रेट्स और नोट्स प्राइवेट रहते हैं। यह उन बेगिन्स के लिए बेस्ट है जो अपने डेटा पर पूरा कंट्रोल चाहते हैं और कॉन्टेक्स्ट किसी थर्ड पार्टी को नहीं भेजना चाहते। यह थोड़ा स्लो हो सकता है।

इनबिल्ट मॉडल

इनबिल्ट मॉडल का इस्तेमाल करें, जो बिना आपके एंडपॉइंट के तुरंत तैयार है। आप बाद में क्लाउड प्रोवाइडर पर स्विच भी कर सकते हैं।

अपने कनेक्शन का टेस्ट करें

एंडपॉइंट चेक करने के लिए टेस्ट बटन दबाएं। यह रिस्पॉन्स टाइम और कॉन्टेक्स्ट विंडो दिखाता है। यह आपको यह सत्यापित करने में मदद करता है कि मॉडल रीच करने योग्य है और आपके वर्कफ़्लो के लिए पर्याप्त तेज़ है, इससे पहले कि आप चैलेंजेज सॉल्व करना शुरू करें।

टास्क के लिए सही मॉडल चुनें

run_on_model का इस्तेमाल करके हार्ड स्टेप को एक बड़े मॉडल को भेजें। छोटे एडिट्स और सिंपल फ़ाइल चेंजेस के लिए छोटा मॉडल इस्तेमाल करें। इससे स्पीड और क्वालिटी बैलेंस रहती है। कॉम्प्लेक्स लॉजिक के लिए बेहतर रिजल्ट्स पाने के लिए आप स्पेसिफिक टास्क्स के लिए मॉडल बदल सकते हैं।

मॉडल्स के बीच क्वालिटी अलग-अलग होती है, इसलिए diff रिव्यू करें। Ask first का इस्तेमाल करें ताकि कुछ बदलने से पहले रुक सकें। चेंजेज एक्सेप्ट करने से पहले आउटपुट को ध्यान से चेक करें। इससे आप अपने लैब और नोट्स पर कंट्रोल बनाए रखते हैं।