เชื่อมต่อโมเดล AI สำหรับการฝึก CTF

เลือกวิธีที่เอเจนต์สื่อสารกับโมเดลภาษา คุณสามารถใช้ผู้ให้บริการคลาวด์ โมเดลในเครื่อง หรือโมเดลในตัว ตัวเลือกแต่ละแบบส่งผลต่อความเป็นส่วนตัวและความเร็ว

3 วิธีในการเชื่อมต่อโมเดล

ผู้ให้บริการ API คลาวด์

เชื่อมต่อผู้ให้บริการ AI ผ่าน API endpoint มาตรฐาน ข้อความและเนื้อหาไฟล์จะถูกส่งไปยังผู้ให้บริการนั้น ทำให้ข้อมูลออกนอกเครื่องของคุณ

โมเดลในเครื่องของคุณ

รันโมเดลในเครื่องของคุณโดยใช้ฮาร์ดแวร์ของคุณเอง ไม่มีข้อมูลใดออกนอกเครื่องเมื่อใช้ตัวเลือกนี้ ทำให้ความลับและบันทึกของคุณเป็นส่วนตัว เหมาะสำหรับมือใหม่ที่ต้องการควบคุมข้อมูลอย่างเต็มที่และไม่ต้องการส่งบริบทไปยังบุคคลที่สาม อาจทำงานช้ากว่า

โมเดลในตัว

ใช้โมเดลในตัวที่พร้อมใช้งานโดยไม่ต้องกำหนด endpoint ของคุณเอง คุณสามารถเปลี่ยนไปใช้ผู้ให้บริการคลาวด์ได้ในภายหลัง

ทดสอบการเชื่อมต่อ

กดปุ่มทดสอบเพื่อตรวจสอบ endpoint จะแสดงเวลาตอบสนองและขนาดหน้าต่างบริบท สิ่งนี้ช่วยให้คุณยืนยันว่าโมเดลสามารถเข้าถึงได้และเร็วพอสำหรับขั้นตอนการทำงานของคุณ ก่อนเริ่มแก้ไขความท้าทาย

เลือกโมเดลให้เหมาะกับงาน

ส่งขั้นตอนที่ยากไปยังโมเดลขนาดใหญ่โดยใช้ run_on_model ใช้โมเดลขนาดเล็กสำหรับการแก้ไขเล็กน้อยและการเปลี่ยนแปลงไฟล์ง่ายๆ สิ่งนี้ช่วยปรับสมดุลระหว่างความเร็วและคุณภาพ คุณสามารถเปลี่ยนโมเดลสำหรับงานเฉพาะเพื่อให้ได้ผลลัพธ์ที่ดีขึ้นสำหรับตรรกะที่ซับซ้อน

คุณภาพแตกต่างกันไปในแต่ละโมเดล ดังนั้นให้ตรวจสอบ diff ใช้ Ask first เพื่อหยุดชั่วคราวก่อนการกระทำที่เปลี่ยนแปลงสิ่งใด ตรวจสอบผลลัพธ์อย่างระมัดระวังก่อนยอมรับการเปลี่ยนแปลง สิ่งนี้ช่วยให้คุณควบคุมห้องปฏิบัติการและบันทึกของคุณ