Kết nối mô hình AI cho thực hành CTF
Chọn cách agent giao tiếp với mô hình ngôn ngữ. Bạn có thể dùng nhà cung cấp đám mây, mô hình cục bộ trên PC hoặc mô hình tích hợp. Mỗi tùy chọn ảnh hưởng khác nhau đến quyền riêng tư và tốc độ.
Ba cách kết nối mô hình
Nhà cung cấp API đám mây
Kết nối nhà cung cấp AI đám mây qua điểm cuối API tiêu chuẩn. Prompt và văn bản tệp được gửi đến nhà cung cấp đó, nên dữ liệu sẽ rời khỏi máy của bạn.
Mô hình cục bộ trên PC
Chạy mô hình cục bộ trên PC của bạn bằng phần cứng của riêng bạn. Không có gì rời khỏi máy khi dùng tùy chọn này, giữ bí mật và ghi chú của bạn riêng tư. Phù hợp với người mới muốn kiểm soát hoàn toàn dữ liệu và không muốn gửi ngữ cảnh ra bên thứ ba. Tốc độ có thể chậm hơn.
Mô hình tích hợp
Sử dụng mô hình tích hợp sẵn, không cần cấu hình điểm cuối riêng. Bạn có thể chuyển sang nhà cung cấp đám mây sau này.
Kiểm tra kết nối
Nhấn nút Test để kiểm tra điểm cuối. Công cụ hiển thị thời gian phản hồi và kích thước cửa sổ ngữ cảnh. Điều này giúp bạn xác minh mô hình hoạt động và đủ nhanh cho quy trình làm việc trước khi bắt đầu giải các thử thách.
Chọn mô hình phù hợp cho nhiệm vụ
Gửi các bước phức tạp cho mô hình lớn hơn bằng run_on_model. Dùng mô hình nhỏ hơn cho các chỉnh sửa nhỏ và thay đổi tệp đơn giản. Cách này cân bằng giữa tốc độ và chất lượng. Bạn có thể chuyển đổi mô hình cho từng nhiệm vụ cụ thể để đạt kết quả tốt hơn với các logic phức tạp.
Chất lượng khác nhau giữa các mô hình, vì vậy hãy xem lại diff. Dùng Ask first để tạm dừng trước các hành động thay đổi dữ liệu. Kiểm tra kỹ kết quả trước khi chấp nhận các thay đổi. Điều này giúp bạn kiểm soát phòng lab và ghi chú của mình.
