Connecter un modèle d'IA pour la pratique CTF
Choisissez comment l'agent communique avec un modèle de langage. Vous pouvez utiliser un fournisseur cloud, un modèle local sur votre PC ou le modèle intégré. Chaque option influence la confidentialité et la vitesse.
Trois façons de connecter un modèle
Fournisseur d'API cloud
Connectez un fournisseur d'IA cloud via un point de terminaison API standard. L'invite et le texte des fichiers sont envoyés à ce fournisseur, donc les données quittent votre machine.
Modèle local sur votre PC
Faites tourner un modèle en local sur votre PC avec votre propre matériel. Rien ne quitte la machine avec cette option, gardant tous les secrets et notes privés. C'est idéal pour les débutants qui veulent un contrôle total sur leurs données et ne souhaitent pas envoyer de contexte à un tiers. Cela peut être plus lent.
Modèle intégré
Utilisez le modèle intégré, prêt à l'emploi sans votre propre point de terminaison. Vous pourrez passer à un fournisseur cloud plus tard.
Tester votre connexion
Appuyez sur le bouton Test pour vérifier un point de terminaison. Il affiche le temps de réponse et la fenêtre de contexte. Cela vous aide à vérifier que le modèle est accessible et suffisamment rapide pour votre flux de travail avant de commencer à résoudre des challenges.
Choisir le bon modèle pour la tâche
Envoyez une étape complexe à un modèle plus grand en utilisant run_on_model. Utilisez un modèle plus petit pour les petites modifications et les changements de fichiers simples. Cela équilibre vitesse et qualité. Vous pouvez changer de modèle pour des tâches spécifiques afin d'obtenir de meilleurs résultats sur la logique complexe.
La qualité varie d'un modèle à l'autre, donc examinez le diff. Utilisez Ask first pour faire une pause avant les actions qui modifient quelque chose. Vérifiez soigneusement la sortie avant d'accepter les modifications. Cela vous garde maître de votre labo et de vos notes.
