モデル
CTF練習用のAIモデルを接続
02
エージェントが言語モデルと通信する方法を選択してください。クラウドプロバイダー、PC上のローカルモデル、または内蔵モデルが使えます。各オプションでプライバシーと速度が変わります。
Extreme Iteration→APIエンドポイント→モデル
モデル接続の3つの方法
クラウドAPIプロバイダー
標準的なAPIエンドポイントを通じてクラウドAIプロバイダーに接続します。プロンプトとファイルのテキストはプロバイダーに送信されるため、データは外部に送信されます。
PC上のローカルモデル
PC上の自前のハードウェアでモデルをローカル実行します。このオプションではデータは外部に一切送信されず、秘密やメモはプライベートに保たれます。データの完全な制御を望み、コンテキストを第三者に送らない初心者に適しています。処理速度は遅くなる可能性があります。
内蔵モデル
独自のエンドポイント設定なしですぐに使える内蔵モデルを使用します。後からクラウドプロバイダーに切り替えることも可能です。
接続をテスト
テストボタンを押してエンドポイントを確認します。応答時間とコンテキストウィンドウが表示されます。これにより、課題の解決を開始する前に、モデルが接続可能でワークフローに十分な速度であることを確認できます。
タスクに合ったモデルを選ぶ
run_on_modelを使って、難易度の高いステップを大規模モデルに送信します。小さな編集や単純なファイル変更には小規模モデルを使いましょう。これで速度と品質のバランスが取れます。複雑なロジックでより良い結果を得るため、特定のタスクに応じてモデルを切り替えることもできます。
モデルによって品質は異なるため、差分を確認してください。変更を加えるアクションの前にAsk firstで一時停止します。変更を受け入れる前に出力を注意深く確認しましょう。これでラボとメモの制御を維持できます。