仕組みの全体像(最初に読んでください)
AI社員は実モデル名を直接呼びません。全LLM呼び出しはRouteHub Coreを経由し、モデルエイリアスで解決されます。設定はすべて LLM Control ページで行います。
| エイリアス | 役割 | 実モデルの例 |
|---|---|---|
crew-fast | コストが安い高速モデル | openai/gpt-4o-mini |
crew-balanced | 中間モデル | openai/gpt-4.1-mini |
crew-strong | コストは高いが高性能なモデル | openai/gpt-4.1 |
crew-auto | プロンプト内容から難易度を判定し、上の3つへ自動振り分け | — |
LLM Control → Models & Aliases タブを開きます。「モデルエイリアス実定義」の表で、各エイリアスに実モデル(provider/model形式)とAPIキー環境変数を割り当てます。
- 安価モデル:
crew-fastの実モデル欄に低コストモデル(例:openai/gpt-4o-mini) - 高性能モデル:
crew-strongの実モデル欄に高性能モデル(例:openai/gpt-4.1) - プロバイダAPIキーは同じ画面上部の「プロバイダAPIキー」カードで登録します(キーはRouteHub Coreのみが保持し、AI社員には渡りません)
LLM Control → Routing Policies タブで、crew-auto の難易度判定ルールを設定します。プロンプトに含まれるキーワード・タグからスコアを計算し、スコアに応じてfast / balanced / strongへ振り分けます。
| 設定項目 | 意味 | 例 |
|---|---|---|
| fast上限スコア | このスコア以下なら安価モデル(fast)で処理 | 2 |
| balanced上限スコア | このスコア以下ならbalanced、超えたら高性能モデル(strong) | 5 |
| strongキーワード(+2/語) | 含まれるとスコアが上がる語(=高性能モデルに寄せたい話題) | 法・税・契約・個人情報・コンプライアンス |
| mediumキーワード(+1/語) | やや複雑な話題 | 分析・比較・提案・見積 |
| fastタグ(-2)/ strongタグ(+3) | タスク種別タグによる強制的な寄せ | fast: cs_classify、strong: high_risk |
例えば「この契約書の法的リスクを分析して」というプロンプトは、strongキーワード(法・契約・リスク)でスコアが上がり高性能モデルへ、「今日の予定を要約して」は低スコアのまま安価モデルへルーティングされます。設定は「Router設定を適用」で即時反映されます(再起動不要)。
llm.default_policy)で crew-fast / crew-balanced / crew-strong を固定指定することもできます。LLM Control → Budgets タブの「予算ペーシング設定」で、AI社員別の月次予算に対する消化ペースを監視し、ペース超過時に使えるモデルの上限を自動で引き下げます。
| 設定項目 | 意味 | 既定値 |
|---|---|---|
| デグレード警告閾値 | 日次/週次ペース比がこの値以上 → 上限をbalancedへ引き下げ(strongを使わせない) | 0.8 |
| デグレード限界閾値 | ペース比がこの値以上 → 上限をfastへ引き下げ(最安モデルのみ) | 1.0 |
| 回復ヒステリシス幅 | ペース比が「閾値 − この幅」を下回ったら1段ずつ自動回復(バタつき防止) | 0.1 |
同じタブ下部の「予算実績(仮想キー単位)」で、AI社員ごとの今日/今週の消化状況とデグレード状態を確認できます。各AI社員の月次予算額そのものはAI社員のカード(またはVirtual Keysタブ)から変更します。設定は即時反映(再起動不要)です。
再び Models & Aliases タブの「モデルエイリアス実定義」で、各エイリアスのfallback先(順序どおり)列に、Rate Limit(429)やプロバイダ障害時に切り替えるモデルを指定します。
- 推奨構成: 各コアエイリアスに別プロバイダの同格モデルを用意して指定します。例:
crew-strong→ fallback先crew-strong-anthropic(anthropic/claude-sonnet-5)→crew-fallback - 「エイリアスを追加」でfallback専用エイリアス(例:
crew-fast-anthropic= anthropic/claude-haiku-4-5)を作成できます - 下部のリトライ回数(同一先)/cooldown発動失敗数/cooldown秒数で、切替の感度を調整します(例: 同一モデルで1回リトライ→失敗2回でそのモデルを60秒間クールダウンし、以後はfallback先へ)
crew-*-anthropic / crew-fallback は許可済み)。独自エイリアスを増やした場合はVirtual Keysタブで許可モデルを確認してください。動作確認と監視
- Cost & Policy: AI社員別のLLM費用・削減額(ルーティングによる節約)・Kill Switchを確認できます
- LLM Control → Virtual Keys: AI社員別の仮想キーと予算・レート制限の実績
- LLM Control → Provider Health: プロバイダ疎通とfallback発動状況
- LLMコスト管理AI(公式AI社員)が日次でルーティング実績・予算ペースを点検し、しきい値提案を全社承認ボードへ起票します