タグ: ハイブリッド推論

ローカル LLM × Azure エージェント：Phi-4 と Azure を組み合わせたコスト削減構成

Phi-4とFoundry Localで分類・要約・PII除去など軽い処理をローカル実行し、複雑な推論や長文脈はAzure OpenAIへ振り分けるハイブリッド構成を解説。OpenAI互換APIで切替えやすく、固定費と従量課金の損益分岐やフォールバック設計が重要。