読み込み中...
3件の記事があります

Phi-4とFoundry Localで分類・要約・PII除去など軽い処理をローカル実行し、複雑な推論や長文脈はAzure OpenAIへ振り分けるハイブリッド構成を解説。OpenAI互換APIで切替えやすく、固定費と従量課金の損益分岐やフォールバック設計が重要。

Foundry Localを使い、端末内だけで動くマルチターンチャットアプリをPythonで実装する手順を解説。OpenAI互換API対応で既存SDKを流用でき、モデル取得・推論・ハードウェア最適化をローカル完結。CLI確認、実装例、Gradio拡張、注意点も紹介。