タグ: ONNX Runtime

2件の記事があります

Foundry Local で作るローカルチャットアプリ：インストールから Python 実装まで

Foundry Local で作るローカルチャットアプリ：インストールから Python 実装まで

Foundry Localを使い、端末内だけで動くマルチターンチャットアプリをPythonで実装する手順を解説。OpenAI互換API対応で既存SDKを流用でき、モデル取得・推論・ハードウェア最適化をローカル完結。CLI確認、実装例、Gradio拡張、注意点も紹介。

AI開発Foundry LocalローカルLLMOpenAI互換API+2個
2026年版 ローカル LLM 実行環境の比較：Foundry Local・Ollama・LM Studio・llama.cpp・vLLM

2026年版 ローカル LLM 実行環境の比較：Foundry Local・Ollama・LM Studio・llama.cpp・vLLM

ローカルLLMは「ランタイム」と「モデル」を分けて選ぶと整理しやすい。Foundry Localは単一ユーザー向けのオンデバイスAIで、OpenAI互換APIやGPU/NPU自動選択が強み。手軽さはOllama/LM Studio、柔軟性はllama.cpp、多人数配信はvLLMが適する。

更新済み
AI・機械学習ローカルLLMFoundry LocalOllama+2個