llama.cpp
ggml · オープンソース · 信頼スコア91多くのローカルAIアプリを支える高速なC/C++推論エンジン — GPUのないノートPCでも動作。
自分で作る · 代替
Ollama(Ollama)はOROBOでは「自分で作る」分野に属します。同じ分野の代替8件を掲載しています(同じ目的の7件を先頭に表示)。各エントリーは毎日自動検証されます(出所・コードパターン・ライセンス・保守・到達性)。用途への適合性はOROBOでは検証しません。
多くのローカルAIアプリを支える高速なC/C++推論エンジン — GPUのないノートPCでも動作。
テキスト・画像・音声の数千のオープンモデルを扱う標準ライブラリ。
モデル、ツール、データをつないでAIアプリを作るためのフレームワーク。
自前のAIインフラを運用するための、高スループットなLLMサービングエンジン。
OpenAIのWhisperモデルによる音声認識 — ローカルで高速、アップロード不要。
プロバイダーに依存せず、WebアプリにAI機能を組み込めるTypeScriptツールキット。
従量課金APIで使えるFLUXモデル。オープンウェイトも公開。
アプリやゲーム向けの超低遅延音声モデルとLLM推論API。
「自分で作る」のすべてのソフトウェアを価格・オフライン利用・難易度で絞り込めます。