llama.cpp

制作: ggml

GPUなしのノートPCでも言語モデルを実行

多くのローカルAIアプリを支える高速なC/C++推論エンジン — GPUのないノートPCでも動作。

オープンソース信頼 91上級者向けオフライン可macOS · Windows · Linux
OROBO経由で入手

検証済みの配布元github.com/ggml-org/llama.cppライセンス:MIT検証 19 時間前GitHubの各リリースにSHA-256チェックサムがあります。

自分で設定せず、導入を任せる:OROBOに導入を依頼まずはAIコンパス:書面の評価、固定価格490ユーロ(法人のみ)。

ご利用イメージ

シミュレーション開始…

イメージ図(実際の実行ではありません)

得られるもの

得られるもの

  1. 01クラウド不要でオープンモデルをローカル実行
  2. 02ブラウザチャットとOpenAI互換APIを同梱
  3. 03CPU、Appleチップ、GPUで動作

こんな方に

  • 自作アプリにローカルAIを組み込む開発者
  • 手元のハードでモデルを試したい人

別のものが合うのは

  • コマンドよりクリック派ならLM StudioかJanへ

始め方

3ステップで。

必要なもの
  • Mac・Windows・Linux
  • GPU不要
  • モデルに合うメモリ
  • ターミナル操作
  1. 1brew install llama.cpp かGitHubのリリースで導入
  2. 2llama-server -hf ggml-org/gemma-3-1b-it-GGUF で起動
  3. 3http://localhost:8080 をブラウザで開く

安全チェック

7項目中6項目に合格 · 1 件の注意

継続的に更新ライセンス:MIT

信頼 91
誰が作っている?
  • OROBOが公式情報から掲載。制作者はまだOROBOに参加していません。
コードは安全?
  • ソースコード公開
  • ライセンス:MIT
  • Review code pattern: Install script piped to shell from llama.app
更新されている?
  • サイトに到達可能
  • 本日更新
技術的な詳細と検証しない項目
  • サイトの表示が速い
  • サイトの保護設定:6項目中5(サイトのみ)HSTS, CSP, nosniff, Frame-Schutz, Referrer-Policy

出所、コードのパターン、ライセンス、更新状況、到達性を毎日自動で検証します。用途への適合性、データの扱い、動作の正確さは検証しません。 最終検証 19 時間前. OROBOの検証方法

基本情報

エリア自分で作る
価格オープンソース
ライセンスMIT
対応環境macOS, Windows, Linux
開発者の人気★ 13.3万 GitHub
最終更新2026年11月04日
ソースggml-org/llama.cpp ↗
私が制作者です