提交需求

llama.cpp

作者 ggml

Language models on your laptop, even without a GPU

The fast C/C++ inference engine behind many local AI apps — runs even on laptops without a GPU.

开源信任 91适合专业人士可离线运行macOS · Windows · Linux
通过 OROBO 获取

已检测来源github.com/ggml-org/llama.cpp许可证：MIT检测于 19小时前GitHub 为每个发布文件提供 SHA-256 校验和。

不想自己配置？交给我们部署：请 OROBO 部署或先选择AI 指南针：书面评估，固定价格 490 欧元（仅面向企业）。

它如何为您运行

模拟启动中 …

示意图，非真实测试运行

您将获得

您将获得

  1. 01Run open models locally, no cloud needed
  2. 02Browser chat and an OpenAI-compatible API included
  3. 03Runs on CPUs, Apple silicon and graphics cards

适合您，如果……

  • Developers building local AI into their apps
  • Tinkerers testing models on their own hardware

建议选择其他软件，如果……

  • Prefer clicking to typing? Try LM Studio or Jan

如何开始

三步搞定。

您需要准备
  • Mac, Windows or Linux
  • No GPU required
  • RAM to match the model
  • Comfort with the terminal
  1. 1Install with brew install llama.cpp or grab a release from GitHub
  2. 2Start a model: llama-server -hf ggml-org/gemma-3-1b-it-GGUF
  3. 3Open http://localhost:8080 and chat in your browser

安全检测

通过 6/7 项检测 · 1 条提示

积极维护中许可证：MIT

信任 91
背后是谁？
  • 由 OROBO 从官方来源收录。创作者尚未加入 OROBO。
代码干净吗？
  • 源代码公开可见
  • 许可证：MIT
  • Review code pattern: Install script piped to shell from llama.app
有在维护吗？
  • 网站可访问
  • 今天已更新
技术细节与我们不检测的内容
  • 网站加载快
  • 网站防护设置：5/6（仅限网站，不含软件）HSTS, CSP, nosniff, Frame-Schutz, Referrer-Policy

我们自动检测来源、代码模式、许可证、维护和可访问性——每天重新检测。我们不检测软件是否适合您的用途、如何处理您的数据，或是否运行无误。 最近检测 19小时前. OROBO 如何检测

相同目标的替代选择

Ollama自己动手构建 · OllamaRun language models locally with one command开源信任 高， 97可离线运行Jan即开即用 · Menlo ResearchAn AI assistant that runs on your own computer开源信任 高， 100可离线运行Open WebUI即开即用 · Open WebUIAn AI chat for your team, on your own server开源信任 高， 97可离线运行LM Studio即开即用 · Element LabsFind, download and run open AI models locally免费有限检测 · 3 checks可离线运行GPT4All即开即用 · Nomic AIAI chat that runs offline on your computer开源信任 高， 91可离线运行Transformers自己动手构建 · Hugging FaceThousands of open AI models in a few lines of code开源信任 高， 100可离线运行whisper.cpp自己动手构建 · ggmlTurn recordings into text, right on your machine开源信任 高， 100可离线运行LangChain自己动手构建 · LangChainConnect models, tools and data into an AI app开源信任 高， 97面向开发者

信息

领域自己动手构建
价格开源
许可证MIT
运行环境macOS, Windows, Linux
深受开发者欢迎★ 13.3万 GitHub
最近更新2026年11月04日
来源ggml-org/llama.cpp ↗
我是制造商