Anfrage stellen

llama.cpp

von ggml

Sprachmodelle auf deinem Laptop, auch ohne GPU

Die schnelle C/C++-Engine hinter vielen lokalen KI-Apps – läuft sogar auf Laptops ohne GPU.

Open SourceVertrauen 91Für ProfisLäuft offlinemacOS · Windows · Linux
Über OROBO laden

Geprüfte Quellegithub.com/ggml-org/llama.cppLizenz: MITgeprüft vor 18 StundenPrüfsumme (SHA-256) steht bei jedem Release auf GitHub.

Einrichten lassen statt selbst aufsetzen:Einrichtung durch OROBO anfragenOder zuerst der KI-Kompass: schriftliche Einschätzung zum Festpreis von 490 € (nur für Firmen).

So läuft es bei Ihnen

Simulation startet …

Illustration, kein echter Testlauf

Was es Ihnen bringt

Was es Ihnen bringt

  1. 01Offene Modelle lokal ausführen, ohne Cloud
  2. 02Chat im Browser und OpenAI-kompatible API inklusive
  3. 03Läuft auf CPU, Apple-Chips und Grafikkarten

Für Sie, wenn …

  • Entwickler, die lokale KI in eigene Apps einbauen
  • Bastler, die Modelle auf eigener Hardware testen

Wählen Sie lieber etwas anderes, wenn …

  • Wer lieber klickt statt tippt – nimm LM Studio oder Jan

So starten Sie

In drei Schritten.

Was Sie brauchen
  • Mac, Windows oder Linux
  • Keine GPU nötig
  • RAM passend zum Modell
  • Erfahrung mit dem Terminal
  1. 1Installiere mit brew install llama.cpp oder lade ein Release von GitHub
  2. 2Starte ein Modell: llama-server -hf ggml-org/gemma-3-1b-it-GGUF
  3. 3Öffne http://localhost:8080 und chatte im Browser

Sicherheits-Check

6 von 7 Prüfungen bestanden · 1 Hinweis

aktiv gepflegtLizenz: MIT

Vertrauen 91
Wer steckt dahinter?
  • Von OROBO aus der offiziellen Quelle übernommen. Der Hersteller ist noch nicht bei OROBO.
Ist der Code sauber?
  • Quellcode öffentlich einsehbar
  • Lizenz: MIT
  • Code-Muster prüfen: Installationsskript per „| sh“ von llama.app
Wird es gepflegt?
  • Website erreichbar
  • Heute aktualisiert
Technische Details & was wir nicht prüfen
  • Website lädt schnell
  • Schutzeinstellungen der Website: 5 von 6 (betrifft nur die Website, nicht das Programm)HSTS, CSP, nosniff, Frame-Schutz, Referrer-Policy

Wir prüfen automatisch: Herkunft, Quellcode-Muster, Lizenz, Pflege und Erreichbarkeit – täglich neu. Wir prüfen nicht, ob die Software zu Ihrem Zweck passt, wie sie mit Ihren Daten umgeht oder ob sie fehlerfrei arbeitet. Zuletzt geprüft vor 18 Stunden. So prüft OROBO

Alternativen fürs gleiche Ziel

OllamaSelbst bauen · OllamaSprachmodelle lokal starten, mit einem BefehlOpen SourceVertrauen hoch, 97Läuft offlineJanSofort nutzen · Menlo ResearchEin KI-Assistent, der auf deinem Rechner läuftOpen SourceVertrauen hoch, 100Läuft offlineOpen WebUISofort nutzen · Open WebUIEin KI-Chat für dein Team, auf deinem ServerOpen SourceVertrauen hoch, 97Läuft offlineLM StudioSofort nutzen · Element LabsOffene KI-Modelle finden, laden und lokal nutzenKostenlosEingeschränkt prüfbar · 3 PrüfungenLäuft offlineGPT4AllSofort nutzen · Nomic AIKI-Chat, der offline auf deinem Rechner läuftOpen SourceVertrauen hoch, 91Läuft offlineTransformersSelbst bauen · Hugging FaceTausende offene KI-Modelle mit wenigen Zeilen CodeOpen SourceVertrauen hoch, 100Läuft offlinewhisper.cppSelbst bauen · ggmlAufnahmen in Text verwandeln, direkt auf deinem RechnerOpen SourceVertrauen hoch, 100Läuft offlineLangChainSelbst bauen · LangChainModelle, Werkzeuge und Daten zu einer KI-App verbindenOpen SourceVertrauen hoch, 97Für Entwickler

Fakten

BereichSelbst bauen
PreisOpen Source
LizenzMIT
Läuft aufmacOS, Windows, Linux
Beliebt bei Entwicklern★ 133.374 GitHub
Zuletzt aktualisiert04. Nov. 2026
Quellcodeggml-org/llama.cpp ↗
Ich bin der Hersteller