Ollama
Ollama · Open Source · Vertrauen 97Große Sprachmodelle lokal auf dem eigenen Rechner ausführen – ein Befehl, keine Cloud.
Selbst bauen · Alternativen
Alternativen zu llama.cpp
llama.cpp von ggml gehört bei OROBO zum Bereich „Selbst bauen“. Hier stehen 8 Alternativen aus demselben Bereich, zuerst 7 mit denselben Zielen. Jeder Eintrag wird täglich automatisch geprüft (Herkunft, Code-Muster, Lizenz, Pflege, Erreichbarkeit); ob eine Software zu Ihrem Zweck passt, prüft OROBO nicht.
8 Alternativen im Überblick
Transformers
Hugging Face · Open Source · Vertrauen 100Die Standardbibliothek für Tausende offene Modelle in Text, Bild und Audio.
LangChain
LangChain · Open Source · Vertrauen 97Framework zum Verketten von Modellen, Werkzeugen und Daten zu KI-Anwendungen.
vLLM
vLLM Project · Open Source · Vertrauen 97Hochleistungs-Server für Sprachmodelle mit hohem Durchsatz – für eigene KI-Infrastruktur.
whisper.cpp
ggml · Open Source · Vertrauen 100Spracherkennung mit OpenAIs Whisper-Modell – lokal, schnell, ohne Upload.
AI SDK
Vercel · Open Source · Vertrauen 97TypeScript-Toolkit, um KI-Funktionen in Web-Apps einzubauen – anbieterunabhängig.
FLUX
Black Forest Labs · Kostenpflichtig · Vertrauen 94FLUX-Bild- und Videomodelle per API mit Pay-as-you-go, dazu offene Gewichte zum Selbsthosten.
Inworld AI
Inworld AI · Gratis-Version · eingeschränkt prüfbarEchtzeit-Stimmen und LLM-Inferenz für Apps und Spiele – extrem schnelle Sprachausgabe per API.
Weiter vergleichen
Alle Software im Bereich „Selbst bauen“ mit Filtern nach Preis, Offline-Nutzung und Schwierigkeit.