Anfrage stellen

garak

von NVIDIA

Dein Sprachmodell gezielt angreifen lassen

Kommandozeilen-Scanner, der ein Sprachmodell mit Hunderten Angriffen auf Jailbreaks, Leaks und Halluzinationen testet.

Open SourceVertrauen 100Etwas Übung nötigTerminal · Python · Linux · macOS
Über OROBO laden

Geprüfte Quellegithub.com/NVIDIA/garakLizenz: Apache-2.0geprüft vor 11 StundenPrüfsumme (SHA-256) steht bei jedem Release auf GitHub.

Einrichten lassen statt selbst aufsetzen:Einrichtung durch OROBO anfragenOder zuerst der KI-Kompass: schriftliche Einschätzung zum Festpreis von 490 € (nur für Firmen).

So läuft es bei Ihnen

Simulation startet …

Illustration, kein echter Testlauf

Was es Ihnen bringt

Was es Ihnen bringt

  1. 01Testet mit Hunderten Angriffen auf Jailbreaks und Leaks
  2. 02Prüft auch Halluzinationen und toxische Ausgaben
  3. 03Kostenlos und Open Source von NVIDIA

Für Sie, wenn …

  • Entwickler vor dem Release eines Chatbots
  • Forschende, die Modelle vergleichen

Wählen Sie lieber etwas anderes, wenn …

  • Wer keine Kommandozeile nutzen möchte

So starten Sie

In drei Schritten.

Was Sie brauchen
  • Python
  • Zugang zum Modell, lokal oder per API
  1. 1Mit pip install garak installieren
  2. 2Modell und Angriffe per --model_type und --probes wählen
  3. 3Bericht lesen und Schwachstellen beheben

Teil dieser Pakete

garak arbeitet mit anderer Software zusammen.

KI sicher einsetzen

Ihr Team nutzt KI – mit deutlich weniger Risiko, dass Daten abfließen oder Chatbots gekapert werden.

5 Schritteein Tag für die GrundlagenMittel

Sicherheits-Check

7 von 7 Prüfungen bestanden

Keine bekannten Schadmuster in der Installationsanleitungaktiv gepflegtLizenz: Apache-2.0

Vertrauen 100
Wer steckt dahinter?
  • Von OROBO aus der offiziellen Quelle übernommen. Der Hersteller ist noch nicht bei OROBO.
Ist der Code sauber?
  • Quellcode öffentlich einsehbar
  • Lizenz: Apache-2.0
  • Keine bekannten Schadmuster in der Installationsanleitung
Wird es gepflegt?
  • Website erreichbar
  • Heute aktualisiert
Technische Details & was wir nicht prüfen
  • Website lädt schnell
  • Schutzeinstellungen der Website: 5 von 6 (betrifft nur die Website, nicht das Programm)HSTS, CSP, nosniff, Frame-Schutz, Referrer-Policy

Angaben zur Schutzwirkung stammen vom Hersteller. Der Vertrauenswert prüft öffentliche Signale, nicht die Wirksamkeit.

Wir prüfen automatisch: Herkunft, Quellcode-Muster, Lizenz, Pflege und Erreichbarkeit – täglich neu. Wir prüfen nicht, ob die Software zu Ihrem Zweck passt, wie sie mit Ihren Daten umgeht oder ob sie fehlerfrei arbeitet. Zuletzt geprüft vor 11 Stunden. So prüft OROBO

Alternativen fürs gleiche Ziel

Guardrails AISicher machen · Guardrails AI (Harvey)KI-Antworten prüfen, bevor sie weitergehenOpen SourceVertrauen hoch, 100Für EntwicklerNeMo GuardrailsSicher machen · NVIDIAFeste Leitplanken für deinen ChatbotOpen SourceVertrauen hoch, 100Für EntwicklerGiskardSicher machen · GiskardLLM-Apps auf Halluzinationen und Lecks scannenOpen SourceVertrauen hoch, 100Für EntwicklerPyRITSicher machen · Microsoft (AI Red Team)Red Teaming für generative KI automatisierenOpen SourceVertrauen hoch, 100Für EntwicklerMeta PurpleLlama (Llama Guard 4, Prompt Guard 2, LlamaFirewall)Sicher machen · MetaKostenlose Schutzmodelle für deine eigene KIOpen SourceVertrauen hoch, 100Läuft offlineSnyk Agent Scan (früher Invariant MCP-Scan)Sicher machen · Snyk (ex-Invariant Labs team)Installierte MCP-Server und Skills auf Fallen scannenOpen SourceVertrauen hoch, 100Für EntwicklerCisco Skill ScannerSicher machen · Cisco AI DefenseAgent-Skills prüfen, bevor du sie installierstOpen SourceVertrauen hoch, 100Für EntwicklerDocker MCP GatewaySicher machen · DockerMCP-Server abgeschottet in Containern betreibenOpen SourceVertrauen hoch, 100Für Entwickler

Passt dazu

OllamaSelbst bauen · OllamaSprachmodelle lokal starten, mit einem BefehlOpen SourceVertrauen hoch, 97Läuft offlinepromptfooSicher machen · Promptfoo (OpenAI)KI-Funktionen testen wie normalen CodeOpen SourceVertrauen hoch, 97Für EntwicklerLakera GuardSicher machen · Lakera (Check Point Software)Prompt-Angriffe abfangen, bevor deine KI reagiertGratis-VersionVertrauen hoch, 100Für BetriebeCisco Skill ScannerSicher machen · Cisco AI DefenseAgent-Skills prüfen, bevor du sie installierstOpen SourceVertrauen hoch, 100Für EntwicklerReality DefenderSicher machen · Reality Defender Inc.Deepfakes in Stimme, Bild und Video erkennenGratis-VersionVertrauen hoch, 100Für Einsteiger

Fakten

BereichSicher machen
PreisOpen Source
LizenzApache-2.0
Läuft aufTerminal, Python, Linux, macOS
Beliebt bei Entwicklern★ 9.862 GitHub
Zuletzt aktualisiert04. Nov. 2026
QuellcodeNVIDIA/garak ↗
Ich bin der Hersteller