garak
作者 NVIDIA
Have your language model attacked on purpose
Command-line scanner that probes a language model with hundreds of attacks for jailbreaks, leaks and hallucinations.
已检测来源github.com/NVIDIA/garak许可证：Apache-2.0检测于 12小时前GitHub 为每个发布文件提供 SHA-256 校验和。
不想自己配置？交给我们部署：请 OROBO 部署或先选择AI 指南针：书面评估，固定价格 490 欧元（仅面向企业）。
它如何为您运行
模拟启动中 …
示意图，非真实测试运行
您将获得
您将获得
- 01Probes with hundreds of attacks for jailbreaks and leaks
- 02Also checks hallucinations and toxic output
- 03Free and open source from NVIDIA
适合您，如果……
- Developers before releasing a chatbot
- Researchers comparing models
建议选择其他软件，如果……
- If you do not want to use the command line
如何开始
三步搞定。
您需要准备
- Python
- Access to the model, local or via API
- 1Install with pip install garak
- 2Pick model and attacks via --model_type and --probes
- 3Read the report and fix weaknesses
属于这些套件
garak 可与其他软件配合使用。
安全检测
通过 7/7 项检测
安装说明中未发现已知恶意模式积极维护中许可证：Apache-2.0
背后是谁？
- 由 OROBO 从官方来源收录。创作者尚未加入 OROBO。
代码干净吗？
- 源代码公开可见
- 许可证：Apache-2.0
- 安装说明中未发现已知恶意模式
有在维护吗？
- 网站可访问
- 今天已更新
技术细节与我们不检测的内容
- 网站加载快
- 网站防护设置：5/6（仅限网站，不含软件）HSTS, CSP, nosniff, Frame-Schutz, Referrer-Policy
关于防护能力的说法来自制造商。信任分检测的是公开信号，而不是实际效果。
我们自动检测来源、代码模式、许可证、维护和可访问性——每天重新检测。我们不检测软件是否适合您的用途、如何处理您的数据，或是否运行无误。 最近检测 12小时前. OROBO 如何检测
相同目标的替代选择
Guardrails AI安全使用 · Guardrails AI (Harvey)Check AI answers before they move on开源信任 高， 100面向开发者NeMo Guardrails安全使用 · NVIDIAFirm guardrails for your chatbot开源信任 高， 100面向开发者Giskard安全使用 · GiskardScan LLM apps for hallucinations and leaks开源信任 高， 100面向开发者PyRIT安全使用 · Microsoft (AI Red Team)Automate red teaming for generative AI开源信任 高， 100面向开发者Meta PurpleLlama (Llama Guard 4, Prompt Guard 2, LlamaFirewall)安全使用 · MetaFree guard models for your own AI开源信任 高， 100可离线运行Snyk Agent Scan（原名 Invariant MCP-Scan）安全使用 · Snyk (ex-Invariant Labs team)Scan installed MCP servers and skills for traps开源信任 高， 100面向开发者Cisco Skill Scanner安全使用 · Cisco AI DefenseCheck agent skills before you install them开源信任 高， 100面向开发者Docker MCP Gateway安全使用 · DockerRun MCP servers sealed off in containers开源信任 高， 100面向开发者
搭配使用
Ollama自己动手构建 · OllamaRun language models locally with one command开源信任 高， 97可离线运行promptfoo安全使用 · Promptfoo (OpenAI)Test AI features like regular code开源信任 高， 97面向开发者Lakera Guard安全使用 · Lakera (Check Point Software)Catch prompt attacks before your AI responds免费版信任 高， 100面向企业Cisco Skill Scanner安全使用 · Cisco AI DefenseCheck agent skills before you install them开源信任 高， 100面向开发者Reality Defender安全使用 · Reality Defender Inc.Detect deepfakes in voice, images and video免费版信任 高， 100新手友好
信息
| 领域 | 安全使用 |
|---|---|
| 价格 | 开源 |
| 许可证 | Apache-2.0 |
| 运行环境 | Terminal, Python, Linux, macOS |
| 深受开发者欢迎 | ★ 9,862 GitHub |
| 最近更新 | 2026年11月04日 |
| 来源 | NVIDIA/garak ↗ |