garak
NVIDIA · オープンソース · 信頼スコア100数百種類の攻撃で、言語モデルの脱獄や漏えい、幻覚を調べるCLIです。
安全にする · 代替
Microsoft Prompt Shields (Azure AI Content Safety)の代替ソフトウェア
Microsoft Prompt Shields (Azure AI Content Safety)（Microsoft）はOROBOでは「安全にする」分野に属します。同じ分野の代替8件を掲載しています（同じ目的の8件を先頭に表示）。各エントリーは毎日自動検証されます（出所・コードパターン・ライセンス・保守・到達性）。用途への適合性はOROBOでは検証しません。
代替8件の概要
Guardrails AI
Guardrails AI (Harvey) · オープンソース · 信頼スコア100AIの入出力を検証し、構造化された回答を保証します。現在はHarvey傘下です。
NeMo Guardrails
NVIDIA · オープンソース · 信頼スコア100チャットボットを話題内に保ち、個人情報を隠し、脱獄を防ぐ仕組みです。
Giskard
Giskard · オープンソース · 信頼スコア100LLMアプリの幻覚、プロンプト注入、情報漏えいを検査するフランス発のOSSです。
PyRIT
Microsoft (AI Red Team) · オープンソース · 信頼スコア100生成AIシステムへの攻撃を自動化し、リスクを見つけるPythonフレームワークです。
Meta PurpleLlama (Llama Guard 4, Prompt Guard 2, LlamaFirewall)
Meta · オープンソース · 信頼スコア100脱獄やプロンプト注入、危険なコードを防ぐMetaのオープンな防御モデル群です。
promptfoo
Promptfoo (OpenAI) · オープンソース · 信頼スコア97プロンプトやエージェントを自動テストし、脆弱性を検査します。OpenAI傘下です。
Snyk Agent Scan（旧Invariant MCP-Scan）
Snyk (ex-Invariant Labs team) · オープンソース · 信頼スコア100MCPサーバーとエージェントスキルのツール汚染やマルウェアを検査します。
さらに比較する
「安全にする」のすべてのソフトウェアを価格・オフライン利用・難易度で絞り込めます。