Meta PurpleLlama (Llama Guard 4, Prompt Guard 2, LlamaFirewall)
制作: Meta
自分のAIに使える無料の防御モデルです
脱獄やプロンプト注入、危険なコードを防ぐMetaのオープンな防御モデル群です。
検証済みの配布元「検証済み」とは？github.com/meta-llama/PurpleLlama独自ライセンス検証 6 時間前
自分で設定せず、導入を任せる:OROBOに導入を依頼まずはAIコンパス:書面の評価、固定価格490ユーロ(法人のみ)。
ご利用イメージ
シミュレーション開始…
イメージ図(実際の実行ではありません)
得られるもの
得られるもの
- 01Llama Guard 4が入出力の危険な内容を判定します
- 02Prompt Guard 2が脱獄やプロンプト注入を検出します
- 03LlamaFirewallがエージェントの保護を助けます
こんな方に
- オープンモデルを自前で運用する開発者
- 保護をローカルで動かしたいチーム
別のものが合うのは
- 自前のモデル基盤を持たない方
始め方
3ステップで。
必要なもの
- Python
- GPUまたは十分な計算資源
- Llamaライセンスへの同意
- 1Hugging Faceでモデルを取得し、ライセンスに同意します
- 2モデルの前後に検査ステップとして組み込みます
- 3READMEに従いエージェント用にLlamaFirewallを設定します
信頼 100
誰が作っている？
- OROBOが公式情報から掲載。制作者はまだOROBOに参加していません。
コードは安全？
- ソースコード公開
- 独自ライセンス
- インストール手順に既知の悪性パターンなし
更新されている？
- サイトに到達可能
- 6日前に更新
技術的な詳細と検証しない項目
- サイトの表示が速い
- サイトの保護設定:6項目中5(サイトのみ)HSTS, CSP, nosniff, Frame-Schutz, Referrer-Policy
防御効果の記載はメーカーによるものです。信頼スコアは公開情報の確認で、有効性は評価しません。
出所、コードのパターン、ライセンス、更新状況、到達性を毎日自動で検証します。用途への適合性、データの扱い、動作の正確さは検証しません。 最終検証 6 時間前. OROBOの検証方法
同じ目的の代替
ModelScan安全にする · Protect AI (Palo Alto Networks)読み込む前にモデルファイルを検査しますオープンソース信頼 高い、100オフライン可garak安全にする · NVIDIA言語モデルにあえて攻撃を仕掛けますオープンソース信頼 高い、100開発者向けGuardrails AI安全にする · Guardrails AI (Harvey)AIの回答を次の処理に渡す前に検証しますオープンソース信頼 高い、100開発者向けNeMo Guardrails安全にする · NVIDIAチャットボットにしっかりしたガードレールを設けますオープンソース信頼 高い、100開発者向けGiskard安全にする · GiskardLLMアプリの幻覚や情報漏えいを検査しますオープンソース信頼 高い、100開発者向けPyRIT安全にする · Microsoft (AI Red Team)生成AIのレッドチーミングを自動化しますオープンソース信頼 高い、100開発者向けSnyk Agent Scan（旧Invariant MCP-Scan）安全にする · Snyk (ex-Invariant Labs team)インストール済みのMCPサーバーとスキルを検査しますオープンソース信頼 高い、100開発者向けCisco Skill Scanner安全にする · Cisco AI Defenseインストール前にエージェントスキルを検査しますオープンソース信頼 高い、100開発者向け
基本情報
| エリア | 安全にする |
|---|---|
| 価格 | オープンソース |
| ライセンス | 独自ライセンス |
| 対応環境 | Python |
| 開発者の人気 | ★ 4,465 GitHub |
| 最終更新 | 2026年10月30日 |
| ソース | meta-llama/PurpleLlama ↗ |