Microsoft Prompt Shields (Azure AI Content Safety)
制作: Microsoft
文書に隠れたプロンプト攻撃を検出します
直接の攻撃や文書に隠れたプロンプト攻撃を、モデルが実行する前に検出します。
ご利用イメージ
シミュレーション開始…
イメージ図(実際の実行ではありません)
得られるもの
得られるもの
- 01直接の脱獄の試みを検出します
- 02文書の中に隠された指示を見つけます
- 03モデルが応答する前に検査します
こんな方に
- Azure OpenAIやMicrosoft Foundryを使う開発者
- 外部の文書を処理するアプリ
別のものが合うのは
- 有害コンテンツの除外(対象外です)
- 英語以外のテキスト(精度が限られます)
始め方
3ステップで。
必要なもの
- Azureアカウント
- API接続できる自社AIアプリ
- 1Azure AI Content Safetyのリソースを作成します
- 2プロンプトと文書をPrompt Shields APIに送ります
- 3攻撃が検出されたらリクエストを止めます
安全チェック
検証は限定的・3項目
可能な3項目中3項目に合格。 自動検証が4項目未満のため、信頼スコアは表示しません。
更新されている？
- サイトに到達可能
- Prices on the maker’s site
技術的な詳細と検証しない項目
- サイトの表示が速い
- サイトの保護設定:6項目中5(サイトのみ)HSTS, CSP, nosniff, Frame-Schutz, Referrer-Policy
防御効果の記載はメーカーによるものです。信頼スコアは公開情報の確認で、有効性は評価しません。
出所、コードのパターン、ライセンス、更新状況、到達性を毎日自動で検証します。用途への適合性、データの扱い、動作の正確さは検証しません。 最終検証 3 時間前. OROBOの検証方法
同じ目的の代替
garak安全にする · NVIDIA言語モデルにあえて攻撃を仕掛けますオープンソース信頼 高い、100開発者向けGuardrails AI安全にする · Guardrails AI (Harvey)AIの回答を次の処理に渡す前に検証しますオープンソース信頼 高い、100開発者向けNeMo Guardrails安全にする · NVIDIAチャットボットにしっかりしたガードレールを設けますオープンソース信頼 高い、100開発者向けGiskard安全にする · GiskardLLMアプリの幻覚や情報漏えいを検査しますオープンソース信頼 高い、100開発者向けPyRIT安全にする · Microsoft (AI Red Team)生成AIのレッドチーミングを自動化しますオープンソース信頼 高い、100開発者向けMeta PurpleLlama (Llama Guard 4, Prompt Guard 2, LlamaFirewall)安全にする · Meta自分のAIに使える無料の防御モデルですオープンソース信頼 高い、100オフライン可Snyk Agent Scan（旧Invariant MCP-Scan）安全にする · Snyk (ex-Invariant Labs team)インストール済みのMCPサーバーとスキルを検査しますオープンソース信頼 高い、100開発者向けCisco Skill Scanner安全にする · Cisco AI Defenseインストール前にエージェントスキルを検査しますオープンソース信頼 高い、100開発者向け
基本情報
| エリア | 安全にする |
|---|---|
| 価格 | 有料 |
| 対応環境 | Browser |