Microsoft Prompt Shields (Azure AI Content Safety)
作者 Microsoft
Detect prompt attacks hidden in documents
Cloud service that detects direct and document-hidden prompt attacks before the model acts on them.
它如何为您运行
模拟启动中 …
示意图，非真实测试运行
您将获得
您将获得
- 01Detects direct jailbreak attempts
- 02Finds instructions hidden inside documents
- 03Checks before your model responds
适合您，如果……
- Developers on Azure OpenAI or Microsoft Foundry
- Apps that process third-party documents
建议选择其他软件，如果……
- Filtering harmful content; it does not cover that
- Non-English text, where it is more limited
如何开始
三步搞定。
您需要准备
- An Azure account
- Your own AI app with API access
- 1Create an Azure AI Content Safety resource
- 2Send the prompt and documents to the Prompt Shields API
- 3Stop the request when an attack is flagged
安全检测
有限检测 · 3 checks
在 3 项可能的检测中通过了 3 项。 这里可进行的自动检测不足四项，因此我们不显示信任分。
有在维护吗？
- 网站可访问
- Prices on the maker’s site
技术细节与我们不检测的内容
- 网站加载快
- 网站防护设置：5/6（仅限网站，不含软件）HSTS, CSP, nosniff, Frame-Schutz, Referrer-Policy
关于防护能力的说法来自制造商。信任分检测的是公开信号，而不是实际效果。
我们自动检测来源、代码模式、许可证、维护和可访问性——每天重新检测。我们不检测软件是否适合您的用途、如何处理您的数据，或是否运行无误。 最近检测 3小时前. OROBO 如何检测
相同目标的替代选择
garak安全使用 · NVIDIAHave your language model attacked on purpose开源信任 高， 100面向开发者Guardrails AI安全使用 · Guardrails AI (Harvey)Check AI answers before they move on开源信任 高， 100面向开发者NeMo Guardrails安全使用 · NVIDIAFirm guardrails for your chatbot开源信任 高， 100面向开发者Giskard安全使用 · GiskardScan LLM apps for hallucinations and leaks开源信任 高， 100面向开发者PyRIT安全使用 · Microsoft (AI Red Team)Automate red teaming for generative AI开源信任 高， 100面向开发者Meta PurpleLlama (Llama Guard 4, Prompt Guard 2, LlamaFirewall)安全使用 · MetaFree guard models for your own AI开源信任 高， 100可离线运行Snyk Agent Scan（原名 Invariant MCP-Scan）安全使用 · Snyk (ex-Invariant Labs team)Scan installed MCP servers and skills for traps开源信任 高， 100面向开发者Cisco Skill Scanner安全使用 · Cisco AI DefenseCheck agent skills before you install them开源信任 高， 100面向开发者
信息
| 领域 | 安全使用 |
|---|---|
| 价格 | 付费 |
| 运行环境 | Browser |