安全にする.
プロンプトインジェクション、情報漏えい、ディープフェイク対策。
ここから
プログラミング
garak安全にする · NVIDIA言語モデルにあえて攻撃を仕掛けますオープンソース信頼 高い、100開発者向けGuardrails AI安全にする · Guardrails AI (Harvey)AIの回答を次の処理に渡す前に検証しますオープンソース信頼 高い、100開発者向けNeMo Guardrails安全にする · NVIDIAチャットボットにしっかりしたガードレールを設けますオープンソース信頼 高い、100開発者向けGiskard安全にする · GiskardLLMアプリの幻覚や情報漏えいを検査しますオープンソース信頼 高い、100開発者向けPyRIT安全にする · Microsoft (AI Red Team)生成AIのレッドチーミングを自動化しますオープンソース信頼 高い、100開発者向けMeta PurpleLlama (Llama Guard 4, Prompt Guard 2, LlamaFirewall)安全にする · Meta自分のAIに使える無料の防御モデルですオープンソース信頼 高い、100オフライン可promptfoo安全にする · Promptfoo (OpenAI)AI機能を通常のコードと同じようにテストしますオープンソース信頼 高い、97開発者向けSnyk Agent Scan（旧Invariant MCP-Scan）安全にする · Snyk (ex-Invariant Labs team)インストール済みのMCPサーバーとスキルを検査しますオープンソース信頼 高い、100開発者向けCisco Skill Scanner安全にする · Cisco AI Defenseインストール前にエージェントスキルを検査しますオープンソース信頼 高い、100開発者向けDocker MCP Gateway安全にする · DockerMCPサーバーをコンテナで隔離して動かしますオープンソース信頼 高い、100開発者向けCisco MCP Scanner安全にする · Cisco AI Defense組み込む前にMCPサーバーを検査しますオープンソース信頼 高い、100開発者向けModelScan安全にする · Protect AI (Palo Alto Networks)読み込む前にモデルファイルを検査しますオープンソース信頼 高い、100オフライン可
AIエージェント
Cisco AI Defense安全にする · Cisco社内のAI利用を把握し、安全に管理します有料信頼 高い、100企業向けF5 AI Guardrails & AI Red Team（旧CalypsoAI）安全にする · F5 (CalypsoAI)企業AIの実行時保護と攻撃テストを提供します有料信頼 高い、100企業向けHiddenLayer AISec Platform安全にする · HiddenLayer自社のモデルとエージェントを本番環境で守ります有料信頼 高い、100企業向けLakera Guard安全にする · Lakera (Check Point Software)AIが応答する前にプロンプト攻撃を止めます無料版あり信頼 高い、100企業向けMindgard安全にする · Mindgard一度きりの検査ではなく、AIを継続的に攻撃します有料信頼 高い、100企業向けTrojAI安全にする · TrojAI (A10 Networks)AIモデルを検査し、エージェントの通信を監視します有料信頼 高い、100企業向けZenity安全にする · ZenityAIエージェントに許可する範囲を決めます有料信頼 高い、100企業向けAkto安全にする · Akto社内のMCPサーバーとAPIを見つけて検査しますオープンソース信頼 高い、97開発者向けLasso Security安全にする · Lasso Security自社のAIアプリとエージェントを見守ります有料信頼 高い、92企業向けNoma Security安全にする · Noma SecurityすべてのAIエージェントを把握し、管理します有料信頼 高い、92企業向けPillar Security安全にする · Pillar SecurityすべてのAI構成要素を把握し、検査し、守ります有料信頼 高い、92企業向けPrisma AIRS安全にする · Palo Alto NetworksAIモデル、アプリ、エージェントをまとめて保護します有料信頼 高い、92企業向け
セキュリティ
Cloudflare AI Security for Apps（旧Firewall for AI）安全にする · CloudflareWebファイアウォールの段階でAIエンドポイントを守ります有料信頼 高い、100企業向けGoogle Cloud Model Armor安全にする · Google Cloudモデルを問わず使えるプロンプトと回答のフィルターです無料版あり信頼 高い、100開発者向けHarmonic Security安全にする · Harmonic Security社内データを外部のAIツールに渡さないようにします有料信頼 高い、100企業向けHive AI-Generated Content Detection安全にする · Hive画像や曲がAI製かどうかをすばやく確認します無料版あり信頼 高い、100初心者向けLumo by Proton安全にする · Proton AGチャットのプライバシーを守るAIアシスタントです無料版あり信頼 高い、100初心者向けMicrosoft Prompt Shields (Azure AI Content Safety)安全にする · Microsoft文書に隠れたプロンプト攻撃を検出します有料信頼 高い、100開発者向けPrompt Security安全にする · Prompt Security (SentinelOne)チームのAI利用を把握し、データを守ります有料信頼 高い、100企業向けReality Defender安全にする · Reality Defender Inc.音声、画像、動画のディープフェイクを見抜きます無料版あり信頼 高い、100初心者向けSensity安全にする · Sensity疑わしいメディアを鑑定します有料信頼 高い、100企業向けSocket安全にする · Socket悪意あるパッケージをコードに入る前に止めます無料版あり検証は限定的・2項目開発者向け
これらのソフトウェアを使うパッケージ
全34件
34件
garak安全にする · NVIDIA言語モデルにあえて攻撃を仕掛けますオープンソース信頼 高い、100開発者向けGuardrails AI安全にする · Guardrails AI (Harvey)AIの回答を次の処理に渡す前に検証しますオープンソース信頼 高い、100開発者向けNeMo Guardrails安全にする · NVIDIAチャットボットにしっかりしたガードレールを設けますオープンソース信頼 高い、100開発者向けGiskard安全にする · GiskardLLMアプリの幻覚や情報漏えいを検査しますオープンソース信頼 高い、100開発者向けPyRIT安全にする · Microsoft (AI Red Team)生成AIのレッドチーミングを自動化しますオープンソース信頼 高い、100開発者向けMeta PurpleLlama (Llama Guard 4, Prompt Guard 2, LlamaFirewall)安全にする · Meta自分のAIに使える無料の防御モデルですオープンソース信頼 高い、100オフライン可promptfoo安全にする · Promptfoo (OpenAI)AI機能を通常のコードと同じようにテストしますオープンソース信頼 高い、97開発者向けSnyk Agent Scan（旧Invariant MCP-Scan）安全にする · Snyk (ex-Invariant Labs team)インストール済みのMCPサーバーとスキルを検査しますオープンソース信頼 高い、100開発者向けCisco Skill Scanner安全にする · Cisco AI Defenseインストール前にエージェントスキルを検査しますオープンソース信頼 高い、100開発者向けDocker MCP Gateway安全にする · DockerMCPサーバーをコンテナで隔離して動かしますオープンソース信頼 高い、100開発者向けCisco MCP Scanner安全にする · Cisco AI Defense組み込む前にMCPサーバーを検査しますオープンソース信頼 高い、100開発者向けModelScan安全にする · Protect AI (Palo Alto Networks)読み込む前にモデルファイルを検査しますオープンソース信頼 高い、100オフライン可Cisco AI Defense安全にする · Cisco社内のAI利用を把握し、安全に管理します有料信頼 高い、100企業向けCloudflare AI Security for Apps（旧Firewall for AI）安全にする · CloudflareWebファイアウォールの段階でAIエンドポイントを守ります有料信頼 高い、100企業向けF5 AI Guardrails & AI Red Team（旧CalypsoAI）安全にする · F5 (CalypsoAI)企業AIの実行時保護と攻撃テストを提供します有料信頼 高い、100企業向けGoogle Cloud Model Armor安全にする · Google Cloudモデルを問わず使えるプロンプトと回答のフィルターです無料版あり信頼 高い、100開発者向けHarmonic Security安全にする · Harmonic Security社内データを外部のAIツールに渡さないようにします有料信頼 高い、100企業向けHiddenLayer AISec Platform安全にする · HiddenLayer自社のモデルとエージェントを本番環境で守ります有料信頼 高い、100企業向けHive AI-Generated Content Detection安全にする · Hive画像や曲がAI製かどうかをすばやく確認します無料版あり信頼 高い、100初心者向けLakera Guard安全にする · Lakera (Check Point Software)AIが応答する前にプロンプト攻撃を止めます無料版あり信頼 高い、100企業向けLumo by Proton安全にする · Proton AGチャットのプライバシーを守るAIアシスタントです無料版あり信頼 高い、100初心者向けMicrosoft Prompt Shields (Azure AI Content Safety)安全にする · Microsoft文書に隠れたプロンプト攻撃を検出します有料信頼 高い、100開発者向けMindgard安全にする · Mindgard一度きりの検査ではなく、AIを継続的に攻撃します有料信頼 高い、100企業向けPrompt Security安全にする · Prompt Security (SentinelOne)チームのAI利用を把握し、データを守ります有料信頼 高い、100企業向けReality Defender安全にする · Reality Defender Inc.音声、画像、動画のディープフェイクを見抜きます無料版あり信頼 高い、100初心者向けSensity安全にする · Sensity疑わしいメディアを鑑定します有料信頼 高い、100企業向けTrojAI安全にする · TrojAI (A10 Networks)AIモデルを検査し、エージェントの通信を監視します有料信頼 高い、100企業向けZenity安全にする · ZenityAIエージェントに許可する範囲を決めます有料信頼 高い、100企業向けAkto安全にする · Akto社内のMCPサーバーとAPIを見つけて検査しますオープンソース信頼 高い、97開発者向けLasso Security安全にする · Lasso Security自社のAIアプリとエージェントを見守ります有料信頼 高い、92企業向けNoma Security安全にする · Noma SecurityすべてのAIエージェントを把握し、管理します有料信頼 高い、92企業向けPillar Security安全にする · Pillar SecurityすべてのAI構成要素を把握し、検査し、守ります有料信頼 高い、92企業向けPrisma AIRS安全にする · Palo Alto NetworksAIモデル、アプリ、エージェントをまとめて保護します有料信頼 高い、92企業向けSocket安全にする · Socket悪意あるパッケージをコードに入る前に止めます無料版あり検証は限定的・2項目開発者向け