AIを安全に使う。

AIは文章で操れます。他人にも。いま起きていること、できること、守るためのソフトウェアをまとめました。

7つの防御ルール ↓セキュリティソフト（34件）

ご利用イメージ

シミュレーション開始…

イメージ図(実際の実行ではありません)

2026年10月の状況
6事例
10リスク
34ソフト
更新 2026年10月16日

要点

01AIは文章で操れます。他人にも。
私的データを見て、外部の内容を読み、外へ送信できるエージェントは危険です。出典 ↗
02問題は解決していません。
OpenAI自身、プロンプトインジェクションは今後何年も課題だとしています。出典 ↗
032026年は「汚染されたスキル」の年。
スキルはAIアシスタントに追加する機能です。スキルマーケットClawHubで341件の悪意あるスキルが発見されました。出典 ↗
04EU AI法は2026年8月2日から大部分が適用されています。
高リスクAIの義務はEUの改正パッケージ(「AIオムニバス」)で2027年12月・2028年8月に延期されました。出典 ↗

実際に起きたこと

知っておくべき6つの事例。

2025年6月EchoLeak
細工メール1通で、クリックなしにCopilotからデータを抜き取れました。
出典 ↗
2025年8月Perplexity Comet
Web上の隠し文字で、AIブラウザがワンタイムコードを読み取って送信しました。
出典 ↗
2025年9月postmark-mcp
MCPサーバーはAIを他のアプリ(メールなど)につなぐ仕組みです。初めて確認された悪意あるMCPサーバーは、全メールのコピーを攻撃者に送信していました。
出典 ↗

ほか3件の事例を表示

2025年11月AIによる諜報
Anthropicによると、国家支援の攻撃でAIが作業の8〜9割を担いました。
出典 ↗
2026年2月ClawHavoc
ClawHubで341件の悪意あるスキルが見つかりました。多くは偽の「前提条件」で情報窃取ツールを導入するものでした。
出典 ↗
2026年2月Moltbook
AIで作られたサービスがデータベースを公開状態にしていました。APIキーは約150万件です。
出典 ↗

AIアプリの10大リスク

OWASP 2025リストをやさしく。リスクを押すと対策が見られます。 OWASP ↗

隠れた命令(プロンプトインジェクション)LLM01
Webや文書に隠れた指示がAIの動作を変えます。
対策重要な操作は、必ず承認してから実行させてください。
データ漏えい(機密情報の開示)LLM02
回答から個人情報や認証情報が漏れます。
対策回答に出ても困らないデータだけを渡してください。
危険な部品(サプライチェーン)LLM03
外部のモデルやライブラリが改ざんされていたり、検証されていなかったりします。
対策検証済みの提供元を使い、検証レポートを確認してください。
汚染された知識(データ汚染)LLM04
学習データの改ざんでバックドアや偏りが入ります。
対策モデルと学習データの出所を確認してください。
未検証の出力(出力処理)LLM05
AIの出力がそのままコードとして実行されます。
対策AIの回答は他人からの入力として扱ってください。
権限の与えすぎ(過剰な権限)LLM06
AIが必要以上の権限やツールを持っています。
対策作業に必要な権限だけを与えてください。
指示の漏えい(システムプロンプト漏えい)LLM07
内部指示が漏れます。鍵にはなりません。
対策指示にパスワードや秘密を書かないでください。
漏れる知識ベース(RAG)LLM08
AIが回答の根拠にする知識ベース(RAG)からデータが漏れたり、汚染されたりします。
対策誰がどの文書をAI経由で見られるかを決めてください。
誤った回答(誤情報)LLM09
もっともらしいが誤った回答。
対策重要な事実は必ず出典で確認してください。
コストの罠(無制限の消費)LLM10
大量リクエストでコスト急増や停止。
対策提供元で利用上限を設定してください。