Moshiru
会社情報記事一覧無料スキャン

会社のセキュリティ教科書　第4部 4-17

AI for SecurityとSecurity for AI｜AIで守る、AIを守る

公開：2026年10月15日／最終更新：同／Moshiru 岡﨑 悠太

こんなときに役立ちます

  • 生成AIを業務で使うときのルールや、AIを使った監視ツールを検討するとき
  • 取引先のチェックシートで「生成AIの利用ルール」を聞かれたとき
  • SGや支援士の勉強で、AI for SecurityとSecurity for AIの違いを押さえたいとき

読み終えたあと、社内でこう言えます

「生成AIで使ってよいサービスと入れない情報を、決めておきました」

結論：AIとセキュリティの関係は2つに分けて考えます。AI for Securityは「AIを使って守る」こと、Security for AIは「AIそのものを守る」ことです。中小企業がまず取り組むのは後者で、使ってよいAIサービスと入れてはいけない情報を決めることです。IPAの「情報セキュリティ10大脅威 2026」でも、組織編の3位に「AIの利用をめぐるサイバーリスク」が初めて入りました。AIを使った監視ツールは便利ですが、最後の判断は人が行う前提で選びます。

AIとセキュリティの2つの関係：AIを使って守るAI for Securityと、AIそのものを守るSecurity for AI

2つの言葉は、守る相手が違う

AI for SecurityとSecurity for AIは、IPAの試験のシラバスにも並んで載っている用語です。言葉が似ているので、守る相手で区別します。

言葉一言で会社での例
AI for SecurityAIを道具に使って守るAIが不審なメールや端末の動きを見つける。大量の警告をAIが要約する
Security for AIAIそのものを守る社内のAIチャットに機密を入れない。AIに渡す権限を絞る。AIへの不正な指示を防ぐ

米国NISTが2025年12月に出した草案「Cyber AI Profile」（NIST IR 8596、予備草案）は、これを3つに分けています。AIシステムを守る（Secure）、AIで防御する（Defend）、AIを使った攻撃に対抗する（Thwart）です。3つ目の、攻撃者がAIを悪用する話はAIを悪用した攻撃の節で扱います。この節では前の2つを説明します。

AI for Security：AIを使った守り

セキュリティの製品には、すでにAIや機械学習が多く使われています。中小企業が出会いやすいのは次のような場面です。

便利な一方で、AIの判定には必ず外れがあります。試験でもよく出る2つの言葉で整理します。

外れ方意味困ること
フォールスポジティブ（誤検知）正常なものを怪しいと判定する警告が多すぎて、担当者が見なくなる
フォールスネガティブ（見逃し）怪しいものを正常と判定する本当の攻撃に気づかない

AIを使った監視ツールを選ぶときは、次の3点を確かめると判断しやすくなります。

  1. 警告を誰が見るか：社内に見る人がいなければ、監視を代行するサービスつきかを確かめる。
  2. AIが止めるのか、知らせるだけか：自動で隔離する範囲と、人が判断する範囲を分けておく。
  3. データの送り先：ログやメールの中身を事業者のクラウドに送るなら、保管場所と保管期間、学習に使うかを契約で確かめる。

Security for AI：AIそのものの守り

AIそのものも、攻撃や事故の対象になります。総務省は2026年3月、「AIのセキュリティ確保のための技術的対策に係るガイドライン」を公表しました。対象はAIを開発する会社と、AIを組み込んだサービスを提供する会社で、大規模言語モデル（LLM、文章を作るAIの中心部分）を使うシステムを扱っています。

このガイドラインが主に取り上げる脅威は次の2つです。

脅威どんなことか主な対策の考え方
プロンプトインジェクションAIへの入力や、AIが読むWebページ・メールに指示を紛れ込ませ、想定外の動きをさせる入力・参照データ・出力をAIの外側で確かめる（ガードレール）。AIに渡す権限を最小にする
DoS（サービス妨害）重い処理を大量にさせ、止めたり利用料を膨らませたりする回数や量の制限、記録の保存

ガイドラインは、1つの対策でリスクをなくすことはできないとして、対策を重ねることを勧めています。社内の文書をAIに読ませる仕組み（RAG）では、AIが読める文書に人と同じアクセス権の制限をかけることも挙げています。

国際的には、OWASPの「Top 10 for LLM Applications 2025」がよく参照されます。中小企業の使い方に関係が深い項目を抜き出すと、次のとおりです。

AI事業者ガイドライン：「使う会社」がすること

総務省と経済産業省の「AI事業者ガイドライン」は、2026年3月31日に第1.2版が公表されました。AIに関わる会社を3つの立場に分けています。

立場どんな会社か
AI開発者AIシステムを開発する会社
AI提供者AIを自社のサービスや業務の仕組みに組み込んで提供する会社
AI利用者事業の中でAIシステムやAIサービスを使う会社

多くの中小企業は「AI利用者」です。ただし第1.2版では、コード生成AIの助けを借りて自分でAIの仕組みを作り、提供した場合は、利用者と提供者の両方の立場を兼ねると整理されました。

10項目ある共通の指針の1つが「セキュリティ確保」で、AIの機密性・完全性・可用性を保つことが求められています。利用者として求められる主なことは次のとおりです。

  1. 提供者が決めた使い方の範囲で使い、出力の精度とリスクを理解する
  2. 個人情報や機密情報を不適切に入力しない
  3. 提供者が示すセキュリティ上の注意点を守る
  4. 扱うデータを必要最小限にする（第1.2版で利用者にも明記）
  5. 重大な影響が出うる判断には、人の判断を挟む
  6. 自分で動くAI（AIエージェント）の操作の記録を定期的に確かめる

中小企業の生成AI利用ルール：最低限の5項目

IPAの10大脅威 2026の解説書は、社員が会社の管理外の個人アカウントでAIを使う「シャドーAI」を問題に挙げています。禁止するだけでは隠れて使われるので、使ってよい道具を会社が用意するのが現実的です。

たとえば社員12人の会計事務所では（架空の例）

顧客の決算書を扱う社員12人の事務所を考えます。所長が「AIで文書作成を速くしたい」と考えています。A4用紙1枚のルールは次のようになります。

  1. 使ってよいサービス：事務所で契約した法人向けプランだけ。個人アカウントでの業務利用は禁止。
  2. 設定：入力したデータを学習に使わない設定にする。管理者が設定を確かめる。
  3. 入れてはいけない情報：顧客の氏名・マイナンバー・口座、未公表の決算数字。必要なら社名や数字を伏せてから使う。
  4. 出力の確認：税法の条文や数字は、必ず原典で確かめてから使う。顧客に出す文書は人が最終確認する。
  5. 困ったとき：誤って機密を入力した、おかしな答えが出た、という場合は所長にすぐ報告する。

このルールは、IPAの解説書が挙げる対策（利用ルールの整備、学習に使わせない設定、秘密情報を入力しない、出力を確かめる）と、AI事業者ガイドラインの利用者の項目を中小企業の言葉にしたものです。メールやクラウドのDLPで、生成AIへの貼り付けを警告する方法もあります。

チェックシートではこう聞かれる

よくある設問答え方の例
生成AIの業務利用に関するルールを定めていますか。はい。使ってよいサービス、入力してはいけない情報、出力の確認方法を規程に定め、全員に説明しています。
当社から預かった情報を、生成AIサービスに入力していませんか。はい、入力していません。預かった情報は入力禁止の対象として規程に明記しています。
利用している生成AIサービスで、入力データが学習に使われない設定にしていますか。はい。法人向けプランを契約し、学習に使わない設定を管理者が確かめています。
個人アカウントでの生成AIの業務利用を制限していますか。いいえ。現在は規程で禁止しているのみです。〇月までに、社内の通信の記録で利用状況を確かめる予定です。

「いいえ」の場合も、代わりの対策と予定を添えると誠実な回答になります。書き方はチェックシートの回答の書き方を参考にしてください。

試験ではここが問われる

SG・支援士・Security+ 4

  • AI for Security：AIを使ったセキュリティ技術。振る舞い検知、迷惑メール判定、ログ分析など。誤検知（フォールスポジティブ）と見逃し（フォールスネガティブ）の区別も問われます。
  • Security for AI：AIそのものを守るセキュリティ技術。プロンプトインジェクション対策、RAG用データへのアクセス制御、AIに渡す権限の最小化など。
  • AI事業者ガイドライン：AI開発者・AI提供者・AI利用者の3つの立場。共通の指針に「セキュリティ確保」があります。
  • シャドーAI：組織が把握・許可していないAIサービスを業務で使うこと。シャドーITのAI版です。
  • 紛らわしい対：AIを悪用した攻撃（攻撃者がAIを使う）と、AIシステムに対する攻撃（AIが狙われる）は別の分類です。前者は2-16の節を参照してください。

確認問題

問1 次のうち、Security for AI（AIそのものを守るセキュリティ）に当たる対策はどれですか。

  1. ア 機械学習を使って、迷惑メールを自動で振り分ける
  2. イ 社内文書を読むAIチャットに、利用者と同じアクセス権の制限をかける
  3. ウ EDRの振る舞い検知で、普段と違う端末の動きを見つける
  4. エ 大量のログから、AIが怪しい組み合わせを拾い出す
答えと解説
正解：イ　AIが読める範囲を人と同じ権限で絞るのは、AIそのものを守る対策です。ア・ウ・エは、AIを道具に使って会社を守るAI for Securityの例です。

問2 社員15人の広告制作会社（架空）で、社員が個人のアカウントで生成AIを使い、取引先の未発表の企画書を要約していたことが分かりました。今後の対策として、最も適切なものはどれですか。

  1. ア 生成AIの利用を全面禁止し、それ以上は何もしない
  2. イ 会社で法人向けプランを契約して学習に使わない設定にし、入力してはいけない情報を規程に定めて説明する
  3. ウ 個人アカウントでも有料プランなら安全なので、有料プランへの切り替えを勧める
  4. エ 要約の結果が正しかったので、問題はないと判断する
答えと解説
正解：イ　使ってよい道具を会社が用意し、設定と入力禁止の情報を決めるのが現実的です。アは隠れて使うシャドーAIを招きやすく、ウは会社が設定や利用状況を管理できません。エは、情報を外部に入力した問題と、出力の正しさを取り違えています。

問3 AIを使った監視ツールで、正常な社員の操作を「攻撃の疑い」と判定する警告が多発しました。この現象を表す言葉として、最も適切なものはどれですか。

  1. ア フォールスネガティブ
  2. イ フォールスポジティブ
  3. ウ ハルシネーション
  4. エ プロンプトインジェクション
答えと解説
正解：イ　正常なものを異常と判定するのはフォールスポジティブ（誤検知）です。アは逆に攻撃を見逃すことです。ウは生成AIがもっともらしい誤りを出すこと、エはAIに不正な指示を紛れ込ませる攻撃です。

よくある質問

無料版の生成AIを業務で使ってもよいですか？
入力データの扱いはサービスとプランで違います。学習に使われるか、管理者が設定や利用状況を確かめられるかを、利用規約と設定画面で確かめてください。確かめられない場合は、少なくとも顧客や取引先の情報、未公表の情報は入れないルールにします。
AIの監視ツールを入れれば、担当者はいらなくなりますか？
いいえ。AIの判定には誤検知と見逃しがあり、止めるか続けるかの判断は人が行います。社内に見る人がいない場合は、警告の確認まで代行するサービスを選ぶか、警告を受け取る人と連絡の順番を決めておいてください。
社内でAIの仕組みを作ると、何が変わりますか？
AI事業者ガイドライン第1.2版では、コード生成AIの助けで作った仕組みを提供する場合も、利用者と提供者を兼ねると整理されています。AIに渡す権限の最小化、読める文書の制限、操作の記録など、提供者としての注意点も確かめてください。

生成AIの設問は任せて、確認と提出だけに

Moshiruは、打合せなしでテキストだけでお受けします。取引先から届いたセキュリティチェックシートの生成AIの設問に、御社の使い方に合わせた回答を作ってお返しします。ルールがまだない場合は、A4用紙1枚の利用ルールのたたき台も添えます。

回答代行を見る20問まで1.5万円・打合せなしメニューにないことを頼む文面で合意するまで料金はかかりません

参考にした資料

  1. 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日）
  2. 総務省・経済産業省「AI事業者ガイドラインの令和7年度更新内容」（2026年3月）
  3. 総務省「『AIのセキュリティ確保のための技術的対策に係るガイドライン』（案）に対する意見募集の結果及びガイドラインの公表」（2026年3月27日）
  4. IPA「情報セキュリティ10大脅威 2026」（2026年1月29日）
  5. IPA「情報セキュリティ10大脅威 2026 解説書（組織編）」（2026年）
  6. OWASP「Top 10 for LLM Applications 2025」
  7. NIST「IR 8596 Cybersecurity Framework Profile for Artificial Intelligence（Cyber AI Profile）」予備草案（2025年12月）
  8. IPA「試験要綱・シラバス」（情報セキュリティマネジメント試験・情報処理安全確保支援士試験）