分野 S｜セキュリティ
AIで守る技術とAIを守る対策（RAG・プロンプトインジェクション対策）
今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
シラバス案 Ver.0.1（2026年9月30日公表）の『1 セキュア開発・実装／セキュリティに配慮したシステムアーキテクチャ及びシステム構築』『1 セキュア開発・実装／AIシステムを守るための対策（Security for AI）』
最終更新
問われ方
- 問われるとしたら：委託先に求めるAIの対策を、被害の原因から選ぶ形
- 問われるとしたら：RAGの参照データの扱いを、利用者の権限から選ぶ形
- 問われるとしたら：AI for Security と Security for AI の区別を選ぶ形
覚えること
- AI for Security：AIを使って、監視や分析、対応を支援する取組み
- Security for AI：AIシステム自体を、攻撃や誤用から守る取組み
- AIを使った検知の結果は誤りを含むことがあり、確認は担当者が行う
- プロンプトインジェクション：攻撃の中身は、AIへの攻撃のテーマで扱う。ここでは対策
- 完全に防ぐ方法は確立していない。複数の対策を重ねる（多層防御）
- 対策の例：入出力のフィルタリング、権限の最小化、ログの取得、人の承認
- 指示とデータの構造的な分離は研究段階。提供されていれば使い、他の対策と重ねる
- 外部データ中の悪意ある指示の検知、遮断の機能は、AI提供者に求める。完全ではない
- RAGの保管先（データストア）に権限の不備があると、閲覧できない文書が回答に混ざる
- RAGのアクセス制御：検索時に、利用者の権限と文書の権限を照合して参照先を絞る
- RAGの参照データは、信頼性、正確性の高い出典を使い、定期的に品質を管理する
- AIに与える参照範囲と操作の権限は、業務に必要な最小限にする
- 委託先に求める：アクセス制御、ログ、フィルタリングの機能と対応状況。契約や調達仕様に明記
ひっかけ
- 指示文に「見せない」と書くだけでは、アクセス制御の代わりにならない
- 入力の検査だけでは、外部データ経由の指示を防ぎきれない
想定問題
4問（科目A（四択））。選ぶと、その場で正解と解説が開きます。
B さんが委託先に求める対応として、最も適切なものはどれか。
A 社の情報システム部の B さんは、社内の文書を検索して回答する RAG 型の AI アシスタントを、委託先に構築させている。保管先には、全従業員向けの規程集と、人事部だけが閲覧できる人事評価資料が入っている。従業員は社内の認証基盤でログインして使う。人事部以外の従業員には、人事評価資料の内容が回答に出ないようにしたい。
正解：イ 検索のとき、ログインした利用者の権限と各文書の権限を照合し、参照する文書を絞る。
ポイント
RAG の参照データのアクセス制御を、検索時の権限の照合から選ぶ問題です。
考え方と解き方
RAG は、保管先の権限管理に不備があると、見せてはいけない文書が回答に混ざります。指示文や注意喚起は、アクセス制御の代わりになりません。この立場なら、だれがどの文書を参照できるかを、仕組みで制御させることを先に考えます。
- 人事評価資料は人事部だけが閲覧できる文書です。検索のときに、利用者の権限と文書の権限を照合し、参照できる文書だけを回答に使う必要があります。
- 委託先に、権限の照合を仕組みとして実装させ、その対応状況を確かめます。したがって、最も適切なのは イ です。
ほかの選択肢
- ア 指示文に書くだけでは、検索の段階で参照範囲が絞られません。アクセス制御の代わりにはならないので、適切ではありません。
- ウ 注意喚起は利用者の行動に頼るもので、質問されても内容が回答に混ざらない状態にはなりません。適切ではありません。
- エ 回答を返したあとでは、閲覧できない従業員に内容がすでに渡っています。全ての回答を確認するのも現実的ではないので、適切ではありません。
覚えておくこと
- RAGの保管先（データストア）に権限の不備があると、閲覧できない文書が回答に混ざる
- RAGのアクセス制御：検索時に、利用者の権限と文書の権限を照合して参照先を絞る
（テーマ・覚えること）
委託先への依頼内容として、最も適切なものはどれか。
A 社の情報セキュリティ管理者の B さんは、顧客から届くメールを読み取って要約し、担当者に通知する AI 機能の導入を、委託先に依頼している。メールの本文には、第三者が任意の文章を書き込める。この AI 機能は、社内の顧客データベースも参照できる。
正解：エ メール本文中の不正な指示の検知と遮断を求め、権限の最小化とログの取得も重ねる。
ポイント
第三者が書き込める外部データを使う AI への、プロンプトインジェクション対策を選ぶ問題です。
考え方と解き方
メール本文のような外部データに不正な指示が仕込まれるおそれがあります。完全に防ぐ方法はないので、一つの対策に頼らず重ねます。この立場なら、被害を広げない権限とログも、委託先に先に求めます。
- メール本文は第三者が書き込める外部データなので、不正な指示の経路になります。外部データ中の悪意ある指示の検知と遮断の機能は、AI 提供者に求めますが、完全ではありません。
- そのため、参照できる範囲の最小化と、後から確かめるためのログを重ねます。したがって、最も適切なのは エ です。
ほかの選択肢
- ア 不審な語句の有無だけに頼ると、巧妙に偽装された指示を見逃します。一つの対策だけに頼るので、適切ではありません。
- イ 第三者が書き込めるメール本文こそが、攻撃の経路です。本文を信頼できる情報として扱うと攻撃を許すので、適切ではありません。
- ウ 完全に防ぐ方法は確立していません。機能が組み込まれていることを理由に追加の対策を設けないのは、適切ではありません。
覚えておくこと
- 完全に防ぐ方法は確立していない。複数の対策を重ねる（多層防御）
- 対策の例：入出力のフィルタリング、権限の最小化、ログの取得、人の承認
- 外部データ中の悪意ある指示の検知、遮断の機能は、AI提供者に求める。完全ではない
（テーマ・覚えること）
AI の実装に関する記述 a〜c のうち、適切なものだけを全て挙げたものはどれか。
A 社の情報セキュリティ担当の C さんは、AI の導入に関する社内の説明資料に、次の a〜c を書いた。
- a RAG の参照データは、信頼性、正確性の高い出典を使い、定期的に品質を管理する。
- b AI に与える参照範囲と操作の権限を業務に必要な最小限にすると、乗っ取られたときの被害を抑えられる。
- c AI アシスタントをクラウドサービスとして導入する場合、提供者の対策の一覧を受け取れば、自社の利用条件での確認は不要である。
正解：ア a、b
ポイント
AI の実装で、委託先に確かめることの適切さを問う問題です。
考え方と解き方
RAG の参照データの品質と、AI に与える権限の最小化は、どちらも実装で確かめます。調達の確認は、提供者の対応状況に加え、自社の利用条件に照らして行います。
- a は適切です。参照データは、信頼性と正確性の高い出典を使い、品質を管理します。b は適切です。権限を最小限にすると、乗っ取られたときの被害を抑えられます。c は不適切です。提供者の対策の一覧だけでなく、自社の利用条件で確かめます。
- したがって、適切なのは a、b の全てで、ア です。
ほかの選択肢
- イ c は不適切なので、a、b、c の全てとはなりません。
- ウ b も適切なので、a、c では組合せが合いません。また、c は不適切です。
- エ a も適切なので、b、c では組合せが合いません。また、c は不適切です。
覚えておくこと
- RAGの参照データは、信頼性、正確性の高い出典を使い、定期的に品質を管理する
- AIに与える参照範囲と操作の権限は、業務に必要な最小限にする
- 委託先に求める：アクセス制御、ログ、フィルタリングの機能と対応状況。契約や調達仕様に明記
（テーマ・覚えること）
AI for Security と Security for AI の説明の組合せとして、最も適切なものはどれか。
正解：ウ AI for Security は AIを使って監視、分析、対応を支援する取組み、Security for AI は AIシステム自体を攻撃や誤用から守る取組みである。
ポイント
AI を使った対策と、AI を守る対策の区別を問う問題です。
考え方と解き方
名前の向きで区別します。for Security は AI がセキュリティの手段、for AI は AI が守る対象です。向きを入れかえた説明が、いちばん取りちがえやすい形です。
- AI for Security は、AI を使って、監視、分析、対応を支援する取組みです。Security for AI は、AI システム自体を、攻撃や誤用から守る取組みです。
- したがって、最も適切なのは ウ です。
ほかの選択肢
- ア 2つの説明を入れかえています。AIシステム自体を守るのは Security for AI で、AIを使って支援するのは AI for Security です。
- イ 利用者の認証や出力の確認は、AIシステムを守る具体策で、Security for AI 側の内容です。AI for Security の説明にはなりません。
- エ AI を使った攻撃は、2つとは別の観点です。AI for Security は対策のために AI を使う取組みで、Security for AI は AI を守る取組みです。
覚えておくこと
- AI for Security：AIを使って、監視や分析、対応を支援する取組み
- Security for AI：AIシステム自体を、攻撃や誤用から守る取組み
（テーマ・覚えること）
同じ分野のテーマ（セキュリティ）
- 脅威の種類・脆弱性・不正の動機今の制度の過去問（6回分）では、不正のトライアングル、ソーシャルエンジニアリング、ビジネスメール詐欺（BEC）の説明が、合わせて3問出ています。
- マルウェアの種類（ランサムウェア・ボット・トロイの木馬）今の制度の過去問（6回分）では、ルートキットの特徴とボットネットの C&C サーバの役割が、1問ずつ、合わせて2問出ています。
- 攻撃の流れと認証情報を狙う攻撃（総当たり・リプレイ）今の制度の過去問（6回分）では、サイバーキルチェーンの説明とパスワードリスト攻撃の説明が、1問ずつ、合わせて2問出ています。
- アプリの不備を狙う攻撃とDoS攻撃今の制度の過去問（6回分）では、ランダムサブドメイン攻撃で起きることが1問出ています。
- 信頼を悪用する攻撃（フィッシング・標的型・中間者）今の制度の過去問（6回分）では、DNS キャッシュポイズニングが2問、SEO ポイズニングが1問、合わせて3問出ています。
- AIを使う攻撃・AIへの攻撃・サプライチェーン攻撃・ゼロデイ攻撃今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 情報セキュリティの考え方（CIA・ゼロトラスト・責任共有）今の制度の過去問（6回分）では、ゼロトラストの説明を選ぶ問題が1問出ています。
- 情報資産とリスクアセスメント（台帳・リスクレベル）今の制度の過去問（6回分）では、リスクアセスメントのプロセスやリスクレベルの定義が3問出ています。
- リスク対応（回避・低減・移転・保有）今の制度の過去問（6回分）では、残留リスクとリスク受容の承認を選ぶ問題が2問出ています。
- 情報セキュリティ方針と諸規程今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- セキュリティ関連の組織・機関（CSIRT・SOC・JPCERT/CC）今の制度の過去問（6回分）では、組織内 CSIRT の構築を支援する資料の選択と、CRYPTREC の役割が、1問ずつ、合わせて2問出ています。
- 届出制度・評価制度・ガイドライン（ISMAP・CSF）今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 情報セキュリティマネジメントシステム（ISMS・JIS Q 27001）今の制度の過去問（6回分）では、是正処置の定義を選ぶ問題が1問出ています。
- 組織的管理策（ISMSの管理策の区分。資産管理・供給者管理・インシデント管理）今の制度の過去問（6回分）では、デジタルフォレンジックスの説明を選ぶ問題が1問出ています。
- 人的・物理的・技術的管理策の分類（ISMSの管理策の区分）今の制度の過去問（6回分）では、サポートユーティリティの例を選ぶ問題が1問出ています。
- 脅威インテリジェンスとインシデント管理今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 人的対策（内部不正防止・訓練・守秘）今の制度の過去問（6回分）では、内部不正防止ガイドラインに照らした、退職者に関する対策を選ぶ問題が1問出ています。
- 物理的対策とモバイル機器の管理今の制度の過去問（6回分）では、アンチパスバックの仕組みを選ぶ問題が1問出ています。
- アクセス制限と暗号化（最小特権・ストレージ暗号化）今の制度の過去問（6回分）では、セキュア OS のアクセス制御と管理者権限の問題、ストレージの抜き取りへの対策の問題が 2 問出ています。
- 利用者認証（多要素認証・SSO・ID連携）今の制度の過去問（6回分）では、認証の方式を選ぶ問題が3問出ています。
- 生体認証とパスワードレス認証（FRR・FAR・パスキー）今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- マルウェア対策とランサムウェア対策（検出手法・バックアップ）今の制度の過去問（6回分）では、マルウェアの検出方法を選ぶ問題が2問出ています。
- 脆弱性管理とログ管理（パッチ・SIEM・EDR）今の制度の過去問（6回分）では、SIEM 製品の効果とデータベースの監査ログの目的が2問出ています。
- ネットワークの防御（FW・IDS/IPS・VPN・WAF）今の制度の過去問（6回分）では、DMZ の説明、DMZ 上の仮想デスクトップの効果、CAPTCHA の説明が3問出ています。
- 通信の保護規格（TLS・IPsec・WPA3・SPF/DKIM）今の制度の過去問（6回分）では、TLS のサーバー証明書や HTTPS、SPF、SMTP-AUTH を選ぶ問題が 5 問出ています。
- 暗号方式（共通鍵・公開鍵・ハイブリッド・鍵管理）今の制度の過去問（6回分）では、共通鍵暗号方式と公開鍵暗号方式の特徴、同じ鍵を使う暗号方式、ハイブリッド暗号の特徴が3問出ています。
- ハッシュ関数とデジタル署名（改ざん検知）今の制度の過去問（6回分）では、ハッシュ値の性質や使う目的、デジタル署名の鍵、メッセージ認証符号の問題が 4 問出ています。
- セキュア開発・IoT・脆弱性評価（CVSS・CVE・診断）今の制度の過去問（6回分）では、SQLインジェクションの対策、CVSS の評価基準、ホワイトボックステスト、ポートスキャナの利用目的が4問出ています。