分野 E｜セキュリティ・倫理
AI倫理とAIのリスク（ハルシネーション・説明可能なAI・生成AIの利用上の注意）
今の制度の過去問（3回分）では、ハルシネーションと、AI を使うときの留意点が、合わせて2問出ています。
シラバス案 Ver.0.1（2026年8月31日公表）の『7-27-2 AIのリスク・脅威』
最終更新
よく出る形
- ハルシネーション（もっともらしい誤り）を表す用語を選ぶ（3回分で1問）
- AI を使うときの留意点の a〜c の組合せを選ぶ（3回分で1問）
- 問われるとしたら：事例で、生成 AI の出力や入力への対応を選ぶ形
- 問われるとしたら：HITL（人が判断に関わる）などの説明を選ぶ形
覚えること
- 説明可能な AI（XAI）：AI の動作や判断について、人が納得できる説明を示せること
- ヒューマンインザループ（HITL）：AI に任せきりにせず、適切な場面で人間の判断を介在させること
- AI サービスのオプトアウトポリシー：入力したデータを、AI の学習に使わせない取り扱いの方針
- ハルシネーション：事実と異なることを、もっともらしく出力すること
- 古い出力情報：学習した時点より後の変化が、出力に反映されないこと
- 根拠・出典不明の出力情報：出力の根拠や出典が示されず、確かめにくいこと
- 出力情報の再現性・一貫性の欠如：同じ質問でも、出力が変わることがあること
- 差別的表現：学習データの偏りなどから、差別的な内容が出力されること
- ディープフェイク：本物に似せた偽の画像や映像を作り、偽情報の拡散などに使うこと
- AI 利活用の留意点：人への危害、判断の偏り、プライバシーの侵害の可能性
- 機密や個人情報の入力：入力した内容が、AI の学習に使われ、出力に出るおそれがある
- 個人データの入力：入力前に、提供事業者が機械学習に利用しないことなどを確かめる
- AI の出力の扱い：そのまま使わず、公表資料などで確かめてから使う
- 参考：今のシラバスで AI の留意事項はストラテジ系。案では大分類7（倫理）に置かれる
ひっかけ
- 同じ質問に同じ答えが出ても、内容が事実とは限らない
- HITL は人間の判断を介在させること、XAI は判断の理由を示すこと
- ハルシネーションは、文章が自然でも内容が誤っていることがある
想定問題
4問（四肢択一）。選ぶと、その場で正解と解説が開きます。
B さんの対応として、最も適切なものはどれか。
A 社の B さんは、取引先向けの提案資料に載せる市場規模の数値を、生成 AI に調べさせた。生成 AI は、数値と、もっともらしい調査機関の名前を答えた。
正解：ア 示された調査機関の公表資料を調べ、その数値が載っているかを確かめてから、資料に使う。
ポイント
生成 AI が出した数値や出典を、資料に使う前にどう扱うかを問う問題です。
考え方と解き方
生成 AI は、事実と異なることを、もっともらしく出力することがあります。具体的な名前や数値が付くと本物に見えますが、示された出典が実在するか、数値が載っているかは、別に確かめる必要があります。
- 生成 AI の出力は、そのまま使わず、公表資料などで確かめてから使います。
- B さんは、示された調査機関の公表資料を調べて、数値が載っているかを確かめます。
- したがって、最も適切なのは ア です。
ほかの選択肢
- イ 同じ数値が出ても、事実である根拠にはなりません。確かめる先は、公表資料などです。
- ウ 具体的な名前が示されても、その出典が実在し、数値が載っていると確かめられたことにはなりません。
- エ 提案に合う数値でも、出典の確認を後回しにすると、誤った数値を資料に載せるおそれがあります。
覚えておくこと
- ハルシネーション：事実と異なることを、もっともらしく出力すること
- AI の出力の扱い：そのまま使わず、公表資料などで確かめてから使う
- 根拠・出典不明の出力情報：出力の根拠や出典が示されず、確かめにくいこと
（テーマ・覚えること）
生成 AI を使う上での留意点に関する記述として、適切なものだけを全て挙げたものはどれか。
A 社は、社内で生成 AI を使い始める。担当の B さんは、利用上の留意点を社員に説明する資料を作っている。
- a 学習データに偏りがあっても、生成 AI の出力に、差別的な表現が含まれることはない。
- b 実在する人物の顔や声に似せた偽の映像や音声を、生成 AI で作れるので、偽情報の拡散に悪用されるおそれがある。
- c 学習したデータに古い情報が多い場合、最新の制度の変更が反映されていない回答が出るおそれがある。
正解：ウ b、c
ポイント
生成 AI の出力に関するリスクを、a〜c で判定する問題です。
考え方と解き方
学習データの偏りが、出力の偏りにつながることを見落として、a を適切と判定すると誤ります。
- a は不適切です。生成 AI は、学習データの偏りなどから、差別的な内容を出力することがあります。
- b は適切です。本物に似せた偽の映像や音声（ディープフェイク）は、偽情報の拡散などに悪用されます。
- c は適切です。学習した時点より後の変化は、出力に反映されないことがあります。
- したがって、適切なのは b、c で、ウ です。
ほかの選択肢
- ア a を入れすぎ、c を入れ損ねています。a は不適切で、c は適切です。
- イ a を入れすぎています。学習データに偏りがあれば、差別的な表現が出力に含まれるおそれがあります。
- エ b を入れ損ねています。偽の映像や音声の悪用は、留意点の一つです。
覚えておくこと
- 差別的表現：学習データの偏りなどから、差別的な内容が出力されること
- ディープフェイク：本物に似せた偽の画像や映像を作り、偽情報の拡散などに使うこと
- 古い出力情報：学習した時点より後の変化が、出力に反映されないこと
（テーマ・覚えること）
ヒューマンインザループ（HITL）に該当するものはどれか。
正解：イ AI の出力に、適切な場面で人間の判断を介在させ、最終判断に関わること
ポイント
AI の運用で、人の関わり方を表す用語の意味を問う問題です。
考え方と解き方
どれも AI と人の関わりの話なので、理由を示す XAI と、人間の判断を介在させる HITL を取りちがえると、アを選びます。
- ヒューマンインザループ（HITL）は、AI に単独で判断させず、適切な場面で人間の判断を介在させることです。
- したがって、ヒューマンインザループに該当するのは イ です。
ほかの選択肢
- ア 説明可能な AI（XAI）の説明です。AI の動作や判断について、人が納得できる説明を示す考え方です。
- ウ AI サービスのオプトアウトポリシーの説明です。入力したデータを学習に使わせない取り扱いの方針です。
- エ 人間の判断を介在させない運用の説明で、HITL とは逆です。HITL は、人間の判断を介在させます。
覚えておくこと
- ヒューマンインザループ（HITL）：AI に任せきりにせず、適切な場面で人間の判断を介在させること
- 説明可能な AI（XAI）：AI の動作や判断について、人が納得できる説明を示せること
（テーマ・覚えること）
A 社の対応として、最も適切なものはどれか。
A 社は、顧客からの問合せの記録を、インターネット上の生成 AI サービスに入力して、要約させることを検討している。記録には、顧客の氏名と連絡先が含まれる。
正解：エ 入力の前に、提供事業者が、入力した内容を学習に利用しないかを確認する。
ポイント
個人情報を含む記録を生成 AI に入力するときの、A 社の対応を問う問題です。
考え方と解き方
出力の結果や料金のような、見えやすい項目の確認を、個人情報を守る確認と取りちがえると、イやウを選びます。入力したあとの確認も、入力した内容の扱いは分かりません。
- 顧客の氏名と連絡先は個人情報に当たります。生成 AI サービスでは、入力した内容が機械学習に使われ、のちの出力に現れるおそれがあります。
- 個人データを含む入力をする前に、提供事業者がその内容を機械学習に利用しないことなどを確かめます。
- したがって、最も適切なのは エ です。
ほかの選択肢
- ア 入力したあとの確認では、すでに入力した個人情報が学習に使われるおそれを防げません。確認は入力の前に行います。
- イ 利用料金の仕組みは利用条件の話で、入力した内容の扱いを確かめることにはなりません。
- ウ 読みやすさは出力の品質の話で、入力した内容の扱いを確かめることにはなりません。
覚えておくこと
- 機密や個人情報の入力：入力した内容が、AI の学習に使われ、出力に出るおそれがある
- 個人データの入力：入力前に、提供事業者が機械学習に利用しないことなどを確かめる
（テーマ・覚えること）
このテーマの過去問
過去問を解く（2問）同じ分野のテーマ（セキュリティ・倫理）
- 情報セキュリティの脅威（なりすまし・ソーシャルエンジニアリング・シャドーIT）今の制度の過去問（3回分）では、脅威と脆弱性の用語、IoT 機器の脅威と対策、ダークウェブが、合わせて5問出ています。
- マルウェアの種類（ランサムウェア・トロイの木馬・スパイウェア）今の制度の過去問（3回分）では、ランサムウェアの説明が1問出ています。
- SQLインジェクション・XSS・DoS攻撃・パスワードリスト攻撃今の制度の過去問（3回分）では、バッファオーバーフローへの対策と、ゼロデイ攻撃・DDoS 攻撃・ブルートフォース攻撃の区別が、合わせて2問出ています。
- フィッシング・標的型攻撃・中間者攻撃とAIを悪用した攻撃今の制度の過去問（3回分）には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 情報セキュリティの考え方とマネジメント（機密性・完全性・可用性・ゼロトラスト）今の制度の過去問（3回分）では、3要素の区別、ゼロトラスト、ISMS の最初の手順、経営者の役割、インシデントの管理が、合わせて7問出ています。
- リスクアセスメント（情報資産台帳・リスク分析・リスク評価）今の制度の過去問（3回分）では、ISMS の活動としての、情報資産の洗い出しとリスクの特定・分析・評価が、1問出ています。
- リスク対応（リスク回避・移転・分散・保有）今の制度の過去問（3回分）では、リスク共有の例と、リスク対応の分類の記述が、合わせて2問出ています。
- 情報セキュリティポリシー・CSIRT・ISMAP・各種ガイドライン今の制度の過去問（3回分）では、情報セキュリティ方針の記述、ポリシーを作る作業の順番、CSIRT の活動の例が、合わせて3問出ています。
- マルウェア対策とランサムウェア対策（パターンマッチング・バックアップ）今の制度の過去問（3回分）では、ランサムウェア対策のバックアップが2問、マルウェア感染を防ぐ対策が1問、合わせて3問出ています。
- 暗号（共通鍵暗号・公開鍵暗号・ハッシュ関数）今の制度の過去問（3回分）では、共通鍵暗号方式と公開鍵暗号方式が2問、ハッシュ関数が1問、ブロックチェーンの適用例が1問、合わせて4問出ています。
- デジタル証明書・デジタル署名・PKI今の制度の過去問（3回分）では、PKI と認証局、CRL、デジタル署名、リスクベース認証が、合わせて5問出ています。
- 利用者認証（多要素認証・パスキー・ワンタイムパスワード）今の制度の過去問（3回分）では、利用者認証の用語の説明を選ぶ問題が1問、所有を使った認証の例を選ぶ問題が1問、合わせて2問出ています。
- 生体認証（顔認証・静脈認証・本人拒否率FRR・他人受入率FAR）今の制度の過去問（3回分）では、生体認証の例を選ぶ問題が1問、他人受入率と本人拒否率の関係を選ぶ問題が2問、合わせて3問出ています。
- 脆弱性対策とセキュリティ製品（ファイアウォール・WAF・IDS・IPS・EDR）今の制度の過去問（3回分）では、WAF と IDS の説明が、合わせて2問出ています。
- 情報モラルとネチケット（メール誤送信・BCC・デジタルタトゥー）今の制度の過去問（3回分）では、電子メールの宛先欄（Cc と Bcc）に関する問題が、合わせて2問出ています。
- フェイクニュースとデータの不正（ねつ造・盗用・エコーチェンバー）今の制度の過去問（3回分）には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 著作権・特許法・商標法・不正競争防止法（営業秘密）今の制度の過去問（3回分）では、著作権、産業財産権、不正競争防止法（限定提供データ）が、合わせて6問出ています。
- 労働基準法・労働契約法・36協定（労働時間と働き方）今の制度の過去問（3回分）には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 労働者派遣法・偽装請負・パワハラ防止法・公益通報者保護法今の制度の過去問（3回分）では、労働者派遣と偽装請負が、合わせて2問出ています。
- 特定商取引法・景品表示法・資金決済法（取引関連法規）今の制度の過去問（3回分）には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 民法と契約（請負契約・準委任契約・守秘契約NDA・ライセンス契約）今の制度の過去問（3回分）では、請負契約の注文者と請負業者の権利と義務が、1問出ています。
- AI基本法・デジタル社会形成基本法・リサイクル法（デジタル・環境関連法規）今の制度の過去問（3回分）では、官民データ活用推進基本法で、官民データを所有する組織を問う問題が、1問出ています。
- 個人情報保護法（個人データ・要配慮個人情報・匿名加工情報）今の制度の過去問（3回分）では、匿名加工情報の説明を選ぶ問題が、1問出ています。
- マイナンバー法・GDPR・忘れられる権利今の制度の過去問（3回分）には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- オプトイン・オプトアウト・第三者提供・データマスキング（同意の取得）今の制度の過去問（3回分）では、個人データの提供で本人の同意が要らない場合が、1問出ています。
- 不正アクセス禁止法（アクセス制御機能・不正アクセス行為）今の制度の過去問（3回分）では、不正アクセス禁止法で規制される行為を選ぶ問題が、1問出ています。
- ウイルス作成罪・サイバーセキュリティ基本法・特定電子メール法今の制度の過去問（3回分）では、サイバーセキュリティ基本法が2問、特定電子メール法が1問、合わせて3問出ています。