分野 L｜倫理・法規
AIのリスクと脅威（ハルシネーション・シャドーAI・機密入力）
今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
シラバス案 Ver.0.1（2026年9月30日公表）の『2 AI倫理・AIガバナンス／AIのリスク・脅威』
最終更新
問われ方
- 問われるとしたら：生成 AI に入力してよい情報を、決まりに合わせて選ぶ形
- 問われるとしたら：AI の出力に誤りがある前提で、確認の仕方を選ぶ形
- 問われるとしたら：許可のない AI の業務利用を見つけた時の対応を選ぶ形
- 問われるとしたら：偽の映像や音声に対する利用者の注意を選ぶ形
覚えること
- 生成 AI への入力：機密情報や個人情報は、組織が定めた範囲を超えて入力しない
- 入力した情報は、事業者の学習に使われることがあり、自社の管理から外れる
- 個人データの入力は、利用目的の範囲内か、事業者が学習に使わないかを確かめる
- 設定で学習に使わせなくても、入力してよい情報の範囲は組織が決める
- ハルシネーション：事実と異なるもっともらしい情報を生成すること
- 出力は下書きとして扱い、最終判断は人が行う。重要な内容は根拠を確かめる
- 精度が高い AI でも誤りは残る。確認の手順を決め、利用者に教育する
- 自動化バイアス：自動化されたシステムへの過度の信頼や依存
- シャドーAI：組織が許可していない AI システムを、従業員が利用すること
- シャドーAI は業務上の必要から生じやすく、禁止だけでは申告されない利用が増える
- シャドーAI への対応：実態を把握し、承認した AI を提供し、審査と教育を整える
- 利用部門でシャドーAI を見つけたら：管理者に報告し、扱いが決まるまで業務情報の入力を止める
- ディープフェイク：本物のように見える偽の画像・映像・音声。生成技術で作られる
- ディープフェイクへの利用者の注意：それだけで本人と判断せず、別の手段で確かめる
- 用語例（名前を押さえる）：フロンティア AI のリスクと脅威
ひっかけ
- 学習に使わせない設定と、入力してよい情報の範囲の取りちがえ
- 禁止の周知だけで、シャドーAI が解消すると考えること
想定問題
4問（科目A（四択））。選ぶと、その場で正解と解説が開きます。
J さんが行う対応として、最も適切なものはどれか。
正解：エ 機密と個人情報に分類される部分を除いて入力し、要約の結果は人が確認して使う
ポイント
生成 AI に入力してよい情報を、組織の決まりに合わせて選ぶ問題です。
考え方と解き方
入力した情報は、事業者の学習に使われることがあり、自社の管理から外れます。設定があっても、入力してよい情報の分類は、組織の決まりに従います。一般の従業員の立場なら、まず、議事録のどこが入力できない情報にあたるかを考えます。
- A 社の決まりでは、入力できるのは公開情報と社内情報です。議事録のうち、機密に分類される部分と、個人が特定できる部分は入力できません。
- それらを除いて入力し、要約の結果は、誤りが含まれることがあるので、人が確認してから使います。したがって、最も適切なのは エ です。
ほかの選択肢
- ア 学習に使わせない設定があっても、入力してよい情報の分類は組織の決まりに従います。機密情報と個人情報を含むまま入力することはできません。
- イ 承認していない別のサービスに入力すると、組織が把握できない利用になります。また、機密の部分は、どのサービスにも入力できません。
- ウ 機密の部分を置き換えても、顧客担当者の氏名が残っています。個人情報は入力できないので、適切ではありません。
覚えておくこと
- 生成 AI への入力：機密情報や個人情報は、組織が定めた範囲を超えて入力しない
- 設定で学習に使わせなくても、入力してよい情報の範囲は組織が決める
- 出力は下書きとして扱い、最終判断は人が行う。重要な内容は根拠を確かめる
（テーマ・覚えること）
K さんが資料に載せる前に行う対応として、最も適切なものはどれか。
正解：ウ 載せる数値と出典を、元の資料や調査機関の発表で確かめ、確認できたものだけを載せる
ポイント
AI の出力に含まれる誤りを前提にした、確認の仕方を選ぶ問題です。
考え方と解き方
ハルシネーションは、精度が高いサービスでも残ります。出力は下書きとして扱い、最終判断は人が行います。企画部の K さんの立場なら、役員向けの資料に載せる前に、何を確かめるかを先に考えます。
- 数値と出典には、事実と異なるもっともらしい内容が含まれることがあるので、元の資料や調査機関の発表で確かめます。
- 確認できたものだけを資料に載せます。したがって、最も適切なのは ウ です。
ほかの選択肢
- ア 精度が高いサービスでも、ハルシネーションは完全には排除できません。出典の確認を省くのは適切ではありません。
- イ 別の AI サービスも誤りを出すことがあり、同じ数値が返っても、事実の根拠にはなりません。
- エ 調査機関の名前だけでは足りません。数値そのものも、元の資料で確かめる必要があります。
覚えておくこと
- ハルシネーション：事実と異なるもっともらしい情報を生成すること
- 出力は下書きとして扱い、最終判断は人が行う。重要な内容は根拠を確かめる
- 精度が高い AI でも誤りは残る。確認の手順を決め、利用者に教育する
（テーマ・覚えること）
L さんがとる対応として、最も適切なものはどれか。
正解：イ 利用の実態を情報セキュリティ管理者に報告し、扱いが決まるまで業務情報の入力を控えさせる
ポイント
許可のない AI の業務利用を見つけた時の、利用部門の責任者の対応を選ぶ問題です。
考え方と解き方
シャドーAI は、業務上の必要から生じやすく、禁止だけでは申告されない利用が増えます。ただし、組織としての扱いは、部門が単独で決めることではありません。利用部門の責任者の立場なら、まず、全体を管理する人に何を伝えるかを考えます。
- 個人契約のサービスでは、入力した情報の取扱いを組織が管理できません。実態を情報セキュリティ管理者に報告し、組織としての扱いを決めてもらいます。
- 扱いが決まるまでは、業務情報の入力を控えさせます。したがって、最も適切なのは イ です。
ほかの選択肢
- ア 黙認すると、入力された情報が管理されないままになります。問題が起きてからでは、取り返せないことがあります。
- ウ 個人契約のサービスを部内で認めると、部門が組織の承認を待たずに決めることになります。
- エ 禁止だけで代わりの手段や申請の窓口がないと、申告されない利用が増え、実態を把握しにくくなります。
覚えておくこと
- シャドーAI：組織が許可していない AI システムを、従業員が利用すること
- シャドーAI は業務上の必要から生じやすく、禁止だけでは申告されない利用が増える
- 利用部門でシャドーAI を見つけたら：管理者に報告し、扱いが決まるまで業務情報の入力を止める
（テーマ・覚えること）
生成 AI のリスクに関する a〜c の記述のうち、適切なものだけを全て挙げたものはどれか。
- a ハルシネーションは、事実と異なるもっともらしい情報を生成することなので、人が出力を確かめてから使う。
- b ディープフェイクは、本物のように見える偽の映像や音声なので、それだけで本人と判断せず、別の手段で確かめる。
- c 生成 AI に入力した情報は、提供事業者の管理下に入るだけで、学習に使われることはない。
正解：ア a、b
ポイント
生成 AI のリスクに関する記述の適切さを、取りちがえずに選ぶ問題です。
考え方と解き方
ハルシネーションは確かめてから使う、ディープフェイクは別の手段で確かめる、入力した情報は学習に使われることがある、と整理します。c は、学習に使われることがあるという点を打ち消しています。
- a は適切です。ハルシネーションは事実と異なるもっともらしい情報を生成することで、人が確かめてから使います。b は適切です。ディープフェイクは本物のように見える偽の映像や音声なので、それだけで本人と判断せず、別の手段で確かめます。c は不適切です。入力した情報は、事業者の学習に使われることがあります。
- したがって、適切なのは a、b の全てで、ア です。
ほかの選択肢
- イ c は不適切なので、a、b、c の全てとはなりません。
- ウ c は不適切です。また、b も適切なので、a、c では組合せが合いません。
- エ c は不適切です。また、a も適切なので、b、c では組合せが合いません。
覚えておくこと
- ハルシネーション：事実と異なるもっともらしい情報を生成すること
- ディープフェイクへの利用者の注意：それだけで本人と判断せず、別の手段で確かめる
- 入力した情報は、事業者の学習に使われることがあり、自社の管理から外れる
（テーマ・覚えること）
同じ分野のテーマ（倫理・法規）
- 情報倫理・情報モラル（メール誤送信・フェイクニュース）今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- AI倫理とAIガバナンス（XAI・HITL・AI利用ポリシー）今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 著作権法（著作権・引用）今の制度の過去問（6回分）では、プログラム作成を委託した時の著作権の原始的帰属を問う問題が1問出ています。
- 労働基準法・労働者派遣法・公益通報者保護法今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 不正競争防止法（営業秘密の3要件・限定提供データ）今の制度の過去問（6回分）では、社外秘情報の持出しを防ぐ対策として、情報の管理レベルのラベル付けを選ぶ問題が1問出ています。
- 請負・準委任・外部委託契約とNDA・ライセンス契約今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- デジタル関連法規（AI基本法・電子帳簿保存法）と標準化今の制度の過去問（6回分）では、電子署名法の電子署名の効力を問う問題が1問出ています。
- 個人情報保護法（個人情報・個人データ・要配慮個人情報）今の制度の過去問（6回分）では、個人情報保護法が保護の対象とする個人情報の範囲を問う問題が1問出ています。
- マイナンバー法・GDPR・JIS Q 15001今の制度の過去問（6回分）では、特定個人情報ファイルの作成の制限を問う問題が1問出ています。
- プライバシー保護の手法（オプトイン・匿名化・PIA）今の制度の過去問には出ていませんが、新しいシラバス案（Ver.0.1）にある項目です。問われるとしたらの形でまとめています。
- 刑法（ウイルス作成罪など）と不正アクセス禁止法今の制度の過去問（6回分）では、刑法の電子計算機損壊等業務妨害に当たる行為と、マルウェアによる被害を処罰する法律を選ぶ問題が、あわせて2問出ています。
- サイバーセキュリティ基本法・特定電子メール法・能動的サイバー防御今の制度の過去問（6回分）では、特定電子メール法が2問、サイバーセキュリティ基本法に基づく組織が1問出ています。