分野 T|ビジネス・技術

AIエージェントの活用(自律性・人の関与・ガードレール)

今の制度の過去問には出ていませんが、新しいシラバス案(Ver.0.1)にある項目です。問われるとしたらの形でまとめています。

シラバス案 Ver.0.1(2026年9月30日公表)の『4 AIエージェント利活用/AIエージェントの活用領域及び活用目的』

最終更新

問われ方

  • 問われるとしたら:AIエージェントに任せる範囲と、人が関与する場面を選ぶ形
  • 問われるとしたら:最終承認が要る操作を、影響の大きさから選ぶ形
  • 問われるとしたら:ガードレールとして適切な制限を、安全、倫理、法令の面から選ぶ形

覚えること

  • AIエージェント:特定の目標を達成するために、環境を感知し自律的に行動するAIシステム
  • 自律性が高いほど、人の介入なしに外部の操作ができ、リスクの影響範囲が広がりやすい
  • 任せる範囲は、業務の目的と、失敗したときの影響の大きさで決める
  • 最終承認:決済、外部への送信、設定の変更など、影響の大きい操作の前に人が承認する
  • 最終承認は、指示文に書くだけでなく、システムの制御として組み込む
  • 例外処理:判断できない場面や問題発生時は、人の判断やルールベースの運用に切り替える
  • 誤った出力は次の処理に連鎖するので、途中に確認の点を設ける
  • 実行できる権限は、業務に必要な最小限にする。権限が広いと被害も広がる
  • ガードレール:AIのリスクを抑える制限の仕組み。観点は安全性、倫理、法令順守
  • 安全性への配慮:許可した操作だけを実行させ、利用額や回数に上限を設ける
  • 倫理的配慮:差別的な表現や権利侵害など、不適切な出力を遮断する
  • 各ステップの判断と実行内容をログに残し、後から確かめられるようにする

ひっかけ

  • ガードレールを設ければ人の確認は要らない、ではない。両方を重ねる
  • 人の関与は、操作の影響の大きさに応じて決める。全てに承認を置くのではない

想定問題

4問(科目A(四択))。選ぶと、その場で正解と解説が開きます。

想定問題 1科目A(四択)

B さんが定める AI エージェントの運用として、最も適切なものはどれか。

A 社の経理部の B さんは、請求書の内容を読み取り、取引先への支払い手続きまで進める AI エージェントの導入を検討している。請求書は月に数百件あり、読取りと支払い案の作成は人手の負担になっている。支払いは、実行すると取り消すのに手間がかかる。

正解:ア 読取りと支払い案の作成は任せ、支払いは、人が承認しないと実行できない仕組みにする。

ポイント

AI エージェントに任せる範囲と、人の最終承認を置く操作を選ぶ問題です。

考え方と解き方

任せる範囲は、負担の大きさと、失敗したときの影響で決めます。取り消しにくい操作の前には、人の最終承認を、仕組みとして置きます。この立場なら、自動化したい作業と、影響の大きい操作を分けて考えます。

  1. 読取りと支払い案の作成は、負担が大きく、やり直しもしやすいので、任せられます。支払いの実行は、取り消しにくい影響の大きい操作なので、実行の前に人の最終承認を置きます。
  2. 承認は仕組みとして必須にします。したがって、最も適切なのは ア です。

ほかの選択肢

  • イ 取り消しにくい支払いを、実行したあとで確認する運用です。最終承認の前に実行されるので、適切ではありません。
  • ウ 指示文に書くだけでは、承認が守られる保証がありません。システムの制御として組み込む必要があるので、適切ではありません。
  • エ 影響の小さい手順にも承認を置くと、確認が形だけになりやすく、自動化の効果も失われます。承認は影響の大きい操作に絞るので、適切ではありません。

覚えておくこと

  • 最終承認:決済、外部への送信、設定の変更など、影響の大きい操作の前に人が承認する
  • 最終承認は、指示文に書くだけでなく、システムの制御として組み込む
  • 任せる範囲は、業務の目的と、失敗したときの影響の大きさで決める

(テーマ・覚えること)

想定問題 2科目A(四択)

D さんが設けるガードレールとして、最も適切なものはどれか。

C 社の情報システム部の D さんは、顧客対応の AI エージェントに、顧客データベースの参照と、メールの送信を許可している。問合せの内容によっては、AI エージェントが想定外の操作をするおそれがあると考えている。

正解:ウ 参照と送信は必要な範囲に限り、送信先や操作の種類に制限を設け、操作のログを残す。

ポイント

AI エージェントに設ける制限(ガードレール)を、権限とログから選ぶ問題です。

考え方と解き方

ガードレールは、動作が安全、倫理、法令の範囲を外れないようにする制限です。指示文だけに頼らず、権限、操作、回数を仕組みで制限し、後から確かめられるようにします。この立場なら、被害を広げない制限を先に考えます。

  1. 想定外の操作が起きても被害が広がらないよう、参照と送信の権限は業務に必要な範囲に限ります。送信先や操作の種類にも制限を設けます。
  2. 各操作のログを残せば、後から確かめられます。したがって、最も適切なのは ウ です。

ほかの選択肢

  • ア 全ての権限を与えると、想定外の操作の被害が広がります。事後に対処するだけの運用は、適切ではありません。
  • イ 指示文だけでは、想定外の操作を防ぐ保証がありません。ほかの制限と重ねる必要があるので、適切ではありません。
  • エ 回数に上限がないと、処理の暴走で想定外の負荷や費用が生じます。上限を設けるべきなので、適切ではありません。

覚えておくこと

  • 実行できる権限は、業務に必要な最小限にする。権限が広いと被害も広がる
  • 安全性への配慮:許可した操作だけを実行させ、利用額や回数に上限を設ける
  • 各ステップの判断と実行内容をログに残し、後から確かめられるようにする

(テーマ・覚えること)

想定問題 3科目A(四択)

AI エージェントの活用に関する記述 a〜c のうち、適切なものだけを全て挙げたものはどれか。

A 社の情報システム部の E さんは、AI エージェントの利用ルールの案に、次の a〜c を書いた。
  • a 自律性が高い AI エージェントほど、出力の確認を人が行う場面を減らせるので、ログの保存期間は短くてよい。
  • b 判断できない場面や問題が起きたときは、例外処理として人の判断やルールベースの運用に切り替える。
  • c 各ステップの判断と実行内容をログに残し、問題が起きたときに後から確かめられるようにする。

正解:エ b、c

ポイント

自律性と人の関与、ログの扱いの適切さを問う問題です。

考え方と解き方

自律性が高いほど、人の介入なしにできることが増えるので、影響範囲は広がりやすくなります。そのぶん、人の判断への切り替えとログが大切になります。

  1. a は不適切です。自律性が高いほど影響範囲は広がりやすく、ログは後から確かめるために必要です。b は適切です。判断できない場面や問題発生時は、人の判断やルールベースの運用に切り替えます。c は適切です。各ステップの判断と実行内容を残せば、後から確かめられます。
  2. したがって、適切なのは b、c の全てで、エ です。

ほかの選択肢

  • ア a は不適切なので、a、b では組合せが合いません。また、c も適切です。
  • イ a は不適切なので、a、b、c の全てとはなりません。
  • ウ a は不適切なので、a、c では組合せが合いません。また、b も適切です。

覚えておくこと

  • 自律性が高いほど、人の介入なしに外部の操作ができ、リスクの影響範囲が広がりやすい
  • 例外処理:判断できない場面や問題発生時は、人の判断やルールベースの運用に切り替える
  • 各ステップの判断と実行内容をログに残し、後から確かめられるようにする

(テーマ・覚えること)

想定問題 4科目A(四択)

AI エージェントの説明として、最も適切なものはどれか。

正解:イ 特定の目標を達成するために、環境を感知し、自律的に行動するAIシステム。

ポイント

AI エージェントの定義を選ぶ問題です。

考え方と解き方

AI エージェントは、目標に向けて自分で環境を感知し、行動する点が特徴です。質問に答えるだけの使い方との違いは、自律的に行動するかどうかです。

  1. AI エージェントは、特定の目標を達成するために、環境を感知し、自律的に行動する AI システムです。
  2. したがって、最も適切なのは イ です。

ほかの選択肢

  • ア 学習済みの知識で文章を返すだけで、外部の操作をしない使い方です。自律的に行動する AI エージェントの説明ではありません。
  • ウ 人が一つずつ指示しないと動作しない仕組みで、自律性がありません。AI エージェントの説明ではありません。
  • エ アカウントの共有に関する運用の決まりで、AI の仕組みの説明ではありません。

覚えておくこと

  • AIエージェント:特定の目標を達成するために、環境を感知し自律的に行動するAIシステム

(テーマ・覚えること)

1問ずつの画面で解く(4問)

前のテーマ次のテーマ:経営管理・役職・BCP(PDCA・CISO・BIA)

同じ分野のテーマ(ビジネス・技術)