分野 B|ビジネス

AIエージェントの活用(自律性・ガードレール)

今の制度の過去問(3回分)には出ていませんが、新しいシラバス案(Ver.0.1)にある項目です。問われるとしたらの形でまとめています。

シラバス案 Ver.0.1(2026年8月31日公表)の『2-10-4 AIエージェントの活用領域及び活用目的』

最終更新

よく出る形

  • 問われるとしたら:事例で、AI エージェントにどこまで任せ、どこで人が確認するかを選ぶ形
  • 問われるとしたら:ガードレールの説明を選ぶ形
  • 問われるとしたら:AI エージェントの留意事項の a〜c の組合せの形
  • 問われるとしたら:AI エージェントの特徴の記述を選ぶ形

覚えること

  • AI エージェント:特定の目標を達成するために、環境を感知し自律的に行動する AI システム
  • AI エージェントの便益:複数のシステムと連携し、調整、分析、意思決定などの業務を効率化する
  • 意図しない動作:自律的に動くため、人が意図しない商品の注文やファイルの削除をする可能性がある
  • 人の関与:重大な影響や被害が生じ得る場合は、人の判断を介在させる仕組みで判断する
  • 人の判断の対象:判断が必要な事項を重要度に応じて選ぶ。例:支払いの前に人が承認する
  • ガードレール:AI のリスクを抑える仕組み。フィルタリングなどで有害な出力を検知し、制限する
  • ガードレールの観点:安全性への配慮、倫理的配慮、法令順守
  • ガードレールの例:決めた話題以外に触れない、不適切な言葉を出さない、虚偽の回答を避ける
  • 連携先の制限:連携できるツールやシステムを、許可した物に限る(ホワイトリスト方式)
  • データ最小化:扱うデータを必要最小限にして、意図しない外部送信の被害を抑える
  • ログの管理:操作履歴や入出力の記録を管理し、適正な範囲で使われているかを定期的に確認する
  • 参考:今のシラバス(Ver.6.5)の用語例に、AI エージェントはない
  • 参考:新しいシラバス案(Ver.0.1)で、2-10-4 AI エージェント利活用が加わる

ひっかけ

  • 自律的に動くことは、人が関与しないことではない。重大な場面は人が判断する
  • ガードレールの設定と、人の判断の介在は、別々の対策として挙げられている

想定問題

4問(四肢択一)。選ぶと、その場で正解と解説が開きます。

想定問題 1四肢択一

A 社の対応として、最も適切なものはどれか。

A 社は、出張の手配に AI エージェントを使うことにした。AI エージェントは、日程と予算に合う便とホテルの候補を探し、予約まで自律的に進められる。ただし、予約の確定には支払いが伴い、あとから取り消しにくい。A 社は、AI エージェントにどこまで任せるかを決めたいと考えている。

正解:ウ 候補を選ぶところまでを AI エージェントに任せ、予約を確定する前に、担当者が内容を確認して承認する。

ポイント

AI エージェントに任せる範囲と、人が確かめる場面を決める事例の問題です。

考え方と解き方

自律的に動くとは、人が関与しないことではありません。取り消しにくい操作まで任せきると、意図しない結果がそのまま確定します。

  1. AI エージェントは自律的に動くため、人が意図しない注文などをする可能性があります。重大な影響や被害が生じ得る場合は、人の判断を介在させる仕組みで判断します。
  2. この事例では、候補選びは任せて効率化し、取り消しにくい支払いを伴う確定の前に、人が確認して承認します。
  3. したがって、最も適切なのは ウ です。

ほかの選択肢

  • ア 確定まで任せ、人の確認が事後になるので、意図しない予約が確定してから気づくことになります。
  • イ 全ての操作を人が行うと、複数のシステムと連携しながら自律的に作業を進めるという、AI エージェントの便益を生かせません。
  • エ 人が承認しても、確認する項目を決めないと、内容を確かめないまま通すことになり、人の判断を介在させたことになりません。

覚えておくこと

  • 意図しない動作:自律的に動くため、人が意図しない商品の注文やファイルの削除をする可能性がある
  • 人の関与:重大な影響や被害が生じ得る場合は、人の判断を介在させる仕組みで判断する
  • 人の判断の対象:判断が必要な事項を重要度に応じて選ぶ。例:支払いの前に人が承認する

(テーマ・覚えること)

想定問題 2四肢択一

AI エージェントに設定するガードレールの説明として、最も適切なものはどれか。

正解:ア 有害な出力や、想定の範囲を外れた動作を検知して制限する仕組みを、あらかじめ設ける取組。

ポイント

ガードレールが何を指すかを、説明から選ぶ問題です。

考え方と解き方

AI のリスクを減らす取組なら何でもガードレールだと考えると、事後の点検や利用者の研修を選んでしまいます。

  1. ガードレールは、AI のリスクを抑える仕組みで、フィルタリングなどによって有害な出力を検知し、制限します。
  2. 有害な出力や想定の範囲を外れた動作を検知して制限する仕組みを、あらかじめ設ける取組が、これに当たります。
  3. したがって、最も適切なのは ア です。

ほかの選択肢

  • イ 事後に人が読み直して修正するのは、人の判断を介在させる点検にあたる作業で、あらかじめ出力を制限するガードレールではありません。
  • ウ データを増やすのは精度を上げる取組です。AI エージェントのリスクを抑えるには、扱うデータを必要最小限にするデータ最小化が重要で、ガードレールとは別です。
  • エ 利用者への研修は、適正な利用のための教育で、AI の出力や動作を制限する仕組みではありません。

覚えておくこと

  • ガードレール:AI のリスクを抑える仕組み。フィルタリングなどで有害な出力を検知し、制限する
  • ガードレールの観点:安全性への配慮、倫理的配慮、法令順守

(テーマ・覚えること)

想定問題 3四肢択一

適切なものだけを全て挙げたものはどれか。

A 社は、業務の一部に AI エージェントを導入することにした。担当者が整理した留意事項は、a〜c のとおりである。
  • a AI エージェントは自律的に動くため、人が意図しない商品の注文やファイルの削除をする可能性がある。
  • b AI エージェントが連携できるツールやシステムは、許可した物に限るなど、あらかじめ範囲を決めておく。
  • c ガードレールを設定すれば、AI エージェントの誤りは起きなくなるので、人の判断の介在は要らなくなる。

正解:ア a、b

ポイント

AI エージェントの意図しない動作、連携先の制限、ガードレールと人の判断の関係を、a〜c で判定する問題です。

考え方と解き方

ガードレールは誤りが起きる可能性を抑える仕組みで、誤りをなくすものではありません。人の判断の介在は、ガードレールとは別の対策です。

  1. a は適切です。自律的に動く AI エージェントは、人が意図しない商品の注文やファイルの削除をする可能性があります。
  2. b は適切です。連携できるツールやシステムを、許可した物に限る(ホワイトリスト方式)など、範囲を決めておくことが、対策の一つです。
  3. c は不適切です。ガードレールを設定しても誤りが起きなくなるわけではなく、人の判断を介在させる仕組みも別に必要です。
  4. したがって、適切なのは a、b で、ア です。

ほかの選択肢

  • イ c も適切としていますが、ガードレールで誤りがなくなるわけではないので、c は不適切です。
  • ウ a が適切なのに入っておらず、不適切な c が入っています。
  • エ a、b が適切なのに入っておらず、不適切な c だけになっています。

覚えておくこと

  • 意図しない動作:自律的に動くため、人が意図しない商品の注文やファイルの削除をする可能性がある
  • 連携先の制限:連携できるツールやシステムを、許可した物に限る(ホワイトリスト方式)
  • ガードレール:AI のリスクを抑える仕組み。フィルタリングなどで有害な出力を検知し、制限する

(テーマ・覚えること)

想定問題 4四肢択一

AI エージェントに関する記述として、最も適切なものはどれか。

正解:エ 目標を達成するために、状況に応じて判断しながら、複数のシステムと連携して自律的に進める。

ポイント

AI エージェントの特徴を、ほかの仕組みとの違いから選ぶ問題です。

考え方と解き方

自動で動く点だけを見ると、手順を繰り返す仕組みや、操作を記録して再生する仕組みも当てはまるように見えます。判断を加えながら進める点が、AI エージェントの目印です。

  1. AI エージェントは、特定の目標を達成するために、環境を感知し自律的に行動する AI システムで、複数のシステムと連携しながら、調整や分析、意思決定などの業務を進められます。
  2. したがって、最も適切なのは エ です。

ほかの選択肢

  • ア 指示ごとに文章を返すだけで、外部のシステムを操作しないのは、生成 AI に質問して回答を得る使い方で、自律的に行動する AI エージェントとは言えません。
  • イ 決めた手順を判断なしに繰り返すのは、自動化ツールの動きで、状況に応じて判断する AI エージェントとは言えません。
  • ウ 操作を記録して再生するのは、同じ操作の繰り返しで、状況に応じた判断を伴いません。

覚えておくこと

  • AI エージェント:特定の目標を達成するために、環境を感知し自律的に行動する AI システム
  • AI エージェントの便益:複数のシステムと連携し、調整、分析、意思決定などの業務を効率化する

(テーマ・覚えること)

1問ずつの画面で解く(4問)

前のテーマ次のテーマ:企業の仕組み(株式会社・CSR・IPO・人的資本経営)

同じ分野のテーマ(ビジネス)