調達時の要求事項など検討へ

同ガイドラインは、政府機関が生成AIを調達・利用する際のリスクを抑制するためのルールを示している。昨年5月に運用を開始し、今年9月1日から第2版を適用している。

AIエージェントに関するルールについては、有識者会議での検討を経て、同ガイドラインに盛り込む予定。今後、利用時の一般ルールとリスク管理のあり方、調達時の要求事項などを検討する。

デジタル庁はAIエージェントについて、「ツールを間違って使ってしまうとか、エージェント間の連携で不具合が生じるとか、ユーザーが予期しない動作が行われるなど、これまでの生成AIと違うリスクがある」（省庁業務サービスグループ）と説明している。

AIエージェント固有のリスクをカバー

9月29日に開かれた前回の有識者会議では、AIエージェントの検討課題として、付与する権限を最小化することや、送金処理といったタスクの実行に職員の判断を挟み込むことを挙げた。また、複数のAIエージェント間でやり取りする情報・指示の連鎖的な誤作動を防ぐために動作ログを確認することなど、多岐にわたる対策を検討する。

「AIエージェントに固有のリスクをカバーした上で、AIエージェントを活用していくことが重要」（同）としている。

（木村 祐作）