AIが消費者の代理人に

日本情報経済社会推進協会常務理事の坂下哲也委員は、消費者保護の観点に立った論点を述べた。従来の属性ベースのインターネット広告と違って、AIは心理状態ベースとなり、「行動を予測されるリスクを考えなければならないのではないか」と提言した。

また、将来的にAIエージェントが消費者の代理人となる可能性があることから、AIによる推薦順位などが購買行動に深く関与するようになると予想。ユーザーの心理状態をAIが学習し、最も契約しやすいタイミングで推奨するようになれば、“行動操作”になり得るとの見解を示した。

龍谷大学先端理工学部教授の野村竜也委員は、対話型AIへの依存に関する研究の一端を紹介した。対話型AIのユーザーは、AIを利用する行為自体への依存と、ユーザー自身にとって都合のよい他人への依存という2つのリスクを抱えていると指摘。依存してしまう背景に、“自己語り”の欲望、対話型ゲーム、対人不安が関係している可能性を挙げた。

AIエージェントを騙す“ダークパターン”に懸念

出席したほかの委員からは、「依存によってAIの利用時間が増大し、事業者の利益に結び付く」「信頼できるAIについて啓蒙する必要がある」といった意見が寄せられた。「AIエージェントが騙されやすいダークパターンが進む可能性もあるのではないか」などの声も聞かれた。

（木村 祐作）