メンタルヘルスの悪化で訴訟も

AIをめぐる消費者問題について工藤氏は、例えばホテル業界で宿泊料が日によって変わる価格変動制を採用しているが、AIエージェント群が検索・予約を短時間で大量に行い、ホテル側のAIシステムとリンクさせた場合、価格の乱高下が起こると予想。宿泊予約やネット通販を利用する消費者で、問題が発生する可能性を挙げた。

また、AI検索が普及すると、消費者が情報元のサイトを閲覧しない「ゼロクリック検索」が増え、事業者と消費者の接点が減少することにも言及。広告システムへの影響は、新たな消費者問題につながるとの見方を示した。

米国でChatGPTとメンタルヘルスの悪化をめぐって訴訟が行われていることを挙げ、SNSは共有性があるが、対話型AIは本人のみが閲覧するという密室性があると指摘。入力すれば必ず反応があると行動嗜癖をもたらしやすく、長期間の肯定は被害妄想を助長するリスクがあると述べた。

理解できないまま影響されるリスクの低減

今後の対応の方向性として、「AI透明性」を紹介。AIシステムに関する情報を適切な範囲で可視化することで、説明責任やリスク管理を実現するとともに、消費者にとってはAIの判断根拠や機能的な限界を理解できないまま影響を受けるリスクを低減できると説明した。

工藤氏はAI透明性の施策について、「限定的開示と一般公開の区別が有益ではないか」との見解を示した。誰でもアクセスできるという印象があるが、近年では、特定の範囲に限定してアクセスを可能にする開示も主要施策になりつつあるという。

出席した委員からは、「日本は海外と比べて対応が遅れているように感じる」「生成AIの回答を信じた消費者からの相談が増えている」などの声が聞かれた。

（木村 祐作）