残存リスクの分担が重要課題に

妹尾氏は、生成AIと消費者が関わる重要な問題として、残存リスクを取るための生成AI提供者と消費者の分担を挙げた。

生成AIについては100％の品質管理は現実的でないとし、「どうしてもあるところ以上は残存リスクが生じる。サービス提供者がそのリスクを（すべて）取るのは難しいため、提供者と消費者が分担するという問題がある」と話した。

現在のところ、多くの企業では生成AIを社内業務のサポートとして使用しているが、外部へサービスとして提供する際に、「ここまでやれば大丈夫という社会コンセンサスが必要となる」と指摘。自動車も残存リスク（事故）をゼロにすることは難しいが、利便性が上回るために社会に受け入れられているという状況を踏まえ、生成AIについてもそうした社会コンセンサスの形成が必要との見解を示した。

また妹尾氏は、生成AIの機能と社会システムの不適合も重要課題に挙げた。例えば旅行業界の場合、生成AIがキャンセルポリシーを理解して、費用負担のない範囲で対象エリアのすべてのホテルを予約し、旅程の決定後に、残りのホテルをすべてキャンセルすることも可能。そうしたことを多くの人がやり始めると、業界は生成AIによる予約を想定していないために対応できず、麻痺するという懸念があり、「それに備えて考えていかなければいけない」と警鐘を鳴らした。

キャンセル料の上昇を懸念する声も

出席した委員からは、「100％コントロールできないことを踏まえると、どのような暴走があるか」などの質問が寄せられた。例に挙がった生成AIによるホテル予約に対し、「旅行業界がキャンセル料を値上げするという懸念がある」という声も聞かれた。

残存リスクのシェアについては、「AIによって不都合が行われた場合、債務不履行や不法行為などの法規制に落とし込むことが可能か」という論点も挙げられた。

（木村 祐作）