AI生成画像が著名人に酷似

AIの活用が拡大するなか、損害が発生した場合の責任の所在が不明瞭で、AIの社会実装を躊躇させる要因となっている。事業者の予見可能性の向上を目的に、「AI利活用における民事責任の解釈適用に関する手引き」は、想定される事例について民事責任の考え方を整理した。

事例に、画像生成AI、AIエージェント、配送ルート最適化AI、自動走行ロボット、弁護士業務支援などを挙げた。

画像生成AIについては次のような事例を想定した。アパレル事業者は、生成した画像を自社の広告に利用。AIサービス開発者は、開発時に元データが生成画像にそのまま反映されることを防止する措置を取っていた。アパレル事業者は、生成画像が某タレントに酷似していたが、気付かずに利用したというケースだ。

この場合、アパレル事業者が画像を広告に利用する行為は、顧客吸引が目的となり、調査・確認によって回避が可能なことから、過失が認められる可能性が高いとの見解を示した。

AIエージェント活用で間違った回答

AIエージェントでは、オンライン講座販売業者がカスタマーサポート向けAIエージェントを導入した事例を挙げた。顧客からの「講座が公的補助の対象になるか」という質問に対し、AIエージェントは「補助の対象になる」という誤った回答を行った。顧客が受講を申し込んだ後に、補助の対象とならないことがわかったという。

支援型AIの場合、オンライン講座販売業者の責任については、AIの出力の適切性を検討することや、出力内容を検証する人員体制の整備が論点になるとしている。