AIが投稿完了前に表現の見直しを提案

「コメント添削モデル」は昨年9月に導入。同社のコメントポリシーに違反するコメントや、違反しないものの閲覧者が不快と感じる表現に対し、AIが投稿完了前に見直しを提案する。

導入効果を検証するにあたり、ポリシー違反のコメントや閲覧者が不快と感じる表現を定量的に測るため、不適切投稿判定モデルで不快度を点数化し、一定の点数以上のものを不快なコメントと定義した。

検証期間中の不快なコメントの数（平均）を比べた結果、「コメント添削モデル」の導入後は、導入前と比べて24％減少していた。

全体の投稿数の傾向は変わらず

次に、「コメント添削モデル」の発動により、ユーザーが投稿前に表現を見直したかどうかを検証。その結果、修正されたコメントの半数が、不快度の低いコメントに書き直して投稿されたことがわかった。また、全体のコメント投稿数の傾向に変化はなかった。

同社では、「コメント添削モデル」の発動によってユーザーが自発的にコメントを見直し、「ヤフコメ」の健全化につながったと考察している。