不適切な箇所をハイライトで示す

「コメント添削モデル」の導入は、コメント投稿前に表現を見直す機会をユーザーに提供すべきという有識者の提言などを踏まえたもの。投稿完了前に記事の関係者やほかのユーザーが不快と感じる恐れの少ない表現に改善することを促し、コメント欄の健全化を目指す。

具体的には、コメント投稿フォームにコメントを入力し、「投稿する」ボタンを押す際に、「コメント添削モデル」がポリシーに違反、不快と感じる可能性があると判断すると、その箇所をハイライトで示し、表現の見直しを提案するポップアップが表示される。これにより、ユーザーは投稿完了前に表現を見直すことが可能となる。

AI活用で違反コメント削除も

「Yahoo!ニュース」では、ユーザーの表現の自由を尊重するとともに、誹謗中傷などを含む投稿を禁止し、ポリシーに違反する投稿の具体例を明示。24時間体制の専門チームによる人的なパトロールに加えて、AIを活用しながら、誹謗中傷をはじめとする違反コメントの削除に努めている。

また、建設的なコメントとしてスコアが高いものをAIが判定して上位に表示する「建設的コメント順位付けモデル」や、多様な切り口のコメントを上位に表示する「コメント多様化モデル」なども導入している。