「Yahoo!ニュースコメント」に導入のAI「コメント添削モデル」で「不快なコメント」が24％減少

LINEヤフーは、ニュース配信「Yahoo!ニュース」の意見投稿欄「Yahoo!ニュースコメント(ヤフコメ)」に導入した投稿内容の表現の見直しを提案するAI(人工知能)「コメント添削モデル」の効果を2月13日発表した。「不快と感じる可能性のあるコメント(不快なコメント)」が約24％減り、同モデルの発動で修正されたコメントの約50％は不快度が改善されていた。

コメント添削モデルは、コメント投稿を完了する前にAIが見直しを提案する仕組み。「Yahoo!ニュースコメントポリシー」には違反しないものの、閲覧者にとって不快なコメントが投稿されるケースがあることから、2024年9月に導入した。今回、不快度を点数化する「不適切投稿判定モデル」を基に、一定の点数以上を不快なコメントと定義して効果を検証した。

コメント添削モデル導入前の2024年8月12日～9月8日と、導入後の9月9日～10月6日の各4週間で不快なコメント数の平均を比較したところ、一定の不快度を超える投稿が約24％減少した。同モデルが発動したことでユーザーが投稿前に表現の見直しをしたか、の検証結果では、修正されたコメントのうち約50％は不快度が低いコメントに書き直して投稿されていた。