「Yahoo!ニュース」コメント欄の不適切コメントがAIによる注意メッセージで13.5％削減

ヤフーは、ニュース配信サービス「Yahoo!ニュース」にコメントつける「Yahoo!ニュースコメント」で、AI(人工知能)を活用して投稿時に注意メッセージを2020年7月から掲出したところ、不適切なコメントを繰り返し投稿するアカウントが掲出直後の8月と比べて4カ月後の同年12月に13.5％減少した、と2月16日に発表した。

ヤフーは健全な言論空間をコメント欄に創出するため、「深層学習を用いた自然言語処理モデル(AI)」が「不適切である可能性が高い」と判定したコメントを過去数日以内に複数回投稿しているユーザーに注意メッセージを掲出してきた。この注意メッセージの掲出で不適切な投稿を繰り返すアカウントの減少に一定の効果が出たとしている。

投稿時の注意メッセージは、過去の投稿内容や、これから投稿するコメントに乱暴な言葉づかいや他人を傷つける表現がないかをユーザー自身に考えるきっかけを提供するのが目的。開始直後の8月と4カ月後の12月を比較すると、注意メッセージが掲出されたアカウント数は13.5％減少したが、コメントを投稿したユーザー数は増加している。