ヤフーがコメントの誹謗中傷対策を強化、深層学習によるAI削除を他社サイトに提供へ

ヤフーは、ポータルサイト「Yahoo! JAPAN」の「Yahoo!ニュース」のコメントに導入したAI(人工知能)による個人への誹謗(ひぼう)中傷投稿削除を強化し、他の投稿系サービスにも提供する、と6月1日に発表した。フジテレビの人気番組「テラスハウス」に出演していた女子プロレス選手の木村花さんが急死したことを受けた対策強化の取り組み。

Yahoo!ニュースのコメントでヤフーは、誹謗中傷投稿を禁止し、ユーザーへの周知・啓発による事前抑止と専門チームによるパトロール、さらに深層学習を用いた自然言語処理モデルによる検知で対応してきた。記事との関連性の低いコメントや誹謗中傷などの不適切な書き込みを、1日平均約2万件削除してきた。

ヤフーは今後、AI検知による不適な投稿削除を強化。さらに他の投稿系サービスの事業者にも技術提供する方針。問題対処には法的にも実務的にも課題があることから、法律家ほか幅広い分野の有識者による検討会を6月中に設置する。デジタル時代に即した共通規範に基づく解決策を模索し、検討結果を公表する。