ヤフーは、ネットニュース配信サービスの「Yahoo!ニュース」のコメント欄に不適切なコメントを繰り返すアカウントが13.5%減ったと発表しました。

Yahoo!ニュースでは、専門チームによる人的なパトロールに加えて、自社開発した「深層学習を用いた自然言語処理モデル(AI)」を利用して、誹謗中傷をはじめとした不適切な投稿を1日平均約2万件削除するなど、さまざまな対策を行っています。

これらの対策のほかにも、2020年7月には、パトロールに活用しているAI判定モデルを用いて、“不適切である可能性が高い”と判定されたコメントを過去数日以内に複数回投稿しているユーザーに対し、注意メッセージを掲出する取り組みを開始しました。

Yahoo Artificial Intelligence
▲不適切な投稿を繰り返しているユーザーに掲出される、投稿時の注意メッセージ

同社によると、そうした取り組みの結果、2020年12月には、コメントを投稿したユーザー数が増加した一方で、注意メッセージが掲出されたアカウント数が13.5%減ったそうです。

同社は『今後もYahoo!ニュースのコメント欄に投稿される内容によって、ユーザーがニュースに対する興味や多角的な視点を持つきっかけを提供したい』としたうえで『健全な言論空間を構築するために努める』としています。

Yahoo Artificial Intelligence
▲左のグラフは注意メッセージが掲出されたアカウント数(2020年8月と12月の比較)
右のグラフはコメント欄における投稿ユーザー総数の日次平均

Source : ヤフー