Sponsored Contents

aiの最新記事

Image credit:
Save

SNSでの有毒コメント量をAI調節するChrome拡張「Tune」リリース。完全非表示のZENモードあり

有害コメントを機械学習します

Kiyoshi Tane
2019年3月13日, 午後05:20 in Ai
242シェア
17
135
0
90

連載

注目記事

スマホ+リコー「GR III」の併用がもたらす納得感。特別な時以外にも持ち歩きたくなるデジカメの価値(本田雅一)
16

スマホ+リコー「GR III」の併用がもたらす納得感。特別な時以外にも持ち歩きたくなるデジカメの価値(本田雅一)

View
Jigsaw

Alphabet傘下のJigsawは、同社の機械学習ソフトウェア「Perspective」が有害だと判定したSNSなどのコメントを自動的に隠す、WebブラウザChrome向けの機能拡張「Tune」をリリースしました。

本拡張の基盤となるPerspectiveは、すでにGoogleがYouTubeに実装してチャンネル所有者に有害と識別されたコメントを自動ブロックするオプションを提供中です。また、The New York TimesやWikipedia向けにも試験提供されて記事のコメント管理に使われています。

これまでは「読まれる」側のプラットフォーム管理者向けに提供されてきた機械学習の成果が、「読む」側の一般ユーザーに開放されたかたちと言えます。

TuneはYouTubeやTwitter、Facebook、Reddit、Disqusのコメントのみに対応。その名の通り、ユーザーが見ても構わないコメントの毒性レベル(攻撃や侮辱、冒涜など)="音量"(Tune)を調整できます。フィルタを無効にして全てのコメントを見ることも可能で、逆に完全にコメントを非表示にする「Zen(禅)モード」も用意されています。

JigsawのプロダクトマネージャーCJ Adams氏は、Tuneを駆動している機械学習は実験段階に過ぎず、一部の有害コメントを見のがし、逆に無害なコメントを間違って隠すこともあると認めています。その上で、基盤となるテクノロジーの向上に絶えず取り組んでおり、ユーザーからのフィードバックを受けてアルゴリズムの向上に役立てるとの意向も述べられています。

ごく一部のものであれ、悪意に満ちた類や言葉遣いのひどいコメントを見れば、関わりを避けてしまいがちです。実際、アメリカのシンクタンク・ピュー研究の調査によれば、27%ものアメリカ人が嫌がらせ発言を見た後に、オンラインで投稿しないことを選んだというデータを明らかにしています。

Tuneは完全にオープンソースとされ、Githubページで詳細が公開され、直接に貢献することも可能となっています。英語プラットフォームで鍛えられた機械学習ゆえに日本語の毒には未対応と推測されますが、オンラインで心ない言葉から自衛するためにも協力して育てていきたいかもしれません。





CAREERS TechCrunch Japan
連載:KAKEHASHI取締役CTO海老原氏に聞くスタートアップへの転職


 


広告掲載についてのお問い合わせはad-sales@oath.com までお知らせください。各種データなどはこちらのメディアガイドをあわせてご覧ください。

242シェア
17
135
0
90

Sponsored Contents