Instagram、不快な内容のキャプションにAIが再考を促す新機能

Instagramは、写真や動画を投稿する際に付けるキャプションが不快とみなされる可能性がある場合、投稿者にそれを通知し内容の再考を求める機能の展開を開始しました。これはいじめ対策の一環で、7月には同様の機能をコメント投稿で追加していました。


写真投稿時のキャプションか、それに紐づくコメントかの違いはありますが、どちらも本質的には同じ機能です。投稿を行う前にAIが不快な内容を含んでいることを検出し、投稿者にその旨を通知します。

勢いに任せた投稿を抑止し、冷静に考え直すことを促すものですが、そのまま投稿することも可能となっており、完全にネット上でのいじめや攻撃的な内容を排除できるものではありません。それでも、具体的な数値は示されていないものの、コメント投稿での同機能は、いじめ対策に一定の効果が認められたようです。

なお、こういった攻撃的な内容は、Instagramのポリシーに違反しており、アカウント停止の可能性もあるとしています。

この機能は、まずは一部の国で展開され、今後数か月でグローバルに拡大するとのことです。